Runtime
-
説明:
capybara.runtimeはRuntimeとBackendのレジストリを提供し、推論 runtime と実行 backend(provider/device)の対応を定義します。 -
代表的な runtime
Runtime.onnx: ONNXRuntimeRuntime.openvino: OpenVINORuntime.pt: TorchScript(PyTorch)
-
よく使う操作
Runtime.<name>.available_backends(): runtime がサポートする backend を(定義順で)返します。Runtime.<name>.normalize_backend(backend):None/str/BackendをBackendに正規化します(Noneはデフォルト backend)。Runtime.<name>.auto_backend_name(): 環境に応じて backend を選択します(例:利用可能なら CUDA を優先)。
-
備考
- 複数 runtime が絡む場合、
Backend.from_any(value, runtime=...)はruntime指定が必須です。指定しないとValueErrorになります(現状の挙動)。
- 複数 runtime が絡む場合、
-
例
from capybara.runtime import Runtime
runtime = Runtime.onnx
print([b.name for b in runtime.available_backends()])
print(runtime.auto_backend_name())