- 什麼是執行提供者?
- MIGraphX 執行提供者
- NVIDIA TensorRT-RTX 執行提供者
- Intel OpenVINO 執行提供者
- Qualcomm QNN 執行提供者
- AMD Vitis AI 執行提供者
什麼是執行提供者?
執行提供者 AI 元件是 Copilot+ PC 上使用的 Windows AI 元件,可啟用機器學習模型的硬體加速執行。 這些元件可作為 AI 模型與基礎計算引擎之間的硬體抽象層,例如 CPU、GPU 和 NPU,讓 Windows 和應用程式在最佳可用硬體上有效率地執行 AI 工作負載。
執行提供者是模組化元件,可與 ONNX 執行階段整合,以提供 AI 推斷的硬體特定最佳化。 執行提供者處理圖形分割、核心選擇和運算子執行等任務,同時抽象化供應商特定加速庫的複雜性。 這種設計使單一 AI 模型能夠跨不同的硬體配置運行,而無需更改應用程式層級。
在 Copilot+ PC 上,執行提供者 AI 元件支援多個硬體平台和晶片廠商。 例如,針對 Intel、AMD、Qualcomm 和 NVIDIA 硬體最佳化的執行提供者,每個提供者都讓 AI 模型能夠利用 NPU 或 GPU 等專用加速器(如果可用)。 當給定工作負載不支援硬體加速時,執行會自動回退到相容的運算後端,從而確保可靠性和廣泛的裝置相容性。
執行提供者 AI 元件是 Windows AI 平台的基礎部分。 Windows 功能、Copilot+ 體驗,以及依賴本機 AI 推論的開發人員應用程式都會使用它們。 藉由動態選取和管理執行提供者,Windows 可以在不同的裝置設定之間提供低延遲效能、改善的電源效率,以及一致的 AI 行為。
MIGraphX 執行提供者
MIGraphX 執行提供者是 AMD 執行提供者,與 ONNX 執行階段/Windows 機器學習搭配使用,透過將支援的 ONNX 模型作業卸載至 AMD GPU 來提供硬體加速推理。 它基於 AMD 的 MIGraphX 圖推理引擎,可加速機器學習模型推理,並在 AMD GPU 硬體上運行 ONNX 模型時實現特定於硬體的優化。
NVIDIA TensorRT-RTX 執行提供者
NVIDIA TensorRT-RTX 執行提供者是一種 ONNX 執行階段/Windows 機器學習執行提供者,專為加速 NVIDIA RTX GPU 上的 ONNX 模型推斷,適用於以用戶端為中心的 (最終使用者 PC) 場景。 它利用 NVIDIA 的 TensorRT for RTX 運行時在本地 GPU 上產生和執行 RTX 優化的推理引擎,使 Windows 和應用程式能夠利用 RTX 硬體加速。
Intel OpenVINO 執行提供者
Intel OpenVINO 執行提供者是與 ONNX 執行階段/Windows 機器學習搭配使用的執行提供者,可在 Intel 平台上啟用硬體加速推論。 它加速英特爾 CPU、GPU 和 NPU 上的 ONNX 模型,使 Windows 和應用程式能夠利用機器學習工作負載的英特爾硬體最佳化。
Qualcomm QNN 執行提供者
Qualcomm QNN 執行提供者是 ONNX 執行階段 (和 Windows 機器學習案例的執行提供者,這些案例使用 ONNX 執行階段) 可在 Qualcomm 晶片組上實現硬體加速執行。 它使用 Qualcomm AI Engine Direct SDK (QNN SDK) 從 ONNX 模型建構 QNN 圖,然後由支援的加速器後端程式庫執行。
AMD Vitis AI 執行提供者
AMD Vitis AI 執行提供者是與 ONNX 執行階段/Windows 機器學習搭配使用的執行提供者,可在 AMD 平台上實現硬體加速 AI 推理。 Vitis AI 是 AMD 的硬體加速 AI 推理開發堆疊,針對 AMD 平台,包括 Ryzen AI、AMD Adaptable SoC 和 Alveo 資料中心加速卡。
變更記錄
| 變更日期 | 變更描述 |
|---|---|
| 2026 年 9 月 29 日 | 已將 Windows 11 版本 26H2 新增至「適用項目」一節。 |