في هذه المقالة
ما هو موفر التنفيذ؟
مكونات الذكاء الاصطناعي لموفر التنفيذ هي مكونات الذكاء الاصطناعي ل Windows المستخدمة على أجهزة الكمبيوتر الشخصية Copilot+ لتمكين التنفيذ المتسارع للأجهزة لنماذج التعلم الآلي. تعمل هذه المكونات كطبقة تجريد الأجهزة بين نماذج الذكاء الاصطناعي ومحركات الحوسبة الأساسية - مثل وحدات المعالجة المركزية ووحدات معالجة الرسومات ووحدات الشرطة الوطنية - مما يسمح ل Windows والتطبيقات بتشغيل أحمال عمل الذكاء الاصطناعي بكفاءة على أفضل الأجهزة المتاحة.
موفر التنفيذ (EP) هو مكون نمطي يتكامل مع ONNX Runtime لتقديم تحسينات خاصة بالأجهزة لاستدلال الذكاء الاصطناعي. يتعامل موفرو التنفيذ مع مهام مثل تقسيم الرسم البياني وتحديد النواة وتنفيذ عامل التشغيل، مع تجريد تعقيد مكتبات التسريع الخاصة بالمورد. يمكن هذا التصميم نموذج الذكاء الاصطناعي واحد من العمل عبر تكوينات الأجهزة المتنوعة دون الحاجة إلى تغييرات على مستوى التطبيق.
على Copilot+ أجهزة الكمبيوتر الشخصية، تدعم مكونات الذكاء الاصطناعي لموفر التنفيذ أنظمة أساسية متعددة للأجهزة وموردي السيليكون. تتضمن الأمثلة موفري التنفيذ المحسنين لأجهزة Intel وAMD وQualcomm وNVIDIA، كل منها يمكن نماذج الذكاء الاصطناعي من الاستفادة من المسرعات المتخصصة مثل وحدات الشرطة الوطنية أو وحدات معالجة الرسومات عند توفرها. عندما لا يتم دعم تسريع الأجهزة لحمل عمل معين، يعود التنفيذ تلقائيا إلى خلفية حساب متوافقة، ما يضمن الموثوقية وتوافق الجهاز الواسع.
مكونات الذكاء الاصطناعي لموفر التنفيذ هي جزء أساسي من النظام الأساسي للذكاء الاصطناعي ل Windows. يتم استخدامها من قبل ميزات Windows وتجارب Copilot+ وتطبيقات المطور التي تعتمد على استدلال الذكاء الاصطناعي المحلي. من خلال تحديد موفري التنفيذ وإدارتهم ديناميكيا، يمكن لنظام Windows تقديم أداء زمن انتقال منخفض، وتحسين كفاءة الطاقة، وسلوك الذكاء الاصطناعي المتسق عبر تكوينات الأجهزة المختلفة.
موفر تنفيذ MIGraphX
موفر تنفيذ MIGraphX هو موفر تنفيذ AMD (EP) يستخدم مع ONNX Runtime / التعلم الآلي من Windows (ML) لتقديم الاستدلال المتسارع بالأجهزة عن طريق إلغاء تحميل عمليات نموذج ONNX المدعومة إلى وحدات معالجة الرسومات AMD. وهو يستند إلى محرك استدلال الرسم البياني MIGraphX الخاص ب AMD، والذي يسرع استدلال نموذج التعلم الآلي ويمكن التحسينات الخاصة بالأجهزة عند تشغيل نماذج ONNX على أجهزة AMD GPU.
موفر تنفيذ NVIDIA TensorRT-RTX
موفر تنفيذ NVIDIA TensorRT-RTX هو موفر تنفيذ ONNX Runtime / Windows ML (EP) مصمم خصيصا لتسريع استنتاج نموذج ONNX على وحدات معالجة الرسومات NVIDIA RTX لسيناريوهات تركز على العميل (كمبيوتر المستخدم النهائي). فهو يستفيد من TensorRT الخاص ب NVIDIA لوقت تشغيل RTX لإنشاء وتشغيل محركات الاستدلال المحسنة من RTX على وحدة معالجة الرسومات المحلية، ما يمكن Windows والتطبيقات من الاستفادة من تسريع أجهزة RTX.
موفر تنفيذ Intel OpenVINO
موفر تنفيذ Intel OpenVINO هو موفر تنفيذ (EP) يستخدم مع ONNX Runtime / Windows ML لتمكين الاستدلال المتسارع بالأجهزة على الأنظمة الأساسية Intel. يعمل على تسريع نماذج ONNX على وحدات المعالجة المركزية Intel ووحدات معالجة الرسومات ووحدات الشرطة الوطنية، مما يسمح ل Windows والتطبيقات بالاستفادة من تحسينات أجهزة Intel لأحمال عمل التعلم الآلي.
موفر تنفيذ Qualcomm QNN
موفر تنفيذ Qualcomm QNN هو موفر تنفيذ (EP) لوقت تشغيل ONNX (وسيناريوهات التعلم الآلي من Windows التي تستخدم ONNX Runtime) التي تمكن التنفيذ المتسارع للأجهزة على مجموعات شرائح Qualcomm. يستخدم Qualcomm AI Engine Direct SDK (QNN SDK) لإنشاء رسم بياني QNN من نموذج ONNX، والذي يتم تنفيذه بعد ذلك بواسطة مكتبة خلفية مسرع مدعومة.
موفر تنفيذ AMD Vitis AI
موفر تنفيذ AMD Vitis AI هو موفر تنفيذ يستخدم مع ONNX Runtime / Windows ML الذي يتيح الاستدلال على الذكاء الاصطناعي المتسارع بالأجهزة على الأنظمة الأساسية AMD. في صياغة Microsoft المنشورة، يعد Vitis AI مكدس تطوير AMD للاستدلال على الذكاء الاصطناعي المتسارع بالأجهزة، ويستهدف منصات AMD بما في ذلك Ryzen AI وAMD Adaptable SoCs وبطاقات تسريع مركز بيانات Alveo.
