18 أغسطس، 2026
ملاحظة
- تنطبق المعلومات الواردة في هذه المقالة فقط على استخدام Microsoft Copilot من قبل الأفراد الذين سجلوا الدخول باستخدام حساب Microsoft، مثل عنوان البريد الإلكتروني الشخصي.
- للحصول على معلومات حول استخدام Microsoft Copilot في المؤسسات التي سجل فيها المستخدمون الدخول باستخدام حساب العمل أو المؤسسة التعليمية، راجع بطاقة التطبيق: Microsoft Copilot (للمؤسسات).
ما المقصود بملاحظة الشفافية؟
لا يشمل نظام الذكاء الاصطناعي التكنولوجيا فحسب، بل يشمل أيضا الأشخاص الذين سيستخدمونها، والأشخاص الذين سيتأثرون بها، والبيئة التي يتم نشرها فيها. تهدف ملاحظات الشفافية من Microsoft إلى مساعدتك على فهم كيفية عمل تقنية الذكاء الاصطناعي وراء Copilot، والخيارات التي اتخذناها والتي تؤثر على أداء النظام وسلوكه، وأهمية التفكير في النظام بأكمله، حتى يتمكن مستخدمو Copilot من التحكم في تجاربهم الخاصة وفهم الخطوات التي نتخذها لتوفير منتج آمن ومضمون.
تعد ملاحظات الشفافية من Microsoft جزءا من جهد أوسع في Microsoft لوضع مبادئ الذكاء الاصطناعي الخاصة بنا موضع التنفيذ. لمعرفة المزيد، راجع مبادئ Microsoft AI.
أساسيات Microsoft Copilot
مقدمة
يساعدك Microsoft Copilot على الانتقال من الفكرة إلى العمل النهائي، كل ذلك في مكان واحد. يتم دمج Copilot في Word وExcel وPowerPoint وOutlook وTeams والمزيد، ما يجمع الملفات والمعلومات التي تستخدمها في تجربة واحدة. يمكن أن يساعدك Copilot في إنشاء مستندات وعروض تقديمية وجداول بيانات مصقولة ومسودات رسائل البريد الإلكتروني وتنظيم يومك والحصول على إجابات قائمة على العمل الذي تقوم به. باستخدام Cowork، يمكن ل Copilot أيضا المساعدة في المهام الأكبر متعددة الخطوات وتقديم المهام المكتملة. يمكنك أيضا الاختيار من بين نماذج الذكاء الاصطناعي الرائدة لأنواع مختلفة من العمل. تختلف الميزات المحددة حسب الاشتراك.
في Microsoft، نأخذ التزامنا تجاه الذكاء الاصطناعي المسؤول على محمل الجد. تم تطوير Copilot بما يتماشى مع مبادئ الذكاء الاصطناعي الخاصة بشركة Microsoft، و"Standard الذكاء الاصطناعي المسؤول من Microsoft، وبالشراكة مع خبراء الذكاء الاصطناعي المسؤولين عبر الشركة، بما في ذلك مكتب الذكاء الاصطناعي المسؤول من Microsoft، وفرقنا الهندسية، وأبحاث Microsoft، وAether. يمكنك معرفة المزيد في الذكاء الاصطناعي المسؤول في Microsoft.
في هذا المستند، نصف نهجنا تجاه الذكاء الاصطناعي المسؤول ل Copilot. قبل الإصدار، قمنا بالاستفادة من أحدث أساليب Microsoft لرسم خريطة للمخاطر المحتملة وإساءة استخدام النظام وقياسها وإدارتها وتأمين فوائده للمستخدمين. مع مواصلتنا تطوير Copilot، واصلنا أيضا تعلم جهودنا تجاه الذكاء الاصطناعي المسؤول وتحسينها. سيتم تحديث هذا المستند بشكل دوري للإبلاغ عن عملياتنا وأساليبنا المتطورة.
الشروط الأساسية
المصنفات نماذج التعلم الآلي التي تساعد على فرز البيانات إلى فئات أو فئات من المعلومات المسماة. في Copilot، تتمثل إحدى الطرق التي نستخدم بها المصنفات في المساعدة في اكتشاف المحتوى الذي يحتمل أن يكون ضارا والذي يرسله المستخدمون أو الذي تم إنشاؤه بواسطة النظام للتخفيف من إنشاء هذا المحتوى وإساءة استخدام النظام أو إساءة استخدامه.
التزويد بالمصادر بالنسبة لبعض المحادثات التي يبحث فيها المستخدمون عن معلومات، يتم تثبيت Copilot على نتائج بحث الويب. وهذا يعني أن Copilot يركز استجابته على محتوى عالي المستوى من الويب ويوفر اقتباسات مرتبطة بارتباطات تشعبية باتباع استجابات نصية تم إنشاؤها أو في نسخ محادثة في الوضع الصوتي.
نماذج اللغات الكبيرة (LLMs) نماذج اللغات الكبيرة (LLMs) في هذا السياق هي نماذج الذكاء الاصطناعي التي يتم تدريبها على كميات كبيرة من البيانات النصية للتنبؤ بالكلمات في تسلسل. يمكن لأجهزة LLMs تنفيذ مجموعة متنوعة من المهام، مثل إنشاء النص والتلخيص والترجمة والتصنيف والمزيد.
تخفيف الأثر طريقة أو مجموعة من الأساليب المصممة لتقليل المخاطر المحتملة التي قد تنشأ عن استخدام ميزات الذكاء الاصطناعي داخل Copilot.
النماذج متعددة الوسائط (MMMs) النماذج متعددة الوسائط (MMMs) هي نماذج الذكاء الاصطناعي التي يتم تدريبها على أنواع مختلفة من البيانات، مثل النص أو الصور أو الصوت. يمكن لهذه النماذج تنفيذ مجموعة متنوعة من المهام، مثل كتابة النص ووصف الصور والتعرف على الكلام والبحث عن المعلومات عبر أنواع مختلفة من البيانات.
الطلبات إدخالات في شكل نص و/أو صور و/أو صوت يرسله المستخدم إلى Copilot للتفاعل مع ميزات الذكاء الاصطناعي داخل Copilot.
الفريق الأحمر التقنيات التي يستخدمها الخبراء لتقييم قيود النظام ومواطن ضعفه واختبار فعالية عوامل التخفيف المخطط لها. يتضمن اختبار الفريق الأحمر المختبرين الذين يتبنون شخصيات حميدة وعدائية لتحديد المخاطر المحتملة وتختلف عن القياس المنهجي للمخاطر.
الإجابات النص أو الصور أو الصوت الذي يخرجه Copilot استجابة لمطالبة أو كجزء من التردد ذهابا وإيابا مع المستخدم. تتضمن مرادفات "الاستجابة" "إكمال" و"إنشاء" و"إجابة".
نماذج اللغات الصغيرة (SLMs) نماذج اللغات الصغيرة (SLMs) في هذا السياق هي نماذج الذكاء الاصطناعي التي يتم تدريبها على كميات بيانات أصغر وأكثر تركيزا مقارنة بنماذج اللغات الكبيرة. على الرغم من صغر حجمها ، يمكن لبرامج SLM أداء مجموعة متنوعة من المهام ، مثل إنشاء النص والتلخيص والترجمة والتصنيف. على الرغم من أنها قد لا تتطابق مع القدرات الواسعة ل LLMs ، إلا أن SLMs غالبا ما تكون أكثر كفاءة في استخدام الموارد ويمكن أن تكون فعالة للغاية لتطبيقات محددة ومستهدفة.
رسالة النظام رسالة النظام (يشار إليها أحيانا باسم "metaprompt") هي برنامج يعمل على توجيه سلوك النظام. تساعد أجزاء من رسالة النظام في محاذاة سلوك النظام مع مبادئ الذكاء الاصطناعي من Microsoft وتوقعات المستخدم. على سبيل المثال، قد تتضمن رسالة النظام سطرا مثل "عدم تقديم معلومات أو إنشاء محتوى يمكن أن يسبب ضررا ماديا أو نفسيا أو ماليا".
الإمكانات
سلوك النظام
باستخدام Copilot، قمنا بتطوير نهج مبتكر لتقديم تجربة ذكاء اصطناعي أكثر تخصيصا للمستخدمين لتجربة جذابة يمكن أن تساعد المستخدمين في مجموعة متنوعة من المهام. يستفيد هذا النهج المبتكر من مجموعة متنوعة من التقنيات المتقدمة، مثل نماذج اللغة والنماذج متعددة الوسائط من Microsoft و OpenAI ومطوري النماذج الآخرين. لقد عملنا على تنفيذ تقنيات الأمان للنماذج الأساسية ل Copilot قبل الإصدار العام لتطوير مجموعة مخصصة من الإمكانات والسلوكيات التي توفر تجربة Copilot محسنة. في Copilot، يمكن للمستخدمين إرسال المطالبات بلغة نصية أو صوت بلغة طبيعية. يتم تقديم الاستجابات للمستخدمين بعدة تنسيقات مختلفة، مثل استجابات الدردشة في شكل نص (مع ارتباطات تقليدية لمحتوى الويب حسب الضرورة) والصور (إذا تم تقديم طلب صورة كجزء من المطالبة). إذا أرسل المستخدمون مطالبات بالصوت باللغة الطبيعية داخل وضع صوت Copilot، فسيتلقون استجابات صوتية.
عندما يقوم مستخدم بإدخال مطالبة في Copilot، يتم إرسال المطالبة ومحفوظات المحادثات ورسالة النظام من خلال العديد من مصنفات الإدخال للمساعدة في تصفية المحتوى الضار أو غير المناسب. هذه خطوة أولى حاسمة للمساعدة على تحسين أداء النموذج والتخفيف من الحالات التي قد يحاول فيها المستخدمون مطالبة النموذج بطريقة قد تكون غير آمنة. بمجرد مرور المطالبة عبر مصنفات الإدخال، يتم تحديد ما إذا كان الطلب يتطلب بيانات أساسية من الويب ونموذج اللغة الذي يجب أن يستجيب للطلب. تنشئ جميع النماذج استجابة باستخدام مطالبة المستخدم ومحفوظات المحادثات الأخيرة لوضع الطلب في سياقه، ورسالة النظام لمحاذاة الاستجابات مع مبادئ الذكاء الاصطناعي من Microsoft وتوقعات المستخدم، وإذا كان ذلك مناسبا، ومواءمة الاستجابات مع نتائج البحث للاستجابات الأساسية في المحتوى الموجود عالي المستوى من الويب.
يتم تقديم الاستجابات للمستخدمين بعدة تنسيقات مختلفة، مثل استجابات الدردشة في شكل نص والارتباطات التقليدية لمحتوى الويب والصور والاستجابات الصوتية. عندما يتم تقديم الاستجابات في شكل نص - وتستند الاستجابات إلى البيانات من الويب - يحتوي الإخراج على اقتباسات ذات ارتباطات تشعبية مدرجة أسفل النص حتى يتمكن المستخدمون من الوصول إلى موقع (مواقع) الويب التي تم استخدامها لتأسيس الاستجابة ومعرفة المزيد حول الموضوع من هناك. يمكن ل Copilot أيضا تشغيل التعليمات البرمجية لإكمال العمليات الحسابية المعقدة وإنشاء الرسوم البيانية. يمكن ل Copilot تخزين حقائق محددة يطلبها المستخدمون تذكرها، مما يسمح له بإنشاء استجابات واقتراحات أكثر صلة استنادا إلى هذا السياق. يمكن ل Copilot أيضا حذف الحقائق المحفوظة عندما يطلب المستخدمون نسيانها صراحة.
يساعد Copilot المستخدمين أيضا على إنشاء قصص وشعر وكلمات الأغاني والصور الجديدة. عندما يكتشف Copilot نية المستخدم في إنشاء محتوى إبداعي (مثل مطالبة المستخدم التي تبدأ ب "اكتب لي ...")، سيقوم النظام، في معظم الحالات، بإنشاء محتوى يستجيب لمطالبة المستخدم. وبالمثل، عندما يكتشف Copilot نية المستخدم لإنشاء صورة (مثل مطالبة مستخدم تبدأ ب "ارسم لي ...")، سينشئ Copilot، في معظم الحالات، صورة تستجيب لمطالبة المستخدم. عندما يكتشف Copilot نية المستخدم لتعديل صورة تم تحميلها (مثل مطالبة المستخدم التي تبدأ ب "إضافة ...")، سيقوم Copilot، في معظم الحالات، بتعديل صورة تستجيب لمطالبة المستخدم. قد لا يستجيب Copilot بمحتوى إبداعي عندما تحتوي مطالبة المستخدم على مصطلحات معينة قد تؤدي إلى محتوى إشكالي.
سلوك الأمان المقصود
هدفنا من Copilot هو أن نكون مفيدين للمستخدمين، وننفذ إجراءات وقائية للمساعدة في تقليل احتمالية إنشاء محتوى ضار وزيادة احتمالية تجربة مستخدم آمنة وإيجابية. على الرغم من أننا اتخذنا خطوات للتخفيف من المخاطر، فإن نماذج الذكاء الاصطناعي التوليدية مثل تلك التي تقف وراء Copilot احتمالية ويمكن أن ترتكب أخطاء، مما يعني أن عوامل تخفيف المخاطر قد تفشل أحيانا في حظر مطالبات المستخدم الضارة أو الاستجابات التي تم إنشاؤها بواسطة الذكاء الاصطناعي. إذا واجهت محتوى ضارا أو غير متوقع أثناء استخدام Copilot، فأخبرنا بذلك من خلال تقديم الملاحظات حتى نتمكن من الاستمرار في تحسين التجربة.
حالات الاستخدام
الاستخدامات المقصودة
تم تصميم Copilot لمساعدة المستخدمين على الإجابة على الأسئلة وإنشاء المحتوى وإكمال المهام من خلال اللغة الطبيعية باستخدام النص والصور والصوت. لتقديم استجابات مفيدة وذات صلة، قد يقوم Copilot باسترداد المعلومات وتحليلها وتلخيصها من المصادر المتوفرة. قد تتوفر بعض الميزات المتقدمة فقط للمستخدمين الذين لديهم اشتراكات مؤهلة. تتضمن أمثلة حالات الاستخدام الشائعة ما يلي:
Chat باستخدام النص والحصول على ملخصات على الويب. يمكن للمستخدمين الدردشة مع Copilot عبر النص وطرح أسئلة المتابعة للعثور على معلومات جديدة وتلقي الدعم عبر مجموعة واسعة من الموضوعات. يمكن ل Copilot إجراء عمليات بحث على الويب وسيستخدم أفضل نتائج البحث على الويب لإنشاء ملخص للمعلومات لتقديمها للمستخدمين. تتضمن هذه الملخصات اقتباسات لصفحات الويب لمساعدة المستخدمين على مراجعة مصادر نتائج البحث التي ساعدت في تأسيس ملخص Copilot. يمكن للمستخدمين النقر فوق هذه الارتباطات لزيارة مصدر موقع الويب لمعرفة المزيد أو تقييم موثوقية الموقع.
احصل على المساعدة في إنشاء أفكار جديدة. في كل مرة يتفاعل فيها المستخدمون مع تجربة Copilot، سيرون مجموعة من البطاقات التي يمكنهم النقر فوقها لبدء الدردشة مع Copilot حول مواضيع مفيدة ومثيرة للاهتمام. إذا تفاعل المستخدمون مع خدمات المستهلكين الأخرى في Microsoft، فسيتم تخصيص البطاقات، بما يتماشى مع نهج الخصوصية المتبعة لدينا. بمرور الوقت، يمكن تخصيص البطاقات في Copilot استنادا إلى محفوظات دردشة المستخدم. يمكن للمستخدمين إلغاء التخصيص في أي وقت من خلال الإعدادات.
إنشاء محتوى إبداعي. عند الدردشة مع Copilot، يمكن للمستخدمين إنشاء قصائد جديدة ونكات وقصص وصور ومحتوى آخر بمساعدة Copilot. يمكن ل Copilot أيضا تحرير الصور التي تم تحميلها بواسطة المستخدمين إذا طلبوا ذلك.
المساعدة في البحث. يمكن ل Copilot تنفيذ مهام البحث من خلال عرض الموارد المتعمقة، وتقديم تصنيفات مفصلة للمواضيع، والارتباط بالمصادر لمساعدة المستخدمين على تجاوز الإجابات السريعة للاستعلامات الأكثر تعقيدا. قد ينشئ Copilot بشكل استباقي اقتراحات بحث مخصصة للمستخدمين استنادا إلى أشياء مثل استعلامات البحث السابقة وذاكرة Copilot. يمكن للمستخدمين إلغاء الاشتراك في التخصيص أو الإعلامات في أي وقت من خلال الإعدادات.
اكتشاف المنتجات ومقارنتها وشراؤها. يمكن أن يساعدك Copilot Shopping في العثور على المنتجات ومقارنة الخيارات وتبسيط عمليات الشراء. باستثناء ما يتم تحديده، لا تتلقى Microsoft عمولات أو تعويضات أخرى مقابل اقتراحات المنتجات أو نتائج البحث المقدمة في Copilot.
ادرس بشكل أكثر ذكاء باستخدام Copilot Learn. يمكن ل Copilot Learn إنشاء اختبارات واختبارات تدريبية، وإنشاء بطاقات تعليمية، وهو مصمم للمساعدة في تحسين الاستجابات بالصور لتسهيل فهم المفاهيم المعقدة.
الحصول على تعليمات مع المهام اليومية. ينفذ Copilot Cowork المهام نيابة عنك. أنت تصف ما تحتاج إليه بلغة طبيعية، ويقوم Cowork بالعمل ويقوم بإنشاء المستندات وصياغة رسائل البريد الإلكتروني وإرسالها وجدولة الاجتماعات وإدارة الملفات. راجع الإجراءات الحساسة وتوافق عليها قبل حدوثها.
تحليل الملفات وتحريرها. يسمح تحميل الملفات في Copilot للمستخدمين بتحميل الصور أو أنواع ملفات معينة مدعومة مباشرة إلى جلسات الدردشة الخاصة بهم. بمجرد التحميل، يمكن ل Copilot تحليل المعلومات واستخراجها من هذه الملفات لتوفير رؤى ذات صلة أو الإجابة على الأسئلة أو المساعدة في مهام محددة. يمكن ل Copilot أيضا الإشارة إلى الملفات في موفري التخزين المتصلين عبر الإنترنت مثل OneDrive وGoogle Drive، بإذن منك.
انظر وافهم. استخدم الرؤية لتحليل الصور والحصول على نتائج تحليلات من الصور والبحث بشكل مرئي. يقوم Copilot بمراجعة الصور المحملة لمساعدتك على فهم ما تراه.
استخدم صوتك. تحدث بشكل طبيعي مع Copilot باستخدام الدردشة الصوتية. يمكنك تبادل الأفكار أو كتابة المحتوى أو الحصول على إجابات سريعة، دون استخدام اليدين.
الاتصال بتطبيقات أخرى. اجلب التطبيقات والمعلومات التي تختارها، مثل البريد الإلكتروني والتقويمات والملفات وجهات الاتصال والخدمات الأخرى.
اعتبارات عند اختيار حالات استخدام أخرى
نحن نشجع المستخدمين على مراجعة كل المحتوى قبل اتخاذ القرارات أو التصرف بناء على ردود Copilot، حيث يمكن أن يقوم الذكاء الاصطناعي بأخطاء وقد لا يكون مناسبا لحالات استخدام معينة. بالإضافة إلى ذلك، هناك بعض السيناريوهات التي نوصي بتجنبها أو تتعارض مع شروط الاستخدام الخاصة بنا. على سبيل المثال، لا تسمح Microsoft باستخدام Copilot فيما يتعلق بأنشطة غير قانونية أو لأي غرض يهدف إلى الترويج لنشاط غير قانوني.
القيود
قد تتضمن نماذج اللغة والصورة والصوت التي تقوم عليها تجربة Copilot بيانات التدريب التي يمكن أن تعكس التحيزات المجتمعية، والتي بدورها يمكن أن تتسبب في أن يتصرف Copilot بطرق ينظر إليها على أنها غير عادلة أو غير موثوقة أو مسيئة. على الرغم من التدريب النموذجي المكثف وضبط السلامة ، بالإضافة إلى تنفيذ ضوابط الذكاء الاصطناعي المسؤولة وأنظمة السلامة التي نضعها على بيانات التدريب ومطالبات المستخدم ومخرجات النموذج ، فإن الخدمات التي تعتمد على الذكاء الاصطناعي معصومة واحتمالية. هذا يجعل من الصعب حظر جميع المحتوى غير المناسب بشكل شامل، مما يؤدي إلى مخاطر التحيزات المحتملة أو الصور النمطية أو عدم الأساس أو أنواع أخرى من الضرر التي قد تظهر في المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. بعض الطرق التي قد تظهر بها هذه القيود في تجربة Copilot مذكورة هنا.
قوالب نمطية: يمكن أن تعزز تجربة Copilot الصور النمطية. على سبيل المثال، عند ترجمة "هي ممرضة" و"هي طبيبة" إلى لغة خالية من الجنس مثل التركية ثم العودة إلى اللغة الإنجليزية، قد ينتج عن Copilot عن غير قصد النتائج النمطية (وغير الصحيحة) "هي ممرضة" و"هو طبيب". مثال آخر هو عند إنشاء صورة تستند إلى موجه "الأطفال الذين لا أبى له" ، يمكن للنظام إنشاء صور لأطفال من عرق أو عرق واحد فقط ، مما يعزز الصور النمطية الضارة التي قد تكون موجودة في الصور المتاحة للجمهور المستخدمة لتدريب النماذج الأساسية. قد يعزز Copilot أيضا الصور النمطية استنادا إلى المحتويات الموجودة في صورة إدخال المستخدم من خلال الاعتماد على مكونات الصورة ووضع افتراضات قد لا تكون صحيحة. لقد قمنا بتنفيذ عوامل تخفيف لتقليل مخاطر المحتوى الذي يحتوي على صور نمطية مسيئة، بما في ذلك مصنفات الإدخال والمخرجات والنماذج المضبوطة ورسائل النظام.
التمثيل المفرط والتمثيل الناقص: قد يتمكن Copilot من الإفراط في تمثيل مجموعات من الأشخاص، أو حتى عدم تمثيلهم على الإطلاق، في استجاباته. على سبيل المثال، إذا تم اكتشاف مطالبات نصية تحتوي على كلمة "مثلي الجنس" على أنها من المحتمل أن تكون ضارة أو مسيئة، فقد يؤدي ذلك إلى تمثيل ناقص للأجيال الشرعية حول مجتمع LGBTQIA+. بالإضافة إلى تضمين مصنفات الإدخال والمخرجات والنماذج الدقيقة بالإضافة إلى رسائل النظام، نستخدم الإثراء الفوري في Designer كأحد عوامل التخفيف العديدة لتقليل مخاطر المحتوى الذي يمثل مجموعات من الأشخاص بشكل أكبر أو ناقص.
المحتوى غير المناسب أو المسيء: من المحتمل أن تنتج تجربة Copilot أنواعا أخرى من المحتوى غير المناسب أو المسيء. تتضمن الأمثلة القدرة على إنشاء محتوى في نمط واحد (على سبيل المثال، الصوت) غير المناسب في سياق مطالبته أو عند مقارنته بنفس الإخراج في نمط مختلف (على سبيل المثال، النص). تتضمن الأمثلة الأخرى الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي يحتمل أن تحتوي على سلوكيات أثرية ضارة مثل رموز الكراهية، والمحتوى المتعلق بالمواضيع المتنازع عليها أو المثيرة للجدل أو المستقطبة أيديولوجيا، والمحتوى المشحون جنسيا الذي يتهرب من عوامل تصفية المحتوى المرتبط بالجنس. لقد وضعنا عوامل تخفيف لتقليل مخاطر الأجيال التي تحتوي على محتوى غير مناسب أو مسيء، مثل مصنفات الإدخال والمخرجات والنماذج المضبوطة ورسائل النظام.
موثوقية المعلومات: بينما يهدف Copilot إلى الاستجابة بمصادر موثوقة حيث يتم البحث عن معلومات التأريض، يمكن للذكاء الاصطناعي أن يقوم بأخطاء. من المحتمل أن يولد محتوى غير منطقي أو يختلق محتوى قد يبدو معقولا ولكنه غير دقيق من الناحية الواقعية. حتى عند استخلاص الاستجابات من بيانات ويب عالية المرجعية، فقد تشوه الاستجابات هذا المحتوى بطريقة قد لا تكون دقيقة أو محدثة أو موثوقة تماما. نذكر المستخدمين من خلال واجهة المستخدم وفي وثائق مثل هذه أن Copilot يمكن أن يرتكب أخطاء. نواصل أيضا تثقيف المستخدمين حول قيود الذكاء الاصطناعي، مثل تشجيعهم على التحقق مرة أخرى من الحقائق قبل اتخاذ القرارات أو التصرف بناء على ردود Copilot. عندما يتفاعل المستخدمون مع Copilot عبر النص، سيحاولون تأسيس أنفسهم في بيانات ويب عالية الجودة لتقليل مخاطر عدم وجود أجيال على أساس.
أداء متعدد اللغات: قد تكون هناك اختلافات في الأداء عبر اللغات، حيث كان أداء اللغة الإنجليزية أفضل في وقت إصدار Copilot. يعد تحسين الأداء عبر اللغات مجالا استثماريا رئيسيا، وقد أدت النماذج الحديثة إلى تحسين الأداء.
قيود الصوت: قد تقدم نماذج الصوت قيودا أخرى. بشكل عام، قد تؤثر الجودة الصوتية لإدخال الكلام والضوضاء غير الكلامية والكلمات واللهجات وأخطاء الإدراج أيضا على ما إذا كان Copilot يعالج ويستجيب لإدخال الصوت للمستخدم بطريقة مرضية.
الذكاء الاصطناعي ليس بديلا عن المساعدة المهنية: يمكن أن يكون الذكاء الاصطناعي أداة مفيدة لحل المشكلات ويمكن رؤيته متعاطفا ، لكنه ليس بديلا عن طلب المساعدة المهنية. إذا كنت تعاني من الاكتئاب، أو أفكار الانتحار أو إيذاء النفس، أو غيرها من مشكلات الصحة العقلية، فيرجى طلب المساعدة المختصة. يمكن أيضا استخدام Copilot للعثور على موارد الأزمات أو الصحة العقلية بالقرب منك.
الاعتماد على الاتصال بالإنترنت: يعتمد Copilot على الاتصال بالإنترنت لتعمل. يمكن أن يكون للأعطال في الاتصال تأثير على توفر الخدمة وأدائها.
توخ الحذر عند إنشاء العوامل أو استخدامها: يجب على المستخدمين توخي الحذر عند إنشاء وكلائهم الخاصين أو استخدام وكلاء يوفرهم الآخرون، خاصة إذا كانت الإجراءات التي يتخذها الوكلاء يمكن أن يكون لها عواقب وخيمة أو لا رجعة فيها أو لديها إمكانية مشاركة معلومات شخصية حساسة (مثل كلمات المرور أو تسجيل الدخول أو البيانات الشخصية). نظرا لأن العوامل قد لا تعمل بشكل جيد لجميع حالات الاستخدام، وقد ترتكب أخطاء أو تسيء تفسير التعليمات أو تنخدع بتعليمات مخفية ضارة، يجب على المستخدمين مراقبة النتائج عن كثب ومراجعة التفاصيل المهمة قد يتم تقييد المستخدمين من استخدام حالات استخدام معينة، مثل زيارة مواقع الويب الضارة أو إنشاء محتوى غير مناسب. يجب أيضا اتخاذ احتياطات إضافية عند إنشاء الذكاء الاصطناعي الوكيل المستقل كما هو موضح بمزيد من التفصيل في قسم قواعد السلوك في اتفاقية خدمات Microsoft.
أداء النظام
في العديد من أنظمة الذكاء الاصطناعي، غالبا ما يتم تعريف الأداء فيما يتعلق بالدقة (أي عدد المرات التي يقدم فيها نظام الذكاء الاصطناعي تنبؤا أو إخراجا صحيحا). مع Copilot، نركز على Copilot كمساعد قائم على تكنولوجيا الذكاء الاصطناعي يعكس تفضيلات المستخدم. وبالتالي، قد ينظر مستخدمان مختلفان إلى نفس الإخراج ولديهما آراء مختلفة حول مدى فائدته أو صلته بوضعهما وتوقعاتهما الفريدة، مما يعني أنه يجب تحديد أداء هذه الأنظمة بشكل أكثر مرونة. نحن نعتبر الأداء على نطاق واسع أن التطبيق يعمل كما يتوقع المستخدمون.
أفضل الممارسات لتحسين أداء النظام
تفاعل مع الواجهة باستخدام لغة محادثة طبيعية. يعد التفاعل مع Copilot بطريقة مريحة للمستخدم مفتاحا للحصول على نتائج أفضل من خلال التجربة. على غرار اعتماد تقنيات لمساعدة الأشخاص على التواصل بشكل فعال في حياتهم اليومية، قد يساعد التفاعل مع Copilot كمساعد قائم على تكنولوجيا الذكاء الصناعي إما من خلال النص أو الكلام المألوف للمستخدم في الحصول على نتائج أفضل.
تجربة المستخدم والاعتماد. يتطلب الاستخدام الفعال ل Copilot من المستخدمين فهم قدراته وقيوده. قد يكون هناك منحنى تعلمي، وقد يرغب المستخدمون في الرجوع إلى موارد Copilot المختلفة (على سبيل المثال، هذا المستند Microsoft Copilot المساعدة & التعلم) للتفاعل بفعالية مع الخدمة والاستفادة منها.
تعيين المخاطر وقياسها وإدارتها
مثل التقنيات التحولية الأخرى، لا يعد الاستفادة من مزايا الذكاء الاصطناعي خاليا من المخاطر، وقد تم تصميم جزء أساسي من برنامج الذكاء الاصطناعي المسؤول من Microsoft لتحديد المخاطر المحتملة وتعيينها وقياس تلك المخاطر وإدارتها من خلال إنشاء عوامل تخفيف المخاطر وتحسين Copilot باستمرار بمرور الوقت. في الأقسام أدناه، نصف نهجنا التكراري لرسم خريطة للمخاطر المحتملة وقياسها وإدارتها.
خريطة: يساعدنا التخطيط الدقيق والاختبار الخصومي قبل النشر، مثل الفريق الأحمر، على تعيين المخاطر المحتملة. خضعت النماذج الأساسية التي تدعم تجربة Copilot لاختبار الفريق الأحمر من المختبرين الذين يمثلون وجهات نظر متعددة التخصصات عبر مجالات الموضوعات ذات الصلة. تم تصميم هذا الاختبار لتقييم كيفية عمل أحدث التقنيات مع وبدون أي ضمانات إضافية مطبقة عليها. والغرض من هذه التدريبات على مستوى النموذج هو إنتاج استجابات ضارة، وإظهار السبل المحتملة لإساءة الاستخدام، وتحديد القدرات والقيود.
اختبار على مستوى التطبيق قبل الإصدار. قبل إتاحة Copilot للجمهور، أجرينا فريقا أحمر على مستوى التطبيق لتحديد أوجه القصور ونقاط الضغرة. ساعدنا هذا الاختبار في فهم كيفية استخدام مجموعة واسعة من المستخدمين ل Copilot وتحسينات مستنيرة على عوامل تخفيف المخاطر لدينا.
الاختبار الجاري. نختبر أيضا ميزات جديدة وتحديثات تقنية، حسب الاقتضاء، عند تحديث Copilot. تساعدنا هذه العملية المستمرة في تحديد المخاطر الناشئة وتحسين عوامل التخفيف من المخاطر مع مرور الوقت.
مقياس: بالإضافة إلى تقييم Copilot مقابل تقييمات السلامة الحالية لدينا، ساعدنا استخدام الفريق الأحمر الموصوف أعلاه في تطوير التقييمات ومقاييس الذكاء الاصطناعي المسؤولة التي تتوافق مع المخاطر المحتملة المحددة، مثل الهروب من السجن والمحتوى الضار والمحتوى غير المؤرض.
لقد جمعنا بيانات محادثة تستهدف هذه المخاطر، باستخدام مجموعة من المشاركين من البشر ومسار إنشاء محادثة تلقائي. ثم يتم تسجيل كل تقييم إما بواسطة مجموعة من المعلقين البشريين المدربين أو خط أنابيب التعليق التوضيحي الآلي. في كل مرة يتم فيها تغيير المنتج أو تحديث عوامل التخفيف الحالية أو اقتراح عوامل تخفيف جديدة، نقوم بتحديث مسارات التقييم لتقييم أداء المنتج ومقاييس الذكاء الاصطناعي المسؤولة. تعد مسارات سياق التقييم الآلي هذه مزيجا من المحادثات المجمعة مع مقيمين بشريين والمحادثات التركيبية التي تم إنشاؤها باستخدام LLMs المطالبة باختبار السياسات بطريقة عدائية. يتم تسجيل كل تقييم من تقييمات السلامة هذه تلقائيا باستخدام LLMs. بالنسبة للتقييمات المطورة حديثا ، يتم تسجيل كل تقييم في البداية بواسطة الملصقات البشرية التي تقرأ محتوى النص أو تستمع إلى إخراج الصوت ، ثم يتم تحويلها إلى تقييمات تلقائية قائمة على LLM.
يمكننا السلوك المقصود لنماذجنا جنبا إلى جنب مع خطوط أنابيب التقييم الخاصة بنا - البشرية والآلية - من إجراء قياس سريع للمخاطر المحتملة على نطاق واسع. بينما نحدد المشكلات الجديدة بمرور الوقت، نستمر في توسيع مجموعات القياس لتقييم المخاطر الإضافية.
إدارة: نظرا لأننا حددنا المخاطر المحتملة وإساءة الاستخدام من خلال الفريق الأحمر وقمنا بقياسها باستخدام الأساليب الموضحة أعلاه، قمنا بتطوير عوامل تخفيف إضافية خاصة بتجربة Copilot. فيما يلي وصف لبعض عوامل تخفيف المشكلات. سنواصل مراقبة تجربة Copilot لتحسين أداء المنتج ونهج التخفيف من المخاطر لدينا.
خطط الإصدار المرحلي والتقييم المستمر. نحن ملتزمون بالتعلم وتحسين نهجنا المسؤول للذكاء الاصطناعي باستمرار مع تطور تقنياتنا وسلوك المستخدم. كانت استراتيجية الإصدار التزايدي الخاصة بنا جزءا أساسيا من كيفية نقل تقنيتنا بأمان من المختبر إلى العالم، ونحن ملتزمون بعملية مدروسة ومدروسة لتأمين فوائد تجربة Copilot. نجري تغييرات على Copilot بانتظام لتحسين أداء المنتج والتخفيفات الحالية وتنفيذ عوامل تخفيف جديدة استجابة لتعلمنا.
الاستفادة من المصنفات ورسالة النظام للتخفيف من المخاطر المحتملة أو سوء الاستخدام. استجابة لمطالبات المستخدم، قد تنتج LLMs محتوى مشاكل. ناقشنا أنواع المحتوى التي نحاول تقييدها في أقسام سلوك النظام وقيوده أعلاه. تعد المصنفات ورسالة النظام مثالين على عوامل تخفيف المخاطر التي تم تنفيذها في Copilot للمساعدة في تقليل مخاطر هذه الأنواع من المحتوى. تصنف المصنفات النص لوضع علامة على المحتوى الذي يحتمل أن يكون ضارا في مطالبات المستخدم أو في الاستجابات. كما نستخدم أيضا أفضل الممارسات الحالية للاستفادة من رسالة النظام، والتي تتضمن إعطاء إرشادات للنموذج لمواءمة سلوكه مع مبادئ الذكاء الاصطناعي في Microsoft ومع توقعات المستخدم.
تحميل الصور إلى رؤية Copilot. في المرة الأولى التي يقوم فيها المستخدم بتحميل صورة إلى رؤية Copilot، سيتم تزويده بمعلومات حول كيفية معالجة صورته بواسطة Copilot. إذا لم يتابع المستخدم التحميل، فلن يتم إرسال الصورة إلى Copilot. يتم حذف جميع الصور خلال 30 يوما بعد انتهاء المحادثة.
الكشف عن الذكاء الاصطناعي. تم تصميم Copilot أيضا لإعلام الأشخاص بأنهم يتفاعلون مع نظام الذكاء الاصطناعي. بينما يتفاعل المستخدمون مع Copilot، نقدم نقاط اتصال مختلفة مصممة لمساعدتهم على فهم قدرات النظام، والكشف لهم أن Copilot مشغل بواسطة الذكاء الاصطناعي، والإبلاغ عن القيود. تم تصميم التجربة بهذه الطريقة لمساعدة المستخدمين على تحقيق أقصى استفادة من Copilot وتقليل مخاطر الاعتماد المفرط. تساعد عمليات الكشف المستخدمين أيضا على فهم Copilot وتفاعلاتهم معه بشكل أفضل.
مصدر الوسائط. بالنسبة لجميع الصور التي تم إنشاؤها باستخدام Copilot، قمنا بتطبيق بيانات اعتماد المحتوى، المصدر استنادا إلى معيار C2PA، لمساعدة الأشخاص على تحديد ما إذا كان قد تم تحرير الصور أو إنشاؤها باستخدام الذكاء الاصطناعي. يمكن عرض بيانات تعريف المصدر على موقع "بيانات اعتماد المحتوى".
الكشف التلقائي عن المحتوى. عندما يقوم المستخدمون بتحميل صور كجزء من مطالبة الدردشة، ينشر Copilot أدوات للكشف عن صور الاستغلال والاعتداء الجنسيين للأطفال (CSEAI). تقدم Microsoft جميع تقارير CSEAI الظاهرة إلى المركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، وفقا لما يقتضيه قانون الولايات المتحدة. عندما يقوم المستخدمون بتحميل ملفات لتحليلها أو معالجتها، ينشر Copilot المسح التلقائي للكشف عن المحتوى الذي قد يؤدي إلى مخاطر أو إساءة استخدام، مثل النص الذي قد يتعلق بأنشطة غير قانونية أو تعليمات برمجية ضارة.
شروط الاستخدام ومدونة قواعد السلوك. يجب على المستخدمين الالتزام بشروط الاستخداموقواعد السلوك المعمول بها في Copilot، واتفاقية خدمات Microsoft، وبيان خصوصية Microsoft، والتي تبلغهم، من بين أمور أخرى، بالاستخدامات المسموح بها وغير المسموح بها وعواقب انتهاك الشروط. توفر شروط الاستخدام أيضا إفصاحات إضافية للمستخدمين وتعمل كمرجع للمستخدمين للتعرف على Copilot. قد يتم إيقاف المستخدمين الذين يرتكبون انتهاكات جسيمة أو متكررة مؤقتا أو دائما من الخدمة.
الملاحظات والمراقبة والرقابة. تتضمن تجربة Copilot أدوات تسمح للمستخدمين بإرسال الملاحظات، والتي تتم مراجعتها من قبل فرق عمليات Microsoft. علاوة على ذلك، سيستمر نهجنا في رسم خرائط المخاطر وقياسها وإدارتها في التطور بينما نتعلم المزيد، ونحن نجري بالفعل تحسينات استنادا إلى الملاحظات التي تم جمعها خلال فترات المعاينة.
الكشف عن الانتحار ومخاطر Self-Harm والاستجابة لها. يستخدم Copilot مصنفات التعلم الآلي المدربة على التعرف على أنماط اللغة التي قد تشير إلى الانتحار أو نية إيذاء النفس من المستخدم. عند اكتشاف مثل هذا المحتوى، ينسحب النظام عن المحادثة ويوفر بدلا من ذلك موارد دعم الأزمات (على سبيل المثال، خط الحياة الانتحاري والأزمات على 988 في الولايات المتحدة)، مما يشجع المستخدمين على طلب مساعدة احترافية. لا يقدم Copilot المشورة؛ يقتصر دورها على الكشف والإحالة لضمان سلامة المستخدم.
إعلام الاستخدام الموسع. قد يذكر Copilot المستخدمين بأخذ قسط من الراحة إذا كانوا يشاركون في محادثة مستمرة لفترة طويلة من الوقت. يتم إعلام المستخدمين أيضا بانتظام بأن الذكاء الاصطناعي ليس بشريا ويمكنه ارتكاب أخطاء.