ملاحظة الشفافية Microsoft Copilot

ما هي ملاحظة الشفافية؟

لا يشمل نظام الذكاء الاصطناعي التكنولوجيا فحسب، بل يشمل أيضا الأشخاص الذين سيستخدمونها، والأشخاص الذين سيتأثرون بها، والبيئة التي يتم نشرها فيها. تهدف ملاحظات الشفافية من Microsoft إلى مساعدتك على فهم كيفية عمل تقنية الذكاء الاصطناعي وراء Copilot، والخيارات التي اتخذناها والتي تؤثر على أداء النظام وسلوكه، وأهمية التفكير في النظام بأكمله، بحيث يمكن لمستخدمي Copilot التحكم في تجاربهم الخاصة وفهم الخطوات التي نتخذها لتوفير منتج آمن وآمن.

تعد ملاحظات الشفافية من Microsoft جزءا من جهد أوسع في Microsoft لوضع مبادئ الذكاء الاصطناعي موضع التنفيذ. لمعرفة المزيد، راجع مبادئ Microsoft الذكاء الاصطناعي. 

أساسيات Microsoft Copilot

الإمكانات

القيود

قد تتضمن النماذج اللغوية والصورية والصوتية التي تستند إليها تجربة Copilot بيانات تدريب يمكن أن تعكس التحيزات المجتمعية، مما قد يؤدي بدوره إلى تصرف Copilot بطرق ينظر إليها على أنها غير عادلة أو غير موثوق بها أو مسيئة. على الرغم من تدريب النموذج المكثف وضبط السلامة، بالإضافة إلى تنفيذ ضوابط الذكاء الاصطناعي المسؤولة وأنظمة السلامة التي نضعها على بيانات التدريب ومطالبات المستخدم ومخرجات النموذج، فإن الخدمات المستندة إلى الذكاء الاصطناعي هي خدمات غير قابلة للاحتراق ومحفزة. وهذا يجعل من الصعب حظر جميع المحتويات غير المناسبة بشكل شامل، مما يؤدي إلى مخاطر تحيزات محتملة أو قوالب نمطية أو عدم وجود أساس أو أنواع أخرى من الضرر يمكن أن تظهر في المحتوى الذي تم إنشاؤه الذكاء الاصطناعي. بعض الطرق التي قد تظهر بها هذه القيود في تجربة Copilot مدرجة هنا. 

• القوالب النمطية: من المحتمل أن تعزز تجربة كوبليوت القوالب النمطية. على سبيل المثال، عند ترجمة "هو ممرضة" و"هي طبيبة" إلى لغة لا جنس لها مثل التركية ثم العودة إلى اللغة الإنجليزية، قد ينتج عن غير قصد كوبليوت النتائج النمطية (وغير الصحيحة) من "هي ممرضة" و"هو طبيب". ومن الأمثلة الأخرى على ذلك أنه عند إنشاء صورة تستند إلى المطالبة ب "الأطفال بلا أب"، يمكن للنظام توليد صور للأطفال من عرق أو عرق واحد فقط، مما يعزز القوالب النمطية الضارة التي قد تكون موجودة في الصور المتاحة للجمهور والمستخدمة لتدريب النماذج الأساسية. قد تعزز Copilot أيضا القوالب النمطية استنادا إلى المحتويات في صورة إدخال المستخدم من خلال الاعتماد على مكونات الصورة ووضع افتراضات قد لا تكون صحيحة. لقد قمنا بتنفيذ عوامل التخفيف لتقليل مخاطر المحتوى الذي يحتوي على صور نمطية مسيئة، بما في ذلك مصنفات الإدخال والإخراج والنماذج الدقيقة ورسائل النظام.

• التمثيل الزائد والتمثيل الناقص: من المحتمل أن تكون Copilot مجموعات من الأشخاص زائدة أو ناقصة التمثيل، أو حتى لا تمثلهم على الإطلاق، في استجاباتها. على سبيل المثال، إذا تم الكشف عن المطالبات النصية التي تحتوي على كلمة "مثلي الجنس" على أنها ضارة أو مسيئة، فقد يؤدي ذلك إلى نقص تمثيل الأجيال الشرعية حول مجتمع المثليات والمثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسية ومزدوجي الميل الجنسي ومغايري الهوية الجنسية. بالإضافة إلى تضمين مصنفات الإدخال والإخراج والنماذج الدقيقة بالإضافة إلى رسائل النظام، نستخدم الإثراء الفوري في Designer كأحد العديد من عوامل التخفيف لتقليل مخاطر المحتوى الذي يمثل مجموعات من الأشخاص بشكل زائد أو ناقص.

• محتوى غير مناسب أو مسيء: من المحتمل أن تنتج تجربة Copilot أنواعا أخرى من المحتوى غير المناسب أو المسيئة. ومن الأمثلة على ذلك القدرة على إنشاء محتوى بطريقة واحدة (مثل الصوت) غير مناسب في سياق المطالبة به أو عند مقارنته بنفس الإخراج بطريقة مختلفة (مثل النص). وتشمل الأمثلة الأخرى الصور التي تم إنشاؤها الذكاء الاصطناعي والتي يحتمل أن تحتوي على بيانات اصطناعية ضارة مثل رموز الكراهية، والمحتوى الذي يتعلق بموضوعات متنازع عليها أو مثيرة للجدل أو مستقطبة أيديولوجيا، والمحتوى المشحون جنسيا الذي يتهرب من عوامل تصفية المحتوى ذات الصلة الجنسية. لقد وضعنا عوامل التخفيف لتقليل مخاطر الأجيال التي تحتوي على محتوى غير مناسب أو مسيئة، مثل مصنفات الإدخال والإخراج والنماذج الدقيقة ورسائل النظام.

• موثوقية المعلومات: بينما تهدف Copilot إلى الاستجابة بمصادر موثوقة عند الضرورة، يمكن الذكاء الاصطناعي ارتكاب أخطاء. قد يولد محتوى لا معنى له أو يختلق محتوى قد يبدو معقولا ولكنه غير دقيق من الناحية الواقعية. حتى عند رسم الاستجابات من بيانات الويب عالية السلطة، قد تسيء الاستجابات تمثيل هذا المحتوى بطريقة قد لا تكون دقيقة أو موثوقة تماما. ونذكر المستخدمين من خلال واجهة المستخدم وفي وثائق مثل هذه بأن Copilot يمكن أن يرتكب أخطاء. كما نواصل تثقيف المستخدمين بشأن قيود الذكاء الاصطناعي، مثل تشجيعهم على التحقق مرة أخرى من الحقائق قبل اتخاذ القرارات أو التصرف بناء على ردود كوبليوت. عندما يتفاعل المستخدمون مع Copilot عبر النص، سيحاول وضع نفسه في بيانات ويب عالية الجودة لتقليل خطر عدم وجود أجيال.

• أداء متعدد اللغات: قد تكون هناك اختلافات في الأداء عبر اللغات، مع أفضل أداء للغة الإنجليزية في وقت إصدار Copilot المحدث. يعد تحسين الأداء عبر اللغات مجالا استثماريا رئيسيا، وقد أدت النماذج الحديثة إلى تحسين الأداء.

• قيود الصوت: قد تقدم نماذج الصوت قيودا أخرى. على نطاق واسع، قد تؤثر الجودة الصوتية لإدخال الكلام والضوضاء غير الكلامية والمفردات واللهجات وأخطاء الإدراج أيضا على ما إذا كان Copilot يعالج ويستجيب لإدخال الصوت للمستخدم بطريقة مرضية. علاوة على ذلك، نظرا لأن مطالبات المستخدم عند استخدام Copilot Voice لن تؤدي إلى تشغيل عمليات البحث على الويب، فقد لا يتمكن Copilot من الاستجابة للأحداث الحالية في الوضع الصوتي.

• الاعتماد على الاتصال بالإنترنت: تعتمد تجربة Copilot المحدثة على اتصال الإنترنت للعمل. يمكن أن يكون للاضطرابات في الاتصال تأثير على توفر الخدمة وأدائها.

أداء النظام

في العديد من أنظمة الذكاء الاصطناعي، غالبا ما يتم تعريف الأداء فيما يتعلق بالدقة (أي عدد المرات التي يقدم فيها النظام الذكاء الاصطناعي تنبؤا أو إخراجا صحيحا). مع Copilot، نركز على Copilot كمساعد مدعوم من الذكاء الاصطناعي يعكس تفضيلات المستخدم. لذلك، قد ينظر مستخدمان مختلفان إلى نفس الناتج ولديهما آراء مختلفة حول مدى فائدته أو أهميته بالنسبة لوضعهما وتوقعاتهما الفريدة، مما يعني أنه يجب تحديد أداء هذه الأنظمة بمرونة أكبر. نحن نعتبر الأداء على نطاق واسع يعني أن التطبيق يعمل كما يتوقع المستخدمون.

تعيين المخاطر وقياسها وإدارتها

مثل التقنيات التحويلية الأخرى، فإن الاستفادة من فوائد الذكاء الاصطناعي ليست خالية من المخاطر، وتم تصميم جزء أساسي من برنامج الذكاء الاصطناعي المسؤول من Microsoft لتحديد المخاطر المحتملة وتعيينها، وقياس هذه المخاطر، وإدارتها من خلال بناء عوامل التخفيف من المخاطر وتحسين Copilot باستمرار بمرور الوقت. في الأقسام أدناه، نصف نهجنا التكراري لتعيين المخاطر المحتملة وقياسها وإدارتها.

الخريطة: يساعدنا التخطيط الدقيق والاختبار الخصومي قبل التوزيع، مثل الفريق الأحمر، على تعيين المخاطر المحتملة. مرت النماذج الأساسية التي تدعم تجربة Copilot باختبار الفريق الأحمر من المختبرين الذين يمثلون وجهات نظر متعددة التخصصات عبر مجالات الموضوع ذات الصلة. تم تصميم هذا الاختبار لتقييم كيفية عمل أحدث التقنيات مع وبدون أي ضمانات إضافية مطبقة عليها. الهدف من هذه التدريبات على مستوى النموذج هو إنتاج استجابات ضارة، وإيجاد السبل المحتملة لإساءة الاستخدام، وتحديد القدرات والقيود.

قبل إتاحة تجربة Copilot للجمهور في معاينة إصدار محدودة، أجرينا أيضا فريقا أحمر على مستوى التطبيق لتقييم Copilot بحثا عن أوجه القصور والثغرات الأمنية. ساعدتنا هذه العملية على فهم أفضل لكيفية استخدام النظام من قبل مجموعة واسعة من المستخدمين وساعدتنا على تحسين عوامل التخفيف.

قياس: بالإضافة إلى تقييم Copilot مقابل تقييمات السلامة الحالية لدينا، ساعدنا استخدام الفريق الأحمر الموضح أعلاه على تطوير التقييمات والمقاييس المسؤولة الذكاء الاصطناعي المقابلة للمخاطر المحتملة المحددة، مثل الهروب من السجن والمحتوى الضار والمحتوى غير الأساسي.

لقد جمعنا بيانات المحادثة التي تستهدف هذه المخاطر، باستخدام مجموعة من المشاركين البشريين ومسار إنشاء محادثة تلقائي. ثم يتم تسجيل كل تقييم إما بواسطة مجموعة من التعليقات التوضيحية البشرية المدربة أو مسار التعليق التوضيحي التلقائي. في كل مرة يتغير فيها المنتج، أو يتم تحديث عوامل التخفيف الحالية، أو تقترح عوامل تخفيف جديدة، نقوم بتحديث مسارات التقييم الخاصة بنا لتقييم أداء المنتج ومقاييس الذكاء الاصطناعي المسؤولة. مسارات سياق التقييم التلقائي هذه هي مزيج من المحادثات المجمعة مع المقيمين البشريين والمحادثات الاصطناعية التي تم إنشاؤها باستخدام LLMs التي تمت مطالبتها باختبار النهج بطريقة خصومية. يتم تسجيل كل تقييم من تقييمات السلامة هذه تلقائيا باستخدام LLMs. بالنسبة للتقييمات المطورة حديثا، يتم تسجيل كل تقييم في البداية بواسطة ملصقات بشرية تقرأ محتوى النص أو تستمع إلى إخراج الصوت، ثم يتم تحويلها إلى تقييمات تلقائية مستندة إلى LLM.

إن السلوك المقصود لنماذجنا بالاقتران مع مسارات التقييم لدينا - سواء البشرية أو الآلية - يمكننا من إجراء قياس سريع للمخاطر المحتملة على نطاق واسع. بينما نحدد المشكلات الجديدة بمرور الوقت، نواصل توسيع مجموعات القياس لتقييم المخاطر الإضافية. 

الإدارة: بينما حددنا المخاطر المحتملة وسوء الاستخدام من خلال الفريق الأحمر وقمنا بقياسها بالنهج الموضحة أعلاه، قمنا بتطوير عوامل تخفيف إضافية خاصة بتجربة Copilot. فيما يلي، نصف بعض عوامل التخفيف هذه. سنواصل مراقبة تجربة Copilot لتحسين أداء المنتج ونهج التخفيف من المخاطر لدينا. 

• خطط الإصدار المرحلي والتقييم المستمر.    نحن ملتزمون بتعلم وتحسين نهجنا المسؤول الذكاء الاصطناعي باستمرار مع تطور تقنياتنا وسلوك المستخدم. كانت استراتيجية الإصدار التزايدي جزءا أساسيا من كيفية نقل تقنيتنا بأمان من المختبر إلى العالم، ونحن ملتزمون بعملية متعمدة ومدروسة لتأمين فوائد تجربة Copilot. نحن نقوم بإجراء تغييرات على Copilot بانتظام لتحسين أداء المنتج والتخفيفات الحالية، وتنفيذ عمليات التخفيف الجديدة استجابة لتعلمنا.

• الاستفادة من المصنفات ورسالة النظام للتخفيف من المخاطر المحتملة أو إساءة الاستخدام.    استجابة لمطالبات المستخدم، قد تنتج LLMs محتوى إشكاليا. ناقشنا أنواع المحتوى التي نحاول تقييدها في قسمي سلوك النظام والقيود أعلاه. المصنفات ورسالة النظام مثالان على عوامل التخفيف التي تم تنفيذها في Copilot للمساعدة في تقليل مخاطر هذه الأنواع من المحتوى. تصنف المصنفات النص لوضع علامة على المحتوى الذي يحتمل أن يكون ضارا في مطالبات المستخدم أو الاستجابات التي تم إنشاؤها. كما نستخدم أفضل الممارسات الحالية للاستفادة من رسالة النظام، والتي تتضمن إعطاء إرشادات للنموذج لمواءمة سلوكه مع مبادئ Microsoft الذكاء الاصطناعي ومع توقعات المستخدم.

• الموافقة على تحميلات صور Copilot.    في المرة الأولى التي يقوم فيها مستخدم بتحميل صورة تحتوي على وجوه إلى Copilot، سيطلب منه تقديم موافقته على تحميل بياناته البيومترية إلى Copilot. إذا لم يقم المستخدم بالاشتراك، فلن يتم إرسال الصورة إلى Copilot. يتم حذف جميع الصور، بغض النظر عما إذا كانت تحتوي على وجوه أم لا، في غضون 30 يوما بعد انتهاء المحادثة.

• الذكاء الاصطناعي الكشف.    كما تم تصميم Copilot لإبلاغ الأشخاص بأنهم يتفاعلون مع نظام الذكاء الاصطناعي. مع تفاعل المستخدمين مع Copilot، نقدم نقاط لمس مختلفة مصممة لمساعدتهم على فهم قدرات النظام، والكشف لهم عن أن Copilot مدعوم من الذكاء الاصطناعي، والتواصل مع القيود. تم تصميم التجربة بهذه الطريقة لمساعدة المستخدمين على تحقيق أقصى استفادة من Copilot وتقليل مخاطر الإفراط في الاعتماد. تساعد عمليات الكشف أيضا المستخدمين على فهم Copilot وتفاعلاتهم معها بشكل أفضل.

• المصدر الإعلامي.    عندما ينشئ Copilot صورة، قمنا بتمكين ميزة "بيانات اعتماد المحتوى"، والتي تستخدم أساليب التشفير لوضع علامة على المصدر أو "المصدر" لجميع الصور التي تم إنشاؤها الذكاء الاصطناعي التي تم إنشاؤها باستخدام Copilot. تستخدم هذه التكنولوجيا المعايير التي وضعها التحالف للمحتوى والمصادقة (C2PA) لإضافة طبقة إضافية من الثقة والشفافية للصور التي تم إنشاؤها الذكاء الاصطناعي.

• الكشف التلقائي عن المحتوى.    عندما يقوم المستخدمون بتحميل الصور كجزء من موجه الدردشة الخاص بهم، ينشر Copilot أدوات للكشف عن صور الاستغلال والاعتداء الجنسيين للأطفال (CSEAI). تقوم Microsoft بإبلاغ المركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، كما هو مطلوب بموجب القانون الأمريكي. عندما يقوم المستخدمون بتحميل الملفات لتحليلها أو معالجتها، ينشر Copilot المسح الآلي للكشف عن المحتوى الذي قد يؤدي إلى مخاطر أو إساءة استخدام، مثل النص الذي قد يتعلق بأنشطة غير قانونية أو تعليمات برمجية ضارة.

• شروط الاستخدام ومدونة قواعد السلوك.    يجب على المستخدمين الالتزام بشروط الاستخدام ومدونة السلوك المعمول بها في اتفاقية خدمات Microsoft، وبيان خصوصية Microsoft، الذي يبلغهم، من بين أمور أخرى، بالاستخدامات المسموح بها وغير المسموح بها ونتائج انتهاك الشروط. توفر شروط الاستخدام أيضا إفصاحات إضافية للمستخدمين وتعمل كمرجع للمستخدمين للتعرف على Copilot. قد يتم تعليق المستخدمين الذين يرتكبون انتهاكات خطيرة أو متكررة مؤقتا أو نهائيا من الخدمة.

• الملاحظات والمراقبة والإشراف.    تعتمد تجربة Copilot على الأدوات الموجودة التي تسمح للمستخدمين بإرسال الملاحظات، والتي تتم مراجعتها من قبل فرق عمليات Microsoft. علاوة على ذلك، سيستمر نهجنا في تعيين المخاطر وقياسها وإدارتها في التطور مع معرفة المزيد، ونجري بالفعل تحسينات استنادا إلى الملاحظات التي تم جمعها خلال فترات المعاينة.

تعرف على المزيد حول الذكاء الاصطناعي المسؤولة

تقرير شفافية الذكاء الاصطناعي المسؤول من Microsoft

مبادئ Microsoft الذكاء الاصطناعي

موارد الذكاء الاصطناعي المسؤولة من Microsoft

دورات Microsoft Azure Learning التدريبية حول الذكاء الاصطناعي المسؤول

تعرف على المزيد حول Microsoft Copilot

Microsoft Copilot الأسئلة المتداولة

حول هذا المستند

© 2024 Microsoft Corporation. كافة الحقوق محفوظة. يتم توفير هذا المستند "كما هو" ولأغراض إعلامية فقط. قد تتغير المعلومات وطرق العرض المعبر عنها في هذا المستند، بما في ذلك عنوان URL ومراجع أخرى لموقع ويب على الإنترنت، دون إشعار. أنت تتحمل خطر استخدامه. بعض الأمثلة للتوضيح فقط وهي وهمية. لا يوجد اقتران حقيقي مقصود أو مستنتج.

ولا يقصد بهذه الوثيقة أن تكون، ولا ينبغي تفسيرها على أنها تقدم، مشورة قانونية. قد يكون للولاية القضائية التي تعمل فيها متطلبات تنظيمية أو قانونية مختلفة تنطبق على نظام الذكاء الاصطناعي الخاص بك. استشر أخصائيا قانونيا إذا كنت غير متأكد من القوانين أو اللوائح التي قد تنطبق على نظامك، خاصة إذا كنت تعتقد أن هذه قد تؤثر على هذه التوصيات. يجب أن تدرك أنه لن تكون كل هذه التوصيات والموارد مناسبة لكل سيناريو، وعلى العكس من ذلك، قد تكون هذه التوصيات والموارد غير كافية لبعض السيناريوهات.

تاريخ النشر: 10/01/2024

تاريخ التحديث الأخير: 10/01/2024