Copilot ב- Bing: הגישה שלנו ליישום אחראי של בינה מלאכותית

ברמת המודל, העבודה שלנו התחילה עם ניתוחים גישוש של GPT-4 בסוף הקיץ של 2022. הדבר כלל ביצוע בדיקות נרחבות של צוות אדום בשיתוף פעולה עם OpenAI. בדיקה זו תוכננה כדי להעריך כיצד הטכנולוגיה העדכנית ביותר ת לפעול ללא כל אמצעי הגנה נוספים שחלים עליה. הכוונה הספציפית שלנו בשלב זה הייתה ליצור תגובות מזיקות, להציג שדרות פוטנציאליות לשימוש לרעה ולזהות יכולות ומגבלות. הלמידה המשולבת שלנו ברחבי OpenAI ו- Microsoft תרמה להתקדמות בפיתוח מודלים, ובבשבילנו ב- Microsoft, הודיעו לנו על ההבנה של סיכונים ותרמו לאסטרטגיות צמצום סיכונים מוקדם עבור Copilot ב- Bing.  

בנוסף לבדיקת צוות אדום ברמת המודל, צוות רב-תחומי של מומחים ערך סבבים רבים של בדיקות צוות אדום ברמת היישום בחוויות הבינה המלאכותית של Copilot ב- Bing לפני הפיכתם לזמינים לציבור בתצוגה המקדימה של ההפצה המוגבלת שלנו. תהליך זה עזר לנו להבין טוב יותר כיצד ניתן לנצל את המערכת על-ידי שחקני תואר הפועל ולשפר את צמצום הסיכונים. בודקי לחץ שאינם תואר הפועלים גם העריכו בהרחבה תכונות חדשות של Bing עבור פגיעות וקצרות. לאחר ההפצה, חוויות הבינה המלאכותית החדשות ב- Bing משולבות בתשתית הקיימת של מדידת ייצור ובדיקות של ארגון Bing. לדוגמה, בודקי צוות אדומים מאזורים שונים ומרקעים שונים מנסים באופן שיטתי לסכן את המערכת, וממצאיהם משמשים להרחבת ערכות הנתונים המשמשות את Bing לשיפור המערכת.  

בדיקות צוות אדומות ובדיקות מאמץ יכולות להציג מופעים של סיכונים ספציפיים, אך בקרב משתמשי הייצור יהיו מיליוני סוגים שונים של שיחות עם Copilot ב- Bing. בנוסף, שיחות הן רב-סיבוביות והקשריות, וזיהוי תוכן מזיק בתוך שיחה היא משימה מורכבת. כדי להבין טוב יותר את הפוטנציאל לסיכונים בחוויות הבינה המלאכותית של Copilot ב- Bing, פיתחנו מדדים נוספים של יישום אחראי של בינה מלאכותית הספציפיים לחוויות החדשות של בינה מלאכותית למדידת סיכונים פוטנציאליים כגון שבבירות כלא, תוכן מזיק ותוכן לא מואר. בנוסף, הפעלנו מדידה בקנה מידה בקנה מידה באמצעות קווי צינור אוטומטיים חלקית של מדידה. בכל פעם שה מוצר משתנה, צמצום סיכונים קיימים מתעדכן או צמצום סיכונים חדש מוצע, אנו מעדכנים את קווי הצינור של המדידה כדי להעריך הן את ביצועי המוצר והן את מדדי הבינה המלאכותית האחראית.  

כדוגמה אילוסטרציה, קו צינור המידה האוטומטי החלקי המעודכן עבור תוכן מזיק כולל שני חידושים עיקריים: הדמיות שיחה וביאור אוטומטי של שיחה שאומתה על-ידי בני אדם. תחילה, מומחי בינה מלאכותית אחראית בנו תבניות לתיעד המבנה והתוכן של שיחות שעלולות לגרום לסוגים שונים של תוכן מזיק. תבניות אלה ניתנו לאחר מכן לסוכן שיחה אשר קיים אינטראקציה כמשתמש היפותטי עם Copilot ב- Bing, יוצר שיחות מדומה. כדי לזהות אם שיחות מדומה אלה הכילו תוכן מזיק, השתמשנו בקווים מנחים המשמשים בדרך כלל את המומחים הפתולוגים כדי לתייג נתונים ושינו אותם לשימוש על-ידי GPT-4 כדי לתייג שיחות בקנה מידה רחב, תוך שיפור הקווים המנחים עד שהיה הסכם משמעותי בין שיחות עם תוויות מודל ושיחות עם תוויות אנושיות. לבסוף, השתמשנו בשיחות עם תוויות המודל לחישוב מדד אחראי של בינה מלאכותית הלוכד את היעילות של Copilot ב- Bing בהפחתת תוכן מזיק.   

קווי הצינור של המידות מאפשרים לנו לבצע מדידה במהירות עבור סיכונים פוטנציאליים בקנה מידה גדול. כאשר אנו מזהים בעיות חדשות במהלך תקופת התצוגה המקדימה ובבדיקה המתמשכת של הצוות האדום, אנו ממשיכים להרחיב את ערכות המידה כדי להעריך סיכונים נוספים.  

כאשר זיהינו סיכונים פוטנציאליים ולהשתמש לרעה בתהליכים כמו בדיקות צוות אדומות ובדיקות מתח ומדדנו אותם עם הגישות החדשניות המתוארות לעיל, פיתחנו צמצום סיכונים נוסף לאלה המשמשים לחיפוש מסורתי. להלן, אנו מתארים כמה מסיכונים אלה. נמשיך לנטר את החוויות Copilot ב- Bing בינה מלאכותית כדי לשפר את ביצועי המוצרים ואת צמצום הסיכונים.  

הפצה בשלבים, הערכה מתמשכית. אנו מחויבים ללמוד ולשפר את הגישה שלנו ליישום אחראי של בינה מלאכותית באופן רציף ככל שהטכנולוגיות וההתפתחות של המשתמשים מתפתחים. אסטרטגיית ההפצה המצטברת שלנו הייתה חלק מרכזי באופן העברת הטכנולוגיה שלנו בבטחה מהמעבדות לעולם, ואנו מחויבים לתהליך מחושב ומבוקר כדי להבטיח את היתרונות של Copilot ב- Bing. הגבלת מספר האנשים בעלי גישה במהלך תקופת התצוגה המקדימה אפשרה לנו לגלות כיצד אנשים משתמשים ב- Copilot ב- Bing, כולל האופן בו אנשים עלולים לעשות בו שימוש לרעה, כדי שנוכל לנסות לצמצם בעיות מתפתחות לפני הפצה רחבה יותר. לדוגמה, אנו דורשים מהמשתמשים לבצע אימות באמצעות חשבון Microsoft שלהם לפני שאנו ניגשים לחוויה החדשה המלאה של Bing. משתמשים לא מאומתים יכולים לגשת לתצוגה מקדימה מוגבלת בלבד של החוויה. שלבים אלה למנוע שימוש לרעה ולעזור לנו (לפי הצורך) לבצע פעולה מתאימה בתגובה להפרות של קוד ההתנהגות.  אנו משתתפים בשינויים Copilot ב- Bing כדי לשפר את ביצועי המוצר, לשפר צמצום סיכונים קיימים וליישם צמצום סיכונים חדש בתגובה ללמידה שלנו במהלך תקופת התצוגה המקדימה.  

הארתקעות בתוצאות החיפוש. כפי שצוין לעיל, Copilot ב- Bing מיועד לספק תגובות הנתמכות על-ידי המידע בתוצאות חיפוש באינטרנט כאשר המשתמשים מחפשים מידע. לדוגמה, המערכת מסופקת עם טקסט מתוך תוצאות החיפוש המובילות והוראות באמצעות Metaprompt כדי להקרקע את התגובה שלו. עם זאת, בסיכום תוכן מהאינטרנט, Copilot ב- Bing לכלול מידע בתגובה שלו שאינו נמצא במקורות הקלט שלו. במילים אחרות, הוא עשוי להביא לתוצאות לא מוארכות. ההערכות המוקדמות שלנו ציינו שהתוצאות הלא מוארות בצ'אט עשויות להיות נפוצות יותר עבור סוגים מסוימים של בקשות או נושאים מאשר אחרים, כגון בקשה לחישובים מתמטיים, מידע פיננסי או מידע שוק (לדוגמה, רווחים מהחברה, נתוני ביצועי מניות) ומידע כגון תאריכי אירועים מדויקים או מחירים ספציפיים של פריטים. המשתמשים צריכים תמיד לנקוט משנה זהירות ולהשתמש בשיקול דעת מיטבי בעת הצגת תוצאות חיפוש מסוכמת, בין אם בדף תוצאות החיפוש או בחוויה של הצ'אט. נקטנו בכמה אמצעים כדי לצמצם את הסיכון שמשתמשים עשויים להשתמש בתוכן שלא מוארק יתר על כנו בתרחישי סיכום ובחוויות צ'אט. לדוגמה, תגובות ב- Copilot ב- Bing המבוססות על תוצאות חיפוש כוללות הפניות לאתרי המקור עבור משתמשים כדי לאמת את התגובה וללמוד עוד. משתמשים ניתנים גם עם הודעה מפורשת שהם מקיים אינטראקציה עם מערכת בינה מלאכותית, ונעצים לבדוק את חומרי המקור של תוצאות האינטרנט כדי לעזור להם להשתמש בשיקול דעתם הטוב ביותר.  

מסווגים מבוססי בינה מלאכותית ומט-הגנה כדי לצמצם סיכונים פוטנציאליים או שימוש לרעה. השימוש ב- LLMs עלול לגרום לתוכן בעייתי שעלול להוביל לסיכונים או לשימוש לרעה. דוגמאות יכולות לכלול פלט הקשור לפגיעה עצמית, אלימות, תוכן גרפי, קניין רוחני, מידע לא מדויק, דיבור שונא או טקסט שעשוי להיות קשור לפעילויות בלתי חוקיות. מסווגים ומטא-הגנה הם שתי דוגמאות של צמצום סיכונים שהושמו ב- Copilot ב- Bing כדי לסייע בהפחתת הסיכון של סוגי תוכן אלה. מסווגים מסווגים טקסט כדי לסמן סוגים שונים של תוכן שעלול להיות מזיק בשאילתות חיפוש, בקשות צ'אט או תגובות שנוצרו. Bing משתמש בסיווגים ובמסנן תוכן המבוססים על בינה מלאכותית, החלים על כל תוצאות החיפוש והתכונות הרלוונטיות; עיצבנו מסווגי בקשות ומסנני תוכן נוספים באופן ספציפי כדי לטפל בסיכונים אפשריים המועלה על-ידי Copilot ב- Bing התוכן. דגלים מובילים לצמצום סיכונים פוטנציאליים, כגון אי-החזרת תוכן שנוצר למשתמש, העברת המשתמש לנושא אחר או ניתוב מחדש של המשתמש לחיפוש מסורתי. חילוף החומרים כולל מתן הוראות למודל להדריך את אופן הפעולה שלו, כולל כך שהמערכת מתנהגת בהתאם לעקרונות הבינה המלאכותית ולציפיות המשתמשים של Microsoft. לדוגמה, המטה-הגנה עשוי לכלול שורה כגון "נהל תקשורת בשפת הבחירה של המשתמש".   

הגנה על פרטיות בחיפוש חזותי Copilot ב- Bing. כאשר משתמשים מעלה תמונה כחלק מהבקשה שלהם לצ'אט, Copilot ב- Bing משתמשים בטכנולוגיה טשטוש פנים לפני שליחת התמונה למודל הבינה המלאכותית. טשטוש פנים משמש כדי להגן על הפרטיות של אנשים בתמונה. הטכנולוגיה הטשטוש בפנים מסתמכת על רמזים תלויי הקשר כדי לקבוע היכן לטשטש ולטשטש את כל הפרצופים. כאשר הפנים מטושטשים, מודל הבינה המלאכותית עשוי להשוות את התמונה המוזנת לאלה של תמונות הזמינות לציבור באינטרנט. כתוצאה מכך, ייתכן ש- Copilot ב- Bing יוכל לזהות שחקן כדורסל מפורסם מתמונה של שחקן זה במגרש כדורסל על-ידי יצירת ייצוג מספרי המשקף את מספר הג'רזי של השחקן, צבע ג'רזי, הנוכחות של חישוק כדורסל וכן הלאה Copilot ב- Bing אינו מאחסן ייצוגים מספריים של אנשים מתוך תמונות שהועלו ולא משתף אותם עם ספקים חיצוניים. Copilot ב- Bing נעשה שימוש בייצוגים מספריים של התמונות שמשתמשים מעלה רק למטרת מענה לבקשות של משתמשים, ולאחר מכן הם נמחקים תוך 30 יום לאחר סיום הצ'אט.    

אם המשתמש מבקש Copilot ב- Bing מידע על תמונה שהועלה, תגובות הצ'אט עשויות לשקף את ההשפעה של טשטוש פנים על היכולת של המודל לספק מידע על התמונה שהועלה. לדוגמה, Copilot ב- Bing מתאר מישהו כבעל פנים מטושטשות.    

מגביל סחף של שיחות. במהלך תקופת התצוגה המקדימה למדנו כי הפעלות צ'אט ארוכות מאוד יכולות לגרום לתגובות שחוזרות על עצמן, לא מועילות או לא תואמות Copilot ב- Bing המיועד של המשתמש. כדי לטפל בסחף שיחה זה, הגבילו את מספר הפניות (החליפיות המכילות הן שאלת משתמש והן תשובה מ- Copilot ב- Bing) לכל הפעלת צ'אט. אנו ממשיכים להעריך גישות נוספות כדי לצמצם בעיה זו.  

העשרת הנחיה. במקרים מסוימים, הבקשה של משתמש עשויה להיות חד-משמעית. במקרה כזה, Copilot ב- Bing להשתמש ב- LLM כדי לסייע בבנייה של פרטים נוספים בהנחיה כדי להבטיח שהמשתמשים יקבלו את התגובה שהם מחפשים. העשרת הנחיה כזו אינה מסתה בידע של המשתמש או בחיפושים שבהם הוא היה קודם, אלא במודל הבינה המלאכותית. שאילתות מתוקנת אלה יהיו גלויות בהיסטוריית הצ'אט של המשתמש, ו, כמו חיפושים אחרים, ניתן למחוק באמצעות פקדים בתוך המוצר.  

התערבות של עיצוב וחוויה של משתמש המרכז על-ידי המשתמש. חוויות עיצוב ומשתמשים המרכזות על-ידי המשתמש הן היבט חיוני של הגישה של Microsoft ליישום אחראי של בינה מלאכותית. המטרה היא לשורש עיצוב המוצר בצרכים ובציפיות של המשתמשים. כאשר משתמשים מקיימים אינטראקציה עם Copilot ב- Bing בפעם הראשונה, אנו מציעים נקודות מגע שונות שנועדו לעזור להם להבין את יכולות המערכת, לחשוף בפניהם Copilot ב- Bing מופעל על-ידי בינה מלאכותית, ולמסור להם מגבלות. החוויה נועדה באופן זה כדי לעזור למשתמשים להפיק את המרב Copilot ב- Bing ולמזער את הסיכון של התחליף. רכיבים של החוויה גם עוזרים למשתמשים להבין טוב יותר Copilot ב- Bing והאינטראקציות שלהם איתם. הצעות אלה כוללות הצעות צ'אט ספציפיות ליישום אחראי של בינה מלאכותית (לדוגמה, כיצד Bing משתמש בבינה מלאכותית? מדוע לא Copilot ב- Bing להגיב על נושאים מסוימים?), הסברים לגבי מגבלות, דרכים שבהן המשתמשים יכולים לקבל מידע נוסף על אופן הפעולה של המערכת ולדווח על משוב, והפניות שניתן לנווט אותן בקלות המופיעות בתגובות כדי להציג למשתמשים את התוצאות והדפים שבהם התגובות מוארות.  

גילוי בינה מלאכותית. Copilot ב- Bing מספקת מספר נקודות מגע לחשיפה משמעותית של בינה מלאכותית, שבהן משתמשים יקבלו הודעה שהם מקיים אינטראקציה עם מערכת בינה מלאכותית וכן הזדמנויות לקבל מידע נוסף על Copilot ב- Bing. העצמת משתמשים באמצעות ידע זה יכולה לעזור להם להימנע מהתתמכות על בינה מלאכותית וללמוד על החוזקות והמגבלות של המערכת.  

הוכחת מדיה.Microsoft Designer הפך את התכונה "אישורי תוכן" לזמינה, המשתמשת בשיטות הצפנה כדי לסמן את המקור, או "הוכחת", של כל התמונות שנוצרו על-ידי בינה מלאכותית שנוצרו ב- Designer. תכונת סימן המים הדיגיטלי הבלתי נראה מציגה את המקור, השעה והתאריך של היצירה המקורית, ולא ניתן לשנות מידע זה. הטכנולוגיה משתמשת בתקנים המוגדרים על-ידי הקואליציה עבור תוכן ואותנטיות (C2PA) כדי להוסיף שכבה נוספת של אמון ושקיפות עבור תמונות שנוצרו על-ידי בינה מלאכותית. Microsoft היא אחת מהתמיכה המשותפת של C2PA ותרמה עם טכנולוגיית הליבה של הוכחת תוכן דיגיטלי. 

תנאי שימוש וקוד התנהגות. משאב זה אחראי לשימוש ב- Copilot ב- Bing. המשתמשים צריכים לעמוד בתנאי השימוש ובקוד ההתנהגות, אשר, בין שאר הדברים, מודיעים להם על שימושים בלתי מורשים ולא זמינים ואת ההשלכות של ההפרה של תנאים. תנאי השימוש גם מספקים גילויים נוספים עבור המשתמשים ומגישים חומר עזר שימושי כדי שהמשתמשים יוכלו ללמוד על Copilot ב- Bing.   

תפעול ותגובה מהירה. בנוסף, Copilot ב- Bing בתהליכי הניטור והתפעול המתבצעים של Copilot ב- Bing כדי לטפל בתנאי השימוש או בקוד ההתנהגות, או מקבלים דוח, המציין שימוש לרעה או הפרות אפשריות של תנאי השימוש או קוד ההתנהגות.  

משוב, ניטור ופיקוח. חוויית Copilot ב- Bing על כלים קיימים המאפשרת למשתמשים לשלוח משוב ולדווח על חששות, אשר נבדקים על-ידי צוותי התפעול של Microsoft. התהליכים התפעוליים של Bing התרחבו גם כדי להתאים לתכונות הכלולות בחוויה של Copilot ב- Bing, לדוגמה , עדכון הדף 'דווח על חשש' כדי לכלול את סוגי התוכן החדשים שהמשתמשים יוצרים בעזרת המודל.   

הגישה שלנו לזיהוי, למדידה והפחתת סיכונים תמשיך להתפתח ככל שנלמד עוד, ואנו כבר משתתפים בשיפורים בהתבסס על משוב שנאסף במהלך תקופת התצוגה המקדימה.     

זיהוי תוכן אוטומטי. כאשר משתמשים מעלה תמונות כחלק מהנחיה לצ'אט, Copilot ב- Bing פריסה של כלים כדי לזהות תמונות של ניצול מיני והתעללות בילדים (CSEAI), במידה רבה טכנולוגיית התאמת קוד Hash של PhotoDNA. Microsoft פיתחה את PhotoDNA כדי לעזור למצוא כפילויות של CSEAI ידוע. Microsoft מדווחת כל CSEAI נראה לעין למרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC), כפי שנדרש על-ידי חוק ארצות הברית. כאשר משתמשים מעלה קבצים לניתוח או לתהליך, Copilot פורס סריקה אוטומטית כדי לזהות תוכן שעלול להוביל לסיכונים או לשימוש לרעה, כגון טקסט שעשוי להיות קשור לפעילויות לא חוקיות או לקוד זדוני.

Microsoft ממשיכה לשקול את הצרכים של ילדים וצעירים כחלק מהערכות הסיכון של תכונות חדשות של בינה מלאכותית הגנטית ב- Copilot ב- Bing. כל חשבונות הילד של Microsoft שמזהים את המשתמש כגיל 13 או כפי שצוין אחרת לפי חוקים מקומיים אינם יכולים להיכנס כדי לגשת לחוויה החדשה המלאה של Bing.   

כמתואר לעיל, עבור כל המשתמשים יישמנו אמצעי הגנה שמצמצם תוכן שעלול להיות מזיק. ב- Copilot ב- Bing, התוצאות מוגדרות כמו במצב קפדני של החיפוש הבטוח של Bing, הכולל את רמת ההגנה הגבוהה ביותר בחיפוש הראשי של Bing, וכך מונעות ממשתמשים, כולל משתמשים בני נוער, להיחשף לתוכן שעלול להיות מזיק. בנוסף למידע שסיפקנו במסמך זה ובשאלות הנפוצות שלנו בנוגע לתכונות הצ'אט, זמין כאן מידע נוסף על האופן שבו Copilot ב- Bing פועל כדי להימנע מתגובה לתוכן פוגע בלתי צפוי בתוצאות חיפוש.  

Microsoft התחייבה לא לספק פרסום בהתאמה אישית בהתבסס על התנהגות מקוונת לילדים שתאריך הלידה שלהם בחשבון Microsoft מזהה אותם כמי שמגילם קטן מ- 18. הגנה חשובה זו תתרחב לפרסומות בתכונות Copilot ב- Bing אלה. המשתמשים עשויים לראות פרסומות הקשריות בהתבסס על השאילתה או ההנחיה המשמשת לקיום אינטראקציה עם Bing.  

כדי לבטל את הפוטנציאל לשינוי בבינה מלאכותית, עלינו לבנות אמון בטכנולוגיה על-ידי העצמת אנשים כדי להבין כיצד נעשה שימוש בנתונים שלהם ולספק להם אפשרויות ופקדים בעלי משמעות על הנתונים שלהם. Copilot ב- Bing נועדה לתעדף את הסוכנות האנושית, על-ידי מתן מידע על אופן הפעולה של המוצר וכן על-ידי המגבלות שלו, ועל-ידי הרחבת אפשרויות הצרכן ופקדי הצרכן העומדים לרשותנו כדי Copilot ב- Bing אלה.   

הצהרת הפרטיות של Microsoft מספקת מידע על שיטות הפרטיות השקופים שלנו להגנה על הלקוחות שלנו, ומגדירה מידע על אמצעי הבקרה שמספקים למשתמשים שלנו את היכולת להציג ולנהל את הנתונים האישיים שלהם. כדי להבטיח שלמשתמשים יש את המידע הדרוש להם כאשר הם מקיימים אינטראקציה עם תכונות השיחה החדשות של Bing, חשיפת מידע בתוך המוצר מודיעה למשתמשים שהם עוסקים במוצר בינה מלאכותית, ואנו מספקים קישורים לשאלות נפוצות והסברים נוספים לגבי אופן התמיכה של תכונות אלה. Microsoft תמשיך להאזין למשוב של המשתמשים ותוסיף פרטים נוספים על תכונות השיחה של Bing בהתאם לצורך כדי לתמוך בהבנת אופן הפעולה של המוצר.   

Microsoft מספקת גם למשתמשים שלה כלים חזקים למימוש זכויותיהם על הנתונים האישיים שלהם. עבור נתונים הנאספים על-ידי Copilot ב- Bing, כולל באמצעות שאילתות והנחיות של משתמשים, לוח המחוונים של הפרטיות של Microsoft מספק למשתמשים מאומתים (מחוברים) כלים לממש את זכויות נושא הנתונים שלהם, כולל על-ידי מתן היכולת של משתמשים להציג, לייצא ולמחוק היסטוריית שיחות מאוחסנת. Microsoft ממשיכה לקבל משוב על האופן שבו הם רוצים לנהל את החוויה החדשה של Bing, כולל השימוש בחוויות ניהול נתונים בהקשר.   

Copilot ב- Bing מכבדת גם בקשות תחת הזכות האירופית שנשכחו, לאחר התהליך ש- Microsoft פיתחה ומעודנת עבור פונקציונליות החיפוש המסורתית של Bing. כל המשתמשים יכולים לדווח על חששות בנוגע לתוכן ותגובות שנוצרו כאן, והמשתמשים האירופאיים שלנו יכולים להשתמש בטופס זה כדי לשלוח בקשות לחסימת תוצאות חיפוש באירופה במסגרת הזכות לשכוח.   

Copilot ב- Bing יכבד את אפשרויות הפרטיות של המשתמשים, כולל אלה שבוצעו בעבר ב- Bing, כגון הסכמה לאיסוף נתונים והשימוש בהם התבקשים באמצעות כרזות ופקדים של קבצי Cookie הזמינים בלוח המחוונים של הפרטיות של Microsoft. כדי לעזור לאפשר אוטונומיות וסוכנות של משתמשים לקבל החלטות מושכלות, השתמשנו בתהליך הסקירה הפנימי שלנו כדי לבחון בקפידה את האופן שבו בחירות מוצגות למשתמשים. 

בנוסף לפקדים הזמינים דרך לוח המחוונים של הפרטיות של Microsoft, המאפשר למשתמשים להציג, לייצא ולמחוק את היסטוריית החיפוש שלהם, כולל רכיבים של היסטוריית הצ'אט שלהם, משתמשים מאומתים אשר אפשרו את תכונת היסטוריית הצ'אט במוצר יכולים להציג, לגשת להיסטוריית הצ'אט ולהוריד אותה באמצעות פקדים בתוך המוצר. המשתמשים עשויים לנקות צ'אטים ספציפיים מהיסטוריית הצ'אט או לכבות את הפונקציונליות של היסטוריית הצ'אט לחלוטין בכל עת על-ידי ביקור בדף הגדרות Bing. המשתמשים יכולים גם לבחור אם לאפשר התאמה אישית לגשת לחוויה מותאמת אישית יותר עם תשובות מותאמות אישית. המשתמשים יכולים להצטרף ולבטל את ההצטרפות להתאמה אישית בכל עת בהגדרות הצ'אט בדף 'הגדרות Bing'.  ניקוי צ'אטים ספציפיים מהיסטוריית הצ'אט מונע את השימוש בהם לצורך התאמה אישית.  
 
מידע נוסף על היסטוריית הצ'אט וההתאמה האישית מסופק למשתמשים בשאלות Copilot ב- Bing נפוצות. 

Copilot ב- Bing נבנה תוך התחשבות בפרטיות, כך שנתונים אישיים נאספים ומשמשים רק לפי הצורך ונשמרים לא יותר מהנדרש. כפי שצוין לעיל, התכונה 'חיפוש חזותי ב- Copilot ב- Bing' פורסת מנגנון שמטשטש פנים בתמונות בזמן ההעלאה על-ידי המשתמשים, כך שתמונות הפנים לא יעובדו או יאוחסנו עוד יותר. מידע נוסף על הנתונים האישיים ש- Bing אוסף, אופן השימוש בהם והאופן שבו הם מאוחסנים ונמחקים זמין בהצהרת הפרטיות של Microsoft, המספקת גם מידע על תכונות הצ'אט החדשות של Bing.   

ל- Copilot ב- Bing יש מדיניות שמירה ומחיקה של נתונים כדי להבטיח שנתונים אישיים שנאספו באמצעות תכונות הצ'אט של Bing נשמרים רק לפי הצורך.   

נמשיך ללמוד ולפתח את הגישה שלנו באספקת Copilot ב- Bing, וכך נמשיך לפעול בכל התחומים כדי ליישר את חדשנות הבינה המלאכותית שלנו עם ערכים אנושיים וזכויות בסיסיות, כולל הגנה על משתמשים צעירים ועל פרטיות.   

בדומה Copilot ב- Bing, כאשר משתמש קצה של Copilot עם הגנת נתונים מסחרית מזין בקשה לממשק, הבקשה, השיחה המיידית, תוצאות החיפוש המובילות ו- Metaprompt נשלחים כקלט ל- LLM. המודל יוצר תגובה באמצעות היסטוריית השיחות המיידית והבקשה להקשר של הבקשה, המטה-פרוייקט כדי ליישר תגובות לעקרונות הבינה המלאכותית של Microsoft ולציפיות המשתמשים, והתוצאות של תוצאות החיפוש לתשובות מבוססות בתוכן קיים בעל דירוג גבוה מהאינטרנט. פעולה זו פועלת בדיוק כמו Copilot ב- Bing כפי שמתואר לעיל במסמך זה, למעט האפשרות Copilot עם הגנה מסחרית על נתונים מסתמכת רק על היסטוריית שיחות מיידית (לא היסטוריית שיחות אחרונה) עקב היסטוריית צ'אט מאוחסנת שלא נתמכת כעת. Designer וחיפוש חזותי זמינים כעת בגירסה זו. 

כמו טכנולוגיות טרנספורמציה אחרות, נצלת היתרונות של בינה מלאכותית אינה מבוססת על סיכונים, ו חלק מרכזי בתוכנית הבינה המלאכותית האחראית של Microsoft נועד לזהות סיכונים פוטנציאליים, למדוד את ההפצה שלהם ולבנות צמצום סיכונים כדי לטפל בהם. שוב, התיאור לעיל של המאמצים של Microsoft לזהות, למדוד ולצמצם סיכונים אפשריים עבור Copilot ב- Bing חל גם על גירסה זו, עם כמה הבהרות לגבי צמצום הסיכונים המתוארים להלן: 

הפצה בשלבים, הערכה מתמשכית. בדומה ל- Copilot Bing, עבור Copilot עם הגנת נתונים מסחרית, נקטנו גם בגישה של שחרור מצטבר. ב- 18 ביולי 2023, Copilot עם הגנה על נתונים מסחריים הפכה לזמינה כתצוגה מקדימה ללא תשלום עבור לקוחות ארגוניים זכאים בעלי חשבונות M365 ספציפיים להפעלה עבור משתמשי הקצה הארגוניים שלהם. שלושים (30) יום לאחר שהודיעו ללקוחות ארגוניים זכאים, Copilot עם הגנת נתונים מסחרית הפכה ל"מופעלת כברירת מחדל" עבור אותם לקוחות. בנוסף, Copilot עם הגנה מסחרית על נתונים הפך לזמין בחשבונות M365 ספציפיים של הסגל החינוכי. Copilot עם הגנה מסחרית על נתונים הפכה לזמינה באופן כללי ללקוחות ארגוניים מסוימים ב- 1 בדצמבר 2023. בעתיד, בכוונתנו להרחיב את הגישה ל- Copilot עם הגנה מסחרית על נתונים כדי לאפשר למשתמשים Microsoft Entra מזהה יותר.

תנאי שימוש וקוד התנהגות. משתמשי קצה של Copilot עם הגנה מסחרית על נתונים חייבים לציית לתנאי השימוש של משתמש הקצה. תנאי שימוש אלה מודיעים למשתמשי קצה על שימושים מתינים שאינה מזערית ואת ההשלכות של ההפרה של תנאים.  

תפעול ותגובה מהירה. אנו משתמשים גם Copilot ב- Bing הפיקוח המתמשך והתהליכים התפעוליים כדי לטפל כאשר Copilot עם הגנה מסחרית על נתונים מקבלים אותות, או מקבלים דוח, המציין שימוש לרעה או הפרות אפשריות של תנאי השימוש למשתמשי הקצה. 

משוב, ניטור ופיקוח. Copilot עם הגנה מסחרית על נתונים משתמש באותו כלי כמו Copilot ב- Bing כדי שמשתמשים יוכלו לשלוח משוב ולדווח על חששות, אשר נבדקים על-ידי צוותי הפעולות של Microsoft. Copilot ב- Bing התפעוליים של Copilot ב- Bing התרחבו גם כדי להכיל את התכונות בתוך Copilot עם חוויות מסחריות של הגנה על נתונים, לדוגמה, עדכון הדף 'דווח על חשש' כדי לכלול את סוגי התוכן החדשים שמשתמשים יוצרים בעזרת המודל.  

כדי להבטיח שלמשתמשי קצה יהיה את המידע הדרוש להם כאשר הם מקיים אינטראקציה עם Copilot עם הגנה מסחרית על נתונים, קיים תיעוד מוצר זמין בתחתית מסמך זה, כולל שאלות נפוצות ודפים למידע נוסף. 

הנחיות ותגובות שנוצרו על-ידי משתמשי קצה ב- Copilot עם הגנה על נתונים מסחריים מעובדים ונחסנים בהתאם לתקנים של טיפול בנתונים ארגוניים. ה- Copilot עם הצעה מסחרית להגנה על נתונים זמינה בשלב זה רק ללקוחות ארגוניים ולמשתמשי הקצה המבוגרים המורשים שלהם, ולכן איננו צופים וילדים או צעירים להיות משתמשי קצה של Copilot עם הגנת נתונים מסחרית בשלב זה. בנוסף, Copilot עם הגנה מסחרית על נתונים אינה מספקת פרסום ממוקד התנהגותי למשתמשי קצה. במקום זאת, כל הפרסומות המוצגות הן רק פרסומות רלוונטיות בהקשר.  

מסמך זה מהווה חלק ממאמץ נרחב יותר ב- Microsoft לתרגל את עקרונות הבינה המלאכותית שלנו. לקבלת מידע נוסף, ראה:

הגישה של Microsoft ליישום אחראי של בינה מלאכותית

תקן הבינה המלאכותית האחראית של Microsoft

משאבי הבינה המלאכותית האחראית של Microsoft  

קורסי Microsoft Azure Learning בנושא יישום אחראי של בינה מלאכותית  

מבוא ל- Bing החדש  

תנאי שימוש וקוד התנהגות

שאלות נפוצות

מבט כולל על Copilot עם הגנה מסחרית על נתונים

תנאי שימוש למשתמשי קצה

שאלות נפוצות