תחילת העבודה עם 'מאמן הקריאה'

שיטות עבודה אחראיות עבור בינה מלאכותית גנאית

עבור התכונה 'יצירת סיפור', מספר עקרונות ו מעקות נמצאים במקום כדי להבטיח שיטות עבודה ליישום אחראי של בינה מלאכותית. ייתכן שתוכן שנוצר על-ידי בינה מלאכותית לא תמיד יהיה תואם לתכונה או לייצוג שווה של זהות, דת או תרבות ספציפיים. השתמש באפליקציה זו עם פיקוח של אפוטרופוס או מחנך. בשלב זה, נתוני התלמידים משמשים לתרגל את המודלים המשמשים כמקור.

התהליך המשמש ליצירת סיפור מנחים באופן נרחב עבור איכות, בטיחות והתאמה לגיל בהתאם להנחיות של Microsoft. 'מאמן הקריאה' משתמש ב'בטיחות תוכן של Azure AI' כדי לזהות ולסנן תוכן סיפור עבור שנאה, גסות, פגיעה עצמית, שפה מינית או מפורשת ואלימות. בנוסף, רשימת מילים ששומרת על מסנן שימוש הקשרי בלתי הולם במילים הקשורות לתוכן לא בטוח לילדים, לפוליטיקה, לנוהלי תרבות ספציפיים וכן הלאה. מודלי בקרת התוכן היי ייעודיים ב- Azure Cognitive Services גם בודקים אם יש תוכן שמציע הצעות מיניות ותקיפה.

טיפול בנתונים

שלושה סוגים של נתונים נוצרים כחלק מחווית 'מאמן הקריאה': נתונים קוליים, נתוני סיפור שנוצרו על-ידי בינה מלאכותית ותוני שימוש. עבור חשבונות בית ספר, כל הנתונים מאוחסנים במשויך ל- Microsoft School מזהה Entra של תלמיד, בבעלות הדייר, ומוגנים בהתאם למדיניות החלה על כל הנתונים המשויכים לזהות דייר. עבור חשבונות אישיים, שאינם של בית הספר, נתוני המשתמש מאוחסנים בשילוב עם חשבון Microsoft של הצרכן שלהם, ומוגן בהתאם למדיניות שחלה על זהות צרכן.

רוב הנתונים אינם מאוחסנים או נגישים באופן המאפשר זיהוי אישי על-ידי Microsoft. האפליקציה אוספת נתוני משתמשים מוגבלים שאינם מזהים כדי להקל על הלמידה לעקוב אחר הישגי הקריאה שלהם ולהתקדם לאורך זמן.

• נתוני קול

  • נתוני הקול מעובדים רק במכשיר של משתמש, במהלך קריאה בקול רם של טקסט כדי לזהות שגיאות הגייה. היא לא מאוחסנת או משותפת עם Microsoft לאחר מכן.

• נתוני סיפור שנוצרו על-ידי בינה מלאכותית

  • נתוני הסיפור שנוצרים זמינים רק לתלמיד, מאוחסנים ומקושרים עם מזהה התלמיד שלהם. הוא אינו משותף עם Microsoft. התלמיד אינו יכול לכלול מידע אישי אודות עצמו בעת יצירת הסיפור. בהתאם לתקנים של Microsoft ליישום אחראי של בינה מלאכותית, הכתבה אינה יכולה לכלול מידע המאפשר זיהוי אישי, והתוכן מבוקר באופן מלא, בטוח ומתאימים לגיל.

• נתוני שימוש

  • נתוני השימוש המשויכים לתלמיד, כגון הקריאה שלו לאורך זמן, וכן סטטיסטיקות שימוש שאינן מזהות, כגון מיקום כללי (עיר, מדינה), נגישים רק להם.