תכונות סוכן ניסיוני

במאמר זה

• מדוע האבטחה חשובה

• עקרונות אבטחת סוכן ופרטיות

• הפוך תכונות סוכן ניסוייות לזמינות

• גישת יישום בסביבת עבודה של סוכן

• גישה לקובץ בסביבת עבודה של סוכן

• בעיות ידועות

מדוע יש חשיבות לאבטחה

בינה מלאכותית סוכןית כוללת יכולות רבות-עוצמה כיום - לדוגמה, היא יכולה להשלים משימות מורכבות רבות בתגובה לבקשות המשתמש, וכיצד משתמשים מקיימים אינטראקציה עם המחשבים שלהם. עם הצגת יכולות אלה, מודלים של בינה מלאכותית עדיין עשויים להתמודד עם מגבלות פונקציונליות במונחים של אופן הפעולה שלהם, ומדי פעם עלולות להזיות ולהפיק פלטים בלתי צפויים. בנוסף, אפליקציות סוכן של בינה מלאכותית מציגות סיכוני אבטחה חדשניים, כגון הזרקת בקשות מרובות (XPIA), שבה תוכן זדוני המוטבע ברכיבים או במסמכים של ממשק משתמש יכול לעקוף הוראות סוכן, מה שמוביל לפעולות לא מכוונות כגון הסרת נתונים או התקנה של תוכנות זדוניות. אנו ממליצים לך לקרוא מידע זה ולהבין את השלכות האבטחה של הפעלת סוכן במחשב שלך. 

כאשר אנו מתחילים לבנות יכולות סוכן ב- Windows, המחויבות שלנו היא לכלול בקרות אבטחה ופרטיות חזקות המעצישות את הלקוחות לחקור בבטחה את הפוטנציאל שלהם בתמיכה של הנחיות ברורות ומרכבות מתאימות המונעת על-ידי יעדים אלה.

1. אי התכחשות : כל הפעולות של סוכן ניתנות להבחנה וניתן להבחין ביניהן לבין אלה שננקטו על-ידי משתמש.

2. סודיות: סוכנים הנאספים, מצרפים או משתמשים באופן אחר בנתונים מוגנים של משתמשים עומדים בתקני האבטחה והפרטיות של הנתונים שהם צורכים או עולים עליהם.

3. הרשאה : המשתמשים מאשרים את כל השאילתות עבור נתוני משתמש וכן פעולות שבוצעו.

עקרונות אבטחה ופרטיות סוכן

אבטחת סוכני בינה מלאכותית דורשת ערכת עקרונות מקיפה שמבטיחה שהם יתנהגו בהתאם לכוונת המשתמש תוך שמירה על הנתונים שלהם.

1. סוכנים הם ישויות אוטונו מינויות. הם חשופים לתקוף באותם דרכים כל משתמש או רכיבי תוכנה אחרים. הפעולות שלהם חייבות להיות מסוגלות להיות כלולות.

2. הסוכנים חייבים להיות מסוגלים להפיק יומני רישום המחלוקה לרמות של הפעילויות שלהם. Windows אמור להיות מסוגל לאמת פעולות אלה באמצעות יומן ביקורת ברור שלא כדין.

3. הסוכנים צריכים לספק אמצעי לפיקוח על הפעילויות שלהם. פעילויות רבות של סוכנים הן תוכניות צבירה המכילות שלבים מרובים. המשתמשים אמורים להיות מסוגלים לסקור את השלבים ולאשר את התוכנית ולנטר את ביצוע התוכנית. הסוכנים חייבים להיות מסוגלים לבקש באופן מפורש הרשאה או החלטה של משתמש במידת הצורך.

4. הסוכנים צריכים לפעול תמיד בהתאם לעקרונות ההרשאה המעטה ביותר, ולא ניתן להעניק להם הרשאות או יכולות שחורגות מההרשאות של המשתמש ביוזמת המשתמש, כולל זכויות ניהול. הרשאות סוכן מורשה צריכות להיות פרטניות, ספציפיות וגבולות זמן. הסוכנים חייבים להיות מסוגלים לגשת למידע רגיש בלבד (לדוגמה, נתוני כרטיס אשראי) בהקשרים ספציפיים המורשים על-ידי המשתמש, כגון לשם ביצוע פעולות ספציפיות, כגון בעת אינטראקציה עם יישומים ספציפיים או באתרי אינטרנט שצוינו.

5. לישויות במערכת – מנהל מערכת, מערכת מקומית וכדומה – לא אמורות להיות גישה מיוחדת לסוכן שאינו הבעלים שהוא פועל בשמו.

6. Windows נועד לעזור לסוכנים לציית להתחייבויות של Microsoft בהצהרת הפרטיות של Microsoft ובהסכם אחראי של בינה מלאכותית Standard. Windows יתמוך בסוכנים בעיבוד נתונים למטרות מוגדרות בבירור, ויבטיח שקיפות וסומך. עיין בדוח הפרטיות של Microsoft לקבלת פרטים על המחויבויות שלנו לשמירה אחראית על הבינה המלאכותית תוך הגנה על פרטיות וזכויות בסיסיות אחרות.

פיתוח סוכן ואבטחה הקשורים לבינה מלאכותית ממשיכים להיות שדה מחקר מהיר עם השתתפות פעילה מ- Microsoft בשותפות עם קהילת האבטחה רחבה יותר. כחלק מהמחויבות של Microsoft ל'יוזמה העתידית המאובטחת', עזרה למשתמשים, לעסקים ולמפתחים לטפל באתגרים אלה היא העדיפות העליונה שלנו כאשר אנשים מתחילים לקיים אינטראקציה עם סוכנים כחלק מזרימות העבודה היומיומיות שלהם.

הפוך תכונות של סוכן ניסיוני לזמינות

הגדרת התכונות של סוכן ניסיוני מבוטלת כברירת מחדל. לתכונה זו אין יכולות בינה מלאכותית ב משלה, זוהי תכונת אבטחה לסוכנים כמו Copilot Actions. הפעלת לחצן דו-מצבי זה מאפשרת ליצור חשבון סוכן נפרד וסביבת עבודה נפרדת במכשיר, ומספקת שטח כלול כדי לשמור על פעילות סוכן בנפרד מהמשתמש.  

הגדרת התכונות הניסיוניות של סוכן נמצאת כעת בתצוגה מקדימה, לאיסוף וללמידה ממשוב כדי למקד את החוויה. במהלך תקופת התצוגה המקדימה שלו, נמשיך להוסיף בקרות אבטחה ופרטיות פרטניות יותר לפני שהיא תהיה זמינה באופן כללי.  

פעולות Copilot, הנמצאות כעת בתצוגה מקדימה עבור משתתפי Windows Insider ב- Copilot Labs, משתמשות בפונקציונליות זו, לקבלת מידע נוסף, ראה Copilot ב- Windows: הפריסה של פעולות Copilot למשתתפי Windows Insider | הבלוג של Windows Insider.  

רק משתמש ניהולי של המכשיר יכול להפוך הגדרה זו לזמינה, ולאחר שהיא זמינה, היא זמינה עבור כל המשתמשים במכשיר, כולל מנהלי מערכת אחרים ומשתמשים רגילים.   

הגדרת התכונה סוכן ניסיוני מאפשרת:

• יצירת חשבונות סוכן המספקים לסוכנים חשבון נפרד משלהם במכשיר שלך בעת פעולה בשמך. Windows משתמש בגישה בשלבים כדי להוסיף כללים מחמירים יותר עבור חשבונות סוכן בהפצה הקרובה.

• יצירת סביבת העבודה של הסוכן שבה סוכנים יכולים לעבוד במקביל עם משתמש אנושי, ובמקביל לאפשר בידוד זמן ריצה ואישור בטווח. פעולה זו מספקת לסוכן יכולות כגון שולחן עבודה משלו, תוך הגבלת הניראות והגישה לנציג בפעילות שולחן העבודה של המשתמש.

• אפליקציות סוכן כגון Copilot יכולות לבקש ולקבל גישה לשש התיקיות הנפוצות הללו במדריך הכתובות של פרופילי המשתמשים שלך בזמן שאתה פועל בסביבת העבודה של הסוכן: מסמכים, הורדות, שולחן עבודה, מוסיקה, תמונות וסרטוני וידאו.

שלבים להפצת תכונות סוכן ניסיוניות לזמינות:

1. כניסה ל- Windows באמצעות חשבון מנהל מערכת

2. באפליקציה 'הגדרות' במכשיר Windows שלך, בחר מערכת > רכיבי בינה מלאכותית > סוכן ניסיוני

גישת יישום בסביבת עבודה של סוכן

בעת הפעלת סביבת העבודה של הסוכן, ליישום הסוכן יש גישה ליישומים הזמינים לכל המשתמשים כברירת מחדל. כדי להגביל את הגישה, באפשרותך להתקין יישומים עבור משתמשים ספציפיים או במיוחד עבור הסוכנים שלך.

גישה לקובץ בסביבת עבודה של סוכן

חשבונות סוכן הם בעלי גישה מוגבלת למדריך הכתובות של פרופילי המשתמשים שלך (C:\Users\<username>\) בזמן שאתה פועל בסביבת העבודה של הסוכן. אם סוכן זקוק לגישה לקבצים במדריך כתובות זה, Windows מעניק גישת קריאה וכתיבה לתיקיות הידועות הבאות: מסמכים, הורדות, שולחן עבודה, סרטוני וידאו, תמונות, מוסיקה כאשר ההגדרה זמינה. ייתכן שתיקיות אלה נמצאות במיקום הרגיל, או שנותבת אותן מחדש במקום אחר במחשב הקבצים.

כדי להגביל את הגישה לתיקיות אלה, בטל את הגדרת התכונה הניסיונית סוכן.

1. באפליקציה 'הגדרות' במכשיר Windows שלך, בחר מערכת > רכיבי בינה מלאכותית > סוכן ניסיוני

2. כיבוי ההגדרה

חשבונות סוכן יכולים לגשת לכל התיקיות שלמשתמשים מאומתים יש גישה אליהם, לדוגמה, פרופילי משתמשים ציבוריים.

בעיות ידועות

אתה עשוי להתמודד עם בעיות אלה ב- Build מס' 26220.7262:

• Windows לא יישן בזמן ש- Copilot קיים שיחות פעילות.

  • פתרון עוקף: סגור שיחות של פעולות Copilot או סגור את Copilot על-ידי בחירתו מהמגש, לחיצה עליו באמצעות לחצן העכבר הימני ובחירה באפשרות "צא".

• ייתכן שתראה אזהרה "מישהו אחר עדיין משתמש במחשב זה. אם תכבה כעת, הם יאבדו עבודה שלא נשמרה". בעת ניסיון לכבות או להפעיל מחדש את מכשיר Windows עקב שיחות פעילות של פעולות Copilot.

  • פתרון עוקף: סגור שיחות של פעולות Copilot או סגור את Copilot על-ידי בחירתו מהמגש, לחיצה עליו באמצעות לחצן העכבר הימני ובחירה באפשרות "צא".

• משתמשים ארגוניים בעלי ניהול הרשאות של נקודת Intune עשויים לראות פרופילים מנוהלים שנוצרו עבור חשבונות המשתמשים של סוכן שלא ינוקויו כאשר השיחה של פעולת Copilot נסגרת או שהיישום יוצא. פרופילים אלה מסתייים בדרך כלל בסימן דולר, כלומר: _$, וממוקמים לצד חשבונות סוכן משתמש בתיקיית המשתמשים של Windows (בדרך כלל c:\users).

  • פתרון: Microsoft מודעת לבעיה זו ועובדת על תיקון שיש לנקות Intune פרופילים. ​​​​​​​

​​​​​​​