Експериментальні агентські функції

У цій статті

• Чому безпека має значення

• Принципи безпеки та конфіденційності агента

• Увімкнення експериментальних агентських функцій

• Доступ до програм у робочій області агента

• Доступ до файлу в робочій області агента

• Відомі проблеми

Чому безпека має значення

Сьогодні агентський ШІ має потужні можливості, наприклад, він може виконувати багато складних завдань у відповідь на запити користувачів, перетворюючи взаємодію користувачів зі своїми ПК. Коли з'явились ці можливості, моделі ШІ все ще стикаються з функціональними обмеженнями з точки зору поведінки та іноді можуть галюцинувати та виробляти несподівані результати. Крім того, агентські програми AI вводять нові ризики для безпеки, такі як перехресна ін'єкція (XPIA), де шкідливий вміст, вбудований в елементи інтерфейсу користувача або документи, може перевизначити інструкції агента, що призводить до ненавмисних дій, таких як ексфільтрація даних або інсталяція зловмисних програм. Радимо ознайомитися з цією інформацією та зрозуміти наслідки для безпеки ввімкнення агента на комп'ютері. 

Коли ми починаємо нарощувати агентські можливості у Windows, наше зобов'язання полягає в тому, щоб включити надійні елементи керування безпекою та конфіденційністю, які дають змогу клієнтам впевнено досліджувати свій потенціал за допомогою чіткого керівництва та відповідних поручнь, обумовлених цими цілями.

1. Відмова : усі дії агента можна спостерігати та відрізняти від дій користувача.

2. Конфіденційність: Агенти, які збирають, агрегують або іншим чином використовують захищені дані користувачів, відповідають або перевищують стандарти безпеки та конфіденційності даних, які вони споживають.

3. Авторизація : користувачі схвалюють усі запити на дані користувачів, а також виконані дії.

Принципи агентської безпеки та конфіденційності

Для захисту агентів ШІ потрібен надійний набір принципів, які забезпечують належну дію відповідно до намірів користувача під час захисту своїх даних.

1. Агенти є автономними сутностями. Вони сприйнятливі до атак так само, як будь-які інші компоненти користувача або програмного забезпечення. Їх дії повинні бути в змозі містити.

2. Агенти повинні мати змогу створювати журнали, що описують їхні дії. Windows має перевірити ці дії за допомогою контрольного журналу, який проявляє підробку.

3. Агенти повинні надавати засоби для нагляду за своєю діяльністю. Багато дій агентів – це сукупні плани, які містять кілька кроків. Користувачі повинні мати можливість переглянути кроки, затвердити план і стежити за виконанням плану. Агенти повинні мати змогу явно запитувати дозвіл користувача або рішення, якщо це необхідно.

4. Агенти завжди мають діяти відповідно до принципів найменших прав і не повинні мати дозволи або можливості, що перевищують права ініціатора, включно з адміністративними правами. Права вповноваженого агента мають бути деталізовані, специфічні та пов'язані з часом. Агенти мають мати доступ лише до конфіденційної інформації (наприклад, даних кредитних карток) у певних контекстах, авторизованих користувачами, наприклад для виконання певних дій, наприклад взаємодії з певними програмами або на вказаних веб-сайтах.

5. Суб'єкти в системі ( адміністратор, локальна система тощо) не повинні мати особливого доступу до іншого агента, крім власника, який він діє від імені.

6. Windows призначена для того, щоб агенти дотримувалися зобов'язань корпорації Майкрософт, взятих у декларацію корпорації Майкрософт про конфіденційність і відповідального Standard AI. Windows підтримуватиме агентів обробки даних лише для чітко визначених цілей, забезпечення прозорості та довіри. Докладні відомості про наші зобов'язання щодо відповідального просування AI під час захисту конфіденційності та інших основних прав див. у Звіті Корпорації Майкрософт про конфіденційність .

Розробка агентів і безпека, пов'язана з ШІ, як і раніше, є швидко рухомою областю досліджень з активною участю корпорації Майкрософт у партнерстві з ширшою спільнотою безпеки. У рамках зобов'язань Корпорації Майкрософт щодо ініціативи "Безпечне майбутнє", допомога користувачам, компаніям і розробникам у вирішенні цих проблем є нашим головним пріоритетом, оскільки люди починають взаємодіяти з агентами в рамках своїх щоденних робочих циклів.

Увімкнення експериментальних агентських функцій

Параметр експериментальних агентських функцій вимкнуто за замовчуванням. Ця функція не має власних можливостей ШІ, вона є функцією безпеки для таких агентів, як Copilot Actions. Увімкнення цього перемикача дає змогу створити окремий обліковий запис агента та робочу область на пристрої, забезпечуючи місце, що містить, щоб зберігати дії агента окремо від користувача.  

Наразі функція експериментальних агентських функцій доступна в підготовчій версії, щоб збирати та навчатися на основі відгуків, щоб уточнити цей досвід. Під час попереднього перегляду ми й надалі додаватимемо деталізовані елементи керування безпекою та конфіденційністю, перш ніж вони стануть доступними.  

Copilot Actions, в даний час в підготовчій версії для оцінювачів Windows в Copilot Labs, використовує цю функціональність, для отримання додаткової інформації див. Copilot у Windows: Copilot Actions починає розгортатися для оцінювачів Windows | Блоґ оцінювачів Windows.  

Цей параметр може активувати лише адміністратор пристрою, і після ввімкнення його буде ввімкнуто для всіх користувачів на пристрої, включно з іншими адміністраторами та стандартними користувачами. 

Параметр експериментальної агентської функції дає змогу:

• Створення облікових записів агентів , які надають агентам окремий обліковий запис на вашому пристрої під час дії від вашого імені. Windows використовує поетапний підхід, щоб додати суворіші правила для облікових записів агентів у майбутніх випусках.

• Створення робочої області агента, де агенти можуть працювати паралельно з користувачем-людиною, що дає змогу ізоляції середовища виконання та авторизації в межах. Це надає агенту такі можливості, як власний робочий стіл, обмежуючи видимість і доступ агента до дії користувача на робочому столі. За замовчуванням з'єднувачі агентів у реєстрі пристроїв Windows містяться в робочій області агента. Тепер ця версія доступна в збірках для оцінювання 26100.7344+. Для цих з'єднувачів агентів Windows отримає ваш дозвіл на запуск агентами цих з'єднувачів агента. 

• Такі агентські програми, як Copilot, можуть запитувати та отримувати доступ до цих шести часто використовуваних папок у каталозі профілів користувачів під час роботи в робочій області агента: Документи, завантаження, робочий стіл, музика, зображення та відео.

Кроки для ввімкнення експериментальних агентських функцій.

1. Вхід у Windows за допомогою облікового запису адміністратора

2. У програмі "Настройки" на пристрої Windows виберіть елемент Системні > компоненти AI > експериментальні агентські функції

Доступ до програм у робочій області агента

Під час роботи в робочій області агента агентська програма має доступ до програм, доступних для всіх користувачів за замовчуванням. Щоб обмежити доступ, можна інсталювати програми для певних користувачів або спеціально для своїх агентів.

Доступ до файлу в робочій області агента

Агентські облікові записи мають обмежений доступ до каталогу профілів користувачів (C:\Users\<ім'я користувача>\) під час роботи в робочій області агента. Якщо агенту потрібен доступ до файлів у цьому каталозі, Windows надає доступ для читання та записування до таких відомих папок: Документи, Завантаження, Робочий стіл, Відео, Зображення, Музика, коли цей параметр увімкнуто. Можливо, ви використовуєте ці папки в стандартному розташуванні або переспрямували їх в іншому місці файлової системи.

Щоб обмежити доступ до цих папок, вимкніть параметр експериментальної агентської функції.

1. У програмі "Настройки" на пристрої Windows виберіть елемент Системні > компоненти AI > експериментальні агентські функції

2. Вимкніть параметр

У збірках для оцінювання 26100.7344+ можна керувати доступом до цих шести відомих папок для кожного агента. За замовчуванням, коли агенти запитують доступ до файлів у цих папках, Windows запитає у вас згоду. 

Спеціальна сторінка настройок для кожного агента дає змогу керувати дозволами на доступ до файлів і ввімкнути з'єднувачі, необхідні агенту для виконання завдань. Ви можете будь-коли керувати своїми параметрами.   

1. У програмі "Настройки" на пристрої Windows виберіть пункт Компоненти AI > системи > агенти

2. Виберіть агента зі списку

3. Перейти до розділу "Файли"

4. Виберіть один із трьох варіантів

   1. "Дозволити завжди": агент може отримати доступ до цих шести відомих папок, коли це потрібно.

   2. "Запитувати щоразу": коли агенту потрібен доступ до папок, Windows запропонує вам дозвіл на спільний доступ до файлів у цих папках.

   3. "Ніколи не дозволяти": коли агенти запит на доступ до папок, Windows відхилятиме запит.

Облікові записи агентів мають доступ до будь-яких папок, до яких мають доступ усі автентифіковані користувачі, наприклад загальнодоступних профілів користувачів.

Відомі проблеми

Ці проблеми можуть виникнути в збірці 26220.7262+:

• Windows не буде спати, поки Copilot має активні розмови.

  • Спосіб вирішення: Закрийте будь-які розмови Copilot Actions або закрийте Copilot, вибравши його з лотка, клацніть правою кнопкою миші та виберіть пункт "Вийти".

• Може з'явитися попередження "Хтось інший досі використовує цей ПК. Якщо завершити роботу зараз, вони можуть втратити незбережену роботу"." під час спроби завершити роботу або перезавантажити пристрій Windows через активні розмови Copilot Actions.

  • Спосіб вирішення: Закрийте будь-які розмови Copilot Actions або закрийте Copilot, вибравши його з лотка, клацніть правою кнопкою миші та виберіть пункт "Вийти".

• Корпоративні користувачі з керуванням правами кінцевої точки можуть бачити Intune керованих профілів, створених для облікових записів агентів користувачів, які не очищаються, коли розмову дії Copilot закрито або програма завершує роботу. Ці профілі зазвичай закінчуються знаком долара (наприклад, _$) і розташованими поряд з обліковими записами агентів у папці користувачів Windows (зазвичай c:\users).

  • Спосіб вирішення. Корпорація Майкрософт знає про цю проблему та працює над виправленням, яке виправлятиме залишки Intune профілів. ​​​​​​​

​​​​​​​