Экспериментальные агентские функции

В этой статье

• Почему безопасность важна

• Принципы безопасности и конфиденциальности агента

• Включение экспериментальных агентских функций

• Доступ к приложениям в рабочей области агента

• Доступ к файлам в рабочей области агента

• Известные проблемы

Почему безопасность важна

Агентический ИИ сегодня обладает мощными возможностями, например, он может выполнять многие сложные задачи в ответ на запросы пользователей, преобразуя взаимодействие пользователей со своими компьютерами. По мере внедрения этих возможностей модели ИИ по-прежнему сталкиваются с функциональными ограничениями с точки зрения того, как они ведут себя, и иногда могут галлюцинироваться и создавать непредвиденные выходные данные. Кроме того, агентские приложения ИИ представляют новые угрозы безопасности, такие как внедрение через несколько запросов (XPIA), когда вредоносное содержимое, внедренное в элементы пользовательского интерфейса или документы, может переопределять инструкции агента, что приводит к непреднамеренным действиям, таким как кража данных или установка вредоносных программ. Мы рекомендуем ознакомиться с этой информацией и понять последствия для безопасности, связанные с включением агента на компьютере. 

По мере того как мы начинаем создавать агентские возможности в Windows, мы намерены включить надежные средства управления безопасностью и конфиденциальностью, которые позволяют клиентам уверенно изучать свой потенциал при поддержке четких рекомендаций и соответствующих мер безопасности, определяемых этими целями.

1. Отсутствие отказа : все действия агента можно наблюдать и отличать от действий, выполняемых пользователем.

2. Конфиденциальность: Агенты, которые собирают, объединяют или иным образом используют защищенные данные пользователей, соответствуют или превышают стандарты безопасности и конфиденциальности данных, которые они используют.

3. Авторизация : пользователи утверждают все запросы к пользовательским данным, а также выполняемые действия.

Принципы агентской безопасности и конфиденциальности

Для защиты агентов ИИ требуется надежный набор принципов, гарантирующих, что они действуют в соответствии с намерением пользователя при защите своих данных.

1. Агенты являются автономными сущностями. Они подвержены атакам так же, как и любые другие компоненты пользователя или программного обеспечения. Их действия должны быть в состоянии сдерживать.

2. Агенты должны иметь возможность создавать журналы с изложением своих действий. Windows должна быть в состоянии проверить эти действия с помощью журнала аудита с явным изменением.

3. Агенты должны предоставлять средства для контроля своей деятельности. Многие действия агентов являются агрегатными планами, содержащими несколько шагов. Пользователи должны иметь возможность просматривать шаги, утверждать план и отслеживать выполнение плана. При необходимости агенты должны иметь возможность явно запрашивать разрешение или решение пользователя.

4. Агенты всегда должны действовать в соответствии с принципами минимальных привилегий и не должны предоставляться разрешения или возможности, превышающие разрешения инициирующего пользователя, включая права администратора. Привилегии авторизованного агента должны быть детализированными, конкретными и временными. Агенты должны иметь доступ к конфиденциальной информации (например, кредитным карта данным) только в определенных, авторизованных пользователем контекстах, например для выполнения определенных действий, например при взаимодействии с определенными приложениями или на указанных веб-сайтах.

5. Сущности в системе ( администратор, локальная система и т. д.) не должны иметь особый доступ к агенту, кроме владельца, от имени которого он действует.

6. Windows предназначена для того, чтобы помочь агентам соблюдать обязательства Корпорации Майкрософт, изложенные в Заявлении о конфиденциальности Майкрософт и ответственном использовании ИИ Standard . Windows будет поддерживать агентов в обработке данных только для четко определенных целей, обеспечивая прозрачность и доверие. Дополнительные сведения о наших обязательствах по ответственному продвижению ИИ при обеспечении конфиденциальности и других основных прав см. в отчете о конфиденциальности Майкрософт .

Разработка агентов и обеспечение безопасности, связанных с ИИ, по-прежнему является быстро движущейся областью исследований с активным участием корпорации Майкрософт в партнерстве с более широким сообществом по безопасности. В рамках инициативы Майкрософт по обеспечению безопасности в будущем помощь пользователям, компаниям и разработчикам в решении этих проблем является нашим главным приоритетом, так как люди начинают взаимодействовать с агентами в рамках своих ежедневных рабочих процессов.

Включение экспериментальных агентских функций

По умолчанию параметр экспериментальных агентных функций отключен. Эта функция не имеет собственных возможностей ИИ, она является функцией безопасности для таких агентов, как Copilot Actions. Включение этого переключателя позволяет создать отдельную учетную запись агента и рабочую область на устройстве, предоставляя автономное пространство для хранения действий агента отдельно от пользователя.  

Параметр экспериментальных агентских функций в настоящее время находится в предварительной версии для сбора отзывов и изучения их для уточнения взаимодействия. В течение периода предварительной версии мы будем продолжать добавлять более детализированные элементы управления безопасностью и конфиденциальностью, прежде чем они станут общедоступными.  

Copilot Actions, в настоящее время в предварительной версии для участников программы предварительной оценки Windows в Copilot Labs, использует эту функцию. Дополнительные сведения см. в разделе Copilot в Windows: Copilot Actionss begin out to Windows Insiders | Блог программы предварительной оценки Windows.  

Этот параметр может быть включен только администратором устройства. После включения он будет включен для всех пользователей на устройстве, включая других администраторов и обычных пользователей.   

Параметр экспериментальной агентской функции обеспечивает следующие возможности:

• Создание учетных записей агентов , которые предоставляют агентам собственную отдельную учетную запись на вашем устройстве при действиях от вашего имени. Windows использует поэтапный подход для добавления более строгих правил для учетных записей агентов в следующих выпусках.

• Создание рабочей области агента , в которой агенты могут работать параллельно с пользователем-пользователем, обеспечивая изоляцию среды выполнения и авторизацию по области. Это предоставляет агенту такие возможности, как его собственный рабочий стол, ограничивая видимость и доступ к агенту для действий на рабочем столе пользователя.

• Агентские приложения, такие как Copilot, могут запрашивать и получать доступ к этим шести часто используемым папкам в каталоге профиля пользователя во время выполнения в рабочей области агента: Документы, загрузки, настольные компьютеры, музыка, изображения и видео.

Действия по включению экспериментальных агентных функций:

1. Вход в Windows с учетной записью администратора

2. В приложении "Параметры" на устройстве с Windows выберите System > AI Components > Экспериментальные агентские функции

Доступ к приложениям в рабочей области агента

При запуске в рабочей области агента агентное приложение имеет доступ к приложениям, которые по умолчанию доступны всем пользователям. Чтобы ограничить доступ, можно установить приложения для определенных пользователей или специально для агентов.

Доступ к файлам в рабочей области агента

Учетные записи агента имеют ограниченный доступ к каталогу профиля пользователя (C:\Users\<имя пользователя>\) во время работы в рабочей области агента. Если агенту требуется доступ к файлам в этом каталоге, Windows предоставляет доступ на чтение и запись к следующим известным папкам: "Документы", "Загрузки", "Рабочий стол", "Видео", "Рисунки", "Музыка", если этот параметр включен. Эти папки могут быть в стандартном расположении или перенаправлять их в другое место в файловой системе.

Чтобы ограничить доступ к этим папкам, отключите параметр экспериментальной агентной функции.

1. В приложении "Параметры" на устройстве с Windows выберите Компоненты системы > ИИ > экспериментальные агентские функции.

2. Отключение параметра

Учетные записи агента имеют доступ к любым папкам, к которым имеют доступ все пользователи, прошедшие проверку подлинности, например к общедоступным профилям пользователей.

Известные проблемы

В сборке 26220.7262 могут возникнуть следующие проблемы:

• Windows не будет в спящем режиме, пока Copilot поддерживает активные беседы.

  • Обходной путь. Закройте все беседы Copilot Actions или закройте Copilot, выбрав его в области, щелкнув его правой кнопкой мыши и выбрав команду "Выйти".

• Может появилось предупреждение "Кто-то еще использует этот компьютер. Если вы завершите работу сейчас, они могут потерять несохраненные работы при попытке завершить работу или перезапустить устройство с Windows из-за активных бесед Copilot Actions.

  • Обходной путь. Закройте все беседы Copilot Actions или закройте Copilot, выбрав его в области, щелкнув его правой кнопкой мыши и выбрав команду "Выйти".

• Корпоративные пользователи с Управление привилегиями на конечных точках могут видеть Intune управляемых профилей, созданных для учетных записей пользователей агента, которые не очищаются при закрытии беседы с действием Copilot или выходе из приложения. Эти профили обычно заканчиваются знаком доллара, т. е. _$, и находятся рядом с учетными записями пользователя агента в папке "Пользователи Windows" (как правило, c:\users).

  • Решение. Корпорация Майкрософт знает об этой проблеме и работает над исправлением, которое очистит оставшиеся Intune профилях. ​​​​​​​

​​​​​​​