Експериментални агентски функции

В тази статия

• Защо сигурността има значение

• Защита на агента и принципи на поверителност

• Разрешаване на експериментални агентски функции

• Достъп до приложение в работна област на агент

• Достъп до файлове в работна област на агент

• Известни проблеми

Защо защитата има значение

ИИ на Agentic има мощни възможности днес – например може да изпълнява много сложни задачи в отговор на подкани от потребителите, трансформирайки начина, по който потребителите взаимодействат с компютрите си. Тъй като тези възможности са въведени, моделите с ИИ все още са изправени пред функционални ограничения по отношение на поведението им и понякога може да халюцинират и да генерират неочаквани резултати. Освен това, агентски AI приложения въвеждат нови рискове за защитата, като например кръстосано въвеждане на xpia, където злонамерено съдържание, вградено в елементи на потребителския интерфейс или документи, може да замести инструкциите на агента, което води до неочаквани действия, като например ексфилтрация на данни или инсталиране на злонамерен софтуер. Препоръчваме ви да прочетете тази информация и да разберете последствията за защитата от разрешаването на агент на вашия компютър. 

Тъй като започваме да създаваме агентски възможности в Windows, нашият ангажимент е да включим стабилни контроли за защита и поверителност, които да дават възможност на клиентите да изследват потенциала си уверено с подкрепата на ясни насоки и подходящи предпазни средства, управлявани от тези цели.

1. Невъзможност за отричане : Всички действия на даден агент са наблюдаеми и могат да се различават от тези, предприети от потребителя.

2. Поверителност: Агенти, които събират, агрегират или използват по друг начин защитените данни на потребителите, отговарят или надвишават стандартите за защита и поверителност на данните, които използват.

3. Упълномощаване : Потребителите одобряват всички заявки за потребителски данни, както и предприетите действия.

Принципи на сигурността и поверителността на агентите

Защитата на AI агенти изисква стабилен набор от принципи, които гарантират, че те действат според намерението на потребителя, като същевременно защитават данните си.

1. Агентите са автономни единици. Те са податливи на атака по същия начин, както и всеки друг потребител или софтуерни компоненти. Действията им трябва да могат да се съдържат.

2. Агентите трябва да могат да създават регистрационни файлове, които да очертават техните дейности. Windows трябва да може да провери тези действия с регистрационен файл за проверка, който не може да бъде проверен.

3. Агентите трябва да осигурят средства за наблюдение на дейността им. Много дейности на агентите са обобщени планове, съдържащи няколко стъпки. Потребителите трябва да могат да преглеждат стъпките и да одобряват плана и да наблюдават изпълнението на плана. Агентите трябва да могат изрично да поискат разрешение или решение от потребителя, когато това е необходимо.

4. Агентите следва винаги да действат съгласно принципите на най-малките привилегии и не трябва да им се дават разрешения или възможности, които надвишават тези на иницииращия потребител, включително административните права. Привилегиите на упълномощения агент трябва да бъдат поетапни, специфични и обвързани с времето. Агентите трябва да имат достъп до поверителна информация (например данни за кредитни карти) само в специфичен, упълномощен от потребителя контекст, като например за извършване на конкретни действия, като например при взаимодействие с конкретни приложения или на определени уеб сайтове.

5. Юридическите лица в системата – администратор, локална система и др. – не трябва да имат специален достъп до агент, различен от собственика, който действа от името на.

6. Windows има за цел да помогне на агентите да се придържат към ангажиментите на Microsoft, поети в Декларацията за поверителност на Microsoft и отговорния ИИ Standard . Windows ще поддържа агенти при обработването на данни само за ясно определени цели, като гарантира прозрачност и доверие. Вижте отчета за поверителност на Microsoft за подробности относно нашите ангажименти за отговорно преминаване към ИИ, като същевременно защитаваме поверителността и други основни права.

Разработването на агенти и защитата, свързана с ИИ, продължават да бъдат бързо развиваща се област на изследване с активно участие от Microsoft в партньорство с по-широката общност за сигурност. Като част от ангажимента на Microsoft за сигурна бъдеща инициатива , подпомагането на потребителите, фирмите и разработчиците да се справят с тези предизвикателства е нашият топ приоритет, тъй като хората започват да взаимодействат с агенти като част от ежедневните си работни потоци.

Разрешаване на експериментални агентски функции

Настройката на експерименталните агентски функции е изключена по подразбиране. Тази функция няма възможности за ИИ– това е функция за защита за агенти като "Действия на Copilot". Разрешаването на този превключвател позволява създаването на отделен акаунт на агент и работна област на устройството, като предоставя съдържащо се пространство, за да се запази дейността на агента отделно от потребителя.  

Настройката на експерименталните агентски функции в момента е в предварителен преглед с цел събиране и поучаване от обратна връзка с цел прецизиране на средата за работа. По време на периода на предварителния преглед ще продължим да добавяме по-поетапни контроли за защита и поверителност, преди тя да стане общодостъпна.  

Действията за копилот, които в момента са в предварителен преглед за участници в Windows Insider в Copilot Labs, използват тази функционалност за повече информация вж. Copilot в Windows: Действията за копилот започват да се пускат за участници в Windows Insider | Блог на Windows Insider.  

Тази настройка може да бъде разрешена само от административен потребител на устройството и след като бъде разрешена, тя е разрешена за всички потребители на устройството, включително други администратори и стандартни потребители.   

Настройката на експерименталната агентска функция позволява:

• Създаването на акаунти на агенти , които предоставят на агентите свой собствен отделен акаунт на вашето устройство, когато действат от ваше име. Windows използва поетапен подход за добавяне на по-строги правила за акаунтите на агенти в предстоящите издания.

• Създаването на работната област на агента , където агентите могат да работят паралелно с човешки потребител, което позволява изолиране на времето на изпълнение и удостоверяване с обхват. Това предоставя на агента възможности, като например собствен работен плот, докато ограничава видимостта и достъпа до дейността на агента на работния плот на потребителя.

• Агентски приложения като Copilot могат да заявяват и да получат достъп до тези шест често използвани папки в директорията на вашия потребителски профил, докато се изпълняват в работната област на агента: Документи, изтегляния, работен плот, музика, снимки и видеоклипове.

Стъпки за разрешаване на експерименталните агентски функции:

1. Влизане в Windows с акаунт на администратор

2. В приложението "Настройки" на вашето устройство с Windows изберете Системни > компоненти на ИИ > Експериментални агентски функции

Достъп до приложение в работна област на агент

Когато се изпълнява в работната област на агента, агентско приложение има достъп до приложенията, които са достъпни за всички потребители по подразбиране. За да ограничите достъпа, можете да инсталирате приложения за конкретни потребители или специално за вашите агенти.

Достъп до файлове в работна област на агент

Акаунтите на агенти имат ограничен достъп до вашия справочен указател на потребителските профили (C:\Users\<потребителско име>\), докато работят в работната област на агента. Ако агент се нуждае от достъп до файловете в тази директория, Windows предоставя достъп за четене и писане до следните известни папки: Документи, Изтегляния, Работен плот, Видеоклипове, Картини, Музика, когато настройката е разрешена. Може да имате тези папки в стандартното местоположение или да сте ги пренасочили някъде другаде във файловата система.

За да ограничите достъпа до тези папки, изключете настройката на експерименталната функция за агент.

1. В приложението "Настройки" на вашето устройство с Windows изберете Системни > компоненти на ИИ > Експериментални агентски функции

2. Изключете настройката

Акаунтите на агенти имат достъп до всички папки, до които всички удостоверени потребители имат достъп, например публични потребителски профили.

Известни проблеми

Може да се сблъскате с тези проблеми в компилация 26220.7262:

• Windows няма да заспи, докато Copilot има активни разговори.

  • Заобиколно решение: Затворете всички разговори в Copilot Actions или затворете Copilot, като го изберете от областта, щракнете с десния бутон върху него и изберете "Quit".

• Може да видите предупреждение "Някой друг все още използва този компютър. Ако изключите компютъра сега, той може да загуби незаписана работа." При опит за изключване или рестартиране на вашето устройство с Windows поради активни разговори с Действия в Copilot.

  • Заобиколно решение: Затворете всички разговори в Copilot Actions или затворете Copilot, като го изберете от областта, щракнете с десния бутон върху него и изберете "Quit".

• Корпоративните потребители с управление на привилегиите на крайна точка може да виждат Intune управлявани профили, създадени за потребителските акаунти на агента, които не са изчистени, когато разговорът с действието Copilot е затворен или приложението излезе. Тези профили обикновено завършват със знак за долар, т.е.: _$, и се намират до потребителските акаунти на агента в папката за потребители на Windows (обикновено c:\users).

  • Заобиколно решение: Microsoft е наясно с този проблем и работи върху корекция, която ще изчисти остат Intune профили. ​​​​​​​

​​​​​​​