Experimentální funkce agentů

V tomto článku

• Proč záleží na zabezpečení

• Principy zabezpečení agentů a ochrany osobních údajů

• Povolení experimentálních agentických funkcí

• Přístup k aplikacím v pracovním prostoru agenta

• Přístup k souborům v pracovním prostoru agenta

• Známé problémy

Proč na zabezpečení záleží

Agentická AI má dnes výkonné funkce – například dokáže provádět řadu složitých úloh v reakci na výzvy uživatelů a transformovat způsob, jakým uživatelé pracují se svými počítači. Po zavedení těchto funkcí se modely AI stále potýkají s funkčními omezeními, pokud jde o jejich chování, a někdy můžou halucinovat a vytvářet neočekávané výstupy. Aplikace s agentskou umělou inteligencí navíc přinášejí nová bezpečnostní rizika, jako je injektáž mezi výzvami (XPIA), kde škodlivý obsah vložený do prvků uživatelského rozhraní nebo dokumentů může přepsat pokyny agenta, což vede k nezamýšleným akcím, jako je exfiltrace dat nebo instalace malwaru. Doporučujeme, abyste si tyto informace přečetli a porozuměli bezpečnostním důsledkům povolení agenta ve vašem počítači. 

S tím, jak začínáme do Windows zabudovávat agentské funkce, je naším závazkem zahrnout robustní kontrolní mechanismy zabezpečení a ochrany osobních údajů, které zákazníkům umožní s jistotou zkoumat jejich potenciál s podporou jasných pokynů a vhodných mantinely, které tyto cíle řídí.

1. Nezpochybňování : Všechny akce agenta jsou pozorovatelné a odlišitelné od akcí provedených uživatelem.

2. Důvěrnost: Agenti, kteří shromažďují, agregují nebo jinak využívají chráněná data uživatelů, splňují nebo překračují standardy zabezpečení a ochrany osobních údajů dat, která využívají.

3. Autorizace : Uživatelé schvalují všechny dotazy na uživatelská data i provedené akce.

Principy agentického zabezpečení a ochrany osobních údajů

Zabezpečení agentů AI vyžaduje robustní sadu principů, které zajišťují, že se chovají podle záměru uživatele a současně chrání svá data.

1. Agenti jsou autonomní entity. Jsou náchylné k útoku stejným způsobem jako jakékoli jiné uživatelské nebo softwarové komponenty. Jejich akce musí být schopny být omezené.

2. Agenti musí být schopni vytvářet protokoly s osnovou svých aktivit. Systém Windows by měl být schopný tyto akce ověřit pomocí protokolu auditu, který je evidentní zfalšování.

3. Zástupci by měli poskytovat prostředky pro dohled nad jejich činností. Mnoho aktivit agentů je agregační plány, které obsahují více kroků. Uživatelé by měli mít možnost zkontrolovat kroky, schválit plán a monitorovat jeho provádění. Agenti musí mít v případě potřeby možnost explicitně požádat o autorizaci nebo rozhodnutí uživatele.

4. Agenti by měli vždy jednat na základě principů nejnižších oprávnění a nesmí jim být udělena oprávnění nebo schopnosti, které překračují oprávnění nebo schopnosti uživatele, který je inicioval, včetně práv správce. Oprávnění autorizovaného agenta by měla být podrobná, specifická a časově svázaná. Agenti musí mít přístup pouze k citlivým informacím (např. k údajům o platebních kartách) v konkrétních kontextech autorizovaných uživatelem, například při provádění konkrétních akcí, například při interakci s konkrétními aplikacemi nebo na určitých webech.

5. Entity v systému – správce, místní systém atd. – by neměly mít zvláštní přístup k jinému agentu než k vlastníkovi, jehož jménem jedná.

6. Systém Windows je navržený tak, aby pomáhal agentům dodržovat závazky společnosti Microsoft přijaté v Prohlášení společnosti Microsoft o zásadách ochrany osobních údajů a standardu odpovědné AI . Systém Windows bude podporovat agenty při zpracování dat pouze pro jasně definované účely, které zajistí transparentnost a důvěru. Podrobné informace o našich závazcích k zodpovědnému pokroku v umělé inteligenci při současném zajištění ochrany osobních údajů a dalších základních práv najdete ve zprávě Společnosti Microsoft o ochraně osobních údajů.

Vývoj agentů a zabezpečení související s AI je i nadále rychle se měnícím polem výzkumu s aktivním zapojením Microsoftu ve spolupráci s širší komunitou zabezpečení. V rámci iniciativy Microsoftu Secure Future Initiative je naší nejvyšší prioritou pomáhat uživatelům, firmám a vývojářům řešit tyto výzvy, protože lidé začínají komunikovat s agenty v rámci svých každodenních pracovních postupů.

Povolení experimentálních agentických funkcí

Nastavení experimentálních agentických funkcí je ve výchozím nastavení vypnuté. Tato funkce sama o sobě nemá žádné funkce AI, je to funkce zabezpečení pro agenty, jako je Copilot Actions. Když tento přepínač povolíte, můžete na zařízení vytvořit samostatný účet agenta a pracovní prostor a zajistit tak omezené místo pro oddělení aktivity agenta od uživatele.  

Nastavení experimentálních agentických funkcí je v současné době ve verzi Preview pro účely shromažďování zpětné vazby a učení se z zpětné vazby a vylepšení prostředí. Během období preview budeme dál přidávat podrobnější ovládací prvky zabezpečení a ochrany osobních údajů, než budou obecně dostupné.  

Akce Copilot, které jsou aktuálně ve verzi Preview pro účastníky programu Windows Insider ve službě Copilot Labs, používají tuto funkci. Další informace najdete v článku Copilot ve Windows: Akce Copilot se začínají zavádět pro účastníky programu Windows Insider | Blog programu Windows Insider  

Toto nastavení může povolit jenom správce zařízení, a jakmile ho povolíte, povolí se pro všechny uživatele zařízení, včetně jiných správců a standardních uživatelů.   

Nastavení experimentálních agentických funkcí umožňuje:

• Vytvoření účtů agentů , které poskytují agentům vlastní samostatný účet na vašem zařízení, když jednají vaším jménem. Systém Windows v nadcházejících verzích používá fázovaný přístup k přidání přísnějších pravidel pro účty agentů.

• Vytvoření pracovního prostoru agenta , ve kterém můžou agenti pracovat paralelně s lidským uživatelem, což umožňuje izolaci modulu runtime a autorizaci s vymezeným oborem. Tím agentovi získáte možnosti, jako je jeho vlastní plocha, a zároveň se omezí viditelnost a přístup agenta k aktivitě uživatele na ploše.

• Agentické aplikace, jako je Copilot, můžou při spuštění v pracovním prostoru agenta požadovat a získat přístup k těmto šesti běžně používaným složkám v adresáři profilu uživatele: Dokumenty, Soubory ke stažení, Plocha, Hudba, Obrázky a Videa.

Postup povolení experimentálních agentických funkcí:

1. Přihlášení k Windows pomocí účtu správce

2. V aplikaci Nastavení na zařízení s Windows vyberte System > AI Components (Součásti AI ) > Experimentální agentické funkce.

Přístup k aplikacím v pracovním prostoru agenta

Při spuštění v pracovním prostoru agenta má agentická aplikace přístup k aplikacím, které jsou ve výchozím nastavení dostupné všem uživatelům. Pokud chcete omezit přístup, můžete nainstalovat aplikace pro konkrétní uživatele nebo konkrétně pro vaše agenty.

Přístup k souborům v pracovním prostoru agenta

Agentické účty mají omezený přístup k adresáři profilu uživatele (C:\Users\<uživatelské jméno>\) při provozu v pracovním prostoru agenta. Pokud agent potřebuje přístup k souborům v tomto adresáři, udělí systém Windows přístup pro čtení a zápis k následujícím známým složkám: Dokumenty, Stažené soubory, Plocha, Videa, Obrázky, Hudba, pokud je nastavení povolené. Tyto složky můžete mít ve standardním umístění nebo jste je přesměrovali jinam v systému souborů.

Pokud chcete omezit přístup k těmto složkám, vypněte nastavení experimentálních agentických funkcí.

1. V aplikaci Nastavení na zařízení s Windows vyberte Součásti systému > AI > Experimentální funkce agentů.

2. Vypnutí nastavení

Účty agentů mají přístup ke všem složkám, ke kterým mají přístup všichni ověření uživatelé, například k veřejným profilům uživatelů.

Známé problémy

V buildu 26220.7262 můžete narazit na tyto problémy:

• Systém Windows nebude spát, když má Copilot aktivní konverzace.

  • Alternativní řešení: Zavřete všechny konverzace s akcemi Copilotu nebo zavřete funkci Copilot tak, že ji vyberete z panelu, kliknete na ni pravým tlačítkem a vyberete "Ukončit".

• Může se zobrazit upozornění "Tento počítač stále používá někdo jiný. Pokud zařízení s Windows vypnete teď, může dojít ke ztrátě neuložené práce." při pokusu o vypnutí nebo restartování zařízení s Windows kvůli aktivním konverzacím o akcích Copilot.

  • Alternativní řešení: Zavřete všechny konverzace s akcemi Copilotu nebo zavřete funkci Copilot tak, že ji vyberete z panelu, kliknete na ni pravým tlačítkem a vyberete "Ukončit".

• Podnikoví uživatelé s Správa oprávnění Endpoint můžou vidět Intune spravované profily vytvořené pro účty uživatelů agenta, které se při zavření konverzace akce Copilotu nebo ukončení aplikace nevyčistí. Tyto profily obvykle končí znakem dolaru, tj. _$, a nacházejí se společně s uživatelskými účty agenta ve složce Uživatelé systému Windows (obvykle c:\users).

  • Alternativní řešení: Microsoft o tomto problému ví a pracuje na opravě, která vyčistí zbývající profily Intune. ​​​​​​​

​​​​​​​