Experimentálne agentické funkcie

Obsah tohto článku

• Prečo záleží na zabezpečení

• Zásady zabezpečenia a ochrany osobných údajov agenta

• Povolenie experimentálnych agentických funkcií

• Prístup k aplikácii v pracovnom priestore agenta

• Prístup k súboru v pracovnom priestore agenta

• Známe problémy

Prečo záleží na zabezpečení

Agentická umelá inteligencia má v súčasnosti výkonné funkcie– môže napríklad dokončiť mnoho zložitých úloh v reakcii na výzvy používateľov a transformovať spôsob interakcie používateľov so svojimi počítačmi. Pri zavádzaní týchto funkcií modely AI stále čelia funkčným obmedzeniam, pokiaľ ide o to, ako sa správajú, a príležitostne môžu halucinovať a produkovať neočakávané výstupy. Okrem toho agentické aplikácie umelej inteligencie predstavujú nové bezpečnostné riziká, ako je napríklad vloženie krížovej výzvy (XPIA), kde škodlivý obsah vložený do prvkov používateľského rozhrania alebo dokumentov môže prepísať pokyny agenta, čo vedie k neúmyselným akciám, ako je exfiltrácia údajov alebo inštalácia malvéru. Odporúčame vám prečítať si tieto informácie a pochopiť vplyv povolenia agenta v počítači na zabezpečenie. 

Ako začneme budovať agentické schopnosti do Windowsu, naším záväzkom je zahrnúť robustné kontroly zabezpečenia a ochrany osobných údajov, ktoré umožňujú zákazníkom, aby s istotou preskúmali svoj potenciál s podporou jasného usmernenia a vhodných zábradlia, ktoré sú riadené týmito cieľmi.

1. Neodmietnuteľné : Všetky akcie agenta sú pozorovateľné a rozlišovateľné od akcií vykonávaných používateľom.

2. Dôvernosť: Zástupcovia, ktorí zhromažďujú, agregujú alebo inak využívajú chránené údaje používateľov, spĺňajú alebo prekračujú normy zabezpečenia a ochrany osobných údajov údajov, ktoré používajú.

3. Oprávnenie : Používatelia schvaľujú všetky dotazy na údaje používateľa, ako aj vykonané akcie.

Zásady agentického zabezpečenia a ochrany osobných údajov

Zabezpečenie agentov umelej inteligencie vyžaduje robustný súbor zásad, ktoré zabezpečia, že budú konať podľa zámeru používateľa a zároveň chránia svoje údaje.

1. Agenti sú autonómne entity. Sú náchylné k útoku rovnakým spôsobom akékoľvek iné užívateľa alebo softvér komponenty sú. Ich akcie musia byť schopné obsahovať.

2. Zástupcovia musia mať možnosť vytvárať denníky s prehľadom o svojich aktivitách. Systém Windows by mal mať možnosť overiť tieto akcie pomocou denníka auditu, ktorý je zrejmý z manipulácie.

3. Zástupcovia by mali poskytnúť prostriedky na dohľad nad ich činnosťou. Mnohé aktivity agentov sú agregované plány obsahujúce viacero krokov. Používatelia by mali mať možnosť skontrolovať kroky a schváliť plán a monitorovať vykonanie plánu. Zástupcovia musia mať možnosť explicitne požiadať o povolenie alebo rozhodnutie používateľa, ak je to potrebné.

4. Zástupcovia by mali vždy konať podľa zásad najmenšieho oprávnenia a nesmú byť im udelené povolenia ani možnosti presahujúce povolenia inicialujúceho používateľa vrátane administratívnych práv. Oprávnenia autorizovaného agenta by mali byť podrobné, špecifické a časovo ohraničené. Zástupcovia musia mať prístup k citlivým informáciám (napr. údajom o kreditnej karte) len v konkrétnych kontextoch, ktoré sú autorizované používateľom, napríklad na vykonávanie konkrétnych akcií, napríklad pri interakcii s konkrétnymi aplikáciami alebo na zadaných webových lokalitách.

5. Entity v systéme – správca, lokálny systém atď. – by nemali mať osobitný prístup k inému agentovi ako k vlastníkovi, v ktorom koná v mene.

6. Windows je navrhnutý tak, aby zástupcom pomáhal dodržiavať záväzky spoločnosti Microsoft uvedené vo vyhlásení spoločnosti Microsoft o ochrane osobných údajov a zodpovednej umelej inteligencii Standard. Windows bude podporovať agentov pri spracovaní údajov len na jasne definované účely, zabezpečenie transparentnosti a dôveryhodnosti. Podrobnosti o našich záväzkoch zodpovedne presadzovať umelú inteligenciu a zároveň chrániť súkromie a ďalšie základné práva nájdete v správe spoločnosti Microsoft o ochrane osobných údajov.

Vývoj agentov a zabezpečenie súvisiace s umelou inteligenciou sú aj naďalej rýchlo sa rozširujúcou oblasťou výskumu s aktívnou účasťou spoločnosti Microsoft v spolupráci so širšou komunitou zabezpečenia. V rámci záväzku iniciatívy Secure Future Initiative spoločnosti Microsoft je našou najvyššou prioritou pomáhať používateľom, podnikom a vývojárom riešiť tieto výzvy, keďže ľudia začnú komunikovať s agentmi v rámci svojich každodenných pracovných postupov.

Povoliť experimentálne agentické funkcie

Nastavenie experimentálnych agentických funkcií je predvolene vypnuté. Táto funkcia sama osebe neobsahuje žiadne možnosti umelej inteligencie, je funkciou zabezpečenia pre agentov, ako sú napríklad akcie kopilotu. Povolenie tohto prepínača umožňuje vytvorenie samostatného konta agenta a pracovného priestoru v zariadení, čím sa v zariadení poskytuje priestor na oddelenie aktivity agenta od používateľa.  

Experimentálne agentické funkcie nastavenia je v súčasnosti vo verzii Preview, na účely zhromažďovania a učenia sa z pripomienok spresniť skúsenosti. Počas obdobia ukážky budeme naďalej pridávať podrobnejšie ovládacie prvky zabezpečenia a ochrany osobných údajov ešte predtým, ako budú všeobecne dostupné.  

Akcie kopilotu, ktoré sú momentálne vo verzii Preview pre insiderov pre Windows v laboratóriách Copilot Labs, používajú túto funkciu. Ďalšie informácie nájdete v téme Kopilot vo Windowse: Akcie kopilotu sa začínajú zavádzať insiderom pre Windows | Blog insiderov pre Windows.  

Toto nastavenie môže povoliť iba správca zariadenia a po povolení je povolené pre všetkých používateľov zariadenia vrátane iných správcov a štandardných používateľov.   

Nastavenie experimentálnej agentickej funkcie umožňuje:

• Vytvorenie kont agenta , ktoré poskytujú zástupcom vlastné samostatné konto vo vašom zariadení, keď konajú vo vašom mene. Windows používa postupný prístup na pridanie prísnejších pravidiel pre kontá agenta v nadchádzajúcich vydaniach.

• Vytvorenie pracovného priestoru agenta , v ktorom môžu agenti pracovať paralelne s ľudským používateľom, čím sa povolí izolácia modulu runtime a povolenie určené pre rozsah. Toto poskytuje agentovi možnosti, ako napríklad vlastnú pracovnú plochu, a zároveň obmedzí viditeľnosť a prístup agenta k aktivite používateľa na pracovnej ploche.

• Agentické aplikácie, ako napríklad Copilot, môžu požiadať o prístup k týmto šiestim bežne používaným priečinkom v adresári používateľských profilov počas spúšťania v pracovnom priestore agenta: Dokumenty, súbory na stiahnutie, stolné počítače, hudba, obrázky a videá.

Kroky na povolenie experimentálnych agentických funkcií:

1. Prihlásenie do Windowsu pomocou konta správcu

2. V aplikácii Nastavenia v zariadení s Windowsom vyberte položku System > AI Components > Experimental agentic features

Prístup k aplikácii v pracovnom priestore agenta

Pri spustení v pracovnom priestore agenta má agentická aplikácia prístup k aplikáciám, ktoré sú predvolene k dispozícii všetkým používateľom. Ak chcete obmedziť prístup, môžete nainštalovať aplikácie pre konkrétnych používateľov alebo špeciálne pre vašich agentov.

Prístup k súboru v pracovnom priestore agenta

Agentické kontá majú obmedzený prístup k adresáru používateľských profilov (C:\Users\<meno používateľa>\) počas práce v pracovnom priestore agenta. Ak agent potrebuje prístup k súborom v tomto adresári, Windows udelí prístup na čítanie a zápis do nasledujúcich známych priečinkov: Dokumenty, Stiahnuté súbory, Pracovná plocha, Videá, Obrázky, Hudba, keď je toto nastavenie povolené. Možno máte tieto priečinky v štandardnom umiestnení alebo ste ich presmerovali na iné miesto v systéme súborov.

Ak chcete obmedziť prístup k týmto priečinkom, vypnite experimentálnu agentickú funkciu.

1. V aplikácii Nastavenia v zariadení s Windowsom vyberte položku System > AI Components > Experimental agentic features

2. Vypnutie nastavenia

Kontá agenta majú prístup ku všetkým priečinkom, ku ktorým majú prístup všetci overení používatelia, napríklad k verejným používateľským profilom.

Známe problémy

Tieto problémy sa môžu vyskytnúť v zostave 26220.7262:

• Windows nebude spať, kým kopilot obsahuje aktívne konverzácie.

  • Alternatívne riešenie: Zavrite všetky konverzácie o akciách kopírovania alebo zatvorte kopilot tak, že ho vyberiete z zásobníka, kliknete naň pravým tlačidlom myši a vyberiete položku Ukončiť.

• Môže sa zobraziť upozornenie: Tento počítač stále používa niekto iný. Ak ho teraz vypnete, môžu prísť o neuloženú prácu. Pri pokuse o vypnutie alebo reštartovanie zariadenia s Windowsom v dôsledku aktívnych konverzácií o akciách kopilotu.

  • Alternatívne riešenie: Zavrite všetky konverzácie o akciách kopírovania alebo zatvorte kopilot tak, že ho vyberiete z zásobníka, kliknete naň pravým tlačidlom myši a vyberiete položku Ukončiť.

• Podnikovým používateľom so správou oprávnení koncového bodu sa môže zobraziť Intune spravovaných profilov vytvorených pre kontá agenta, ktoré sa nevyčistia po zatvorení konverzácie akcie Kopilot alebo ukončení aplikácie. Tieto profily zvyčajne končia znakom dolára, t. j. _$, a nachádzajú sa vedľa kont Agent User v priečinku Používatelia systému Windows (zvyčajne c:\users).

  • Alternatívne riešenie: Spoločnosť Microsoft o tomto probléme vie a pracuje na oprave, ktorá vyčistí zvyšky Intune profilov. ​​​​​​​

​​​​​​​