Poskusne agentske funkcije

V tem članku

• Zakaj je varnost pomembna

• Načela varnosti in zasebnosti agenta

• Omogočanje poskusnih agentskih funkcij

• Dostop do aplikacij v delovnem prostoru posrednika

• Dostop do datotek v delovnem prostoru posrednika

• Znane težave

Zakaj je varnost pomembna

Agentska AI ima danes zmogljive zmogljivosti, na primer, lahko dokonča številna zapletena opravila kot odgovor na pozive uporabnika in preoblikujejo način interakcije uporabnikov s svojimi računalniki. Ko so te zmogljivosti uvedene, se pri modelih AI še vedno pojavljajo funkcionalne omejitve v smislu njihovega obnašanja, občasno pa lahko privide in povzroči nepričakovane rezultate. Poleg tega agentne aplikacije za UI uvajajo nova varnostna tveganja, kot je vstavljeno v navzkrižno pozivanje (XPIA), kjer lahko zlonamerna vsebina, vdelana v elemente uporabniškega vmesnika ali dokumenti, preglasi navodila posrednika, kar vodi do nenačrtanih dejanj, kot je eksfiltracija podatkov ali namestitev zlonamerne programske opreme. Priporočamo, da preberete te informacije in razumete varnostne posledice omogočanja posrednika v računalniku. 

Ko bomo v sistem Windows začeli graditi agentne zmogljivosti, je naša zavezanost vključitev robustnega nadzora varnosti in zasebnosti, ki strankam omogoča, da z jasnimi smernicami in ustreznimi varovali, ki temeljijo na teh ciljih, brez zaupnega raziskovanja svojih potencialov.

1. Non-repudiation : Vsa dejanja posrednika je mogoče opazovati in se razlikujejo od dejanj, ki jih je sprejel uporabnik.

2. Zaupnost: Posredniki, ki zbirajo, združijo ali kako drugače uporabljajo zaščitene podatke uporabnikov, izpolnjujejo ali presegajo standarde varnosti in zasebnosti podatkov, ki jih uporabljajo.

3. Avtorizacija : Uporabniki odobrijo vse poizvedbe za uporabniške podatke in dejanja, ki jih izvajajo.

Agentska načela varnosti in zasebnosti

Za zaščito posrednikov za AI je zahtevan zanesljiv nabor načel, ki zagotavljajo, da delujejo v skladu z uporabnikovimi nameni, hkrati pa varujejo svoje podatke.

1. Posredniki so avtonomni subjekti. Do napada so dovzetni na enak način kot druge komponente uporabnikov ali programske opreme. Njihova dejanja morajo biti omejena.

2. Posredniki morajo imeti možnost, da izdelajo dnevnike z orisovanjem svojih dejavnosti. Sistem Windows bi moral ta dejanja preveriti z dnevnikom nadzora, ki je viden nedovoljeno.

3. Zastopniki bi morali zagotoviti sredstva za nadzor nad njihovimi dejavnostmi. Številne dejavnosti posrednikov so združeni paketi, ki vsebujejo več korakov. Uporabniki bi morali imeti možnost, da pregledajo korake in odobrijo načrt ter spremljajo izvajanje načrta. Posredniki morajo imeti možnost, da po potrebi izrecno zahtevajo dovoljenje ali odločitev uporabnika.

4. Zastopniki morajo vedno delovati po načelih najmanjših pravic in jim ne smejo biti podeljena dovoljenja ali zmogljivosti, ki presegajo dovoljenja uporabnika, ki je pobudnik, vključno s skrbniškimi pravicami. Pravice pooblaščenega agenta morajo biti razdrobljene, določene in časovno vezane. Posredniki morajo imeti dostop le do občutljivih podatkov (npr. podatkov o kreditni kartici) v določenih kontekstih, ki jih odobri uporabnik, na primer za izvajanje določenih dejanj, na primer pri interakciji z določenimi aplikacijami ali na določenih spletnih mestih.

5. Subjekti v sistemu – skrbnik, lokalni sistem itd. – ne smejo imeti posebnega dostopa do posrednika, razen lastnika, ki deluje v imenu.

6. Sistem Windows je zasnovan tako, da posrednikom pomaga pri upoštevanju Microsoftovih zavez , ki jih je v Microsoftovi izjavi o zasebnosti in v odgovorni Standard . Sistem Windows bo posrednikom podpiral pri obdelavi podatkov le za jasno opredeljene namene, pri čemer bo zagotavljal preglednost in zaupanje. Za podrobnosti o naših zavezah za odgovorno nadaljevanje uporabniškega vmesnika ter zaščito zasebnosti in drugih temeljnih pravic glejte Microsoftovo poročilo o zasebnosti.

Razvoj posrednikov in varnost, povezana z AI, sta še naprej hitro in premikajoč se področje raziskav z aktivnim sodelovanjem Microsofta v partnerstvu s širšo varnostno skupnostjo. Kot del Microsoftove obveze za varno prihodnost pobude je pomoč uporabnikom, podjetjem in razvijalcem pri spopadanje s temi izzivi naša glavna naloga, saj ljudje začnejo komunicirati s posredniki kot del njihovih dnevnih potekov dela.

Omogočanje poskusnih agentskih funkcij

Nastavitev preizkusnih agentskih funkcij je privzeto izklopljena. Ta funkcija sama nima zmogljivosti uporabniškega vmesnika, je varnostna funkcija za posrednike, kot so Dejanja copilota. Če omogočite to stikalo, omogočite ustvarjanje ločenega računa posrednika in delovnega prostora v napravi, tako da je v zaprtem prostoru dejavnost posrednika ločena od uporabnika.  

Nastavitev preizkusnih agentnih funkcij je trenutno v predogledu, da se lahko na podlagi povratnih informacij natančneje določi izkušnja. V času predogleda bomo še naprej dodajali natančnejše varnostne in zasebnostne kontrolnike, preden bodo ti na voljo.  

Kopilotna dejanja, ki so trenutno v predogledu za preskuševalce sistema Windows v laboratorijih Copilot, uporabljajo to funkcijo za več informacij glejte Kopilot v sistemu Windows: Kopilotska dejanja se začnejo uvajati za preskuševalce sistema Windows | Spletni dnevnik za preskuševalce sistema Windows.  

To nastavitev lahko omogoči le skrbnik naprave, ko pa je ta omogočena, je omogočena za vse uporabnike naprave, vključno z drugimi skrbniki in standardnimi uporabniki.   

Nastavitev eksperimentalne agentske funkcije omogoča:

• Ustvarjanje računov posrednikov, ki posrednikom zagotavljajo svoj ločen račun v vaši napravi, ko delujejo v vašem imenu. Sistem Windows uporablja postopni pristop za dodajanje strožjih pravil za račune posrednikov v prihodnjih izdajah.

• Ustvarjanje delovnega prostora posrednika, kjer lahko posredniki delujejo vzporedno s človeškim uporabnikom, kar omogoča osamitev izvajalnika in pooblastilo z obsegom. S tem posredniku omogočite zmogljivosti, kot je namizje, pri tem pa se omeji vidljivost posrednika in dostop do njegove dejavnosti na namizju.

• Agentske aplikacije, kot je Copilot, lahko zahtevajo in dostopajo do teh šestih pogosto uporabljenih map v imeniku uporabniškega profila, medtem ko se izvajajo v delovnem prostoru posrednika: Dokumenti, prenosi, namizje, glasba, slike in videoposnetki.

Koraki za omogočanje preizkusnih agentskih funkcij:

1. V sistem Windows se vpišite s skrbniškim računom

2. V aplikaciji Nastavitve v napravi s sistemom Windows izberite System > Komponente AI > Eksperimentalne agentne funkcije

Dostop do aplikacij v delovnem prostoru posrednika

Ko se aplikacija agent izvaja v delovnem prostoru posrednika, ima dostop do aplikacij, ki so privzeto na voljo vsem uporabnikom. Če želite omejiti dostop, lahko namestite aplikacije za določene uporabnike ali posebej za vaše posrednike.

Dostop do datotek v delovnem prostoru posrednika

Agentski računi imajo omejen dostop do imenika uporabniških profilov (C:\Users\<username>\) med izvajanjem delovnega prostora posrednika. Če posrednik potrebuje dostop do datotek v tem imeniku, Windows dodeli dostop za branje in pisanje tem znanim mapam : Dokumenti, Prenosi, Namizje, Videoposnetki, Slike, Glasba, ko je nastavitev omogočena. Te mape so morda na standardnem mestu ali pa ste jih preusmerili drugje v datotečnem sistemu.

Če želite omejiti dostop do teh map, izklopite nastavitev preizkusne agentijske funkcije.

1. V aplikaciji Nastavitve v napravi s sistemom Windows izberite Sistemske > komponente AI in > poskusne agentne funkcije

2. Izklop nastavitve

Računi posrednika imajo dostop do vseh map, do katere imajo dostop vsi uporabniki s preverjeno pristnostjo, na primer do javnih uporabniških profilov.

Znane težave

Pri graditvi 26220.7262 se lahko soočite s temi težavami:

• Sistem Windows ne bo spal, ko bo Copilot aktivno govoril.

  • Nadomestna rešitev: Zaprite vse pogovore s kopilotom Ali zaprite Kopilot tako, da ga izberete na pladnju, ga kliknete z desno tipko miške in izberete »Zapri«.

• Morda se bo prikazovalo opozorilo »Nekdo drug še vedno uporablja ta računalnik. Če jo zaustavite zdaj, lahko izgubijo neshranjeno delo.«, ko poskušate zaustaviti ali znova zagnati napravo s sistemom Windows zaradi aktivnih pogovorov z dejanji v aplikaciji Copilot.

  • Nadomestna rešitev: Zaprite vse pogovore s kopilotom Ali zaprite Kopilot tako, da ga izberete na pladnju, ga kliknete z desno tipko miške in izberete »Zapri«.

• Uporabniki poslovnih okolij, ki imajo upravljanje pravic do končne točke, lahko vidijo upravljane profile Intune ustvarjene za uporabniške račune posrednika, ki niso izbrisani, ko je pogovor z dejanjem Copilot zaprt ali ko se aplikacija zapre. Ti profili se običajno končajo z znakom za dolar, tj. _$, in so poleg uporabniških računov posrednika v mapi uporabniki sistema Windows (običajno c:\users).

  • Nadomestna rešitev: Microsoft je seznanjen s to težavo in razvija popravek, ki bo počistil Intune profilov. ​​​​​​​

​​​​​​​