Eksperimentalne značajke agentica

Sadržaj članka

• Zašto je sigurnost važna

• Načela sigurnosti i zaštite privatnosti agenta

• Omogućivanje eksperimentalnih značajki agentica

• Pristup aplikaciji u radnom prostoru agenta

• Pristup datoteci u radnom prostoru agenta

• Poznati problemi

Zašto je sigurnost važna

Agentic AI ima snažne mogućnosti danas – na primjer, može dovršiti mnogo složenih zadataka kao odgovor na korisničke upite, pretvarajući način na koji korisnici komuniciraju sa svojim PC-jevima. Kako se te mogućnosti uvode, modeli AI i dalje se suočavaju s funkcionalnim ograničenjima u pogledu njihova ponašanja i povremeno mogu halucinirati i proizvoditi neočekivane izlaze. Osim toga, aplikacije agentic AI uvode nove sigurnosne rizike, kao što je unakrsno ubacivanje (XPIA), gdje zlonamjerni sadržaj ugrađen u elemente korisničkog sučelja ili dokumente može nadjačati upute agenta, što dovodi do neželjenih radnji kao što su eksteziviranje podataka ili instalacija zlonamjernog softvera. Preporučujemo da pročitate te podatke i razumijete sigurnosne implikacije omogućivanja agenta na računalu. 

Kako u Sustav Windows počinjemo izgužvati agenticske mogućnosti, naša je predanost uvrštavanje robusnih kontrola sigurnosti i zaštite privatnosti koje korisnicima omogućuju pouzdano istraživanje njihovih potencijala uz podršku jasnih smjernica i odgovarajućih sigurnosnih ograda koje pokreću ti ciljevi.

1. Neosporno : sve radnje agenta vidljive su i mogu se razlikovati od onih koje je korisnik preuzeo.

2. Povjerljivost: Agenti koji prikupljaju, objedinjuju ili na neki drugi način koriste zaštićene podatke korisnika ispunjavaju ili prelaze standarde sigurnosti i zaštite privatnosti podataka koje troše.

3. Autorizacija : korisnici odobravaju sve upite za korisničke podatke, kao i radnje koje su poduzete.

Načela sigurnosti i zaštite privatnosti agentica

Za osiguravanje AI agenata potreban je robustan skup načela koja osiguravaju da djeluju u skladu s korisnikovim namjerom uz istodobno čuvanje svojih podataka.

1. Agenti su samostalni entiteti. Osjetljivi su na napade na isti način kao i sve druge komponente korisnika ili softvera. Njihove akcije moraju biti u mogućnosti da budu sadržane.

2. Agenti moraju moći stvarati zapisnike u kojima se iznose njihove aktivnosti. Windows bi trebao moći provjeriti te akcije zapisnikom nadzora koji je očit za neovlašteno mijenjanje.

3. Agenti bi trebali osigurati sredstva za nadzor njihovih aktivnosti. Mnoge su aktivnosti agenata skupni planovi koji sadrže više koraka. Korisnici bi trebali moći pregledati korake i odobriti plan i pratiti izvršavanje plana. Agenti moraju moći izričito zatražiti odobrenje ili odluku korisnika ako je to potrebno.

4. Agenti uvijek trebaju djelovati prema načelima najmanje privilegije i ne smiju imati dozvole ili mogućnosti koje premašuju ovlasti inicijalnog korisnika, uključujući administrativna prava. Ovlasti Ovlaštenog agenta moraju biti granularne, specifične i vremenske vezane. Agenti moraju moći pristupati samo osjetljivim informacijama (npr. podacima o kreditnoj kartici) u specifičnim kontekstima koji su autorizirani od strane korisnika, kao što su za provođenje određenih radnji, kao što su prilikom interakcije s određenim aplikacijama ili na određenim web-mjestima.

5. Entiteti u sustavu – administrator, lokalni sustav itd. – ne bi trebali imati poseban pristup agentu koji nije vlasnik čiji djeluje u ime.

6. Windows je osmišljen kako bi se agentima pomoglo da se pridržavaju Microsoftovih obveza u Izjavi o zaštiti privatnosti tvrtke Microsoft i odgovornoj AI Standard . Windows će podržavati agente u obradi podataka samo u jasno definirane svrhe, osiguravanje transparentnosti i povjerenja. Pojedinosti o našim obvezama u vezi s odgovorom na AI potražite u Microsoftovu izvješću o zaštiti privatnosti uz istovremeno zaštitu privatnosti i drugih temeljnih prava.

Razvoj agenta i sigurnost povezana s AI-jem i dalje su područje brzog istraživanja s aktivnim sudjelovanjem Tvrtke Microsoft u suradnji sa širom sigurnosnom zajednicom. Kao dio Microsoftove predanosti sigurnoj budućoj inicijativi, pomaganje korisnicima, tvrtkama i razvojnim inženjerima u rješavanju tih izazova naš je glavni prioritet kada ljudi započinju interakciju s agentima u sklopu svojih svakodnevnih tijekova rada.

Omogući eksperimentalne značajke agentica

Postavka eksperimentalnih značajki agentica po zadanom je isključena. Ova značajka nema mogućnosti AI-ja sama, to je sigurnosna značajka za agente kao što su Akcije kopilota. Omogućivanjem ovog preklopnog gumba omogućuje se stvaranje zasebnog računa agenta i radnog prostora na uređaju, čime se pruža sadržani prostor da bi aktivnost agenta bila odvojena od korisnika.  

Postavka eksperimentalnih značajki agentica trenutno je u pretpregledu radi prikupljanja i učenja iz povratnih informacija radi sužavanja iskustva. Tijekom razdoblja pretpregleda nastavit ćemo dodavati preciznije kontrole sigurnosti i zaštite privatnosti prije nego što ona općenito postat će dostupna.  

Akcije copilota, trenutno u pretpregledu za Windows Insidere u kopilotnim laboratorijima, koriste tu funkciju da biste saznali više u članku Copilot u sustavu Windows: Akcije copilota počinju uvoditi Windows Insiderima | Blog o programu Windows Insider.  

Tu postavku može omogućiti samo administrator uređaja i kada je omogućena, omogućena je svim korisnicima na uređaju, uključujući druge administratore i standardne korisnike.   

Postavka eksperimentalne značajke agentic omogućuje:

• Stvaranje računa agenta koji agentima daju vlastiti zasebni račun na vašem uređaju kada djeluju u vaše ime. Windows koristi pristup s fazama za dodavanje strožih pravila za račune agenta u nadolazećim izdanjima.

• Stvaranje radnog prostora agenta u kojem agenti mogu paralelno raditi s ljudskim korisnikom, što omogućuje izolaciju izvođenja i autorizaciju opsega. To agentu omogućuje mogućnosti kao što je vlastita radna površina uz ograničavanje vidljivosti i pristupa agentu na aktivnost korisnika na radnoj površini.

• Aplikacije Agentic kao što je Copilot mogu zatražiti i dobiti pristup ovih šest najčešće korištenih mapa u direktoriju korisničkog profila dok se izvode u radnom prostoru agenta: Dokumenti, preuzimanja, radna površina, glazba, slike i videozapisi.

Koraci za omogućivanje eksperimentalnih značajki agentica:

1. Prijava u Windows pomoću administratorskog računa

2. U aplikaciji Postavke na uređaju sa sustavom Windows odaberite Sistemske > AI komponente > Eksperimentalne značajke agentica

Pristup aplikaciji u radnom prostoru agenta

Kada je pokrenuta u radnom prostoru agenta, aplikacija agentic ima pristup aplikacijama koje su po zadanom dostupne svim korisnicima. Da biste ograničili pristup, možete instalirati aplikacije za određene korisnike ili posebno za svoje agente.

Pristup datoteci u radnom prostoru agenta

Agent računi imaju ograničen pristup direktoriju korisničkog profila (C:\Korisnici\<korisničko ime>\) tijekom rada u radnom prostoru agenta. Ako agentu treba pristup datotekama u tom direktoriju, Windows omogućuje pristup za čitanje i pisanje sljedećim poznatim mapama : Dokumenti, Preuzimanja, Radna površina, Videozapisi, Slike, Glazba kada je postavka omogućena. Te mape možda imate na standardnom mjestu ili ste ih preusmjerili negdje drugdje u datotečnom sustavu.

Da biste ograničili pristup tim mapama, isključite postavku eksperimentalne aplikacije agentic.

1. U aplikaciji Postavke na uređaju sa sustavom Windows odaberite Sistemske > AI komponente > Eksperimentalne značajke agentica

2. Isključivanje postavke

Računi agenta imaju pristup svim mapama kojima svi autorizirani korisnici imaju pristup, npr. javnim korisničkim profilima.

Poznati problemi

Mogli biste se suoćiti s ovim problemima u međuverziji 26220.7262:

• Windows neće spavati dok Copilot ima aktivne razgovore.

  • Zaobilazno rješenje: Zatvorite sve razgovore sa servisom Copilot Akcije ili zatvorite Copilot tako da ga odaberete u paleti, kliknete je desnom tipkom miša i odaberete "Zatvori".

• Možda će vam se prikazati upozorenje "Netko drugi još koristi ovaj PC. Ako se sada isključite, mogli bi izgubiti nespremljeni rad." prilikom pokušaja isključivanja ili ponovnog pokretanja uređaja sa sustavom Windows zbog aktivnih razgovora sa servisom Copilot Actions.

  • Zaobilazno rješenje: Zatvorite sve razgovore sa servisom Copilot Akcije ili zatvorite Copilot tako da ga odaberete u paleti, kliknete je desnom tipkom miša i odaberete "Zatvori".

• Korporacijski korisnici s upravljanjem privilegijama krajnje točke mogu vidjeti Intune upravljane profile stvorene za korisničke račune agenta koji se ne čiste kada se zatvori razgovor akcije copilota ili se aplikacija zatvori. Ti profili obično završavaju znakom dolara, npr.: _$, a nalaze se uz korisničke račune agenta u mapi korisnika sustava Windows (obično c:\korisnici).

  • Zaobilazno rješenje: Microsoft je upoznat s tim problemom i radi na rješenju koje će očistiti Intune profila. ​​​​​​​

​​​​​​​