Caracteristici agentice experimentale

În acest articol

• De ce contează securitatea

• Principiile securității și confidențialității agenților

• Activați caracteristicile agentice experimentale

• Accesul la aplicații în spațiul de lucru al agentului

• Accesul la fișiere în spațiul de lucru al agentului

• Probleme cunoscute

De ce contează securitatea

Inteligența artificială agentică are capacități puternice astăzi, de exemplu, poate efectua multe activități complexe ca răspuns la solicitările utilizatorilor, transformând modul în care utilizatorii interacționează cu PC-urile lor. Pe măsură ce sunt introduse aceste capacități, modelele AI se confruntă în continuare cu limitări funcționale în ceea ce privește modul în care se comportă și, ocazional, pot avea halucinații și pot produce ieșiri neașteptate. În plus, aplicațiile agentice pentru inteligența artificială introduc noi riscuri de securitate, cum ar fi injectarea inter-promptă (XPIA), în care conținutul rău intenționat încorporat în elementele sau documentele UI poate înlocui instrucțiunile agentului, conducând la acțiuni neprevăzute, cum ar fi exfiltrarea datelor sau instalarea de malware. Vă recomandăm să citiți aceste informații și să înțelegeți implicațiile de securitate ale activării unui agent pe computerul dvs. 

Pe măsură ce începem să construim capacități agentice în Windows, angajamentul nostru este să includem controale robuste de securitate și confidențialitate care să le permită clienților să-și exploreze potențialul cu încredere, cu sprijinul unor instrucțiuni clare și al unor balustrade de protecție corespunzătoare determinate de aceste obiective.

1. Nerepudiere : Toate acțiunile unui agent se pot observa și se pot distinge de cele efectuate de un utilizator.

2. Confidențialitate: Agenții care colectează, agregă sau utilizează în alt mod date protejate ale utilizatorilor îndeplinesc sau depășesc standardele de securitate și confidențialitate ale datelor pe care le consumă.

3. Autorizare : utilizatorii aprobă toate interogările pentru datele de utilizator, precum și acțiunile efectuate.

Principii de securitate și confidențialitate agentice

Asigurarea agenților ai inteligenței artificiale necesită un set solid de principii care să asigure că aceștia acționează în conformitate cu intenția utilizatorului, protejându-și în același timp datele.

1. Agenții sunt entități autonome. Acestea sunt susceptibile de a ataca în același mod în care orice alte componente de utilizator sau software sunt. Acțiunile lor trebuie să poată fi conținute.

2. Agenții trebuie să poată produce jurnale care își prezintă activitățile. Windows ar trebui să poată verifica aceste acțiuni printr-un jurnal de auditare care nu este evident.

3. Agenții trebuie să furnizeze un mijloc de supraveghere a activităților acestora. Multe activități ale agenților sunt planuri agregate care conțin mai mulți pași. Utilizatorii ar trebui să poată revizui pașii și să aprobe planul și să monitorizeze executarea planului. Agenții trebuie să poată solicita în mod explicit autorizarea sau decizia unui utilizator, dacă este necesar.

4. Agenții trebuie să acționeze întotdeauna conform principiilor celor mai puțin privilegiate și nu trebuie să li se acorde permisiuni sau capacități mai mari decât ale utilizatorului inițiator, inclusiv drepturi administrative. Privilegiile de agent autorizat trebuie să fie granulare, specifice și legate de timp. Agenții trebuie să poată accesa doar informații sensibile (de exemplu, date de pe cardul de credit) doar în anumite contexte, autorizate de utilizator, cum ar fi pentru efectuarea unor acțiuni specifice, cum ar fi interacțiunea cu anumite aplicații sau pe site-urile web specificate.

5. Entitățile din sistem – administrator, sistem local etc. – nu ar trebui să aibă acces special la un alt agent decât proprietarul, în numele căruia acționează.

6. Windows este proiectat să ajute agenții să respecte angajamentele Microsoft asumate în Angajamentul de respectare a confidențialității Microsoft și în Standard responsabil pentru inteligența artificială. Windows va oferi asistență agenților care procesează date doar în scopuri clar definite, asigurând transparență și încredere. Consultați Raportul de confidențialitate Microsoft pentru detalii privind angajamentele noastre de a avansa în mod responsabil inteligența artificială, protejând în același timp confidențialitatea și alte drepturi fundamentale.

Dezvoltarea agenților și securitatea legată de inteligența artificială continuă să fie un domeniu rapid de cercetare cu participare activă de la Microsoft în parteneriat cu comunitatea de securitate mai largă. Ca parte a angajamentului Microsoft pentru Secure Future Initiative , sprijinirea utilizatorilor, firmelor și dezvoltatorilor în rezolvarea acestor provocări este prioritatea noastră principală, pe măsură ce oamenii încep să interacționeze cu agenții ca parte a fluxurilor lor de lucru zilnice.

Activare caracteristici agentice experimentale

Setarea caracteristicilor agentice experimentale este dezactivată în mod implicit. Această caracteristică nu are capacități ai pe cont propriu, este o caracteristică de securitate pentru agenți precum Copilot Actions. Activarea acestui comutator permite crearea unui cont de agent separat și a unui spațiu de lucru pe dispozitiv, furnizând un spațiu conținut pentru a păstra activitatea agentului separată de utilizator.  

Setarea caracteristicilor agentice experimentale este în prezent în previzualizare, în scopul colectării și învățării din feedback pentru a rafina experiența. În perioada de previzualizare, vom continua să adăugăm controale mai granulare de securitate și confidențialitate înainte ca acestea să fie disponibile la nivel general.  

Copilot Actions, în prezent în previzualizare pentru utilizatorii Windows Insider din Copilot Labs, utilizează această funcționalitate, pentru mai multe informații consultați Copilot în Windows: Acțiuni copilot începe să fie implementate pentru utilizatorii Windows Insider | BlogUl Windows Insider.  

Această setare poate fi activată doar de un utilizator administrativ al dispozitivului și, odată activată, este activată pentru toți utilizatorii de pe dispozitiv, inclusiv pentru alți administratori și utilizatori standard.   

Setarea caracteristicii agentice experimentale permite:

• Crearea de conturi de agent care le oferă agenților propriul cont separat pe dispozitivul dvs. atunci când acționează în numele dvs. Windows utilizează o abordare pe etape pentru a adăuga reguli mai stricte pentru conturile de agent în versiunile viitoare.

• Crearea spațiului de lucru agent unde agenții pot lucra în paralel cu un utilizator uman, activând izolarea runtime și autorizarea domeniului. Acest lucru îi oferă agentului capacități precum propriul desktop, limitând în același timp vizibilitatea și accesarea agentului la activitatea de desktop a utilizatorului.

• Aplicații agentice, cum ar fi Copilot, pot solicita și obține acces la aceste șase foldere utilizate frecvent în directorul profilului dvs. de utilizator în timp ce rulează în spațiul de lucru al agentului: Documente, descărcări, desktop, muzică, imagini și videoclipuri.

Pașii pentru activarea caracteristicilor agentice experimentale:

1. Conectați-vă la Windows cu un cont de administrator

2. În aplicația Setări de pe dispozitivul Windows, selectați Componente AI > sistem > Caracteristici agentice experimentale

Accesul la aplicații în spațiul de lucru al agentului

Atunci când rulează în spațiul de lucru agent, aplicația agentică are acces la aplicațiile disponibile implicit pentru toți utilizatorii. Pentru a limita accesul, puteți instala aplicații pentru anumiți utilizatori sau special pentru agenții dvs.

Accesul la fișiere în spațiul de lucru al agentului

Conturile Agentic au acces limitat la directorul profilului de utilizator (C:\Users\<numeutilizator>\) în timp ce operează în spațiul de lucru al agentului. Dacă un agent are nevoie de acces la fișierele din acel director, Windows acordă acces de citire și scriere la următoarele foldere cunoscute: Documente, Descărcări, Desktop, Videoclipuri, Imagini, Muzică atunci când este activată setarea. Este posibil să aveți aceste foldere în locația standard sau să le fi redirecționat în altă parte din sistemul de fișiere.

Pentru a limita accesul la aceste foldere, dezactivați setarea caracteristicii agentice experimentale.

1. În aplicația Setări de pe dispozitivul Windows, selectați Componente AI > sistem > Caracteristici agentice experimentale

2. Dezactivați setarea

Conturile agent au acces la toate folderele la care au acces toți utilizatorii autentificați, de exemplu, la profilurile de utilizator publice.

Probleme cunoscute

Puteți întâmpina aceste probleme în versiunea 26220.7262:

• Windows nu va dormi în timp ce Copilot are conversații active.

  • Soluție de evitare: Închideți orice conversații Copilot Actions sau închideți Copilot selectându-l din tavă, făcând clic dreapta și selectând "Quit".

• Este posibil să vedeți un avertisment "Altcineva utilizează în continuare acest PC. Dacă închideți acum, aceștia ar putea pierde lucrul nesalvat." atunci când încercați să închideți sau să reporniți dispozitivul Windows din cauza conversațiilor Active Copilot Actions.

  • Soluție de evitare: Închideți orice conversații Copilot Actions sau închideți Copilot selectându-l din tavă, făcând clic dreapta și selectând "Quit".

• Utilizatorii de întreprindere cu Gestionare privilegii punct final pot vedea Intune profiluri gestionate create pentru conturile de utilizator agent care nu sunt curățate atunci când conversația Copilot Action este închisă sau aplicația se închide. Aceste profiluri se termină de obicei cu semnul dolar, de exemplu: _$, și sunt amplasate împreună cu conturile de utilizator agent în folderul utilizatori Windows (de obicei c:\users).

  • Soluție: Microsoft cunoaște această problemă și lucrează la o remediere care va curăța profilurile rămase Intune. ​​​​​​​

​​​​​​​