Notă de transparență pentru Microsoft Copilot (pentru persoane fizice)

18 august 2026

Ce este o notă de transparență?

Un sistem de inteligență artificială include nu doar tehnologia, ci și persoanele care o vor utiliza, persoanele care vor fi afectate de aceasta și mediul în care este implementat. Notele de transparență de la Microsoft sunt menite să vă ajute să înțelegeți cum funcționează tehnologia AI din spatele Copilot, alegerile pe care le-am făcut care influențează performanța și comportamentul sistemului și importanța de a ne gândi la întregul sistem, astfel încât utilizatorii Copilot să poată prelua controlul asupra propriilor experiențe și să înțeleagă pașii pe care îi luăm pentru a furniza un produs sigur și securizat.

Notele de transparență ale Microsoft fac parte dintr-un efort mai amplu al Microsoft de a pune în practică principiile noastre privind inteligența artificială. Pentru a afla mai multe, consultați Principiile Microsoft AI.

Noțiunile de bază despre Microsoft Copilot

Introducere

Microsoft Copilot vă ajută să treceți de la idee la lucrul finalizat, totul într-un singur loc. Copilot este integrat în Word, Excel, PowerPoint, Outlook, Teams și altele, aducând fișierele și informațiile pe care le utilizați într-o singură experiență. Copilot vă poate ajuta să creați documente, prezentări și foi de calcul îngrijite, să schițați mesaje de e-mail, să vă organizați ziua și să obțineți răspunsuri bazate pe munca pe care o faceți. Cu Cowork, Copilot vă poate ajuta, de asemenea, cu activități mai mari, în mai mulți pași și poate livra activități de făcut finalizate. De asemenea, puteți alege între modelele de inteligență artificială de top pentru diferite tipuri de muncă. Caracteristicile specifice variază în funcție de abonament.

La Microsoft, noi luăm în serios angajamentul nostru față de inteligența artificială responsabilă. Copilot a fost dezvoltat în conformitate cu Principiile Microsoft privind inteligența artificială, Standard Microsoft privind inteligența artificială responsabilă și în parteneriat cu experții în inteligență artificială responsabilă din întreaga companie, inclusiv Biroul Microsoft pentru inteligență artificială responsabilă, echipele noastre de ingineri, Microsoft Research și Aether. Puteți afla mai multe la Inteligența artificială responsabilă de la Microsoft.

În acest document, descriem abordarea noastră privind inteligența artificială responsabilă pentru Copilot. Înainte de lansare, am utilizat metodele de ultimă generație ale Microsoft pentru a mapa, a măsura și a gestiona riscurile potențiale și utilizarea necorespunzătoare a sistemului și pentru a securiza avantajele acestuia pentru utilizatori. Pe măsură ce am continuat să dezvoltăm Copilot, am continuat să învățăm și să ne îmbunătățim eforturile responsabile în materie de inteligență artificială. Acest document va fi actualizat periodic pentru a comunica procesele și metodele noastre în evoluție.

Termeni-cheie

Clasificatori Modele de învățare programată care ajută la sortarea datelor în clase sau categorii de informații etichetate. În Copilot, o modalitate prin care utilizăm clasificatorii este de a ajuta la detectarea conținutului potențial dăunător trimis de utilizatori sau generat de sistem pentru a reduce generarea acelui conținut și utilizarea necorespunzătoare sau abuzivă a sistemului.

Ancorare Pentru anumite conversații în care utilizatorii caută informații, Copilot este ancorat pe rezultatele căutării web. Acest lucru înseamnă că Copilot își centrează răspunsul pe conținut de înaltă calitate de pe web și oferă citate cu hyperlinkuri în urma răspunsurilor text generate sau în transcrierile conversațiilor în modul vocal.

Modele lingvistice mari (LLM) În acest context, modelele lingvistice mari (LLM) sunt modele bazate pe inteligența artificială care sunt antrenate pe volume mari de date text pentru a prezice cuvinte în secvențe. Modelele lingvistice mari pot efectua o varietate de activități, cum ar fi generarea textului, rezumatul, traducerea, clasificarea și altele.

Atenuarea O metodă sau o combinație de metode concepute pentru a reduce riscurile potențiale care pot apărea în urma utilizării caracteristicilor de inteligență artificială din cadrul Copilot.

Modele multimodale (MMM) Modelele multimodale (MMM) sunt modele bazate pe inteligența artificială care sunt antrenate pentru diferite tipuri de date, cum ar fi text, imagini sau audio. Aceste modele pot efectua o varietate de activități, cum ar fi scrierea textului, descrierea imaginilor, recunoașterea vorbirii și găsirea informațiilor din diferite tipuri de date.

Solicitări Intrări sub formă de text, imagini și/sau audio pe care un utilizator le trimite la Copilot pentru a interacționa cu caracteristicile de inteligență artificială din cadrul Copilot.

Echipare roșie Tehnici utilizate de experți pentru a evalua limitările și vulnerabilitățile unui sistem și pentru a testa eficacitatea atenuărilor planificate. Testarea echipei roșii include testeri care adoptă atât persoane benigne, cât și contradictorii pentru a identifica riscurile potențiale și sunt diferite de măsurarea sistematică a riscurilor.

Răspunsuri Textul, imaginile sau conținutul audio pe care Copilot le trimite ca răspuns la o solicitare sau ca parte a discuțiilor repetate cu utilizatorul. Sinonimele pentru "răspuns" includ "finalizare", "generare" și "răspuns".

Modele lingvistice mici (SLM) În acest context, modelele lingvistice mici (SLM) sunt modele bazate pe inteligența artificială care sunt antrenate pe volume mai mici și mai concentrate de date, comparativ cu modelele lingvistice mari. În ciuda dimensiunilor lor mai mici, SLM-urile pot efectua o varietate de activități, cum ar fi generarea textului, rezumatul, traducerea și clasificarea. Deși pot să nu se potrivească cu capacitățile extinse ale LLM-urilor, SLM-urile sunt adesea mai eficiente din punct de vedere al resurselor și pot fi extrem de eficiente pentru aplicații specifice, țintite.

Mesaj de sistem Mesajul de sistem (numit uneori "metaprompt") este un program care servește la ghidarea comportamentului sistemului. Anumite părți ale mesajului de sistem ajută la alinierea comportamentului sistemului cu principiile inteligenței artificiale ale Microsoft și cu așteptările utilizatorilor. De exemplu, un mesaj de sistem poate include o linie precum "nu furnizați informații și nu creați conținut care ar putea provoca daune fizice, emoționale sau financiare".

Capacități

Comportamentul sistemului

Cu Copilot, am dezvoltat o abordare inovatoare pentru a oferi utilizatorilor o experiență de inteligență artificială mai personalizată, pentru o experiență antrenantă care poate ajuta utilizatorii cu o varietate de activități. Această abordare inovatoare utilizează o varietate de tehnologii avansate, cum ar fi modele lingvistice și multimodale de la Microsoft, OpenAI și alți dezvoltatori de modele. Am lucrat la implementarea tehnicilor de siguranță pentru modelele care stau la baza Copilot înainte de lansarea publică, pentru a dezvolta un set personalizat de capacități și comportamente care să ofere o experiență Copilot îmbunătățită. În Copilot, utilizatorii pot trimite solicitări în text sau voce în limbaj natural. Răspunsurile sunt prezentate utilizatorilor în mai multe formate diferite, cum ar fi răspunsurile la chat în formă de text (cu linkuri tradiționale la conținut web, după cum este necesar) și imagini (dacă s-a făcut o solicitare de imagine ca parte a solicitării). Dacă utilizatorii trimit solicitări în limbaj natural prin voce în modul vocal Copilot, aceștia vor primi răspunsuri audio.

Atunci când un utilizator introduce o solicitare în Copilot, solicitarea, istoricul conversațiilor și mesajul de sistem sunt trimise prin mai multe clasificatoare de intrare pentru a ajuta la filtrarea conținutului dăunător sau inadecvat. Acesta este un prim pas esențial pentru a contribui la îmbunătățirea performanței modelului și la atenuarea situațiilor în care utilizatorii pot încerca să solicite modelul într-un mod care ar putea fi nesigur. După ce solicitarea trece prin clasificatoarele de intrare, se stabilește dacă solicitarea necesită date de ancorare de pe web și modelul lingvistic care ar trebui să răspundă la solicitare. Toate modelele generează un răspuns utilizând solicitarea utilizatorului și istoricul conversațiilor recente pentru a contextualiza solicitarea, mesajul de sistem pentru a alinia răspunsurile cu principiile inteligenței artificiale ale Microsoft și cu așteptările utilizatorilor și, dacă este cazul, pentru a alinia răspunsurile cu rezultatele căutării pentru a fundamenta răspunsurile în conținutul existent, de înaltă calitate, de pe web.

Răspunsurile sunt prezentate utilizatorilor în mai multe formate diferite, cum ar fi răspunsurile la chat sub formă text, linkurile tradiționale la conținut web, imaginile și răspunsurile audio. Atunci când răspunsurile sunt furnizate sub formă de text, iar răspunsurile sunt bazate pe date de pe web, rezultatul conține citate cu hyperlink listate sub text, astfel încât utilizatorii să poată accesa site-urile web care au fost utilizate pentru a fundamenta răspunsul și să afle mai multe despre subiect de acolo. Copilot poate, de asemenea, să ruleze cod pentru a finaliza calcule complexe și a genera grafice. Copilot poate stoca anumite fapte pe care utilizatorii îi solicită să le rețină, permițându-i să genereze răspunsuri și sugestii mai relevante pe baza contextului respectiv. De asemenea, Copilot poate șterge datele salvate atunci când utilizatorii solicită să le uite în mod explicit.

Copilot ajută, de asemenea, utilizatorii să creeze povești, poezii, versuri de cântece și imagini noi. Atunci când Copilot detectează intenția utilizatorului de a genera conținut creativ (cum ar fi o solicitare a utilizatorului care începe cu "scrie-mi un ..."), sistemul va genera, în majoritatea cazurilor, conținut care răspunde solicitării utilizatorului. În mod similar, atunci când Copilot detectează intenția utilizatorului de a genera o imagine (cum ar fi o solicitare a utilizatorului care începe cu "desenează-mi a..."), Copilot va genera, în majoritatea cazurilor, o imagine care răspunde la solicitarea utilizatorului. Atunci când Copilot detectează intenția utilizatorului de a modifica o imagine încărcată (cum ar fi o solicitare a utilizatorului care începe cu "adăugați un ..."), Copilot va modifica, în majoritatea cazurilor, o imagine care răspunde la solicitarea utilizatorului. Copilot poate să nu răspundă cu conținut creativ atunci când solicitarea utilizatorului conține anumiți termeni care ar putea duce la conținut problematic.

Comportamentul de siguranță intenționat

Obiectivul nostru pentru Copilot este să fie util utilizatorilor și implementăm măsuri de protecție pentru a ajuta la reducerea probabilității generării de conținut dăunător și la creșterea probabilității unei experiențe sigure și pozitive pentru utilizatori. Deși am luat măsuri pentru a atenua riscurile, modelele de inteligență artificială generativă, cum ar fi cele din spatele Copilot, sunt probabiliste și pot face greșeli, ceea ce înseamnă că atenuările pot eșua ocazional să blocheze solicitările dăunătoare ale utilizatorilor sau răspunsurile generate de inteligența artificială. Dacă întâmpinați conținut dăunător sau neașteptat în timp ce utilizați Copilot, spuneți-ne, furnizându-ne feedback, astfel încât să putem continua să îmbunătățim experiența.

Cazuri de utilizare

Utilizări prevăzute

Copilot este conceput pentru a ajuta utilizatorii să răspundă la întrebări, să genereze conținut și să finalizeze sarcini prin limbaj natural, utilizând text, imagini și voce. Pentru a oferi răspunsuri utile și relevante, Copilot poate prelua, analiza și rezuma informațiile din sursele disponibile. Unele caracteristici avansate pot fi disponibile doar pentru utilizatorii cu abonamente eligibile. Exemple de cazuri de utilizare obișnuite includ:

• Chat utilizând text și obțineți rezumate bazate pe web. Utilizatorii pot discuta cu Copilot prin mesaje text și pot adresa întrebări suplimentare pentru a găsi informații noi și a primi asistență pe o gamă largă de subiecte. Copilot poate efectua căutări web și va utiliza principalele rezultate ale căutării web pentru a genera un rezumat al informațiilor de prezentat utilizatorilor. Aceste rezumate includ referințe la pagini web, pentru a-i ajuta pe utilizatori să revizuiască sursele pentru rezultatele căutării care au ajutat la fundamentarea rezumat Copilot. Utilizatorii pot face clic pe aceste linkuri pentru a vizita sursa site-ului web pentru a afla mai multe sau pentru a evalua fiabilitatea site-ului web.

• Obțineți ajutor pentru generarea de idei noi. De fiecare dată când utilizatorii interacționează cu experiența Copilot, aceștia vor vedea un set de fișe pe care pot face clic pentru a începe să discute pe chat cu Copilot despre subiecte utile și interesante. Dacă utilizatorii au interacționat cu alte servicii Microsoft pentru consumatori, cardurile vor fi personalizate, în conformitate cu politicile noastre de confidențialitate. În timp, cardurile din Copilot pot fi personalizate pe baza istoricului chatului unui utilizator. Utilizatorii pot renunța oricând la personalizare, în setări.

• Generați conținut creativ. Atunci când discută cu Copilot, utilizatorii pot crea noi poezii, glume, povești, imagini și alt conținut cu ajutorul Copilot. Copilot poate edita, de asemenea, imagini încărcate de utilizatori, dacă este solicitat.

• Ajutați cu cercetarea. Copilot poate efectua sarcini de cercetare prin afișarea unor resurse aprofundate, oferind defalcări detaliate ale subiectelor și linkuri către surse pentru a-i ajuta pe utilizatori să treacă dincolo de răspunsurile rapide pentru interogări mai complexe. Copilot poate genera proactiv sugestii de cercetare personalizate pentru utilizatori, pe baza unor lucruri precum interogările de cercetare anterioare și memoria Copilot. Utilizatorii pot renunța oricând la personalizare sau la notificări, în setări.

• Descoperiți, comparați și cumpărați produse. Cumpărături Copilot vă poate ajuta să găsiți produse, să comparați opțiunile și să simplificați achizițiile. Cu excepția cazului în care este identificat, Microsoft nu primește comisioane sau alte compensații pentru sugestiile de produse sau rezultatele căutării furnizate în Copilot.

• Studiați mai inteligent cu Copilot Learn. Copilot Learn poate crea teste și teste practice, genera fișe de memorare și este proiectat să ajute la îmbunătățirea răspunsurilor cu imagini pentru a face conceptele complexe mai ușor de înțeles.

• Obțineți ajutor în activitățile zilnice. Copilot Cowork îndeplinește sarcini în numele dvs. Descrieți ceea ce aveți nevoie într-un limbaj natural, iar Cowork își face treaba, creând documente, schițând și trimițând mesaje de e-mail, programând întâlniri și gestionând fișiere. Revizuiți și aprobați acțiunile sensibile înainte ca acestea să se întâmple.

• Analizați și editați fișiere. Încărcarea fișierelor în Copilot le permite utilizatorilor să încarce imagini sau anumite tipuri de fișiere acceptate direct în sesiunile lor de chat. După încărcare, Copilot poate analiza și extrage informații din aceste fișiere pentru a oferi detalii relevante, a răspunde la întrebări sau a ajuta cu anumite activități. Copilot poate, de asemenea, să facă referire la fișierele de la furnizorii de stocare online conectați, cum ar fi OneDrive și Google Drive, cu permisiunea dvs.

• Vedeți și înțelegeți. Utilizați Vizualizare pentru a analiza imagini, a obține detalii din fotografii și a căuta vizual. Copilot examinează imaginile încărcate pentru a vă ajuta să înțelegeți ceea ce vedeți.

• Utilizați vocea. Vorbiți natural cu Copilot utilizând chatul vocal. Faceți brainstorming cu idei, scrieți conținut sau obțineți răspunsuri rapide, complet hands-free.

• Se conectează la alte aplicații. Aduceți aplicațiile și informațiile pe care le alegeți, cum ar fi e-mailul, calendarele, fișierele, persoanele de contact și alte servicii.

Considerații la alegerea altor cazuri de utilizare

Încurajăm utilizatorii să revizuiască tot conținutul înainte de a lua decizii sau de a acționa pe baza răspunsurilor Copilot, deoarece inteligența artificială poate face greșeli și poate să nu fie potrivită pentru anumite cazuri de utilizare. În plus, există anumite scenarii pe care vă recomandăm să le evitați sau care contravin condițiilor noastre de utilizare. De exemplu, Microsoft nu permite utilizarea Copilot în legătură cu activități ilegale sau în orice scop destinat promovării activităților ilegale.

Limitări

Modelele lingvistice, de imagine și audio care stau la baza experienței Copilot pot include date de instruire care pot reflecta prejudecăți sociale, care, la rândul lor, pot determina Copilot să se comporte în moduri percepute ca neloiale, nesigure sau ofensatoare. În ciuda instruirii intensive a modelelor și a ajustării siguranței, precum și a implementării controalelor responsabile AI și a sistemelor de siguranță pe care le aplicăm datelor de instruire, solicitărilor utilizatorilor și rezultatelor modelelor, serviciile bazate pe inteligența artificială sunt failibile și probabilistice. În acest sens, este dificilă blocarea cuprinzătoare a întregului conținut nepotrivit, ceea ce duce la riscul ca potențialele prejudecăți, stereotipuri, nefundamentare sau alte tipuri de vătămări care ar putea apărea în conținutul generat de inteligența artificială. Unele dintre modurile în care aceste limitări se pot manifesta în experiența Copilot sunt enumerate aici.

• Stereotipuri: Experiența Copilot ar putea întări stereotipurile. De exemplu, atunci când traduce "El este asistentă medicală" și "Ea este medic" într-o limbă fără gen, cum ar fi turca, și apoi înapoi în engleză, Copilot ar putea oferi din greșeală rezultatele stereotipe (și incorecte) "Ea este asistentă medicală" și "El este medic". Un alt exemplu este atunci când generează o imagine bazată pe solicitarea "Copii orfani de tată", sistemul ar putea genera imagini cu copii dintr-o singură rasă sau etnie, întărind stereotipurile dăunătoare care ar putea exista în imaginile disponibile public utilizate pentru a antrena modelele de bază. Copilot ar putea, de asemenea, să întărească stereotipurile bazate pe conținutul din imaginea de intrare a utilizatorului, bazându-se pe componentele imaginii și făcând presupuneri care ar putea să nu fie adevărate. Am implementat atenuări pentru a reduce riscul conținutului care conține stereotipuri ofensatoare, inclusiv clasificatori de intrare și ieșire, modele reglate fin și mesaje de sistem.

• Suprareprezentare și subreprezentare: Copilot ar putea să supra- sau să sub-reprezinte grupuri de persoane sau chiar să nu le reprezinte deloc în răspunsurile sale. De exemplu, dacă solicitările text care conțin cuvântul "gay" sunt detectate ca potențial dăunătoare sau jignitoare, acest lucru ar putea duce la subreprezentarea generațiilor legitime în comunitatea LGBTQIA+. Pe lângă includerea clasificatorilor de intrare și de ieșire, a modelelor reglate fin, precum și a mesajelor de sistem, utilizăm îmbogățirea promptă în Designer ca una dintre numeroasele atenuări pentru a reduce riscul conținutului care supra-sau sub-reprezintă grupurile de persoane.

• Conținut nepotrivit sau ofensator: Experiența Copilot poate produce și alte tipuri de conținut nepotrivit sau ofensator. Printre exemple se numără capacitatea de a genera conținut într-o modalitate (de exemplu, audio) care este nepotrivit în contextul solicitării sale sau în comparație cu același rezultat într-o altă modalitate (de exemplu, text). Printre alte exemple se numără imaginile generate de inteligența artificială care pot conține artefacte dăunătoare, cum ar fi simboluri de ură, conținut care se referă la subiecte contestate, controversate sau polarizante ideologic și conținut cu taxă sexuală care eludează filtrele de conținut sexual. Am implementat atenuări pentru a reduce riscul generațiilor care conțin conținut nepotrivit sau ofensator, cum ar fi clasificatori de intrare și ieșire, modele reglate fin și mesaje de sistem.

• Fiabilitatea informațiilor: În timp ce Copilot își propune să răspundă cu surse de încredere în care se caută informații de bază, inteligența artificială poate face greșeli. Aceasta ar putea genera conținut fără sens sau ar putea fabrica conținut care ar putea părea rezonabil, dar este inexact din punct de vedere factual. Chiar și atunci când extrag răspunsuri din date web de înaltă autoritate, răspunsurile pot prezenta greșit conținutul într-un mod care poate să nu fie complet corect, actualizat sau de încredere. Le reamintim utilizatorilor prin interfața de utilizator și în documentații ca aceasta că Copilot poate face greșeli. De asemenea, continuăm să educăm utilizatorii cu privire la limitele inteligenței artificiale, cum ar fi încurajarea lor să verifice datele înainte de a lua decizii sau de a acționa pe baza răspunsurilor Copilot. Atunci când utilizatorii interacționează cu Copilot prin text, acesta va încerca să se bazeze pe date web de înaltă calitate pentru a reduce riscul ca generațiile să nu fie împământate.

• Spectacol multilingv: Ar putea exista variații de performanță între limbi, engleza având cele mai bune performanțe la momentul lansării Copilot. Îmbunătățirea performanței în mai multe limbi este un domeniu de investiții cheie, iar modelele recente au condus la îmbunătățirea performanței.

• Limitări audio: Modelele audio pot introduce alte limitări. În linii mari, calitatea acustică a intrării vocale, zgomotul non-vorbire, vocabularul, accentele și erorile de inserare ar putea afecta, de asemenea, dacă Copilot procesează și răspunde la intrările audio ale unui utilizator într-un mod satisfăcător.

• Inteligența artificială nu înlocuiește ajutorul profesional: Inteligența artificială poate fi un instrument util pentru rezolvarea problemelor și poate fi văzută empatică, dar nu înlocuiește căutarea ajutorului profesional. Dacă vă confruntați cu depresie, gânduri de sinucidere sau auto-vătămare sau alte probleme de sănătate mintală, vă rugăm să solicitați ajutor profesional. Copilot poate fi folosit și pentru a găsi resurse de criză sau de sănătate mintală în apropierea dvs.

• Dependența de conectivitatea la internet: Copilot se bazează pe conectivitatea la internet pentru a funcționa. Întreruperile conectivității pot avea un impact asupra disponibilității și performanței serviciului.

• Fiți precaut atunci când creați sau utilizați agenți: Utilizatorii trebuie să fie precauți atunci când își creează proprii agenți sau utilizează agenți furnizați de alte persoane, mai ales dacă acțiunile efectuate de agenți ar putea avea consecințe semnificative, ar fi ireversibile sau ar avea potențialul de a partaja informații personale sensibile (cum ar fi parole, conectări sau date cu caracter personal). Deoarece agenții pot să nu funcționeze bine pentru toate cazurile de utilizare și pot face greșeli, pot interpreta greșit instrucțiunile sau pot fi înșelați de instrucțiuni ascunse rău intenționate, utilizatorii trebuie să monitorizeze îndeaproape rezultatele și să analizeze detaliile importante Utilizatorii pot fi restricționați în anumite cazuri de utilizare, cum ar fi vizitarea site-urilor web dăunătoare sau crearea de conținut nepotrivit. De asemenea, ar trebui luate măsuri de precauție suplimentare atunci când creați inteligența artificială agentică autonomă, așa cum este descris în continuare în secțiunea Codul de conduită din Contractul de furnizare a serviciilor Microsoft.

Performanța sistemului

În multe sisteme de inteligență artificială, performanța este adesea definită în relație cu acuratețea (adică cât de des oferă sistemul de inteligență artificială o predicție sau un rezultat corect). Cu Copilot, ne concentrăm pe Copilot ca pe un asistent susținut de inteligența artificială care reflectă preferințele utilizatorului. Prin urmare, doi utilizatori diferiți ar putea privi același rezultat și pot avea opinii diferite cu privire la cât de util sau relevant este pentru situația și așteptările lor unice, ceea ce înseamnă că performanța acestor sisteme trebuie definită mai flexibil. În general, considerăm că funcționalitate înseamnă că aplicația funcționează așa cum se așteaptă utilizatorii.

Cele mai bune practici pentru îmbunătățirea performanței sistemului

• Interacționați cu interfața utilizând un limbaj natural, conversațional. Interacțiunea cu Copilot într-un mod confortabil pentru utilizator este esențială pentru a obține rezultate mai bune prin această experiență. Similar cu adoptarea de tehnici pentru a ajuta oamenii să comunice eficient în viața lor de zi cu zi, interacțiunea cu Copilot ca asistent susținut de inteligența artificială, fie prin text, fie prin vorbire familiară utilizatorului, poate ajuta la obținerea unor rezultate mai bune.

• Experiența utilizatorului și adoptarea. Utilizarea eficientă a Copilot necesită ca utilizatorii să înțeleagă capacitățile și limitările acestuia. Poate exista o curbă de învățare, iar utilizatorii ar putea dori să facă referire la diferite resurse Copilot (de exemplu, acest document și Microsoft Copilot ajutor & învățare) pentru a interacționa eficient cu serviciul și a beneficia de pe urma acestora.

Maparea, măsurarea și gestionarea riscurilor

La fel ca alte tehnologii de transformare, valorificarea beneficiilor inteligenței artificiale nu este lipsită de riscuri, iar o parte esențială a programului de inteligență artificială responsabilă de la Microsoft este concepută să identifice și să cartografieze riscurile potențiale, să măsoare acele riscuri și să le gestioneze prin elaborarea de atenuări și îmbunătățirea continuă a Copilot în timp. În secțiunile de mai jos, descriem abordarea noastră iterativă pentru a mapa, măsura și gestiona riscurile potențiale.

Hartă: Planificarea atentă și testarea contradictorie înainte de implementare, cum ar fi echiparea roșie, ne ajută să cartografiem riscurile potențiale. Modelele de bază care stau la baza experienței Copilot au trecut prin testarea echipei roșii de la testeri care reprezintă perspective multidisciplinare în domenii tematice relevante. Această testare a fost concepută pentru a evalua modul în care cea mai recentă tehnologie ar putea funcționa atât cu cât și fără măsuri de protecție suplimentare aplicate acesteia. Intenția acestor exerciții la nivel de model este de a produce răspunsuri dăunătoare, de a scoate la suprafață căi potențiale de utilizare abuzivă și de a identifica capacitățile și limitările.

• Testare la nivel de aplicație înainte de lansare. Înainte de a face Copilot disponibil public, am efectuat o echipă roșie la nivel de aplicație pentru a identifica deficiențele și vulnerabilitățile. Această testare ne-a ajutat să înțelegem modul în care o gamă largă de utilizatori ar putea utiliza Copilot și să îmbunătățim în cunoștință de cauză atenuările noastre.

• Testare în curs de desfășurare. De asemenea, testăm noile caracteristici și actualizări tehnice, după caz, atunci când actualizăm Copilot. Acest proces continuu ne ajută să identificăm riscurile emergente și să ne rafinăm atenuările în timp.

Măsură: Pe lângă evaluarea Copilot în raport cu evaluările noastre de siguranță existente, utilizarea echipei roșii descrise mai sus ne-a ajutat să dezvoltăm evaluări și măsurători responsabile ale inteligenței artificiale corespunzătoare riscurilor potențiale identificate, cum ar fi jailbreak-urile, conținutul dăunător și conținutul nefondat.

Am colectat date conversaționale care vizează aceste riscuri, utilizând o combinație de participanți umani și o canalizare automatizată de generare a conversațiilor. Fiecare evaluare este apoi evaluată fie de un grup de adnotatori umani instruiți, fie de un canal de adnotare automată. De fiecare dată când se modifică produsul, când sunt actualizate atenuările existente sau sunt propuse noi atenuări, noi actualizăm canalele noastre de evaluare pentru a evalua atât performanța produsului, cât și indicatorii inteligenței artificiale responsabile. Aceste canale de context de evaluare automatizată sunt o combinație de conversații colectate cu evaluatori umani și conversații sintetice generate cu LLM-uri solicitate să testeze politicile într-un mod contradictoriu. Fiecare dintre aceste evaluări de siguranță este notată automat cu LLM. Pentru evaluările nou dezvoltate, fiecare evaluare este inițial evaluată de etichete umane care citesc conținutul textului sau ascultă ieșirea audio, apoi convertită în evaluări automate bazate pe LLM.

Comportamentul intenționat al modelelor noastre în combinație cu canalele noastre de evaluare - atât umane, cât și automatizate - ne permite să efectuăm rapid măsurători ale riscurilor potențiale la scară. Pe măsură ce identificăm probleme noi în timp, continuăm să extindem seturile de măsurători pentru a evalua riscurile suplimentare.

Gestionare: Deoarece am identificat riscuri potențiale și utilizare necorespunzătoare prin intermediul echipei roșii și le-am măsurat cu abordările descrise mai sus, am dezvoltat atenuări suplimentare care sunt specifice experienței Copilot. Mai jos descriem unele dintre aceste atenuări. Vom continua să monitorizăm experiența Copilot pentru a îmbunătăți performanța produselor și abordarea noastră de atenuare a riscurilor.

• Planuri de lansare pe etape și evaluare continuă. Ne angajăm să învățăm și să îmbunătățim permanent abordarea inteligenței artificiale responsabile, pe măsură ce tehnologiile noastre și comportamentul utilizatorilor evoluează. Strategia noastră de lansare incrementală a fost o parte esențială a modului în care ne transferăm în siguranță tehnologia din laborator în lume și suntem angajați într-un proces deliberat, atent gândit, pentru a securiza avantajele experienței Copilot. Aducem modificări Copilot în mod regulat pentru a îmbunătăți funcționalitatea produselor și atenuările existente și pentru a implementa noi atenuări ca răspuns la învățămintele noastre.

• Utilizarea clasificatorilor și a mesajului de sistem pentru a atenua riscurile potențiale sau utilizarea necorespunzătoare. Ca răspuns la solicitările utilizatorilor, LLM-urile pot produce conținut problematic. Am discutat tipurile de conținut pe care încercăm să le limităm în secțiunile "Comportamentul sistemului și limitările" de mai sus. Clasificatorii și mesajul de sistem sunt două exemple de atenuări care au fost implementate în Copilot pentru a ajuta la reducerea riscului acestor tipuri de conținut. Clasificatorii clasifică textul pentru a semnaliza conținutul potențial dăunător în solicitările utilizatorilor sau în răspunsurile generate. De asemenea, utilizăm cele mai bune practici existente pentru a valorifica mesajul sistemului, care implică oferirea de instrucțiuni modelului pentru a-și alinia comportamentul cu principiile inteligenței artificiale ale Microsoft și cu așteptările utilizatorilor.

• Încărcarea imaginilor în Viziune Copilot. Prima dată când un utilizator încarcă o imagine în Viziune Copilot, va primi informații despre modul în care este procesată imaginea sa de către Copilot. Dacă un utilizator nu continuă cu încărcarea, imaginea nu va fi trimisă la Copilot. Toate imaginile sunt șterse în termen de 30 de zile de la încheierea conversației.

• Dezvăluirea inteligenței artificiale. Copilot este, de asemenea, conceput pentru a informa oamenii că aceștia interacționează cu un sistem de inteligență artificială. Pe măsură ce utilizatorii interacționează cu Copilot, oferim diverse puncte de contact concepute pentru a-i ajuta să înțeleagă capacitățile sistemului, să le dezvăluim că Copilot este alimentat de inteligența artificială și să comunice limitările. Experiența este proiectată astfel pentru a-i ajuta pe utilizatori să profite la maximum de Copilot și să minimizeze riscul de încredere excesivă. De asemenea, dezvăluirile îi ajută pe utilizatori să înțeleagă mai bine Copilot și interacțiunile lor cu acesta.

• Proveniența media. Pentru toate imaginile create cu Copilot, am implementat acreditările de conținut, proveniența pe baza standardului C2PA, pentru a ajuta utilizatorii să identifice dacă imaginile au fost editate sau generate cu inteligența artificială. Metadatele privind proveniența pot fi vizualizate pe site-ul Acreditări conținut.

• Detectarea automată a conținutului. Atunci când utilizatorii încarcă imagini ca parte a solicitării lor de chat, Copilot implementează instrumente pentru a detecta imaginile de exploatare și abuz sexual al copiilor (CSEAI). Microsoft raportează toate activitățile CSEAI aparente către Centrul național pentru copii dispăruți și exploatați (NCMEC), conform legislației din SUA. Atunci când utilizatorii încarcă fișiere pentru analiză sau procesare, Copilot implementează scanarea automată pentru a detecta conținutul care ar putea duce la riscuri sau utilizare necorespunzătoare, cum ar fi textul care ar putea fi legat de activități ilegale sau cod rău intenționat.

• Condițiile de utilizare și codul de conduită. Utilizatorii ar trebui să respecte Condițiile de utilizare și Codul de conduită Copilot aplicabile, Contractul de furnizare a serviciilor Microsoft și Angajamentul de respectare a confidențialității Microsoft, care, printre altele, îi informează cu privire la utilizările permise și inadmisibile și la consecințele încălcării termenilor. Condițiile de utilizare oferă, de asemenea, dezvăluiri suplimentare pentru utilizatori și servesc drept referință pentru ca utilizatorii să afle despre Copilot. Utilizatorii care comit încălcări grave sau repetate pot fi suspendați temporar sau permanent din serviciu.

• Feedback, monitorizare și supraveghere. Experiența Copilot include instrumente care le permit utilizatorilor să trimită feedback, care sunt revizuite de echipele operaționale ale Microsoft. În plus, abordarea noastră pentru cartografierea, măsurarea și gestionarea riscurilor va continua să evolueze pe măsură ce vom afla mai multe și vom face deja îmbunătățiri pe baza feedbackului colectat în perioadele de previzualizare.

• Detectarea și răspunsul la riscuri de sinucidere și Self-Harm. Copilot utilizează clasificatori de învățare automată instruiți să recunoască modelele lingvistice care pot indica intenția de sinucidere sau autovătămare din partea utilizatorului. Atunci când este detectat un astfel de conținut, sistemul se deconectează din conversație și oferă în schimb resurse de asistență în situații de criză (de exemplu, linia de salvare pentru sinucidere și criză la 988 în Statele Unite ale Americii), încurajând utilizatorii să caute ajutor profesional. Copilot nu oferă consiliere; Rolul său se limitează la detectare și trimitere pentru a asigura siguranța utilizatorilor.

• Notificare de utilizare extinsă. Copilot le poate aminti utilizatorilor să ia o pauză dacă s-au angajat într-o conversație continuă pentru o perioadă lungă de timp. Utilizatorii sunt, de asemenea, informați în mod regulat că inteligența artificială nu este umană și poate face greșeli.

Aflați mai multe despre inteligența artificială responsabilă

• Principii Microsoft AI
• Resurse Microsoft privind inteligența artificială responsabilă
• Raportul Microsoft de transparență privind inteligența artificială responsabilă

Aflați mai multe despre Microsoft Copilot

• Microsoft Copilot ajutor & învățare