Napomena o transparentnosti za Microsoft Copilot (za pojedince)

Kolovoz 18, 2026

Što je bilješka o transparentnosti?

Sustav umjetne inteligencije uključuje ne samo tehnologiju, već i ljude koji će ga koristiti, ljude na koje će utjecati te okruženje u kojem se primjenjuje. Microsoftove napomene o transparentnosti namijenjene su da vam pomognu razumjeti kako funkcionira tehnologija umjetne inteligencije iza značajke Copilot, koje smo odabire donijeli koji utječu na performanse i ponašanje sustava te važnost razmišljanja o cijelom sustavu tako da korisnici značajke Copilot mogu preuzeti kontrolu nad vlastitim iskustvima i razumjeti korake koje poduzimamo kako bismo pružili siguran i siguran proizvod.

Microsoftove bilješke o transparentnosti dio su većeg nastojanja Microsofta da naša načela umjetne inteligencije provede u praksi. Da biste saznali više, pogledajte Načela Microsoft AI.

Osnove Microsoft Copilot

Uvod

Microsoft Copilot vam pomaže da se krećete od ideje do gotovog rada, sve na jednom mjestu. Copilot je integriran u Word, Excel, PowerPoint, Outlook, Teams i još mnogo toga, objedinjujući datoteke i informacije koje koristite u jednom sučelju. Copilot vam može pomoći u stvaranju dotjeranih dokumenata, prezentacija i proračunskih tablica, skiciranju poruka e-pošte, organizaciji dana i dohvaćanju odgovora utemeljenih na poslu koji radite. Uz Cowork, Copilot može pomoći i s većim zadacima od više koraka i isporučiti dovršene obaveze. Možete birati između vodećih modela umjetne inteligencije za različite vrste posla. Određene značajke ovise o pretplati.

U Microsoftu ozbiljno prihvaćamo svoju predanost odgovornom AI-ju. Copilot je razvijen u skladu s Microsoftovim načelima umjetne inteligencije, Microsoftovim standardom za odgovorni AI te u partnerstvu sa stručnjacima za odgovornu umjetnu inteligenciju u cijeloj tvrtki, uključujući Microsoftov Ured za odgovorni AI, naše inženjerske timove, Microsoft Research i Aether. Dodatne informacije potražite na stranici Odgovorna umjetna inteligencija u Microsoftu.

U ovom dokumentu opisujemo naš pristup odgovornoj umjetnoj inteligenciji AI za Copilot. Prije objavljivanja koristili smo najsuvremenije Microsoftove metode za mapiranje, mjerenje i upravljanje potencijalnim rizicima i zloupotrebom sustava te za osiguranje njegovih prednosti za korisnike. Kako smo nastavili razvijati Copilot, nastavili smo učiti i poboljšavati naše napore u području odgovornog AI-ja. Ovaj dokument će se povremeno ažurirati kako bi se prikazali naši procesi i metode koje se razvijaju.

Ključni pojmovi

Klasifikatori Modeli strojnog učenja koji olakšavaju sortiranje podataka u označene klase ili kategorije informacija. U rješenju Copilot jedan od načina na koji koristimo klasifikatore je da bismo lakše otkrili potencijalno štetan sadržaj koji su poslali korisnici ili generirao sustav kako bi se ublažilo stvaranje tog sadržaja i zloupotreba ili zloupotreba sustava.

Utemeljivanje Za određene razgovore u kojima korisnici traže informacije, Copilot se temelji na rezultatima pretraživanja weba. To znači da Copilot usmjerava svoj odgovor na sadržaj visokog ranga s weba i pruža citate s hipervezama nakon generiranih tekstnih odgovora ili u transkriptima razgovora u glasovnom načinu rada.

Veliki jezični modeli (LLM-ovi) Veliki jezični modeli (LLM-ovi) u ovom kontekstu su modeli umjetne inteligencije koji su uvježbani na velikim količinama tekstnih podataka radi predviđanja riječi u nizovima. LLM mogu obavljati različite zadatke, kao što su generiranje teksta, sažimanje, prijevod, klasifikacija i još mnogo toga.

Ublažavanje Metoda ili kombinacija metoda osmišljenih za smanjenje potencijalnih rizika koji mogu nastati korištenjem značajki umjetne inteligencije u sustavu Copilot.

Multimodalni modeli (MMM-ovi) Multimodalni modeli (MMM) modeli su umjetne inteligencije koji se uvježbavaju na različitim vrstama podataka, kao što su tekst, slike ili zvuk. Ti modeli mogu obavljati različite zadatke, kao što je pisanje teksta, opisivanje slika, prepoznavanje govora i pronalaženje informacija za različite vrste podataka.

Upiti Unosi u obliku teksta, slika i/ili zvuka koje korisnik šalje značajci Copilot radi interakcije sa značajkama umjetne inteligencije u značajci Copilot.

Crveni tim Tehnike kojima se stručnjaci služe za procjenu ograničenja i ranjivosti sustava te za testiranje djelotvornosti planiranih ublažavanja. Testiranje crvenog tima uključuje testere koji usvajaju i benigne i suparničke osobnosti kako bi identificirali potencijalne rizike i razlikuju se od sustavnog mjerenja rizika.

Odgovori Tekst, slike ili zvuk koje Copilot emitira kao odgovor na upit ili kao dio razmjene s korisnikom. Sinonimi za "odgovor" obuhvaćaju "dovršetak", "generacija i "odgovor".

Mali jezični modeli (SLM-ovi) Mali jezični modeli (SLM-ovi) u ovom kontekstu su modeli umjetne inteligencije koji se uvježbavaju na manjim, fokusiranijim količinama podataka u usporedbi s velikim jezičnim modelima. Unatoč manjoj veličini, SLM-ovi mogu obavljati razne zadatke, kao što su generiranje teksta, sažimanje, prijevod i klasifikacija. Iako se možda ne podudaraju s opsežnim mogućnostima LLM-ova, SLM-ovi su često resursno učinkovitiji i mogu biti vrlo učinkoviti za specifične, ciljane aplikacije.

Poruka sustava Poruka sustava (ponekad se naziva i "metaprompt") program je koji služi za vođenje ponašanja sustava. Dijelovi poruke sustava pomažu uskladiti ponašanje sustava s Microsoftovim načelima umjetne inteligencije i očekivanjima korisnika. Poruka sustava može, primjerice, sadržavati redak kao što je "ne pružaj informacije ili ne stvaraj sadržaj koji bi mogao uzrokovati fizičku, emocionalnu ili financijsku štetu".

Mogućnosti

Ponašanje sustava

Uz Copilot smo razvili inovativan pristup kako bismo korisnicima omogućili personaliziranije korisničko sučelje umjetne inteligencije za privlačno iskustvo koje korisnicima može pomoći s raznim zadacima. Ovaj inovativni pristup koristi različite napredne tehnologije, kao što su jezični i multimodalni modeli Microsofta, OpenAI-ja i drugih programera modela. Radili smo na implementaciji sigurnosnih tehnika za modele na kojima se Copilot temelji prije javnog izdanja kako bismo razvili prilagođeni skup mogućnosti i ponašanja koji pružaju poboljšano iskustvo za Copilot. U rješenju Copilot korisnici mogu slati upite na prirodnom jeziku teksta ili glasa. Odgovori se korisnicima prikazuju u nekoliko različitih oblika, kao što su odgovori na čavrljanje u obliku teksta (s tradicionalnim poveznicama na web-sadržaj po potrebi) i slikama (ako je zahtjev za slikom upit upućen). Ako korisnici šalju upite glasom na prirodnom jeziku unutar načina rada Copilot Voice, primit će zvučne odgovore.

Kada korisnik unese upit u Copilotu, upit, povijest razgovora i poruka sustava šalju se putem nekoliko klasifikatora unosa radi filtriranja štetnog ili neprikladnog sadržaja. To je ključni prvi korak za poboljšanje performansi modela i ublažavanje situacija u kojima bi korisnici mogli pokušati postaviti upit modelu na način koji bi mogao biti nesiguran. Kada upit prođe kroz klasifikatore unosa, utvrđuje se zahtijeva li zahtjev utemeljivanje podataka s weba i koji jezični model treba odgovoriti na zahtjev. Svi modeli generiraju odgovor na temelju korisnikova upita i povijesti nedavnih razgovora radi kontekstualizacije zahtjeva, poruke sustava radi usklađivanja odgovora s Microsoftovim načelima umjetne inteligencije i očekivanjima korisnika te, ako je prikladno, usklađivanja odgovora s rezultatima pretraživanja kako bi odgovore utemeljili na postojećem sadržaju s weba visokog ranga.

Odgovori se korisnicima prikazuju u nekoliko različitih oblika, kao što su odgovori na čavrljanje u obliku teksta, tradicionalne veze na web-sadržaj, slike i audio odgovori. Kada su odgovori navedeni u obliku teksta – a odgovori su utemeljeni na podacima s weba – rezultat sadrži hiperveze citate navedene ispod teksta kako bi korisnici mogli pristupiti web-mjestima koja su korištena za utemeljivanje odgovora i tamo saznati više o temi. Copilot može i izvršavati kod za dovršavanje složenih izračuna i generiranje grafikona. Copilot može pohraniti određene činjenice koje korisnici zatraže da zapamti, što mu omogućuje generiranje relevantnijih odgovora i prijedloga na temelju tog konteksta. Copilot može izbrisati i spremljene činjenice kada korisnici izričito zatraže da ih zaborave.

Copilot korisnicima pomaže i u stvaranju novih priča, pjesama, tekstova pjesama i slika. Kada Copilot otkrije korisnikovu namjeru generiranja kreativnog sadržaja (kao što je korisnički upit koji počinje s "napiši mi ..."), sustav će u većini slučajeva generirati sadržaj koji reagira na korisnikov upit. Slično tome, kada Copilot otkrije korisnikovu namjeru generiranja slike (kao što je korisnički upit koji počinje s "nacrtaj mi ..."), Copilot će u većini slučajeva generirati sliku koja odgovara korisnikovu upitu. Kada Copilot otkrije korisnikovu namjeru izmjene prenesene slike (kao što je korisnički upit koji počinje s "dodaj ..."), Copilot će u većini slučajeva izmijeniti sliku koja odgovara korisnikovu upitu. Copilot možda neće reagirati s kreativnim sadržajem kada korisnički upit sadrži određene pojmove koji mogu rezultirati problematičnim sadržajem.

Predviđeno sigurnosno ponašanje

Naš je cilj za Copilot biti od pomoći korisnicima, a implementiramo i zaštitne mjere kako bismo smanjili vjerojatnost generiranja štetnog sadržaja i povećali vjerojatnost sigurnog i pozitivnog korisničkog iskustva. Iako smo poduzeli korake za ublažavanje rizika, modeli generativnog AI-ja poput onih koji stoje iza rješenja Copilot vjerojatno su i mogu pogriješiti, što znači da ublažavanja ponekad možda neće uspjeti blokirati štetne korisničke upite ili odgovore generirane od strane AI-ja. Ako naiđete na štetan ili neočekivan sadržaj prilikom upotrebe značajke Copilot, javite nam se slanjem povratnih informacija da bismo mogli nastaviti poboljšavati iskustvo.

Slučajevi upotrebe

Namjena

Copilot je osmišljen da pomogne korisnicima u odgovaranju na pitanja, generiranju sadržaja i dovršavanju zadataka putem prirodnog jezika pomoću teksta, slika i glasa. Kako bi pružio korisne i relevantne odgovore, Copilot može dohvatiti, analizirati i sažeti informacije iz dostupnih izvora. Neke napredne značajke mogu biti dostupne samo korisnicima s kvalificiranim pretplatama. Primjeri uobičajenih slučajeva korištenja uključuju sljedeće:

• Chat koristeći tekst i dobivajte sažetke utemeljene na webu. Korisnici mogu čavrljati sa servisom Copilot putem SMS-a i postavljati dodatna pitanja kako bi pronašli nove informacije i dobili podršku za širok raspon tema. Copilot može provoditi pretraživanja weba i koristit će najbolje rezultate pretraživanja weba za generiranje sažetka informacija koje će prikazati korisnicima. Ti sažeci uključuju navode na web-stranice da bi korisnici mogli pregledati izvore za rezultate pretraživanja koji su pomogli u utemeljenju sažetka rješenja Copilot. Korisnici mogu kliknuti na te veze da bi posjetili izvor web-mjesta i saznali više ili procijenili pouzdanost web-mjesta.

• Zatražite pomoć za generiranje novih ideja. Svaki put kada korisnici komuniciraju s iskustvom značajke Copilot, vidjet će skup kartica koje mogu kliknuti kako bi započeli čavrljanje s iskustvom Copilot o korisnim i zanimljivim temama. Ako su korisnici koristili druge Microsoftove korisničke usluge, kartice će biti personalizirane u skladu s našim pravilima o zaštiti privatnosti. S vremenom se kartice u rješenju Copilot mogu personalizirati na temelju korisnikove povijesti čavrljanja. Korisnici mogu odustati od personalizacije u bilo kojem trenutku u postavkama.

• Generirajte kreativni sadržaj. Kada čavrljaju s Copilotom, korisnici mogu stvarati nove pjesme, viceve, priče, slike i drugi sadržaj uz pomoć Copilota. Copilot može i uređivati slike koje su prenijeli korisnici ako se to zatraži.

• Pomoć pri istraživanju. Copilot može provoditi istraživačke zadatke iznošenjem detaljnih resursa, pružanjem detaljnih raščlamba tema i povezivanjem s izvorima da bi korisnici lakše nadilazili brze odgovore za složenije upite. Copilot može proaktivno generirati personalizirane prijedloge za istraživanje za korisnike na temelju stvari kao što su prošli istraživački upiti i memorija Copilota. Korisnici mogu odbiti personalizaciju ili obavijesti u bilo kojem trenutku u postavkama.

• Otkrivajte, uspoređujte i kupujte proizvode. Copilot Shopping može vam pomoći u pronalaženju proizvoda, usporedbi mogućnosti i pojednostavljivanju kupnji. Osim ako je to identificirano, Microsoft ne prima provizije ni druge naknade za prijedloge proizvoda ili rezultate pretraživanja koji se pružaju u aplikaciji Copilot.

• Učite pametnije uz Copilot Learn. Copilot Learn može stvarati testove i testove za vježbe, generirati kartice za ponavljanje gradiva te je osmišljen tako da pomaže poboljšati odgovore pomoću slika kako bi složeni koncepti bili jednostavniji za razumijevanje.

• Zatražite pomoć za obavljanje svakodnevnih zadataka. Copilot Cowork provodi zadatke u vaše ime. Opisujete što vam je potrebno na prirodnom jeziku, a Cowork obavlja posao, stvara dokumente, sastavlja i šalje e-poštu, zakazuje sastanke i upravlja datotekama. Osjetljive radnje pregledavate i odobravate prije nego što se dogode.

• analizirati i uređivati datoteke. Prijenos datoteka u Copilot korisnicima omogućuje prijenos slika ili određenih podržanih vrsta datoteka izravno u sesije čavrljanja. Nakon prijenosa Copilot može analizirati i izdvojiti informacije iz tih datoteka radi pružanja relevantnih uvida, odgovaranja na pitanja ili pomoći pri određenim zadacima. Copilot se uz vašu dozvolu može pozivati i na datoteke u povezanim davateljima internetske pohrane kao što su OneDrive i Google disk.

• Pogledajte i shvatite. Pomoću očitavanja možete analizirati slike, dobiti uvide iz fotografija i vizualno pretraživati. Copilot pregledava prenesene slike da biste lakše razumjeli što vidite.

• Koristite svoj glas. Razgovarajte prirodno s Copilotom pomoću glasovnog čavrljanja. Razmjenjujte ideje, pišite sadržaj ili dobijte brze odgovore, potpuno bez upotrebe ruku.

• Povezuje se s drugim aplikacijama. Dodajte aplikacije i podatke koje odaberete, kao što su e-pošta, kalendari, datoteke, kontakti i drugi servisi.

Razmatranja pri odabiru drugih slučajeva korištenja

Preporučujemo korisnicima da pregledaju sav sadržaj prije donošenja odluka ili reagiranja na temelju odgovora Copilota jer umjetna inteligencija može pogriješiti i možda nije prikladna za određene slučajeve upotrebe. Osim toga, postoje određeni scenariji koje preporučujemo izbjegavati i koji su u suprotnosti s našim Uvjetima korištenja. Microsoft, primjerice, ne dopušta korištenje Copilotom u vezi s nezakonitim aktivnostima ili u bilo koju svrhu namijenjenu promicanju nezakonitih aktivnosti.

Ograničenja

Modeli jezika, slika i zvuka na kojima se temelji iskustvo značajke Copilot mogu obuhvaćati podatke za obuku koji mogu odražavati društvene predrasude, što zauzvrat može uzrokovati da se Copilot ponaša na načine koji se smatraju nepoštenim, nepouzdanim ili uvredljivim. Unatoč našoj intenzivnoj obuci modela i finom podešavanju sigurnosti, kao i implementaciji odgovornih kontrola i sigurnosnih sustava umjetne inteligencije koje postavljamo na podatke o obuci, korisničke upite i rezultate modela, usluge vođene umjetnom inteligencijom pogrešive su i probabilističke. Zbog toga je teško sveobuhvatno blokirati sav neprikladan sadržaj, što dovodi do rizika od potencijalnih predrasuda, stereotipa, neutemeljenosti ili drugih vrsta štete koje bi se mogle pojaviti u sadržaju koji generira AI. Neki od načina na koje se ta ograničenja mogu očitovati u iskustvu značajke Copilot navedeni su ovdje.

• Stereotipi: Iskustvo značajke Copilot moglo bi potencijalno ojačati stereotipe. Na primjer, prilikom prevođenja "On je medicinska sestra" i "Ona je liječnik" na bezrodni jezik kao što je turski, a zatim natrag na engleski, Copilot bi mogao nehotice dati stereotipne (i netočne) rezultate "Ona je medicinska sestra" i "On je liječnik". Drugi primjer je da bi prilikom generiranja slike na temelju upita "Djeca bez oca" sustav mogao generirati slike djece samo jedne rase ili etničke pripadnosti, pojačavajući štetne stereotipe koji bi mogli postojati na javno dostupnim slikama koje se koriste za obuku temeljnih modela. Copilot može i pojačati stereotipe na temelju sadržaja na korisnikovoj slici za unos oslanjanjem na komponente slike i stvaranjem pretpostavki koje možda nisu istinite. Implementirali smo mjere ublažavanja kako bismo smanjili rizik od sadržaja koji sadrži uvredljive stereotipe, uključujući ulazne i izlazne klasifikatore, precizno podešene modele i poruke sustava.

• Prekomjerna i premala zastupljenost: Copilot bi u svojim odgovorima mogao pretjerano ili premalo predstavljati grupe ljudi ili ih čak uopće ne predstavljati. Na primjer, ako se tekstualni upiti koji sadrže riječ "gay" otkriju kao potencijalno štetni ili uvredljivi, to bi moglo dovesti do premale zastupljenosti legitimnih generacija o LGBTQIA+ zajednici. Osim što obuhvaćamo ulazne i izlazne klasifikatore, precizno podešene modele kao i sistemske poruke, u programu Designer koristimo brzo obogaćivanje za smanjenje rizika od sadržaja koji premalo ili premalo predstavlja grupe ljudi.

• Neprimjeren ili uvredljiv sadržaj: Sučelje aplikacije Copilot potencijalno može proizvesti druge vrste neprikladnog ili uvredljivog sadržaja. Primjeri obuhvaćaju mogućnost generiranja sadržaja u jednom modalitetu (na primjer, zvuk) koji je neprikladan u kontekstu upita ili kada se uspoređuje s istim izlazom u drugom modalitetu (na primjer, tekst). Drugi primjeri uključuju slike koje generira umjetna inteligencija koje potencijalno sadrže štetne artefakte kao što su simboli mržnje, sadržaj koji se odnosi na osporavane, kontroverzne ili ideološki polarizirajuće teme te seksualno nabit sadržaj koji izbjegava filtre seksualnog sadržaja. Uveli smo mjere ublažavanja kako bismo smanjili rizik od generacija koje sadrže neprimjeren ili uvredljiv sadržaj, kao što su klasifikatori ulaza i izlaza, precizno podešeni modeli i poruke sustava.

• Pouzdanost informacija: Iako aplikacija Copilot ima za cilj odgovoriti s pouzdanim izvorima u kojima se traže informacije o utemeljivanju, umjetna inteligencija može pogriješiti. To bi potencijalno moglo generirati besmisleni sadržaj ili izmisliti sadržaj koji bi mogao zvučati razumno, ali je činjenično netočan. Čak i kada privlače odgovore iz web-podataka visokih ovlasti, odgovori mogu lažno prikazati taj sadržaj na način koji možda nije potpuno točan, ažuran ili pouzdan. Putem korisničkog sučelja i u dokumentaciji kao što je ova podsjećamo korisnike da Copilot može pogriješiti. Također nastavljamo educirati korisnike o ograničenjima umjetne inteligencije, kao što je poticanje da još jednom provjere činjenice prije donošenja odluka ili djelovanje na temelju odgovora značajke Copilot. Kada korisnici komuniciraju s Copilotom putem teksta, pokušat će se utemeljiti na visokokvalitetnim web-podacima kako bi smanjio rizik od neutemeljenosti generacija.

• Performanse na više jezika: Mogle bi postojati varijacije u performansama na različitim jezicima, pri čemu je engleski imao najbolje rezultate u trenutku izdavanja rješenja Copilot. Poboljšanje performansi na svim jezicima ključno je područje ulaganja, a nedavni modeli doveli su do poboljšanih performansi.

• Ograničenja zvuka: U audiomodele mogu se uvesti i druga ograničenja. Općenito govoreći, akustična kvaliteta govornog ulaza, negovorna buka, vokabular, naglasci i pogreške pri umetanju mogu utjecati i na to obrađuje li Copilot korisnikov audiounos i odgovara na njega na zadovoljavajući način.

• AI nije zamjena za stručnu pomoć: AI može biti koristan alat za rješavanje problema i može djelovati empatično, ali nije zamjena za traženje stručne pomoći. Ako doživljavate depresiju, misli o samoubojstvu ili samoozljeđivanju ili druge probleme s mentalnim zdravljem, potražite stručnu pomoć. Copilot se može koristiti i za pronalaženje resursa za krizne situacije ili mentalno zdravlje u vašoj blizini.

• Ovisnost o internetskoj vezi: Za funkcioniranje rješenja Copilot se oslanja na internetsku vezu. Prekidi u povezivanju mogu utjecati na dostupnost i performanse servisa.

• Budite oprezni prilikom stvaranja ili korištenja agenata: Korisnici bi trebali biti oprezni prilikom stvaranja vlastitih agenata ili korištenja agenata koje pružaju drugi, osobito ako bi radnje koje su poduzeli agenti mogle imati značajne posljedice, biti nepovratne ili potencijalno dijeliti osjetljive osobne podatke (kao što su lozinke, prijave ili osobni podaci). Budući da agenti možda neće dobro funkcionirati za sve slučajeve upotrebe i mogu pogriješiti, pogrešno protumačiti upute ili biti prevareni zlonamjernim skrivenim uputama, korisnici bi trebali pomno pratiti rezultate i pregledati važne pojedinosti Korisnicima može biti ograničen pristup određenim slučajevima upotrebe, kao što su posjet štetnim web-mjestima ili stvaranje neprikladnog sadržaja. Dodatne mjere opreza treba poduzeti i prilikom stvaranja autonomne agentske umjetne inteligencije, kao što je detaljnije opisano u odjeljku Kodeks ponašanja u Microsoftovom ugovoru o pružanju usluga.

Performanse sustava

U mnogim sustavima umjetne inteligencije performanse se često definiraju u odnosu na točnost (to jest, koliko često sustav umjetne inteligencije nudi točno predviđanje ili rezultat). Uz Copilot smo usredotočeni na Copilot kao pomoćnika pogonjenog umjetnom inteligencijom koji odražava korisnikove preferencije. Stoga dva različita korisnika mogu gledati na isti rezultat i imati različita mišljenja o tome koliko je on koristan ili relevantan za njihovu jedinstvenu situaciju i očekivanja, što znači da se performanse za ove sustave moraju definirati fleksibilnije. Općenito smatramo da performanse aplikacije znače kako korisnici očekuju.

Najbolje prakse za poboljšanje performansi sustava

• Stupajte u interakciju sa sučeljem koristeći prirodan, razgovorni jezik. Interakcija s aplikacijom Copilot na način koji je ugodan za korisnika ključna je za postizanje boljih ishoda kroz iskustvo. Slično usvajanju tehnika za učinkovitu komunikaciju ljudi u svakodnevnom životu, interakcija s Copilotom kao pomoćnikom pogonjenim umjetnom inteligencijom putem teksta ili govora koji su korisniku poznati može pomoći u postizanju boljih rezultata.

• Korisničko sučelje i usvajanje. Učinkovito korištenje Copilota zahtijeva da korisnici razumiju njegove mogućnosti i ograničenja. Možda postoji krivulja učenja i korisnici će možda željeti referencirati različite resurse značajke Copilot (na primjer, ovaj dokument i Microsoft Copilot pomoć & učenju) da bi učinkovito komunicirali sa servisom i imali koristi od njega.

Mapiranje i mjerenje rizika te upravljanje njima

Kao i druge transformacijske tehnologije, iskorištavanje prednosti umjetne inteligencije nije bez rizika, a temeljni dio Microsoftova programa za odgovornu umjetnu inteligenciju osmišljen je za prepoznavanje i mapiranje potencijalnih rizika, mjerenje tih rizika i upravljanje njima izgradnjom mjera ublažavanja i neprekidnim poboljšavanjem rješenja Copilot tijekom vremena. U odjeljcima u nastavku opisujemo naš iterativni pristup mapiranju i mjerenju potencijalnih rizika te upravljanju njima.

Karta: Pažljivo planiranje i suparničko testiranje prije implementacije, kao što je crveni tim, pomažu nam mapirati potencijalne rizike. Temeljni modeli koji pokreću Copilot prošli su testiranje crvenog tima od strane testera koji predstavljaju multidisciplinarne perspektive u relevantnim tematskim područjima. Ovo je testiranje osmišljeno za procjenu kako će najnovija tehnologija funkcionirati s i bez dodatnih zaštitnih mjera koje su na nju primijenjene. Namjera ovih vježbi na razini modela je proizvesti štetne odgovore, otkriti potencijalne puteve za zlouporabu i identificirati mogućnosti i ograničenja.

• testiranje na razini aplikacije prije izdavanja. Prije nego što smo Copilot učinili javno dostupnim, proveli smo crveni tim na razini aplikacije kako bismo identificirali nedostatke i ranjivosti. Ovo nam je testiranje pomoglo da shvatimo kako širok raspon korisnika može koristiti Copilot i informiralo nas je o poboljšanjima naših ublažavanja.

• Testiranje u tijeku. Tijekom ažuriranja značajke Copilot testiramo i nove značajke i tehnička ažuriranja, prema potrebi. Taj kontinuirani proces pomaže nam prepoznati nove rizike i s vremenom suziti naše mjere za ublažavanje.

Mjera: Osim procjene značajke Copilot u odnosu na naše postojeće procjene sigurnosti, upotreba crvenog tima opisana gore pomogla nam je u razvoju procjena i metrike odgovorne umjetne inteligencije koja odgovara identificiranim potencijalnim rizicima, kao što su jailbreakovi, štetan sadržaj i neutemeljeni sadržaj.

Prikupili smo podatke razgovora usmjerene na te rizike, koristeći kombinaciju ljudskih sudionika i automatiziranog kanala za generiranje razgovora. Svaku procjenu zatim ocjenjuje ili skup obučenih ljudskih anotatora ili automatizirani cjevovod za primjedbe. Svaki put kada se proizvod promijeni, ažuriraju se postojeća ublažavanja ili se predlažu nove mjere ublažavanja, ažuriramo naše kanale za procjenu da bismo procijenili performanse proizvoda i metriku odgovornog AI-ja. Ovi automatizirani kanali konteksta procjene kombinacija su prikupljenih razgovora s ljudskim procjeniteljima i sintetičkih razgovora generiranih s LLM-ovima koji su potaknuti testiranje politika na suparnički način. Svaka od ovih sigurnosnih procjena automatski se boduje pomoću LLM-ova. Za novorazvijene procjene, svaku evaluaciju inicijalno boduju ljudski označivači koji čitaju tekstualni sadržaj ili slušaju audio izlaz, a zatim se pretvaraju u automatske procjene temeljene na LLM-u.

Predviđeno ponašanje naših modela u kombinaciji s našim kanalima za procjenu – ljudskim i automatiziranim – omogućuje nam brzo mjerenje potencijalnih rizika na skali. Kako s vremenom utvrđujemo nove probleme, nastavljamo proširivati skupove mjera radi procjene dodatnih rizika.

Upravljaj: Kako smo prepoznali potencijalne rizike i zloupotrebu putem crvenog tima i mjerili ih s pomoću gore opisanih pristupa, razvili smo dodatna ublažavanja koja su specifična za iskustvo značajke Copilot. U nastavku opisujemo neka od tih ublažavanja. Nastavit ćemo pratiti iskustvo značajke Copilot radi poboljšanja performansi proizvoda i našeg pristupa ublažavanju rizika.

• planovi izdanja po fazama i kontinuirana procjena Predani smo neprekidnom učenju i poboljšanju našeg pristupa odgovornom AI-ju dok se naše tehnologije i ponašanje korisnika razvijaju. Naša strategija inkrementalnog izdavanja bila je ključni dio načina na koji našu tehnologiju sigurno premještamo iz laboratorija u svijet, a predani smo promišljenom, promišljenom procesu kako bismo osigurali prednosti iskustva Copilot. Redovito mijenjamo Copilot radi poboljšanja performansi proizvoda i postojećih ublažavanja te implementacije novih ublažavanja kao odgovor na naša učenja.

• Korištenje klasifikatora i poruka sustava za ublažavanje potencijalnih rizika ili zloupotrebe. Kao odgovor na upite korisnika, LLM-ovi mogu proizvesti problematičan sadržaj. O vrstama sadržaja koje pokušavamo ograničiti raspravljali smo u prethodnim odjeljcima Ponašanje sustava i Ograničenja. Klasifikatori i poruka sustava dva su primjera ublažavanja koja su implementirana u Copilotu kako bi se smanjio rizik od tih vrsta sadržaja. Klasifikatori klasificiraju tekst da bi označili potencijalno štetan sadržaj u korisničkim upitima ili generiranim odgovorima. Koristimo i postojeće najbolje prakse za iskorištavanje poruke sustava, što obuhvaća davanje uputa modelu za usklađivanje njegova ponašanja s Microsoftovim načelima umjetne inteligencije i očekivanjima korisnika.

• Prijenos slika u Vizualni pomoćnik za Copilot. Kada korisnik prvi put prenese sliku u Vizualni pomoćnik za Copilot, dobit će informacije o tome kako aplikacija Copilot obrađuje njegovu sliku. Ako korisnik ne nastavi s prijenosom, slika se neće poslati servisu Copilot. Sve se slike brišu u roku od 30 dana nakon završetka razgovora.

• Otkrivanje umjetne inteligencije. Copilot je osmišljen i tako da obavijesti korisnike da komuniciraju sa sustavom umjetne inteligencije. Kako korisnici rade s Copilotom, nudimo različite dodirne točke osmišljene da bi im pomogle da razumiju mogućnosti sustava, otkrili im da Copilot omogućuje umjetnu inteligenciju i komunicirali o ograničenjima. Iskustvo je osmišljeno na taj način kako bi pomoglo korisnicima da izvuku maksimum iz Copilota i minimiziraju rizik od pretjeranog oslanjanja. Otkrivanja također pomažu korisnicima da bolje razumiju Copilot i njegove interakcije s njim.

• Medijsko podrijetlo. Za sve slike stvorene pomoću rješenja Copilot implementirali smo vjerodajnice za sadržaj, porijeklo na temelju standarda C2PA, kako bismo korisnicima pomogli da prepoznaju jesu li slike uređene ili generirane pomoću umjetne inteligencije. Metapodatke o podrijetlu moguće je pogledati na web-mjestu Vjerodajnice za sadržaj.

• Automatsko otkrivanje sadržaja. Kada korisnici prenesu slike kao dio upita za čavrljanje, Copilot implementira alate za otkrivanje slika seksualnog iskorištavanja i zlostavljanja djece (CSEAI). Microsoft prijavljuje sve navodne CSEAI Nacionalnom centru za nestalu i iskorištavanu djecu (NCMEC), kako nalaže zakon SAD-a. Kada korisnici prenose datoteke radi analize ili obrade, Copilot implementira automatski pregled radi otkrivanja sadržaja koji bi mogao dovesti do rizika ili zloupotrebe, kao što je tekst koji bi se mogao odnositi na nezakonite aktivnosti ili zlonamjerni kod.

• Uvjeti korištenja i Kodeks ponašanja. Korisnici bi se trebali pridržavati primjenjivih Uvjeta korištenja i Kodeksa ponašanja aplikacije Copilot, Microsoftova ugovora o pružanju usluga i Microsoftove izjave o zaštiti privatnosti, koja ih, između ostalog, obavještava o dopuštenim i nedopuštenim upotrebama te posljedicama kršenja uvjeta. Uvjeti korištenja korisnicima pružaju i dodatne informacije o otkrivanju te služe kao referenca za korisnike da saznaju više o sustavu Copilot. Korisnicima koji počine ozbiljne ili opetovane prekršaje može se privremeno ili trajno suspendirati korištenje servisa.

• Povratne informacije, praćenje i nadzor. Iskustvo rješenja Copilot obuhvaća alate koji korisnicima omogućuju slanje povratnih informacija koje pregledaju operativni timovi tvrtke Microsoft. Nadalje, naš pristup mapiranju, mjerenju i upravljanju rizicima nastavit će se razvijati dok učimo više, a već radimo na poboljšanjima na temelju povratnih informacija prikupljenih tijekom razdoblja pretpregleda.

• Otkrivanje i reagiranje na samoubojstvo i Self-Harm rizike. Copilot koristi klasifikatore strojnog učenja obučene za prepoznavanje jezičnih obrazaca koji mogu ukazivati na namjeru samoubojstva ili samoozljeđivanja korisnika. Kada se takav sadržaj otkrije, sustav se prekida iz razgovora i umjesto toga pruža resurse za podršku u kriznim situacijama (na primjer, Suicide and Crisis Lifeline na broju 988 u Sjedinjenim Državama), potičući korisnike da potraže stručnu pomoć. Copilot ne pruža savjetovanje; Njegova je uloga ograničena na otkrivanje i upućivanje radi sigurnosti korisnika.

• Obavijest o produljenom korištenju. Copilot može podsjetiti korisnike da naprave pauzu ako su dulje vrijeme bili u neprekidnom razgovoru. Korisnici se redovito obavještavaju i da umjetna inteligencija nije ljudska i da može pogriješiti.

Saznajte više o odgovornoj umjetnoj inteligenciji

• Načela Microsoft AI-ja
• Microsoftovi resursi za odgovornu umjetnu inteligenciju
• Microsoftovo izvješće o transparentnosti odgovorne umjetne inteligencije

Saznajte više o Microsoft Copilot

• Microsoft Copilot pomoć & učenju