Zaznamek o preglednosti za Microsoft Copilot (za posameznike)

18 avgusta, 2026

Kaj je opomba o prosojnosti?

Sistem UI ne vključuje le tehnologije, temveč tudi ljudi, ki jo bodo uporabljali, ljudi, na katere bo vplivala, in okolje, v katerem bo uveden. Microsoftove opombe o preglednosti so namenjene pomoči pri razumevanju delovanja tehnologije UI, ki stoji za storitvijo Copilot, izbir, ki smo jih sprejeli in vplivajo na učinkovitost delovanja in obnašanje sistema, ter pomembnosti razmišljanja o celotnem sistemu, tako da lahko uporabniki storitve Copilot prevzamejo nadzor nad svojimi izkušnjami in razumejo korake, ki jih sprejemamo za zagotavljanje varnega izdelka.

Microsoftova obvestila o preglednosti so del širših prizadevanj Microsofta za izvajanje naših načel UI v praksi. Če želite izvedeti več, glejte načela Microsoft AI.

Osnove storitve Microsoft Copilot

Uvod

Microsoft Copilot vam pomaga pri prehodu od zamisli do končnega dela na enem mestu. Storitev Copilot je integrirana v aplikacije Word, Excel, PowerPoint, Outlook, Teams in še več, tako da so datoteke in informacije, ki jih uporabljate, združene v eni izkušnji. S storitvijo Copilot lahko ustvarite dovršene dokumente, predstavitve in preglednice, ustvarite osnutke e-poštnih sporočil, organizirate svoj dan in dobite odgovore, ki temeljijo na vašem delu. S storitvijo Cowork lahko Copilot pomaga tudi pri večjih opravilih z več koraki in dostavi dokončane opravke. Izbirate lahko tudi med vodilnimi modeli UI za različne vrste dela. Posamezne funkcije se razlikujejo glede na naročnino.

Svojo obveznost do odgovorne UI pri Microsoftu jemljemo resno. Storitev Copilot je bila razvita v skladu z Microsoftovimi načeli UI, Microsoftovim standardom za odgovorno UI in v partnerstvu s strokovnjaki za odgovorno UI v celotnem podjetju, vključno z Microsoftovim Uradom za odgovorno UI, našimi inženirskimi ekipami, Microsoftovimi raziskavami in Aether. Več informacij je na voljo v storitvi Odgovorna UI pri Microsoftu.

V tem dokumentu smo opisali naš pristop k odgovorni UI za Copilot. Pred izdajo smo izkoristili Microsoftove najsodobnejše metode za preslikavo, merjenje in upravljanje morebitnih tveganj in zlorab sistema ter za zavarovanje njegovih prednosti za uporabnike. Z nadaljnjim razvojem storitve Copilot smo se tudi še naprej učili in izboljševali svoja prizadevanja za odgovorno UI. Ta dokument bomo redno posodabljali, da bomo z njimi obvestili naše razvijajoče se procese in metode.

Ključni izrazi

Razredniki Modeli strojnega učenja, ki pomagajo razvrstiti podatke v označene razrede ali kategorije informacij. V storitvi Copilot je eden od načinov, na katerega uporabljamo razrednike, pomoč pri odkrivanju potencialno škodljive vsebine, ki jo pošljejo uporabniki ali ustvari sistem, da zmanjšamo nastajanje te vsebine in zlorabo sistema.

Utemeljevanje Za nekatere pogovore, kjer uporabniki iščejo informacije, Copilot temelji na rezultatih spletnega iskanja. To pomeni, da Copilot svoj odziv osredotoči na visoko uvrščeno vsebino s spleta in zagotavlja hiperpovezave po ustvarjenih besedilnih odgovorih ali v prepisih pogovorov v glasovnem načinu.

Veliki jezikovni modeli (LLM-ji) Veliki jezikovni modeli (LLM-ji) so v tem kontekstu modeli UI, ki so usposobljeni na velikih količinah besedilnih podatkov za predvidevanje besed v zaporedjih. Veliki jezikovni modeli lahko opravljajo različna opravila, kot so ustvarjanje besedila, povzemanje, prevajanje, razvrščanje in številna druga.

Ublažitev posledic Metoda ali kombinacija metod, zasnovanih za zmanjšanje morebitnih tveganj, ki lahko nastanejo pri uporabi funkcij UI v storitvi Copilot.

Multimodalni modeli (MMM) Multimodalni modeli (MMM) so modeli UI, ki so usposobljeni za različne vrste podatkov, kot so besedilo, slike ali zvok. Ti modeli lahko izvajajo različna opravila, na primer pisanje besedila, opisovanje slik, prepoznavanje govora in iskanje informacij za različne vrste podatkov.

Pozivi Vnosi v obliki besedila, slik in/ali zvoka, ki jih uporabnik pošlje storitvi Copilot za interakcijo s funkcijami umetne inteligence v storitvi Copilot.

Red teaming Tehnike, ki jih strokovnjaki uporabljajo za oceno omejitev in ranljivosti sistema ter za preskušanje učinkovitosti načrtovanih ublažitev posledic. Preizkušanje rdeče ekipe vključuje preizkuševalce, ki sprejemajo tako benigne kot kontradiktorne osebe za prepoznavanje morebitnih tveganj in se razlikujejo od sistematičnega merjenja tveganj.

Odgovori Besedilo, slike ali zvok, ki ga Copilot ustvari kot odgovor na poziv ali kot del pogovorov z uporabnikom. Sopomenke za »odgovor« so »dokončanje«, »generacija« in »odgovor«.

Majhni jezikovni modeli (SLM) Majhni jezikovni modeli (SLM) so v tem kontekstu modeli umetne inteligence, ki so v primerjavi z velikimi jezikovnimi modeli usposobljeni na manjših in bolj osredotočenih količinah podatkov. Kljub svoji manjši velikosti lahko SLM-ji izvajajo različna opravila, kot so ustvarjanje besedila, povzemanje, prevajanje in razvrščanje. Čeprav se SLM morda ne ujemajo z obsežnimi zmogljivostmi velikih jezikovnih modelov, so pogosto učinkovitejši z viri in so lahko zelo učinkoviti za posebne, ciljno usmerjene aplikacije.

Sistemsko sporočilo Sistemsko sporočilo (včasih imenovano »metapoziv«) je program, ki usmerja delovanje sistema. Deli sporočila sistema pomagajo uskladiti delovanje sistema z Microsoftovimi načeli UI in pričakovanji uporabnikov. Sistemsko sporočilo lahko na primer vsebuje vrstico, kot je »ne zagotavljajte informacij ali ustvarjajte vsebine, ki bi lahko povzročila fizično, čustveno ali finančno škodo«.

Zmogljivosti

Delovanje sistema

S storitvijo Copilot smo razvili inovativen pristop, da uporabnikom prikažemo bolj prilagojeno izkušnjo UI za privlačno izkušnjo, ki lahko uporabnikom pomaga pri različnih opravilih. Ta inovativen pristop uporablja različne napredne tehnologije, kot so jeziki in multimodalni modeli Microsofta, OpenAI in drugih razvijalcev modelov. Pred javno izdajo smo delali na uvedbi varnostnih tehnik za modele, na katerih temelji Copilot, da bi razvili prilagojen nabor zmogljivosti in vedenj, ki zagotavljajo izboljšano izkušnjo s storitvijo Copilot. V storitvi Copilot lahko uporabniki pošiljajo pozive v besedilu ali glasu v naravnem jeziku. Odgovori so uporabnikom predstavljeni v več različnih oblikah, na primer odgovori v klepetu v besedilni obliki (po potrebi s tradicionalnimi povezavami do spletne vsebine) in slikah (če je bila kot del poziva vložena zahteva za sliko). Če uporabniki pošljejo pozive v glasovnem načinu storitve Copilot v glasovnem načinu v naravnem jeziku, bodo prejeli zvočne odgovore.

Ko uporabnik vnese poziv v storitvi Copilot, se poziv, zgodovina pogovorov in sistemsko sporočilo pošljejo prek več vnosnih razrednikov, s katerimi se filtrira škodljiva ali neprimerna vsebina. To je ključni prvi korak pri izboljšanju učinkovitosti delovanja modela in ublažitvi situacij, v katerih bi uporabniki morda poskušali ustvariti poziv za model na način, ki bi lahko bil nevaren. Ko poziv preide skozi vhodne razrednike, se določi, ali zahteva utemeljene podatke s spleta in kateri jezikovni model naj se odzove na zahtevo. Vsi modeli ustvarijo odgovor na podlagi uporabnikovega poziva in zgodovine nedavnih pogovorov za kontekstualizacijo zahteve, sistemsko sporočilo za uskladitev odgovorov z Microsoftovimi načeli UI in pričakovanji uporabnikov ter, če je treba, uskladi odgovore z rezultati iskanja, da utemeljijo odgovore v obstoječi visoko uvrščeni vsebini s spleta.

Odgovori so uporabnikom predstavljeni v več različnih oblikah, na primer odgovori v klepetu v besedilni obliki, tradicionalne povezave do spletne vsebine, slike in zvočni odgovori. Ko so odgovori podani v obliki besedila – in odgovori temeljijo na podatkih s spleta – rezultat vsebuje citate s hiperpovezavami, ki so navedeni pod besedilom, tako da lahko uporabniki dostopajo do spletnih mest, ki so bila uporabljena za utemeljitev odgovora in od tam dobijo več informacij o temi. Copilot lahko tudi zažene kodo za dokončanje zapletenih izračunov in ustvarjanje grafov. Copilot lahko shrani določena dejstva, za katera uporabniki zahtevajo, da si jih zapomni, in mu omogoči ustvarjanje ustreznejših odgovorov in predlogov na podlagi tega konteksta. Copilot lahko tudi izbriše shranjena dejstva, če jih uporabniki prosijo, da jih izrecno pozabijo.

Copilot uporabnikom pomaga tudi pri ustvarjanju novih zgodb, pesmi, besedil pesmi in slik. Ko Copilot zazna namero uporabnika, da ustvari ustvarjalno vsebino (na primer poziv uporabnika, ki se začne z »napišite mi ...«), bo sistem v večini primerov ustvaril vsebino, ki se bo odzivala na uporabnikov poziv. Podobno, ko Copilot zazna namero uporabnika, da ustvari sliko (na primer poziv uporabnika, ki se začne z »nariši mi ...«), bo Copilot v večini primerov ustvaril sliko, ki se bo odzivala na uporabnikov poziv. Ko Copilot zazna namero uporabnika, da spremeni naloženo sliko (na primer poziv uporabnika, ki se začne z »dodaj ...«), bo Copilot v večini primerov spremenil sliko, ki se odziva na uporabnikov poziv. Copilot se morda ne bo odzval z ustvarjalno vsebino, če poziv uporabnika vsebuje določene izraze, ki bi lahko povzročili problematično vsebino.

Predvideno varnostno vedenje

Naš cilj s storitvijo Copilot je pomagati uporabnikom, izvajamo pa zaščitne ukrepe, s katerimi zmanjšamo verjetnost ustvarjanja škodljive vsebine ter povečamo verjetnost varne in pozitivne uporabniške izkušnje. Čeprav smo sprejeli ukrepe za zmanjšanje tveganj, so modeli generativne UI, kot so tisti, ki stojijo za storitvijo Copilot, verjetnostni in lahko delajo napake, kar pomeni, da ublažitve včasih ne uspejo blokirati škodljivih pozivov uporabnikov ali odgovorov, ustvarjenih z UI. Če med uporabo storitve Copilot naletite na škodljivo ali nepričakovano vsebino, nam to sporočite s povratnimi informacijami, da bomo lahko še naprej izboljševali izkušnjo.

Primeri uporabe

Predvidena uporaba

Storitev Copilot je zasnovana tako, da uporabnikom pomaga odgovarjati na vprašanja, ustvarjati vsebino in dokončati naloge v naravnem jeziku z uporabo besedila, slik in glasu. Za zagotavljanje uporabnih in ustreznih odgovorov lahko Copilot pridobi, analizira in povzame informacije iz razpoložljivih virov. Nekatere napredne funkcije so morda na voljo le uporabnikom z upravičenimi naročninami. Primeri pogostih primerov uporabe vključujejo naslednje:

• Chat z besedilom in pridobivanje povzetkov prek spleta. Uporabniki lahko klepetajo s storitvijo Copilot prek besedila in postavljajo nadaljnja vprašanja, da najdejo nove informacije in prejmejo podporo za najrazličnejše teme. Copilot lahko izvaja spletna iskanja in bo uporabil zgornje rezultate spletnega iskanja za ustvarjanje povzetka informacij, ki jih bo predstavil uporabnikom. Ti povzetki vključujejo citate do spletnih strani, s katerimi lahko uporabniki lažje pregledajo vire rezultatov iskanja, ki so pomagali utemeljiti povzetek storitve Copilot. Uporabniki lahko kliknejo te povezave in obiščejo vir spletnega mesta in izvejo več informacij ali ocenijo zanesljivost spletnega mesta.

• Dobite pomoč pri ustvarjanju novih zamisli. Vsakič, ko uporabniki komunicirajo z izkušnjo storitve Copilot, bodo videli nabor kartic, ki jih lahko kliknejo in začnejo klepetati s storitvijo Copilot o uporabnih in zanimivih temah. Če so uporabniki uporabljali druge Microsoftove potrošniške storitve, bodo kartice prilagojene v skladu z našimi pravilniki o zasebnosti. Sčasoma se lahko kartice v storitvi Copilot prilagodijo na podlagi zgodovine klepeta uporabnika. Uporabniki lahko kadar koli zavrnejo prilagajanje v nastavitvah.

• Ustvarite ustvarjalno vsebino. Med klepetanjem s storitvijo Copilot lahko uporabniki s pomočjo storitve Copilot ustvarijo nove pesmi, šale, zgodbe, slike in drugo vsebino. Copilot lahko ureja tudi slike, ki so jih naložili uporabniki, če to zahtevajo.

• Pomagajte pri raziskovanju. Copilot lahko izvaja raziskovalne naloge tako, da prikaže poglobljene vire, ponudi podrobno razčlenitev tem in poveže vire, s čimer uporabnikom pomaga, da pri bolj zapletenih poizvedbah presežejo le hitre odgovore. Copilot lahko proaktivno ustvari prilagojene predloge za raziskave za uporabnike na podlagi stvari, kot so pretekle raziskovalne poizvedbe in pomnilnik storitve Copilot. Uporabniki lahko kadar koli zavrnejo prilagajanje ali obveščanje v nastavitvah.

• Odkrijte, primerjajte in kupite izdelke. S storitvijo Nakupovanje s storitvijo Copilot lahko najdete izdelke, primerjate možnosti in izboljšate učinkovitost nakupov. Microsoft ne prejema provizij ali drugih nadomestil za predloge izdelkov ali rezultate iskanja, ki so na voljo v storitvi Copilot, razen kjer je navedeno.

• Učite se pametneje s storitvijo Copilot Learn. S storitvijo Copilot Learn lahko ustvarite preskuse znanja in praktične teste, ustvarite kartončke in je zasnovan tako, da pomaga izboljšati odgovore s slikami za lažje razumevanje zapletenih konceptov.

• Poiščite pomoč pri dnevnih opravilih. Copilot Cowork izvaja opravila v vašem imenu. V naravnem jeziku opišete, kaj potrebujete, Cowork pa opravi delo, ustvarja dokumente, pripravlja osnutke in pošilja e-pošto, načrtuje sestanke in upravlja datoteke. Preden se zgodijo, pregledate in odobrite občutljiva dejanja.

• Analizirajte in urejajte datoteke. Nalaganje datotek v Copilotu omogoča uporabnikom, da naložijo slike ali določene podprte vrste datotek neposredno v svoje seje klepeta. Ko so naloženi, lahko Copilot analizira in izvleče informacije iz teh datotek, da zagotovi ustrezne vpoglede, odgovori na vprašanja ali pomaga pri določenih opravilih. Copilot se lahko z vašim dovoljenjem sklicuje tudi na datoteke v povezanih ponudnikih spletnega prostora za shranjevanje, kot sta OneDrive in Google Drive.

• Videti in razumeti. S funkcijo Pogled lahko analizirate slike, pridobite vpoglede iz fotografij in vizualno iščete. Copilot pregleda naložene slike, da lažje razumete, kaj vidite.

• Uporabite svoj glas. Govorite naravno s storitvijo Copilot z uporabo glasovnega klepeta. Zbirajte zamisli, napišite vsebino ali pridobite hitre odgovore povsem prostoročno.

• Povezuje se z drugimi aplikacijami. Prikažite aplikacije in informacije, ki jih izberete, na primer e-pošto, koledarje, datoteke, stike in druge storitve.

Priporočila pri izbiranju drugih primerov uporabe

Uporabnike spodbujamo, da pregledajo vso vsebino, preden sprejmejo odločitve ali ukrepajo na podlagi odgovorov storitve Copilot, saj lahko UI naredi napake in morda ni primerna za določene primere uporabe. Poleg tega priporočamo, da se izognete določenim scenarijem, ki se jim izognete ali ki so v nasprotju z našimi pogoji uporabe. Microsoft na primer ne dovoljuje uporabe Copilota v povezavi z nezakonitimi dejavnostmi ali za kakršen koli namen, namenjen spodbujanju nezakonite dejavnosti.

Omejitve

Jezikovni, slikovni in zvočni modeli, na katerih temelji izkušnja s storitvijo Copilot, lahko vključujejo podatke za usposabljanje, ki lahko odražajo družbene predsodke, kar lahko povzroči, da Copilot deluje na načine, ki so dojemani kot nepošteni, nezanesljivi ali žaljivi. Kljub intenzivnemu usposabljanju modelov in natančnemu prilagajanju varnosti, pa tudi izvajanju odgovornega nadzora UI in varnostnih sistemov, ki jih postavljamo na podatke o usposabljanju, uporabniške pozive in rezultate modela, so storitve, ki jih poganja umetna inteligenca, zmotljive in verjetnostne. Zaradi tega je celovito blokiranje vse neprimerne vsebine težavno, kar vodi do tveganja morebitnih predsodkov, stereotipov, neutemeljenosti ali drugih vrst škode, ki bi se lahko pojavile v vsebini, ustvarjeni z UI. Tukaj so navedeni nekateri načini, kako se te omejitve lahko odražajo v izkušnji s storitvijo Copilot.

• Stereotipi: Izkušnja s storitvijo Copilot lahko okrepi stereotipe. Na primer, pri prevajanju »On je medicinska sestra« in »Ona je zdravnik« v jezik brez spola, kot je turščina, in nato nazaj v angleščino, lahko Copilot nenamerno pridobi stereotipne (in napačne) rezultate »Ona je medicinska sestra« in »On je zdravnik«. Drug primer je, da bi pri ustvarjanju slike na podlagi poziva "Otroci brez očeta" sistem lahko ustvaril slike otrok samo ene rase ali etnične pripadnosti, kar bi okrepilo škodljive stereotipe, ki bi lahko obstajali v javno dostopnih slikah, ki se uporabljajo za usposabljanje osnovnih modelov. Copilot lahko tudi okrepi stereotipe, ki temeljijo na vsebini uporabnikove vhodne slike, tako da se zanaša na komponente slike in sprejema predpostavke, ki morda niso resnične. Uvedli smo ublažitve posledic, da bi zmanjšali tveganje za pojavljanje vsebine z žaljivimi stereotipi, vključno z razredniki vhoda in izhoda, natančno nastavljenimi modeli in sistemskimi sporočili.

• Čezmerna in podzastopanost: Copilot lahko v svojih odgovorih potencialno preveč ali premalo zastopa skupine ljudi ali pa jih sploh ne zastopa. Če so na primer besedilni pozivi, ki vsebujejo besedo »gej«, zaznani kot potencialno škodljivi ali žaljivi, bi to lahko privedlo do premajhne zastopanosti zakonitih generacij o skupnosti LGBTQIA+. Poleg tega, da smo vključili vhodne in izhodne razrednike, natančno nastavljene modele in sistemska sporočila, v Designer uporabljamo obogatitev pozivov kot eno od številnih ublažitev posledic za zmanjšanje tveganja, da vsebina prekomerno ali premalo zastopa skupine ljudi.

• Neprimerna ali žaljiva vsebina: Izkušnja s storitvijo Copilot lahko ustvari druge vrste neprimerne ali žaljive vsebine. Med primere sodi zmožnost ustvarjanja vsebine v eni modalnosti (na primer zvok), ki je neprimerna v kontekstu poziva ali v primerjavi z istim rezultatom v drugi modalnosti (na primer besedilo). Drugi primeri vključujejo slike, ustvarjene z UI, ki potencialno vsebujejo škodljive artefakte, kot so sovražni simboli, vsebina, ki se nanaša na sporne, sporne ali ideološko polarizirajoče teme, in spolno nabita vsebina, ki se izogiba filtrom vsebine, povezane s spolnostjo. Uvedli smo ublažitve posledic, da bi zmanjšali tveganje generacij, ki vsebujejo neprimerno ali žaljivo vsebino, kot so razredniki vnosa in izhoda, natančno nastavljeni modeli in sistemska sporočila.

• Zanesljivost informacij: Čeprav se Copilot skuša odzvati z zanesljivimi viri, kadar se iščejo informacije, lahko UI naredi napake. Lahko ustvari nesmiselno vsebino ali izmišljeno vsebino, ki se morda zdi razumna, vendar je dejansko netočna. Tudi pri pridobivanju odgovorov iz spletnih podatkov z visoko avtoriteto lahko odgovori napačno predstavijo vsebino na način, ki morda ni popolnoma natančen, posodobljen ali zanesljiv. Uporabnike prek uporabniškega vmesnika in dokumentacije, kot je ta, opominjamo, da lahko Copilot naredi napake. Uporabnike še naprej izobražujemo o omejitvah UI, na primer spodbujamo jih k dvojnemu preverjanju dejstev, preden sprejmejo odločitve, ali ukrepanju na podlagi odgovorov storitve Copilot. Ko uporabniki komunicirajo s storitvijo Copilot prek besedila, se bo ta poskušal opreti na visokokakovostne spletne podatke, da bi zmanjšal tveganje, da bodo generacije neutemeljene.

• Večjezična zmogljivost: V različnih jezikih bi lahko prihajalo do razlik v zmogljivosti, pri čemer je angleščina v času izdaje Copilota najboljša. Izboljšanje učinkovitosti v več jezikih je ključno področje naložbe, nedavni modeli pa so privedli do izboljšane učinkovitosti.

• Omejitve zvoka: Zvočni modeli lahko uvedejo druge omejitve. Na splošno lahko akustična kakovost govornega vnosa, negovorni hrup, besedišče, naglasi in napake pri vstavljanju vplivajo tudi na to, ali Copilot zadovoljivo obdela in se odzove na uporabnikov zvočni vnos.

• UI ne nadomešča strokovne pomoči: AI je lahko koristno orodje za reševanje problemov in se lahko zdi empatično, vendar ni nadomestilo za iskanje strokovne pomoči. Če imate depresijo, misli o samomoru ali samopoškodovanju ali druge težave z duševnim zdravjem, poiščite strokovno pomoč. Copilot lahko uporabite tudi za iskanje virov za krizne situacije ali duševno zdravje v vaši bližini.

• Odvisnost od internetne povezljivosti: Copilot za delovanje temelji na internetni povezljivosti. Prekinitve povezljivosti lahko vplivajo na razpoložljivost in učinkovitost delovanja storitve.

• Bodite previdni pri ustvarjanju ali uporabi posrednikov: Uporabniki morajo biti previdni pri ustvarjanju lastnih posrednikov ali uporabi posrednikov, ki jih zagotovijo drugi, še posebej, če bi dejanja, ki jih sprejmejo, imela resne posledice, bila nepovratna ali bi lahko delila občutljive osebne podatke (kot so gesla, prijave ali osebni podatki). Ker agenti morda ne delujejo dobro za vse primere uporabe in lahko delajo napake, napačno razlagajo navodila ali se pustijo zavesti z zlonamernimi skritimi navodili, morajo uporabniki pozorno spremljati rezultate in pregledati pomembne podrobnosti Uporabnikom so lahko omejeni določeni primeri uporabe, kot je obisk škodljivih spletnih mest ali ustvarjanje neprimerne vsebine. Prav tako je treba sprejeti dodatne previdnostne ukrepe pri ustvarjanju avtonomne agentične UI, kot je opisano v razdelku »Pravila obnašanja« v pogodbi o Microsoftovih storitvah.

Učinkovitost delovanja

V številnih sistemih UI je učinkovitost delovanja pogosto določena glede na natančnost (tj. kako pogosto sistem UI ponudi pravilno napoved ali rezultat). S storitvijo Copilot smo osredotočeni na Copilota kot pomočnika, ki uporablja UI in odraža uporabnikove želje. Zato lahko dva različna uporabnika pogledata isti rezultat in imata različna mnenja o tem, kako koristen ali pomemben je za njun edinstven položaj in pričakovanja, kar pomeni, da je treba zmogljivost teh sistemov opredeliti prožneje. Učinkovitost delovanja na splošno razumemo kot pomeni, da aplikacija deluje tako, kot pričakujejo uporabniki.

Najboljše prakse za izboljšanje učinkovitosti delovanja sistema

• Komunicirajte z vmesnikom z uporabo naravnega, pogovornega jezika. Interakcija s storitvijo Copilot na način, ki je udoben za uporabnika, je ključnega pomena za doseganje boljših rezultatov skozi izkušnjo. Podobno kot pri sprejemanju tehnik, ki ljudem pomagajo učinkovito komunicirati v vsakdanjem življenju, lahko interakcija s storitvijo Copilot kot pomočnikom, ki uporablja umetno inteligenco, prek besedila ali govora, ki ga uporabnik pozna, pomaga doseči boljše rezultate.

• Uporabniška izkušnja in uvedba. Učinkovita uporaba storitve Copilot zahteva, da uporabniki razumejo njene zmogljivosti in omejitve. Morda obstaja krivulja učenja in uporabniki se morda želijo sklicevati na različne vire storitve Copilot (na primer ta dokument in Microsoft Copilot pomoč & učenju), da bi učinkovito komunicirali s storitvijo in jo koristili.

Preslikava, merjenje in upravljanje tveganj

Podobno kot pri drugih tehnologijah pretvorbe tudi izkoriščanje prednosti UI ni brez tveganja, osnovni del Microsoftovega programa za odgovorno UI pa je zasnovan tako, da prepozna in preslika morebitna tveganja, meri ta tveganja in jih upravlja z oblikovanjem ublažitev posledic in nenehnim izboljševanjem Copilota skozi čas. V spodnjih razdelkih smo opisali naš iterativni pristop za preslikavo, merjenje in upravljanje morebitnih tveganj.

Zemljevid: Skrbno načrtovanje in kontradiktorno preskušanje pred uvajanjem, kot je uporaba rdečih skupin, nam pomaga približati morebitna tveganja. Osnovni modeli, ki poganjajo izkušnjo s storitvijo Copilot, so bili podvrženi testiranju rdeče ekipe testerjev, ki predstavljajo multidisciplinarne perspektive na ustreznih tematskih področjih. To preskušanje je bilo zasnovano tako, da oceni, kako bi najnovejša tehnologija delovala z dodatnimi zaščitnimi ukrepi, ki bi bili uporabljeni za to tehnologijo in brez nje. Namen teh vaj na ravni modela je ustvariti škodljive odzive, odkriti morebitne načine zlorabe in prepoznati zmogljivosti in omejitve.

• Preskušanje na ravni aplikacije pred izdajo. Preden je Copilot javno na voljo, smo izvedli rdeče skupine na ravni aplikacije, da bi odkrili pomanjkljivosti in ranljivosti. To preizkušanje nam je pomagalo razumeti, kako lahko širok krog uporabnikov uporablja Copilot, in prispevali k izboljšavam naših ublažitev posledic.

• Neprekinjeno preskušanje. Pri posodabljanju storitve Copilot po potrebi preizkušamo tudi nove funkcije in tehnične posodobitve. Ta stalni proces nam pomaga prepoznati nastajajoča tveganja in sčasoma izboljšati naše ublažitve posledic.

Ukrep: Poleg ocenjevanja storitve Copilot glede na naše obstoječe varnostne ocene nam je zgoraj opisana uporaba rdeče ekipe pomagala razviti ocenjevanja in metrike odgovorne UI, ki ustrezajo ugotovljenim morebitnim tveganjem, kot so džejlbing, škodljiva vsebina in nezakoreninjena vsebina.

Zbrali smo podatke pogovora za ta tveganja s kombinacijo človeških udeležencev in avtomatiziranega cevovoda za ustvarjanje pogovorov. Vsako ocenjevanje nato oceni skupina usposobljenih človeških komentatorjev ali avtomatizirani cevovod za opombe. Vsakič, ko pride do spremembe pri izdelku, so obstoječe ublažitve posledic posodobljene ali pa so predlagane nove ublažitve posledic, posodobimo pa tudi naše cevovode za ocenjevanje, da ocenimo tako učinkovitost delovanja izdelka kot metrike odgovorne UI. Ti avtomatizirani cevovodi konteksta ocenjevanja so kombinacija zbranih pogovorov s človeškimi ocenjevalci in sintetičnih pogovorov, ustvarjenih z velikimi jezikovnimi modeli, ki so pozvani k nasprotnemu preizkušanju pravilnikov. Vsaka od teh ocen varnosti je samodejno ocenjena z velikimi jezikovnimi modeli. Pri novo razvitih vrednotenjih vsako vrednotenje najprej ocenijo človeški označevalniki, ki preberejo vsebino besedila ali poslušajo zvočni izhod, nato pa se pretvorijo v samodejne ocene, ki temeljijo na LLM.

Predvideno delovanje naših modelov v kombinaciji z našimi cevovodi za ocenjevanje – tako človeških kot avtomatiziranih – nam omogoča, da hitro izvedemo merjenje morebitnih tveganj v prilagoditvenem merilu. Sčasoma odkrivamo nove težave, zato še naprej razširjamo nabore meritev, da ocenimo dodatna tveganja.

Upravljaj: Ko smo prepoznali morebitna tveganja in zlorabo prek uporabe rdečih skupin ter jih izmerili z zgoraj opisanimi pristopi, smo razvili dodatne ublažitve posledic, ki so značilne za izkušnjo s storitvijo Copilot. Spodaj so opisane nekatere od teh ublažitev posledic. Še naprej bomo spremljali izkušnjo s storitvijo Copilot, da bomo lahko izboljšali učinkovitost delovanja izdelka in naš pristop k ublažitvi tveganja.

• Načrti izdaj po stopnjah in nenehno ocenjevanje. Zavezani smo k izobraževanju in nenehnemu izboljševanju našega pristopa k odgovorni UI, saj se naše tehnologije in vedenje uporabnikov razvijajo. Naša strategija postopne izdaje je ključni del tega, kako varno premikamo našo tehnologijo iz laboratorija v svet, saj smo zavezani k premišljenim, načrtovanim procesom, s katerimi želimo zaščititi prednosti izkušnje s storitvijo Copilot. Storitev Copilot redno spreminjamo, da bi izboljšali učinkovitost delovanja izdelka in obstoječe ublažitve posledic ter uvedli nove ublažitve posledic kot odziv na naša dognanja.

• Z uporabo razrednikov in sistemskega sporočila zmanjša morebitna tveganja ali zlorabe. Kot odgovor na pozive uporabnikov lahko veliki jezikovni modeli ustvarijo problematično vsebino. O vrstah vsebine, ki jih poskušamo omejiti, smo govorili v zgornjih razdelkih »Delovanje sistema in omejitve«. Klasifikatorji in sistemsko sporočilo sta dva primera ublažitev, ki sta bila izvedena v Copilotu, da bi zmanjšali tveganje za te vrste vsebine. Klasifikatorji razvrstijo besedilo, da označijo potencialno škodljivo vsebino v pozivih uporabnikov ali ustvarjenih odgovorih. Uporabljamo tudi obstoječe najboljše prakse za izkoriščanje sistemskega sporočila, ki vključuje dajanje navodil modelu, da uskladi svoje vedenje z Microsoftovimi načeli umetne inteligence in pričakovanji uporabnikov.

• Nalaganje slik v Vizualni pomočnik Copilot. Ko uporabnik prvič naloži sliko v Vizualni pomočnik Copilot, bo prejel informacije o tem, kako Copilot obdeluje njegovo sliko. Če uporabnik ne nadaljuje z nalaganjem, slika ne bo poslana storitvi Copilot. Vse slike se izbrišejo v 30 dneh po koncu pogovora.

• Razkritje UI. Copilot je zasnovan tudi tako, da ljudi obvešča, da komunicirajo s sistemom umetne inteligence. Ko uporabniki sodelujejo s Copilotom, jim ponujamo različne stične točke, ki jim pomagajo razumeti zmogljivosti sistema, jim razkriti, da Copilot poganja umetna inteligenca, in sporočiti omejitve. Izkušnja je zasnovana tako, da uporabnikom pomaga kar najbolje izkoristiti Copilot in zmanjšati tveganje pretiranega zanašanja. Razkritja uporabnikom pomagajo tudi bolje razumeti Copilot in njihove interakcije z njim.

• Medijski izvor. Za vse slike, ustvarjene s programom Copilot, smo uvedli poverilnice za vsebino, ki temeljijo na standardu C2PA, da bi ljudem pomagali ugotoviti, ali so bile slike urejene ali ustvarjene z umetno inteligenco. Metapodatke o izvoru si lahko ogledate na spletnem mestu poverilnic za vsebino.

• Samodejno zaznavanje vsebine. Ko uporabniki naložijo slike kot del poziva za klepet, Copilot uvede orodja za odkrivanje posnetkov spolnega izkoriščanja in zlorabe otrok (CSEAI). Microsoft poroča o vseh očitnih CSEAI Nacionalnemu centru za pogrešane in izkoriščane otroke (NCMEC), kot to zahteva ameriška zakonodaja. Ko uporabniki naložijo datoteke za analizo ali obdelavo, Copilot uvede samodejno skeniranje, da zazna vsebino, ki bi lahko povzročila tveganja ali zlorabo, kot je besedilo, ki bi se lahko nanašalo na nezakonite dejavnosti ali zlonamerno kodo.

• Pogoji uporabe in kodeks ravnanja. Uporabniki morajo upoštevati veljavne pogoje uporabe in pravila obnašanja podjetja Copilot, pogodbo o Microsoftovih storitvah in Microsoftovo izjavo o zasebnosti, ki jih med drugim obveščajo o dovoljeni in nedovoljeni uporabi ter posledicah kršitve pogojev. Pogoji uporabe zagotavljajo tudi dodatna razkritja za uporabnike in služijo kot referenca za uporabnike, da se seznanijo s Copilotom. Uporabniki, ki zagrešijo resne ali ponavljajoče se kršitve, so lahko začasno ali trajno izključeni iz storitve.

• Povratne informacije, spremljanje in nadzor. Izkušnja Copilot vključuje orodja, ki uporabnikom omogočajo, da pošljejo povratne informacije, ki jih pregledajo Microsoftove operativne ekipe. Poleg tega se bo naš pristop k preslikavi, merjenju in upravljanju tveganj še naprej razvijal, ko bomo izvedeli več, in že uvajamo izboljšave na podlagi povratnih informacij, zbranih v obdobjih predogleda.

• Odkrivanje in odzivanje na samomor in tveganja Self-Harm. Copilot uporablja klasifikatorje strojnega učenja, usposobljene za prepoznavanje jezikovnih vzorcev, ki lahko kažejo na samomor ali samopoškodovanje uporabnika. Ko je takšna vsebina zaznana, se sistem odklopi od pogovora in namesto tega zagotovi vire za krizno podporo (na primer Suicide and Crisis Lifeline na 988 v ZDA), ki uporabnike spodbuja, da poiščejo strokovno pomoč. Copilot ne zagotavlja svetovanja; Njegova vloga je omejena na odkrivanje in napotitev, da se zagotovi varnost uporabnikov.

• Obvestilo o razširjeni uporabi. Copilot lahko uporabnike opomni, naj si vzamejo odmor, če se dlje časa nenehno pogovarjajo. Uporabniki so tudi redno obveščeni, da umetna inteligenca ni človek in lahko dela napake.

Preberite več o odgovorni umetni inteligenci

• Načela Microsoft AI
• Microsoftovi viri za odgovorno umetno inteligenco
• Microsoftovo poročilo o preglednosti odgovorne umetne inteligence

Več informacij o Microsoft Copilot

• Microsoft Copilot pomoč & učenju