Läbipaistvusmärkus Microsoft Copilot jaoks (üksikisikutele)

18. august 2026

Mis on läbipaistvusmärge?

Tehtemärke sisaldav süsteem ei hõlma mitte ainult tehnoloogiat, vaid ka inimesi, kes seda kasutavad, inimesi, keda see mõjutab, ja keskkonda, kus see juurutatakse. Microsofti läbipaistvusmärkmete eesmärk on aidata teil mõista, kuidas Copilot-tehnoloogia töötab, millised on süsteemi jõudlust ja käitumist mõjutavad valikud ning kogu süsteemi mõtlemise tähtsus, et Copilot-i kasutajad saaksid oma kasutuskogemuse üle kontrolli alla võtta ja mõista, mida teeme ohutu ja turvalise toote pakkumiseks.

Microsofti läbipaistvusmärkmed on osa Microsofti laiemast püüdlusest rakendada tehisintellekti põhimõtteid. Lisateavet leiate Microsoft AI põhimõtetest.

Microsoft Copilot põhitõed

Sissejuhatus

Microsoft Copilot aitab teil ühes kohas ideest lõpule viia. Copilot on integreeritud Word, Excelisse, PowerPointi, Outlooki, Teamsi ja paljusse muud, tuues kasutatavad failid ja teabe ühte kasutuskogemusse. Copilot aitab teil luua viimistletud dokumente, esitlusi ja arvutustabeleid, mustandmeile, korraldada oma päeva ja saada vastuseid oma töös. Cowork abil saab Copilot aidata ka suuremate mitmeastmeliste ülesannetega ja teha lõpetatud tehatusi. Samuti saate valida erinevate tööde jaoks juhtivate tehtemärkide mudelite vahel. Teatud funktsioonid olenevad tellimusest.

Microsoftis võtame vastutustundlikule tehisintellektile pühendumist tõsiselt. Copilot on välja töötatud vastavalt Microsofti tehnikute põhimõtetele, Microsofti vastutustundliku tehnikute Standard ning koostöös ettevõtte vastutustundlikute tehnikute ekspertidega, sh Microsofti vastutustundliku tehnilis-tehnilis-tehnikute kabinetiga, meie tehnikutega, Microsoft Researchiga ja Aetheriga. Lisateavet leiate teemast Vastutustundlik tehtevõime Microsoftis.

Selles dokumendis kirjeldame oma lähenemisviisi Coploti eest vastutavale tehteajajale. Enne väljalaset kasutasime Microsofti kaasaegseid meetodeid süsteemi võimalike riskide ja väärkasutamise kaardistamiseks, mõõtmiseks ja haldamiseks ning selle eeliste tagamiseks kasutajatele. Copiloti edasi arendades oleme jätkuvalt õppinud ja täiustanud ka oma vastutustundlikke tehtevõimeid. Dokumenti värskendatakse regulaarselt, et teavitada meie arenevaid protsesse ja meetodeid.

Põhiterminid

Klassifikaatorid Masinõppemudelid, mis aitavad andmeid sortida märgistatud teabeklassidesse või -kategooriatesse. Coplotis on üks viis, kuidas me klassifikaatoriid kasutame, aidata tuvastada potentsiaalselt kahjulikku sisu, mille on esitanud kasutajad või mille on loonud süsteem, et leevendada selle sisu teket ja süsteemi väärkasutamist või kuritarvitamist.

Maandamine Teatud vestluste puhul, kus kasutajad teavet otsivad, on Copilot veebiotsingu tulemites alusestatud. See tähendab, et Copilot koondab oma vastuse veebist pärit kõrge reitinguga sisule ja pakub hüperlinkitud tsitaate pärast genereeritud tekstvastuseid või kõnerežiimis vestluste transkriptsiooni.

Suured keelemudelid (LLM-id) Selles kontekstis on suured keelemudelid (LLM-id) tehtemärkide mudelid, mis on õpetatud suurtel tekstiandmetel, et ennustada sõnu järjestustes. LLM-id võivad täita mitmesuguseid ülesandeid, nagu teksti loomine, summeerimine, tõlkimine, klassifitseerimine ja palju muud.

Leevendus Meetod või meetodite kombinatsioon, mis on välja töötatud selleks, et vähendada võimalikke riske, mis võivad tekkida Copiloti tehtevõime funktsioonide kasutamisest.

Mitmeliigilised mudelid (MMM-id) Mitmeliigilised mudelid (MMM-id) on tehetehnilised mudelid, mis on välja õpetatud erinevat tüüpi andmetega (nt tekst, pildid või heli). Need mudelid võivad teha mitmesuguseid toiminguid (nt teksti kirjutamine, piltide kirjeldamine, kõne tuvastamine ja eri tüüpi andmetest teabe otsimine).

Juhised Sisendid teksti, piltide ja/või heli kujul, mille kasutaja saadab Coplotile Coplotile, et suhelda Coplot-is tehtevõime funktsioonidega.

Punane meeskonnatöö Tehnikad, mida eksperdid kasutavad süsteemi piirangute ja nõrkuste hindamiseks ning kavandatud leevendusmeetmete tõhususe kontrollimiseks. Punane meeskonna testimine hõlmab testijaid, kes võtavad potentsiaalsete riskide tuvastamiseks kasutusele nii healoomulised kui ka võistlevad isiksused ning erinevad süsteemsest riskide mõõtmisest.

Vastused Tekst, pildid või heli, mille Copilot väljastab vastavalt viibale või kasutajaga edasi-tagasi. Vastuse sünonüümid on "vastus", "lõpetamine", "genereerimine" ja "vastus".

Väikesed keelemudelid (SLM-id) Selles kontekstis on väikesed keelemudelid tehtevõime mudelid, mida õpetatakse väiksemate fookustatud andmehulkadega võrreldes suurte keelemudelite abil. Vaatamata nende väiksemale suurusele võivad SLMid täita mitmesuguseid ülesandeid, nagu teksti genereerimine, summeerimine, tõlkimine ja liigitus. Kuigi need ei pruugi sobida LLM-ide ulatuslike võimalustega, on SLMid sageli ressursitõhusamad ja võivad olla kindlate sihtrakenduste puhul väga tõhusad.

Süsteemiteade Süsteemisõnum (ehk metaprompt) on programm, mille abil saab juhtida süsteemi käitumist. Süsteemisõnumi osad aitavad ühtlustada süsteemi käitumist Microsofti tehtevõime põhimõtete ja kasutajate ootustega. Näiteks võib süsteemisõnum sisaldada rida "ära esita teavet ega loo sisu, mis võib põhjustada füüsilist, emotsionaalset või rahalist kahju".

Võimalused

Süsteemi käitumine

Copilot-iga oleme välja töötanud uuendusliku lähenemisviisi, et pakkuda kasutajatele isikupärastatumat tehtevõime kasutuskogemust, mis aitab kasutajaid mitmesuguste ülesannete täitmisel. See uuenduslik lähenemine kasutab mitmesuguseid täiustatud tehnoloogiaid, nagu Microsofti keele- ja mitmemodaalmudelid, OpenAI ja muud mudeliarendajad. Enne avalikku väljaannet töötasime välja Copilot aluseks olevate mudelite ohutustehnikate rakendamisega, et arendada välja kohandatud komplekt võimalusi ja käitumist, mis pakuvad täiustatud Copilot-kogemust. Coplot-is saavad kasutajad saata viipasid loomulikus keeles teksti või häälega. Vastused esitatakse kasutajatele mitmes erinevas vormingus, näiteks tekstvestlusvastused teksti kujul (vajaduse korral traditsiooniliste veebisisu linkidega) ja pildid (kui küsimise osana esitati pilditaotlus). Kui kasutajad saadavad Copilot Voice'i režiimis loomulikus keeles häälviipasid, saavad nad helivastuseid.

Kui kasutaja sisestab Copiloti viiba, saadetakse viip, vestluste ajalugu ja süsteemisõnum mitme sisendklassifikaatori kaudu, et aidata välja filtreerida kahjulikku või sobimatut sisu. See on esmatähtis esimene samm mudeli jõudluse parandamiseks ja olukordade leevendamiseks, kus kasutajad võivad proovida mudelit esitada viisil, mis võib olla ebaturvaline. Kui viip läbib sisendklassifikaatorid, tehakse otsus, kui taotlus nõuab veebist alusandmeid ja milline keelemudel peaks taotlusele vastama. Kõik mudelid loovad vastuse, kasutades päringu konteksti viipa ja hiljutist vestluste ajalugu, süsteemisõnum vastuste joondamiseks Microsofti tehtevõime põhimõtete ja kasutaja ootustega ning vajaduse korral joondavad vastused otsingutulemitega kohapealse, kõrge asetusega veebisisu vastustega.

Vastused esitatakse kasutajatele mitmes erinevas vormingus, nt tekstvestlusvastused, tavalised veebisisu lingid, pildid ja helivastused. Kui vastused esitatakse teksti kujul ja vastused põhinevad veebiandmetel, sisaldab väljund teksti all loetletud hüperlinkitud tsitaate, et kasutajad pääseksid juurde veebisaitidele, mida kasutati vastuse alusena, ja saada selle kohta lisateavet. Copilot saab keerukate arvutuste lõpuleviimiseks ja graafikute loomiseks käivitada koodi. Copilot võib talletada kindlaid fakte, mida kasutajad paluvad sellel meeles pidada, võimaldades sellel genereerida selle konteksti põhjal asjakohasemaid vastuseid ja soovitusi. Copilot võib ka salvestatud faktid kustutada, kui kasutajad paluvad neid selgesõnaliselt unustada.

Copilot aitab kasutajatel luua ka uusi lugusid, luuletusi, laulusõnu ja pilte. Kui Copilot tuvastab kasutaja kavatsus luua loovat sisu (nt kasutaja viip, mis algab "kirjuta mulle ..."), genereerib süsteem enamasti sisu, mis reageerib kasutaja viibale. Samamoodi, kui Copilot tuvastab kasutaja kavatsus luua pilti (nt kasutaja viip, mis algab "joonista mulle ..."), genereerib Copilot enamikul juhtudel kasutaja viibale reageeriva pildi. Kui Copilot tuvastab kasutaja kavatsust muuta üleslaaditud pilti (nt kasutaja viipa, mis algab "lisa ..."), muudab Copilot enamasti pilti, mis reageerib kasutaja viibale. Copilot ei pruugi loova sisuga vastata, kui kasutaja viip sisaldab teatud termineid, mis võivad põhjustada problemaatilist sisu.

Kavandatud ohutuskäitumine

Meie eesmärk Copilot on kasutajatele abiks ning rakendame kaitsemeetmeid, et aidata vähendada kahjuliku sisu tekitamise tõenäosust ning suurendada ohutu ja positiivse kasutuskogemuse tõenäosust. Kuigi oleme astunud samme riskide leevendamiseks, on generatiivsed tehetehnilised mudelid nagu Copiloti taga olevad mudelid probabilatiivsed ja võivad teha vigu, mis tähendab, et leevendused ei pruugi aeg-ajalt blokeerida kahjulikke kasutajaviipasid või teheteavituse genereeritud vastuseid. Kui näete Copilot'i kasutamisel kahjulikku või ootamatut sisu, andke meile tagasisidet, et saaksime seda kogemust täiustada.

Kasuta juhtumeid

Kavandatud kasutusotstarve

Copilot on mõeldud selleks, et aidata kasutajatel vastata küsimustele, genereerida sisu ja täita toiminguid loomuliku keele abil, kasutades teksti, pilte ja häält. Abistavate ja asjakohaste vastuste andmiseks võib Copilot saadaolevatest allikatest teavet tuua, analüüsida ja kokku võtta. Mõni täiustatud funktsioon võib olla saadaval ainult tingimustele vastavate tellimustega kasutajatele. Levinumate kasutusjuhtude näited on järgmised.

• Chat kasutada teksti ja hankida veebipõhiseid kokkuvõtteid. Kasutajad saavad Copilotiga tekstsõnumi teel vestelda ja järeltegevuseks küsimusi esitada, et leida uut teavet ja saada tuge paljudel teemadel. Copilot saab teha veebiotsinguid ja kasutab populaarseid veebiotsingutulemeid kasutajatele esitatava teabe kokkuvõtte koostamiseks. Need kokkuvõtted sisaldavad tsitaate veebilehtedele, et aidata kasutajatel vaadata läbi otsingutulemite allikad, mis aitasid Copilotil kokkuvõtet teha. Kasutajad saavad klõpsata neid linke, et külastada veebisaidi allikat, et saada lisateavet või hinnata veebisaidi usaldusväärsust.

• Hankige abi uute ideede genereerimiseks. Iga kord, kui kasutajad Coplotiga suhtlevad, näevad nad kaartide komplekti, mida nad saavad klõpsata Coplotiga vestlemiseks kasulikest ja huvitavatest teemadest. Kui kasutajad on kasutanud muid Microsofti tarbijateenuseid, isikupärastatakse kaardid vastavalt meie privaatsuspoliitikatele. Aja jooksul võidakse Copilotis olevaid kaarte vastavalt kasutaja vestlusajaloole isikupärastada. Kasutajad saavad isikupärastamisest igal ajal sätetes loobuda.

• Loova sisu loomine. Copilotiga vesteldes saavad kasutajad Copiloti abiga luua uusi luuletusi, nalju, lugusid, pilte ja muud sisu. Copilot saab soovi korral redigeerida ka kasutajate üles laaditud pilte.

• Abi uurimistöös. Copilot saab teha uurimistööülesandeid, otsides põhjalikke ressursse, pakkudes teemade üksikasjalikke liigendusi ja linkides allikatega, et aidata kasutajatel keerukamate päringute kiiretest vastustest kaugemale minna. Copilot võib kasutajate jaoks ennetavalt genereerida isikupärastatud uurimissoovitusi, võttes aluseks näiteks varasemad uurimispäringud ja Copilot-mälu. Kasutajad saavad isikupärastamisest või teatistest igal ajal sätete kaudu loobuda.

• Tutvuge, võrrelge ja ostke tooteid. Copilot Ostlemine aitab teil tooteid leida, võimalusi võrrelda ja ostude sujuvamaks muuta. Välja arvatud juhul, kui need on tuvastatud, ei saa Microsoft Coplotis pakutavate tootesoovituste ega otsingutulemite eest komisjonitasusid ega muid hüvitisi.

• Õppige copilot Learniga nutikamalt. Copilot Learn saab luua õppeteste ja harjutusteste, genereerida välgukaarte ning see aitab täiustada piltide vastuseid, et keerukaid mõisteid oleks lihtsam mõista.

• Hankige abi igapäevaste toimingute jaoks. Copilot Cowork teeb teie nimel ülesandeid. Kirjeldate, mida vajate loomulikus keeles, ja Cowork teeb tööd, loob dokumente, koostab ja saadab meilisõnumeid, planeerib koosolekuid ja haldab faile. Enne delikaatsete toimingute tegemist vaatate need üle ja kinnitate need.

• Failide analüüsimine ja redigeerimine. Failide üleslaadimine Copilot'is võimaldab kasutajatel pilte või teatud toetatud failitüüpe otse vestlusseanssidesse üles laadida. Pärast üleslaadimist saab Copilot nende failide teavet analüüsida ja ekstraktida, et anda asjakohaseid ülevaateid, vastata küsimustele või aidata teatud toimingutel. Copilot saab teie loal viidata ka teie ühendatud võrgusalvestusruumipakkujate (nt OneDrive ja Google Drive) failidele.

• Vaata ja mõista. Kaameraotsingu abil saate pilte analüüsida, fotodest ülevaateid saada ja visuaalselt otsida. Copilot arvustused on üles laaditud pildid, mis aitavad teil mõista, mida te näete.

• Kasutage oma häält. Kõnevestluse abil saate Copilotiga loomulikul viisil suhelda. Ajurünnaku ideed, sisu kirjutamine või kiirete vastuste saamine, täiesti vabakäeline.

• Loob ühenduse muude rakendustega. Tooge sisse valitud rakendused ja teave (nt meil, kalendrid, failid, kontaktid ja muud teenused).

Kaalutlused muude kasutusjuhtude valimisel

Soovitame kasutajatel enne Copiloti vastuste põhjal otsuste tegemist või nende põhjal tegutsemist kogu sisu läbi vaadata, kuna tehtevõime võib teha vigu ja see ei pruugi teatud kasutusjuhtudel sobida. Lisaks on olemas teatud stsenaariumid, mida soovitame vältida või mis on vastuolus meie kasutustingimustega. Näiteks ei luba Microsoft Copilot'it kasutada seoses ebaseaduslike tegevustega ega mis tahes eesmärgil, mis on ette nähtud ebaseadusliku tegevuse reklaamimiseks.

Piirangud

Keele-, pildi- ja helimudelid, mis copilot-kogemuse raames võivad sisaldada koolitusandmeid, mis kajastavad ühiskondlikke eelarvamusi, mis omakorda võivad põhjustada Copilot'i käitumist viisil, mida tajutakse ebaõiglase, ebausaldusväärse või solvavana. Hoolimata meie intensiivsest mudelikoolitusest ja ohutuse peenhäälestusest ning vastutustundlikute teostusvõime kontrolli- ja ohutussüsteemide rakendamisest, mille rakendame koolitusandmetele, kasutajaviipadele ja mudeliväljundile, on tehte oletetehnilised teenused kehvad ja probabilistlikud. See muudab raskeks kogu sobimatu sisu ulatusliku blokeerimise, mis võib põhjustada võimalikke eelarvamusi, stereotüüpe, tahtmatuid või muud tüüpi kahjusid, mis võivad teimi genereeritud sisus ilmneda. Siin on loetletud mõned viisid, kuidas need piirangud Copilot-funktsioonis võivad ilmneda.

• Stereotüpiseerimine: Coplot-i kogemus võib tugevdada stereotüüpe. Näiteks kui tõlkida sõel "Ta on õde" ja "Ta on arst" sootusse keelde nagu türgi keel ja seejärel tagasi inglise keelde, võib Copilot tahtmatult anda stereotüübilised (ja valed) tulemused "Ta on õde" ja "Ta on arst". Teine näide on, kui luuakse pilt viiba "Isata lapsed" põhjal. Süsteem võib luua pilte ainult ühest rassist või rahvusest pärit lastest, tugevdades kahjulikke stereotüüpe, mis võivad olla avalikult kättesaadavatel piltidel, mida kasutatakse aluseks olevate mudelite koolitamiseks. Copilot võib stereotüüpe tugevdada ka kasutaja sisendpildi sisu põhjal, toetudes pildi komponentidele ja esitades oletusi, mis ei pruugi olla tõesed. Oleme rakendanud leevendusi, et vähendada solvavaid stereotüüpe (sh sisend- ja väljundklassifikaatorid, peenhäälestatud mudelid ja süsteemiteated) sisaldava sisu ohtu.

• Üleesitus ja alaesitus: Copilot võib oma vastustes potentsiaalselt inimeste rühmi üle või ala esindada või isegi mitte esindada. Näiteks kui sõna "gei" sisaldavad tekstiviibad tuvastatakse potentsiaalselt kahjuliku või solvavana, võib see põhjustada õiguspäraste põlvkondade alaesitust LGBTQIA+ kogukonna kohta. Lisaks sisendi- ja väljundklassifikaatorite, peenhäälestatud mudelite ja süsteemisõnumite kaasamisele, kasutame kiiret rikastamist Designer ühena mitmest leevendusest, et vähendada ohtu sisule, mis on inimeste üle- või alaesindatud rühmad.

• Sobimatu või solvav sisu: Copiloti kogemus võib tekitada muud tüüpi sobimatut või solvavat sisu. Näited hõlmavad võimalust luua sisu ühes modaalsuses (nt heli), mis ei sobi viiba kontekstis või kui võrrelda sama väljundit muus modaalsuses (nt tekst). Muud näited on tehisintellekti genereeritud pildid, mis võivad sisaldada kahjulikke artefakte, nagu vihkamissümbolid, vaidlusalused, vastuolulised või ideoloogiliselt polariseerivad teemad, ja seksuaalselt laetud sisu, mis takistab seksuaalse sisu filtreid. Oleme kasutusele võtnud leevendused, et vähendada sobimatut või solvavat sisu (nt sisend- ja väljundklassifikaatorid, peenhäälestatud mudelid ja süsteemisõnumid) sisaldavate põlvkondade ohtu.

• Teabe töökindlus: Kuigi Copilot püüab vastata usaldusväärsete allikatega, kust otsitakse alusteavet, võib tehtevõime teha vigu. See võib tekitada mittesensiaalset sisu või luua sisu, mis võib tunduda mõistlik, kuid on faktiliselt ebatäpne. Isegi kui vastuseid võetakse kõrgetasemeliste veebiandmete põhjal, võivad vastused seda sisu valesti esitada viisil, mis ei pruugi olla täiesti täpne, ajakohane või usaldusväärne. Tuletame kasutajatele kasutajaliidese kaudu ja sellises dokumentatsioonis meelde, et Copilot võib teha vigu. Samuti jätkame kasutajate harimist tehtemärkide piirangute osas, näiteks julgustame neid enne otsuste tegemist või Copiloti reageerimisel faktide topeltkontrollimist. Kui kasutajad suhtlevad Coplotiga teksti kaudu, üritab see end kõrgkvaliteediliste veebiandmete kogumisel maandada, et vähendada riski, et põlvkonnad pole teada.

• Mitmekeelne jõudlus: Jõudlus võib varieeruda mitmes keeles, kusjuures copilot'i väljaastumise ajal töötab kõige paremini inglise keel. Jõudluse parandamine keelte lõikes on oluline investeerimisvaldkond ja hiljutised mudelid on toonud kaasa parema jõudluse.

• Helipiirangud: Helimudelid võivad kehtestada muid piiranguid. Üldjoontes võib kõnesisendi akustiline kvaliteet, mittekõnemüra, sõnavara, rõhkude ja sisestusvead mõjutada ka seda, kas Copilot töötleb ja reageerib kasutaja helisisendile rahuldaval viisil.

• Tehtevõime ei asenda professionaalset abi: Tehisintelekt võib olla kasulik tööriist probleemide lahendamiseks ja võib märgata empaatilist, kuid see ei asenda professionaalse abi otsimist. Kui teil on depressioon, enesetapu või enesekahju mõtted või muud vaimse tervise probleemid, pöörduge professionaalse abi saamiseks. Copilot'i saab kasutada ka kriisi või vaimse tervise ressursside leidmiseks teie lähedal.

• Sõltuvus Interneti-ühendusest: Copilot tugineb toimimiseks Interneti-ühendusele. Ühenduse katkemine võib mõjutada teenuse kättesaadavust ja jõudlust.

• Olge agentide loomisel või kasutamisel ettevaatlik. Kasutajad peaksid oma agentide loomisel või teiste poolt pakutavate agentide kasutamisel olema ettevaatlik, eriti juhul, kui agentide tegevusel võivad olla olulised tagajärjed, need võivad olla pöördumatud või võivad jagada tundlikku isiklikku teavet (nt paroolid, sisselogimised või isikuandmed). Kuna agendid ei pruugi kõigi kasutusjuhtude puhul hästi töötada ning võivad teha vigu, valesti tõlgendada juhiseid või petta pahatahtlikud peidetud juhised, peaksid kasutajad jälgima tulemeid tähelepanelikult ja läbi vaatama olulised üksikasjad. Kasutajad võivad olla piiratud teatud kasutusjuhtudega, näiteks kahjulike veebisaitide külastamisega või sobimatu sisu loomisega. Autonoomse tehisintellekti loomisel tuleks kasutusele võtta täiendavad ettevaatusabinõud, mida on lähemalt kirjeldatud Microsofti teenuseleppe käitumiskoodeksi jaotises.

Süsteemi jõudlus

Paljudes teheteavitussüsteemides määratletakse jõudlus sageli seoses täpsusega (st kui sageli pakub tehte-süsteem õiget prognoosi või väljundit). Copilotiga keskendume Copilotile kui tehtevõimelisele assistendile, mis peegeldab kasutaja eelistusi. Seetõttu võivad kaks erinevat kasutajat vaadata sama väljundit ja neil on erinevad arvamused selle kohta, kui kasulik või asjakohane on nende ainulaadne olukord ja ootused, mis tähendab, et nende süsteemide jõudlus tuleb paindlikumalt määratleda. Üldiselt kaalume jõudluse all seda, et rakendus toimib nii, nagu kasutajad eeldavad.

Süsteemi jõudluse parandamise head tavad

• Saate kasutajaliidesega suhelda loomuliku vestluskeele abil. Copilotiga suhtlemine viisil, mis on kasutajale mugav, on oluline, et saada kogemusi paremaid tulemusi. Sarnaselt tehnikatega, mis aitavad inimestel igapäevaelus tõhusalt suhelda, võib coplotiga tehisintellekti toega abilisega suhelda kas kasutajale tuttava teksti või kõne kaudu, mis võib aidata paremaid tulemusi saada.

• Kasutuskogemus ja kasutuselevõtt. Copilot-i tõhus kasutamine nõuab kasutajatelt selle võimaluste ja piirangute mõistmist. Võimalik, et leidub õppimiskõver ja kasutajad soovivad viidata mitmesugustele Coplot-ressurssidele (nt see dokument ja Microsoft Copilot aidata & õppimisel), et teenusega tõhusalt suhelda ja sellest kasu saada.

Riskide kaardistamine, mõõtmine ja haldamine

Nagu muud transformatsioonitehnoloogiad, ei ole ka tehisintellekti eeliste kasutamine riskivaba ning Microsofti vastutustundliku tehisintellekti programmi põhiosa on mõeldud võimalike riskide tuvastamiseks ja kaardistamiseks, nende riskide mõõtmiseks ja nende haldamiseks, kavandades leevendusi ja täiustades aja jooksul Copilot." Alltoodud jaotistes kirjeldame oma iteratiivset lähenemisviisi võimalike riskide kaardistamiseks, mõõtmiseks ja haldamiseks.

Kaart: Hoolikas plaanimine ja juurutamise-eelne võistlev testimine (nt punane meeskond) aitab võimalikke riske kaardil hoida. Copilot-kogemuse aluseks olevad mudelid läbisid testijate punased meeskonna testid, kes esindavad valdkonnaüleseid perspektiive asjakohastes teemades. Selle testi eesmärk oli hinnata, kuidas uusim tehnoloogia töötab nii koos sellele rakendatud täiendavate kaitsemeetmetega kui ka ilma. Nende harjutuste eesmärk mudeli tasandil on toota kahjulikke lahendusi, kasutada ära võimalikke väärkasutamise võimalusi ning teha kindlaks võimalused ja piirangud.

• Rakendusetaseme testimine enne väljaandmist. Enne Copilot avalikult kättesaadavaks tegemist tegime rakenduse tasemel punase meeskonnatöö, et tuvastada puudused ja nõrkused. See testimine aitas meil mõista, kuidas mitmesugused kasutajad võivad coplot-i kasutada ja meie leevendusi teadlikult täiustada.

• Pidev testimine. Copilot värskendamisel testime ka uusi funktsioone ja tehnilisi värskendusi. See jätkuv protsess aitab meil tuvastada tekkivaid riske ja täpsustada aja jooksul oma leevendusi.

Mõõt: Lisaks Copilot'i hindamisele olemasolevate ohutushinnangute suhtes aitas ülalkirjeldatud punase meeskonnatöö kasutamine meil välja töötada hindamisi ja vastutustundlikuid tehisintellekti mõõdikuid, mis vastavad tuvastatud võimalikele ohtudele, nagu vanglakaristused, kahjulik sisu ja tahtmatu sisu.

Kogusime nende riskidega seotud vestlusandmeid, kasutades selleks inimestest osalejate kombinatsiooni ja vestluste automaatse loomise konveiereid. Iga hinnangu annab seejärel kas inimeste koolitatud marginaalide kogum või automaatne marginaalide konveier. Iga kord, kui toode muutub, olemasolevaid leevendusi värskendatakse või pakutakse välja uusi leevendusi, värskendame oma hindamis konveiereid, et hinnata nii toote jõudlust kui ka vastutustundlikke tehisintellekti mõõdikuid. Need automaatse hindamise kontekstikonteksti kontekstikonteksti konveierid on kombinatsioon kogutavatest vestlustest inimeste hindajatega ja sünteetilistest vestlustest, mis on loodud LLM-idega, kellel palutakse poliitikaid testida vastasel moel. Kõik need ohutushinnangud hinnatakse automaatselt LLM-ide abil. Äsja välja töötatud hindamiste puhul hindavad kõigepealt inimeste sildistajad, kes loevad teksti sisu või kuulavad heliväljundit ja seejärel teisendavad need automaatseteks LLM-i põhisteks hindamisteks.

Meie mudelite plaanitud käitumine koos hindamisvõimalustega – nii inim- kui ka automatiseeritud – võimaldavad meil kiiresti võimalikke riske mastaabis mõõta. Kuna tuvastame aja jooksul uusi probleeme, jätkame mõõtekomplektide laiendamist, et hinnata täiendavaid riske.

Halda: Kuna tuvastasime punase meeskonnatöö abil potentsiaalseid riske ja väärkasutust ning mõõtsime neid ülalkirjeldatud meetoditega, arendasime coplot-i kogemusele omaseid täiendavaid leevendusi. Allpool kirjeldame mõnda neist leevendusmeetmetest. Jätkame Copilot-i kogemuse jälgimist, et parandada toote jõudlust ja meie riskileevendusmeetodit.

• Järk-järgult väljaandeplaanid ja pidev hindamine. Oleme pühendunud oma vastutustundliku tehisintellekti lähenemise puhul pidevale õppimisele ja täiustamisele, samal ajal kui meie tehnoloogiad ja kasutajate käitumine arenevad. Meie astmeline väljalaskestrateegia on olnud põhiosa sellest, kuidas me oma tehnoloogiat ohutult laborist maailma viime, ning me oleme pühendunud sihilikule ja läbimõeldud protsessile Copilot-kogemuse eeliste kindlustamiseks. Teeme Copilotis regulaarselt muudatusi, et parandada toodete jõudlust ja olemasolevaid leevendusi ning rakendada uusi leevendusi vastuseks meie õppimisele.

• Võimendada klassifikaatorite ja süsteemiteadet, et leevendada võimalikke riske või väärkasutamist. Vastuseks kasutaja viipadele võivad LLM-id esitada problemaatilist sisu. Arutasime sisutüüpe, mida proovime piirata eespool toodud jaotistes Süsteemi käitumine ja Piirangud. Klassifikaatorid ja süsteemisõnum on kaks näidet Coplotis rakendatud leevendusmeetmetest, mis aitavad seda tüüpi sisu ohtu vähendada. Klassifikaatorid liigitavad teksti, et lipuga märkida potentsiaalselt ohtlik sisu kasutaja viipades või genereeritud vastustes. Samuti kasutame süsteemisõnumi kasutamiseks olemasolevaid häid tavasid, mis hõlmab mudelile juhiste andmist, et viia selle käitumine vastavusse Microsofti tehtevõime põhimõtetega ja kasutajate ootustega.

• Piltide üleslaadimine Copiloti pilki. Esimesel korral, kui kasutaja laadib pildi Copiloti pilki üles, antakse neile teavet selle kohta, kuidas Copilot nende pilti töötleb. Kui kasutaja üleslaadimist ei jätka, ei saadeta pilti Coplotile. Kõik pildid kustutatakse 30 päeva jooksul pärast vestluse lõppu.

• Tehisintellekti avalikustamine. Copilot on mõeldud ka selleks, et teavitada inimesi tehtevõime süsteemiga suhtlemisest. Kuna kasutajad suhtlevad Copilot, pakume erinevaid puutepunkte, mis on mõeldud selleks, et aidata neil mõista süsteemi võimalusi, avaldada neile, et Copilot töötab tehtevõimega, ja suhtleme piirangutega. See kogemus on kujundatud nii, et aidata kasutajatel Copilotist võimalikult palju kasu saada ja minimeerida ületäituvuse ohtu. Avalikustamine aitab kasutajatel paremini mõista Copilot'i ja nende suhtlust sellega.

• Meediumi lähtekoht. Kõigi Coplotiga loodud piltide puhul oleme juurutanud C2PA standardil põhineva sisu identimisteabe, et aidata inimestel tuvastada, kas pilte redigeeriti või loodi tei-ga. Lähtekoha metaandmeid saab vaadata sisu identimisteabe saidil.

• Automaatne sisutuvastus. Kui kasutajad laadivad pilte üles vestluse viiba osana, juurutab Copilot tööriistad, et tuvastada laste seksuaalset ärakasutamist ja kuritarvitamist kujutavaid kujutisi (CSEAI). Microsoft teatab kadunud ja ekspluateeritud laste riiklikule keskusele (NCMEC) ilmnest CSEAI-st, nagu on nõutud USA seadustes. Kui kasutajad laadivad analüüsimiseks või töötlemiseks faile üles, juurutab Copilot automaatse skannimise, et tuvastada sisu, mis võib põhjustada riske või väärkasutust (nt tekst, mis võib olla seotud ebaseadusliku tegevuse või pahatahtliku koodiga).

• Kasutustingimused ja käitumiskoodeks. Kasutajad peaksid järgima Copilot'i kehtivaid kasutustingimusi ja käitumiskoodeksit, Microsofti teenuselepet ja Microsofti privaatsusavaldust, mis muu hulgas teavitavad neid lubatud ja lubamatust kasutamisest ning tingimuste rikkumise tagajärgedest. Kasutustingimustega antakse kasutajatele ka täiendavaid avalikustamisi ja need on kasutajatele Copiloti kohta teabe andmiseks viiteks. Kasutajad, kes sooritavad tõsiseid või korduvaid rikkumisi, võidakse teenusest ajutiselt või jäädavalt peatada.

• Tagasiside, jälgimine ja järelevalve. Copilot sisaldab tööriistamist, mis võimaldab kasutajatel esitada tagasisidet, mille on üle vaadanud Microsofti tegevusmeeskonnad. Lisaks areneb edasi meie lähenemisviis riskide kaardistamisele, mõõtmisele ja juhtimisele, kui saame rohkem teada, ning teeme juba eelvaateperioodidel kogutud tagasiside põhjal parandusi.

• Enesetapu tuvastamine ja sellele reageerimine ning Self-Harm riskid. Copilot kasutab masinõppe klassifikaatoriid, mis on koolitatud tuvastama keelemustreid, mis võivad viidata enesetapule või enesekahjule kasutajalt. Kui selline sisu tuvastatakse, väljub süsteem vestlusest ja pakub selle asemel kriisiabi ressursse (näiteks Enesetapu ja kriisi elujoon 988 Ameerika Ühendriikides), julgustades kasutajaid otsima professionaalset abi. Copilot ei paku nõustamist; tema roll piirdub tuvastamise ja viitamisega, et tagada kasutaja turvalisus.

• Laiendatud kasutuse teatis. Copilot võib tuletada kasutajatele meelde teha pausi, kui nad on pikemat aega pidevas vestluses töötanud. Kasutajaid teavitatakse regulaarselt ka sellest, et teimi ei ole inimene ja nad võivad teha vigu.

Lisateave vastutustundliku tehtevõime kohta

• Microsoft AI põhimõtted
• Microsofti vastutustundlikud tehteserveri ressursid
• Microsoft Responsible AI Transparency Report

Lisateave Microsoft Copilot kohta

• Microsoft Copilot abi õppimise &