"Microsoft Copilot" skaidrumo pastaba (privatiems asmenims)

2026 m. rugpjūčio 18 d.

Kas yra skaidrumo pažyma?

DI sistema apima ne tik technologiją, bet ir žmones, kurie ją naudos, žmones, kuriems ji turės įtakos, ir aplinką, kurioje ji diegiama. "„Microsoft“" skaidrumo pastabos skirtos padėti jums suprasti, kaip veikia "Copilot" dirbtinio intelekto technologija, mūsų pasirinkimus, kurie daro įtaką sistemos našumui ir veikimui, ir tai, kaip svarbu galvoti apie visą sistemą, kad "Copilot" vartotojai galėtų patys kontroliuoti savo patirtį ir suprasti, kokių veiksmų imamės, kad pateiktume saugų ir patikimą produktą.

"„Microsoft“" skaidrumo pastabos yra platesnių "„Microsoft“" pastangų praktiškai įgyvendinti dirbtinio intelekto principus dalis. Norėdami sužinoti daugiau, žr. „Microsoft“ AI principus.

"Microsoft Copilot" pagrindai

Įžanga

"Microsoft Copilot" padeda pereiti nuo idėjos iki baigto darbo vienoje vietoje. "Copilot" integruota į Word, "Excel", "PowerPoint", "Outlook", "Teams" ir kt., todėl naudojami failai ir informacija sujungiami į vieną funkciją. "Copilot" gali padėti kurti nepriekaištingus dokumentus, pateiktis ir skaičiuokles, kurti el. laiškų juodraščius, organizuoti savo dieną ir gauti atsakymus, pagrįstus jūsų atliekamu darbu. Naudojant "Cowork", "Copilot" taip pat gali padėti atlikti didesnes kelių veiksmų užduotis ir atlikti užduotis. Taip pat galite rinktis iš pirmaujančių DI modelių įvairiems darbams. Konkrečios funkcijos priklauso nuo prenumeratos.

„„Microsoft““ mes rimtai prisiimame įsipareigojimą užtikrinti atsakingą dirbtinio intelekto naudojimą. "Copilot" buvo sukurtas laikantis "„Microsoft“" DI principų, "„Microsoft“" atsakingo dirbtinio intelekto Standard ir bendradarbiaujant su atsakingo dirbtinio intelekto ekspertais visoje įmonėje, įskaitant "„Microsoft“" atsakingo dirbtinio intelekto biurą, mūsų inžinierių komandas, "„Microsoft“" tyrimus ir "Aether". Galite sužinoti daugiau " „Microsoft“" atsakingo dirbtinio intelekto naudojimo skyriuose.

Šiame dokumente aprašome mūsų požiūrį į atsakingą dirbtinio intelekto naudojimą "Copilot". Prieš išleidimą panaudojome "„Microsoft“" pažangiausius metodus, kad galimai rizikai ir netinkamam sistemos naudojimui sudarytume, įvertintume ir valdytume bei užtikrintume jos naudą vartotojams. Toliau tobulindami "Copilot", taip pat toliau mokėmės ir tobulinome savo atsakingo dirbtinio intelekto naudojimo pastangas. Šis dokumentas bus periodiškai atnaujinamas, kad būtų informuojami apie mūsų besikeičiančius procesus ir metodus.

Pagrindinės sąvokos

Klasifikatoriai Mašininio mokymo modeliai, padedantys rūšiuoti duomenis pagal pažymėtas klases arba informacijos kategorijas. Naudojant "Copilot", vienas iš būdų, kaip naudojame klasifikatorius, yra padėti aptikti potencialiai žalingą turinį, kurį pateikė vartotojai arba kurį sugeneravo sistema, kad sumažintume to turinio generavimą ir netinkamą sistemos naudojimą ar piktnaudžiavimą.

Įžeminimas Tam tikruose pokalbiuose, kuriuose vartotojai ieško informacijos, "Copilot" remiasi žiniatinklio ieškos rezultatais. Tai reiškia, kad "Copilot" sutelkia savo atsaką į aukšto rango turinį iš žiniatinklio ir teikia hipersaitas citatas po sugeneruotų teksto atsakymų arba pokalbių nuorašuose balso režimu.

Dideli kalbos modeliai (LLM) Dideli kalbos modeliai (LLM) šiame kontekste yra DI modeliai, išmokyti naudoti didelius teksto duomenų kiekius, kad būtų galima numatyti žodžių sekas. LLM gali atlikti įvairias užduotis, pvz., generuoti tekstą, apibendrinti, versti, klasifikuoti ir kt.

Rizikos mažinimas Metodas arba metodų derinys, skirtas sumažinti galimą riziką, kuri gali kilti naudojant DI funkcijas "Copilot".

Daugiarūšiai modeliai (MMM) Daugiamodaliai modeliai (MMM) yra DI modeliai, apmokyti naudoti skirtingų tipų duomenis, pvz., tekstą, vaizdus ar garsą. Šie modeliai gali atlikti įvairias užduotis, pvz., rašyti tekstą, aprašyti vaizdus, atpažinti kalbą ir rasti informacijos iš įvairių tipų duomenų.

Raginimai Įvestys teksto, vaizdų ir (arba) garso įrašų pavidalu, kurias vartotojas siunčia "Copilot", kad sąveikautų su DI funkcijomis "Copilot".

Raudona komanda Metodai, kuriuos ekspertai naudoja sistemos apribojimams ir pažeidžiamumui įvertinti bei suplanuotų rizikos mažinimo priemonių veiksmingumui patikrinti. Raudonosios komandos testavimas apima testuotojus, kurie priima gerybines ir priešiškas asmenybes, kad nustatytų galimą riziką ir skiriasi nuo sistemingo rizikos matavimo.

Atsakymai Tekstas, vaizdai arba garso įrašai, kuriuos "Copilot" pateikia reaguodamas į raginimą arba kaip pirmyn ir atgal su vartotoju dalį. Termino "atsakymas" sinonimai apima "užbaigimas", "karta" ir "atsakymas".

Maži kalbos modeliai (SLM) Šiame kontekste maži kalbos modeliai (SLM) yra DI modeliai, kurie mokomi naudojant mažesnius, labiau sutelktus duomenų kiekius, palyginti su dideliais kalbos modeliais. Nepaisant mažesnio dydžio, SLM gali atlikti įvairias užduotis, tokias kaip teksto generavimas, apibendrinimas, vertimas ir klasifikavimas. Nors SLM gali neatitikti plačių LLM galimybių, jie dažnai yra efektyvesni išteklius ir gali būti labai veiksmingi konkrečioms, tikslinėms programoms.

Sistemos pranešimas Sistemos pranešimas (kartais vadinamas "metaraginimu") yra programa, skirta sistemos veikimui vadovauti. Sistemos pranešimo dalys padeda suderinti sistemos veikimą su "„Microsoft“" DI principais ir vartotojų lūkesčiais. Pavyzdžiui, sistemos pranešime gali būti tokia eilutė, kaip "nepateikite informacijos ir nekurkite turinio, kuris galėtų sukelti fizinę, emocinę ar finansinę žalą".

Galimybės

Sistemos veikimas

Naudodami "Copilot" sukūrėme novatorišką požiūrį, kaip suteikti vartotojams labiau pritaikytą DI patirtį, kad ji būtų patraukli ir galėtų padėti vartotojams atlikti įvairias užduotis. Šis naujoviškas metodas naudoja įvairias pažangias technologijas, pvz., kalbą ir daugiarūšius modelius iš "„Microsoft“", "OpenAI" ir kitų modelių kūrėjų. Prieš viešai išleidžiant "Copilot" modelius, stengėmės įdiegti saugos metodus, kad sukurtume tinkintą galimybių ir veikimo būdo rinkinį, suteikiantį geresnę "Copilot" patirtį. Naudodami "Copilot" vartotojai gali siųsti raginimus natūralia kalba, tekstu arba balsu. Atsakymai vartotojams pateikiami keliais skirtingais formatais, pvz., atsakymai į pokalbius teksto forma (prireikus su tradiciniais saitais į žiniatinklio turinį) ir vaizdais (jei vaizdo užklausa buvo pateikta kaip raginimo dalis). Jei vartotojai siųs raginimus natūralia kalba balsu naudodami "Copilot Voice" režimą, jie gaus garso atsakymus.

Kai vartotojas įveda raginimą "Copilot", raginimas, pokalbių retrospektyva ir sistemos pranešimas siunčiami per kelis įvesties klasifikatorius, kad būtų lengviau filtruoti kenksmingą ar netinkamą turinį. Tai labai svarbus pirmasis žingsnis siekiant pagerinti modelio našumą ir sumažinti situacijas, kai vartotojai gali bandyti paraginti modelį tokiu būdu, kuris gali būti nesaugus. Kai raginimas pereina per įvesties klasifikatorius, nustatoma, ar užklausai reikalingi šaltiniai iš žiniatinklio ir kuris kalbos modelis turėtų atsakyti į užklausą. Visi modeliai generuoja atsakymą naudodami vartotojo raginimą ir naujausių pokalbių istoriją, kad kontekstualizuotų užklausą, sistemos pranešimą, siekiant suderinti atsakymus su "„Microsoft“" DI principais ir vartotojų lūkesčiais ir, jei reikia, suderinti atsakymus su ieškos rezultatais pagal esamo, aukšto rango turinio iš žiniatinklio pagrindinius atsakymus.

Atsakymai vartotojams pateikiami keliais skirtingais formatais, pvz., kaip pokalbių atsakymai teksto forma, tradiciniai saitai į žiniatinklio turinį, vaizdai ir garso atsakymai. Kai atsakymai pateikiami teksto forma, o atsakymai pagrįsti duomenimis iš žiniatinklio, išvestyje yra hipersaitais susietų citatų, pateiktų po tekstu, kad vartotojai galėtų pasiekti svetainę (-es), kuri (-ios) buvo naudojama atsakymui pagrįsti, ir sužinoti daugiau apie temą iš ten. "Copilot" taip pat gali vykdyti kodą, kad užbaigtų sudėtingus skaičiavimus ir generuotų grafikus. "Copilot" gali saugoti konkrečius faktus, kuriuos vartotojai prašo įsiminti, kad galėtų sugeneruoti aktualesnius atsakymus ir pasiūlymus pagal tą kontekstą. "Copilot" taip pat gali panaikinti įrašytus faktus, kai vartotojai aiškiai prašo juos pamiršti.

"Copilot" taip pat padeda vartotojams kurti naujas istorijas, eilėraščius, dainų tekstus ir vaizdus. Kai "Copilot" aptinka vartotojo ketinimą generuoti kūrybinį turinį (pvz., vartotojo raginimą, prasidedantį "parašyk man ..."), sistema daugeliu atvejų generuos turinį, reaguojantį į vartotojo raginimą. Panašiai, kai "Copilot" aptinka vartotojo ketinimą generuoti vaizdą (pvz., vartotojo raginimą, prasidedantį "nupiešk mane ..."), "Copilot" daugeliu atvejų sugeneruos vaizdą, reaguojantį į vartotojo raginimą. Kai "Copilot" aptinka vartotojo ketinimą modifikuoti nusiųstą vaizdą (pvz., vartotojo raginimą, prasidedantį "įtraukti..."), "Copilot" daugeliu atvejų modifikuos vaizdą, reaguojantį į vartotojo raginimą. "Copilot" gali neatsakyti su kūrybiniu turiniu, kai vartotojo raginime yra tam tikrų terminų, dėl kurių gali kilti problemų.

Numatytas saugos elgesys

Mūsų "Copilot" tikslas – būti naudinga vartotojams, todėl diegiame apsaugos priemones, kurios padeda sumažinti žalingo turinio generavimo tikimybę ir padidinti saugios ir teigiamos vartotojo patirties tikimybę. Nors ėmėmės veiksmų rizikai sumažinti, generuojamojo dirbtinio intelekto modeliai, tokie kaip "Copilot", yra tikimybiniai ir gali daryti klaidų, o tai reiškia, kad rizikos mažinimo priemonėms kartais gali nepavykti blokuoti žalingų vartotojų raginimų ar dirbtinio intelekto sugeneruotų atsakymų. Jei naudodamiesi "Copilot" susiduriate su kenksmingu ar netikėtu turiniu, praneškite mums pateikdami atsiliepimą, kad galėtume toliau tobulinti naudojimą.

Naudojimo atvejai

Paskirtis

"Copilot" skirta padėti vartotojams atsakyti į klausimus, generuoti turinį ir atlikti užduotis natūraliąja kalba, naudojant tekstą, vaizdus ir balsą. Siekiant pateikti naudingus ir aktualius atsakymus, "Copilot" gali nuskaityti, analizuoti ir apibendrinti informaciją iš galimų šaltinių. Kai kurios išplėstinės funkcijos gali būti pasiekiamos tik reikalavimus atitinkančias prenumeratas turintiems vartotojams. Dažniausių naudojimo atvejų pavyzdžiai:

• Chat naudojant tekstą ir gauti žiniatinklio santraukas. Vartotojai gali kalbėtis su "Copilot" teksto žinute ir užduoti tolesnius klausimus, kad rastų naujos informacijos ir gautų palaikymą įvairiomis temomis. "Copilot" gali atlikti žiniatinklio ieškas ir naudos populiariausius žiniatinklio ieškos rezultatus, kad sugeneruotų vartotojams pateikiamos informacijos suvestinę. Šiose suvestinėse pateikiamos citatos į tinklalapius, kad vartotojai galėtų lengviau peržiūrėti ieškos rezultatų šaltinius, kurie padėjo parengti "Copilot" suvestinę. Vartotojai gali spustelėti šias nuorodas, kad apsilankytų svetainės šaltinyje ir sužinotų daugiau arba įvertintų svetainės patikimumą.

• Gaukite pagalbos generuodami naujas idėjas. Kiekvieną kartą, kai vartotojai sąveikauja su "Copilot" funkcijomis, jie matys kortelių rinkinį, kurį galės spustelėti norėdami pradėti pokalbį su "Copilot" naudingomis ir įdomiomis temomis. Jei vartotojai sąveikavo su kitomis "„Microsoft“" vartotojų tarnybomis, kortelės bus pritaikytos asmeniniams poreikiams pagal mūsų privatumo strategijas. Laikui bėgant, kortelės "Copilot" gali būti suasmenintos pagal vartotojo pokalbių istoriją. Vartotojai gali bet kada atsisakyti personalizavimo parametruose.

• Kurkite kūrybinį turinį. Bendraudami su "Copilot", vartotojai gali kurti naujus eilėraščius, anekdotus, istorijas, vaizdus ir kitą turinį, padedami "Copilot". Jei pageidaujama, "Copilot" taip pat gali redaguoti vartotojų įkeltus vaizdus.

• Padėkite atlikti tyrimus. "Copilot" gali atlikti tyrimo užduotis pateikdamas išsamius išteklius, siūlydamas išsamius temų suskirstymus ir susiedamas su šaltiniais, kad vartotojai galėtų ne tik greitai atsakyti į sudėtingesnes užklausas. "Copilot" gali aktyviai generuoti vartotojams pritaikytus tyrimų pasiūlymus, remdamasis tokiais dalykais kaip ankstesnės tyrimų užklausos ir "Copilot" atmintis. Vartotojai gali bet kada atsisakyti suasmeninimo arba pranešimų parametruose.

• Raskite, lyginkite ir pirkite produktus. "Copilot Shopping" gali padėti rasti produktų, palyginti parinktis ir supaprastinti pirkimą. Išskyrus atvejus, kai nustatyta, "„Microsoft“" negauna komisinių ar kitų kompensacijų už produktų pasiūlymus ar ieškos rezultatus, pateiktus "Copilot".

• Mokykitės išmaniau naudodami "Copilot Learn". "Copilot Learn" gali kurti viktorinas ir praktinius testus, generuoti interaktyviąsias korteles ir yra skirta padėti patobulinti atsakymus naudojant vaizdus, kad būtų lengviau suprasti sudėtingas sąvokas.

• Gaukite pagalbos atlikdami kasdienes užduotis. "Copilot Cowork" atlieka užduotis jūsų vardu. Natūralia kalba aprašote, ko jums reikia, o "Cowork" atlieka darbą: kuria dokumentus, rengia ir siunčia el. laiškus, planuoja susitikimus ir tvarko failus. Prieš jiems įvykstant peržiūrėkite ir patvirtinate slaptus veiksmus.

• Analizuoti ir redaguoti failus. Failų nusiuntimas į "Copilot" leidžia vartotojams nusiųsti vaizdus arba tam tikrus palaikomus failų tipus tiesiai į savo pokalbio seansus. Įkėlus "Copilot" gali analizuoti ir išskleisti informaciją iš šių failų, kad pateiktų aktualių įžvalgų, atsakytų į klausimus ar padėtų atlikti konkrečias užduotis. Be to, su jūsų leidimu "Copilot" gali nurodyti failus, esančius jūsų prijungtų internetinės saugyklos paslaugų teikėjuose, pvz., "„OneDrive“" ir "Google Drive".

• Matyti ir suprasti. Naudokite "Vision" vaizdams analizuoti, įžvalgoms iš nuotraukų gauti ir vizualiai ieškoti. "Copilot" peržiūri nusiųstus vaizdus, kad geriau suprastumėte, ką matote.

• Naudokitės savo balsu. Natūraliai kalbėkite su "Copilot" naudodami balso pokalbį. Generuokite idėjas, rašykite turinį arba gaukite greitus atsakymus visiškai nenaudodami rankų.

• Prisijungia prie kitų programų. Įtraukite pasirinktas programėles ir informaciją, pvz., el. paštą, kalendorius, failus, kontaktus ir kitas tarnybas.

Į ką reikėtų atsižvelgti renkantis kitus naudojimo atvejus

Raginame vartotojus peržiūrėti visą turinį prieš priimant sprendimus arba veikiant pagal "Copilot" atsakymus, nes DI gali padaryti klaidų ir gali būti netinkamas tam tikrais naudojimo atvejais. Be to, yra tam tikrų scenarijų, kurių rekomenduojame vengti arba kurie prieštarauja mūsų naudojimo sąlygoms. Pavyzdžiui, "„Microsoft“" neleidžia naudoti "Copilot" neteisėtai veiklai arba bet kokiu tikslu, skirtu neteisėtai veiklai skatinti.

Apribojimai

Kalbos, vaizdo ir garso modeliai, kuriais grindžiama "Copilot" patirtis, gali apimti mokymo duomenis, kurie gali atspindėti visuomenės šališkumą, o tai savo ruožtu gali paskatinti "Copilot" elgtis taip, kad jis suvokiamas kaip nesąžiningas, nepatikimas ar įžeidžiantis. Nepaisant intensyvaus modelio mokymo ir saugos tikslinimo, taip pat atsakingų dirbtinio intelekto valdiklių ir saugos sistemų, kurias naudojame mokymo duomenims, vartotojų raginimams ir modelių išvestims, įdiegimo, dirbtiniu intelektu pagrįstos paslaugos yra klaidingos ir tikimybinės. Dėl to sudėtinga visapusiškai blokuoti visą netinkamą turinį, todėl kyla rizika, kad dirbtinio intelekto sukurtame turinyje gali atsirasti šališkumo, stereotipų, nepagrįstumo ar kitokio pobūdžio žalos. Čia išvardyti kai kurie būdai, kaip šie apribojimai gali pasireikšti naudojant "Copilot" funkcijas.

• Stereotipai: "Copilot" patirtis gali sustiprinti stereotipus. Pavyzdžiui, verčiant "He is a nurse" ir "She is a doctor" į belytės kalbą, pvz., turkų, o tada atgal į anglų kalbą, "Copilot" gali netyčia pateikti stereotipinius (ir neteisingus) "She is a nurse" ir "He is a doctor" rezultatus. Kitas pavyzdys – generuojant vaizdą pagal raginimą "Vaikai be tėvo", sistema gali generuoti tik vienos rasės ar etninės kilmės vaikų vaizdus, sustiprindama žalingus stereotipus, kurie gali egzistuoti viešai prieinamuose vaizduose, naudojamuose pagrindiniams modeliams mokyti. "Copilot" taip pat gali sustiprinti stereotipus, pagrįstus vartotojo įvesties vaizdo turiniu, pasikliaudamas vaizdo komponentais ir darydamas prielaidas, kurios gali būti neteisingos. Įgyvendinome rizikos mažinimo priemones, kad sumažintume turinio, kuriame yra įžeidžiančių stereotipų, įskaitant įvesties ir išvesties klasifikatorius, patikslintus modelius ir sistemos pranešimus, riziką.

• Pernelyg didelis atstovavimas ir nepakankamas atstovavimas: "Copilot" savo atsakymuose gali per daug arba per mažai atstovauti žmonių grupėms arba net visai jų nereprezentuoti. Pavyzdžiui, jei teksto raginimai, kuriuose yra žodis "gėjus", aptinkami kaip potencialiai žalingi arba įžeidžiantys, tai gali lemti nepakankamą teisėtų kartų atstovavimą LGBTQIA+ bendruomenei. Be įvesties ir išvesties klasifikatorių, tiksliai suderintų modelių ir sistemos pranešimų, naudojame raginimo papildymą "Designer" kaip vieną iš kelių rizikos mažinimo priemonių, kad sumažintume riziką, kad turinys per daug arba per mažai reprezentuoja žmonių grupes.

• Netinkamas arba įžeidžiantis turinys: Naudojant "Copilot" funkcijas gali būti sukuriamas kitų tipų netinkamas ar įžeidžiantis turinys. Pavyzdžiui, galimybė generuoti turinį vienu modalumu (pvz., garso įrašo), kuris yra netinkamas atsižvelgiant į raginimą arba lyginamas su ta pačia išvestimi kitu modalumu (pvz., tekstas). Kiti pavyzdžiai – dirbtinio intelekto sugeneruoti vaizdai, kuriuose gali būti kenksmingų artefaktų, pvz., neapykantos simbolių, turinys, susijęs su ginčijamomis, prieštaringomis ar ideologiškai poliarizuojančiomis temomis, ir seksualinio pobūdžio turinys, kuris vengia seksualinio turinio filtrų. Įdiegėme rizikos mažinimo priemones, kad sumažintume riziką, kad atsiras kartų, kuriose bus netinkamo arba įžeidžiančio turinio, pvz., įvesties ir išvesties klasifikatorių, tiksliai suderintų modelių ir sistemos pranešimų.

• Informacijos patikimumas: Nors "Copilot" siekia atsakyti pasitelkiant patikimus šaltinius, kai ieškoma pagrįstos informacijos, dirbtinis intelektas gali padaryti klaidų. Tai gali potencialiai generuoti nesąmoningą turinį arba sufabrikuoti turinį, kuris gali skambėti pagrįstai, bet yra faktiškai netikslus. Net jei atsakymai gaunami iš autoritetingų žiniatinklio duomenų, atsakymai gali iškraipyti turinį tokiu būdu, kuris gali būti ne visiškai tikslus, atnaujintas ar patikimas. Per vartotojo sąsają ir tokią dokumentaciją primename vartotojams, kad "Copilot" gali padaryti klaidų. Be to, toliau mokome vartotojus apie dirbtinio intelekto apribojimus, pvz., skatiname juos dar kartą patikrinti faktus prieš priimant sprendimus arba veikti pagal "Copilot" atsakymus. Kai vartotojai sąveikauja su "Copilot" tekstu, jis bando įsitvirtinti aukštos kokybės žiniatinklio duomenyse, kad sumažintų riziką, jog kartos bus nepagrįstos.

• Daugiakalbis spektaklis: Skirtingų kalbų veikimas gali skirtis, geriausiai pasirodė anglų kalba "Copilot" išleidimo metu. Veiklos gerinimas įvairiomis kalbomis yra pagrindinė investavimo sritis, o naujausi modeliai padėjo pagerinti našumą.

• Garso apribojimai: Garso modeliuose gali būti kitų apribojimų. Apskritai kalbos įvesties akustinė kokybė, ne kalbos triukšmas, žodynas, akcentai ir įterpimo klaidos taip pat gali turėti įtakos tam, ar "Copilot" apdoroja ir reaguoja į vartotojo garso įvestį patenkinamu būdu.

• Dirbtinis intelektas nepakeičia profesionalios pagalbos: Dirbtinis intelektas gali būti naudingas problemų sprendimo įrankis ir gali būti vertinamas empatiškai, tačiau tai nepakeičia profesionalios pagalbos. Jei patiriate depresiją, mintis apie savižudybę ar savęs žalojimą ar kitas psichikos sveikatos problemas, kreipkitės į specialistus. "Copilot" taip pat galima naudoti norint rasti šalia jūsų esančius krizių ar psichikos sveikatos išteklius.

• Priklausomybė nuo interneto ryšio: "Copilot" veikimui reikalingas interneto ryšys. Ryšio sutrikimai gali turėti įtakos paslaugos prieinamumui ir našumui.

• Kurdami ar naudodami agentus būkite atsargūs: Vartotojai turėtų būti atsargūs kurdami savo agentus arba pasitelkdami kitų asmenų suteiktus agentus, ypač jei agentų veiksmai gali turėti rimtų pasekmių, būti negrįžtami arba turėti galimybę bendrinti slaptą asmeninę informaciją (pvz., slaptažodžius, prisijungimus ar asmeninius duomenis). Kadangi agentai gali netinkamai veikti visais naudojimo atvejais ir gali klysti, neteisingai interpretuoti instrukcijas arba būti apgauti kenkėjiškų paslėptų instrukcijų, vartotojai turėtų atidžiai stebėti rezultatus ir peržiūrėti svarbią informaciją Vartotojams gali būti apribota tam tikrais naudojimo atvejais, pvz., lankytis kenksmingose svetainėse ar kurti netinkamą turinį. Taip pat reikia imtis papildomų atsargumo priemonių kuriant autonominį agento dirbtinį intelektą, kaip išsamiau aprašyta "Microsoft" paslaugų teikimo sutarties skyriuje "Elgesio taisyklės".

Sistemos našumas

Daugelyje DI sistemų našumas dažnai apibrėžiamas atsižvelgiant į tikslumą (t. y. kaip dažnai DI sistema pateikia teisingą prognozę ar išvestį). Naudodami "Copilot", daugiausia dėmesio skiriame "Copilot" kaip DI pagrindu veikiančiam asistentui, atspindinčiam vartotojo pageidavimus. Todėl du skirtingi vartotojai gali žiūrėti į tą patį rezultatą ir turėti skirtingą nuomonę apie tai, kiek jis naudingas ar aktualus jų unikaliai situacijai ir lūkesčiams, o tai reiškia, kad šių sistemų našumas turi būti apibrėžtas lanksčiau. Plačiau manome, kad efektyvumas reiškia, kad programa veikia taip, kaip tikisi vartotojai.

Geriausia sistemos efektyvumo gerinimo praktika

• Sąveikaukite su sąsaja naudodami natūralią, šnekamąją kalbą. Sąveika su "Copilot" vartotojui patogiu būdu yra labai svarbi norint pasiekti geresnių rezultatų. Panašiai kaip taikant metodus, padedančius žmonėms efektyviai bendrauti kasdieniame gyvenime, sąveika su "Copilot" kaip dirbtiniu intelektu pagrįsta pagalbine priemone tekstu arba vartotojui pažįstama kalba gali padėti pasiekti geresnių rezultatų.

• Vartotojų patirtis ir pritaikymas. Norint efektyviai naudoti "Copilot", reikia, kad vartotojai suprastų jo galimybes ir apribojimus. Gali būti mokymosi kreivė, todėl vartotojai gali norėti nurodyti įvairius "Copilot" išteklius (pvz., šį dokumentą ir Microsoft Copilot padėti & mokymąsi), kad galėtų efektyviai sąveikauti su paslauga ir gauti jos naudos.

Rizikos susiejimas, įvertinimas ir valdymas

Kaip ir kitos transformacinės technologijos, DI pranašumų panaudojimas nėra nerizikingas, o pagrindinė "„Microsoft“" atsakingo dirbtinio intelekto naudojimo programos dalis skirta potencialiai rizikai nustatyti ir įvertinti, šiai rizikai įvertinti ir valdyti, kuriant rizikos mažinimo priemones ir laikui bėgant nuolat tobulinant "Copilot". Tolesniuose skyriuose aprašome mūsų nuoseklų potencialios rizikos žemėlapio, įvertinimo ir valdymo metodą.

Žemėlapis: Kruopštus planavimas ir priešiškas testavimas prieš diegimą, pvz., "raudonoji komanda", padeda nustatyti galimą riziką. Pamatiniai modeliai, kuriais grindžiama "Copilot" patirtis, buvo išbandyti raudonosios komandos testuotojų, atstovaujančių daugiadalykėms perspektyvoms atitinkamose temose. Šie bandymai buvo skirti įvertinti, kaip naujausia technologija veiktų tiek su jokiomis papildomomis apsaugos priemonėmis, tiek be jų. Šių pratybų tikslas modelio lygmeniu yra sukurti žalingą atsaką, atskleisti galimus piktnaudžiavimo būdus ir nustatyti galimybes bei apribojimus.

• Programos lygio testavimas prieš išleidimą. Prieš viešai paskelbdami "Copilot" prieinamą, atlikome programos lygmens bendradarbiavimą, kad nustatytume trūkumus ir spragas. Šie testai padėjo mums suprasti, kaip įvairūs vartotojai gali naudoti "Copilot", ir suteikė informacijos apie mūsų rizikos mažinimo patobulinimus.

• Vykdomi bandymai. Naujindami "Copilot" taip pat testuojame naujas funkcijas ir reikiamus techninius naujinimus. Šis nuolatinis procesas padeda mums nustatyti kylančią riziką ir laikui bėgant patobulinti rizikos mažinimo priemones.

Priemonė: Be "Copilot" vertinimo pagal esamus saugos vertinimus, anksčiau aprašytas raudonosios komandos naudojimas padėjo mums sukurti vertinimus ir atsakingo dirbtinio intelekto metriką, atitinkančią nustatytą galimą riziką, pvz., įsilaužimus, žalingą turinį ir nepagrįstą turinį.

Rinkome pokalbių duomenis, skirtus šioms rizikoms, naudodami žmonių dalyvių ir automatizuoto pokalbių generavimo srauto derinį. Tada kiekvienas įvertinimas vertinamas apmokytų žmonių komentatorių arba automatizuoto anotacijų vamzdyno. Kiekvieną kartą, kai pakeičiamas produktas, atnaujinamos esamos rizikos mažinimo priemonės arba pasiūlomos naujos rizikos mažinimo priemonės, atnaujiname vertinimo srautus, kad įvertintume produkto našumą ir atsakingo dirbtinio intelekto naudojimo metriką. Šie automatizuoti vertinimo kontekstiniai srautai yra surinktų pokalbių su vertintojais žmonėmis ir sintetinių pokalbių, generuojamų su LLM, raginamų išbandyti strategijas priešišku būdu, derinys. Kiekvienas iš šių saugos įvertinimų automatiškai įvertinamas LLM. Naujai sukurtiems vertinimams kiekvieną vertinimą iš pradžių įvertina žmonės, kurie skaito teksto turinį arba klausosi garso išvesties, o tada konvertuojami į automatinius LLM pagrįstus vertinimus.

Numatytas mūsų modelių veikimas kartu su mūsų vertinimo srautais – tiek žmogiškais, tiek automatizuotais – leidžia mums greitai išmatuoti galimą riziką dideliu mastu. Laikui bėgant identifikuodami naujas problemas, toliau plečiame matavimų rinkinius, kad galėtume įvertinti papildomą riziką.

Valdyti: Kadangi nustatėme galimą riziką ir netinkamą naudojimą pasitelkę "raudonos komandos" veiklą ir įvertinome juos taikydami anksčiau aprašytus metodus, sukūrėme papildomų rizikos mažinimo priemonių, būdingų "Copilot" patirčiai. Toliau aprašome kai kurias iš šių rizikos mažinimo priemonių. Mes ir toliau stebėsime "Copilot" funkcijas, kad pagerintume produkto veikimą ir savo rizikos mažinimo metodą.

• Etapinių leidimų planai etapais ir nuolatinis vertinimas. Mūsų technologijoms ir vartotojų elgsenai tobulėjant, esame įsipareigoję nuolat mokytis ir tobulinti požiūrį į atsakingo dirbtinio intelekto naudojimą. Mūsų laipsniško išleidimo strategija buvo pagrindas to, kaip mes saugiai perkeliame savo technologijas iš laboratorijos į pasaulį, ir esame įsipareigoję taikyti apgalvotą, atidų procesą, kad užtikrintume "Copilot" patirties teikiamą naudą. Reguliariai atliekame "Copilot" pakeitimus, kad pagerintume produkto veikimą ir esamas rizikos mažinimo priemones bei įdiegtume naujas rizikos mažinimo priemones atsižvelgdami į savo išmoktas.

• Klasifikatorių ir sistemos pranešimo naudojimas galimai rizikai ar netinkamam naudojimui sumažinti. Reaguodamos į vartotojo raginimus, LLM gali pateikti problematišką turinį. Aptarėme turinio tipus, kuriuos bandome apriboti sistemos veikimo ir apribojimų skyriuose. Klasifikatoriai ir sistemos pranešimas yra du rizikos mažinimo pavyzdžiai, kurie buvo įdiegti "Copilot", kad būtų sumažinta šių tipų turinio pateikimo rizika. Klasifikatoriai klasifikuoja tekstą, kad pažymėtų potencialiai žalingą turinį vartotojo raginimuose arba sugeneruotuose atsakymuose. Taip pat naudojame esamas geriausias praktikas sistemos pranešimui panaudoti, o tai apima instrukcijų pateikimą modeliui, kaip suderinti jo veikimą su "„Microsoft“" DI principais ir vartotojų lūkesčiais.

• Vaizdų nusiuntimas į "„Copilot“ vizija". Kai vartotojas pirmą kartą nusiųs vaizdą į "„Copilot“ vizija", jam bus pateikta informacija apie tai, kaip "Copilot" apdoroja jo vaizdą. Jei vartotojas netęs nusiuntimo, vaizdas nebus siunčiamas į "Copilot". Visi vaizdai panaikinami per 30 dienų nuo pokalbio pabaigos.

• DI atskleidimas. "Copilot" taip pat skirta informuoti žmones, kad jie sąveikauja su DI sistema. Vartotojams bendradarbiaujant su "Copilot", siūlome įvairius sąlyčio taškus, skirtus padėti jiems suprasti sistemos galimybes, atskleisti, kad "Copilot" veikia naudojant DI, ir pranešti apie apribojimus. Funkcijos sukurtos taip, kad vartotojai galėtų išnaudoti visas "Copilot" galimybes ir sumažinti pernelyg didelio pasitikėjimo riziką. Atskleidimas taip pat padeda vartotojams geriau suprasti "Copilot" ir jų sąveiką su juo.

• Žiniasklaidos kilmė. Visiems vaizdams, sukurtiems naudojant "Copilot", įdiegėme turinio kredencialus, patikrintus pagal C2PA standartą, kad padėtume žmonėms nustatyti, ar vaizdai buvo redaguoti, ar sugeneruoti naudojant dirbtinį intelektą. Kilmės vietos metaduomenis galima peržiūrėti turinio kredencialų svetainėje.

• Automatinis turinio aptikimas. Kai vartotojai įkelia vaizdus kaip dalį pokalbio raginimo, "Copilot" diegia įrankius vaikų seksualinio išnaudojimo ir prievartos vaizdams aptikti (CSEAI). "„Microsoft“" praneša apie visus akivaizdžius CSEAI Nacionaliniam dingusių ir išnaudojamų vaikų centrui (NCMEC), kaip reikalaujama pagal JAV įstatymus. Kai vartotojai nusiunčia failus analizuoti ar apdoroti, "Copilot" įdiegia automatinį nuskaitymą, kad aptiktų turinį, kuris gali sukelti riziką arba netinkamą naudojimą, pvz., tekstą, kuris gali būti susijęs su neteisėta veikla arba kenkėjišku kodu.

• Naudojimo sąlygos ir elgesio kodeksas. Vartotojai turi laikytis taikomų "Copilot" naudojimo sąlygų ir elgesio taisyklių, "„Microsoft“" paslaugų teikimo sutarties ir "„Microsoft“" privatumo nuostatų, kuriose, be kita ko, jie informuojami apie leistiną ir neleistiną naudojimą bei sąlygų pažeidimo pasekmes. Naudojimo sąlygose vartotojams taip pat pateikiama papildoma informacija ir vartotojai gali sužinoti apie "Copilot". Vartotojams, kurie daro rimtus arba pakartotinius pažeidimus, gali būti laikinai arba visam laikui sustabdytas paslaugos teikimas.

• Atsiliepimai, stebėjimas ir priežiūra. "Copilot" funkcijos apima įrankius, leidžiančius vartotojams pateikti atsiliepimus, kuriuos peržiūri "„Microsoft“" operacijų komandos. Be to, mūsų požiūris į rizikos susiejimą, įvertinimą ir valdymą toliau tobulės mums sužinant vis daugiau, ir mes jau atliekame patobulinimus remdamiesi peržiūros laikotarpiu surinktais atsiliepimais.

• Savižudybių ir Self-Harm rizikos nustatymas ir reagavimas į jas. "Copilot" naudoja mašininio mokymosi klasifikatorius, apmokytus atpažinti kalbos modelius, kurie gali rodyti vartotojo savižudybę ar savęs žalojimo ketinimus. Kai toks turinys aptinkamas, sistema atsijungia nuo pokalbio ir vietoj to teikia pagalbos krizių atveju išteklius (pavyzdžiui, savižudybių ir krizių gelbėjimo liniją 988 JAV), skatindama vartotojus kreiptis profesionalios pagalbos. "Copilot" neteikia konsultacijų; Jo vaidmuo apsiriboja aptikimu ir persiuntimu, siekiant užtikrinti vartotojų saugumą.

• Pranešimas apie pratęstą naudojimą. "Copilot" gali priminti vartotojams padaryti pertrauką, jei jie ilgą laiką nuolat kalbasi. Vartotojai taip pat reguliariai informuojami, kad dirbtinis intelektas nėra žmogus ir gali klysti.

Sužinokite daugiau apie atsakingą dirbtinio intelekto naudojimą

• „Microsoft“ AI principai
• "„Microsoft“" atsakingo dirbtinio intelekto ištekliai
• "„Microsoft“" atsakingo dirbtinio intelekto naudojimo skaidrumo ataskaita

Sužinokite daugiau apie "Microsoft Copilot"

• Microsoft Copilot pagalba & mokymąsi