Paskutinį kartą atnaujinta: 2025 m. gruodžio 19 d.
Kas yra skaidrumo pažyma?
DI sistema apima ne tik technologiją, bet ir žmones, kurie ją naudos, žmones, kuriems ji turės įtakos, ir aplinką, kurioje ji diegiama. "„Microsoft“" skaidrumo pastabos skirtos padėti jums suprasti, kaip veikia "Copilot" dirbtinio intelekto technologija, mūsų pasirinkimus, kurie daro įtaką sistemos našumui ir veikimui, ir tai, kaip svarbu galvoti apie visą sistemą, kad "Copilot" vartotojai galėtų patys kontroliuoti savo patirtį ir suprasti, kokių veiksmų imamės, kad pateiktume saugų ir patikimą produktą.
"„Microsoft“" skaidrumo pastabos yra platesnių "„Microsoft“" pastangų praktiškai įgyvendinti dirbtinio intelekto principus dalis. Norėdami sužinoti daugiau, žr. „Microsoft“ AI principus.
"Microsoft Copilot" pagrindai
Įžanga
"Copilot" yra pagrįsta dirbtiniu intelektu funkcija, kuri padės vartotojams pateikti informaciją, kurios jie ieško, ir bus pasirengę padėti vartotojams atsakyti į įvairius klausimus, neatsižvelgiant į situaciją ar temą. Atnaujintas "Copilot" ne tik atsako į pagrindinės informacijos paieškos užklausas, bet ir sutelkia dėmesį į turinio generavimą, kad vartotojams būtų teikiama aktyvesnė pagalba atliekant užduotis. Vis labiau suprantame, kaip dirbtinis intelektas gali padėti žmonėms mokytis, atrasti ir būti kūrybiškesniems, todėl turėjome sukurti kitokio tipo produktą. Nauja "Copilot" patirtis siekia tapti naujo tipo patirtimi, kuri yra atvira ir dinamiška, kad būtų galima geriau patenkinti vartotojų poreikius intuityvesniu būdu.
„„Microsoft““ mes rimtai prisiimame įsipareigojimą užtikrinti atsakingą dirbtinio intelekto naudojimą. Atnaujinta "Copilot" funkcija buvo sukurta laikantis "„Microsoft“" DI principų, "„Microsoft“ Responsible AI Standard" ir bendradarbiaujant su atsakingo dirbtinio intelekto ekspertais visoje įmonėje, įskaitant "„Microsoft“" atsakingo dirbtinio intelekto biurą, mūsų inžinierių komandas, "„Microsoft“" tyrimus ir "Aether". Daugiau apie atsakingą dirbtinio intelekto naudojimą "„Microsoft“" galite sužinoti čia.
Šiame dokumente aprašome mūsų požiūrį į atsakingą dirbtinio intelekto naudojimą "Copilot". Prieš išleidimą panaudojome pažangiausius "„Microsoft“" metodus, kad galimai rizikai ir netinkamam sistemos naudojimui sudarytume, įvertintume ir valdytume bei užtikrintume jos naudą vartotojams. Toliau tobulindami "Copilot", taip pat toliau mokėmės ir tobulinome savo atsakingo dirbtinio intelekto naudojimo pastangas. Šis dokumentas bus periodiškai atnaujinamas, kad būtų informuojami apie mūsų besikeičiančius procesus ir metodus.
Pagrindinės sąvokos
Klasifikatoriai Mašininio mokymo modeliai, padedantys rūšiuoti duomenis pagal pažymėtas klases arba informacijos kategorijas. Atnaujintose "Copilot" funkcijose vienas iš būdų, kaip naudojame klasifikatorius, yra padėti aptikti potencialiai žalingą turinį, kurį pateikė vartotojai arba kurį sugeneravo sistema, kad sumažintume to turinio generavimą ir netinkamą sistemos naudojimą ar piktnaudžiavimą.
Įžeminimas Tam tikruose pokalbiuose, kuriuose vartotojai ieško informacijos, "Copilot" remiasi žiniatinklio ieškos rezultatais. Tai reiškia, kad "Copilot" atsako į aukšto rango turinį iš žiniatinklio ir po sugeneruotų tekstinių atsakymų pateikia hipersaitas citatas. Atkreipkite dėmesį, kad šiuo metu vartotojo raginimai balso režimu nesuaktyvins žiniatinklio ieškos, todėl jokie atsakymai neapims citatų.
Dideli kalbos modeliai (LLM) Dideli kalbos modeliai (LLM) šiame kontekste yra DI modeliai, išmokyti naudoti didelius teksto duomenų kiekius, kad būtų galima numatyti žodžių sekas. LLM gali atlikti įvairias užduotis, pvz., generuoti tekstą, apibendrinti, versti, klasifikuoti ir kt.
Rizikos mažinimas Metodas arba metodų derinys, skirtas sumažinti galimą riziką, kuri gali kilti naudojant DI funkcijas "Copilot".
Daugiarūšiai modeliai (MMM) Daugiamodaliai modeliai (MMM) yra DI modeliai, apmokyti naudoti skirtingų tipų duomenis, pvz., tekstą, vaizdus ar garsą. Šie modeliai gali atlikti įvairias užduotis, pvz., rašyti tekstą, aprašyti vaizdus, atpažinti kalbą ir rasti informacijos iš įvairių tipų duomenų.
Raginimai Įvestys teksto, vaizdų ir (arba) garso įrašų pavidalu, kurias vartotojas siunčia "Copilot", kad sąveikautų su DI funkcijomis "Copilot".
Raudona komanda Metodai, kuriuos ekspertai naudoja sistemos apribojimams ir pažeidžiamumui įvertinti bei suplanuotų rizikos mažinimo priemonių veiksmingumui patikrinti. Raudonosios komandos testavimas apima testuotojus, kurie priima gerybines ir priešiškas asmenybes, kad nustatytų galimą riziką ir skiriasi nuo sistemingo rizikos matavimo.
Atsakymai Tekstas, vaizdai arba garso įrašai, kuriuos "Copilot" pateikia reaguodamas į raginimą arba kaip pirmyn ir atgal su vartotoju dalį. Termino "atsakymas" sinonimai apima "užbaigimas", "karta" ir "atsakymas".
Maži kalbos modeliai (SLM) Šiame kontekste maži kalbos modeliai (SLM) yra DI modeliai, kurie mokomi naudojant mažesnius, labiau sutelktus duomenų kiekius, palyginti su dideliais kalbos modeliais. Nepaisant mažesnio dydžio, SLM gali atlikti įvairias užduotis, tokias kaip teksto generavimas, apibendrinimas, vertimas ir klasifikavimas. Nors SLM gali neatitikti plačių LLM galimybių, jie dažnai yra efektyvesni išteklius ir gali būti labai veiksmingi konkrečioms, tikslinėms programoms.
Sistemos pranešimas Sistemos pranešimas (kartais vadinamas "metaraginimu") yra programa, skirta sistemos veikimui vadovauti. Sistemos pranešimo dalys padeda suderinti sistemos veikimą su „Microsoft“ AI principais ir vartotojų lūkesčiais. Pavyzdžiui, sistemos pranešime gali būti tokia eilutė, kaip "nepateikite informacijos ir nekurkite turinio, kuris galėtų sukelti fizinę, emocinę ar finansinę žalą".
Galimybės
Sistemos veikimas
Naudodami "Copilot" sukūrėme novatorišką požiūrį, kaip suteikti vartotojams labiau pritaikytą DI patirtį, kad ji būtų patraukli ir galėtų padėti vartotojams atlikti įvairias užduotis. Šis naujoviškas metodas naudoja įvairias pažangias technologijas, pvz., kalbą ir daugiarūšius modelius iš "„Microsoft“", "OpenAI" ir kitų modelių kūrėjų. Prieš viešai išleidžiant modelį, dirbome diegdami saugos metodus modeliuose, kuriais grindžiama nauja "Copilot" patirtis, kad sukurtume tinkintą rinkinį galimybių ir veikimo galimybių, suteikiančių geresnę "Copilot" patirtį. Atnaujintame "Copilot" vartotojai gali siųsti raginimus natūralia kalba, tekstu arba balsu. Atsakymai vartotojams pateikiami keliais skirtingais formatais, pvz., atsakymai į pokalbius teksto forma (prireikus su tradiciniais saitais į žiniatinklio turinį) ir vaizdais (jei vaizdo užklausa buvo pateikta kaip raginimo dalis). Jei vartotojai siųs raginimus natūralia kalba balsu naudodami "Copilot Voice" režimą, jie gaus garso atsakymus.
Kai vartotojas įveda raginimą "Copilot", raginimas, pokalbių retrospektyva ir sistemos pranešimas siunčiami per kelis įvesties klasifikatorius, kad būtų lengviau filtruoti kenksmingą ar netinkamą turinį. Tai labai svarbus pirmasis žingsnis siekiant pagerinti modelio našumą ir sumažinti situacijas, kai vartotojai gali bandyti paraginti modelį tokiu būdu, kuris gali būti nesaugus. Kai raginimas pereina per įvesties klasifikatorius, jis nusiunčiamas į SLM, kad nustatytų, ar užklausai būtini šaltiniai iš žiniatinklio ir kuris kalbos modelis turėtų atsakyti į užklausą. Visi modeliai generuoja atsakymą naudodami vartotojo raginimą ir naujausių pokalbių istoriją, kad kontekstualizuotų užklausą, sistemos pranešimą ir suderintų atsakymus su „Microsoft“ AI principais ir vartotojų lūkesčiais ir, jei reikia, suderintų atsakymus su ieškos rezultatais pagal esamo, aukšto rango turinio iš žiniatinklio pagrindinius atsakymus.
Atsakymai vartotojams pateikiami keliais skirtingais formatais, pvz., kaip pokalbių atsakymai teksto forma, tradiciniai saitai į žiniatinklio turinį, vaizdai ir garso atsakymai. Kai atsakymai pateikiami teksto forma, o atsakymai pagrįsti duomenimis iš žiniatinklio, išvestyje yra hipersaitais susietų citatų, pateiktų po tekstu, kad vartotojai galėtų pasiekti svetainę (-es), kuri (-ios) buvo naudojama atsakymui pagrįsti, ir sužinoti daugiau apie temą iš ten. "Copilot" taip pat gali vykdyti kodą, kad užbaigtų sudėtingus skaičiavimus ir generuotų grafikus. "Copilot" gali saugoti konkrečius faktus, kuriuos vartotojai prašo įsiminti, kad galėtų sugeneruoti aktualesnius atsakymus ir pasiūlymus pagal tą kontekstą. "Copilot" taip pat gali panaikinti įrašytus faktus, kai vartotojai prašo juos aiškiai pamiršti.
"Copilot" taip pat padeda vartotojams kurti naujas istorijas, eilėraščius, dainų tekstus ir vaizdus. Kai "Copilot" aptinka vartotojo ketinimą generuoti kūrybinį turinį (pvz., vartotojo raginimą, prasidedantį "parašyk man ..."), sistema daugeliu atvejų generuos turinį, reaguojantį į vartotojo raginimą. Panašiai, kai "Copilot" aptinka vartotojo ketinimą generuoti vaizdą (pvz., vartotojo raginimą, prasidedantį "nupiešk mane ..."), "Copilot" daugeliu atvejų sugeneruos vaizdą, reaguojantį į vartotojo raginimą. Kai "Copilot" aptinka vartotojo ketinimą modifikuoti nusiųstą vaizdą (pvz., vartotojo raginimą, prasidedantį "įtraukti..."), "Copilot" daugeliu atvejų modifikuos vaizdą, reaguojantį į vartotojo raginimą. "Copilot" gali neatsakyti su kūrybiniu turiniu, kai vartotojo raginime yra tam tikrų terminų, dėl kurių gali kilti problemų turinys.
Vartotojai, turintys "„Microsoft“" paskyras (MSA), dabar taip pat turi galimybę užsiprenumeruoti "Copilot Pro", kuris siūlo patobulintą patirtį, įskaitant pagreitintą veikimą, "Copilot Voice" galimybių naudojimą ilgesnį laiką ir kai kuriais atvejais prieigą prie naujų eksperimentinių funkcijų. "Copilot Pro" šiuo metu pasiekiama ribotame šalių skaičiuje ir planuojame, kad netrukus "Copilot Pro" bus pasiekiama ir daugiau rinkų.
Numatytas saugos elgesys
Mūsų "Copilot" tikslas – būti naudingu vartotojams. Naudodamiesi geriausiomis praktikomis iš kitų "„Microsoft“" generuojamojo dirbtinio intelekto produktų ir paslaugų, siekiame apriboti "Copilot" probleminio turinio generavimą ir padidinti saugios ir teigiamos vartotojo patirties tikimybę. Nors ėmėmės veiksmų rizikai sumažinti, generuojamojo dirbtinio intelekto modeliai, tokie kaip "Copilot", yra tikimybiniai ir gali daryti klaidų, o tai reiškia, kad rizikos mažinimo priemonėms kartais gali nepavykti blokuoti žalingų vartotojų raginimų ar dirbtinio intelekto sugeneruotų atsakymų. Jei naudodamiesi "Copilot" susiduriate su kenksmingu ar netikėtu turiniu, praneškite mums pateikdami atsiliepimą, kad galėtume toliau tobulinti naudojimą.
Naudojimo atvejai
Paskirtis
"Copilot" skirta padėti vartotojams atsakyti į įvairius klausimus, neatsižvelgiant į situaciją ar temą. Vartotojai gali sąveikauti su "Copilot" naudodami teksto, vaizdo ir garso įvestis, kai sąveikos yra labiau panašios į natūralius pokalbius naudojant DI sistemą. Be to, jei vartotojai sąveikauja su "Copilot" teksto žinute, norėdami ieškoti konkrečios informacijos tomis temomis, į kurias "Copilot" gali prireikti daugiau informacijos, kad būtų pateiktas tikslesnis atsakymas, ši funkcija skirta vartotojams pateikti susijusius ieškos rezultatus, peržiūrėti rezultatus iš viso žiniatinklio ir apibendrinti informaciją, kurios ieško vartotojai. Programoje "Copilot" vartotojai gali:
- Apibendrinti informaciją realiuoju laiku, kai kalbatės tekstu. Kai vartotojai sąveikauja su "Copilot" tekstu, sistema atliks žiniatinklio iešką, jei reikės daugiau informacijos, ir naudos populiariausius žiniatinklio ieškos rezultatus, kad sugeneruotų vartotojams pateikiamos informacijos suvestinę. Šios suvestinės apima citatas į tinklalapius, kad vartotojai galėtų lengviau matyti ir lengvai pasiekti ieškos rezultatų šaltinius, kurie padėjo sukurti "Copilot" suvestinę. Vartotojai gali spustelėti šiuos saitus, kad patektų tiesiai į šaltinį, jei nori sužinoti daugiau.
- Kalbėkitės su DI sistema naudodami tekstą. Vartotojai gali kalbėtis su "Copilot" teksto žinute ir užduoti tolesnius klausimus, kad rastų naujos informacijos ir gautų palaikymą įvairiomis temomis.
- Sąsaja su DI naudojant balsą ir išvaizdą. "Copilot" gali ne tik gauti garso įvestį, bet ir pateikti garso išvestį vienu iš keturių vartotojų pasirinktų balsų ir pateikti vizualinę išvaizdą, kad pagerintų sąveiką. Garso keitimo į garsą ir išvaizdos galimybės leidžia vartotojams natūraliau ir sklandžiau sąveikauti su "Copilot".
- Gaukite suprantamą naujienų turinį. Naudodami "Copilot" vartotojai gali gauti naujienų, orų ir kitų atnaujinimų suvestinę pagal pasirinktas temines sritis naudodami "Copilot Daily" funkciją ir klausytis šių informacinių pranešimų tinklalaidės formatu. Ši funkcija gaus turinį iš įgaliotųjų šaltinių, sudariusių sutartis su "„Microsoft“".
- Gaukite pagalbos generuodami naujas idėjas. Kiekvieną kartą, kai vartotojai sąveikauja su "Copilot" funkcijomis, jie matys kortelių rinkinį, kurį galės spustelėti norėdami pradėti pokalbį su "Copilot" naudingomis ir įdomiomis temomis. Jei vartotojai sąveikavo su kitomis "„Microsoft“" vartotojų tarnybomis, kortelės bus pritaikytos asmeniniams poreikiams pagal mūsų privatumo strategijas. Laikui bėgant, kortelės "Copilot" gali būti suasmenintos pagal vartotojo pokalbių istoriją. Vartotojai gali bet kada atsisakyti personalizavimo parametruose.
- Kurkite kūrybinį turinį. Kalbėdami su "Copilot", vartotojai gali kurti naujus eilėraščius, anekdotus, istorijas, vaizdus ir kitą turinį, pasitelkdami "Copilot" funkcijas. Jei pageidaujama, "Copilot" taip pat gali redaguoti vartotojų įkeltus vaizdus.
- Atlikite užduotis "Android". Vartotojai gali sąveikauti su "Copilot" naudodami "Android" platformą balsu, kad atliktų tam tikras užduotis. Šios užduotys yra laikmačių ir žadintuvo nustatymas, telefono skambučiai, SMS žinučių siuntimas ir "Uber" užsakymas. Prieš atlikdami užduotis, vartotojai turi patvirtinti telefono skambutį, SMS žinutę ir "Uber" užsakymą.
- Padėkite atlikti tyrimus. "Copilot" gali atlikti tyrimo užduotis pateikdamas išsamius išteklius, siūlydamas išsamius temų suskirstymus ir susiedamas su šaltiniais, kad vartotojai galėtų ne tik greitai atsakyti į sudėtingesnes užklausas. "Copilot" gali aktyviai generuoti vartotojams pritaikytus tyrimų pasiūlymus, remdamasis tokiais dalykais kaip ankstesnės tyrimų užklausos ir "Copilot" atmintis. Vartotojai gali bet kada atsisakyti suasmeninimo arba pranešimų parametruose.
- Tyrinėkite pasaulį naudodami "„Copilot“ vizija". "Copilot" gali peržiūrėti jūsų ekrano arba mobiliojo fotoaparato transliaciją ir balsu, kad atsakytų į klausimus ir sąveikautų su jumis. "Copilot" gali akimirksniu nuskaityti, analizuoti ir teikti įžvalgas bei pasiūlymus realiuoju laiku, kad padėtų jums dirbant, naršant ar tyrinėjant pasaulį. "„Copilot“ vizija" pasiekiama "Edge", "Windows", "iOS" ir "Android".
- Informacijos gavimas naudojant jungtis. Su jūsų sutikimu "Copilot" gali ieškoti ir sąveikauti su jūsų debesies failais natūralia kalba. "Copilot" gali gauti el. laiškus, ieškoti kontaktų ir tikrinti kalendoriaus susitikimus iš "Microsoft Outlook" ir "Google Gmail" paskyrų.
- Bendradarbiaukite su "Copilot" grupėmis. Pagal kvietimą galite prisijungti arba kurti grupės pokalbius naudodami "Copilot", kad galėtumėte bendradarbiauti kurdami bendrus projektus ir idėjas.
Į ką reikėtų atsižvelgti renkantis kitus naudojimo atvejus
Raginame vartotojus peržiūrėti visą turinį prieš priimant sprendimus arba veikiant pagal "Copilot" atsakymus, nes dirbtinis intelektas gali padaryti klaidų. Be to, yra tam tikrų scenarijų, kurių rekomenduojame vengti arba kurie prieštarauja mūsų naudojimo sąlygoms. Pavyzdžiui, "„Microsoft“" neleidžia naudoti "Copilot" neteisėtai veiklai arba bet kokiu tikslu, skirtu neteisėtai veiklai skatinti.
Apribojimai
Kalbos, vaizdo ir garso modeliai, kuriais grindžiama "Copilot" patirtis, gali apimti mokymo duomenis, kurie gali atspindėti visuomenės šališkumą, o tai savo ruožtu gali paskatinti "Copilot" elgtis taip, kad jis suvokiamas kaip nesąžiningas, nepatikimas ar įžeidžiantis. Nepaisant intensyvaus modelio mokymo ir saugos tikslinimo, taip pat atsakingų dirbtinio intelekto valdiklių ir saugos sistemų, kurias naudojame mokymo duomenims, vartotojų raginimams ir modelių išvestims, įdiegimo, dirbtiniu intelektu pagrįstos paslaugos yra klaidingos ir tikimybinės. Dėl to sudėtinga visapusiškai blokuoti visą netinkamą turinį, todėl kyla rizika, kad dirbtinio intelekto sukurtame turinyje gali atsirasti šališkumo, stereotipų, nepagrįstumo ar kitokio pobūdžio žalos. Čia išvardyti kai kurie būdai, kaip šie apribojimai gali pasireikšti naudojant "Copilot" funkcijas.
- Stereotipai: "Copilot" patirtis gali sustiprinti stereotipus. Pavyzdžiui, verčiant "He is a nurse" ir "She is a doctor" į belytės kalbą, pvz., turkų, o tada atgal į anglų kalbą, "Copilot" gali netyčia pateikti stereotipinius (ir neteisingus) "She is a nurse" ir "He is a doctor" rezultatus. Kitas pavyzdys – generuojant vaizdą pagal raginimą "Vaikai be tėvo", sistema gali generuoti tik vienos rasės ar etninės kilmės vaikų vaizdus, sustiprindama žalingus stereotipus, kurie gali egzistuoti viešai prieinamuose vaizduose, naudojamuose pagrindiniams modeliams mokyti. "Copilot" taip pat gali sustiprinti stereotipus, pagrįstus vartotojo įvesties vaizdo turiniu, pasikliaudamas vaizdo komponentais ir darydamas prielaidas, kurios gali būti neteisingos. Įgyvendinome rizikos mažinimo priemones, kad sumažintume turinio, kuriame yra įžeidžiančių stereotipų, įskaitant įvesties ir išvesties klasifikatorius, patikslintus modelius ir sistemos pranešimus, riziką.
- Pernelyg didelis ir nepakankamas atstovavimas: "Copilot" savo atsakymuose gali per daug arba per mažai atstovauti žmonių grupėms arba net visai jų nereprezentuoti. Pavyzdžiui, jei teksto raginimai, kuriuose yra žodis "gėjus", aptinkami kaip potencialiai žalingi arba įžeidžiantys, tai gali lemti nepakankamą teisėtų kartų atstovavimą LGBTQIA+ bendruomenei. Be įvesties ir išvesties klasifikatorių, tiksliai suderintų modelių ir sistemos pranešimų, naudojame raginimo papildymą "Designer" kaip vieną iš kelių rizikos mažinimo priemonių, kad sumažintume riziką, kad turinys per daug arba per mažai reprezentuoja žmonių grupes.
- Netinkamas arba įžeidžiantis turinys: naudojant "Copilot" funkcijas gali būti sukuriamas kitų tipų netinkamas arba įžeidžiantis turinys. Pavyzdžiui, galimybė generuoti turinį vienu modalumu (pvz., garso įrašo), kuris yra netinkamas atsižvelgiant į raginimą arba lyginamas su ta pačia išvestimi kitu modalumu (pvz., tekstas). Kiti pavyzdžiai – dirbtinio intelekto sugeneruoti vaizdai, kuriuose gali būti kenksmingų artefaktų, pvz., neapykantos simbolių, turinys, susijęs su ginčijamomis, prieštaringomis ar ideologiškai poliarizuojančiomis temomis, ir seksualinio pobūdžio turinys, kuris vengia seksualinio turinio filtrų. Įdiegėme rizikos mažinimo priemones, kad sumažintume riziką, kad atsiras kartų, kuriose bus netinkamo arba įžeidžiančio turinio, pvz., įvesties ir išvesties klasifikatorių, tiksliai suderintų modelių ir sistemos pranešimų.
- Informacijos patikimumas: nors "Copilot" siekia prireikus atsakyti pasitelkiant patikimus šaltinius, dirbtinis intelektas gali padaryti klaidų. Tai gali potencialiai generuoti nesąmoningą turinį arba sufabrikuoti turinį, kuris gali skambėti pagrįstai, bet yra faktiškai netikslus. Net jei atsakymai gaunami iš autoritetingų žiniatinklio duomenų, atsakymai gali iškraipyti turinį tokiu būdu, kuris gali būti ne visai tikslus ar patikimas. Per vartotojo sąsają ir tokią dokumentaciją primename vartotojams, kad "Copilot" gali padaryti klaidų. Be to, toliau mokome vartotojus apie dirbtinio intelekto apribojimus, pvz., skatiname juos dar kartą patikrinti faktus prieš priimant sprendimus arba veikti pagal "Copilot" atsakymus. Kai vartotojai sąveikauja su "Copilot" tekstu, jis bando įsitvirtinti aukštos kokybės žiniatinklio duomenyse, kad sumažintų riziką, jog kartos bus nepagrįstos.
- Veikimas keliomis kalbomis: našumas įvairiomis kalbomis gali skirtis, o anglų kalbos rezultatai geriausi tuo metu, kai išleidžiamas atnaujintas "Copilot". Veiklos gerinimas įvairiomis kalbomis yra pagrindinė investavimo sritis, o naujausi modeliai padėjo pagerinti našumą.
- Garso apribojimai: garso modeliuose gali būti kitų apribojimų. Apskritai kalbos įvesties akustinė kokybė, ne kalbos triukšmas, žodynas, akcentai ir įterpimo klaidos taip pat gali turėti įtakos tam, ar "Copilot" apdoroja ir reaguoja į vartotojo garso įvestį patenkinamu būdu. Be to, kadangi vartotojo raginimai naudojant "Copilot Voice" nesuaktyvins žiniatinklio ieškų, "Copilot" gali nepavykti atsakyti į dabartinius įvykius balso režimu.
- Priklausomybė nuo interneto ryšio: atnaujinta "Copilot" funkcija priklauso nuo interneto ryšio. Ryšio sutrikimai gali turėti įtakos paslaugos prieinamumui ir našumui.
Sistemos našumas
Daugelyje DI sistemų našumas dažnai apibrėžiamas atsižvelgiant į tikslumą (t. y. kaip dažnai DI sistema pateikia teisingą prognozę ar išvestį). Naudodami "Copilot", daugiausia dėmesio skiriame "Copilot" kaip DI pagrindu veikiančiam asistentui, atspindinčiam vartotojo pageidavimus. Todėl du skirtingi vartotojai gali žiūrėti į tą patį rezultatą ir turėti skirtingą nuomonę apie tai, kiek jis naudingas ar aktualus jų unikaliai situacijai ir lūkesčiams, o tai reiškia, kad šių sistemų našumas turi būti apibrėžtas lanksčiau. Plačiau manome, kad efektyvumas reiškia, kad programa veikia taip, kaip tikisi vartotojai.
Geriausia sistemos efektyvumo gerinimo praktika
Sąveikaukite su sąsaja naudodami natūralią, šnekamąją kalbą. Sąveika su "Copilot" vartotojui patogiu būdu yra labai svarbi norint pasiekti geresnių rezultatų. Panašiai kaip taikant metodus, padedančius žmonėms efektyviai bendrauti kasdieniame gyvenime, sąveika su "Copilot" kaip dirbtiniu intelektu pagrįsta pagalbine priemone tekstu arba vartotojui pažįstama kalba gali padėti pasiekti geresnių rezultatų.
Vartotojų patirtis ir pritaikymas. Norint efektyviai naudoti "Copilot", reikia, kad vartotojai suprastų jo galimybes ir apribojimus. Gali tekti mokytis ir naudotojai gali norėti nurodyti įvairius "Copilot" išteklius (pvz., šį dokumentą ir mūsų "Copilot" DUK), kad galėtų efektyviai sąveikauti su paslauga ir gauti iš jos naudos.
Rizikos susiejimas, įvertinimas ir valdymas
Kaip ir kitos transformacinės technologijos, DI pranašumų panaudojimas nėra nerizikingas, o pagrindinė "„Microsoft“" atsakingo dirbtinio intelekto naudojimo programos dalis skirta potencialiai rizikai nustatyti ir įvertinti, šiai rizikai įvertinti ir valdyti, kuriant rizikos mažinimo priemones ir laikui bėgant nuolat tobulinant "Copilot". Tolesniuose skyriuose aprašome mūsų nuoseklų potencialios rizikos žemėlapio, įvertinimo ir valdymo metodą.
Žemėlapis: kruopštus planavimas ir priešiškas testavimas prieš diegimą, pvz., "red teaming", padeda nustatyti galimą riziką. Pamatiniai modeliai, kuriais grindžiama "Copilot" patirtis, buvo išbandyti raudonosios komandos testuotojų, atstovaujančių daugiadalykėms perspektyvoms atitinkamose temose. Šie bandymai buvo skirti įvertinti, kaip naujausia technologija veiktų tiek su jokiomis papildomomis apsaugos priemonėmis, tiek be jų. Šių pratybų tikslas modelio lygmeniu yra sukurti žalingą atsaką, atskleisti galimus piktnaudžiavimo būdus ir nustatyti galimybes bei apribojimus.
Prieš viešai skelbdami "Copilot" funkcijas kaip riboto leidimo peržiūros versiją, taip pat atlikome bendradarbiavimą programos lygiu, kad įvertintume "Copilot" trūkumus ir pažeidžiamumus. Šis procesas padėjo mums geriau suprasti, kaip sistemą galėtų naudoti įvairūs vartotojai, ir padėjo mums pagerinti rizikos mažinimo priemones.
Priemonė: ne tik įvertinome "Copilot" pagal esamus saugos vertinimus, bet ir galėjome sukurti vertinimus ir atsakingo dirbtinio intelekto naudojimo metriką, atitinkančią nustatytą galimą riziką, pvz., įsilaužimus, žalingą turinį ir nepagrįstą turinį.
Rinkome pokalbių duomenis, skirtus šioms rizikoms, naudodami žmonių dalyvių ir automatizuoto pokalbių generavimo srauto derinį. Tada kiekvienas įvertinimas vertinamas apmokytų žmonių komentatorių arba automatizuoto anotacijų vamzdyno. Kiekvieną kartą, kai pakeičiamas produktas, atnaujinamos esamos rizikos mažinimo priemonės arba pasiūlomos naujos rizikos mažinimo priemonės, atnaujiname vertinimo srautus, kad įvertintume produkto našumą ir atsakingo dirbtinio intelekto naudojimo metriką. Šie automatizuoti vertinimo kontekstiniai srautai yra surinktų pokalbių su vertintojais žmonėmis ir sintetinių pokalbių, generuojamų su LLM, raginamų išbandyti strategijas priešišku būdu, derinys. Kiekvienas iš šių saugos įvertinimų yra automatiškai įvertinamas LLM. Naujai sukurtiems vertinimams kiekvieną vertinimą iš pradžių įvertina žmonės, kurie skaito teksto turinį arba klausosi garso išvesties, o tada konvertuojami į automatinius LLM pagrįstus vertinimus.
Numatytas mūsų modelių veikimas kartu su mūsų vertinimo srautais – tiek žmogiškais, tiek automatizuotais – leidžia mums greitai išmatuoti galimą riziką dideliu mastu. Laikui bėgant identifikuodami naujas problemas, toliau plečiame matavimų rinkinius, kad galėtume įvertinti papildomą riziką.
Valdyti: kadangi nustatėme galimą riziką ir netinkamą naudojimą pasitelkę kibernetinę komandą ir įvertinome juos taikydami anksčiau aprašytus metodus, sukūrėme papildomų rizikos mažinimo priemonių, būdingų "Copilot" patirčiai. Toliau aprašome kai kurias iš šių rizikos mažinimo priemonių. Mes ir toliau stebėsime "Copilot" funkcijas, kad pagerintume produkto veikimą ir savo rizikos mažinimo metodą.
- Etapinių leidimų planai etapais ir nuolatinis vertinimas. Mūsų technologijoms ir vartotojų elgsenai tobulėjant, esame įsipareigoję nuolat mokytis ir tobulinti požiūrį į atsakingo dirbtinio intelekto naudojimą. Mūsų laipsniško išleidimo strategija buvo pagrindas to, kaip mes saugiai perkeliame savo technologijas iš laboratorijos į pasaulį, ir esame įsipareigoję taikyti apgalvotą, atidų procesą, kad užtikrintume "Copilot" patirties teikiamą naudą. Reguliariai atliekame "Copilot" pakeitimus, kad pagerintume produkto veikimą ir esamas rizikos mažinimo priemones ir, atsižvelgdami į savo išmoktas, įdiegtume naujas rizikos mažinimo priemones.
- Klasifikatorių ir sistemos pranešimo naudojimas galimai rizikai ar netinkamam naudojimui sumažinti. Reaguodamos į vartotojo raginimus, LLM gali pateikti problematišką turinį. Aptarėme turinio tipus, kuriuos bandome apriboti sistemos veikimo ir apribojimų skyriuose. Klasifikatoriai ir sistemos pranešimas yra du rizikos mažinimo pavyzdžiai, kurie buvo įdiegti "Copilot", kad būtų sumažinta šių tipų turinio pateikimo rizika. Klasifikatoriai klasifikuoja tekstą, kad pažymėtų potencialiai žalingą turinį vartotojo raginimuose arba sugeneruotuose atsakymuose. Taip pat naudojame esamas geriausias praktikas sistemos pranešimui panaudoti, o tai apima instrukcijų pateikimą modeliui, kaip suderinti jo veikimą su "„Microsoft“" DI principais ir vartotojų lūkesčiais.
- Sutikimas nusiųsti "Copilot" vaizdus. Kai vartotojas pirmą kartą į "Copilot" nusiųs vaizdą su veidais, jo bus paprašyta pateikti sutikimą, kad jo biometriniai duomenys būtų įkelti į "Copilot". Jei vartotojas nepasirenka, vaizdas nebus siunčiamas į "Copilot". Visi vaizdai, neatsižvelgiant į tai, ar juose yra veidų, ar ne, panaikinami per 30 dienų nuo pokalbio pabaigos.
- DI atskleidimas. "Copilot" taip pat skirta informuoti žmones, kad jie sąveikauja su DI sistema. Vartotojams bendradarbiaujant su "Copilot", siūlome įvairius sąlyčio taškus, skirtus padėti jiems suprasti sistemos galimybes, atskleisti, kad "Copilot" veikia naudojant DI, ir pranešti apie apribojimus. Funkcijos sukurtos taip, kad vartotojai galėtų išnaudoti visas "Copilot" galimybes ir sumažinti pernelyg didelio pasitikėjimo riziką. Atskleidimas taip pat padeda vartotojams geriau suprasti "Copilot" ir jų sąveiką su juo.
- Žiniasklaidos kilmė. Kai "Copilot" generuoja vaizdą, įjungėme funkciją "Turinio kredencialai", kuri naudoja kriptografinius metodus, kad pažymėtų visų DI sugeneruotų vaizdų, sukurtų naudojant "Copilot", šaltinį arba "kilmę". Šioje technologijoje naudojami Turinio ir autentiškumo koalicijos (C2PA) nustatyti standartai, kad dirbtinio intelekto sugeneruoti vaizdai suteiktų papildomo pasitikėjimo ir skaidrumo.
- Automatinis turinio aptikimas. Kai vartotojai įkelia vaizdus kaip dalį pokalbio raginimo, "Copilot" diegia įrankius vaikų seksualinio išnaudojimo ir prievartos vaizdams aptikti (CSEAI). "„Microsoft“" praneša apie visus akivaizdžius CSEAI Nacionaliniam dingusių ir išnaudojamų vaikų centrui (NCMEC), kaip reikalaujama pagal JAV įstatymus. Kai vartotojai nusiunčia failus analizuoti ar apdoroti, "Copilot" įdiegia automatinį nuskaitymą, kad aptiktų turinį, kuris gali sukelti riziką arba netinkamą naudojimą, pvz., tekstą, kuris gali būti susijęs su neteisėta veikla arba kenkėjišku kodu.
- Naudojimo sąlygos ir elgesio kodeksas. Vartotojai turi laikytis taikomų "Copilot" naudojimo sąlygų ir elgesio taisyklių"„Microsoft“" paslaugų teikimo sutartyje ir "„Microsoft“" privatumo patvirtinime, kuriuose, be kita ko, jie informuojami apie leistiną ir neleistiną naudojimą bei sąlygų pažeidimo pasekmes. Naudojimo sąlygose vartotojams taip pat pateikiama papildoma informacija ir vartotojai gali sužinoti apie "Copilot". Vartotojams, kurie daro rimtus arba pakartotinius pažeidimus, gali būti laikinai arba visam laikui sustabdytas paslaugos teikimas.
- Atsiliepimai, stebėjimas ir priežiūra. "Copilot" funkcijos remiasi esamais įrankiais, kurie leidžia vartotojams pateikti atsiliepimus, kuriuos peržiūri "„Microsoft“" operacijų komandos. Be to, mūsų požiūris į rizikos susiejimą, įvertinimą ir valdymą toliau tobulės mums sužinant vis daugiau, ir mes jau atliekame patobulinimus remdamiesi peržiūros laikotarpiu surinktais atsiliepimais.
- Savižudybių ir Self-Harm rizikos nustatymas ir reagavimas į jas. "Copilot" naudoja mašininio mokymosi klasifikatorius, apmokytus atpažinti kalbos modelius, kurie gali rodyti vartotojo savižudybę ar savęs žalojimo ketinimus. Kai toks turinys aptinkamas, sistema atsijungia nuo pokalbio ir vietoj to pateikia pagalbos linijos kortelę su krizių palaikymo ištekliais (pavyzdžiui, savižudybių ir krizių gelbėjimo linija 988 JAV), skatindama vartotojus kreiptis profesionalios pagalbos. "Copilot" neteikia konsultacijų; Jo vaidmuo apsiriboja aptikimu ir persiuntimu, siekiant užtikrinti vartotojų saugumą.
Sužinokite daugiau apie atsakingą dirbtinio intelekto naudojimą
"„Microsoft“" atsakingo dirbtinio intelekto naudojimo skaidrumo ataskaita
"„Microsoft“" atsakingo dirbtinio intelekto ištekliai
"Microsoft Azure" mokymosi kursai apie atsakingą dirbtinį intelektą
Sužinokite daugiau apie "Microsoft Copilot"
Microsoft Copilot dažnai užduodami klausimai
Apie šį dokumentą
© 2024 m. "„Microsoft“ Corporation". Visos teisės saugomos. Šis dokumentas pateikiamas "toks, koks yra" ir tik informavimo tikslais. Informacija ir nuomonės, išreikštos šiame dokumente, įskaitant URL ir kitas nuorodas į interneto svetaines, gali keistis be įspėjimo. Ją naudodami prisiimate atsakomybę už riziką. Kai kurie pavyzdžiai yra tik iliustracijos ir yra fiktyvūs. Jokia reali asociacija nėra numatyta ar numanoma.
Šis dokumentas nėra skirtas ir neturėtų būti suprantamas kaip teisinės konsultacijos teikimas. Jurisdikcijoje, kurioje veikiate, gali būti taikomi įvairūs reguliavimo arba teisiniai reikalavimai, taikomi jūsų DI sistemai. Kreipkitės į teisės specialistą, jei nesate tikri dėl įstatymų ar kitų teisės aktų, kurie gali būti taikomi jūsų sistemai, ypač jei manote, kad jie gali turėti įtakos šioms rekomendacijoms. Atminkite, kad ne visos šios rekomendacijos ir ištekliai bus tinkami kiekvienam scenarijui, ir atvirkščiai, kai kuriems scenarijams šių rekomendacijų ir išteklių gali nepakakti.
Paskelbta: 2024-01-10
Paskutinį kartą atnaujinta: 2024-01-10