Viimati värskendatud: veebruar 2024
Copilot bingi põhitõed
Sissejuhatus
2023. aasta veebruaris käivitas Microsoft uue Tei täiustatud veebiotsingukogemuse Bingi. See toetab kasutajaid, koondades veebiotsingu tulemid ja pakkudes vestluskogemust. Kasutajad saavad luua ka loomingulist sisu, näiteks luuletusi, nalju, lugusid ja Bingi pildilooja pilte. Uus tehisintellekti toega Bing töötab mitmesugustes Microsofti ja OpenAI täiustatud tehnoloogiates, sh GPT-4, tipptasemel suur keelemudel (LLM) ja DALL-E, mis on süvaõppemudel loomuliku keele kirjelduste põhjal digitaalsete piltide loomiseks, nii OpenAI-st kui ka mujalt. Töötasime koos mõlema mudeliga mitu kuud enne avalikku väljaannet, et töötada välja kohandatud võimaluste ja tehnikate komplekt, et liituda uue Bingi tipptasemel TEI tehnoloogia ja veebiotsinguga. 2023. aasta novembris nimetas Microsoft uue Bingi nimeks Copilot Bingis.
Microsoftis suhtume vastutustundlikult tehtemusse tõsiselt. Bingi copilot on välja töötatud vastavalt Microsofti tehnikute põhimõtetele, Microsofti vastutustundliku tehnikute standardile ja koostöös ettevõtte vastutustundlikute tehnilis-tehete ekspertidega, sh Microsofti vastutustundliku tehnilis-tehnilis-tehnikute kabinetiga, meie tehnikutega, Microsoft Researchiga ja Aetheriga. Lisateavet vastutustundliku tehtevõime kohta leiate Microsofti lehelt.
Selles dokumendis kirjeldame oma lähenemist Bingi Copiloti eest vastutavale tehteajajale. Enne väljaandmist võtsime kasutusele kaasaegsed meetodid, et tuvastada, mõõta ja leevendada süsteemi võimalikke riske ja väärkasutamist ning tagada süsteemi kasu kasutajatele. Alates esimesest väljaandmisest on Copilot Bingis edasi arenenud, oleme jätkuvalt õppinud ja täiustanud oma vastutustundlikke tehtevõimeid. Dokumenti värskendatakse regulaarselt, et teavitada meie arenevaid protsesse ja meetodeid.
Põhiterminid
Copilot Bingis on tehtevõimendatud veebiotsingu kogemus. Kuna see töötab võimsal ja uuel tehnoloogial, siis alustame mõne põhitermini määratlemisega.
Masinõppemudelid, mis aitavad andmeid sortida sildistatud klassidesse või teabekategooriatesse. Copilot In Bingis on üks viis, kuidas me klassifikaatorite abil tuvastame potentsiaalselt kahjuliku sisu, mille on esitanud kasutajad või mille on loonud süsteem, et leevendada selle sisu teket ja süsteemi väärkasutamist või kuritarvitamist.
Bingi Copilot põhineb teabe otsimisel veebiotsingu tulemites. See tähendab, et me keskendume kasutaja päringule esitatud vastuses või viibal kõrge asetsega sisu kohta veebist ja pakume veebisaitide linke, et kasutajad saaksid rohkem teada. Bing reastab veebiotsingu sisu, kaaludes selliseid funktsioone nagu asjakohasus, kvaliteet ja usaldusväärsus ning värskus. Kirjeldame neid mõisteid üksikasjalikumalt teemas Kuidas Bingi tulemused Otsing (vt "Kvaliteet ja usaldusväärsus" teemas Kuidas Bingi tulemused Otsing).
Me peame alusestatud vastuseid Bingi Copiloti vastusteks, milles sisendallikates sisalduv teave toetab lauseid (nt päringu või viiba veebiotsingu tulemid, Bingi faktikontrollitud teabe teabebaas ja vestluskogemuse jaoks vestlusajalugu). Tahtmatud vastused on vastused, mille puhul lause ei ole nendes sisendallikates alusestatud.
Selles kontekstis on suured keelemudelid tehtemärkide mudelid, mis on õpetatud suurtel tekstiandmetel, et ennustada sõnu järjestustes. LLM-id on võimelised täitma mitmesuguseid ülesandeid, nagu teksti loomine, summeerimine, tõlkimine, klassifitseerimine ja palju muud.
Metaprompt on programm, mis aitab juhtida süsteemi käitumist. Metaprompti osad aitavad ühtlustada süsteemi käitumist Microsofti tehetehniliste tehete põhimõtete ja kasutajate ootustega. Näiteks võib metaprompt sisaldada joont, näiteks "suhtle kasutaja valitud keeles".
Meetod või meetodite kombinatsioon, mis on välja töötatud selleks, et vähendada võimalikke riske, mis võivad tekkida AI-põhiste funktsioonide kasutamisest Copiloti rakenduses Bing.
Tekst-, hääl-, pildi- ja/või muud lubatud päringud, mille kasutaja saadab Bingi sisendina mudelisse, mis annab Bingis uued tei-põhisedgeneratiivsed funktsioonid. Näiteks võib kasutaja sisestada järgmise viiba:
"Ma plaanin reisi meie aastapäevaks septembris. Mis on mõned kohad, kuhu me saame minna, mis jäävad Londoni heathrowst 3-tunnise lennu kaugusele?”
Tekst, mille kasutaja veebiotsingu jaoks otsinguriba kaudu Bingi saadab. Selles dokumendis eristame päringut (veebiotsingu jaoks) viibast (AI-põhiste generatiivsete funktsioonide jaoks Bingis). Näiteks võib kasutaja veebist otsimiseks sisestada järgmise päringu:
"travel destinations near London Heathrow airport"
Tehnikad, mida eksperdid kasutavad süsteemi piirangute ja nõrkuste hindamiseks ning kavandatud leevendusmeetmete tõhususe kontrollimiseks. Võimalike riskide tuvastamiseks kasutatakse punast testimist ja stressitestimist ning need erinevad riskide süstemaatilisest mõõtmisest.
Tekst, pilt, diagrammid jne, mille Copilot Bingi rakenduses annab vastuseks viiba. "Vastuse" sünonüümide hulka kuuluvad "lõpetamine", "generatsioon" ja "vastus". Näiteks võib Bing pakkuda ülalnimetatud viiba määratluses kasutatud viibale järgmist vastust:
Palju õnne aastapäeva puhul! Londonist Heathrow on 3-tunnise lennu kaugusel mitmeid kohti. Ühe allika järgi põgeneb osa nädalavahetusest Londonist kolme tunni jooksul lennukiga Bilbao, Kopenhaagen, Reykjavik ja Stockholm 1, 2. Teine allikas viitab mõnele parimale paigale, mida Euroopas septembris külastada, on Krakow, Firenze ja Lissaboni 3, 4. Samuti saate kontrollida otselende Londoni heathrow'st erinevatesse sihtkohtadesse ja vaadata, milliseid kaebusi teile pakub 5. Loodan, et teil on imeline reis!”
Kavandatud kasutusalad ja uued tehtevõime kasutuskogemused
Copilot Bingi plaanitud kasutusalas on kasutajate ühendamine asjakohaste otsingutulemitega, tulemite ülevaatamine veebist otsitavate vastuste otsimiseks ja summeerimiseks, kasutajatel vestluskogemuse abil vastuste saamiseks piiritlemine ja loovuse tekitamine, aidates kasutajatel sisu luua. Copilot Bingi generatiivsetes tehisintellekti kasutuskogemustes allpool toetab eesmärki olla tehisintellekti toega copilot veebi jaoks.
Summeerimine. Kui kasutajad esitavad Bingi coploti otsingupäringu, töötleb Bingi süsteem päringut, viib läbi ühe või mitu veebiotsingut ja genereerib populaarsemate veebiotsingu tulemite abil kasutajatele esitatava teabe kokkuvõtte. Need kokkuvõtted sisaldavad viiteid, mis aitavad kasutajatel näha ja hõlpsalt juurde pääseda otsingutulemitele, mida kasutatakse kokkuvõtte alusena. Kokkuvõtted võidakse kuvada otsingutulemite lehe paremas servas ja vestluses.
Vestluskogemus. Lisaks kokkuvõttele saavad kasutajad Bingi süsteemis Copilotiga vestelda teksti, pildi või häälsisendi kaudu, esitada järelküsimusi otsingute selgitamiseks ja uue teabe otsimiseks ning esitada viipasid loomesisu loomiseks. Viited lisatakse ka vestluskogemusse, kui Copilot Bingis summeerib vastuses otsingutulemeid.
Loova sisu loomine. Nii vestluskogemuses kui ka otsingulehel saavad kasutajad Bingi Copiloti abiga luua luuletusi, nalju, lugusid, pilte ja muud sisu. Pilte loovad Designer (endine Bingi pildilooja) ja kasutajad pääsevad funktsioonile juurde nii Designer avalehe kui ka Copilot-lehe kaudu.
Kuidas Copilot Bingis töötab?
Koos Copilotiga Bingis oleme välja töötanud uuendusliku lähenemisviisi, et tuua tipptasemel LLM-id veebiotsingusse. Kui kasutaja sisestab Bingis Copilotis viiba, saadetakse viip, viimatine vestluste ajalugu, metaprompt ja peamised otsingutulemid LLM-i sisendina. Mudel genereerib vastuse, kasutades päringu konteksti viipa ja hiljutist vestluste ajalugu, metaprompti, et viia vastused vastavusse Microsofti AI põhimõtete ja kasutaja ootustega ning otsingutulemid kohapealse, kõrge asetusega veebisisu vastustega.
Vastused esitatakse kasutajatele mitmes erinevas vormingus, nt veebisisu traditsioonilised lingid, teheteavituse genereeritud kokkuvõtted, pildid ja vestlusvastused. Veebiotsingu tulemitel põhinevad kokkuvõtted ja vestlusvastused sisaldavad vastuse all viiteid ja jaotist "Lisateave" koos vastuste kuvamiseks kasutatud otsingutulemite linkidega. Kasutajad saavad klõpsata neid linke, et saada lisateavet mõne teema ja kokkuvõtte või tekstvestluse vastuse aluseks oleva teabe kohta.
Copiboti keskkonnas saavad kasutajad veebiotsinguid vestluspõhiselt sooritada, lisades viibale konteksti ja suhtledes süsteemi vastustega, et täpsustada otsinguhuvisid. Näiteks võib kasutaja esitada järeltegevusega seotud küsimusi, küsida täpsemat selgitavat teavet või vastata süsteemile vestlus teel. Vestluskogemuses saavad kasutajad valida vastuse ka eelkirjutatavatest soovitustest, mida nimetatakse vestlussoovitusteks. Need nupud kuvatakse Copilot'i iga vastuse järel ja pakuvad soovitatud viipasid vestluses vestluse jätkamiseks. Vestlussoovitused kuvatakse otsingutulemite lehel kokkuvõetud sisu kõrval ka vestluskogemuse alguspunktina.
Copilot Bingi seadmes võimaldab kasutajal Bingi abiga luua lugusid, luuletusi, laulusõnu ja pilte. Kui Copilot Bingis tuvastab kasutaja kavatsus luua loomesisu (nt viip algab "kirjuta mulle ..."), genereerib süsteem enamasti sisu, mis reageerib kasutaja viibale. Samamoodi, kui Copilot Bingis tuvastab kasutaja kavatsus luua pilt (näiteks viip algab "joonista mulle ..."), genereerib süsteem enamikul juhtudel kasutaja viibale reageeriva pildi. Visual Otsing vestluskogemuses, kui kasutaja kaamerast tehtud pilt on üles laaditud kasutaja seadmest või lingitud veebist, saavad kasutajad paluda Bingi Copilotil mõista pildi konteksti, tõlgendada ja vastata pildiga seotud küsimustele. Samuti saavad kasutajad laadida oma failid Coplot'i üles, et nendest teavet tõlgendada, teisendada, töödelda või arvutada. Microsoft Designer kasutuskogemuses, millele kasutajad bingi Copiloti kaudu juurde pääsevad, saavad kasutajad tõmmiseid genereerida lisaks viipadele ka nende suuruse muutmisele või taastamisele või muudatuste tegemisele (nt tausta hägustamisele või värvide erksamaks muutmisele).
Microsofti kontodega kasutajatel on nüüd ka võimalus tellida Copilot Pro, mis pakub täiustatud kasutuskogemust, sealhulgas kiirendatud jõudlust, kiiremat tehisintellektipiltide loomist ja peagi ka võimalust luua oma Copilot GPT-sid. Copilot Pro on praegu saadaval piiratud riikides ja plaanime Copilot Pro peagi suuremal turul kättesaadavaks teha.
Copiboti kasutamise korral pääsevad kasutajad juurde Copilot GPT-dele. Copilot GPT, nagu Designer GPT, on Microsoft Copilot'i kohandatud versioon teemast, mis teile eriti huvi pakub (nt treeningud, reisimine ja toiduvalmistamine), mis aitab muuta ebamäärased või üldised ideed konkreetsemateks väljundite (sh tekstide ja piltide) viipadeks. Coplot-is näevad kasutajad saadaolevaid Copilot GPT-sid ja Copilot Pro kontodega kasutajatel on varsti juurdepääs Copilot GPT Builderile, funktsioonile, mis võimaldab kasutajatel luua ja konfigureerida kohandatud Copilot GPT-t. Eespool Bingis Copilotiga seotud vastutustundlikud teheteavituse leevendused kehtivad Copilot GPT-dele.
Lisateavet selle kohta, kuidas Copilot Pro ja Copilot GPTd toimivad, leiate siit.
Copilot Bingis püüab pakkuda mitmekülgseid ja kõikehõlmavaid otsingutulemeid, pühendudes vabale ja avatud teabele. Samal ajal hõlmavad meie toodete kvaliteedialased jõupingutused tööd, et vältida tahtmatult kasutajatele kahjuliku sisu reklaamimist. Lisateavet selle kohta, kuidas Bingi sisu reastab, sealhulgas selle kohta, kuidas see määratleb asjakohasuse ning veebilehe kvaliteedi ja usaldusväärsuse, on saadaval "Bingi veebiülema juhistes". Lisateavet Bingi sisu modereerimise põhimõtete kohta leiate jaotisest "Kuidas Bingi abil otsingutulemeid pakutakse".
Windowsi copilot-funktsioonis saab Bingis Copilot töötada Windowsi operatsioonisüsteemiga, et pakkuda Windowsi-kohaseid oskusi, nagu kasutaja kujunduse või tausta muutmine ja sätete (nt heli, Bluetooth ja võrgundus) muutmine. Need funktsioonid võimaldavad kasutajal konfigureerida oma sätteid ja parandada oma kasutuskogemust, kasutades LLM-i loomuliku keele viipasid. Rakendusekohaseid funktsioone saab pakkuda ka muude tootjate rakenduste lisandmoodulitest. Need võivad automatiseerida korduvaid ülesandeid ja suurendada kasutajate tõhusust. Kuna LLM-id võivad aeg-ajalt vigu teha, kuvatakse asjakohased kasutaja kinnitusviibad, et kasutaja oleks lõplik muudatuste arbiter, mida saab teha.
Riskide tuvastamine, mõõtmine ja leevendamine
Nagu muud transformatsioonitehnoloogiad, ei ole ka tehisintellekti eeliste kasutamine riskivaba ning Microsofti vastutustundliku tehisintellekti programmi põhiosa on mõeldud võimalike riskide tuvastamiseks, nende edukuse mõõtmiseks ja nende lahendamiseks leevendusmeetmete loomiseks. Juhindudes oma tehtevõime põhimõtetest ja vastutustundlikust tehtevõime standardist, püüdsime tuvastada, mõõta ja leevendada Copilot'i võimalikke riske ja väärkasutamist Bingis, kindlustades samal ajal uue kasutuskogemuse transformatiivsed ja kasulikud kasutusvõimalused. Alltoodud jaotistes kirjeldame oma iteratiivset lähenemisviisi võimalike riskide tuvastamiseks, mõõtmiseks ja leevendamiseks.
Mudeli tasandil algas meie töö GPT-4 analüüsidega 2022. aasta lõpus. See hõlmas ulatuslike punaste töörühmade testimist koostöös OpenAI-ga. Selle testi eesmärk oli hinnata, kuidas uusim tehnoloogia töötaks, ilma et oleks rakendatud täiendavaid kaitsemeetmeid. Meie konkreetne eesmärk oli toota kahjulikke vastuseid, kasutada võimalikke võimalusi väärkasutuseks ning tuvastada võimalusi ja piiranguid. Meie openAI ja Microsofti kombineeritud õppematerjalid aitasid mudelite arendamisel edasi areneda ning microsofti jaoks teavitasid meid ohtudest ja andsid oma panuse Copilot'i varajastesse leevendusstrateegiatesse Bingis.
Lisaks mudelitaseme punase töörühma testimisele viis mitme valdkonda hõlmav asjatundjatest koosnev meeskond Copiloti Bing AI kogemuse põhjal läbi mitu rakendusetaseme punast töörühma testimist, enne kui tegi need meie piiratud väljaande eelvaates avalikuks. See protsess aitas meil paremini mõista, kuidas võistlejad saaksid süsteemi ära kasutada ja parandada oma leevendusi. Ka mitte-võistlevad stressitestid hindasid oluliselt uusi Bingi funktsioone puuduste ja nõrkuste kõrvaldamiseks. Pärast väljalaset integreeritakse Bingi uued tehnikumi kasutuskogemused Bingi tehnilise organisatsiooni olemasolevasse tootmismahu mõõtmise ja testimise taristusse. Näiteks üritavad erinevate piirkondade ja taustade punased testijad pidevalt ja süsteemselt süsteemi ohustada ning nende tulemusi kasutatakse süsteemi täiustamiseks kasutatavate andmekomplektide laiendamiseks.
Punased meeskonna testimised ja stressitestid võivad esile tuua spetsiifilisi riske, kuid tootmiskasutajatel on Bingis miljoneid eri liiki vestlusi Copilotiga. Lisaks on vestlused mitme osalejaga ja kontekstipõhised ning vestluses oleva kahjuliku sisu tuvastamine on keeruline ülesanne. Copilot-Bing AI kogemustega kaasnevate riskide paremini mõistmiseks ja käsitlemiseks töötasime välja täiendavad vastutustundlikud tehisintellektipõhised mõõdikud, mis vastavad nendele uutele tehisintellekti kasutuskogemustele, et mõõta võimalikke ohte, nagu vanglahäired, kahjulik sisu ja tahtmatu sisu. Lubasime ka mõõtmisi mastaabis osaliselt automatiseeritud mõõtetorustike kaudu. Iga kord, kui toode muutub, olemasolevaid leevendusi värskendatakse või pakutakse välja uusi leevendusi, värskendame oma mõõtevõimalused, et hinnata nii toote jõudlust kui ka vastutustundlikke tehisintellekti mõõdikuid.
Näitena on värskendatud osaliselt automatiseeritud mõõtühikute konveier kahjuliku sisu jaoks kaks suurt uuendust: vestluste simulatsioon ja automatiseeritud, inimkontrollitud vestluste marginaal. Esiteks koostasid vastutavad tehtevõimeeksperdid mallid vestluste struktuuri ja sisu jäädvustamiseks, mis võivad põhjustada erinevat tüüpi kahjulikku sisu. Need mallid anti seejärel vestlusagendile, kes suhtles Bingi Copilot-ga hüpoteetilise kasutajana, genereerides simuleeritud vestlusi. Selleks et teha kindlaks, kas need simuleeritud vestlused sisaldasid kahjulikku sisu, võtsime vastu juhised, mida asjatundjad kasutavad tavaliselt andmete siltide sildistamiseks ja muutsid neid GPT-4 abil vestlustele mastaabis siltide sildistamiseks, viimistledes juhiseid, kuni mudelipõhised vestlused ja inimsildistatud vestlused olid omavahel olulisel määral ühel meelel. Lõpuks kasutasime mudeliga sildistatud vestlusi, et arvutada vastutustundliku tehtemärgi mõõdik, mis kajastab Copilot'i tõhusust Bingis kahjuliku sisu leevendamisel.
Meie mõõtevõimalused võimaldavad meil kiiresti mõõta võimalikke riske mastaabis. Kuna tuvastame eelvaateperioodi ja pideva punase töörühma testimise kaudu uusi probleeme, jätkame mõõtekomplektide laiendamist, et hinnata täiendavaid riske.
Kuna tuvastasime võimalikke riske ja väärkasutust selliste protsesside kaudu nagu punane meeskonna testimine ja stressitest, ning mõõtsime neid ülalkirjeldatud uuenduslike lähenemisviisidega, töötasime välja täiendavad leevendused neile, mida kasutatakse traditsioonilise otsingu jaoks. Allpool kirjeldame mõnda neist leevendusmeetmetest. Jätkame Copilot'i jälgimist Bing AI kasutuskogemuses, et parandada toote jõudlust ja leevendusi.
Järkjärguline vabastamine, pidev hindamine. Oleme pühendunud oma vastutustundliku tehtevõime lähenemise õppimisele ja täiustamisele pidevalt, kui meie tehnoloogiad ja kasutajate käitumine arenevad. Meie astmeline väljalaskestrateegia on olnud põhiosa sellest, kuidas me teisaldame oma tehnoloogia ohutult laboritest maailma ja me oleme pühendunud tahtlikule ja läbimõeldud protsessile Copilot'i eeliste kindlustamiseks Bingis. Eelvaateperioodi ajal juurdepääsu omavate inimeste arvu piiramine on võimaldanud meil uurida, kuidas inimesed Copiloti Bingi kasutavad ( sh kuidas inimesed võivad seda väärkasutada), et saaksime enne laiemat väljaannet tekkivaid probleeme leevendada. Näiteks nõuame kasutajatelt enne uue Bingi täieliku kasutuskogemuse kasutamist autentimist oma Microsofti kontoga. Autentimata kasutajad pääsevad juurde ainult piiratud eelvaateversioonile. Need sammud pärsivad kuritarvitamist ja aitavad meil (vastavalt vajadusele) võtta asjakohaseid meetmeid vastavalt käitumiskoodeksi rikkumistele. Teeme Iga päev Bingis Copilotis muudatusi, et parandada toote jõudlust, parandada olemasolevaid leevendusi ja rakendada eelvaateperioodi jooksul uusi leevendusi, mis reageerivad meie õpitele.
Otsingutulemite alused. Nagu eespool märgitud, on Copilot Bingi rakenduses mõeldud selleks, et pakkuda teavet otsides vastuseid, mida veebiotsingu tulemites olev teave toetab. Näiteks on süsteem varustatud tekstiga ülemistest otsingutulemitest ja juhised metaprompti kaudu, et selle vastus aluse võtta. Veebisisu summeerimisel võib Copilot Bingis siiski lisada vastusesse teavet, mida tema sisendallikates pole. Teisisõnu võib see anda tahtmatuid tulemusi. Meie varajased hindamised on näidanud, et tahtmatute tulemite tekstvestlused võivad teatud tüüpi viipade või teemade puhul olla valdavamad kui muud, näiteks küsida matemaatilisi arvutusi, finants- või turuteavet (nt ettevõtte sissetulek, börsitulemusandmed) ja teavet, näiteks sündmuste täpseid kuupäevi või kauba erihindu. Kasutajad peaksid alati olema ettevaatlik ja kasutama summeeritud otsingutulemite vaatamisel alati oma hinnangut, olgu need siis otsingutulemite lehel või vestluskogemuses. Oleme võtnud mitmeid meetmeid, et leevendada riski, et kasutajad võivad kokkuvõttestsenaariumide ja vestluskogemuste korral loota üleastumiseks etteteatamata genereeritud sisule. Näiteks Bingi Copiloti vastused, mis põhinevad otsingutulemitel, sisaldavad viiteid lähteveebidele, kus kasutajad saavad vastust kontrollida ja rohkem teada saada. Kasutajatele antakse ka selgesõnaline teade selle kohta, et nad suhtlevad tehtemärke sisaldava süsteemiga ja soovitatav on kontrollida veebitulemite allika materjale, mis aitavad neil parimal viisil otsuseid langetada.
AI-põhised liigitajad ja metaprompteerimine, et leevendada võimalikke riske või väärkasutamist. LlM-ide kasutamine võib põhjustada problemaatilist sisu, mis võib põhjustada riske või väärkasutamist. Näited võivad sisaldada enesekahju, vägivalda, graafilist sisu, intellektuaalset omandit, ebatäpset teavet, vihkavat kõnet või teksti, mis võib olla seotud ebaseadusliku tegevusega. Klassifikaatorid ja metapromptimine on kaks näidet Leevendusmeetmetest, mis on rakendatud Copilot-s Bingis, et aidata vähendada seda tüüpi sisu ohtu. Klassifikaatorid liigitavad teksti, et märkida otsingupäringutes, vestlusviipades või genereeritud vastustes lipuga erinevat tüüpi potentsiaalselt kahjulik sisu. Bing kasutab tehtemärke ja sisufiltreid, mis rakenduvad kõigile otsingutulemitele ja asjakohastele funktsioonidele; kavandasime täiendavaid viipade klassifikaatoriid ja sisufiltreid, et konkreetselt tegeleda Bingi funktsioonide copilot-funktsiooni esilekerkivate võimalike riskidega. Lipud põhjustavad võimalikke leevendusi, näiteks ei tagastata kasutajale genereeritud sisu, suunatakse kasutaja ümber mõnele muule teemale või suunatakse kasutaja ümber traditsioonilisse otsingusse. Metaprompting hõlmab mudelile juhiste andmist selle käitumise juhtimiseks, sealhulgas nii, et süsteem käitub vastavalt Microsofti teostusvõime põhimõtetele ja kasutajate ootustele. Näiteks võib metaprompt sisaldada joont, näiteks "suhtle kasutaja valitud keeles".
Privaatsuse kaitsmine Rakenduses Bing Copilot Vis Otsing. Kui kasutajad laadivad vestluseviiba osana üles pildi, kasutab Copilot Bingis näo hägustamise tehnoloogiat enne pildi saatmist AI mudelile. Näo hägustumist kasutatakse pildil olevate isikute privaatsuse kaitsmiseks. Näo hägune tehnoloogia toetub konteksti vihjetele, et teha kindlaks, kuhu hägustada ja mis proovib hägustada kõiki nägusid. Kui näod on hägustatud, võib tehtevõime mudel võrrelda sisestatud pilti Internetis avalikult kättesaadavate piltidega. Selle tulemusena võib näiteks Copilot Bingis saada tuvastada kuulsa korvpalluri selle mängija fotolt korvpalliväljakul, luues numbrilise kujutise, mis kajastab mängija jersey numbrit, jersey värvi, korvpallikonksu olemasolu jne. Copilot Bingi rakenduses ei salvesta üleslaaditud piltidest inimeste arvulisi kujutisi ega jaga neid kolmandate osapooltega. Copilot rakenduses Bing kasutab kasutajate üleslaaditavate piltide arvulisi kujutisi ainult kasutajate viipadele vastamiseks ja need kustutatakse 30 päeva jooksul pärast vestluse lõppu.
Kui kasutaja küsib Bingi rakenduses Copilot teavet üleslaaditud pildi kohta, võivad vestluse vastused kajastada näo hägustamise mõju mudeli võimele anda teavet üleslaaditud pildi kohta. Näiteks võib Copilot Bingis kirjeldada kedagi ähmase näoga.
Vestluste triivimise piiramine. Eelvaateperioodi jooksul saime teada, et väga pikad vestlusseansid võivad anda vastuseid, mis on Bingi plaanitud toonis korduvad, kasutud või ebaühtlased Copilotiga. Selle vestluslififtiga tegelemiseks piirasime iga vestluseseansi korral pöörete arvu (vahetused, mis sisaldavad nii kasutaja küsimust kui ka Bingi Copiloti vastust). Jätkame selle probleemi leevendamiseks täiendavate lähenemisviiside hindamist.
Viip rikastamine. Mõnel juhul võib kasutaja viip olla mitmetähenduslik. Sel juhul võib Copilot Bingis kasutada LLM-i, et aidata viipades täpsemaid üksikasju koostada, et tagada kasutajatele otsitava vastuse saamine. Selline viipade rikastamine ei sõltu kasutaja teadmistest ega nende eelnevatest otsingutest, vaid tehisintellekti mudelist. Need muudetud päringud kuvatakse kasutaja vestluste ajaloos ja nagu muid otsinguid, saab neid ka tootesiseste juhtelementide abil kustutada.
Kasutajakeskne disain ja kasutuskogemuse sekkumised. Kasutajakeskne kujundus ja kasutuskogemus on Microsofti lähenemisviisi oluline osa vastutustundlikule teipimisele. Eesmärk on juurutada toote disain kasutajate vajadustest ja ootustest lähtuvalt. Kuna kasutajad suhtlevad Copilotiga Bingis esimest korda, pakume erinevaid puutepunkte, mis on mõeldud selleks, et aidata neil mõista süsteemi võimalusi, avaldada neile, et Copilot Bingis toetab tehtevõimet, ja suhtleme piirangutega. See kogemus on välja töötatud nii, et aidata kasutajatel Bingis Copilot võimalikult hästi ära kasutada ja minimeerida ületäituvuse ohtu. Kogemuse elemendid aitavad kasutajatel paremini mõista Copilot Bingis ja nende interaktsioone sellega. Need hõlmavad vestlussoovitusi, mis on seotud vastutustundliku tehtevõimega (nt kuidas Bing tei-sid kasutab? Miks ei vasta Bingi Copilot teatud teemadel?), piirangute selgitused, viisid, kuidas kasutajad saavad lisateavet süsteemi tööpõhimõtete ja tagasiside kohta ning hõlpsalt navigeeritavad viited, mis kuvatakse vastustes, et näidata kasutajatele tulemeid ja lehti, millel vastused on koostatud.
Tehtevõime avalikustamine. Copilot in Bing pakub mitmeid puutepunkte, mis annavad AI-le tähendusrikast avalikustamist, kui kasutajaid teavitatakse tehtevõime süsteemiga suhtlemisest, samuti võimalusi saada lisateavet Copilot'i kohta Bingi kaudu. Nende teadmiste abil kasutajate võimestamine aitab neil tehtevõimele liigset tuginemist vältida ning saada teavet süsteemi tugevuste ja piirangute kohta.
Meediumi lähtekoht.Microsoft Designer on lubanud funktsiooni "Sisu identimisteave", mis kasutab krüptograafilisi meetodeid kõigi Designer loodud tei-genereeritud piltide allika ehk lähtekoha märkimiseks. Nähtamatu digitaalne vesimärgifunktsioon näitab algse loomise allikat, kellaaega ja kuupäeva ning seda teavet ei saa muuta. Tehnoloogia kasutab sisu ja autentsuse koalitsiooni (C2PA) kehtestatud standardeid, et lisada tehtemärke genereeritavatele piltidele täiendav usaldus- ja läbipaistvuskiht. Microsoft on C2PA kaasautor ja panustanud digitaalse sisu lähtekoha põhitehnoloogiasse.
Kasutustingimused ja käitumiskoodeks. See ressurss reguleerib Copilot'i kasutamist Bingis. Kasutajad peaksid järgima kasutustingimusi ja käitumiskoodeksit, mis muu hulgas teavitavad neid lubatud ja lubamatusest ning tingimuste rikkumise tagajärgedest. Kasutustingimustega antakse kasutajatele ka täiendavaid avalikustamisi ja need on kasulikud viited Bingi Copilot-teenuse kohta tutvumiseks.
Operatsioonid ja kiire reageerimine. Samuti kasutame Copilot Bingi pidevates seire- ja operatiivprotsessides, et tegeleda sellega, kui Copilot Bingi keskkonnas saab signaale või saab aruande, mis näitab kasutustingimuste või käitumiskoodeksi võimalikku väärkasutamist või rikkumist.
Tagasiside, jälgimine ja järelevalve. Bingi copilot tugineb olemasolevatele tööriistadele, mis võimaldavad kasutajatel esitada tagasisidet ja teatada probleemidest, mille on läbi vaadanud Microsofti operatsioonimeeskonnad. Bingi tööprotsessid on laienenud ka Copilot funktsioonide jaoks Bingi kasutuskogemuses, näiteks värskendatakse lehte "Teata probleemist ", et see hõlmaks uut tüüpi sisu, mille kasutajad mudeli abil loovad.
Meie lähenemisviis ohtude tuvastamisele, mõõtmisele ja leevendamisele areneb edasi, kui saame rohkem teada, ning teeme juba eelvaateperioodil kogutud tagasiside põhjal parandusi.
Automaatne sisutuvastus. Kui kasutajad laadivad pilte üles vestlusviiba osana, juurutab Copilot Bingis tööriistad, et tuvastada laste seksuaalset ärakasutamist ja kuritarvitamist kujutavaid kujutisi (CSEAI), eriti PhotoDNA räsivaste tehnoloogiaid. Microsoft töötas välja PhotoDNA, mis aitab leida tuntud CSEAI duplikaadid. Microsoft teatab kadunud ja ekspluateeritud laste riiklikule keskusele (NCMEC) ilmnest CSEAI-st, nagu on nõutud USA seadustes. Kui kasutajad laadivad analüüsimiseks või töötlemiseks faile üles, juurutab Copilot automaatse skannimise, et tuvastada sisu, mis võib põhjustada riske või väärkasutust (nt tekst, mis võib olla seotud ebaseadusliku tegevuse või pahatahtliku koodiga).
Privaatsuse kaitsmine
Microsofti pikaajaline usk, et privaatsus on põhiline inimõigus, on teavitanud Igat etappi Microsofti arengust ja Copilot-teenuse juurutamisest Bingi kasutuskogemuses. Meie kohustused kaitsta kõigi kasutajate privaatsust, sealhulgas tagades üksikisikutele läbipaistvuse ja kontrolli oma andmete üle ning integreerides privaatsuse kujundamise teel andmete minimeerimise ja eesmärgipiirangute abil, on aluseks Copilotile Bingis. Arendades oma lähenemisviisi Copilot-teenuse pakkumisele Bingi generatiivsetes tehetehnilises keskkonnas, uurime pidevalt, kuidas kõige paremini kaitsta privaatsust. Seda dokumenti värskendatakse samamoodi. Lisateavet selle kohta, kuidas Microsoft kaitseb meie kasutajate privaatsust, leiate Microsofti privaatsusavaldusest.
Windowsi copilot-versioonis võivad Windowsi oskused oma funktsionaalsuse osana vestlusvestluses jagada kasutajateavet. See kehtib kasutaja heakskiidu kohta ja kuvatakse kasutajaliidese viibad, mis kinnitavad kasutaja kavatsust enne kasutajateabe jagamist vestlusevestlusega.
Microsoft arvestab Bingis Copiloti uutegeneratiivsete tehisintellektifunktsioonide riskihindamise raames jätkuvalt laste ja noorte vajadustega. Kõik Microsofti lapsekontod, mis tuvastavad kasutaja alla 13-aastaseks või kohalike seadustega määratud viisil, ei saa uue Bingi täieliku kasutuskogemuse kasutamiseks sisse logida.
Nagu eespool kirjeldatud, oleme kõigi kasutajate jaoks rakendanud kaitsemeetmed, mis leevendavad potentsiaalselt kahjulikku sisu. Copilot in Bing, tulemused on seatud nagu Bingi SafeSearchi ranges režiimis, millel on peamine Bingi otsing kõrgeim ohutustase, mistõttu takistatakse kasutajatel, sealhulgas teismeliste kasutajatel, potentsiaalselt kahjuliku sisuga kokku puutumast. Lisaks selles dokumendis esitatud teabele ja KKK-le vestlusfunktsioonide kohta leiate lisateavet selle kohta, kuidas Copilot Bingis toimib, et vältida ootamatu solvava sisuga reageerimist otsingutulemites, leiate siit.
Microsoft on võtnud endale kohustuse mitte pakkuda veebikäitumisel põhinevaid isikupärastatud reklaame lastele, kelle Microsofti kontol olev sünnikuupäev tuvastab, et nad on alla 18-aastased. See oluline kaitse laieneb Copilot Bingi funktsioonides olevatele reklaamidele. Kasutajad võivad näha kontekstipõhiseid reklaame, mis põhinevad bingi kasutamise päringul või viibal.
Generatiivse tehisintellekti muundava potentsiaali avamiseks peame suurendama usaldust tehnoloogia vastu, andes üksikisikutele õiguse mõista, kuidas nende andmeid kasutatakse, ning pakkuda neile mõtestatud valikuid ja kontrolli nende andmete üle. Copilot Bingis on mõeldud inimagentuuri tähtsuse järjekorda seadmiseks, teabe pakkumise kaudu toote toimimise ja piirangute kohta ning laiendades meie jõulisi tarbijavalikuid ja juhtelemente Copilotile Bingi funktsioonides.
Microsofti privaatsusavaldus annab teavet meie klientide kaitsmise läbipaistvate privaatsustavade kohta ning sisaldab teavet juhtelementide kohta, mis annavad kasutajatele võimaluse oma isikuandmeid vaadata ja hallata. Selleks et tagada, et kasutajatel oleks Bingi uute vestlusfunktsioonidega suhtlemisel vajalik teave, teavitame tootesiseselt kasutajaid sellest, et nad kasutavad tehtevõimelist toodet, ning pakume linke täiendavatele KKK-dele ja selgitustele nende funktsioonide toimimise kohta. Microsoft jätkab kasutajate tagasiside kuulamist ja lisab üksikasjalikumat teavet Bingi vestlusfunktsioonide kohta, et aidata mõista toote toimimist.
Microsoft pakub oma kasutajatele töökindlaid tööriistu oma õiguste kasutamiseks isikuandmete üle. Bingi Copilot kogutavate andmete jaoks (sh kasutajapäringute ja viipade kaudu) pakub Microsofti privaatsussätete ja -teabe armatuurlaud autenditud (sisselogitud) kasutajatele tööriistu andmesubjekti õiguste kasutamiseks, sh võimaldades kasutajatel talletatud vestluste ajalugu vaadata, eksportida ja kustutada. Microsoft jätkab tagasisidet selle kohta, kuidas nad soovivad hallata oma uut Bingi keskkonda, sh kontekstisiseste andmehaldusfunktsioonide abil.
Copilot Bingis austab ka Euroopa õiguse kohaseid taotlusi unustamiseks pärast seda, kui Microsoft töötas välja ja täiustas Bingi traditsioonilisi otsingufunktsioone. Kõik kasutajad saavad siin teatada genereeritud sisu ja vastustega seotud probleemidest ning meie Euroopa kasutajad saavad seda vormi kasutada päringute esitamiseks, et blokeerida otsingutulemid Euroopas õiguseta unustada.
Copilot Bingi saidil järgib kasutajate privaatsusvalikuid, sealhulgas neid, mis on varem Bingis tehtud, näiteks nõusolekut andmete kogumiseks ja kasutamiseks, mida küsitakse küpsiste ribade ja juhtelementide kaudu, mis on saadaval Microsofti privaatsussätete ja -teabe armatuurlaual. Selleks et aidata kasutajatel sõltumatust ja ametit teadlike otsuste tegemisel, oleme kasutanud oma sisemist läbivaatusprotsessi, et hoolikalt uurida, kuidas valikuid kasutajatele esitatakse.
Lisaks Microsofti privaatsuse armatuurlaua kaudu saadaolevatele juhtelementidele, mis võimaldavad kasutajatel vaadata, eksportida ja kustutada oma otsinguajalugu (sh vestlusajaloo komponendid), saavad autenditud kasutajad, kes on lubanud toote vestlusajaloo funktsiooni, vaadata, avada ja alla laadida vestlusajalugu tootesiseste juhtelementide kaudu. Kasutajad võivad vestlusajaloost kustutada konkreetseid tekstvestlusi või vestlusajaloo funktsiooni täielikult igal ajal välja lülitada, külastades Bingi sätete lehte. Isikupärastatud vastuste abil saavad kasutajad ka valida, kas lubada isikupärastamist, et pääseda juurde kohandatud kasutuskogemusele. Kasutajad saavad igal ajal Bingi sätete lehel vestluse sätetes isikupärastamisest loobuda. Konkreetsete tekstvestluste kustutamine vestlusajaloost takistab nende kasutamist isikupärastamiseks.
Lisateavet vestluse ajaloo ja isikupärastamise kohta leiate Bingi KKK-st Coplot-i kasutajatele.
Copilot Bingis loodi privaatsust silmas pidades, nii et isikuandmeid kogutakse ja kasutatakse ainult vastavalt vajadusele ning säilitatakse mitte kauem, kui on vajalik. Nagu eespool mainitud, juurutab Bing-funktsiooni Copilot Visuaalne Otsing mehhanismi, mis hägustab piltidel nägusid kasutajate üleslaadimise ajal, nii et näokujutisi ei töödelda ega salvestata. Lisateavet selle kohta, milliseid isikuandmeid Bingi kogub, kuidas neid kasutatakse ning kuidas neid talletatakse ja kustutatakse, leiate Microsofti privaatsusavaldusest, mis annab teavet ka Bingi uute vestlusfunktsioonide kohta.
Bingi Copilot'il on andmete säilitamise ja kustutamise poliitikad, mis aitavad tagada, et Bingi vestlusfunktsioonide kaudu kogutud isikuandmeid säilitatakse ainult nii kaua kui vaja.
Õpime ja arendame jätkuvalt oma lähenemist Copilot'i pakkumisel Bingis ning jätkame sel viisil erinevate distsipliinide ülest tööd, et viia tehteajamise uuendused kooskõlla inimväärtuste ja põhiõigustega, sealhulgas kaitsta noori kasutajaid ja privaatsust.
Copilot äriandmete kaitsega
2023. aasta juulis avaldas Microsoft äriandmete kaitsega Copiloti, mida tunti varem nime all Bing Chat Enterprise ("BCE"), teatud M365 klientidele tasuta lisandmoodulina. Äriandmete kaitsega Copilot on tehtemärke täiustatud veebiotsingufunktsioon suurettevõtete lõppkasutajatele.
Nagu Copilot Bingi puhul, saadetakse ka siis, kui äriandmete kaitsega Copilot liidesesse viiba sisestab, saadetakse LLM-i sisendina viip, vahetu vestlus, peamised otsingutulemid ja metaprompt. Mudel genereerib vastuse, kasutades viipa ja vahetut vestluste ajalugu taotluse kontekstikonteksti viimiseks, metaprompti, et viia vastused vastavusse Microsofti teostuspõhimõtete ja kasutajate ootustega ning otsingutulemid olemasoleva, kõrge asetusega veebisisu vastustega. See toimib sarnaselt Copilotiga Bingis, nagu on kirjeldatud selles dokumendis, erandiks on see, et Copilot äriandmete kaitsega sõltub ainult vahetust vestluste ajaloost (mitte hiljutisest vestluste ajaloost), kuna salvestatud vestluste ajalugu pole praegu toetatud. Designer ja Visual Otsing on nüüd selles versioonis saadaval.
Nagu muud transformatsioonitehnoloogiad, ei ole ka tehisintellekti eeliste kasutamine riskivaba ning Microsofti vastutustundliku tehisintellekti programmi põhiosa on mõeldud võimalike riskide tuvastamiseks, nende edukuse mõõtmiseks ja nende lahendamiseks leevendusmeetmete loomiseks. Eespool toodud kirjeldus Microsofti jõupingutuste kohta Copilotiga seotud võimalike riskide tuvastamiseks, mõõtmiseks ja leevendamiseks kehtib ka Bingi selles versioonis ning mõned selgitused allpool kirjeldatud leevendusmeetmete kohta.
Järkjärguline vabastamine, pidev hindamine. Sarnaselt Copilot Bingiga oleme Copilot'i jaoks koos kommertsandmete kaitsega kasutanud ka astmelist väljalaskemeetodit. 18. juulil 2023 sai Copilot koos andmekaitsega tasuta eelvaateks tingimustele vastavatele ettevõtteklientidele, kellel on konkreetsed M365 kontod, et lülitada sisse oma ettevõtte lõppkasutajad. 30 päeva pärast tingimustele vastavate ettevõtteklientide teavitamist muutus Copilot koos äriandmete kaitsega samade klientide jaoks vaikesätteks. Copilot koos andmekaitsega on ka sellest ajast alates saadaval konkreetsetele haridustöötajate M365 kontodele. Äriandmete kaitsega Copilot sai teatud ettevõtteklientidele üldiselt kättesaadavaks 1. detsembril 2023. Tulevikus plaanime laiendada copilot-juurdepääsu äriandmete kaitsega rohkem Microsoft Entra ID kasutajatele.
Kasutustingimused ja käitumiskoodeks. Äriandmete kaitsega Copilot'i lõppkasutajad peavad järgima lõppkasutaja kasutustingimusi. Käesolevad kasutustingimused teavitavad lõppkasutajaid lubatud ja lubamatust kasutamisest ning tingimuste rikkumise tagajärgedest.
Operatsioonid ja kiire reageerimine. Samuti kasutame Copilot Bingi pidevates seire- ja operatiivprotsessides, et lahendada, kui Copilot koos äriandmete kaitsega saab signaale või saab aruande, mis näitab lõppkasutaja kasutustingimuste võimalikku väärkasutamist või rikkumist.
Tagasiside, jälgimine ja järelevalve. Äriandmete kaitsega Copilot kasutab kasutajatele tagasiside andmiseks ja probleemidest teatamiseks Bingis Copilotiga sama tööriista, mille on läbi vaadanud Microsofti operatsioonide meeskonnad. Copilot Bingi tööprotsessides on samuti laiendatud, et see sobiks Copilotis äriandmete kaitse funktsioonidega, näiteks värskendades lehte "Teata probleemist", et see hõlmaks uut tüüpi sisu, mille kasutajad mudeli abil loovad.
Tagamaks, et lõppkasutajatel on Coplotiga suhtlemisel äriandmete kaitsega vajalik teave, on selle dokumendi allservas saadaval tootedokumentatsioon, sh KKK ja Lisateave.
Coplotis äriandmete kaitsega lõppkasutajate genereeritud viipasid ja vastuseid töödeldakse ja talletatakse vastavalt ettevõtte andmetöötlusstandarditele. Andmekaitse pakkumisega Copilot on praegu saadaval ainult suurettevõtetest klientidele ja nende autenditud täiskasvanud lõppkasutajatele, seega ei eelda me praegu, et lapsed või noored oleksid Copilot'i lõppkasutajad, kellel on äriline andmekaitse. Lisaks ei paku Copilot koos äriandmete kaitsega lõppkasutajatele mingit käitumist suunatud reklaami. Selle asemel on kuvatavad reklaamid ainult kontekstipõhiselt asjakohased reklaamid.
Lisateave
See dokument on osa Microsofti laiemast püüdlusest rakendada tehisintellekti põhimõtteid. Lisateavet leiate järgmistest teemadest.
Microsofti lähenemisviis vastutustundlikule tehtevõimele
Microsofti vastutustundlik tehtevõime standard
Microsofti vastutustundlikud tehtevõime ressursid
Microsoft Azure Learningu kursused vastutustundliku tehtevõime kohta
Teave selle dokumendi kohta
© 2023 Microsoft. Kõik õigused on reserveeritud. See dokument on esitatud kujul ja ainult informatiivsel eesmärgil. Selles dokumendis väljendatud teave ja vaated (sh URL ja muud Interneti-veebisaidi viited) võivad ette teatamata muutuda. Teie vastutate selle kasutamisega kaasnevate riskide eest. Mõned näited on mõeldud ainult illustreerimiseks ja on fiktiivsed. Ükski tegelik seos pole mõeldud ega tuletatud.
