Viimati värskendatud: mai 2024
Copilot Bingis põhitõed
Copilot Bingis on nüüd Microsoft Copilot. Meie lähenemisviisi vastutustundliku tehtemärkuse kohta leiate dokumentatsioonist siit: läbipaistvusmärkus Microsoft Copilot.
Sissejuhatus
2023. aasta veebruaris käivitas Microsoft uue Tei täiustatud veebiotsingukogemuse Bingi. See toetab kasutajaid, koondades veebiotsingu tulemid ja pakkudes vestluskogemust. Kasutajad saavad luua ka loomingulist sisu, näiteks luuletusi, nalju, lugusid ja Bingi pildilooja pilte. Uus tehisintellekti toega Bingi rakendus töötab mitmete Microsofti ja OpenAI täiustatud tehnoloogiatega, sh GPT, tipptasemel suur keelemudel (LLM) ja DALL-E, mis on süvaõppemudel loomuliku keele kirjelduste põhjal digitaalsete piltide loomiseks, nii OpenAI-st kui ka mujalt. Töötasime mõlema mudeliga mitu kuud enne avalikku väljaannet, et arendada välja kohandatud võimaluste ja tehnikate komplekt, et lisada see tipptasemel tehisintellektitehnoloogia ja veebiotsing uuele Bingile. 2023. aasta novembris nimetas Microsoft uue Bingi ümber Copilot Bingis.
Microsoftis võtame vastutustundlikule tehisintellektile pühendumist tõsiselt. Copilot Bingis kogemus on välja töötatud vastavalt Microsofti tehnikute põhimõtetele, Microsofti vastutustundliku tehnikute standardile ja koostöös ettevõtte vastutustundlikute tehnikute ekspertidega( sh Microsofti vastutustundliku tehniku büroo, meie tehnikud, Microsoft Research ja Aether). Lisateavet vastutustundliku tehtevõime kohta leiate Microsofti lehelt.
Selles dokumendis kirjeldame oma lähenemisviisi vastutustundlikule tehtevõimele Copilot Bingis eest. Enne väljaandmist võtsime kasutusele kaasaegsed meetodid, et tuvastada, mõõta ja leevendada süsteemi võimalikke riske ja väärkasutamist ning tagada süsteemi kasu kasutajatele. Alates esimesest väljaandmisest oleme Copilot Bingis edasi arenenud, jätkame ka oma vastutustundlike teheteavituste õppimist ja täiustamist. Dokumenti värskendatakse regulaarselt, et teavitada meie arenevaid protsesse ja meetodeid.
Põhiterminid
Copilot Bingis on tehtevõimendatud veebiotsingufunktsioon. Kuna see töötab võimsal ja uuel tehnoloogial, siis alustame mõne põhitermini määratlemisega.
Masinõppemudelid, mis aitavad andmeid sortida sildistatud klassidesse või teabekategooriatesse. Copilot Bingis on üks viis, kuidas me klassifikaatoriid kasutame, tuvastada potentsiaalselt kahjulikku sisu, mille on esitanud kasutajad või mille on loonud süsteem, et leevendada selle sisu teket ja süsteemi väärkasutamist või kuritarvitamist.
Copilot Bingis põhineb teabe otsimisel veebiotsingu tulemites. See tähendab, et me keskendume kasutaja päringule esitatud vastuses või viibal kõrge asetsega sisu kohta veebist ja pakume veebisaitide linke, et kasutajad saaksid rohkem teada. Bing reastab veebiotsingu sisu, kaaludes selliseid funktsioone nagu asjakohasus, kvaliteet ja usaldusväärsus ning värskus. Kirjeldame neid mõisteid üksikasjalikumalt teemas Kuidas Bingi otsingutulemeid pakutakse (vt "Kvaliteet ja usaldusväärsus" jaotises "Kuidas Bingi otsingutulemid järjestatakse").
Meie arvates on põhjendatud vastused vastuseks Copilot Bingis, milles sisendallikates sisalduv teave toetab lauseid (nt päringu või viiba veebiotsingu tulemid, Bingi teabebaas faktikontrollitud teavet ja vestluskogemuse jaoks vestlusajalugu). Tahtmatud vastused on vastused, mille puhul lause ei ole nendes sisendallikates alusestatud.
Selles kontekstis on suured keelemudelid tehtemärkide mudelid, mis on õpetatud suurtel tekstiandmetel, et ennustada sõnu järjestustes. LLM-id on võimelised täitma mitmesuguseid ülesandeid, nagu teksti loomine, summeerimine, tõlkimine, klassifitseerimine ja palju muud.
Metaprompt on programm, mis aitab juhtida süsteemi käitumist. Metaprompti osad aitavad ühtlustada süsteemi käitumist Microsofti tehetehniliste tehete põhimõtete ja kasutajate ootustega. Näiteks võib metaprompt sisaldada joont, näiteks "suhtle kasutaja valitud keeles".
Meetod või meetodite kombinatsioon, mis on kavandatud selleks, et vähendada võimalikke riske, mis võivad tuleneda teigipõhiste funktsioonide kasutamisest Copilot Bingis.
Tekst-, hääl-, pildi- ja/või muud lubatud päringud, mille kasutaja saadab Bingi sisendina mudelisse, mis annab Bingis uued tei-põhisedgeneratiivsed funktsioonid. Näiteks võib kasutaja sisestada järgmise viiba:
"Ma plaanin reisi meie aastapäevaks septembris. Mis on mõned kohad, kuhu me saame minna, mis jäävad Londoni heathrowst 3-tunnise lennu kaugusele?”
Tekst, mille kasutaja veebiotsingu jaoks otsinguriba kaudu Bingi saadab. Selles dokumendis eristame päringut (veebiotsingu jaoks) viibast (AI-põhiste generatiivsete funktsioonide jaoks Bingis). Näiteks võib kasutaja veebist otsimiseks sisestada järgmise päringu:
"travel destinations near London Heathrow airport"
Tehnikad, mida eksperdid kasutavad süsteemi piirangute ja nõrkuste hindamiseks ning kavandatud leevendusmeetmete tõhususe kontrollimiseks. Võimalike riskide tuvastamiseks kasutatakse punast testimist ja stressitestimist ning need erinevad riskide süstemaatilisest mõõtmisest.
Tekst, pilt, diagrammid jne, mida Copilot Bingis vastuseks viibale. "Vastuse" sünonüümide hulka kuuluvad "lõpetamine", "generatsioon" ja "vastus". Näiteks võib Bing pakkuda ülalnimetatud viiba määratluses kasutatud viibale järgmist vastust:
Palju õnne aastapäeva puhul! Londonist Heathrow on 3-tunnise lennu kaugusel mitmeid kohti. Ühe allika järgi põgeneb osa nädalavahetusest Londonist kolme tunni jooksul lennukiga Bilbao, Kopenhaagen, Reykjavik ja Stockholm 1, 2. Teine allikas viitab mõnele parimale paigale, mida Euroopas septembris külastada, on Krakow, Firenze ja Lissaboni 3, 4. Samuti saate kontrollida otselende Londoni heathrow'st erinevatesse sihtkohtadesse ja vaadata, milliseid kaebusi teile pakub 5. Loodan, et teil on imeline reis!”
Kavandatud kasutusalad ja uued tehtevõime kasutuskogemused
Copilot Bingis eesmärk on ühendada kasutajad asjakohaste otsingutulemitega, vaadata veebist pärit tulemeid, leida ja kokku võtta kasutajate otsitud vastuseid, aidata kasutajatel vestluskogemuse abil oma uurimistööd täpsustada ja loovust vähendada, aidates kasutajatel sisu luua. Copilot Bingis generatiivsed tehisintellektikogemused toetavad allpool eesmärki olla tehisintellekti toega copilot veebi jaoks.
Summeerimine. Kui kasutajad esitavad Copilot Bingis kohta otsingupäringu, töötleb Bingi süsteem päringut, viib läbi ühe või mitu veebiotsingut ja genereerib populaarsemate veebiotsingutulemite abil kasutajatele esitatava teabe kokkuvõtte. Need kokkuvõtted sisaldavad viiteid, mis aitavad kasutajatel näha ja hõlpsalt juurde pääseda otsingutulemitele, mida kasutatakse kokkuvõtte alusena. Kokkuvõtted võidakse kuvada otsingutulemite lehe paremas servas ja vestluses.
Vestluskogemus. Lisaks kokkuvõttele saavad kasutajad Copilot Bingis süsteemiga vestelda teksti, pildi või häälsisendi kaudu, esitada järeltegevustega seotud küsimusi otsingute selgitamiseks ja uue teabe otsimiseks ning esitada viipasid loomesisu loomiseks. Viited lisatakse ka vestluskogemusse, kui Copilot Bingis võtab vastuses otsingutulemid kokku.
Loova sisu loomine. Nii vestluskogemuses kui ka otsingulehel saavad kasutajad Copilot Bingis abiga luua luuletusi, nalju, lugusid, pilte ja muud sisu. Pilte loovad Designer (endine Bingi pildilooja) ja kasutajad pääsevad funktsioonile juurde nii Designer avalehe kui ka Copilot-lehe kaudu.
Kuidas Copilot Bingis toimib?
Oleme Copilot Bingis välja töötanud uuendusliku lähenemisviisi, et tuua tipptasemel LLM-id veebiotsingusse. Kui kasutaja sisestab Copilot Bingis viiba, saadetakse viip, viimatine vestluste ajalugu, metaprompt ja peamised otsingutulemid LLM-i sisendina. Mudel genereerib vastuse, kasutades päringu konteksti viipa ja hiljutist vestluste ajalugu, metaprompti, et viia vastused vastavusse Microsofti AI põhimõtete ja kasutaja ootustega ning otsingutulemid kohapealse, kõrge asetusega veebisisu vastustega.
Vastused esitatakse kasutajatele mitmes erinevas vormingus, nt veebisisu traditsioonilised lingid, teheteavituse genereeritud kokkuvõtted, pildid ja vestlusvastused. Veebiotsingu tulemitel põhinevad kokkuvõtted ja vestlusvastused sisaldavad vastuse all viiteid ja jaotist "Lisateave" koos vastuste kuvamiseks kasutatud otsingutulemite linkidega. Kasutajad saavad klõpsata neid linke, et saada lisateavet mõne teema ja kokkuvõtte või tekstvestluse vastuse aluseks oleva teabe kohta.
Copiboti keskkonnas saavad kasutajad veebiotsinguid vestluspõhiselt sooritada, lisades viibale konteksti ja suhtledes süsteemi vastustega, et täpsustada otsinguhuvisid. Näiteks võib kasutaja esitada järeltegevusega seotud küsimusi, küsida täpsemat selgitavat teavet või vastata süsteemile vestlus teel. Vestluskogemuses saavad kasutajad valida vastuse ka eelkirjutatavatest soovitustest, mida nimetatakse vestlussoovitusteks. Need nupud kuvatakse Copilot'i iga vastuse järel ja pakuvad soovitatud viipasid vestluses vestluse jätkamiseks. Vestlussoovitused kuvatakse otsingutulemite lehel kokkuvõetud sisu kõrval ka vestluskogemuse alguspunktina.
Copilot Bingis võimaldab kasutajal Bingi abiga luua lugusid, luuletusi, laulusõnu ja pilte. Kui Copilot Bingis tuvastab kasutaja kavatsust loomesisu genereerida (näiteks viip algab "kirjuta mind ..."), genereerib süsteem enamasti sisu, mis reageerib kasutaja viibale. Samamoodi, kui Copilot Bingis tuvastab kasutaja kavatsust genereerida pilt (näiteks viip algab "joonista mind ..."), genereerib süsteem enamikul juhtudel kasutaja viibale reageeriva pildi. Visual Search in Chat experience, with an image taken by the user's camera, uploaded from the user's device, or linked from the web, users can prompt Copilot Bingis to understand the context, interpret, and answer questions about the image. Samuti saavad kasutajad laadida oma failid Coplot'i üles, et nendest teavet tõlgendada, teisendada, töödelda või arvutada. Microsoft Designer kasutuskogemuses, millele kasutajad pääsevad juurde Copilot Bingis, saavad kasutajad tõmmiseid genereerida viipade abil, vaid muuta ka nende suurust või neid taastada või redigeerida (nt tausta hägustada või värve erksamaks muuta).
Microsofti kontodega (MSA) kasutajatel on nüüd võimalus tellida ka Copilot Pro, mis pakub täiustatud kasutuskogemust, sealhulgas kiirendatud jõudlust ja kiiremat tehisintellektipiltide loomist. Copilot Pro on praegu saadaval piiratud riikides ja plaanime Copilot Pro peagi suuremal turul kättesaadavaks teha.
Copilot Pro kohta leiate lisateavet siit.
Copilot Bingis püüab pakkuda mitmekülgseid ja kõikehõlmavaid otsingutulemeid, pühendudes vabale ja avatud juurdepääsule teabele. Samal ajal hõlmavad meie toodete kvaliteedialased jõupingutused tööd, et vältida tahtmatult kasutajatele kahjuliku sisu reklaamimist. Lisateavet selle kohta, kuidas Bingi sisu reastab, sealhulgas selle kohta, kuidas see määratleb asjakohasuse ning veebilehe kvaliteedi ja usaldusväärsuse, on saadaval "Bingi veebiülema juhistes". Lisateavet Bingi sisu modereerimise põhimõtete kohta leiate jaotisest "Kuidas Bingi abil otsingutulemeid pakutakse".
Copilot Windowsis kasutamise korral saab Copilot Bingis Windowsi opsüsteemiga töötada, et pakkuda Windowsi-kohaseid oskusi ,nt muuta kasutaja kujundust või tausta ning muuta sätteid (nt heli, Bluetooth ja võrgundus). Need funktsioonid võimaldavad kasutajal konfigureerida oma sätteid ja parandada oma kasutuskogemust, kasutades LLM-i loomuliku keele viipasid. Rakendusekohaseid funktsioone saab pakkuda ka muude tootjate rakenduste lisandmoodulitest. Need võivad automatiseerida korduvaid ülesandeid ja suurendada kasutajate tõhusust. Kuna LLM-id võivad aeg-ajalt vigu teha, kuvatakse asjakohased kasutaja kinnitusviibad, et kasutaja oleks lõplik muudatuste arbiter, mida saab teha.
Riskide tuvastamine, mõõtmine ja leevendamine
Nagu muud transformatsioonitehnoloogiad, ei ole ka tehisintellekti eeliste kasutamine riskivaba ning Microsofti vastutustundliku tehisintellekti programmi põhiosa on mõeldud võimalike riskide tuvastamiseks, nende edukuse mõõtmiseks ja nende lahendamiseks leevendusmeetmete loomiseks. Juhindudes oma tehtevõime põhimõtetest ja vastutustundlikust tehtevõime standardist, püüdsime välja selgitada, mõõta ja leevendada Copilot Bingis võimalikke riske ja väärkasutamist, kindlustades samas uue kogemuse ümberkujundava ja kasuliku kasutuskogemuse. Alltoodud jaotistes kirjeldame oma iteratiivset lähenemisviisi võimalike riskide tuvastamiseks, mõõtmiseks ja leevendamiseks.
Mudeli tasandil algas meie töö GPT-4 katsetuslike analüüsidega 2022. aasta suve lõpus. See hõlmas koostöös OpenAI-ga ulatuslikku testimist sõltumatute tiimide abil. Nende testide eesmärk oli hinnata, kuidas uusim tehnoloogia töötaks, kui sellele ei rakendataks täiendavaid kaitsemeetmeid. Meie konkreetne eesmärk oli toota kahjulikke vastuseid, leida võimalusi väärkasutuseks ning tuvastada selle võimalusi ja piiranguid. Meie openAI ja Microsofti kombineeritud õppematerjalid aitasid mudelite arendamisel edasi areneda ning microsofti jaoks teavitasid meid ohtudest ja andsid oma panuse Copilot'i varajastesse leevendusstrateegiatesse Bingis.
Lisaks mudelitaseme punase töörühma testimisele viis mitme valdkonda hõlmav ekspertide meeskond läbi mitmeid rakendusetaseme punast meeskonna testimist Copilot Bingis tehtevõime kasutuskogemuste kohta, enne kui nad meie piiratud väljaande eelvaates avalikuks teevad. See protsess aitas meil paremini mõista, kuidas vaenulikud osalejad saaksid süsteemi ära kasutada ja saime sellega oma leevendusi parendada. Uue Bingi funktsioonide nõrki kohti ja puudusi hindasid ka mittevaenulikud stressitestijad. Pärast väljalaset integreeritakse Bingi uued tehisintellektilahendused Bingi tehnilise organisatsiooni olemasolevasse tootmise mõõtmise ja testimise taristusse. Näiteks üritavad erinevate piirkondade erinevate taustadega sõltumatud testijad pidevalt ja süsteemselt süsteemi ohustada ning nende tulemusi kasutatakse süsteemi täiustamiseks kasutatavate andmekomplektide laiendamiseks.
Punased meeskonna testimised ja stressitestid võivad esile tuua spetsiifilisi riske, kuid tootmiskasutajatel on miljoneid eri liiki vestlusi Copilot Bingis. Lisaks on vestlused mitme osalejaga ja kontekstipõhised ning vestluses oleva kahjuliku sisu tuvastamine on keeruline ülesanne. Selleks et paremini mõista ja käsitleda Copilot Bingis tehisintellekti kogemustega kaasnevaid riske, töötasime välja nendele uutele tehisintellektikogemustele omased täiendavad vastutustundlikud tehisintellektimõõdikud, et mõõta võimalikke ohte, nagu vanglahäired, kahjulik sisu ja tahtmatu sisu. Lubasime ka skaleeritavaid mõõtmisi osaliselt automatiseeritud mõõtekonveierite kaudu. Iga kord, kui toode muutub, värskendatakse olemasolevaid leevendusi või pakutakse välja uusi leevendusi, värskendame ka oma mõõtekonveiereid, et hinnata nii toote jõudlust kui ka vastutustundliku tehisintellekti mõõdikuid.
Näitena on värskendatud osaliselt automatiseeritud mõõtühikute konveier kahjuliku sisu jaoks kaks suurt uuendust: vestluste simulatsioon ja automatiseeritud, inimkontrollitud vestluste marginaal. Esiteks koostasid vastutavad tehtevõimeeksperdid mallid vestluste struktuuri ja sisu jäädvustamiseks, mis võivad põhjustada erinevat tüüpi kahjulikku sisu. Need mallid anti seejärel vestlusagendile, kes suhtles hüpoteetilise kasutajana Copilot Bingis, genereerides simuleeritud vestlusi. Selleks et teha kindlaks, kas need simuleeritud vestlused sisaldasid kahjulikku sisu, võtsime vastu juhised, mida asjatundjad kasutavad tavaliselt andmete siltide sildistamiseks ja muutsid neid GPT-4 abil vestlustele mastaabis siltide sildistamiseks, viimistledes juhiseid, kuni mudelipõhised vestlused ja inimsildistatud vestlused olid omavahel olulisel määral ühel meelel. Lõpuks kasutasime mudelipõhiseid vestlusi, et arvutada vastutustundlik tei-mõõdik, mis kajastab Copilot Bingis tõhusust kahjuliku sisu leevendamisel.
Meie mõõtekonveierid võimaldavad meil kiiresti võimalikke riske skaleerituna mõõta. Samal ajal kui me tuvastame eelvaateperioodi ja pideva sõltumatute tiimide testimise kaudu uusi probleeme, jätkame ka mõõtekomplektide laiendamist, et hinnata täiendavaid riske.
Samal ajal kui me tuvastasime võimalikke riske ja väärkasutust selliste protsesside kaudu nagu sõltumatute tiimide testimine ja stressitestid ning mõõtsime neid ülalkirjeldatud uuenduslike lähenemisviisidega, töötasime välja ka täiendavad leevendused neile, mida kasutatakse traditsioonilise otsingu jaoks. Allpool kirjeldame mõnda neist leevendusmeetmetest. Jätkame Copilot Bingis tehtevõime kasutuskogemuse jälgimist, et parandada toote jõudlust ja leevendusi.
Järkjärguline vabastamine, pidev hindamine. Oleme pühendunud oma vastutustundliku tehisintellekti lähenemise puhul pidevale õppimisele ja täiustamisele, samal ajal kui meie tehnoloogiad ja kasutajate käitumine arenevad. Meie astmeline väljalaskestrateegia on olnud põhiosa sellest, kuidas me teisaldame oma tehnoloogia ohutult laboritest maailma, ning me oleme pühendunud tahtlikule ja läbimõeldud protsessile, et kindlustada Copilot Bingis eelised. Eelvaateperioodi ajal juurdepääsuga inimeste arvu piiramine on võimaldanud meil uurida, kuidas inimesed Copilot Bingis kasutavad (sh kuidas inimesed võivad seda väärkasutada), et saaksime enne laiemat väljaannet tekkivaid probleeme leevendada. Näiteks nõuame kasutajatelt enne uue Bingi täieliku kasutuskogemuse kasutamist autentimist oma Microsofti kontoga. Autentimata kasutajad pääsevad juurde ainult piiratud eelvaateversioonile. Need sammud pärsivad kuritarvitamist ja aitavad meil (vastavalt vajadusele) võtta asjakohaseid meetmeid vastavalt käitumiskoodeksi rikkumistele. Muudame Copilot Bingis iga päev, et parandada toote jõudlust, parandada olemasolevaid leevendusi ja rakendada eelvaateperioodi jooksul uusi leevendusi, mis reageerivad meie õpitele.
Otsingutulemite alused. Nagu eespool märgitud, on Copilot Bingis mõeldud veebiotsingutulemites sisalduva teabe poolt toetatud vastuste pakkumiseks, kui kasutajad otsivad teavet. Näiteks on süsteem varustatud tekstiga ülemistest otsingutulemitest ja juhised metaprompti kaudu, et selle vastus aluse võtta. Veebist pärit sisu summeerimisel võib Copilot Bingis siiski lisada vastusesse teavet, mida tema sisendallikates pole. Teisisõnu võib see anda tahtmatuid tulemusi. Meie varajased hindamised on näidanud, et tahtmatute tulemite tekstvestlused võivad teatud tüüpi viipade või teemade puhul olla valdavamad kui muud, näiteks küsida matemaatilisi arvutusi, finants- või turuteavet (nt ettevõtte sissetulek, börsitulemusandmed) ja teavet, näiteks sündmuste täpseid kuupäevi või kauba erihindu. Kasutajad peaksid alati olema ettevaatlik ja kasutama summeeritud otsingutulemite vaatamisel alati oma hinnangut, olgu need siis otsingutulemite lehel või vestluskogemuses. Oleme võtnud mitmeid meetmeid, et leevendada riski, et kasutajad võivad kokkuvõttestsenaariumide ja vestluskogemuste korral loota üleastumiseks etteteatamata genereeritud sisule. Näiteks Copilot Bingis vastustes, mis põhinevad otsingutulemitel, sisaldavad viiteid lähteveebsaitidele, kus kasutajad saavad vastust kontrollida ja lisateavet. Kasutajatele antakse ka selgesõnaline teade selle kohta, et nad suhtlevad tehisintellekti sisaldava süsteemiga ja soovitatav on kontrollida veebitulemi allika materjale, mis aitab neil parimal viisil otsuseid langetada.
Tehisintellektipõhised liigitajad ja metaviipade loomine, et leevendada võimalikke riske või väärkasutamist. Suurte keelemudelite kasutamine võib tekitada problemaatilist sisu, mis võib põhjustada riske või väärkasutamist. Näideteks võivad olla enesevigastamisele, vägivallale, häirivale sisule, intellektuaalsele omandile, ebatäpsele teabele, vihakõnele või ebaseaduslikele tegevustele viitavad sisud. Liigitajad ja metaviipade loomine on kaks näidet leevendusmeetmetest, mida on rakendatud Copilot Bingis, et aidata vähendada seda tüüpi sisu ohtu. Liigitajad liigitavad teksti, et märkida otsingupäringutes, vestlusviipades või genereeritud vastustes ära erinevat tüüpi potentsiaalselt kahjulik sisu. Bing kasutab tehtemärke ja sisufiltreid, mis rakenduvad kõigile otsingutulemitele ja asjakohastele funktsioonidele; koostasime täiendavad viibaklassifikaatorid ja sisufiltrid, et tegeleda Copilot Bingis funktsioonidega kaasnevate võimalike riskidega. Lipud põhjustavad võimalikke leevendusi, näiteks ei tagastata kasutajale genereeritud sisu, suunatakse kasutaja ümber mõnele muule teemale või suunatakse kasutaja ümber traditsioonilisse otsingusse. Metaviipade loomine hõlmab mudelile juhiste andmist selle käitumise juhtimiseks, sealhulgas nii, et süsteem käituks vastavalt Microsofti tehisintellekti põhimõtetele ja kasutajate ootustele. Näiteks võib metaprompt sisaldada joont, näiteks "suhtle kasutaja valitud keeles".
Privaatsuse kaitsmine Copilot Bingis Visuaalotsingus. Kui kasutajad laadivad vestluseviiba osana üles pildi, kasutab Copilot Bingis enne pildi teheteavituse mudelisse saatmist näo hägustamise tehnoloogiat. Näo hägustumist kasutatakse pildil olevate isikute privaatsuse kaitsmiseks. Näo hägune tehnoloogia toetub konteksti vihjetele, et teha kindlaks, kuhu hägustada ja mis proovib hägustada kõiki nägusid. Kui näod on hägustatud, võib tehtevõime mudel võrrelda sisestatud pilti Internetis avalikult kättesaadavate piltidega. Selle tulemusena võib Copilot Bingis olla võimeline tuvastama kuulsa korvpallimängija selle mängija fotolt korvpalliväljakul, luues numbrilise kujutise, mis kajastab mängija kampsuni numbrit, jersey värvi, korvpallikonksu olemasolu jne, Copilot Bingis ei salvesta üleslaaditud piltide inimeste arvulisi kujutisi ega jaga neid kolmandate osapooltega. Copilot Bingis kasutab kasutajate üleslaaditavate piltide arvulisi kujutisi üksnes kasutajate viipadele vastamiseks, seejärel kustutatakse need 30 päeva jooksul pärast vestluse lõppu.
Kui kasutaja küsib Copilot Bingis teavet üleslaaditud pildi kohta, võivad vestluse vastused kajastada näo hägustumist mudeli võimele anda teavet üleslaaditud pildi kohta. Näiteks võib Copilot Bingis kirjeldada kedagi uduse näoga.
Vestluste triivimise piiramine. Eelvaateperioodi jooksul saime teada, et väga pikad vestlusseansid võivad anda vastuseid, mis on korduvad, abitud või vastuolus Copilot Bingis ettenähtud tooniga. Vestlusseansiga tegelemiseks piirasime iga vestluseseansi korral pöörete arvu (vahetused, mis sisaldavad nii kasutaja küsimust kui ka Copilot Bingis vastust). Jätkame selle probleemi leevendamiseks täiendavate lähenemisviiside hindamist.
Viip rikastamine. Mõnel juhul võib kasutaja viip olla mitmetähenduslik. Sel juhul võib Copilot Bingis kasutada LLM-i, et aidata viipades üksikasjalikumat teavet koostada, et tagada kasutajatele otsitava vastuse saamine. Selline viipade rikastamine ei sõltu kasutaja teadmistest ega nende eelnevatest otsingutest, vaid tehisintellekti mudelist. Need muudetud päringud kuvatakse kasutaja vestluste ajaloos ja nagu muid otsinguid, saab neid ka tootesiseste juhtelementide abil kustutada.
Kasutajakeskne disain ja kasutuskogemuse sekkumised. Kasutajakeskne kujundus ja kasutuskogemus on Microsofti lähenemisviisi oluline osa vastutustundlikule teipimisele. Eesmärk on juurutada toote disain kasutajate vajadustest ja ootustest lähtuvalt. Kuna kasutajad suhtlevad Copilot Bingis esimest korda, pakume mitmesuguseid puutepunkte, mis aitavad neil mõista süsteemi võimalusi, avaldada neile, et Copilot Bingis toetab tehtevõimet, ja suhtleme piirangutega. See funktsioon aitab kasutajatel Copilot Bingis võimalikult palju ära kasutada ja minimeerida ületäituvuse ohtu. Selle funktsiooni elemendid aitavad kasutajatel paremini mõista Copilot Bingis ja nendega suhtlemist. Need hõlmavad vestlussoovitusi, mis on seotud vastutustundliku tehtevõimega (nt kuidas Bing tei-sid kasutab? Miks ei Copilot Bingis mõnel teemal vastata?), piirangute selgitused, viisid, kuidas kasutajad saavad lisateavet süsteemi toimimise ja tagasiside kohta ning hõlpsalt navigeeritavad viited, mis kuvatakse vastustes, et näidata kasutajatele tulemeid ja lehti, millel vastused on alusestatud.
Tehtevõime avalikustamine. Copilot Bingis pakub mitmesuguseid puutepunkte teimi sisuliseks avaldamiseks, kui kasutajaid teavitatakse tehtevõime süsteemiga suhtlemisest, ning võimalusi saada lisateavet Copilot Bingis kohta. Nende teadmiste abil kasutajate võimestamine aitab kasutajatel vältida liigset tuginemist tehisintellektile ning saada teavet süsteemi tugevuste ja piirangute kohta.
Meediumi lähtekoht.Microsoft Designer on lubanud funktsiooni "Sisu identimisteave", mis kasutab krüptograafilisi meetodeid kõigi Designer loodud tei-genereeritud piltide allika ehk lähtekoha märkimiseks. Nähtamatu digitaalne vesimärgifunktsioon näitab algse loomise allikat, kellaaega ja kuupäeva ning seda teavet ei saa muuta. Tehnoloogia kasutab sisu ja autentsuse koalitsiooni (C2PA) kehtestatud standardeid, et lisada tehtemärke genereeritavatele piltidele täiendav usaldus- ja läbipaistvuskiht. Microsoft on C2PA kaasautor ja panustanud digitaalse sisu lähtekoha põhitehnoloogiasse.
Kasutustingimused ja käitumiskoodeks. See ressurss reguleerib Copilot'i kasutamist Bingis. Kasutajad peaksid järgima kasutustingimusi ja käitumiskoodeksit, mis muu hulgas teavitavad neid lubatud ja lubamatusest ning tingimuste rikkumise tagajärgedest. Kasutustingimustega antakse kasutajatele ka täiendavaid avalikustamisi ja need on kasutajatele käepäraseks viiteks Copilot Bingis kohta teabe saamiseks.
Operatsioonid ja kiire reageerimine. Samuti kasutame Copilot Bingis pidevaid seire- ja operatiivprotsesse, et lahendada, millal Copilot Bingis signaale saab, või saada aruande, mis näitab kasutustingimuste või käitumiskoodeksi võimalikku väärkasutamist või rikkumist.
Tagasiside, jälgimine ja järelevalve. Copilot Bingis kasutuskogemus tugineb olemasolevatele tööriistadele, mis võimaldavad kasutajatel esitada tagasisidet ja teatada probleemidest, mille on läbi vaadanud Microsofti operatsioonimeeskonnad. Bingi tööprotsessid on laiendatud ka Copilot Bingis funktsioonidele vastavaks, näiteks värskendatakse lehte "Teata probleemist", et kaasata mudeli abil kasutajate loodud uut tüüpi sisu.
Meie lähenemisviis ohtude tuvastamisele, mõõtmisele ja leevendamisele areneb edasi, kui saame rohkem teada, ning teeme juba eelvaateperioodil kogutud tagasiside põhjal parandusi.
Automaatne sisutuvastus. Kui kasutajad laadivad pilte üles vestluse viiba osana, juurutab Copilot Bingis tööriistad laste seksuaalse ärakasutamise ja kuritarvitamise (CSEAI) tuvastamiseks, eriti PhotoDNA räsivaste tehnoloogiaga. Microsoft töötas välja PhotoDNA, mis aitab leida tuntud CSEAI duplikaadid. Microsoft teatab kadunud ja ekspluateeritud laste riiklikule keskusele (NCMEC) ilmnest CSEAI-st, nagu on nõutud USA seadustes. Kui kasutajad laadivad analüüsimiseks või töötlemiseks faile üles, juurutab Copilot automaatse skannimise, et tuvastada sisu, mis võib põhjustada riske või väärkasutust (nt tekst, mis võib olla seotud ebaseadusliku tegevuse või pahatahtliku koodiga).
Privaatsuse kaitsmine
Microsofti pikaajaline veendumus, et privaatsus on põhiline inimõigus, on microsofti arengu ja Copilot Bingis juurutamise igast etapist teavitanud. Meie kohustused kaitsta kõigi kasutajate privaatsust, sealhulgas tagades üksikisikutele läbipaistvuse ja kontrolli oma andmete üle ning integreerides privaatsuse andmete minimeerimise ja eesmärgipiirangute kaudu, on Copilot Bingis. Arendades oma lähenemist Copilot Bingis generatiivsete teheteavituskogemuste pakkumisele, uurime pidevalt, kuidas kõige paremini privaatsust kaitsta. Seda dokumenti värskendatakse samamoodi. Lisateavet selle kohta, kuidas Microsoft kaitseb meie kasutajate privaatsust, leiate Microsofti privaatsusavaldusest.
Copilot Windowsis kasutamise korral võivad Windowsi oskused oma funktsionaalsuse osana vestlusvestluses jagada kasutajateavet. See kehtib kasutaja heakskiidu kohta ja kuvatakse kasutajaliidese viibad, mis kinnitavad kasutaja kavatsust enne kasutajateabe jagamist vestlusevestlusega.
Microsoft arvestab jätkuvalt laste ja noorte vajadustega, mis on osa Copilot Bingis uutegeneratiivsete tehisintellektifunktsioonide riskihindamistest. Kõik Microsofti lapsekontod, mis tuvastavad kasutaja alla 13-aastaseks või kohalike seadustega määratud viisil, ei saa uue Bingi täieliku kasutuskogemuse kasutamiseks sisse logida.
Nagu eespool kirjeldatud, oleme kõigi kasutajate jaoks rakendanud kaitsemeetmed, mis leevendavad potentsiaalselt kahjulikku sisu. Copilot Bingis korral määratakse tulemused bingi turvalise otsingu ranges režiimis, millel on bingi põhiotsingus kõrgeim ohutustase, takistades seega kasutajatel, sealhulgas teismeliste kasutajatel potentsiaalselt kahjuliku sisuga kokku puutumast. Lisaks selles dokumendis esitatud teabele ja KKK-le vestlusfunktsioonide kohta leiate lisateavet selle kohta, kuidas Copilot Bingis töötab, et vältida ootamatu solvava sisuga reageerimist otsingutulemites, leiate siit.
Microsoft on võtnud endale kohustuse mitte pakkuda veebikäitumisel põhinevaid isikupärastatud reklaame lastele, kelle Microsofti kontol olev sünnikuupäev tuvastab, et nad on alla 18-aastased. See oluline kaitse laieneb Copilot Bingis funktsioonide reklaamidele. Kasutajad võivad näha kontekstipõhiseid reklaame, mis põhinevad bingi kasutamise päringul või viibal.
Generatiivse tehisintellekti muundava potentsiaali avamiseks peame suurendama usaldust tehnoloogia vastu, andes üksikisikutele õiguse mõista, kuidas nende andmeid kasutatakse, ning pakkuda neile mõtestatud valikuid ja kontrolli nende andmete üle. Copilot Bingis eesmärk on prioriseerida inimagentuuri, andes teavet toote toimimise ja piirangute kohta ning laiendades meie töökindlaid tarbijavalikuid ja kontrolle Copilot Bingis funktsioonidele.
Microsofti privaatsusavaldus annab teavet meie klientide kaitsmise läbipaistvate privaatsustavade kohta ning sisaldab teavet juhtelementide kohta, mis annavad kasutajatele võimaluse oma isikuandmeid vaadata ja hallata. Selleks et tagada, et kasutajatel oleks Bingi uute vestlusfunktsioonidega suhtlemisel vajalik teave, teavitame tootesiseselt kasutajaid sellest, et nad kasutavad tehtevõimelist toodet, ning pakume linke täiendavatele KKK-dele ja selgitustele nende funktsioonide toimimise kohta. Microsoft jätkab kasutajate tagasiside kuulamist ja lisab üksikasjalikumat teavet Bingi vestlusfunktsioonide kohta, et aidata mõista toote toimimist.
Microsoft pakub oma kasutajatele töökindlaid tööriistu oma õiguste kasutamiseks isikuandmete üle. Copilot Bingis kogutavate andmete (sh kasutajapäringute ja viipade kaudu) jaoks pakub Microsofti privaatsussätete ja -teabe armatuurlaud autenditud (sisselogitud) kasutajatele tööriistu andmesubjekti õiguste kasutamiseks, sh võimaldades kasutajatel talletatud vestluste ajalugu vaadata, eksportida ja kustutada. Microsoft jätkab tagasisidet selle kohta, kuidas nad soovivad hallata oma uut Bingi keskkonda, sh kontekstisiseste andmehaldusfunktsioonide abil.
Copilot Bingis järgib ka Euroopa õiguse kohaseid taotlusi unustamiseks pärast seda, kui Microsoft töötas välja ja täiustas Bingi traditsioonilisi otsingufunktsioone. Kõik kasutajad saavad siin teatada genereeritud sisu ja vastustega seotud probleemidest ning meie Euroopa kasutajad saavad seda vormi kasutada päringute esitamiseks, et blokeerida otsingutulemid Euroopas õiguseta unustada.
Copilot Bingis järgib kasutajate privaatsusvalikuid( sh neid, mis on varem Bingis tehtud), näiteks nõusolekut andmete kogumiseks ja kasutamiseks, mida küsitakse microsofti privaatsussätete ja -teabe armatuurlaual saadaolevate küpsiste ribade ja juhtelementide kaudu. Selleks et aidata kasutajatel sõltumatust ja ametit teadlike otsuste tegemisel, oleme kasutanud oma sisemist läbivaatusprotsessi, et hoolikalt uurida, kuidas valikuid kasutajatele esitatakse.
Lisaks Microsofti privaatsuse armatuurlaua kaudu saadaolevatele juhtelementidele, mis võimaldavad kasutajatel vaadata, eksportida ja kustutada oma otsinguajalugu (sh vestlusajaloo komponendid), saavad autenditud kasutajad, kes on lubanud toote vestlusajaloo funktsiooni, vaadata, avada ja alla laadida vestlusajalugu tootesiseste juhtelementide kaudu. Kasutajad võivad vestlusajaloost kustutada konkreetseid tekstvestlusi või vestlusajaloo funktsiooni täielikult igal ajal välja lülitada, külastades Bingi sätete lehte. Isikupärastatud vastuste abil saavad kasutajad ka valida, kas lubada isikupärastamist, et pääseda juurde kohandatud kasutuskogemusele. Kasutajad saavad igal ajal Bingi sätete lehel vestluse sätetes isikupärastamisest loobuda. Konkreetsete tekstvestluste kustutamine vestlusajaloost takistab nende kasutamist isikupärastamiseks. Lisateavet vestluste ajaloo ja isikupärastamise kohta antakse kasutajatele Copilot Bingis KKK-des.
Copilot Bingis on loodud privaatsust silmas pidades, nii et isikuandmeid kogutakse ja kasutatakse ainult vastavalt vajadusele ning neid ei säilitata kauem, kui on vaja. Nagu eespool mainitud, juurutab Copilot Bingis visuaalne otsing mehhanismi, mis hägustab piltidel nägusid kasutajate üleslaadimise ajal, nii et näokujutisi ei töödelda ega salvestata. Lisateavet selle kohta, milliseid isikuandmeid Bingi kogub, kuidas neid kasutatakse ning kuidas neid talletatakse ja kustutatakse, leiate Microsofti privaatsusavaldusest, mis annab teavet ka Bingi uute vestlusfunktsioonide kohta.
Bingi Copilot'il on andmete säilitamise ja kustutamise poliitikad, mis aitavad tagada, et Bingi vestlusfunktsioonide kaudu kogutud isikuandmeid säilitatakse ainult nii kaua kui vaja.
Õpime ja arendame jätkuvalt oma lähenemisviisi, pakkudes Copilot Bingis, ning jätkame sel viisil oma valdkonnaülest tööd, et viia tehtevõime uuendused kooskõlla inimväärtuste ja põhiõigustega, sealhulgas kaitsta noori kasutajaid ja privaatsust.
Copilot äriandmete kaitsega
2023. aasta juulis avaldas Microsoft äriandmete kaitsega Copiloti, mida tunti varem nime all Bing Chat Enterprise ("BCE"), teatud M365 klientidele tasuta lisandmoodulina. Äriandmete kaitsega Copilot on tehtemärke täiustatud veebiotsingufunktsioon suurettevõtete lõppkasutajatele.
Nagu Copilot Bingis, saadetakse liidesesse viip, vahetu vestlus, populaarsemad otsingutulemid ja metaprompt, kui äriandmete kaitsega copilot sisestab liidesesse viiba. Mudel genereerib vastuse, kasutades viipa ja vahetut vestluste ajalugu taotluse kontekstikonteksti viimiseks, metaprompti, et viia vastused vastavusse Microsofti teostuspõhimõtete ja kasutajate ootustega ning otsingutulemid olemasoleva, kõrge asetusega veebisisu vastustega. See toimib sarnaselt Copilotiga Bingis, nagu on kirjeldatud selles dokumendis, erandiks on see, et Copilot äriandmete kaitsega sõltub ainult vahetust vestluste ajaloost (mitte hiljutisest vestluste ajaloost), kuna salvestatud vestluste ajalugu pole praegu toetatud. Designer ja Visuaalne otsing on nüüd selles versioonis saadaval.
Nagu muud transformatsioonitehnoloogiad, ei ole ka tehisintellekti eeliste kasutamine riskivaba ning Microsofti vastutustundliku tehisintellekti programmi põhiosa on mõeldud võimalike riskide tuvastamiseks, nende edukuse mõõtmiseks ja nende lahendamiseks leevendusmeetmete loomiseks. Eespool toodud kirjeldus Microsofti jõupingutuste kohta Copilot Bingis võimalike riskide tuvastamiseks, mõõtmiseks ja leevendamiseks kehtib ka selle versiooni kohta, koos selgitustega allpool kirjeldatud leevendusmeetmete kohta.
Järkjärguline vabastamine, pidev hindamine. Sarnaselt Copilot Bingiga oleme Copilot'i jaoks koos kommertsandmete kaitsega kasutanud ka astmelist väljalaskemeetodit. 18. juulil 2023 sai Copilot koos andmekaitsega tasuta eelvaateks tingimustele vastavatele ettevõtteklientidele, kellel on konkreetsed M365 kontod, et lülitada sisse oma ettevõtte lõppkasutajad. 30 päeva pärast tingimustele vastavate ettevõtteklientide teavitamist muutus Copilot koos äriandmete kaitsega samade klientide jaoks vaikesätteks. Copilot koos andmekaitsega on ka sellest ajast alates saadaval konkreetsetele haridustöötajate M365 kontodele. Äriandmete kaitsega Copilot sai teatud ettevõtteklientidele üldiselt kättesaadavaks 1. detsembril 2023. Tulevikus plaanime laiendada copilot-juurdepääsu äriandmete kaitsega rohkem Microsoft Entra ID kasutajatele.
Kasutustingimused ja käitumiskoodeks. Äriandmete kaitsega Copilot'i lõppkasutajad peavad järgima lõppkasutaja kasutustingimusi. Käesolevad kasutustingimused teavitavad lõppkasutajaid lubatud ja lubamatust kasutamisest ning tingimuste rikkumise tagajärgedest.
Operatsioonid ja kiire reageerimine. Samuti kasutame Copilot Bingis pidevaid seire- ja operatiivprotsesse, et lahendada, kui Copilot koos äriandmete kaitsega saab signaale või saab aruande, mis näitab lõppkasutaja kasutustingimuste võimalikku väärkasutamist või rikkumist.
Tagasiside, jälgimine ja järelevalve. Andmekaitsega Copilot kasutab kasutajatele tagasiside saatmiseks ja probleemidest teatamiseks samu tööriistu nagu Copilot Bingis, mille on läbi vaadanud Microsofti tegevusmeeskonnad. Copilot Bingis tööprotsessid on laiendatud, et need sobiksid Copiloti äriandmete kaitse funktsioonidega, näiteks värskendatakse lehte "Teata probleemist", et kaasataks uut tüüpi sisu, mille kasutajad mudeli abil loovad.
Tagamaks, et lõppkasutajatel on Coplotiga suhtlemisel äriandmete kaitsega vajalik teave, on selle dokumendi allservas saadaval tootedokumentatsioon, sh KKK ja Lisateave.
Juhised ja vastuseid, mille on genereerinud copilotis äriandmete kaitsega lõppkasutajad, töödeldakse ja salvestatakse vastavalt ettevõtte andmetöötlusstandarditele. Andmekaitse pakkumisega Copilot on praegu saadaval ainult suurettevõtetest klientidele ja nende autenditud täiskasvanud lõppkasutajatele, seega ei eelda me praegu, et lapsed või noored oleksid Copilot'i lõppkasutajad, kellel on äriline andmekaitse. Lisaks ei paku Copilot koos äriandmete kaitsega lõppkasutajatele mingit käitumist suunatud reklaami. Selle asemel on kuvatavad reklaamid ainult kontekstipõhiselt asjakohased reklaamid.
Lisateave
See dokument on osa Microsofti laiemast püüdlusest rakendada tehisintellekti põhimõtteid. Lisateavet leiate järgmistest teemadest.
Microsofti lähenemisviis vastutustundlikule tehtevõimele
Microsofti vastutustundlik tehtevõime standard
Microsofti vastutustundlikud tehtevõime ressursid
Microsoft Azure Learningu kursused vastutustundliku tehtevõime kohta
Teave selle dokumendi kohta
© 2023 Microsoft. Kõik õigused on reserveeritud. See dokument on esitatud kujul ja ainult informatiivsel eesmärgil. Selles dokumendis väljendatud teave ja vaated (sh URL ja muud Interneti-veebisaidi viited) võivad ette teatamata muutuda. Teie vastutate selle kasutamisega kaasnevate riskide eest. Mõned näited on mõeldud ainult illustreerimiseks ja on fiktiivsed. Ükski tegelik seos pole mõeldud ega tuletatud.
