Zadnja posodobitev: februar 2024
Osnove uporabe kopilota v storitvi Bing
Uvod
V februarju 2023 je Microsoft predstavil novo izkušnjo iskanja v spletu, ki je izboljšana z AI, storitvijo Bing. Podpira uporabnike tako, da povzame rezultate spletnega iskanja in zagotovi izkušnjo klepeta. Uporabniki lahko ustvarijo tudi ustvarjalno vsebino, kot so pesmi, šale, zgodbe in s Ustvarjalnik slik Bing. Nova storitev Bing, izboljšana z UI, deluje v različnih microsoftovih in naprednih tehnologijah, vključno z brskalnikom GPT-4, vrhunskim velikim jezikovnim modelom (LLM) in brskalnikom DALL-E, ki je model globokega učenja za ustvarjanje digitalnih slik iz opisov v naravnem jeziku, oboje iz funkcije OpenAI. Z obema modeloma smo mesece pred javno izdajo razvijali prilagojen nabor zmogljivosti in tehnik za pridružitev tej vrhunski tehnologiji AI in iskanju po spletu v novi storitvi Bing. Novembra 2023 je Microsoft novo storitev Bing preimenoval v Copilot v storitvi Bing.
Pri Microsoftu jemljemo svojo predanost odgovorni AI-jem resno. Izkušnja s copilotom v storitvi Bing je bila razvita v skladu z Microsoftovimi načeli uporabniškega vmesnika, Microsoftovim odgovornim standardom AI in v sodelovanju z odgovornimi strokovnjaki za AI v podjetju, vključno z Microsoftovim Uradom za odgovorno oceno uporabniške izkušnje, našimi inženirji, Microsoft Research in Aether. Več informacij o odgovorni storitvi AI pri Microsoftu lahko izveste tukaj.
V tem dokumentu smo opisali naš pristop k odgovorni storitvi AI za Copilot v storitvi Bing. Pred izdajo smo sprejeli najnaročnejše metode za prepoznavanje, merjenje in zmanjšanje potencialnih tveganj in zlorabe sistema ter za zaščita njegovih prednosti za uporabnike. Ker smo od prve izdaje še naprej razvijali Kopilot v storitvi Bing, smo se še naprej naučili in izboljševali svoja odgovorna prizadevanja za AI. Ta dokument se redno posodablja, da bo sporočal naše razvijajoče se procese in metode.
Ključni izrazi
Kopilot v storitvi Bing je izkušnja spletnega iskanja, izboljšana z vmesnikom AI. Ker deluje na zmogljivi, novi tehnologiji, najprej določimo nekaj ključnih izrazov.
Modeli strojnega učenja, ki pomagajo razvrščati podatke v označene razrede ali kategorije informacij. Na spletnem mestu Copilot v storitvi Bing lahko razrednike uporabljamo tako, da lažje zaznamo morebitno škodljivo vsebino, ki so jo predložili uporabniki ali ustvarili v sistemu, da bi zmanjšali ustvarjanje te vsebine in zlorabo ali zlorabo sistema.
Kopilot v storitvi Bing je podprt v rezultatih spletnega iskanja, ko uporabniki iščejo informacije. To pomeni, da usredinjamo odziv uporabnika na poizvedbo ali pozive k vsebini visoke razvrstitve iz spleta in zagotavljamo povezave do spletnih mest, tako da lahko uporabniki izvejo več. Bing razvrsti vsebino iskanja po spletu tako, da močno povteje funkcije, kot so ustreznost, kakovost in verodostojnost ter svežina. Te koncepte smo podrobneje opisali v članku Kako storitev Bing Iskanje rezultate (glejte »Kakovost in verodostojnost« v razdelku »Kako storitev Bing razvrsti Iskanje rezultati«).
Priporočamo, da so podprti odgovori rešitve Copilot v storitvi Bing, v katerih izjave podpirajo informacije v vnosnih virih, kot so rezultati spletnega iskanja iz poizvedbe ali poziva, bingov zbirka znanja podatkov, pregledanih de fact-checked, in za izkušnjo klepeta nedavna zgodovina pogovorov iz klepeta. Neozadnjeni odgovori so odgovori, v katerih izjava ni podprta v teh vnosnih virih.
Veliki jezikovni modeli v tem kontekstu so modeli UI, ki so usposobljeni za velike količine besedilnih podatkov za predvidevanje besed v zaporedjih. Navidezni računalniki lahko izvajajo različna opravila, kot so ustvarjanje besedila, povzemanje, prevajanje, razvrstitev in drugo.
Metaprompt je program, ki služi za vodenje delovanja sistema. Deli metaprompta pomagajo uskladiti delovanje sistema z Microsoftovimi načeli uporabniškega vmesnika in pričakovanji uporabnikov. Metaprompt lahko na primer vključuje vrstico, kot je »komunikacija v jeziku izbire uporabnika«.
Način ali kombinacija metod, zasnovanih za zmanjšanje morebitnih tveganj, do katerih lahko pride pri uporabi funkcij, ki temeljijo na AI, v kopilotu v storitvi Bing.
Besedilo, glas, slike in/ali druge omogočene poizvedbe, ki jih uporabnik pošlje storitvi Bing kot vnos v model, ki omogoča uporabo novihgenerativnih izkušenj, ki temeljijo na AI, v storitvi Bing. Uporabnik lahko na primer vnesete ta poziv:
"Načrtujem potovanje za našo obletnico septembra. Kaj je nekaj krajev, ki jih lahko gremo, da so v 3-urni let iz London Heathrow?”
Besedilo, ki ga uporabnik pošlje storitvi Bing iz iskalne vrstice za iskanje v spletu. V tem dokumentu ločimo poizvedbo (za iskanje po spletu) od poziva (zagenerativne izkušnje, ki temeljijo na AI, v storitvi Bing). Uporabnik lahko na primer za iskanje v spletu vnesete to poizvedbo:
"travel destinations near London Heathrow airport"
Tehnike, ki jih uporabljajo strokovnjaki za oceno omejitev in ranljivosti sistema ter za preskušanje učinkovitosti načrtovanih ublažitev posledic. Red team testing and stress-testing se uporabljajo za prepoznavanje potencialnih tveganj in se razlikujejo od sistematičnega merjenja tveganj.
Besedilo, slike, grafikoni itd., ki jih copilot v storitvi Bing prikaže kot odziv na poziv. Sopomenke za »odgovor« vključujejo »dokončanje«, »generacijo« in »odgovor«. Storitev Bing lahko na primer na poziv, ki smo ga uporabili v definiciji poziva, posreduje naslednji odgovor:
Čestitamo za obletnico. Obstaja veliko krajev, ki jih lahko obiščete, ki so v 3-urni let iz London Heathrow. Po enem viru, nekateri od vikenda pobegne v roku treh ur z letalom iz Londona so Bilbao, Kopenhagen, Reykjavik, in Stockholm 1, 2. Drugi vir kaže, da so v septembru v Evropi najhuje mesto v Krakovu, Firencah in Lizboni 3, 4. Prav tako lahko preverite neposredne lete iz London Heathrow na različne destinacije in videli, kaj je privlačno za vas 5. Upam, da imate čudovito potovanje!”
Predvidena uporaba in nove izkušnje ZI
Kopilot v storitvi Bing, ki je namenjen uporabi, je povezovanje uporabnikov z ustreznimi rezultati iskanja, pregled rezultatov iz spleta za iskanje in povzemanje odgovorov, ki jih iščejo uporabniki, pomoč uporabnikom pri natančnejšem nadaljevanju raziskav za pridobivanje odgovorov z izkušnjo klepeta in iskrivje ustvarjalnosti, tako da pomaga uporabnikom ustvariti vsebino. Kopilot v bingovi izkušnjah z generativno AI podprite cilj, da bo kopilot, ki uporablja energijo AI, za splet.
Povzetka. Ko uporabniki v storitvi Copilot v storitvi Bing predložijo iskalno poizvedbo, sistem Bing obdela poizvedbo, izvede eno ali več spletnih iskanih poizvedb in uporabi najboljše rezultate spletnega iskanja, da ustvari povzetek informacij, ki jih predstavi uporabnikom. Ti povzetki vključujejo sklice, ki uporabnikom pomagajo pri ogledu in preprostem dostopu do rezultatov iskanja, ki se uporabljajo za lažje ustvarjanje povzetka. Povzetki so lahko prikazani na desni strani strani z rezultati iskanja in v izkušnji klepeta.
Izkušnja klepeta. Poleg povzetka lahko uporabniki klepetajo z rešitvijo Copilot v sistemu Bing prek besedila, slike ali glasovnega vnosa, zastavite nadaljnja vprašanja, da pojasnite iskanja in poiščete nove informacije, ter pošljete pozive za ustvarjanje ustvarjalne vsebine. Sklici so vključeni tudi v izkušnjo klepeta, ko Kopilot v storitvi Bing povzema rezultate iskanja v odgovoru.
Ustvarjanje ustvarjalne vsebine. V izkušnji klepeta in na strani za iskanje lahko uporabniki s pomočjo rešitve Copilot v storitvi Bing ustvarjajo pesmi, šale, zgodbe, slike in drugo vsebino. Slike ustvari aplikacija Designer (nekdanja različica storitve Bing Ustvarjalnik slik), uporabniki pa lahko do funkcije dostopajo prek Designer domače strani in strani programa Copilot.
Kako zdravilo Copilot v storitvi Bing deluje?
S kopilotom v storitvi Bing smo razvili inovativen pristop k iskanju po spletu. Ko uporabnik v storitvi Copilot v storitvi Bing vnese poziv, so poziv, nedavna zgodovina pogovorov, metaprompt in najpogostejši rezultati iskanja poslani kot vnosi v upravljanje digitalnih storitev. Model ustvari odgovor z uporabo uporabnikovega poziva in zgodovine nedavnih pogovorov za kontekstno določanje zahteve, metaprompt za poravnavo odgovorov z Microsoftovimi načeli uporabniškega vmesnika in pričakovanji uporabnikov ter rezultati iskanja na podlagi odzivov v obstoječi, visoki vsebini iz spleta.
Odgovori so predstavljeni uporabnikom v različnih oblikah, na primer tradicionalnih povezav do spletne vsebine, povzetkov, ustvarjenih z AI, slik in odgovorov na klepet. Povzetki in odgovori v klepetu, ki temeljijo na rezultatih spletnega iskanja, bodo vključevali sklice in razdelek »Več o tem« pod odgovori s povezavami do rezultatov iskanja, ki so bili uporabljeni kot podlaga za odgovor. Uporabniki lahko kliknejo te povezave, če želite izvedeti več o temi in informacije, ki so podlaga za povzetek ali odziv klepeta.
V izkušnji s storitvijo Copilot lahko uporabniki opravljajo spletna iskanja v pogovoru tako, da v poziv dodajo kontekst in komunicirajo s sistemskimi odzivi, da podrobneje določijo njihova zanimanja za iskanje. Uporabnik lahko na primer postavlja nadaljnja vprašanja, zahteva dodatno pojasnila informacij ali pa odgovori na sistem na način pogovora. V izkušnji klepeta lahko uporabniki izbrali tudi odgovor iz vnaprej pisnih predlogov, ki jih imenujemo predlogi klepeta. Ti gumbi se prikažejo po vsakem odzivu rešitve Copilot in ponudijo predlagane pozive za nadaljevanje pogovora v izkušnji klepeta. Predlogi za klepet so prikazani poleg povzete vsebine na strani z rezultati iskanja kot vstopna točka za izkušnjo klepeta.
Kopilot v storitvi Bing omogoča uporabniku tudi ustvarjanje zgodb, pesmi, besedila pesmi in slik s pomočjo storitve Bing. Ko ko kopilot v storitvi Bing zazna uporabnikov namen, da ustvari ustvarjalno vsebino (poziv se na primer začne z »napišite mi ...«), bo sistem v večini primerov ustvaril vsebino, ki se odziva na uporabnikov poziv. Ko ko kopilot v storitvi Bing zazna uporabnikov namen, da ustvari sliko (poziv se na primer začne z »nariši mi ...«), bo sistem v večini primerov ustvaril sliko, ki se odziva na uporabnikov poziv. V vizualni Iskanje v izkušnji klepeta, s sliko, ki jo posname uporabnikova kamera, prenesena iz naprave uporabnika ali povezana s spletom, lahko uporabniki pozovejo kopilot v storitvi Bing, da razume kontekst, razlaga in odgovarja na vprašanja o sliki. Uporabniki lahko svoje datoteke prenesejo tudi v Kopilot, da si lahko razlagajo, pretvarjajo, obdelujejo ali izračunajo informacije. V izkušnji s storitvijo Microsoft Designer, do katere lahko uporabniki dostopajo prek rešitve Copilot v storitvi Bing, uporabniki ne bodo mogli ustvariti le slik s pozivi, ampak tudi spremeniti velikost ali jih znova pisati ali urejati, na primer zamegliti ozadje ali narediti barve bolj žive.
Uporabniki z Microsoftovimi računi (MSA) imajo zdaj tudi možnost, da se naročijo na Copilot Pro, ki ponuja izboljšano izkušnjo, vključno s pospešeno učinkovitostjo delovanja, hitrejšim ustvarjanjem slik Z AI in kmalu z možnostjo ustvarjanja lastne kopilotne grafične kartice. Copilot Pro je trenutno na voljo v omejenih državah in načrtujemo, da bodo kmalu Copilot Pro na voljo na več trgih.
V izkušnji s copilotom lahko uporabniki dostopajo do skupin skupin kopilota. Copilot GPT, kot je Designer GPT, je različica rešitve Microsoft Copilot po meri na temi, ki vas še posebej zanima, kot so vadba, potovanje in kuhanje, ki lahko nejasne ali splošne zamisli pretvorijo v bolj specifične pozive z rezultati, vključno z besedili in slikami. V kopilotu si lahko uporabniki ogledajo kopilotove gpte, uporabniki z računi za Copilot Pro pa bodo kmalu imeli dostop do graditelja Copilot GPT Builder, funkcije, ki uporabnikom omogoča ustvarjanje in konfiguracijo izdelka Copilot GPT po meri. Odgovorne ublažitve AI, omenjene zgoraj za Copilot v storitvi Bing, veljajo za kopilotove gpte.
Če želite izvedeti več o tem Copilot Pro kako delujejo skupine za skupine Copilot Pro copilot, obiščite tukaj.
Kopilot v storitvi Bing si prizadeva zagotoviti raznolike in celovite rezultate iskanja s svojo zavezo za prost in odprt dostop do informacij. Naša prizadevanja za kakovost izdelkov hkrati vključujejo prizadevanje, da bi se izognili nenameri promociji morebitno škodljive vsebine za uporabnike. Več informacij o tem, kako Bing razvrsti vsebino, vključno s tem, kako določa ustreznost ter kakovost in verodostojnost spletne strani, je na voljo v razdelku »Smernice za spletne skrbnike za Bing«. Več informacij o načelih moderacije vsebine v storitvi Bing je na voljo v razdelku »Kako Bing zagotavlja rezultate iskanja«.
V izkušnji s kopilotom v sistemu Windows lahko Kopilot v storitvi Bing deluje z operacijskim sistemom Windows, da zagotovi spretnosti, specifične za Windows, na primer spremeni uporabnikovo temo ali ozadje ter spremeni nastavitve, kot so zvok, Bluetooth in uporaba omrežij. Te izkušnje omogočajo uporabniku, da konfigurira svoje nastavitve in izboljša uporabniško izkušnjo s pozivi za upravljanje digitalnih storitev v naravnem jeziku. Funkcije, značilne za aplikacijo, so na voljo tudi v vtičnikih programov drugih ponudnikov. S temi lahko avtomatizirate ponavljajoča se opravila in dosežete večjo učinkovitost uporabnika. Ker lahko navidezni računalniki občasno naredijo napake, so na voljo ustrezni pozivi za potrditev uporabnika, tako da je uporabnik končni razsodnik sprememb, ki jih je mogoče narediti.
Prepoznavanje, merjenje in zmanjšanje tveganj
Tako kot druge tehnologije preoblikovanja tudi izkoriščanje prednosti AI ni brez tveganja, osnovni del Microsoftovega programa za odgovorno oceno AI pa je zasnovan tako, da prepozna morebitna tveganja, izmeri njihovo primernost in ustvari ublažitve posledic za njihovo odpravljanje. Pod vodstvom naših načel uporabniškega vmesnika in našega odgovornega standarda uporabniške izkušnje smo skušali prepoznati, izmeriti in ublažiti morebitna tveganja in zlorabo zdravila Copilot v storitvi Bing ter hkrati zagotoviti transformativno in koristno uporabo, ki jo zagotavlja nova izkušnja. V razdelkih spodaj smo opisali naš iterativni pristop za prepoznavanje, merjenje in zmanjševanje morebitnih tveganj.
Na ravni modela se je naše delo začelo s raziskovalnimi analizami GPT-4 konec poletja 2022. To je vključevalo izvajanje obsežnega preskušanja rdeče ekipe v sodelovanju s funkcijo OpenAI. S tem testiranjem smo ocenili, kako bi najnovejša tehnologija delovala brez kakršnih koli dodatnih zaščitnih ukrepov. Naš namen je bil v tem trenutku ustvariti škodljive odzive, morebitne površinske poti za zlorabo in prepoznavanje zmogljivosti ter omejitev. Združeno učenje v celotni aplikaciji OpenAI in Microsoftu je prispevalo k napredku pri razvoju modelov ter za nas pri Microsoftu obvestilo naše razumevanje tveganj in prispevalo k zgodnjim strategijam ublažitve posledic za Copilot v storitvi Bing.
Poleg red team testiranja na ravni modela je večdisciplinarna ekipa strokovnjakov opravila številne kroge red team testiranja na ravni aplikacije na Copilotu v izkušnjami v sistemu Bing AI, preden so bili javno na voljo v našem predogledu omejene izdaje. Ta proces nam je pomagal bolje razumeti, kako lahko sistem izkoristijo negativci in izboljšajo naše ublažitve posledic. Nenaslovni testerji obremenitve so tudi obširno ocenili nove funkcije storitve Bing zaradi pomanjkljivosti in pomanjkljivosti. Nove izkušnje ZI v storitvi Bing po izdaji so integrirane v obstoječo infrastrukturo za merjenje proizvodnje in preskušanje v inženirski organizaciji Bing. Na primer, rdeči testerji iz različnih regij in ozadij nenehno in sistematično poskušajo ogroziti sistem, njihove ugotovitve pa se uporabljajo za razširitev naborov podatkov, ki jih Bing uporablja za izboljšanje sistema.
Red team testing and stress-testing can surface instances of specific risks, but in production users will have millions of different kinds of conversations with Copilot in Bing. Poleg tega so pogovori večkratni in kontekstni, odkrivanje škodljive vsebine v pogovoru pa je zapleteno opravilo. Za boljše razumevanje in odpravljanje morebitnih tveganj v kopilotu pri izkušnjah s storitvijo Bing AI smo razvili dodatno odgovorno metriko AI, specifično za te nove izkušnje ZI za merjenje morebitnih tveganj, kot so beg iz zapora, škodljiva vsebina in neobratena vsebina. Omogočili smo tudi merjenje v merilu prek delno avtomatiziranih merilnih cevovodov. Vsakič, ko se spremenijo izdelki, se posodobijo obstoječe ublažitve posledic ali se predlagajo nove ublažitve posledic, posodobimo naše merilne cevovode, da ocenimo učinkovitost delovanja izdelka in odgovorno metriko AI.
Kot ponazoritev primer, posodobljeni cevovod delno avtomatiziranih mer za škodljivo vsebino vključuje dve glavni inovaciji: simulacija pogovorov in avtomatizirane opombe pogovorov, ki jih je preveril človek. Najprej so odgovorni strokovnjaki za AI naredili predloge za zajem strukture in vsebine pogovorov, zaradi katere bi lahko prišlo do različnih vrst škodljive vsebine. Te predloge so bile nato dane posredniku za pogovor, ki je v storitvi Bing kot hipotetični uporabnik komuniciral s copilotom in je ustvarjal simulirane pogovore. Da bi prepoznali, ali so ti simulirani pogovori vsebovali škodljivo vsebino, smo uporabili smernice, ki jih po navadi uporabljajo strokovni lingvisti za označevanje podatkov in njihovo uporabo s strani družbe GPT-4 za označevanje pogovorov v merilu, s katerimi smo natančneje določali smernice, dokler ni prišlo do bistvenega dogovora med pogovori, označenimi z modelom, in pogovori, ki jih je treba označiti kot človeka. Nazadnje smo uporabili pogovore, označene z modelom, za izračun odgovorne metrike AI, ki zajema učinkovitost aplikacije Copilot v storitvi Bing pri omilitvi škodljive vsebine.
Naši merilni cevovodi nam omogočajo hitro merjenje morebitnih tveganj v obsegu. Ko v obdobju predogleda prepoznamo nove težave in izvajamo red team testing, še naprej širimo nabore mer, da ocenimo dodatna tveganja.
Kot smo prepoznali morebitna tveganja in zlorabo s procesi, kot so testiranje rdeče ekipe in preskušanje stresa, ter jih izmerili z zgoraj opisanimi inovativnimi pristopi, smo razvili dodatne ublažitve posledic za tiste, ki se uporabljajo za tradicionalno iskanje. Spodaj smo opisali nekatere od teh ublažitev posledic. Kopilot bomo še naprej nadzirali v izkušnjo Bing AI izboljšanje učinkovitosti delovanja in ublažitev posledic za izdelek.
Postopna izdaja, nenehno vrednotenje. Zavezani smo k učenju in izboljšanju našega odgovornega pristopa uporabniškega vmesnika, saj se naše tehnologije in uporabniško vedenje nenehno razvijajo. Naša postopna strategija izdaje je bila osrednji del tega, kako varno premikamo našo tehnologijo iz laboratorijev v svet, in predani smo premišljenem procesu, ki bo privaral koristi kopilota v storitvi Bing. Omejitev števila oseb z dostopom v obdobju predogleda nam je dovolila odkriti, kako ljudje uporabljajo Copilot v storitvi Bing, vključno s tem, kako ga lahko ljudje zlorabljajo, tako da lahko poskusimo ublažiti nastajajoče težave pred širšo izdajo. Na primer, od uporabnikov želimo, da preverijo pristnost s svojim Microsoftovim računom, preden dostopajo do polne nove izkušnje s storitvijo Bing. Uporabniki, ki niso preverjeni, lahko dostopajo le do omejenega predogleda izkušnje. Ti koraki ne odvračajo od zlorabe in nam pomagajo (po potrebi) ukrepati v odgovor na kršitve pravil obnašanja. Dnevno spreminjamo storitev Copilot v storitvi Bing, da bi izboljšali učinkovitost delovanja izdelka, izboljšali obstoječe ublažitve posledic in uvedli nove ublažitve posledic kot odziv na naše ugotovitve v obdobju predogleda.
Grounding in search results. Kot je navedeno zgoraj, je aplikacija Copilot v storitvi Bing zasnovana tako, da zagotavlja odgovore, ki jih podpirajo informacije v rezultatih spletnega iskanja, ko uporabniki iščejo informacije. Sistemu je na primer na voljo besedilo iz zgornjih rezultatov iskanja in navodil, ki jih dobite z metapromptom, da se njegov odziv nastavi na tla. Vendar pa lahko Kopilot v storitvi Bing pri povzemanju spletne vsebine v svojem odgovoru vključi informacije, ki niso na voljo v njegovih vnosnih virih. Z drugimi besedami, lahko povzroči nenapete rezultate. Naše predčasne ocene so pokazale, da so lahko neobratni rezultati v klepetu bolj prevladujoči za določene vrste pozivov ali tem kot druge, na primer za zahteve po matematičnih izračunih, finančnih ali tržnih informacijah (na primer pri dobičku podjetja, podatkih o uspešnosti delnic) in informacijah, kot so natančni datumi dogodkov ali določene cene elementov. Pri ogledu povzetih rezultatov iskanja, ne glede na to, ali so na strani z rezultati iskanja ali v izkušnji klepeta, bodite vedno previdni in uporabljajte svojo najboljšo sodbo. Za zmanjšanje tveganja, da se lahko uporabniki preveč zanesejo na neopomočeno ustvarjeno vsebino v scenarijih povzemanja in izkušnjah klepeta, smo sprejeli več ukrepov. Odgovori v storitvi Copilot v storitvi Bing, ki temeljijo na rezultatih iskanja, na primer vključujejo sklice na izvorna spletna mesta, da lahko uporabniki preverijo odgovor in izvejo več. Uporabnikom je na voljo tudi eksplicitno obvestilo, da uporabljajo sistem uporabniškega vmesnika, in jim svetuje, da preverijo gradivo za spletne rezultate in jim tako pomagajo pri najboljši presoji.
razredniki in metaprompomeji, ki temeljijo na AI, da bi zmanjšali morebitna tveganja ali zlorabo. Uporaba neposrednih sporočil lahko povzroči težavno vsebino, ki lahko povzroči tveganja ali zlorabo. Primeri lahko vključujejo rezultate, povezane s samopoškodvami, nasiljem, grafično vsebino, intelektualno lastnino, netočnimi informacijami, sovražnim govorom ali besedilom, ki bi se lahko nanašalo na nezakonite dejavnosti. Razredniki in metaprompting sta dva primera ublažitev posledic, ki so bila uvedena v kopilotu v storitvi Bing za zmanjšanje tveganja za te vrste vsebin. Razvrstitelji razredov razvrstijo besedilo tako, da označi različne vrste morebitno škodljive vsebine v iskalnih poizvedbah, pozivih klepeta ali ustvarjenih odgovorih. Bing uporablja razrede in filtre vsebine, ki temeljijo na AI, ki veljajo za vse rezultate iskanja in ustrezne funkcije; oblikovali smo dodatne pozive za razrede in filtre vsebine, ki so posebej namenjeni za odpravljanje morebitnih tveganj, ki jih je izpostavil Copilot v funkcijah storitve Bing. Zastavice vodijo do morebitnih ublažitev posledic, kot so ne vračanje ustvarjene vsebine uporabniku, preusmeritev uporabnika na drugo temo ali preusmerjanje uporabnika v tradicionalno iskanje. Metaprompting vključuje dajanje navodil za model, ki vodijo njegovo vedenje, vključno s tem, da sistem deluje v skladu z Microsoftovimi načeli AI in pričakovanja uporabnikov. Metaprompt lahko na primer vključuje vrstico, kot je »komunikacija v jeziku izbire uporabnika«.
Zaščita zasebnosti v aplikaciji Visual Iskanje v storitvi Copilot v storitvi Bing. Ko uporabniki prenesejo sliko kot del poziva k klepetu, bo aplikacija Copilot v storitvi Bing pred pošiljanjem slike v model uporabniškega vmesnika zaposlenih zaposlenih uporablja tehnologijo za zameglitev obrazov. Zameglitev obraza se uporablja za zaščito zasebnosti posameznikov na sliki. Tehnologija za zameglitev obrazov temelji na kontekstnih namigih za določanje mesta zameglitve in poskuša zamegliti vse obraze. Ko so obrazi zamegljeni, lahko model AI primerja vhodno sliko s slikami javno razpoložljivih slik v internetu. Kot rezultat, na primer, Kopilot v Storitvi Bing lahko prepozna slavnega igralca košarke na fotografiji tega igralca na košarkarskem igrišču tako, da ustvari številsko predstavitev, ki odraža številko dresa igralca, barvo dresa, prisotnost košarkarske konice itd. Kopilot v storitvi Bing ne shranjuje številskih predstavitev oseb iz prenesenih slik in jih ne deli s tretjimi osebami. Kopilot v storitvi Bing uporablja številske predstavitve slik, ki jih uporabniki prenesejo le zato, da bi se odzvali na pozive uporabnikov, nato pa so izbrisani v 30 dneh po koncu klepeta.
Če uporabnik vpraša kopilot v storitvi Bing za informacije o naloženi sliki, lahko odzivi klepeta odražajo vpliv zamegljene glave na zmožnost modela, da posreduje informacije o preneseni sliki. Na primer, kopilot v storitvi Bing lahko opiše, da ima nekdo zamegljen obraz.
Omejujejo odmiek pogovora. V obdobju predogleda smo izvedeli, da lahko zelo dolge seje klepetov privedejo do ponavljajočih, nekoristnih ali nedoslednih odzivov kopilota v tonenju, ki je namenjen storitvi Bing. Za ta premik v pogovoru smo omejiti število zasukov (izmenjave, ki vsebujejo vprašanje uporabnika in odgovor rešitve Copilot v storitvi Bing) na sejo klepeta. Še naprej ocenjujemo dodatne pristope za preprečevanje te težave.
Obogatitev s pozivom. V nekaterih primerih je uporabnikov poziv lahko dvoumen. Ko se to zgodi, lahko Kopilot v storitvi Bing uporabi storitev LLM, da ustvari več podrobnosti v pozivu, da uporabnikom zagotovi, da bodo dobili odgovor, ki ga iščejo. Taka obogatitev se ne zanaša na kakršno koli poznavanje uporabnika ali njegovih predhodnih iskanih poizvedb, temveč na modelu uporabniškega vmesnika. Te pregledane poizvedbe bodo prikazane v zgodovini klepetov uporabnika, tako kot druga iskanja, pa jih lahko izbrišete s kontrolniki v izdelku.
Načrtovanje na ravni uporabnika in posredovanje uporabniške izkušnje. Zasnova, ki temelji na uporabniku, in uporabniške izkušnje so ključni vidik Microsoftovega pristopa do odgovornega uporabniškega vmesnika. Cilj je zasnova izdelka zasnove v skladu s potrebami in pričakovanji uporabnikov. Ko uporabniki prvič komunicirajo s kopilotom v storitvi Bing, ponujamo različne sledilne točke, ki so zasnovane tako, da jim pomagajo razumeti zmožnosti sistema, jim razkriti, da copilot v storitvi Bing uporablja tehnologijo AI, in sporočati omejitve. Izkušnja je zasnovana tako, da uporabnikom pomaga kar najbolje izkoristiti kopilot v storitvi Bing in zmanjša tveganje prekomernereliance. Elementi izkušnje pomagajo tudi uporabnikom bolje razumeti kopilot v storitvi Bing in njihovo interakcijo z njim. Ti vključujejo predloge klepetov, ki so specifični za odgovorno storitvijo uporabniškega vmesnika (na primer, kako storitev Bing uporablja vmesnik AI? Zakaj se kopilot v storitvi Bing ne odziva na nekatere teme?), razlage omejitev, načini, kako lahko uporabniki izvejo več o tem, kako sistem deluje, ter poročajo o povratnih informacijah ter preprosto krmarjenje po sklicih, ki so prikazani v odgovorih, da uporabnikom pokažejo rezultate in strani, na katerih so podprti odgovori.
Razkritje informacij o storitvi. Kopilot v storitvi Bing zagotavlja več sledilnih mest za smiselno razkritje uporabniškega vmesnika, pri katerem so uporabniki obveščeni o interakciji s sistemom uporabniškega vmesnika in priložnostih za več informacij o rešitvi Copilot v storitvi Bing. S tem znanjem lahko uporabnikom pomagate, da se izognejo prekomernemu zanašanju na AI in izvejo več o prednostih in omejitvah sistema.
Predstavnostni provenans.Microsoft Designer je omogočena funkcija »Poverilnice za vsebino«, ki uporablja kriptografske metode za označevanje vira ali »dokazanost« vseh slik, ustvarjenih na podlagi uporabniškega vmesnika, ustvarjenih na Designer. Nevidna funkcija digitalnega vodnega žiga prikazuje vir, čas in datum izvirnega nastanka, teh informacij pa ni mogoče spremeniti. Tehnologija uporablja standarde, ki jih je nastavila premogovništvo za vsebino in pristnost (C2PA), da doda dodatno raven zaupanja in preglednosti za slike, ustvarjene z AI. Microsoft je sou ustanovitelj C2PA in je prispeval z osnovno tehnologijo za provenienco digitalnih vsebin.
Pogoji uporabe in pravila obnašanja. Ta vir ureja uporabo kopilota v storitvi Bing. Uporabniki morajo upoštevati pogoje uporabe in pravila obnašanja , ki jih med drugim obveščajo o dovoljenih in nepremišljivih uporabah ter posledicah kršitev pogojev. Pogoji uporabe prav tako nudijo dodatna razkritja za uporabnike in služijo kot priročna referenca za uporabnike, da izvejo več o rešitvi Copilot v storitvi Bing.
Operacije in hiter odziv. Kopilot uporabljamo tudi v procesih neprekinjenega spremljanja in delovanja storitve Bing, da bi odpravili, ko Kopilot v storitvi Bing prejme signale, ali prejme poročilo, v katerem navede morebitno zlorabo ali kršitve pogojev uporabe ali pravil obnašanja.
Povratne informacije, spremljanje in nadzor. Kopilot v izkušnji s storitvijo Bing gradi na obstoječem orodju, ki omogoča uporabnikom pošiljanje povratnih informacij in poročanje o pomislekih, ki jih pregledujejo Microsoftove operacijske ekipe. Tudi operativni procesi storitve Bing so se razširili tako, da so v izkušnji s storitvijo Copilot in storitvijo Bing na primer posodobili stran »Prijavi težavo«, tako da vključuje nove vrste vsebine, ki jih uporabniki ustvarijo s pomočjo modela.
Naš pristop k prepoznavanju, merjenju in omehanju tveganj se bo še naprej razvijal, ko bomo izvedeli več, in že zdaj izboljšujemo na podlagi povratnih informacij, zbranih v obdobju predogleda.
Samodejno zaznavanje vsebine. Ko uporabniki v okviru poziva za klepet prenesejo slike, Copilot v storitvi Bing uvede orodja za odkrivanje otroškega spolnega izkoriščanja in zlorabe slik (CSEAI), zlasti tehnologijo za ujemanje z lojtrami PhotoDNA. Microsoft je razvil PhotoDNA za iskanje dvojnikov znanih CSEAI. Microsoft vse očitne podatke CSEAI poroča Nacionalnemu centru za pogrešane in izkoriščane otroke (NCMEC), kot to zahteva zakonodaja ZDA. Ko uporabniki prenesejo datoteke za analizo ali obdelavo, Kopilot uvede avtomatizirano pregledovanje za zaznavanje vsebine, ki bi lahko privedla do tveganja ali zlorabe, kot je besedilo, ki bi lahko bilo povezano z nelegalnimi dejavnostmi ali zlonamerno kodo.
Zaščita zasebnosti
Microsoftovo dolgo prepričanje, da je zasebnost temeljna človekova pravica, je obveščal vse stopnje Microsoftovega razvoja in uvajanja kopilota v izkušnjo s storitvijo Bing. Naše obveze za zaščito zasebnosti vseh uporabnikov, vključno z zagotavljanjem preglednosti in nadzora nad njihovimi podatki posameznikom ter integracijo zasebnosti z oblikovanjem prek minimizacije podatkov in omejitev namena, so temelj za Copilot v storitvi Bing. Ko bomo razvijali naš pristop k zagotavljanju kopilota v bingovigenerativni izdobji AI, bomo nenehno raziskovali, kako najbolje zaščititi zasebnost. Ta dokument bo s tem posodobljen. Več informacij o tem, kako Microsoft ščiti zasebnost naših uporabnikov, je na voljo v Microsoftovi izjavi o zasebnosti.
V izkušnji s kopilotom v sistemu Windows lahko znanja sistema Windows v okviru svoje funkcionalnosti informacije o uporabniku delijo s klepetom. To je odvisno od odobritve uporabnika, prikazani pa so pozivi uporabniškega vmesnika za potrditev namena uporabnika, preden so informacije o uporabniku v skupni rabi s klepetom.
Microsoft še naprej meni, da so potrebe otrok in mladih del ocen tveganja novihgenerativnih funkcij AI v kopilotu v storitvi Bing. Vsi Microsoftovi otroški računi, po katerih je uporabnik mlajši od 13 let ali kot je drugače določeno v lokalni zakonodaji, se ne morejo vpisati za dostop do polne nove izkušnje s storitvijo Bing.
Kot je opisano zgoraj, smo za vse uporabnike dodali zaščitne ukrepe, ki zmanjšujejo morebitno škodljivo vsebino. V storitvi Copilot v storitvi Bing so rezultati nastavljeni tako, kot v strogem načinu v storitvi Bing SafeSearch, ki ima najvišjo raven zaščite varnosti v glavnem iskanju v storitvi Bing, s tem pa uporabnikom, vključno s najstniškimi uporabniki, preprečuje, da bi bili izpostavljeni morebitno škodljivi vsebini. Poleg informacij, ki smo jih predložili v tem dokumentu in v pogostih informacijami o funkcijah klepeta, je več informacij o tem, kako deluje Kopilot v storitvi Bing, da se prepreči odzivanje z nepričakovano žaljivo vsebino v rezultatih iskanja, je na voljo tukaj.
Microsoft se je zavezal, da prilagojenega oglaševanja na podlagi spletnega vedenja ne prikazuje otrokom, katerih datum rojstva v njihovem Microsoftovem računu je mlajši od 18 let. Ta pomembna zaščita bo razširjena na oglase v storitvi Copilot v funkcijah storitve Bing. Uporabniki lahko vidijo kontekstne oglase na podlagi poizvedbe ali poziva, ki se uporablja za interakcijo s storitvijo Bing.
Da bi odklenili transformativni potencialgenerativne AI, moramo zgraditi zaupanje v tehnologijo, tako da posameznikom omogočamo, da razumejo, kako se njihovi podatki uporabljajo, in jim zagotavljamo smiselne izbire in nadzor nad njihovimi podatki. Kopilot v storitvi Bing je zasnovan tako, da daje prednost človeški agenciji, saj zagotavlja informacije o tem, kako izdelek deluje, kot tudi njegove omejitve, ter s širjenjem naših robustnih potrošniških možnosti in nadzora na Copilot v funkcijah storitve Bing.
V Microsoftovi izjavi o zasebnosti so informacije o naših preglednih praksah glede zasebnosti za zaščito naših strank, v njej pa so informacije o kontrolnikih, ki našim uporabnikom omogočajo ogled in upravljanje njihovih osebnih podatkov. Ker želimo zagotoviti, da imajo uporabniki informacije, ki jih potrebujejo pri interakciji z novimi funkcijami pogovorov v storitvi Bing, razkritja v izdelku obveščajo uporabnike, da sodelujejo z izdelkom uporabniškega vmesnika, posredujemo pa tudi povezave do nadaljnjih pogostih odgovorov in razlag o tem, kako te funkcije delujejo. Microsoft bo še naprej poslušal povratne informacije uporabnikov in po potrebi dodal dodatne podrobnosti o funkcijah pogovorov v storitvi Bing, da bo podpiral razumevanje delovanja izdelka.
Microsoft svojim uporabnikom zagotavlja tudi robustna orodja za uveljavljanje svojih pravic nad svojimi osebnimi podatki. Za podatke, ki jih zbere Copilot v storitvi Bing, vključno s poizvedbami in pozivi uporabnikov, nadzorna plošča Za zasebnost pri Microsoftu zagotavlja preverjene (vpisane) uporabnike z orodji za uveljavljanje pravic posameznikov, na katere se nanašajo podatki, vključno z možnostjo ogleda, izvoza in brisanja shranjene zgodovine pogovorov. Microsoft še naprej izvaja povratne informacije o tem, kako želijo upravljati svojo novo izkušnjo s storitvijo Bing, vključno z uporabo izkušenj upravljanja podatkov v kontekstu.
Kopilot v storitvi Bing upošteva tudi zahteve, ki so pod evropsko pravico, da se pozabijo, pri tem pa upošteva postopek, ki ga je Microsoft razvil in dodelal za tradicionalne funkcije iskanja v storitvi Bing. Vsi uporabniki lahko tukaj poročajo o pomislekih glede ustvarjene vsebine in odgovorov, naši evropski uporabniki pa lahko uporabijo ta obrazec za pošiljanje zahtev za blokiranje rezultatov iskanja v Evropi pod pravico do pozabljenih.
Kopilot v storitvi Bing bo upošteval možnosti zasebnosti uporabnikov, vključno s tistimi, ki so bile predhodno opravljene v storitvi Bing, na primer soglasje za zbiranje in uporabo podatkov, zahtevano prek pasic za piškotke in kontrolnikov, ki so na voljo na Microsoftovi nadzorni plošči za zasebnost. Da bi uporabnikom omogočili samostojnost in agencijo pri sprejemanjem informirane odločitve, smo uporabili naš interni pregled in skrbno preučili, kako so možnosti predstavljene uporabnikom.
Poleg kontrolnikov, ki so na voljo prek Microsoftove nadzorne plošče za zasebnost in ki omogočajo uporabnikom ogled, izvoz in brisanje zgodovine iskanja, vključno s komponentami njihove zgodovine klepetov, imajo uporabniki s preverjeno pristnostjo, ki so omogočili funkcijo zgodovine klepetov v izdelku, možnost ogleda, dostopanja do zgodovine klepetov in prenosa prek kontrolnikov v izdelku. Uporabniki lahko počistijo določene klepete iz zgodovine klepetov ali v celoti izklopijo funkcije zgodovine klepetov tako, da obiščejo stran z nastavitvami storitve Bing. Uporabniki lahko tudi izberejo, ali bodo dovolili prilagajanje za dostop do bolj prilagojene izkušnje s prilagojenimi odgovori. Uporabniki lahko privolijo v sodelovanje in se odjavijo od prilagajanja kadar koli v nastavitvah klepeta na strani z nastavitvami storitve Bing. Če počistite določene klepete iz zgodovine klepetov, jih ne bo mogoče uporabiti za prilagajanje.
Več informacij o zgodovini in prilagajanju klepeta je na voljo uporabnikom v storitvi Copilot v članku Pogosta vprašanja o storitvi Bing.
Kopilot v storitvi Bing je bil ustvarjen z možnostjo zasebnosti, tako da se osebni podatki zbirajo in uporabljajo le po potrebi in se ne hranijo več, kot je potrebno. Kot smo omenili zgoraj, funkcija Visual Iskanje v storitvi Copilot v storitvi Bing uvede mehanizem, ki ob nalaganju slik zamegli obraze, tako da se slike obraza ne obdelujejo ali shranjujejo naprej. Več informacij o osebnih podatkih, ki jih zbira Bing, kako jih uporablja in kako so shranjeni in izbrisani, je na voljo v Microsoftovi izjavi o zasebnosti, v kateri so na voljo tudi informacije o novih funkcijah klepeta storitve Bing.
Kopilot v storitvi Bing ima pravilnike o hranjenju in brisanju podatkov, s katerimi zagotovi, da se osebni podatki, zbrani prek funkcij klepeta v storitvi Bing, hranijo le toliko časa, kolikor je potrebno.
Še naprej se bomo naučili in razvijali naš pristop pri zagotavljanju rešitve Copilot v storitvi Bing in tako bomo še naprej razvijali discipline, s katerimi bomo inovacije na področju uporabniške izkušnje uskladili s človeškimi vrednotami in temeljnimi pravicami, vključno z zaščito mladih uporabnikov in zasebnostjo.
Kopilot s komercialno zaščito podatkov
Kopilot s komercialnim varstvom podatkov, prej imenovanim Bing Chat Enterprise (»BCE«), je Microsoft julija 2023 izdal brezplačno javno predogledno različico kot brezplačen dodatek za nekatere uporabnike storitve M365. Kopilot s komercialno zaščito podatkov je izkušnja spletnega iskanja, ki jo izboljša AI, za končne uporabnike v podjetjih.
Kot pri kopilotu v storitvi Bing ko kopilot s komercialno zaščito podatkov končni uporabnik vnese poziv v vmesnik, se poziv, takojšnji pogovor, najpogostejši rezultati iskanja in metaprompt pošljejo kot vnosi v llM. Model ustvari odgovor z zgodovino pozivov in takojšnjih pogovorov za kontekstno določanje zahteve, metaprompt za poravnavo odgovorov z Microsoftovimi načeli in pričakovanji uporabnikov ter rezultati iskanja na podlagi rezultatov iskanja v obstoječi vsebini z visoko stopnjo v spletu. To deluje enako kot Kopilot v storitvi Bing, kot je opisano zgoraj v tem dokumentu, z izjemo, da je Kopilot s komercialno zaščito podatkov odvisen le od zgodovine pogovorov (ne od nedavne zgodovine pogovorov), ker zgodovina shranjenih klepetov ni trenutno podprta funkcija. Designer in Vizualne Iskanje sta zdaj na voljo v tej različici.
Tako kot druge tehnologije preoblikovanja tudi izkoriščanje prednosti AI ni brez tveganja, osnovni del Microsoftovega programa za odgovorno oceno AI pa je zasnovan tako, da prepozna morebitna tveganja, izmeri njihovo primernost in ustvari ublažitve posledic za njihovo odpravljanje. Tudi zgoraj navedeni opis Microsoftovih prizadevanj za prepoznavanje, merjenje in preprečevanje morebitnih tveganj v storitvi Copilot v storitvi Bing velja tudi za to različico, z nekaj pojasnili o ublažitvi posledic, opisanimi spodaj:
Postopna izdaja, nenehno vrednotenje. Podobno kot pri Kopilotu Bing smo pri kopilotu s komercialno zaščito podatkov uporabljali tudi postopni pristop k izdaji. 18. julija 2023 je kopilot s komercialno zaščito podatkov postal na voljo kot brezplačen predogled za upravičene poslovne stranke s posebnimi računi M365, ki so jih lahko vklopili za končne uporabnike v podjetjih. Trideset (30) dni po tem, ko je bilo o tem obveščenih upravičenih poslovnih strank, je kopilot s komercialno zaščito podatkov postal »privzeto vklopljen« za te iste stranke. Kopilot s komercialnim varstvom podatkov je od zdaj na voljo tudi določenim računom M365 za izobraževalne ustanove. Kopilot s komercialnim varstvom podatkov je postal na splošno na voljo določenim poslovnih strankam 1. decembra 2023. V prihodnosti načrtujemo razširitev dostopa do rešitve Copilot s komercialnim varstvom podatkov za Microsoft Entra ID uporabnikov.
Pogoji uporabe in pravila obnašanja. Končni uporabniki rešitve Copilot s komercialno zaščito podatkov morajo uporabljati pogoje uporabe, ki veljajo za končnega uporabnika. S temi pogoji uporabe lahko končne uporabnike obvestite o dovoljenih in nezaščitenih uporabah ter posledicah kršitev.
Operacije in hiter odziv. Kopilot uporabljamo tudi v procesih neprekinjenega spremljanja in delovanja storitve Bing, ko Kopilot s komercialno zaščito podatkov prejme signale ali prejme poročilo, v katerem navede morebitno zlorabo ali kršitve pogojev uporabe za končnega uporabnika.
Povratne informacije, spremljanje in nadzor. Kopilot pri komercialni zaščiti podatkov uporablja enako orodje kot Copilot v storitvi Bing za uporabnike, ki pošiljajo povratne informacije in poročajo o pomislekih, ki jih pregledujejo Microsoftove operacije. Kopilot v operativnih procesih storitve Bing se je razširil tudi tako, da bo vključeval funkcije v kopilotu z izkušnjami komercialnega varstva podatkov, na primer s posodobitvijo strani »Poročilo o težavi«, da bo vključevala nove vrste vsebine, ki jih uporabniki ustvarijo s pomočjo modela.
Za zagotavljanje, da imajo končni uporabniki informacije, ki jih potrebujejo, ko uporabljajo Copilot s komercialno zaščito podatkov, je na dnu tega dokumenta na voljo dokumentacija izdelka, vključno s pogostimi vprašanji in več stranmi.
Pozivi in odgovori, ki jih ustvarijo končni uporabniki v kopilotu s komercialno zaščito podatkov, se obdelujejo in shranjujejo v skladu s standardi za obdelavo podatkov podjetja. Kopilot s ponudbo komercialnega varstva podatkov je trenutno na voljo le za poslovne stranke in njihove preverjene končne uporabnike, zato ne pričakujemo, da bodo otroci ali mladi končni uporabniki copilota s komercialno zaščito podatkov. Poleg tega kopilot s komercialno zaščito podatkov končnim uporabnikom ne zagotavlja vedenjsko usmerjenega oglaševanja. Namesto tega so prikazani oglasi le kontekstno ustrezni oglasi.
Več o tem
Ta dokument je del širšega prizadevanja Microsofta, da načela uporabniške izkušnje izvaja v praksi. Če želite izvedeti več, glejte:
Microsoftov pristop k odgovorni storitvi uporabniškega vmesnika
Microsoftov odgovorni standard za uporabniške vmesnike
O tem dokumentu
© 2023 Microsoft. Vse pravice pridržane. Ta dokument je na voljo »kot je« in samo v informativne namene. Informacije in pogledi, izraženi v tem dokumentu, vključno z URL-jem in drugimi sklici na internetna spletna mesta, se lahko spremenijo brez predhodnega obvestila. Tveganje za njeno uporabo prevzemate sami. Nekateri primeri so prikazani le za ilustracije in so izmišljeni. Nobena realna povezava ni predvidena ali se ne določi.
