Sist oppdatert: oktober 2023
Det grunnleggende om den nye Bing
Innledning
I februar 2023 lanserte Microsoft den nye Bing, en ai-forbedret nettsøkopplevelse. Den støtter brukere ved å oppsummere søkeresultater på nettet og gi en chatopplevelse. Brukere kan også generere kreativt innhold, for eksempel dikt, vitser, historier og bilder med Bing bildeskaper. Den nye ai-forbedrede Bing kjører på en rekke avanserte teknologier fra Microsoft og OpenAI, inkludert GPT-4, en banebrytende stor språkmodell (LLM) og DALL-E, en dyp læringsmodell for å generere digitale bilder fra naturlige språkbeskrivelser, begge fra OpenAI. Vi jobbet med begge modellene i flere måneder før offentlig utgivelse for å utvikle et tilpasset sett med funksjoner og teknikker for å bli med i denne banebrytende AI-teknologien og nettsøket i den nye Bing.
Hos Microsoft forplikter vi oss til ansvarlig kunstig intelligens på alvor. Den nye Bing-opplevelsen er utviklet i tråd med Microsofts AI-prinsipper, Microsofts ansvarlige AI-standard og i samarbeid med ansvarlige AI-eksperter på tvers av selskapet, inkludert Microsofts Office of Responsible AI, våre tekniske team, Microsoft Research og Aether. Du kan finne ut mer om ansvarlig kunstig intelligens hos Microsoft her.
I dette dokumentet beskriver vi vår tilnærming til ansvarlig kunstig intelligens for den nye Bing. I forkant av utgivelsen vedtok vi state-of-the-art metoder for å identifisere, måle og redusere potensielle skader og misbruk av systemet og for å sikre fordelene for brukerne. Etter hvert som vi har fortsatt å utvikle den nye Bing siden den første utgitte, har vi også fortsatt å lære og forbedre vår ansvarlige AI-innsats. Dette dokumentet oppdateres regelmessig for å kommunisere prosessene og metodene vi utvikler.
Nøkkeltermer
Den nye Bing er en kunstig intelligens-forbedret nettsøkeopplevelse. Siden dette er en kraftig, ny teknologi, begynner vi med å definere noen viktige begreper.
Maskinlæringsmodeller som bidrar til å sortere data i merkede klasser eller kategorier med informasjon. I den nye Bing er én måte vi bruker klassifiere på, å bidra til å oppdage potensielt skadelig innhold som sendes inn av brukere eller genereres av systemet for å redusere generering av innholdet og misbruk eller misbruk av systemet.
Den nye Bing er jordet i nettsøkeresultater når brukere søker informasjon. Dette betyr at vi midtstiller svaret på en brukers spørring eller spør om høytstående innhold fra nettet, og vi gir koblinger til nettsteder slik at brukerne kan lære mer. Bing rangerer nettsøkinnhold etter tungt vektende funksjoner som relevans, kvalitet og troverdighet og friskhet. Vi beskriver disse konseptene mer detaljert i hvordan Bing leverer søkeresultater (se «Kvalitet og troverdighet» i «Hvordan Bing rangerer søkeresultater»).
Vi anser jordede svar som svar fra den nye Bing der uttalelser støttes av informasjon som finnes i inndatakilder, for eksempel nettsøkresultater fra spørringen eller ledeteksten, Bings kunnskapsbase av faktasjekket informasjon, og for chatopplevelsen, nylig samtalelogg fra chatten. Ujordede svar er de der en setning ikke er jordet i disse inndatakildene.
Store språkmodeller (LLM-er) i denne konteksten er AI-modeller som er opplært på store mengder tekstdata for å forutsi ord i sekvenser. Llms er i stand til å utføre en rekke oppgaver, for eksempel tekstgenerering, oppsummering, oversettelse, klassifisering og mer.
Metaprompten er et program som fungerer til å veilede systemets virkemåte. Deler av metaprompten bidrar til å justere systematferden med Microsoft AI-prinsipper og brukerforventninger. Metaprompten kan for eksempel inneholde en linje, for eksempel «kommunisere på brukerens språk».
En metode eller kombinasjon av metoder som er utformet for å redusere potensielle skader som kan oppstå ved bruk av AI-drevne funksjoner i den nye Bing.
Tekst, tale, bilder og/eller andre aktiverte spørringer en bruker sender til Bing som en inndata til modellen som driver nye AI-drevne generative opplevelser i Bing. En bruker kan for eksempel skrive inn følgende ledetekst:
"Jeg planlegger en reise til bryllupsdagen vår i september. Hva er noen steder vi kan gå som er innen en 3-timers flytur fra London Heathrow?”
Teksten en bruker sender til Bing fra søkefeltet for nettsøk. I dette dokumentet skiller vi en spørring (for nettsøk) fra en ledetekst (for AI-drevne generative opplevelser i Bing). En bruker kan for eksempel skrive inn følgende spørring for å søke på nettet:
"reisemål i nærheten av London Heathrow flyplass"
Teknikker som brukes av eksperter til å vurdere begrensninger og sårbarheter i et system og til å teste effektiviteten av planlagte begrensninger. Rød teamtesting og stresstesting brukes til å identifisere potensielle skader og er forskjellig fra systematisk måling av skader.
Teksten som nye Bing sender som svar på en ledetekst. Synonymer for «svar» inkluderer «fullføring», «generasjon» og «svar». Bing kan for eksempel gi følgende svar på ledeteksten vi brukte i definisjonen av «ledetekst» ovenfor:
Gratulerer med bryllupsdagen! Det er mange steder du kan gå som er innen en 3-timers flytur fra London Heathrow. Ifølge en kilde, noen av helgen rømmer innen tre timer med fly fra London er Bilbao, København, Reykjavik, og Stockholm 1, 2. En annen kilde antyder at noen av de beste stedene å gå i Europa i september er Krakow, Firenze og Lisboa 3, 4. Du kan også sjekke direktefly fra London Heathrow til ulike destinasjoner og se hva som appellerer til deg 5. Jeg håper du har en fantastisk tur!”
Tiltenkte bruksområder og nye AI-opplevelser
Den nye Bing-ens tiltenkte bruksområder er å koble brukere med relevante søkeresultater, se gjennom resultater fra hele nettet for å finne og oppsummere svar brukerne leter etter, hjelpe brukerne med å finjustere forskningen for å få svar med en chatopplevelse, og skape kreativitet ved å hjelpe brukerne med å opprette innhold. Den nye Bings generative AI-opplevelser nedenfor støtter målet om å være en AI-drevet copilot for nettet.
Oppsummering. Når brukere sender inn en søkespørring på den nye Bing, behandler Bing-systemet spørringen, utfører ett eller flere nettsøk og bruker de øverste søkeresultatene på nettet til å generere et sammendrag av informasjonen som skal presenteres for brukerne. Disse sammendragene inkluderer referanser for å hjelpe brukere med å se og enkelt få tilgang til søkeresultatene som brukes til å lage grunnlag for sammendraget. Sammendrag kan vises på høyre side av søkeresultatsiden og i chatteopplevelsen.
Chat-opplevelse. I tillegg til oppsummering kan brukere chatte med det nye Bing-systemet via tekst, bilde eller taleinndata, stille oppfølgingsspørsmål for å klargjøre søk og finne ny informasjon, og sende inn meldinger for å generere kreativt innhold. Referanser inkluderes også i chatteopplevelsen når den nye Bing oppsummerer søkeresultatene i svaret.
Generering av kreativt innhold. I både chatteopplevelsen og på søkesiden kan brukere opprette dikt, vitser, historier, bilder og annet innhold med hjelp fra den nye Bing. Bilder opprettes av Bing bildeskaper, og brukerne kan få tilgang til funksjonen via Bildeskaper hjemmeside samt Bing-chattesiden.
Hvordan fungerer den nye Bing?
Med den nye Bing har vi utviklet en nyskapende tilnærming for å bringe de nyeste LLM-ene til nettsøk. Når en bruker angir en ledetekst i den nye Bing, sendes ledeteksten, loggen over nylige samtaler, metabeskyttelsen og de beste søkeresultatene som inndata til llm. Modellen genererer et svar ved hjelp av brukerens ledetekst og nylige samtalelogg for å kontekstualisere forespørselen, metabeskyttelsen for å justere svar etter Microsoft AI-prinsipper og brukerforventninger, og søkeresultatene til bakkesvar i eksisterende, høytstående innhold fra nettet.
Svarene presenteres for brukere i flere forskjellige formater, for eksempel tradisjonelle koblinger til nettinnhold, AI-genererte oppsummeringer, bilder og chat-svar. Oppsummeringer og chat-svar som er avhengige av nettsøkresultater, inkluderer referanser og en «Mer informasjon»-del under svarene, med koblinger til søkeresultater som ble brukt til å jorde svaret. Brukere kan klikke disse koblingene for å lære mer om et emne og informasjonen som brukes til å lage grunnlaget for sammendraget eller chattesvaret.
I chatteopplevelsen kan brukere utføre nettsøk i samtale ved å legge til kontekst i ledeteksten og samhandle med systemsvarene for å angi søkeinteressene ytterligere. En bruker kan for eksempel stille oppfølgingsspørsmål, be om ytterligere tydelig informasjon eller svare på systemet på en samtalemåte. I chatteopplevelsen kan brukere også velge et svar fra forhåndsskrevne forslag, som vi kaller chatforslag. Disse knappene vises etter hvert svar fra Bing og gir foreslåtte spørsmål om å fortsette samtalen i chatteopplevelsen. Chatforslag vises også sammen med oppsummert innhold på søkeresultatsiden som et inngangspunkt for chatteopplevelsen.
På siden for søkeresultater og i chatten lar oppretteropplevelsen en bruker opprette historier, dikt, sangtekster og bilder med hjelp fra Bing. Når Bing oppdager brukerens hensikt å generere kreativt innhold (for eksempel begynner ledeteksten med «skriv meg en ...»), vil systemet i de fleste tilfeller generere innhold som svarer på brukerens ledetekst. På samme måte, når Bing oppdager brukerens hensikt å generere et bilde (for eksempel begynner ledeteksten med "tegn meg en ..."), vil systemet i de fleste tilfeller generere et bilde som svarer på brukerens ledetekst. Med et bilde tatt av brukerens kamera, lastet opp fra brukerens enhet eller koblet fra nettet, kan brukere be Bing om å forstå konteksten, tolke og svare på spørsmål om bildet i Visual Search in Chat-opplevelsen.
Bing arbeider for å gi ulike og omfattende søkeresultater med sin forpliktelse til fri og åpen tilgang til informasjon. Samtidig inkluderer Bings innsats for produktkvalitet å arbeide for å unngå utilsiktet å fremme potensielt skadelig innhold for brukerne. Mer informasjon om hvordan Bing rangerer innhold, inkludert hvordan det definerer relevans og kvaliteten og troverdigheten til en nettside, er tilgjengelig i «Bing Webmaster Guidelines». Mer informasjon om Bings prinsipper for innholdsmoderasjon er tilgjengelig i «Hvordan Bing leverer søkeresultater».
Identifisering, måling og formildende skader
I likhet med andre transformasjonsteknologier er det ikke risikofritt å utnytte fordelene ved kunstig intelligens, og en viktig del av Microsofts ansvarlige AI-program er utformet for å identifisere potensielle skader, måle deres tilbøyelighet til å oppstå og bygge begrensninger for å løse dem. Veiledet av våre AI-prinsipper og vår ansvarlige AI-standard, forsøkte vi å identifisere, måle og redusere potensielle skader og misbruk av den nye Bing samtidig som vi sikret transformative og fordelaktige bruksområder som den nye opplevelsen gir. I avsnittene nedenfor beskriver vi vår iterative tilnærming for å identifisere, måle og redusere potensielle skader.
På modellnivå begynte vårt arbeid med utforskende analyser av GPT-4 på sensommeren 2022. Dette inkluderte å gjennomføre omfattende rød teamtesting i samarbeid med OpenAI. Denne testingen ble utformet for å vurdere hvordan den nyeste teknologien ville fungere uten ytterligere sikkerhetstiltak brukt på den. Vår spesifikke intensjon på dette tidspunktet var å produsere skadelige reaksjoner, vise potensielle veier for misbruk og identifisere evner og begrensninger. Våre kombinerte erfaringer på tvers av OpenAI og Microsoft bidro til fremskritt innen modellutvikling, og for oss hos Microsoft informerte vi vår forståelse av risikoer og bidro til tidlige tiltaksstrategier for den nye Bing.
I tillegg til rød teamtesting på modellnivå gjennomførte et tverrfaglig team av eksperter en rekke runder med rød teamtesting på programnivå på de nye Bing AI-opplevelsene før de ble offentlig tilgjengelige i vår begrensede forhåndsversjon. Denne prosessen hjalp oss med å bedre forstå hvordan systemet kunne utnyttes av motstridende aktører og forbedre våre begrensninger. Ikke-adversarial stress-testere også omfattende evaluert nye Bing funksjoner for mangler og sårbarheter. Etter utgivelsen integreres de nye AI-opplevelsene i Bing i Bings tekniske organisasjons eksisterende produksjonsmåling og testing av infrastruktur. Røde teamtestere fra ulike områder og bakgrunner forsøker for eksempel kontinuerlig og systematisk å kompromittere systemet, og resultatene deres brukes til å utvide datasettene som Bing bruker til å forbedre systemet.
Rød teamtesting og stresstesting kan vise forekomster av spesifikke skader, men i produksjon vil brukerne ha millioner av forskjellige typer samtaler med den nye Bing. Videre er samtaler flersvingede og kontekstavhengige, og identifisering av skadelig innhold i en samtale er en kompleks oppgave. For å bedre forstå og løse potensialet for skader i de nye Bing AI-opplevelsene, utviklet vi ytterligere ansvarlige AI-måledata som er spesifikke for de nye AI-opplevelsene for måling av potensielle skader som jailbreaks, skadelig innhold og ujordet innhold. Vi har også aktivert måling i stor skala gjennom delvis automatiserte målesamlebånd. Hver gang produktet endres, eksisterende begrensninger oppdateres, eller nye begrensninger foreslås, oppdaterer vi målesamlebåndene våre for å vurdere både produktytelsen og de ansvarlige AI-måledataene.
Som et illustrerende eksempel inkluderer det oppdaterte delvis automatiserte målesamlebåndet for skadelig innhold to store innovasjoner: samtalesimulering og automatisert, menneskelig verifisert samtalemerknad. Først bygde ansvarlige AI-eksperter maler for å fange opp strukturen og innholdet i samtaler som kan resultere i ulike typer skadelig innhold. Disse malene ble deretter gitt til en samtaleagent som samhandlet som en hypotetisk bruker med den nye Bing, og genererte simulerte samtaler. For å identifisere om disse simulerte samtalene inneholdt skadelig innhold, tok vi retningslinjer som vanligvis brukes av ekspertlingvister til å merke data og endret dem for bruk av GPT-4 til å merke samtaler i stor skala, og finjustere retningslinjene til det var betydelig enighet mellom modelletikettede samtaler og menneskelig merkede samtaler. Til slutt brukte vi de modelletikettede samtalene til å beregne en ansvarlig MÅLEVERDI for kunstig intelligens som fanger opp effektiviteten til den nye Bing for å redusere skadelig innhold.
Våre målesamlebånd gjør det mulig for oss å raskt utføre måling for potensielle skader i stor skala. Når vi identifiserer nye problemer gjennom forhåndsvisningsperioden og pågående rød teamtesting, fortsetter vi å utvide målsettene for å vurdere ytterligere skader.
Da vi identifiserte potensielle skader og misbruk gjennom prosesser som rød teamtesting og stresstesting og målte dem med de innovative tilnærmingene som er beskrevet ovenfor, utviklet vi ytterligere begrensninger for de som brukes til tradisjonell søk. Nedenfor beskriver vi noen av disse begrensningene. Vi vil fortsette å overvåke de nye Bing AI-opplevelsene for å forbedre produktytelsen og begrensningene.
Faset utgivelse, kontinuerlig evaluering. Vi er forpliktet til å lære og forbedre vår ansvarlige ai-tilnærming kontinuerlig etter hvert som teknologiene og brukeratferden vår utvikler seg. Vår trinnvise utgivelsesstrategi har vært en sentral del av hvordan vi flytter teknologien vår trygt fra laboratoriene til verden, og vi er forpliktet til en bevisst, gjennomtenkt prosess for å sikre fordelene med den nye Bing. Begrensning av antall personer med tilgang i løpet av forhåndsvisningsperioden har gjort det mulig for oss å finne ut hvordan folk bruker den nye Bing, inkludert hvordan personer kan misbruke den, slik at vi kan prøve å redusere nye problemer før bredere utgivelse. Vi krever for eksempel at brukere godkjenner ved hjelp av Microsoft-kontoen sin før de får tilgang til den fullstendige nye Bing-opplevelsen. Uautoriserte brukere har bare tilgang til en begrenset forhåndsvisning av opplevelsen. Disse trinnene fraråder misbruk og hjelper oss med å (etter behov) iverksette nødvendige tiltak som svar på brudd på reglene for god oppførsel. Vi gjør endringer i den nye Bing daglig for å forbedre produktytelsen, forbedre eksisterende begrensninger og implementere nye begrensninger som svar på læringene våre i forhåndsversjonsperioden.
Jording i søkeresultater. Som nevnt ovenfor er den nye Bing utformet for å gi svar som støttes av informasjonen i søkeresultater på nettet når brukere søker etter informasjon. Systemet leveres for eksempel med tekst fra de beste søkeresultatene og instruksjoner via metaprompten for å jorde svaret. Når du oppsummerer innhold fra nettet, kan imidlertid den nye Bing inneholde informasjon i svaret som ikke finnes i inndatakildene. Det kan med andre ord gi ujordede resultater. Våre tidlige evalueringer har indikert at ujordede resultater i chat kan være mer utbredt for visse typer ledetekster eller emner enn andre, for eksempel å be om matematiske beregninger, finansiell eller markedsinformasjon (for eksempel selskapets inntjening, aksjeresultatdata) og informasjon som nøyaktige datoer for hendelser eller bestemte priser på elementer. Brukere bør alltid være forsiktige og bruke beste vurdering når de viser summerte søkeresultater, enten på siden med søkeresultater eller i chatteopplevelsen. Vi har iverksatt flere tiltak for å redusere risikoen for at brukere kan være altfor avhengige av ujordet generert innhold i oppsummeringsscenarioer og chat-opplevelser. Svarene i den nye Bing som er basert på søkeresultatene, inkluderer for eksempel referanser til kildenettstedene for brukere for å bekrefte svaret og lære mer. Brukere får også eksplisitt varsel om at de samhandler med et AI-system og rådes til å sjekke kildematerialet for nettresultatet for å hjelpe dem med å bruke beste vurdering.
AI-baserte klassifierere og metaprompting for å redusere skade eller misbruk. Bruken av llms kan produsere problematisk innhold som kan føre til skade eller misbruk. Eksempler kan være utdata relatert til selvskading, vold, grafisk innhold, åndsverk, unøyaktig informasjon, hatefull tale eller tekst som kan relateres til ulovlige aktiviteter. Klassifiers og metaprompting er to eksempler på begrensninger som er implementert i den nye Bing for å redusere risikoen for disse innholdstypene. Klassifiere klassifiserer tekst for å flagge ulike typer potensielt skadelig innhold i søkespørringer, chat-ledetekster eller genererte svar. Bing bruker AI-baserte klassifiere og innholdsfiltre, som gjelder for alle søkeresultater og relevante funksjoner. Vi har utformet flere spørsmålsklassifierere og innholdsfiltre spesielt for å løse mulige skader som de nye Bing-funksjonene har reist, for eksempel chat og Bing bildeskaper. Flagg fører til potensielle begrensninger, for eksempel ikke å returnere generert innhold til brukeren, omdirigere brukeren til et annet emne eller omdirigere brukeren til tradisjonelt søk. Metaprompting innebærer å gi instruksjoner til modellen for å veilede virkemåten, inkludert slik at systemet oppfører seg i samsvar med Microsofts AI-prinsipper og brukerforventninger. Metaprompten kan for eksempel inneholde en linje, for eksempel «kommunisere på brukerens språk».
Beskytte personvernet i visualobjektsøk i chat. Når brukere laster opp et bilde som en del av chatledeteksten, bruker Bing ansiktsskarp teknologi før de sender bildet til AI-modellen. Ansiktsskarphet brukes til å beskytte personvernet til enkeltpersoner i bildet. Den ansiktsuskarpe teknologien er avhengig av kontekstspor for å finne ut hvor du skal uskarpe og vil forsøke å gjøre alle ansikter uskarpe. Med ansiktene uskarpe kan AI-modellen sammenligne det inndatate bildet med de av offentlig tilgjengelige bilder på Internett. Som et resultat, for eksempel, kan nye Bing være i stand til å identifisere en berømt basketballspiller fra et bilde av den spilleren på en basketballbane ved å opprette en numerisk representasjon som gjenspeiler spillerens jersey nummer, jersey farge, tilstedeværelsen av en basketball hoop, etc. Bing lagrer ikke numeriske fremstillinger av personer fra opplastede bilder og deler dem ikke med tredjeparter. Bing bruker numeriske fremstillinger av bildene som brukere laster opp bare for å svare på brukernes ledetekster, og deretter slettes de innen 30 dager etter at chatten avsluttes.
Hvis brukeren spør Bing-chatten om informasjon om et opplastet bilde, kan chattesvar gjenspeile virkningen av ansiktsskarphet på modellens mulighet til å gi informasjon om det opplastede bildet. Nye Bing kan for eksempel beskrive noen som å ha et uskarpt ansikt.
Begrense samtaledrift. I løpet av forhåndsvisningsperioden lærte vi at svært lange chatøkter kan resultere i svar som er repeterende, uhjelpsomme eller inkonsekvente med den tiltenkte tonen til den nye Bing. For å løse denne samtaledriften begrenset vi antall svinger (utvekslinger som inneholder både et brukerspørsmål og et svar fra Bing) per chatøkt. Vi fortsetter å evaluere flere tilnærminger for å løse dette problemet.
Be om berikelse. I noen tilfeller kan ledeteksten til en bruker være tvetydig. Når dette skjer, kan Bing-chatten bruke LLM til å bygge ut flere detaljer i ledeteksten for å sikre at brukerne får svaret de søker etter. Slik rask berikelse er ikke avhengig av noen kunnskap om brukeren eller deres tidligere søk, men i stedet på AI-modellen. Disse reviderte spørringene vil være synlige i brukerens chattelogg, og kan, i likhet med andre søk, slettes ved hjelp av produktkontroller.
Brukersentrert utforming og brukeropplevelsesintervensjoner. Brukersentrert utforming og brukeropplevelser er en viktig del av Microsofts tilnærming til ansvarlig kunstig intelligens. Målet er å rote produktutforming i behovene og forventningene til brukerne. Når brukere samhandler med den nye Bing for første gang, tilbyr vi ulike berøringspunkter som er utformet for å hjelpe dem med å forstå egenskapene til systemet, avsløre for dem at den nye Bing drives av kunstig intelligens og kommuniserer begrensninger. Opplevelsen er utformet på denne måten for å hjelpe brukere med å få mest mulig ut av den nye Bing og minimere risikoen for overavhengighet. Elementer i opplevelsen hjelper også brukerne med å forstå den nye Bing og deres samhandlinger med den. Disse inkluderer chatforslag som er spesifikke for ansvarlig kunstig intelligens (for eksempel hvordan bruker Bing KUNSTIG INTELLIGENS? Hvorfor vil ikke Bing svare på noen emner?), forklaringer av begrensninger, måter brukere kan lære mer om hvordan systemet fungerer og rapportere tilbakemeldinger, og enkelt navigerbare referanser som vises i svar for å vise brukerne resultatene og sidene der svarene er jordet.
AI-avsløring. Den nye Bing gir flere berøringspunkter for meningsfull ai-avsløring der brukerne blir varslet om at de samhandler med et AI-system, samt muligheter til å lære mer om den nye Bing. Å styrke brukere med denne kunnskapen kan hjelpe dem med å unngå å stole for mye på kunstig intelligens og lære om systemets styrker og begrensninger.
Media proveniens. Den nye Bing bildeskaper har aktivert «Innholdslegitimasjon»-funksjonen, som bruker kryptografiske metoder til å markere kilden, eller «proveniens», for alle AI-genererte bilder som er opprettet på den nye Bing. Den usynlige digitale vannmerkefunksjonen viser kilden, klokkeslettet og datoen for den opprinnelige opprettingen, og denne informasjonen kan ikke endres. Teknologien benytter standarder satt av Koalisjonen for innhold og ekthet (C2PA) for å legge til et ekstra lag med tillit og gjennomsiktighet for AI-genererte bilder. Microsoft er en av grunnleggerne av C2PA og har bidratt med kjerneteknologien for digital innholds proveniens.
Vilkår for bruk og regler for god oppførsel. Denne ressursen styrer bruken av den nye Bing. Brukere bør overholde vilkårene for bruk og regler for god oppførsel, som blant annet informerer dem om tillatt og utillatelig bruk og konsekvensene av brudd på vilkårene. Vilkår for bruk gir også ytterligere fremlegginger for brukere og fungerer som en praktisk referanse for brukere for å lære om den nye Bing.
Operasjoner og rask respons. Vi bruker også Bings pågående overvåkings- og driftsprosesser til å håndtere når den nye Bing mottar signaler, eller mottar en rapport, som indikerer mulig misbruk eller brudd på vilkårene for bruk eller regler for god oppførsel.
Tilbakemelding, overvåking og tilsyn. Den nye Bing-opplevelsen bygger på eksisterende verktøy som gjør det mulig for brukere å sende inn tilbakemeldinger og rapportere bekymringer, som gjennomgås av Microsofts driftsteam. Bings driftsprosesser har også utvidet seg for å imøtekomme funksjonene i den nye Bing-opplevelsen, for eksempel oppdatere siden Rapporter en bekymring for å inkludere de nye innholdstypene som brukerne genererer ved hjelp av modellen.
Vår tilnærming til identifisering, måling og formildende skader vil fortsette å utvikle seg etter hvert som vi lærer mer, og vi gjør allerede forbedringer basert på tilbakemeldinger som samles inn i forhåndsvisningsperioden.
Automatisert innholdsgjenkjenning. Når brukere laster opp bilder som en del av chatledeteksten, distribuerer Bing verktøy for å oppdage bilder av seksuell utnyttelse og misbruk av barn (CSEAI), spesielt PhotoDNA hash-matching-teknologi. Microsoft utviklet PhotoDNA for å finne duplikater av kjente CSEAI. Microsoft rapporterer alle tilsynelatende CSEAI til National Center for Missing and Exploited Children (NCMEC), som kreves av amerikansk lov.
Beskytte personvernet
Microsofts langvarige tro på at personvern er en grunnleggende menneskerettighetspersonighet har informert alle stadier i Microsofts utvikling og distribusjon av den nye Bing-opplevelsen. Våre forpliktelser til å beskytte personvernet til alle brukere, inkludert ved å gi enkeltpersoner gjennomsiktighet og kontroll over dataene og integrere personvernet ved å utforme gjennom dataminimering og formålsbegrensning, er grunnleggende for den nye Bing. Etter hvert som vi utvikler vår tilnærming til å tilby de nye Bings generative AI-opplevelser, vil vi kontinuerlig utforske hvordan vi best kan beskytte personvernet. Dette dokumentet oppdateres når vi gjør det. Mer informasjon om hvordan Microsoft beskytter brukernes personvern er tilgjengelig i Microsofts personvernerklæring.
Microsoft fortsetter å vurdere behovene til barn og unge som en del av risikovurderingene av nye generative AI-funksjoner i Bing. Alle Microsoft-kontoer for barn som identifiserer brukeren som under 13 år eller som ellers angitt i henhold til lokale lover, kan ikke logge på for å få tilgang til den fullstendige nye Bing-opplevelsen.
Som beskrevet ovenfor, har vi for alle brukere implementert sikkerhetstiltak som reduserer potensielt skadelig innhold. I den nye Bing settes chatteresultatene som i Bing SafeSearchs strenge modus, som har det høyeste sikkerhetsnivået i det viktigste Bing-søket, og dermed hindrer brukere, inkludert ungdomsbrukere, å bli utsatt for potensielt skadelig innhold. I tillegg til informasjonen vi har oppgitt i dette dokumentet og vanlige spørsmål om chattefunksjoner, er mer informasjon om hvordan den nye Bing fungerer for å unngå å svare med uventet støtende innhold i søkeresultatene, tilgjengelig her.
Microsoft har forpliktet seg til ikke å levere personlig reklame basert på online atferd til barn hvis fødselsdato i Microsoft-kontoen identifiserer dem som under 18 år. Denne viktige beskyttelsen strekker seg til annonser i de nye Bing-funksjonene. Brukere kan se kontekstavhengige annonser basert på spørringen eller ledeteksten som brukes til å samhandle med Bing.
For å låse opp det transformative potensialet til generativ kunstig intelligens, må vi bygge tillit til teknologien gjennom å gi enkeltpersoner mulighet til å forstå hvordan dataene brukes og gi dem meningsfulle valg og kontroller over dataene sine. Den nye Bing er utformet for å prioritere menneskelig byrå, gjennom å gi informasjon om hvordan produktet fungerer så vel som sine begrensninger, og gjennom å utvide våre robuste forbrukervalg og kontroller til de nye Bing-funksjonene.
Microsofts personvernerklæring gir informasjon om våre gjennomsiktige personvernpraksiser for å beskytte kundene våre, og den angir informasjon om kontrollene som gir brukerne våre muligheten til å vise og administrere sine personlige data. For å sikre at brukerne har informasjonen de trenger når de samhandler med Bings nye samtalefunksjoner, informerer avsløringer i produktet brukerne om at de engasjerer seg i et AI-produkt, og vi gir koblinger til ytterligere vanlige spørsmål og forklaringer om hvordan disse funksjonene fungerer. Microsoft vil fortsette å lytte til tilbakemeldinger fra brukerne og vil legge til ytterligere detaljer om Bings samtalefunksjoner etter behov for å støtte forståelse av hvordan produktet fungerer.
Microsoft tilbyr også sine brukere robuste verktøy for å utøve sine rettigheter over sine personlige data. For data som samles inn av den nye Bing, inkludert gjennom brukerspørringer og ledetekster, gir Microsofts personverninstrumentbord godkjente (påloggede) brukere verktøy for å utøve sine dataemnerettigheter, blant annet ved å gi brukerne muligheten til å vise, eksportere og slette lagret samtalelogg. Microsoft fortsetter å ta tilbakemeldinger på hvordan de ønsker å administrere sin nye Bing-opplevelse, blant annet gjennom bruk av databehandlingsopplevelser i kontekst.
Den nye Bing respekterer også forespørsler under den europeiske retten til å bli glemt, etter prosessen som Microsoft utviklet og raffinerte for Bings tradisjonelle søkefunksjonalitet. Alle brukere kan rapportere bekymringer om generert innhold og svar her, og våre europeiske brukere kan bruke dette skjemaet til å sende inn forespørsler om å blokkere søkeresultater i Europa under retten til å bli glemt.
Den nye Bing vil overholde brukernes personvernvalg, inkludert de som tidligere har blitt gjort i Bing, for eksempel samtykke for datainnsamling og bruk som er forespurt gjennom informasjonskapselbannere og kontroller som er tilgjengelige i Microsofts instrumentbord for personvern. For å bidra til å muliggjøre brukerens autonomi og byrå i å ta informerte beslutninger, har vi brukt vår interne gjennomgangsprosess til å nøye undersøke hvordan valg presenteres for brukerne.
I tillegg til kontroller som er tilgjengelige via Microsofts instrumentbord for personvern, som gjør det mulig for brukere å vise, eksportere og slette søkeloggen, inkludert komponenter i chatteloggen, har godkjente brukere som har aktivert chatloggfunksjonen i produktet, muligheten til å vise, få tilgang til og laste ned chatteloggen gjennom produktkontroller. Brukere kan når som helst fjerne bestemte chatter fra chatteloggen eller deaktivere funksjonaliteten for chatteloggen ved å gå til siden for Bing-innstillinger. Brukere kan også velge om de vil tillate tilpassing for å få tilgang til en mer skreddersydd opplevelse med tilpassede svar. Brukere kan når som helst melde seg inn og melde seg ut av tilpassing i Chat-innstillinger på Bing-innstillinger-siden. Hvis du fjerner bestemte chatter fra chatteloggen, hindres de i å bli brukt til tilpassing.
Du finner mer informasjon om chatlogg og tilpassing til brukerne i de nye vanlige spørsmålene om Bing.
Den nye Bing ble bygget med personvern i tankene, slik at personlige data samles inn og brukes bare etter behov og beholdes ikke lenger enn det som er nødvendig. Som nevnt ovenfor distribuerer den nye funksjonen for visuelt søk i Chat i Bing en mekanisme som gjør ansikter uskarpe i bildene på tidspunktet for opplastingen av brukere, slik at ansiktsbilder ikke behandles videre eller lagres. Mer informasjon om personopplysningene som Bing samler inn, hvordan de brukes, og hvordan de lagres og slettes, er tilgjengelig i Microsofts personvernerklæring, som også gir informasjon om Bings nye chatfunksjoner.
Den nye Bing har policyer for dataoppbevaring og sletting for å sikre at personlige data som samles inn gjennom Bings chatfunksjoner, bare beholdes så lenge som nødvendig.
Vi vil fortsette å lære og utvikle vår tilnærming til å tilby den nye Bing, og når vi gjør det, vil vi fortsette å jobbe på tvers av disipliner for å justere vår AI-innovasjon med menneskelige verdier og grunnleggende rettigheter, inkludert å beskytte unge brukere og personvern.
Bing Chat Enterprise
Bing Chat Enterprise ("BCE") ble utgitt av Microsoft i gratis offentlig forhåndsversjon i juli 2023 som et gratis tillegg for visse M365-kunder. BCE er en kunstig intelligens-forbedret nettsøkopplevelse for sluttbrukere av virksomheter. BCE er bygd på den nye Bing og støtter brukere ved å oppsummere søkeresultater på nettet og gi en chat-opplevelse. Brukere kan også generere kreativt innhold, for eksempel rapporter, analyser, strategiske planer og bilder med Bing bildeskaper. Siden BCE kjører på den nye AI-forbedrede Bing-chatten, gjelder alt innholdet i dette dokumentet om opplæring, utvikling, teknologi og ansvarlige vurderinger av kunstig intelligens som er tatt for Bing-chatteopplevelsen, også for BCE. Med mindre annet er angitt i denne delen, gjelder tilnærmingen til ansvarlig kunstig intelligens som er beskrevet andre steder i dette dokumentet, for BCE.
Som med nye Bing, når en BCE-sluttbruker skriver inn en ledetekst i BCE, sendes ledeteksten, den umiddelbare samtalen, de beste søkeresultatene og metaprompten som inndata til LLM. Modellen genererer et svar ved hjelp av loggen for ledetekst og umiddelbar samtale for å kontekstualisere forespørselen, metabeskyttelsen for å justere svar etter Microsoft AI-prinsipper og brukerforventninger, og søkeresultatene til bakkesvar i eksisterende, høytstående innhold fra nettet. Dette fungerer på samme måte som den nye Bing som beskrevet ovenfor i dette dokumentet, med unntak av at BCE bare baserer seg på umiddelbar samtalelogg (ikke nylig samtalelogg) på grunn av at lagret chattelogg ikke er en funksjon som støttes for BCE for øyeblikket. Bing bildeskaper og Visuelt søk er nå tilgjengelige i BCE.
I likhet med andre transformasjonsteknologier er det ikke risikofritt å utnytte fordelene ved kunstig intelligens, og en viktig del av Microsofts ansvarlige AI-program er utformet for å identifisere potensielle skader, måle deres tilbøyelighet til å oppstå og bygge begrensninger for å løse dem. Igjen, beskrivelsen ovenfor av Microsofts innsats for å identifisere, måle og redusere potensielle skader for den nye Bing gjelder også for BCE, med noen avklaringer om begrensninger beskrevet nedenfor:
Faset utgivelse, kontinuerlig evaluering. Akkurat som med den nye Bing, for BCE har vi også tatt en trinnvis utgivelsestilnærming. 18. juli 2023 ble BCE tilgjengelig som en gratis forhåndsvisning for kvalifiserte bedriftskunder med bestemte M365-kontoer for å slå på for bedriftssluttbrukerne. Tretti (30) dager etter å ha varslet kvalifiserte bedriftskunder, ble BCE «standard på» for de samme kundene. BCE har også siden blitt tilgjengelig for bestemte utdanningsfakultetet M365 kontoer. I fremtiden kan vi gjøre BCE tilgjengelig for alle virksomheter som et frittstående produkt eller gi tilgang til andre typer organisatoriske kunder.
Vilkår for bruk og regler for god oppførsel. Sluttbrukere av BCE må overholde vilkårene for bruk av bce-sluttbrukeren. Disse bruksvilkårene informerer sluttbrukerne om tillatt og utillatelig bruk og konsekvensene av brudd på vilkårene.
Operasjoner og rask respons. Vi bruker også nye Bings pågående overvåkings- og driftsprosesser til å håndtere når BCE mottar signaler, eller mottar en rapport, som indikerer mulig misbruk eller brudd på bce-sluttbrukernes vilkår for bruk.
Tilbakemelding, overvåking og tilsyn. BCE bruker samme verktøy som den nye Bing for brukere til å sende inn tilbakemeldinger og rapportere bekymringer, som gjennomgås av Microsofts driftsteam. Bings driftsprosesser har også utvidet seg for å imøtekomme funksjonene i de nye Bing- og BCE-opplevelsene, for eksempel oppdatering av siden Rapporter et problem for å inkludere de nye innholdstypene som brukerne genererer ved hjelp av modellen.
For å sikre at sluttbrukerne har informasjonen de trenger når de samhandler med BCE, er det produktdokumentasjon tilgjengelig nederst i dette dokumentet, inkludert vanlige spørsmål og finn ut mer-sider.
Ledetekster og svar som genereres av sluttbrukere i BCE, behandles og lagres i samsvar med standarder for databehandling for virksomheter. BCE-tilbudet er for øyeblikket bare tilgjengelig for bedriftskunder og deres godkjente voksne sluttbrukere, derfor forventer vi ikke at barn eller unge skal være sluttbrukere av BCE på dette tidspunktet. I tillegg gir ikke BCE noen atferdsmessig målrettet annonsering til sluttbrukere. I stedet er annonser som vises bare kontekstuelt relevante annonser.
Finn ut mer
Dette dokumentet er en del av en bredere innsats hos Microsoft for å sette våre AI-prinsipper ut i praksis. Hvis du vil finne ut mer, kan du se:
Microsofts tilnærming til ansvarlig kunstig intelligens
Microsofts ansvarlige AI-standard
Microsofts ansvarlige ai-ressurser
Opplæringskurs for Microsoft Azure om ansvarlig kunstig intelligens
Om dette dokumentet
© 2023 Microsoft. Med enerett. Dette dokumentet er angitt «som det er» og bare for informasjonsformål. Informasjonen og visningene i dette dokumentet, inkludert URL-adresser og andre referanser til webområder, kan endres uten varsel. Du bærer risikoen for å bruke den. Noen eksempler er bare for illustrasjon og er fiktive. Ingen reell tilknytning er tiltenkt eller tiltenkt.
