18. august 2026 kl.
Obs!
- Informasjonen i denne artikkelen gjelder bare for bruken av Microsoft Copilot av personer som er logget på med en Microsoft-konto, for eksempel en personlig e-postadresse.
- Hvis du vil ha informasjon om bruken av Microsoft Copilot i organisasjoner der brukere er logget på med jobb- eller skolekontoen, kan du se Programkort: Microsoft Copilot (for organisasjoner).
Hva er et gjennomsiktighetsnotat?
Et AI-system inkluderer ikke bare teknologien, men også menneskene som skal bruke den, menneskene som vil bli berørt av den og miljøet den distribueres i. Microsofts gjennomsiktighetsnotater er ment å hjelpe deg med å forstå hvordan KI-teknologien bak Copilot fungerer, valgene vi har tatt som påvirker systemets ytelse og atferd, og viktigheten av å tenke på hele systemet, slik at brukere av Copilot kan ta kontroll over sine egne opplevelser og forstå trinnene vi tar for å tilby et trygt og sikkert produkt.
Microsofts gjennomsiktighetsnotater er en del av en bredere innsats hos Microsoft for å sette våre prinsipper for kunstig intelligens ut i praksis. Hvis du vil vite mer, kan du se Microsoft AI-prinsipper.
Det grunnleggende om Microsoft Copilot
Innføring
Microsoft Copilot hjelper deg med å gå fra idé til ferdig arbeid, alt på ett sted. Copilot er integrert i Word, Excel, PowerPoint, Outlook, Teams og mer, og samler filene og informasjonen du bruker, i én opplevelse. Copilot kan hjelpe deg med å opprette flotte dokumenter, presentasjoner og regneark, lage utkast til e-postmeldinger, organisere dagen din og få svar forankret i arbeidet du gjør. Med Cowork kan Copilot også hjelpe deg med større oppgaver i flere trinn og levere fullførte gjøremål. Du kan også velge mellom ledende modeller for kunstig intelligens for ulike typer arbeid. Spesifikke funksjoner varierer etter abonnement.
Hos Microsoft tar vi ansvarlig KI på alvor. Copilot er utviklet i tråd med Microsofts prinsipper for kunstig intelligens, Microsofts Standard for ansvarlig kunstig intelligens og i samarbeid med ansvarlige KI-eksperter på tvers av selskapet, inkludert Microsofts Office of Responsible AI, teknikerteamene våre, Microsoft Research og Aether. Du kan finne ut mer på Ansvarlig kunstig intelligens hos Microsoft.
I dette dokumentet beskriver vi vår tilnærming til ansvarlig kunstig intelligens for Copilot. I forkant av utgivelsen utnyttet vi Microsofts toppmoderne metoder for å kartlegge, måle og håndtere potensielle risikoer og misbruk av systemet, og sikre fordelene for brukerne. Etter hvert som vi har fortsatt å utvikle Copilot, har vi også fortsatt å lære og forbedre innsatsen vår for ansvarlig KI. Dette dokumentet oppdateres jevnlig for å formidle prosesser og metoder under utvikling.
Viktige begreper
Klassifiserere Maskinlæringsmodeller som hjelper til med å sortere data i merkede klasser eller kategorier med informasjon. I Copilot er én måte vi bruker klassifiserere på for å bidra til å oppdage potensielt skadelig innhold som er sendt inn av brukere eller generert av systemet, for å redusere generering av innholdet og misbruk av systemet.
Jording For enkelte samtaler der brukere søker informasjon, er Copilot forankret i nettsøkeresultater. Dette betyr at Copilot sentrerer responsen sin på høyt rangert innhold fra nettet og gir hyperkoblede sitater etter genererte tekstsvar eller i samtaletranskripsjoner i talemodus.
Store språkmodeller (LLM-er) Store språkmodeller (LLM-er) i denne sammenhengen er KI-modeller som er opplært på store mengder tekstdata for å forutsi ord i sekvenser. LLM-er kan utføre en rekke oppgaver, for eksempel tekstgenerering, oppsummering, oversettelse, klassifisering og mer.
Begrensning En metode eller kombinasjon av metoder som er utformet for å redusere potensielle risikoer som kan oppstå ved bruk av funksjonene for kunstig intelligens i Copilot.
Multimodale modeller (MMM-er) Multimodale modeller (MMM-er) er KI-modeller som er opplært på ulike typer data, for eksempel tekst, bilder eller lyd. Disse modellene kan utføre en rekke oppgaver, for eksempel skrive tekst, beskrive bilder, gjenkjenne tale og finne informasjon på tvers av forskjellige typer data.
Instrukser Inndata i form av tekst, bilder og/eller lyd som en bruker sender til Copilot for å samhandle med KI-funksjonene i Copilot.
Rød gruppering Teknikker som brukes av eksperter for å vurdere begrensninger og sårbarheter i et system og for å teste effektiviteten til planlagte tiltak. Red team-testing inkluderer testere som bruker både godartede og fiendtlige personas for å identifisere potensielle risikoer og skiller seg fra systematisk måling av risiko.
svarene Tekst, bilder eller lyd som Copilot sender ut som svar på en ledetekst, eller som en del av det å snakke med brukeren frem og tilbake. Synonymer for «svar» inkluderer «fullføring», «generering og «svar».
Små språkmodeller (SLM-er) Små språkmodeller (SLM-er) i denne sammenhengen er modeller for kunstig intelligens som er opplært på mindre, mer fokuserte datamengder sammenlignet med store språkmodeller. Til tross for den mindre størrelsen kan SLM-er utføre en rekke oppgaver, for eksempel tekstgenerering, oppsummering, oversettelse og klassifisering. Selv om de kanskje ikke samsvarer med de omfattende funksjonene til LLM-er, er SLM-er ofte mer ressurseffektive og kan være svært effektive for spesifikke, målrettede programmer.
Systemmelding Systemmeldingen (noen ganger kalt en «metamelding») er et program som tjener til å veilede systemets virkemåte. Deler av systemmeldingen bidrar til å justere systematferd med Microsofts AI-prinsipper og brukerforventninger. En systemmelding kan for eksempel inneholde en linje som «ikke oppgi informasjon eller opprett innhold som kan forårsake fysisk, følelsesmessig eller økonomisk skade».
Muligheter
Systemvirkemåte
Med Copilot har vi utviklet en innovativ tilnærming for å gi brukerne en mer personlig opplevelse med kunstig intelligens for en engasjerende opplevelse som kan hjelpe brukerne med en rekke oppgaver. Denne innovative tilnærmingen utnytter en rekke avanserte teknologier, for eksempel språk og multimodale modeller fra Microsoft, OpenAI og andre modellutviklere. Vi jobbet med implementeringen av sikkerhetsteknikker for modellene underliggende for Copilot før offentlig utgivelse for å utvikle et tilpasset sett med funksjoner og virkemåter som gir en forbedret Copilot-opplevelse. I Copilot kan brukere sende ledetekster i naturlig språk i tekst eller tale. Svar presenteres for brukere i flere forskjellige formater, for eksempel chatsvar i tekstform (med tradisjonelle koblinger til nettinnhold etter behov) og bilder (hvis en bildeforespørsel ble gjort som en del av spørsmålet). Hvis brukere sender spørsmål på naturlig språk i Copilot-talemodus, vil de motta lydsvar.
Når en bruker skriver inn en melding i Copilot, sendes spørsmålet, samtaleloggen og systemmeldingen gjennom flere inndataklassifiserere for å filtrere ut skadelig eller upassende innhold. Dette er et viktig første trinn for å bidra til å forbedre modellytelsen og redusere situasjoner der brukere kan prøve å spørre modellen på en måte som kan være usikker. Når forespørselen passerer gjennom inndataklassifisererne, foretas det en avgjørelse om forespørselen krever jordingsdata fra nettet, og hvilken språkmodell som skal svare på forespørselen. Alle modeller genererer et svar ved hjelp av brukerens ledetekst og nylige samtalelogg for å kontekstualisere forespørselen, systemmeldingen for å justere svarene etter Microsofts AI-prinsipper og brukerforventninger, og hvis det er aktuelt, justere svar med søkeresultater for å bakke svar i eksisterende, høyt rangert innhold fra nettet.
Svarene presenteres for brukere i flere forskjellige formater, for eksempel chatsvar i tekstform, tradisjonelle koblinger til nettinnhold, bilder og lydsvar. Når svar gis i form av tekst, og svarene er basert på data fra nettet, inneholder utdataene hyperkoblede sitater oppført under teksten, slik at brukerne kan få tilgang til nettstedet/nettstedene som ble brukt til å forankre svaret og lære mer om emnet derfra. Copilot kan også kjøre kode for å fullføre komplekse beregninger og generere grafer. Copilot kan lagre bestemte fakta brukere ber den om å huske, slik at den kan generere mer relevante svar og forslag basert på denne konteksten. Copilot kan også slette lagrede fakta når brukere ber om å glemme dem eksplisitt.
Copilot hjelper også brukere med å opprette nye historier, dikt, sangtekster og bilder. Når Copilot oppdager at brukeren har til hensikt å generere kreativt innhold (for eksempel en brukermelding som begynner med «skriv til meg en ...»), vil systemet i de fleste tilfeller generere innhold som reagerer på brukerens ledetekst. På samme måte, når Copilot oppdager at brukeren har til hensikt å generere et bilde (for eksempel en brukermelding som begynner med «tegn meg en ...»), genererer Copilot i de fleste tilfeller et bilde som reagerer på brukerens ledetekst. Når Copilot oppdager at brukeren har til hensikt å endre et opplastet bilde (for eksempel en brukermelding som begynner med «legg til en ...»), vil Copilot i de fleste tilfeller endre et bilde som reagerer på brukerens ledetekst. Det kan hende at Copilot ikke svarer med kreativt innhold når brukerledeteksten inneholder visse vilkår som kan føre til problematisk innhold.
Tiltenkt sikkerhetsatferd
Målet vårt for Copilot er å være nyttig for brukerne, og vi implementerer sikkerhetstiltak for å redusere sannsynligheten for å generere skadelig innhold og øke sannsynligheten for en trygg og positiv brukeropplevelse. Selv om vi har iverksatt tiltak for å redusere risiko, er generative KI-modeller som de bak Copilot sannsynlige og kan gjøre feil, noe som betyr at avbøtende tiltak av og til ikke blokkerer skadelige brukerforespørsler eller svar generert av kunstig intelligens. Hvis du støter på skadelig eller uventet innhold mens du bruker Copilot, kan du gi oss beskjed ved å gi tilbakemelding, slik at vi kan fortsette å forbedre opplevelsen.
Brukstilfeller
Tiltenkt bruk
Copilot er utformet for å hjelpe brukere med å svare på spørsmål, generere innhold og fullføre oppgaver gjennom naturlig språk ved hjelp av tekst, bilder og tale. For å gi nyttige og relevante svar kan Copilot hente, analysere og oppsummere informasjon fra tilgjengelige kilder. Enkelte avanserte funksjoner er kanskje bare tilgjengelige for brukere med kvalifiserte abonnementer. Eksempler på vanlige brukstilfeller omfatter følgende:
Chat ved hjelp av tekst, og få nettbaserte sammendrag. Brukere kan chatte med Copilot via tekstmelding og stille oppfølgingsspørsmål for å finne ny informasjon og få støtte på tvers av en rekke emner. Copilot kan utføre nettsøk og bruker de øverste nettsøkresultatene til å generere et sammendrag av informasjonen som skal presenteres for brukerne. Disse sammendragene inkluderer sitater til nettsider for å hjelpe brukere med å se gjennom kildene for søkeresultater som bidro til å forankre Copilots sammendrag. Brukere kan klikke på disse koblingene for å gå til kilden til nettstedet for å lære mer eller evaluere påliteligheten til nettstedet.
Få hjelp til å generere nye ideer. Hver gang brukere samhandler med Copilot-opplevelsen, vil de se et sett med kort som de kan klikke på for å begynne å chatte med Copilot om nyttige og interessante emner. Hvis brukere har samhandlet med andre forbrukertjenester fra Microsoft, blir kortene tilpasset, i tråd med våre retningslinjer for personvern. Over tid kan kort i Copilot tilpasses basert på en brukers chattelogg. Brukere kan velge bort tilpasning når som helst i innstillingene.
Generer kreativt innhold. Når de chatter med Copilot, kan brukere opprette nye dikt, vitser, historier, bilder og annet innhold med hjelp fra Copilot. Copilot kan også redigere bilder som er lastet opp av brukere på forespørsel.
Bistå med undersøkelser. Copilot kan utføre forskningsoppgaver ved å vise dyptgående ressurser, tilby detaljerte oversikter over emner og koble til kilder for å hjelpe brukere med å gå utover raske svar på mer komplekse spørsmål. Copilot kan proaktivt generere tilpassede oppslagsforslag til brukere basert på ting som tidligere oppslagsspørringer og Copilot-minne. Brukere kan når som helst velge bort tilpassing eller varsler i innstillingene.
Oppdag, sammenlign og kjøp produkter. Copilot Shopping kan hjelpe deg med å finne produkter, sammenligne alternativer og effektivisere kjøp. Microsoft mottar ikke provisjoner eller annen kompensasjon for produktforslag eller søkeresultater levert i Copilot, med unntak av der det er angitt.
Studer smartere med Copilot Learn. Copilot Learn kan opprette tester og øvingstester, generere puggekort og er utformet for å bidra til å forbedre svar med bilder for å gjøre komplekse konsepter enklere å forstå.
Få hjelp med daglige oppgaver. Copilot Cowork utfører oppgaver på dine vegne. Du beskriver det du trenger på naturlig språk, og Cowork gjør arbeidet, oppretter dokumenter, lager utkast og sending av e-post, planlegger møter og administrerer filer. Du ser gjennom og godkjenner sensitive handlinger før det skjer.
Analysere og redigere filer. Filopplasting i Copilot gjør det mulig for brukere å laste opp bilder eller bestemte støttede filtyper direkte i chatteøktene. Når de er lastet opp, kan Copilot analysere og trekke ut informasjon fra disse filene for å gi relevant innsikt, svare på spørsmål eller hjelpe med bestemte oppgaver. Copilot kan også referere til filer i de tilkoblede lagringsleverandørene på nett, for eksempel OneDrive og Google Drive, med din tillatelse.
Se og forstå. Bruk Visuelt til å analysere bilder, få innsikt fra bilder og søke visuelt. Copilot går gjennom opplastede bilder for å hjelpe deg med å forstå hva du ser.
Bruk stemmen din. Snakk naturlig med Copilot ved hjelp av talechat. Idémyldre ideer, skriv innhold eller få raske svar, helt håndfritt.
Kobler til andre apper. Ta med appene og informasjonen du velger, for eksempel e-post, kalendere, filer, kontakter og andre tjenester.
Vurderinger ved valg av andre brukstilfeller
Vi oppfordrer brukere til å gjennomgå alt innhold før de tar beslutninger eller handler basert på Copilots svar, da kunstig intelligens kan gjøre feil og kanskje ikke er egnet for visse brukstilfeller. I tillegg finnes det visse scenarier som vi anbefaler å unngå eller som strider mot våre vilkår for bruk. Microsoft tillater for eksempel ikke at Copilot brukes i forbindelse med ulovlige aktiviteter eller til formål som er ment å fremme ulovlig aktivitet.
Begrensninger
Språk-, bilde- og lydmodellene som ligger til grunn for Copilot-opplevelsen, kan inkludere opplæringsdata som kan gjenspeile samfunnsmessige skjevheter, noe som igjen potensielt kan føre til at Copilot oppfører seg på måter som oppfattes som urettferdige, upålitelige eller støtende. Til tross for vår intensive modellopplæring og sikkerhetsfinjustering, samt implementeringen av ansvarlige AI-kontroller og sikkerhetssystemer som vi plasserer på treningsdata, brukerforespørsler og modellutganger, er AI-drevne tjenester feilbarlige og sannsynlige. Dette gjør det utfordrende å blokkere alt upassende innhold, noe som fører til risiko for potensiell bias, stereotypier, ugrunnethet eller andre typer skade som kan forekomme i kunstig intelligens-generert innhold. Her er noen av måtene disse begrensningene kan manifestere seg i Copilot-opplevelsen på.
Stereotypier: Copilot-opplevelsen kan potensielt forsterke stereotypier. For eksempel, når du oversetter «Han er sykepleier» og «Hun er lege» til et kjønnsløst språk som tyrkisk og deretter tilbake til engelsk, kan Copilot utilsiktet gi de stereotypiske (og feilaktige) resultatene av «Hun er sykepleier» og «Han er lege». Et annet eksempel er når man genererer et bilde basert på ledeteksten «Farløse barn», kan systemet generere bilder av barn fra bare én rase eller etnisitet, og forsterke skadelige stereotypier som kan eksistere i offentlig tilgjengelige bilder som brukes til å trene de underliggende modellene. Copilot kan også forsterke stereotypier basert på innholdet i brukerens inndatabilde ved å stole på komponenter i bildet og gjøre antagelser som kanskje ikke er sanne. Vi har implementert begrensninger for å redusere risikoen for innhold som inneholder støtende stereotypier, inkludert inndata- og utdataklassifierere, finjusterte modeller og systemmeldinger.
Overrepresentasjon og underrepresentasjon: Copilot kan potensielt over- eller underrepresentere grupper av mennesker, eller til og med ikke representere dem i det hele tatt, i svarene sine. Hvis for eksempel tekstmeldinger som inneholder ordet «homofil» oppdages som potensielt skadelige eller støtende, kan dette føre til underrepresentasjon av legitime generasjoner om LHBTQIA+-fellesskapet. I tillegg til å inkludere inndata- og utdataklassifierere, finjusterte modeller i tillegg til systemmeldinger, bruker vi prompt-berikelse i Designer som én av flere tiltak for å redusere risikoen for innhold som over- eller underrepresenterer grupper med personer.
Upassende eller støtende innhold: Copilot-opplevelsen kan potensielt produsere andre typer upassende eller støtende innhold. Eksempler inkluderer muligheten til å generere innhold i én modalitet (for eksempel lyd) som er upassende i konteksten av ledeteksten eller sammenlignet med samme utdata i en annen modalitet (for eksempel tekst). Andre eksempler omfatter bilder generert av kunstig intelligens som potensielt inneholder skadelige artefakter som hatsymboler, innhold som er relatert til omstridte, kontroversielle eller ideologisk polariserende emner, og seksuelt ladet innhold som unndrar seg filtre for seksuelt relatert innhold. Vi har iverksatt tiltak for å redusere risikoen for generasjoner som inneholder upassende eller støtende innhold, for eksempel inndata- og utdataklassifierere, finjusterte modeller og systemmeldinger.
Informasjonspålitelighet: Selv om Copilot har som mål å svare med pålitelige kilder der det søkes etter bakgrunnsinformasjon, kan kunstig intelligens gjøre feil. Det kan potensielt generere useriøst innhold eller fabrikkere innhold som kan høres fornuftig ut, men som faktisk er unøyaktig. Selv når du henter svar fra nettdata med høy autoritet, kan svar gi en feilaktig fremstilling av innholdet på en måte som kanskje ikke er helt nøyaktig, oppdatert eller pålitelig. Vi minner brukerne på at Copilot kan gjøre feil gjennom brukergrensesnittet og i dokumentasjon som dette. Vi fortsetter også å opplyse brukere om begrensningene til kunstig intelligens, for eksempel ved å oppfordre dem til å dobbeltsjekke fakta før de tar avgjørelser eller handle basert på Copilots svar. Når brukere samhandler med Copilot via tekst, vil Copilot forsøke å forankre seg i nettdata av høy kvalitet for å redusere risikoen for at generasjoner er ujordede.
Flerspråklig ytelse: Det kan være variasjoner i ytelse på tvers av språk, der engelsk fungerer best på tidspunktet for utgivelse av Copilot. Forbedring av ytelse på tvers av språk er et viktig investeringsområde, og nyere modeller har ført til bedre ytelse.
Lydbegrensninger: Lydmodeller kan medføre andre begrensninger. Generelt sett kan den akustiske kvaliteten på taleinndata, ikke-talestøy, vokabular, aksenter og innsettingsfeil også påvirke om Copilot behandler og reagerer på en brukers lydinndata på en tilfredsstillende måte.
Kunstig intelligens er ikke en erstatning for profesjonell hjelp: Kunstig intelligens kan være et nyttig verktøy for problemløsning og kan oppfattes som empatisk, men det er ikke en erstatning for å søke profesjonell hjelp. Hvis du opplever depresjon, selvmordstanker eller selvskading eller andre psykiske problemer, kan du oppsøke profesjonell hjelp. Copilot kan også brukes til å finne ressurser for krise eller mental helse i nærheten av deg.
Avhengighet av Internett-tilkobling: Copilot er avhengig av Internett-tilkobling for å fungere. Avbrudd i tilkoblingen kan ha innvirkning på tilgjengeligheten og ytelsen til tjenesten.
Vær forsiktig når du oppretter eller bruker agenter: Brukere bør utvise forsiktighet når de oppretter sine egne agenter eller bruker agenter levert av andre, spesielt hvis handlingene utført av agentene kan ha betydelige konsekvenser, være irreversible eller potensielt ha deling av sensitiv personlig informasjon (for eksempel passord, pålogginger eller personlige data). Fordi agenter kanskje ikke fungerer bra for alle brukstilfeller, og kan gjøre feil, feiltolke instruksjoner eller bli lurt av ondsinnede skjulte instruksjoner, bør brukere overvåke resultatene nøye og se gjennom viktige detaljer Brukere kan bli begrenset fra visse brukstilfeller, for eksempel besøk på skadelige nettsteder eller oppretting av upassende innhold. Ytterligere forholdsregler bør også tas ved oppretting av autonom agentisk kunstig intelligens, som beskrevet videre i delen om regler for god oppførsel i Microsofts tjenesteavtale.
Systemytelse
I mange systemer for kunstig intelligens defineres ytelse ofte i forhold til nøyaktighet (det vil si hvor ofte KI-systemet tilbyr en korrekt prediksjon eller utdata). Med Copilot er vi fokusert på Copilot som en assistent drevet av kunstig intelligens som gjenspeiler brukerens preferanser. Derfor kan to forskjellige brukere se på samme utdata og ha forskjellige oppfatninger av hvor nyttig eller relevant det er for deres unike situasjon og forventninger, noe som betyr at ytelse for disse systemene må defineres mer fleksibelt. Vi vurderer generelt ytelse som at applikasjonen yter som brukerne forventer.
Anbefalte fremgangsmåter for å forbedre systemytelsen
Samhandle med grensesnittet ved hjelp av naturlig samtalespråk. Samhandling med Copilot på en måte som er komfortabel for brukeren er nøkkelen til å få bedre resultater gjennom opplevelsen. På samme måte som å ta i bruk teknikker for å hjelpe folk med å kommunisere effektivt i hverdagen, kan samhandling med Copilot som en assistent drevet av kunstig intelligens, enten gjennom tekst eller tale som er kjent for brukeren, bidra til å oppnå bedre resultater.
Brukeropplevelse og implementering. Effektiv bruk av Copilot krever at brukerne forstår egenskapene og begrensningene. Det kan være en læringskurve, og brukere ønsker kanskje å referere til ulike Copilot-ressurser (for eksempel dette dokumentet og Microsoft Copilot hjelpe & læring) for å samhandle med og dra nytte av tjenesten på en effektiv måte.
Kartlegging, måling og håndtering av risiko
I likhet med andre transformerende teknologier er det ikke risikofritt å utnytte fordelene med KI, og en viktig del av Microsofts ansvarlig KI-program er utformet for å identifisere og kartlegge potensielle risikoer, måle disse risikoene og håndtere dem ved å bygge begrensninger og kontinuerlig forbedre Copilot over tid. I avsnittene nedenfor beskriver vi vår gjentakende tilnærming for å kartlegge, måle og håndtere potensielle risikoer.
Kart: Nøye planlegging og fiendtlig testing før distribusjon, for eksempel red teaming, hjelper oss med å kartlegge potensielle risikoer. De underliggende modellene som driver Copilot-opplevelsen, har gjennomgått rødt team-testing fra testere som representerer tverrfaglige perspektiver på tvers av relevante emneområder. Denne testingen ble utformet for å vurdere hvordan den nyeste teknologien ville fungere både med og uten ytterligere sikkerhetstiltak brukt på den. Hensikten med disse øvelsene på modellnivå er å produsere skadelige reaksjoner, vise potensielle veier for misbruk og identifisere evner og begrensninger.
Testing på programnivå før utgivelse. Før vi gjorde Copilot offentlig tilgjengelig, utførte vi rød teaming på programnivå for å identifisere mangler og sårbarheter. Denne testingen hjalp oss med å forstå hvordan et bredt spekter av brukere kan bruke Copilot, og informerte om forbedringer av tiltakene våre.
Pågående testing. Vi tester også nye funksjoner og tekniske oppdateringer etter behov når vi oppdaterer Copilot. Denne kontinuerlige prosessen hjelper oss med å identifisere nye risikoer og finjustere tiltakene våre over tid.
Måle: I tillegg til å evaluere Copilot mot våre eksisterende sikkerhetsevalueringer, hjalp bruken av red teaming beskrevet ovenfor oss med å utvikle evalueringer og ansvarlige KI-måledata som tilsvarer identifiserte potensielle risikoer, for eksempel jailbreaks, skadelig innhold og ujordet innhold.
Vi samlet inn samtaledata rettet mot disse risikoene, ved hjelp av en kombinasjon av menneskelige deltakere og et automatisert datasamlebånd for samtalegenerering. Hver evaluering blir deretter vurdert av enten et utvalg av opplærte menneskelige annotatorer eller en automatisert merknadspipeline. Hver gang produktet endres, oppdateres eksisterende tiltak, eller nye tiltak foreslås, oppdaterer vi evalueringssamlebåndene våre for å vurdere både produktytelsen og ansvarlig KI-måledataene. Disse automatiserte evalueringskontekstsamlebåndene er en kombinasjon av innsamlede samtaler med menneskelige evaluatorer og syntetiske samtaler generert med LLM-er som blir bedt om å teste policyer på en kontradiktorisk måte. Hver av disse sikkerhetsevalueringene scores automatisk med LLM-er. For de nyutviklede evalueringene blir hver evaluering først vurdert av menneskelige etiketter som leser tekstinnholdet eller lytter til lydutgangen, og konverteres deretter til automatiske LLM-baserte evalueringer.
Den tiltenkte oppførselen til modellene våre i kombinasjon med evalueringssamlebåndene våre – både menneskelige og automatiserte – gjør oss i stand til raskt å utføre måling for potensielle risikoer i stor skala. Etter hvert som vi identifiserer nye problemer over tid, fortsetter vi å utvide målesettene for å vurdere ytterligere risikoer.
Behandle: Da vi identifiserte potensielle risikoer og misbruk gjennom red teaming og målte dem med tilnærmingene som er beskrevet ovenfor, utviklet vi ytterligere tiltak som er spesifikke for Copilot-opplevelsen. Nedenfor beskriver vi noen av disse tiltakene. Vi vil fortsette å overvåke Copilot-opplevelsen for å forbedre produktytelsen og vår tilnærming til risikoredusering.
Faset lanseringsplaner og kontinuerlig evaluering. Vi er forpliktet til å lære og forbedre vår ansvarlig KI-tilnærming kontinuerlig etter hvert som teknologiene og brukeratferden vår utvikler seg. Vår trinnvise lanseringsstrategi har vært en viktig del av hvordan vi flytter teknologien vår trygt fra laboratoriet til verden, og vi er forpliktet til en bevisst, gjennomtenkt prosess for å sikre fordelene med Copilot-opplevelsen. Vi gjør endringer i Copilot regelmessig for å forbedre produktytelsen og eksisterende tiltak, og implementere nye tiltak basert på hva vi har lært.
Dra nytte av klassifierere og systemmeldingen for å redusere potensielle risikoer eller misbruk. Som svar på brukermeldinger kan LLM-er produsere problematisk innhold. Vi diskuterte typer innhold som vi prøver å begrense i avsnittene Systemvirkemåte og begrensninger ovenfor. Klassifiserere og systemmeldingen er to eksempler på tiltak som er implementert i Copilot for å redusere risikoen for disse innholdstypene. Klassifiserere klassifiserer tekst for å flagge potensielt skadelig innhold i brukerledetekster eller genererte svar. Vi bruker også eksisterende anbefalte fremgangsmåter for å utnytte systemmeldingen, noe som innebærer å gi instruksjoner til modellen for å tilpasse virkemåten til Microsofts AI-prinsipper og til brukernes forventninger.
Laste opp bilder til Copilot Vision. Første gang en bruker laster opp et bilde til Copilot Vision, får vedkommende informasjon om hvordan bildet behandles av Copilot. Hvis en bruker ikke fortsetter med opplastingen, sendes ikke bildet til Copilot. Alle bildene slettes innen 30 dager etter at samtalen er avsluttet.
KI-avsløring. Copilot er også utformet for å informere folk om at de samhandler med et KI-system. Når brukere kommuniserer med Copilot, tilbyr vi ulike berøringspunkter som er utformet for å hjelpe dem med å forstå funksjonene til systemet, informere dem om at Copilot drives av kunstig intelligens og kommunisere begrensninger. Opplevelsen er utformet på denne måten for å hjelpe brukerne med å få mest mulig ut av Copilot og minimere risikoen for overdreven avhengighet. Offentliggjøringer hjelper også brukere med å bedre forstå Copilot og deres samhandlinger med den.
Medieopprinnelse. For alle bilder som er opprettet med Copilot, har vi implementert innholdsinformasjon, opprinnelse basert på C2PA-standarden, for å hjelpe folk med å identifisere om bilder ble redigert eller generert med kunstig intelligens. Metadata for opprinnelse kan vises på nettstedet for innholdslegitimasjon.
Automatisert gjenkjenning av innhold. Når brukere laster opp bilder som en del av chat-ledeteksten, distribuerer Copilot verktøy for å oppdage bilder av seksuell utnyttelse og misbruk av barn (CSEAI). Microsoft rapporterer alle tilsynelatende CSEAI til National Center for Missing and Exploited Children (NCMEC), som kreves av amerikansk lov. Når brukere laster opp filer for å analysere eller behandle, distribuerer Copilot automatisert skanning for å oppdage innhold som kan føre til risiko eller misbruk, for eksempel tekst som kan relateres til ulovlige aktiviteter eller ondsinnet kode.
Vilkår for bruk og regler for god oppførsel. Brukere bør overholde Copilots gjeldende vilkår for bruk og regler for god oppførsel, Microsofts tjenesteavtale og Microsofts personvernerklæring, som blant annet informerer dem om tillatt og utillatelig bruk og konsekvensene av brudd på vilkårene. Vilkårene for bruk gir også ytterligere opplysninger for brukere og fungerer som en referanse for brukere for å lære om Copilot. Brukere som begår alvorlige eller gjentatte brudd, kan bli midlertidig eller permanent utestengt fra tjenesten.
Tilbakemelding, overvåking og tilsyn. Copilot-opplevelsen inkluderer verktøy som lar brukere sende inn tilbakemeldinger, som gjennomgås av Microsofts driftsteam. Videre vil vår tilnærming til kartlegging, måling og styring av risiko fortsette å utvikle seg etter hvert som vi lærer mer, og vi gjør allerede forbedringer basert på tilbakemeldinger samlet inn under forhåndsvisningsperioder.
Oppdage og reagere på selvmord og Self-Harm risikoer. Copilot bruker klassifiserere for maskinlæring som er opplært til å gjenkjenne språkmønstre som kan indikere selvmord eller intensjon om selvskading fra brukerens side. Når slikt innhold oppdages, kobles systemet fra samtalen og tilbyr i stedet krisestøtteressurser (for eksempel Suicide and Crisis Lifeline på 988 i USA), noe som oppfordrer brukerne til å søke profesjonell hjelp. Copilot tilbyr ikke rådgivning. Dens rolle er begrenset til deteksjon og henvisning for å sikre brukersikkerhet.
Varsling om utvidet bruk. Copilot kan minne brukere på å ta en pause hvis de har vært i kontinuerlig samtale over lengre tid. Brukere blir også regelmessig informert om at KI ikke er menneskelig og kan gjøre feil.