Transparensmeddelande för Microsoft Copilot (för enskilda personer)

18 augusti 2026

Vad är ett meddelande om transparens?

Ett AI-system omfattar inte bara tekniken, utan även de människor som kommer att använda den, de människor som kommer att påverkas av den och den miljö där den används. Microsofts transparensanteckningar är avsedda att hjälpa dig att förstå hur AI-tekniken bakom Copilot fungerar, de val vi gjort som påverkar systemets prestanda och beteende samt vikten av att tänka på hela systemet, så att användare av Copilot kan ta kontroll över sina egna upplevelser och förstå de steg vi vidtar för att tillhandahålla en trygg och säker produkt.

Microsofts insynsmeddelanden är en del av ett bredare arbete på Microsoft för att omsätta våra AI-principer i praktiken. Mer information finns i Microsoft AI principer.

Grunderna i Microsoft Copilot

Introduktion

Microsoft Copilot hjälper dig att gå från idé till färdigt arbete, allt på ett ställe. Copilot är integrerat i Word, Excel, PowerPoint, Outlook, Teams med mera, vilket ger de filer och den information du använder i en upplevelse. Copilot kan hjälpa dig att skapa snygga dokument, presentationer och kalkylblad, utkast till e-postmeddelanden, organisera dagen och få svar baserade på det arbete du gör. Med Cowork kan Copilot också hjälpa till med större uppgifter i flera steg och leverera slutförda uppgifter. Du kan också välja mellan ledande AI-modeller för olika typer av arbete. Specifika funktioner varierar beroende på prenumeration.

På Microsoft tar vi vårt engagemang för ansvarsfull AI på allvar. Copilot har utvecklats i linje med Microsofts AI-principer, Microsofts ansvarsfulla AI-standard och i samarbete med ansvarsfulla AI-experter i hela företaget, inklusive Microsofts Office av ansvarsfull AI, våra ingenjörsteam, Microsoft Research och Aether. Du kan läsa mer på Ansvarsfull AI på Microsoft.

I det här dokumentet beskriver vi vår metod för ansvarsfull AI för Copilot. Inför lanseringen använde vi Microsofts moderna metoder för att kartlägga, mäta och hantera potentiella risker och missbruk av systemet och skydda fördelarna för användarna. När vi har fortsatt att utveckla Copilot har vi också fortsatt att lära oss och förbättra vårt ansvarsfulla AI-arbete. Detta dokument kommer att uppdateras regelbundet för att kommunicera våra processer och metoder som utvecklas.

Viktiga begrepp

Klassificerare Maskininlärningsmodeller som hjälper till att sortera data i märkta klasser eller kategorier med information. I Copilot använder vi klassificerare på ett sätt att identifiera potentiellt skadligt innehåll som skickas in av användare eller genereras av systemet för att minimera genereringen av innehållet och missbruk av systemet.

Jordning För vissa konversationer där användarna söker information baseras Copilot på webbsökresultat. Det innebär att Copilot fokuserar sitt svar på högrankat innehåll från webben och tillhandahåller hyperlänkade källhänvisningar efter genererade textsvar eller i konversationsavskrifter i röstläge.

Stora språkmodeller (LLMs) Stora språkmodeller (LLMs) i det här sammanhanget är AI-modeller som tränas på stora mängder textdata för att förutsäga ord i sekvenser. LLM:er kan utföra en mängd olika uppgifter, till exempel textgenerering, sammanfattning, översättning, klassificering med mera.

Åtgärder En metod eller kombination av metoder som utformats för att minska potentiella risker som kan uppstå vid användning av AI-funktionerna i Copilot.

Multimodala modeller (MMM) Multimodala modeller (MMM) är AI-modeller som tränas på olika typer av data, till exempel text, bilder eller ljud. Dessa modeller kan utföra en mängd olika uppgifter, till exempel skriva text, beskriva bilder, känna igen tal och hitta information i olika typer av data.

Promptar Indata i form av text, bilder och/eller ljud som en användare skickar till Copilot för att interagera med AI-funktionerna i Copilot.

Röd teamindelning Tekniker som används av experter för att bedöma begränsningar och sårbarheter i ett system och för att testa effektiviteten hos planerade lösningar. Red team-testning inkluderar testare som använder både godartade och fientliga personas för att identifiera potentiella risker och skiljer sig från systematisk mätning av risker.

Svar Text, bilder eller ljud som Copilot matar ut som svar på en fråga eller som en del av fram och tillbaka med användaren. Synonymer till "svar" är "slutförande", "generering och "svar".

Små språkmodeller (SLM) Små språkmodeller (SLM) i det här sammanhanget är AI-modeller som tränas på mindre, mer fokuserade mängder data jämfört med stora språkmodeller. Trots sin mindre storlek kan SLM:er utföra en mängd olika uppgifter, till exempel textgenerering, sammanfattning, översättning och klassificering. Även om de kanske inte matchar de omfattande funktionerna i LLM:er, är SLM:er ofta mer resurseffektiva och kan vara mycket effektiva för specifika, riktade program.

Systemmeddelande Systemmeddelandet (ibland kallat en "metaprompt") är ett program som tjänar till att vägleda systemets beteende. Delar av systemmeddelandet hjälper till att justera systembeteendet med Microsofts AI-principer och användarnas förväntningar. Ett systemmeddelande kan till exempel innehålla en rad som "tillhandahåll inte information eller skapa innehåll som kan orsaka fysisk, känslomässig eller ekonomisk skada".

Funktioner

Systembeteende

Med Copilot har vi utvecklat en innovativ metod för att ge användarna en mer personlig AI-upplevelse för en engagerande upplevelse som kan hjälpa användarna med en mängd olika uppgifter. Den här innovativa metoden utnyttjar en mängd avancerade tekniker, till exempel språkmodeller och multimodala modeller från Microsoft, OpenAI och andra modellutvecklare. Vi arbetade med implementeringen av säkerhetstekniker för de modeller som ligger till grund för Copilot före lanseringen för att utveckla en anpassad uppsättning funktioner och beteenden som ger en förbättrad Copilot-upplevelse. I Copilot kan användare skicka prompter med text eller röst på naturligt språk. Svaren presenteras för användarna i flera olika format, till exempel chattsvar i textform (med traditionella länkar till webbinnehåll vid behov) och bilder (om en bildbegäran gjordes som en del av uppmaningen). Om användare skickar frågor på naturligt språk i Copilot Voice-läget får de ljudsvar.

När en användare anger en uppmaning i Copilot skickas prompten, konversationshistoriken och systemmeddelandet via flera indataklassificerare för att filtrera bort skadligt eller olämpligt innehåll. Det här är ett viktigt första steg för att förbättra modellens prestanda och minimera situationer där användare kan försöka fråga modellen på ett sätt som kan vara osäkert. När prompten passerar genom indataklassificerarna bestäms om begäran kräver grunddata från webben och vilken språkmodell som ska svara på begäran. Alla modeller genererar ett svar med hjälp av användarens prompt och senaste konversationshistorik för att kontextualisera begäran, systemmeddelandet för att justera svaren med Microsofts AI-principer och användarförväntningar, och i förekommande fall justera svar med sökresultat till grundsvar i befintligt, högrankat innehåll från webben.

Svaren presenteras för användarna i flera olika format, till exempel chattsvar i textform, traditionella länkar till webbinnehåll, bilder och ljudsvar. När svaren tillhandahålls i textformat – och svaren är baserade på data från webben – innehåller utdata hyperlänkade citat som listas under texten så att användarna kan komma åt de webbplatser som användes för att grunda svaret och lära sig mer om ämnet därifrån. Copilot kan också köra kod för att slutföra komplexa beräkningar och generera grafer. Copilot kan lagra specifika fakta som användarna begär att den ska komma ihåg, så att den kan generera mer relevanta svar och förslag baserat på den kontexten. Copilot kan också ta bort sparade fakta när användare uttryckligen ber om att glömma dem.

Copilot hjälper också användare att skapa nya berättelser, dikter, låttexter och bilder. När Copilot upptäcker användarens avsikt att generera kreativt innehåll (till exempel en användaruppmaning som börjar med "skriv en ...") genererar systemet i de flesta fall innehåll som svarar på användarens uppmaning. På samma sätt, när Copilot upptäcker användarens avsikt att generera en bild (till exempel en användaruppmaning som börjar med "rita mig en ..."), genererar Copilot i de flesta fall en bild som svarar på användarens prompt. När Copilot upptäcker användarens avsikt att ändra en uppladdad bild (till exempel en användaruppmaning som börjar med "lägg till en ..."), ändrar Copilot i de flesta fall en bild som svarar på användarens uppmaning. Copilot kanske inte svarar med kreativt innehåll när användarprompten innehåller vissa termer som kan leda till problematiskt innehåll.

Avsett säkerhetsbeteende

Vårt mål för Copilot är att vara till hjälp för användarna och vi implementerar skyddsåtgärder för att minska sannolikheten för att generera skadligt innehåll och öka sannolikheten för en säker och positiv användarupplevelse. Vi har vidtagit åtgärder för att minska riskerna, men generativa AI-modeller som de som ligger bakom Copilot är probabilistiska och kan göra misstag, vilket innebär att åtgärder ibland kan misslyckas med att blockera skadliga användaruppmaningar eller AI-genererade svar. Om du stöter på skadligt eller oväntat innehåll när du använder Copilot meddelar du oss genom att ge feedback så att vi kan fortsätta förbättra upplevelsen.

Användningsfall

Avsedd användning

Copilot är utformat för att hjälpa användare att besvara frågor, generera innehåll och slutföra uppgifter via naturligt språk med hjälp av text, bilder och röst. För att ge användbara och relevanta svar kan Copilot hämta, analysera och sammanfatta information från tillgängliga källor. Vissa avancerade funktioner kanske bara är tillgängliga för användare med berättigade prenumerationer. Exempel på vanliga användningsfall är följande:

• Chat med text och få webbaserade sammanfattningar. Användare kan chatta med Copilot via text och ställa uppföljningsfrågor för att hitta ny information och få support inom en mängd olika ämnen. Copilot kan utföra webbsökningar och använder de översta sökresultaten för att generera en sammanfattning av informationen som ska presenteras för användarna. Dessa sammanfattningar innehåller källhänvisningar till webbsidor för att hjälpa användare att granska källorna för sökresultat som hjälpte till att grunda Copilots sammanfattning. Användare kan klicka på dessa länkar för att besöka webbplatskällan för att lära sig mer eller utvärdera webbplatsens tillförlitlighet.

• Få hjälp med att skapa nya idéer. Varje gång användarna interagerar med Copilot-upplevelsen ser de en uppsättning kort som de kan klicka på för att börja chatta med Copilot om användbara och intressanta ämnen. Om användare har interagerat med andra Microsoft-konsumenttjänster kommer korten att vara anpassade i enlighet med våra sekretesspolicyer. Med tiden kan kort i Copilot anpassas baserat på en användares chatthistorik. Användare kan när som helst välja bort anpassning i inställningarna.

• Skapa kreativt innehåll. När användarna chattar med Copilot kan de skapa nya dikter, skämt, berättelser, bilder och annat innehåll med hjälp av Copilot. Copilot kan också redigera bilder som laddats upp av användare om det begärs.

• Hjälpa till med forskning. Copilot kan utföra forskningsuppgifter genom att ta fram djupgående resurser, erbjuda detaljerade uppdelningar av ämnen och länka till källor för att hjälpa användare att gå utöver snabba svar på mer komplexa frågor. Copilot kan proaktivt generera anpassade forskningsförslag för användare baserat på saker som tidigare forskningsfrågor och Copilot-minne. Användare kan när som helst välja bort anpassning eller meddelanden i inställningarna.

• Upptäck, jämför och köp produkter. Copilot Shopping kan hjälpa dig att hitta produkter, jämföra alternativ och effektivisera köp. Förutom där det identifieras får Microsoft ingen provision eller annan kompensation för produktförslag eller sökresultat som tillhandahålls i Copilot.

• Studera smartare med Copilot Learn. Copilot Learn kan skapa frågesporter och övningsprov, generera flashkort och är utformat för att förbättra svaren med bilder för att göra komplexa begrepp lättare att förstå.

• Få hjälp med dagliga uppgifter. Copilot Cowork utför uppgifter för din räkning. Du beskriver vad du behöver på naturligt språk, och Cowork gör jobbet, skapar dokument, skapar utkast och skickar e-post, schemalägger möten och hanterar filer. Du granskar och godkänner känsliga åtgärder innan de inträffar.

• Analysera och redigera filer. Filuppladdning i Copilot gör det möjligt för användare att ladda upp bilder eller vissa filtyper som stöds direkt till sina chattsessioner. När de har laddats upp kan Copilot analysera och extrahera information från dessa filer för att ge relevanta insikter, svara på frågor eller hjälpa till med specifika uppgifter. Copilot kan också referera till filer i dina anslutna onlinelagringsleverantörer som OneDrive och Google Drive, med din tillåtelse.

• Se och förstå. Använd Vision för att analysera bilder, få insikter från foton och söka visuellt. Copilot granskar uppladdade bilder för att hjälpa dig att förstå vad du ser.

• Använd din röst. Prata naturligt med Copilot med hjälp av röstchatt. Brainstorma idéer, skriv innehåll eller få snabba svar, helt handsfree.

• Ansluter till andra appar. Lägg till de appar och den information du väljer, till exempel e-post, kalendrar, filer, kontakter och andra tjänster.

Att tänka på när du väljer andra användningsfall

Vi uppmuntrar användarna att granska allt innehåll innan de fattar beslut eller agerar baserat på Copilots svar, eftersom AI kan göra misstag och kanske inte är lämpligt för vissa användningsfall. Dessutom finns det vissa scenarier som vi rekommenderar att du undviker eller som strider mot våra användningsvillkor. Microsoft tillåter till exempel inte att Copilot används i samband med olagliga aktiviteter eller för något syfte som är avsett att främja olaglig aktivitet.

Begränsningar

De språk-, bild- och ljudmodeller som ligger till grund för Copilot-upplevelsen kan innehålla träningsdata som kan återspegla fördomar i samhället, vilket i sin tur potentiellt kan få Copilot att bete sig på sätt som uppfattas som orättvisa, opålitliga eller stötande. Trots vår intensiva modellträning och säkerhetsfinjustering, samt implementeringen av de ansvarsfulla AI-kontroller och säkerhetssystem som vi placerar på träningsdata, användaruppmaningar och modellutdata, är AI-drivna tjänster felbara och probabilistiska. Detta gör det svårt att fullständigt blockera allt olämpligt innehåll, vilket leder till risker för potentiella fördomar, stereotyper, ogrundad eller andra typer av skada som kan visas i AI-genererat innehåll. Några av de sätt som dessa begränsningar kan visa sig i Copilot-upplevelsen anges här.

• Stereotyper: Copilot-upplevelsen kan potentiellt förstärka stereotyper. När du till exempel översätter "Han är sjuksköterska" och "Hon är läkare" till ett könlöst språk som turkiska och sedan tillbaka till engelska kan Copilot oavsiktligt ge de stereotypa (och felaktiga) resultaten "Hon är sjuksköterska" och "Han är läkare". Ett annat exempel är när systemet genererar en bild baserad på prompten "Faderlösa barn" och kan generera bilder av barn från endast en ras eller etnicitet, vilket förstärker skadliga stereotyper som kan finnas i offentligt tillgängliga bilder som används för att träna de underliggande modellerna. Copilot kan också förstärka stereotyper baserat på innehållet i användarens indatabild genom att förlita sig på komponenter i bilden och göra antaganden som kanske inte är sanna. Vi har implementerat riskreducerande åtgärder för att minska risken för innehåll med stötande stereotyper, inklusive indata- och utdataklassificerare, finjusterade modeller och systemmeddelanden.

• Över- och underrepresentation: Copilot kan potentiellt över- eller underrepresentera grupper av personer, eller till och med inte representera dem alls, i sina svar. Om textmeddelanden som till exempel innehåller ordet "gay" identifieras som potentiellt skadliga eller stötande kan det leda till att legitima generationer underrepresenteras i HBTQIA+-communityn. Förutom att inkludera indata- och utdataklassificerare, finjusterade modeller samt systemmeddelanden, använder vi snabb berikning i Designer som en av flera lösningar för att minska risken för innehåll som över- eller underrepresenterar grupper av personer.

• Olämpligt eller stötande innehåll: Copilot-upplevelsen kan potentiellt producera andra typer av olämpligt eller stötande innehåll. Exempel är möjligheten att generera innehåll i en modalitet (till exempel ljud) som är olämpligt i samband med dess prompt eller jämfört med samma utdata i en annan modalitet (till exempel text). Andra exempel är AI-genererade bilder som potentiellt innehåller skadliga artefakter som hatsymboler, innehåll som relaterar till omtvistade, kontroversiella eller ideologiskt polariserande ämnen och sexuellt laddat innehåll som undviker filter för sexuellt relaterat innehåll. Vi har infört åtgärder för att minska risken för generationer som innehåller olämpligt eller stötande innehåll, till exempel indata- och utdataklassificerare, finjusterade modeller och systemmeddelanden.

• Informationens tillförlitlighet: Även om Copilot strävar efter att svara med tillförlitliga källor där grundande information efterfrågas kan AI göra misstag. Det kan potentiellt generera meningslöst innehåll eller fabricera innehåll som kan låta rimligt men som är faktamässigt felaktigt. Även när du hämtar svar från webbdata med hög auktoritet kan svaren förvränga innehållet på ett sätt som kanske inte är helt korrekt, uppdaterat eller tillförlitligt. Vi påminner användarna via användargränssnittet och i dokumentation som den här om att Copilot kan göra misstag. Vi fortsätter också att utbilda användare om begränsningarna med AI, till exempel genom att uppmuntra dem att dubbelkolla fakta innan de fattar beslut eller agerar baserat på Copilots svar. När användare interagerar med Copilot via text försöker den grunda sig i webbdata av hög kvalitet för att minska risken för att generationer är ojordade.

• Flerspråkig prestanda: Det kan finnas variationer i prestanda mellan olika språk, där engelska fungerar bäst när Copilot släpps. Att förbättra prestanda mellan språk är ett viktigt investeringsområde, och de senaste modellerna har lett till förbättrade prestanda.

• Ljudbegränsningar: Ljudmodeller kan medföra andra begränsningar. I stort sett kan den akustiska kvaliteten på talinmatning, icke-talbrus, ordförråd, accenter och infogningsfel också påverka om Copilot bearbetar och svarar på en användares ljudinmatning på ett tillfredsställande sätt.

• AI är inte en ersättning för professionell hjälp: AI kan vara ett användbart verktyg för problemlösning och kan ses som empatiskt, men det är inte en ersättning för att söka professionell hjälp. Om du upplever depression, självmordstankar eller självskadebeteende eller andra psykiska problem, sök professionell hjälp. Copilot kan också användas för att hitta krisresurser eller resurser för psykisk hälsa nära dig.

• Beroende av Internetanslutning: Copilot är beroende av Internetanslutning för att fungera. Avbrott i anslutningen kan påverka tjänstens tillgänglighet och prestanda.

• Var försiktig när du skapar eller använder agenter: Användare bör vara försiktiga när de skapar egna agenter eller använder agenter som tillhandahålls av andra, särskilt om de åtgärder som vidtas av agenterna kan få betydande konsekvenser, vara oåterkalleliga eller ha potential att dela känslig personlig information (till exempel lösenord, inloggningar eller personuppgifter). Eftersom agenter kanske inte fungerar bra för alla användningsfall och kan göra misstag, misstolka instruktioner eller luras av skadliga dolda instruktioner, bör användarna övervaka resultaten noga och granska viktig information Användare kan begränsas från vissa användningsfall, till exempel att besöka skadliga webbplatser eller skapa olämpligt innehåll. Ytterligare försiktighetsåtgärder bör också vidtas när du skapar autonom agentisk AI enligt beskrivningen i avsnittet om regler för uppförande i Villkor för Microsoft-tjänster.

Systemprestanda

I många AI-system definieras prestanda ofta i förhållande till noggrannhet (det vill säga hur ofta AI-systemet erbjuder en korrekt förutsägelse eller utdata). Med Copilot fokuserar vi på Copilot som en AI-driven assistent som återspeglar användarens inställningar. Därför kan två olika användare titta på samma utdata och ha olika åsikter om hur användbart eller relevant det är för deras unika situation och förväntningar, vilket innebär att prestanda för dessa system måste definieras mer flexibelt. Vi anser i stort sett att prestanda innebär att programmet fungerar som användarna förväntar sig.

Tips om hur du kan förbättra systemets prestanda

• Interagera med gränssnittet med hjälp av naturligt konversationsspråk. Att interagera med Copilot på ett sätt som är bekvämt för användaren är nyckeln till att få bättre resultat genom upplevelsen. På liknande sätt som att anta tekniker för att hjälpa människor att kommunicera effektivt i sitt dagliga liv, kan interaktion med Copilot som en AI-driven assistent antingen genom text eller tal som är bekant för användaren hjälpa till att få bättre resultat.

• Användarupplevelse och användning. Effektiv användning av Copilot kräver att användarna förstår dess funktioner och begränsningar. Det kan finnas en inlärningskurva och användarna kanske vill referera till olika Copilot-resurser (till exempel det här dokumentet och Microsoft Copilot hjälpa & inlärning) för att effektivt interagera med och dra nytta av tjänsten.

Kartlägga, mäta och hantera risker

Liksom andra transformationstekniker är det inte riskfritt att utnyttja fördelarna med AI, och en central del av Microsofts ansvarsfulla AI-program är utformat för att identifiera och kartlägga potentiella risker, mäta dessa risker och hantera dem genom att skapa lösningar och kontinuerligt förbättra Copilot över tid. I avsnitten nedan beskriver vi vår iterativa metod för att kartlägga, mäta och hantera potentiella risker.

Karta: Noggrann planering och kontradiktorisk testning före distribution, till exempel röd teamindelning, hjälper oss att mappa potentiella risker. De underliggande modellerna som driver Copilot-upplevelsen har genomgått röda teamtester från testare som representerar tvärvetenskapliga perspektiv inom relevanta ämnesområden. Denna testning utformades för att bedöma hur den senaste tekniken skulle fungera både med och utan att ytterligare skyddsåtgärder tillämpades på den. Avsikten med dessa övningar på modellnivå är att producera skadliga svar, öppna potentiella vägar för missbruk och identifiera funktioner och begränsningar.

• Testning på programnivå före lansering. Innan vi gjorde Copilot offentligt tillgängligt genomförde vi röda teamindelningar på programnivå för att identifiera brister och sårbarheter. Den här testningen hjälpte oss att förstå hur ett brett spektrum av användare kan använda Copilot och informerade förbättringar av våra lösningar.

• Pågående tester. Vi testar även nya funktioner och tekniska uppdateringar efter behov när vi uppdaterar Copilot. Denna kontinuerliga process hjälper oss att identifiera nya risker och förfina våra åtgärder över tid.

Mått: Förutom att utvärdera Copilot mot våra befintliga säkerhetsutvärderingar hjälpte användningen av röd teamindelning som beskrivs ovan oss att utveckla utvärderingar och ansvarsfulla AI-mått som motsvarar identifierade potentiella risker, till exempel jailbreaks, skadligt innehåll och ogrundat innehåll.

Vi samlade in konversationsdata som riktar in sig på dessa risker med hjälp av en kombination av mänskliga deltagare och en automatiserad pipeline för konversationsgenerering. Varje utvärdering poängsätts sedan av antingen en pool av utbildade mänskliga annoteringar eller en automatiserad anteckningspipeline. Varje gång produkten ändras, befintliga lösningar uppdateras eller nya lösningar föreslås uppdaterar vi våra utvärderingspipelines för att bedöma både produktprestanda och ansvarsfulla AI-mätvärden. Dessa automatiserade pipelines för utvärderingskontext är en kombination av insamlade konversationer med mänskliga utvärderare och syntetiska konversationer som genereras med LLM:er som uppmanas att testa principer på ett kontradiktoriskt sätt. Var och en av dessa säkerhetsutvärderingar poängsätts automatiskt med LLM:er. För de nyutvecklade utvärderingarna poängsätts varje utvärdering initialt av mänskliga etiketter som läser textinnehållet eller lyssnar på ljudutgången och sedan konverteras till automatiska LLM-baserade utvärderingar.

Det avsedda beteendet hos våra modeller i kombination med våra utvärderingspipelines – både mänskliga och automatiserade – gör det möjligt för oss att snabbt utföra mätningar för potentiella risker i stor skala. I takt med att vi identifierar nya problem över tid fortsätter vi att utöka måttuppsättningarna för att bedöma ytterligare risker.

Hantera: När vi identifierade potentiella risker och missbruk via röd teamindelning och mätte dem med de metoder som beskrivs ovan, utvecklade vi ytterligare åtgärder som är specifika för Copilot-upplevelsen. Nedan beskrivs några av dessa lösningar. Vi kommer att fortsätta att övervaka Copilot-upplevelsen för att förbättra produktprestanda och vår riskreduceringsmetod.

• Stegvisa lanseringsplaner och kontinuerlig utvärdering. Vi är fast beslutna att ständigt lära oss och förbättra vår ansvarsfulla AI-strategi i takt med att våra tekniker och användarbeteenden utvecklas. Vår stegvisa lanseringsstrategi har varit en viktig del av hur vi flyttar vår teknik säkert från labbet till världen, och vi är engagerade i en avsiktlig, genomtänkt process för att säkra fördelarna med Copilot-upplevelsen. Vi gör ändringar i Copilot regelbundet för att förbättra produktprestanda och befintliga lösningar och implementera nya lösningar som svar på våra lärdomar.

• Utnyttja klassificerare och systemmeddelandet för att minimera potentiella risker eller missbruk. Som svar på användaruppmaningar kan LLM:er producera problematiskt innehåll. Vi har diskuterat vilka typer av innehåll som vi försöker begränsa i avsnitten Systembeteende och Begränsningar ovan. Klassificerare och systemmeddelandet är två exempel på lösningar som har implementerats i Copilot för att minska risken för den här typen av innehåll. Klassificerare klassificerar text för att flagga potentiellt skadligt innehåll i användaruppmaningar eller genererade svar. Vi använder också befintliga metodtips för att utnyttja systemmeddelandet, vilket innebär att ge instruktioner till modellen för att anpassa dess beteende till Microsofts AI-principer och till användarnas förväntningar.

• Ladda upp bilder till Copilot-vision. Första gången en användare laddar upp en bild till Copilot-vision får de information om hur bilden bearbetas av Copilot. Om en användare inte fortsätter med uppladdningen skickas inte bilden till Copilot. Alla bilder raderas inom 30 dagar efter att konversationen avslutats.

• AI-avslöjande. Copilot är också utformat för att informera människor om att de interagerar med ett AI-system. När användare interagerar med Copilot erbjuder vi olika kontaktpunkter som är utformade för att hjälpa dem att förstå systemets funktioner, informera dem om att Copilot drivs av AI och kommunicera begränsningar. Upplevelsen är utformad på det här sättet för att hjälpa användarna att få ut mesta möjliga av Copilot och minimera risken för överberoende. Avslöjanden hjälper också användarna att bättre förstå Copilot och deras interaktioner med den.

• Mediernas proveniens. För alla bilder som skapats med Copilot har vi implementerat autentiseringsuppgifter för innehåll, härkomst baserat på C2PA-standarden, för att hjälpa människor att identifiera om bilder har redigerats eller genererats med AI. Metadata om proveniens kan visas på webbplatsen Innehållsreferenser.

• Automatiserad identifiering av innehåll. När användare laddar upp bilder som en del av sin chattprompt distribuerar Copilot verktyg för att identifiera sexuellt utnyttjande av barn och sexuella övergrepp (CSEAI). Microsoft rapporterar alla uppenbara CSEAI till National Center for Missing and Exploited Children (NCMEC), i enlighet med amerikansk lag. När användare laddar upp filer för att analysera eller bearbeta distribuerar Copilot automatiserad genomsökning för att identifiera innehåll som kan leda till risker eller missbruk, till exempel text som kan relatera till olagliga aktiviteter eller skadlig kod.

• Användarvillkor och uppförandekod. Användarna bör följa Copilots tillämpliga användningsvillkor och regler för uppförande, Villkor för Microsoft-tjänster och Microsofts sekretesspolicy, som bland annat informerar dem om tillåten och otillåten användning och konsekvenserna av att bryta mot villkoren. Användningsvillkoren innehåller också ytterligare avslöjanden för användare och fungerar som en referens för användare att lära sig mer om Copilot. Användare som begår allvarliga eller upprepade överträdelser kan tillfälligt eller permanent stängas av från tjänsten.

• Feedback, övervakning och tillsyn. Copilot-upplevelsen innehåller verktyg som gör det möjligt för användare att skicka feedback, som granskas av Microsofts driftteam. Dessutom kommer vår metod för att kartlägga, mäta och hantera risker att fortsätta att utvecklas allteftersom vi lär oss mer, och vi gör redan förbättringar baserat på feedback som samlas in under förhandsgranskningsperioder.

• Upptäcka och reagera på självmord och Self-Harm risker. Copilot använder maskininlärningsklassificerare som tränats för att känna igen språkmönster som kan tyda på självmord eller självskadeavsikt från användaren. När sådant innehåll upptäcks kopplar systemet bort från konversationen och tillhandahåller i stället krisstödresurser (till exempel självmords- och krislinjen på 988 i USA), vilket uppmuntrar användarna att söka professionell hjälp. Copilot ger inte rådgivning. Dess roll är begränsad till identifiering och hänvisning för att säkerställa användarnas säkerhet.

• Meddelande om utökad användning. Copilot kan påminna användarna om att ta en paus om de har haft en kontinuerlig konversation under en längre tid. Användarna informeras också regelbundet om att AI inte är mänsklig och kan göra misstag.

Läs mer om ansvarsfull AI

• Microsoft AI principer
• Ansvarsfulla AI-resurser från Microsoft
• Microsofts rapport om ansvarsfull AI-transparens

Mer information om Microsoft Copilot

• Microsoft Copilot hjälp & inlärningen