Microsoft Copilot läpinäkyvyyshuomautus

Mikä on läpinäkyvyyshuomautus?

Tekoälyjärjestelmä sisältää teknologian lisäksi myös sen käyttäjät, ihmiset, joihin se vaikuttaa, ja ympäristön, jossa se otetaan käyttöön. Microsoftin läpinäkyvyysmuistiinpanojen tarkoituksena on auttaa sinua ymmärtämään, miten Copilotin taustalla oleva tekoälytekniikka toimii, mitä valintoja olemme tehneet, jotka vaikuttavat järjestelmän suorituskykyyn ja käyttäytymiseen, sekä koko järjestelmää koskevan ajattelun tärkeys, jotta Copilotin käyttäjät voivat hallita omia kokemuksiaan ja ymmärtää, mitä toimia teemme turvallisen ja turvallisen tuotteen tarjoamiseksi.

Microsoftin Läpinäkyvyysmuistiinpanot ovat osa Microsoftin laajempaa pyrkimystä toteuttaa tekoälyn periaatteet käytännössä. Lisätietoja on Microsoft AI Principles -periaatteissa.

Microsoft Copilot perusteet

Johdanto

Copilot on tekoälyn tarjoama kokemus, joka auttaa käyttäjiä saamaan etsimänsä tiedot samalla, kun he ovat valmiita tukemaan käyttäjiä vastaamaan monenlaisiin kysymyksiin tilanteesta tai aiheesta riippumatta. Päivitetty Copilot ei vastaa perustietojen noutamiskyselyihin ja keskittyy sisällön tuottamiseen, jotta käyttäjät saavat ennakoivampaa tukea tehtävien suorittamisessa. Ymmärrämme yhä paremmin, miten tekoälyllä on potentiaalia auttaa ihmisiä oppimaan, löytämään ja olemaan luovempi, mikä on edellyttänyt toisenlaisen tuotteen rakentamista. Uudesta Copilot-käyttökokemuksesta on tarkoitus tulla uudenlainen kokemus, joka on avoin ja dynaaminen ja joka vastaa paremmin käyttäjien tarpeisiin intuitiivisemmalla tavalla.

Suhtaudumme Microsoftilla vakavasti sitoumukseemme käyttää tekoälyä vastuullisesti. Päivitetty Copilot-kokemus on kehitetty Microsoftin tekoälyperiaatteiden, Microsoftin vastuullisen tekoälyn Standard ja yhteistyössä yrityksen vastuullisten tekoälyasiantuntijoiden kanssa, mukaan lukien Microsoftin vastuullisen tekoälyn toimisto, tekniset tiimimme, Microsoft Research ja Aether. Lisätietoja vastuullisesta tekoälystä on Microsoftissa täällä.

Tässä asiakirjassa kuvailemme lähestymistapaamme vastuullista tekoälyä varten. Ennen julkaisua hyödynsimme Microsoftin uusimmilla menetelmillä kartoittamaan, mittaamaan ja hallitsemaan mahdollisia riskejä ja järjestelmän väärinkäyttöä sekä turvaamaan sen edut käyttäjille. Kun olemme jatkaneet Copilotin kehittämistä, olemme myös jatkaneet vastuullisten tekoälytoimien oppimista ja parantamista. Tätä asiakirjaa päivitetään säännöllisesti, jotta se voi ilmoittaa kehittyvistä prosesseistamme ja menetelmistämme.

Keskeiset termit

Luokittelijat Koneoppimismalleja, joiden avulla tiedot voidaan lajitella merkittyihin luokkiin tai tietoluokkiin. Päivitetyssä Copilot-käyttökokemuksessa yksi tapa, jolla käytämme luokittajia, on auttaa havaitsemaan käyttäjien lähettämää tai järjestelmän luomaa mahdollisesti haitallista sisältöä, joka lieventää sisällön syntymistä ja järjestelmän väärinkäyttöä tai väärinkäyttöä.

Maadoitus Tietyissä keskusteluissa, joissa käyttäjät etsivät tietoja, Copilot perustuu verkkohakutuloksiin. Tämä tarkoittaa sitä, että Copilot keskittää vastauksensa korkea-arvoiseen sisältöön verkosta ja tarjoaa hyperlinkkejä lainauksia luotujen tekstivastausten jälkeen. Huomaa, että tällä hetkellä käyttäjän kehotteet äänitilassa eivät käynnistä verkkohakua, joten mikään vastaus ei sisällä lainauksia.

Suuret kielimallit Suuret kielimallit (LLM) ovat tässä yhteydessä tekoälymalleja, jotka on koulutettu suuriin tekstitietomääriin sanojen ennustamiseksi sekvensseissä. LlM-laitevalmistajat voivat suorittaa erilaisia tehtäviä, kuten tekstin luomisen, yhteenvedon, käännöksen, luokituksen ja paljon muuta.

Lieventäminen Menetelmä tai menetelmäyhdistelmä, joka on suunniteltu vähentämään mahdollisia riskejä, joita voi aiheutua Tekoälyn ominaisuuksien käytöstä Copilotissa.

Monimodaaliset mallit (MMM) Monimodaaliset mallit (MMM) ovat tekoälymalleja, jotka on koulutettu erilaisiin tietoihin, kuten tekstiin, kuviin tai ääneen. Nämä mallit voivat suorittaa erilaisia tehtäviä, kuten kirjoittaa tekstiä, kuvailla kuvia, tunnistaa puheen ja etsiä tietoa eri tietotyypeistä.

Kehotteet Syötteet tekstinä, kuvina ja/tai äänenä, jotka käyttäjä lähettää Copilotille vuorovaikutukseen Copilotin tekoälyominaisuuksien kanssa.

Punainen tiimi Asiantuntijoiden käyttämät tekniikat järjestelmän rajoitusten ja haavoittuvuuksien arvioimiseen ja suunniteltujen lievennysten tehokkuuden testaamiseen. Punaisen tiimin testaukseen kuuluu testaajia, jotka ottavat käyttöön sekä hyvänlaatuisia että vastakkaista persoonaa mahdollisten riskien tunnistamiseksi ja eroavat riskien järjestelmällisestä mittaamisesta.

Vastaukset Teksti, kuvat tai ääni, jonka Copilot lähettää vastauksena kehotteeseen tai osana edestakaisin käyttäjän kanssa. Synonyymejä vastaukselle ovat esimerkiksi "valmistuminen", "sukupolvi ja "vastaus".

Pienet kielimallit Pienet kielimallit (SLM) ovat tässä yhteydessä tekoälymalleja, jotka on koulutettu pienempiin ja keskittyneempiin tietomääriin verrattuna suuriin kielimalleihin. Pienemmästä koostaan huolimatta SLM-laitevalmistajat voivat suorittaa erilaisia tehtäviä, kuten tekstin luomisen, yhteenvedon, käännöksen ja luokituksen. Vaikka ne eivät välttämättä vastaakaan llm-laitevalmistajien laajoja ominaisuuksia, ne ovat usein resurssitehokkaampia ja voivat olla erittäin tehokkaita tiettyihin kohdennettuihin sovelluksiin.

Järjestelmäviesti Järjestelmäviesti (kutsutaan joskus metapromptiksi) on ohjelma, joka opastaa järjestelmän toimintaa. Osa järjestelmäviestistä auttaa mukauttamaan järjestelmän toimintaa Microsoft AI Principlesin ja käyttäjien odotusten kanssa. Järjestelmäviesti voi esimerkiksi sisältää rivin " älä anna tietoja tai luo sisältöä, joka voi aiheuttaa fyysistä, emotionaalista tai taloudellista haittaa".

Ominaisuudet

Järjestelmän toiminta

Copilotin avulla olemme kehittäneet innovatiivisen lähestymistavan räätälöidymmän tekoälykokemuksen tuomiseksi käyttäjille kiinnostavan kokemuksen saamiseksi, joka voi auttaa käyttäjiä erilaisissa tehtävissä. Tämä innovatiivinen lähestymistapa hyödyntää erilaisia kehittyneitä tekniikoita, kuten Microsoftin, OpenAI:n ja muiden mallikehittäjien kieli- ja monimodaalimalleja. Kehitimme ennen julkista julkaisua uuden Copilot-käyttökokemuksen perustana olevien mallien turvallisuustekniikoiden käyttöönottoa kehittääksemme mukautetun joukon ominaisuuksia ja toimintoja, jotka tarjoavat parannetun Copilot-käyttökokemuksen. Päivitetyssä Copilotissa käyttäjät voivat lähettää kehotteita luonnollisella kielellä tai äänellä. Vastaukset esitetään käyttäjille useissa eri muodoissa, kuten tekstimuodossa (perinteiset linkit verkkosisältöön) ja kuvina (jos kuvapyyntö on tehty kehotteen osana). Jos käyttäjät lähettävät kehotteita luonnollisella kielellä Copilot Voice -tilassa, he saavat äänivastauksia.

Kun käyttäjä kirjoittaa kehotteen Copilotissa, kehote, keskusteluhistoria ja järjestelmäviesti lähetetään useiden syöteluokittajien kautta haitallisen tai sopimattoman sisällön suodattamiseksi. Tämä on tärkeä ensiaskel mallin suorituskyvyn parantamisessa ja tilanteissa, joissa käyttäjät saattavat yrittää kehottaa mallia epäluotettavalla tavalla. Kun kehote on läpäistävä syöttöluokittimet, se lähetetään SLM:lle sen selvittämiseksi, edellyttääkö pyyntö maadoituksen tietoja verkosta ja mikä kielimalli vastaa pyyntöön. Kaikki mallit luovat vastauksen käyttäjän kehotteen ja viimeaikaisen keskusteluhistorian avulla pyynnön kontekstualisoimiseksi, järjestelmäviestin, jolla vastataan Microsoft AI Principles -periaatteisiin ja käyttäjien odotuksiin ja tarvittaessa tasataan vastaukset hakutulosten kanssa pohjavastauksiin olemassa olevassa, korkea-arvoisessa verkossa olevassa sisällössä.

Vastaukset esitetään käyttäjille useissa eri muodoissa, kuten keskusteluvastauksissa tekstimuodossa, perinteisissä linkeissä verkkosisältöön, kuviin ja äänivastauksiin. Kun vastaukset annetaan tekstimuodossa ja vastaukset perustuvat verkkotietoihin, tulos sisältää hyperlinkitetyt lainaukset, jotka on lueteltu tekstin alapuolella, jotta käyttäjät voivat käyttää sivustoja, joita käytettiin vastauksen pohjana, ja saada lisätietoja aiheesta sieltä. Kopiointitoiminto voi myös suorittaa koodin monimutkaisten laskutoimitusten suorittamiseksi ja kaavioiden luomiseksi. Copilot voi tallentaa tiettyjä faktoja, jotka käyttäjät pyytävät sen muistamista, jolloin se voi luoda osuvampia vastauksia ja ehdotuksia tämän kontekstin perusteella. Kopioija voi myös poistaa tallennetut tiedot, kun käyttäjät pyytävät unohtamaan ne erikseen.

Copilot auttaa käyttäjiä myös luomaan uusia tarinoita, runoja, laulujen sanoituksia ja kuvia. Kun Copilot havaitsee käyttäjän aikomuksen luoda luovaa sisältöä (kuten käyttäjän kehotteen, joka alkaa sanoilla "kirjoita minulle ..."), järjestelmä luo useimmissa tapauksissa sisältöä, joka vastaa käyttäjän kehotetta. Samoin kun Copilot havaitsee käyttäjän aikomuksen luoda kuva (kuten käyttäjän kehote, joka alkaa sanoilla "piirrä minulle ..."), Copilot luo useimmissa tapauksissa käyttäjän kehotteeseen reagoivan kuvan. Kun Copilot havaitsee käyttäjän aikomuksen muokata ladattua kuvaa (kuten käyttäjän kehotteen, jonka alussa on "lisää ..."", Copilot muokkaa useimmissa tapauksissa käyttäjän kehotteeseen reagoivaa kuvaa. Kopiointi ei välttämättä vastaa luovalla sisällöllä, kun käyttäjäkehote sisältää tiettyjä termejä, jotka voivat aiheuttaa ongelmia sisällölle.

Käyttäjillä, joilla on Microsoft-tili (MSA), on nyt myös mahdollisuus tilata Copilot Pro, joka tarjoaa parannetun käyttökokemuksen, mukaan lukien nopeutetun suorituskyvyn, Copilot Voice -ominaisuuksien käytön pidemmäksi aikaa ja joissakin tapauksissa pääsyn uusiin kokeellisiin ominaisuuksiin. Copilot Pro on tällä hetkellä saatavilla rajoitetussa määrässä maita, ja aiomme pian tuoda Copilot Pro saataville useammalla markkina-alueella.

Suunniteltu turvallisuustoiminta

Copilot-toiminnosta on hyötyä käyttäjille. Hyödyntämällä muiden Microsoftin luovien tekoälytuotteiden ja -palveluiden parhaita käytäntöjä pyrimme rajoittamaan Copilotia aiheuttamasta ongelmallista sisältöä ja lisäämään turvallisen ja positiivisen käyttökokemuksen todennäköisyyttä. Vaikka olemme ryhtyneet toimiin riskien vähentämiseksi, esimerkiksi Copilotin takana olevat tekoälymallit ovat todennäköisyysmielisiä ja voivat tehdä virheitä, mikä tarkoittaa, että lieventäminen voi toisinaan epäonnistua haitallisten käyttäjäkehotteiden tai tekoälyn luomien vastausten estämisessä. Jos kohtaat haitallista tai odottamatonta sisältöä Copilotin käytön aikana, kerro siitä meille antamalla palautetta, jotta voimme jatkaa käyttökokemuksen parantamista.

Käytä tapauksia

Käyttötarkoitus

Copilot on tarkoitettu tukemaan käyttäjiä vastaamaan monenlaisiin kysymyksiin tilanteesta tai aiheesta riippumatta. Käyttäjät voivat käyttää Copilot-toimintoa teksti-, kuva- ja äänisyötteiden avulla, kun vuorovaikutusten on tarkoitus tuntua enemmän luonnollisilta keskustelulta tekoälyjärjestelmän kanssa. Lisäksi jos käyttäjät ovat vuorovaikutuksessa Copilotin kanssa tekstin välityksellä etsiäkseen tarkkoja tietoja aiheista, joissa Copilot saattaa vaatia lisätietoja tarkemman vastauksen tuottamiseksi, käyttökokemuksen tarkoituksena on yhdistää käyttäjät asianmukaisiin hakutuloksiin, tarkastella tuloksia verkosta ja tehdä yhteenveto käyttäjien etsimistä tiedoista. Copilotissa käyttäjät voivat:

Tee yhteenveto reaaliaikaisesta tiedosta, kun keskustelet tekstin välityksellä. Kun käyttäjät ovat vuorovaikutuksessa Copilotin kanssa tekstin välityksellä, järjestelmä suorittaa verkkohakuja, jos se tarvitsee lisätietoja, ja luo tärkeimpien verkkohakutulosten avulla yhteenvedon tiedoista, jotka esitetään käyttäjille. Nämä yhteenvedot sisältävät lainauksia verkkosivuille, joiden avulla käyttäjät voivat tarkastella hakutulosten lähteitä ja käyttää niitä helposti, mikä on auttanut luomaan pohjaa Copilotin yhteenvedolle. Käyttäjät voivat napsauttaa näitä linkkejä siirtyäkseen suoraan lähteeseen, jos he haluavat lisätietoja.
Keskustele tekoälyjärjestelmän kanssa tekstin avulla. Käyttäjät voivat keskustella Copilotin kanssa tekstiviestillä ja kysyä jatkokysymyksiä löytääkseen uusia tietoja ja saadakseen tukea monista eri aiheista.
Käyttöliittymä tekoälyn kanssa käyttämällä ääntä ja ulkoasua. Kopioija voi paitsi vastaanottaa äänisyötteitä myös tuottaa äänentoistoa yhdellä neljästä käyttäjän valitsemasta äänestä ja esittää visuaalisen ulkoasun rikastuttaakseen vuorovaikutusta. Ääni-ääni- ja ulkoasuominaisuuksien avulla käyttäjät voivat olla vuorovaikutuksessa Copilotin kanssa luonnollisemmalla ja sujuvammalla tavalla.
Vastaanota sulavaa uutissisältöä. Käyttäjät voivat copilotin avulla saada yhteenvedon uutisista, säästä ja muista päivityksistä, jotka perustuvat valittuihin aihealueisiin Copilot Daily-ominaisuuden kautta ja kuunnella nämä tiedotteet podcastin kaltaisessa muodossa. Tämä ominaisuus hakee sisältöä valtuutetuista lähteistä, joilla on sopimus Microsoftin kanssa.
Hanki apua uusien ideoiden luomisessa. Aina kun käyttäjät ovat vuorovaikutuksessa Copilot-kokemuksen kanssa, he näkevät joukon kortteja, joita he voivat napsauttaa aloittaakseen keskustelun Copilotin kanssa hyödyllisista ja mielenkiintoisista aiheista. Jos käyttäjät ovat olleet vuorovaikutuksessa muiden Microsoftin kuluttajapalveluiden kanssa, kortit mukautetaan tietosuojakäytäntöjemme mukaisesti. Ajan mittaan Copilot-kortteja voidaan mukauttaa käyttäjän keskusteluhistorian perusteella. Käyttäjät voivat kieltäytyä mukauttamisesta milloin tahansa asetuksissa.
Luo luovaa sisältöä. Kun keskustelet Copilotin kanssa, käyttäjät voivat luoda uusia runoja, vitsejä, tarinoita, kuvia ja muuta sisältöä Copilot-kokemuksen avulla. Kopioija voi myös halutessaan muokata käyttäjien lataamia kuvia.
Suorita tehtäviä Androidissa.Käyttäjät voivat käyttää Copilotia Android-alustan kautta äänikomennoilla tiettyjen tehtävien suorittamiseksi. Nämä tehtävät ovat ajastimien ja hälytysten määrittäminen, puheluiden soittaminen, tekstiviestien lähettäminen ja Uberin tilaaminen. Käyttäjien on vahvistettava puhelu, tekstiviesti ja Uber-tilaus ennen tehtävien valmistumista.
Avusta tutkimuksessa. Copilot voi suorittaa tutkimustehtäviä avaamalla syvällisiä resursseja, tarjoamalla yksityiskohtaisia tietoja aiheista ja linkittämällä lähteisiin, jotta käyttäjät voivat ylittää nopeat vastaukset monimutkaisempiin kyselyihin. Copilot voi ennakoivasti luoda käyttäjille mukautettuja tutkimusehdotuksia, jotka perustuvat esimerkiksi aiempiin tutkimuskyselyihin ja Copilot-muistiin. Käyttäjät voivat kieltäytyä mukauttamisesta tai ilmoituksista milloin tahansa asetuksissa.
Tutustu maailmaan Copilot Vision avulla. Kopioija voi tarkastella näytön tai mobiilikameran syötettä ja käyttää sen ääntä kysymyksiin vastaamiseen ja vuorovaikutukseen kanssasi. Copilot voi välittömästi skannata, analysoida ja tarjota reaaliaikaisia oivalluksia ja ehdotuksia, jotka auttavat sinua työskentelyssä, selaamisessa tai maailman tutkimisessa. Copilot Vision on käytettävissä Edgessä, Windowsissa, iOS:ssä ja Androidissa.

Huomioita valittaessa muita käyttötapauksia

Kehotamme käyttäjiä tarkistamaan kaiken sisällön ennen päätösten tekemistä tai toimimaan Copilotin vastausten perusteella, koska tekoäly voi tehdä virheitä. Lisäksi on tiettyjä tilanteita, joita suosittelemme välttämään tai jotka ovat käyttöehtojemme vastaisia. Microsoft ei esimerkiksi salli Copilotin käyttämistä laittomien toimintojen yhteydessä tai mihinkään tarkoitukseen, jonka tarkoituksena on edistää laitonta toimintaa.

Rajoitukset

Copilot-kokemuksen pohjana olevat kieli-, kuva- ja äänimallit voivat sisältää koulutustietoja, jotka voivat heijastaa yhteiskunnallisia vinoumia, mikä puolestaan voi saada Copilotin käyttäytymään tavalla, jota pidetään epäreiluna, epäluotettavana tai loukkaavana. Tekoälyyn perustuvat palvelut ovat erehtyviä ja todennäköisiä huolimatta intensiivisestä mallikoulutuksestamme ja turvallisuuden hienosäätämisestämme sekä koulutustietoihin, käyttäjäkehotteeseen ja mallituloksiin sijoittamistamme vastuullisten tekoälyn hallinta- ja turvallisuusjärjestelmien toteuttamisesta. Tämän vuoksi kaiken sopimattoman sisällön täydellinen estäminen on haastavaa, mikä johtaa riskeihin, jotka saattavat aiheuttaa ennakkoluuloja, stereotypioita, edustamattomuutta tai muunlaisia haittoja, jotka voivat näkyä tekoälyn luomassa sisällössä. Jotkin tavoista, joilla nämä rajoitukset saattavat ilmetä Copilot-käyttökokemuksessa, on lueteltu tässä.

Stereotypia: Copilot-kokemus voisi mahdollisesti vahvistaa stereotypioita. Esimerkiksi kääntäessään "Hän on sairaanhoitaja" ja "Hän on lääkäri" sukupuolittomalle kielelle, kuten turkiksi ja sitten takaisin englanniksi, copilot saattaa tahattomasti tuottaa stereotyyppiset (ja virheelliset) tulokset "Hän on sairaanhoitaja" ja "Hän on lääkäri". Toinen esimerkki on luoda kuva, joka perustuu kehotteeseen "Isättömät lapset", järjestelmä voisi luoda kuvia lapsista vain yhdestä rodusta tai etnisyydestä, mikä vahvistaa haitallisia stereotypioita, joita voi olla julkisesti saatavilla olevissa kuvissa, joita käytetään taustalla olevien mallien kouluttamiseen. Kopiointi voi myös vahvistaa stereotypioita käyttäjän syöttökuvan sisällön perusteella luottamalla kuvan komponentteihin ja tekemällä oletuksia, jotka eivät ehkä ole totta. Olemme toteuttaneet lievennyksiä vähentääksemme loukkaavia stereotypioita sisältävän sisällön riskiä, mukaan lukien syötteen ja tuotoksen luokittajat, hienosäädettyjä malleja ja järjestelmäviestejä.
Yliedustus ja aliedustus: Copilot voisi vastata vastauksissaan mahdollisesti yli- tai aliedustusryhmiin tai jopa olla edustamatta niitä lainkaan. Jos esimerkiksi tekstikehotteet, jotka sisältävät sanan "homo", havaitaan mahdollisesti haitallisiksi tai loukkaaviksi, tämä voi johtaa siihen, että lailliset sukupolvet eivät ole edustettuina LGBTQIA+ -yhteisössä. Syöte- ja tulosluokittajien, hienosäädettyjen mallien sekä järjestelmäviestien lisäksi käytämme Designer ripeää rikastamista yhtenä useista lievennyksistä vähentääksemme riskiä sisällöstä, joka edustaa liikaa tai ali-edustavia ihmisryhmiä.
Sopimatonta tai loukkaavaa sisältöä: Copilot-kokemus voi mahdollisesti tuottaa muunlaista sopimatonta tai loukkaavaa sisältöä. Esimerkkejä ovat mahdollisuus luoda sisältöä yhdessä modaalisesti (esimerkiksi ääni), joka on sopimaton kehotteen yhteydessä tai verrattaessa samaan tulosteeseen eri modaalisesti (esimerkiksi teksti). Muita esimerkkejä ovat tekoälyn luomat kuvat, jotka saattavat sisältää haitallisia esineitä, kuten vihasymboleja, kiistanalaisiin, kiistanalaisiin tai ideologisesti polarisoiviin aiheisiin liittyvää sisältöä sekä seksuaalisesti latautunutta sisältöä, joka välttelee seksuaaliseen sisältösuodattimia. Olemme ottaneet käyttöön lievennyksiä, joilla vähennetään sellaisten sukupolvien riskiä, jotka sisältävät sopimatonta tai loukkaavaa sisältöä, kuten syöte- ja tulosluokittajia, hienosäädettyjä malleja ja järjestelmäviestejä.
Tietojen luotettavuus: Vaikka Copilot pyrkii tarvittaessa vastaamaan luotettavilla lähteillä, tekoäly voi tehdä virheitä. Se voi mahdollisesti luoda järjen ulkopuolista sisältöä tai tekaistua sisältöä, joka saattaa kuulostaa kohtuulliselta, mutta joka on asiallisesti epätarkkaa. Jopa silloin, kun vastauksia kerätään korkean auktoriteetin verkkotiedoista, vastaukset saattavat esittää kyseisen sisällön väärin tavalla, joka ei ehkä ole täysin tarkka tai luotettava. Muistutamme käyttäjiä käyttöliittymän kautta ja tämän kaltaisessa dokumentaatiossa siitä, että Copilot voi tehdä virheitä. Koulutamme käyttäjiä myös tekoälyn rajoituksista, kuten kannustamme heitä tarkistamaan tiedot uudelleen ennen päätösten tekemistä tai toimimaan Perämiehen vastausten perusteella. Kun käyttäjät ovat vuorovaikutuksessa Copilotin kanssa tekstin välityksellä, se yrittää perustaa itsensä korkealaatuisiin verkkotietoihin vähentääkseen riskiä siitä, että sukupolvet eivät ole etualalla.
Monikielinen suorituskyky: Eri kielten suorituskyvyssä voi olla eroja, ja englanninkielinen suorituskyky voi olla paras päivitettävän Copilotin julkaisuhetkellä. Suorituskyvyn parantaminen eri kielillä on keskeinen investointialue, ja viimeaikaiset mallit ovat parantaneet suorituskykyä.
Äänirajoitukset: Äänimalleissa voi olla muita rajoituksia. Yleisesti ottaen puhesyötteen akustinen laatu, puheääni, sanasto, aksentit ja lisäysvirheet voivat vaikuttaa myös siihen, käsitteleekö Copilot käyttäjän äänisyötteen ja reagoiko se siihen tyydyttävällä tavalla. Lisäksi, koska käyttäjän kehotteet Copilot Voicea käytettäessä eivät käynnistä verkkohakuja, Copilot ei ehkä pysty vastaamaan nykyisiin tapahtumiin äänitilassa.
Riippuvuus Internet-yhteyksistä: Päivitetty Copilot-käyttökokemus perustuu Internet-yhteyksiin. Yhteyshäiriöt voivat vaikuttaa palvelun saatavuuteen ja suorituskykyyn.

Järjestelmän suorituskyky

Monissa tekoälyjärjestelmissä suorituskyky määritetään usein suhteessa tarkkuuteen (eli siihen, kuinka usein tekoälyjärjestelmä tarjoaa oikean ennusteen tai tuloksen). Copilotin avulla keskitymme Copilotiin tekoälyä käyttävänä avustajana, joka vastaa käyttäjän mieltymyksiä. Näin ollen kaksi eri käyttäjää voivat tarkastella samaa tulosta ja olla eri mieltä siitä, miten hyödyllinen tai merkityksellinen se on heidän ainutlaatuiselle tilanteelleen ja odotuksilleen, mikä tarkoittaa, että näiden järjestelmien suorituskyky on määritettävä joustavammin. Katsomme yleisesti, että suorituskyky tarkoittaa sitä, että sovellus toimii käyttäjien odotetulla tavalla.

Parhaat käytännöt järjestelmän suorituskyvyn parantamiseksi

Käytä käyttöliittymää luonnollisella keskustelukielellä. Vuorovaikutuksessa Copilotin kanssa käyttäjän kannalta mukavalla tavalla on tärkeää saada parempia tuloksia käyttökokemuksen kautta. Samalla tavalla kuin omaksumalla tekniikoita, jotka auttavat ihmisiä kommunikoimaan tehokkaasti jokapäiväisessä elämässään, vuorovaikutus Copilotin kanssa tekoälyä käyttävänä avustajana joko käyttäjälle tutun tekstin tai puheen kautta voi auttaa saamaan parempia tuloksia.

Käyttökokemus ja käyttöönotto. Copilotin tehokas käyttö edellyttää, että käyttäjät ymmärtävät sen ominaisuudet ja rajoitukset. Kyseessä voi olla oppimiskäyrä, ja käyttäjät saattavat haluta viitata erilaisiin Copilot-resursseihin (esimerkiksi tähän asiakirjaan ja Copilotin usein kysyttyihin kysymyksiin), jotta he voivat olla tehokkaasti vuorovaikutuksessa palvelun kanssa ja hyötyä siitä.

Riskien kartoittaminen, mittaaminen ja hallinta

Muiden muunnosteknologioiden tavoin tekoälyn etujen hyödyntäminen ei ole riskitöntä, ja Microsoftin Vastuullinen tekoäly -ohjelman ydinosa on suunniteltu tunnistamaan ja kartoittamaan mahdollisia riskejä, mittaamaan näitä riskejä ja hallitsemaan niitä rakentamalla lievennyksiä ja parantamalla copilotia jatkuvasti ajan mittaan. Alla olevissa osissa kuvailemme iteratiivista lähestymistapaamme mahdollisten riskien kartoittamiseen, mittaamiseen ja hallintaan.

Kartta: Huolellinen suunnittelu ja käyttöönottoa edeltävä vastustajien testaus, kuten punainen tiimitys, auttaa meitä kartoittamaan mahdollisia riskejä. Copilot-kokemusta parantavat mallit kävivät läpi punaisen tiimitestauksen testaajilta, jotka edustavat monitieteisiä näkökulmia merkityksellisillä aihealueilla. Tämän testauksen tarkoituksena oli arvioida, miten uusin teknologia toimisi sekä siihen sovellettavien lisäsuojakeinojen kanssa että ilman niitä. Mallitason harjoitusten tarkoituksena on tuottaa haitallisia vasteita, pintaan mahdollisia väärinkäytön keinoja sekä tunnistaa ominaisuudet ja rajoitukset.

Ennen copilot-käyttökokemuksen julkistamista rajoitetun julkaisun esikatselussa teimme myös punaisen tiimin sovellustasolla arvioidaksemme Copilotin puutteita ja haavoittuvuuksia. Tämä prosessi auttoi meitä ymmärtämään paremmin, miten monet käyttäjät voisivat käyttää järjestelmää, ja auttoi meitä parantamaan lievennyksiämme.

Toimenpide: Sen lisäksi, että arvioimme Copilotia nykyisten turvallisuusarviointiemme perusteella, edellä kuvatun punaisen tiimin käyttö auttoi meitä kehittämään arviointeja ja vastuullisia tekoälyn mittareita, jotka vastaavat tunnistettuja mahdollisia riskejä, kuten vankilamurtoja, haitallista sisältöä ja edustamatonta sisältöä.

Keräsimme näihin riskeihin kohdistettuja keskustelutietoja käyttämällä ihmisosallistujien yhdistelmää ja automatisoitua keskustelun luontiputkea. Jokaisen arvioinnin tekee sitten joko koulutettujen ihmishuomautteiden joukko tai automaattinen huomautusputki. Aina kun tuotteen muutokset, olemassa olevat lievennykset päivitetään tai uusia lievennyksiä ehdotetaan, päivitämme arviointiputkiamme arvioidaksemme sekä tuotteiden suorituskykyä että vastuullisia tekoälyn mittareita. Nämä automaattisen arvioinnin kontekstiputket ovat yhdistelmä kerättyjä keskusteluja ihmisen arvioijien kanssa ja synteettisiä keskusteluja, jotka on luotu llm:illä, joita kehotetaan testaamaan käytäntöjä vastakkaisella tavalla. Jokainen näistä turvallisuusarvioinneista pisteytetään automaattisesti pikaviestien avulla. Uusissa arvioinneissa jokainen arviointi tehdään aluksi ihmistunnisteilla, jotka lukevat tekstisisältöä tai kuuntelevat äänentoistoa ja muuntuvat sitten automaattisiin LLM-pohjaisiin arvioinneille.

Malliemme suunniteltu toiminta yhdessä arviointiputkiemme kanssa – sekä inhimillisten että automatisoitujen – avulla voimme suorittaa mittauksia nopeasti mahdollisten riskien varalta mittakaavassa. Kun tunnistamme uusia ongelmia ajan mittaan, laajennamme edelleen mittausjoukkoja lisäriskien arvioimiseksi.

Hallinta: Koska tunnistimme mahdolliset riskit ja väärinkäytön punaisen tiimin kautta ja mittasimme niitä edellä kuvatuilla lähestymistapuilla, kehitimme lisää copilot-käyttökokemukseen liittyviä lievennyksiä. Alla kuvataan joitakin näistä lievennyksistä. Jatkamme Copilot-kokemuksen seurantaa tuotteiden suorituskyvyn ja riskien vähentämislähestymistavan parantamiseksi.

Vaiheittaiset julkaisusuunnitelmat ja jatkuva arviointi. Olemme sitoutuneet oppimaan ja parantamaan lähestymistapaamme vastuulliseen tekoälyyn jatkuvasti, kun teknologiamme ja käyttäjätoiminta kehittyvät. Lisäävä julkaisustrategiamme on ollut keskeinen osa sitä, miten siirrämme teknologiamme turvallisesti laboratoriosta maailmaan, ja olemme sitoutuneet harkittuun ja harkittuun prosessiin Copilot-kokemuksen etujen turvaamiseksi. Teemme Copilotiin säännöllisesti muutoksia parantaaksemme tuotteiden suorituskykyä ja olemassa olevia lievennyksiä sekä toteuttaaksemme uusia lievennyksiä vastauksena oppiimme.
Luokittelijoiden ja järjestelmäviestin hyödyntäminen mahdollisten riskien tai väärinkäytön vähentämiseksi. Käyttäjän kehotteiden perusteella llm-laitevalmistajat voivat tuottaa ongelmallista sisältöä. Keskustelimme sisältötyypeistä, joita yritämme rajoittaa yllä oleissa Järjestelmän toiminta ja rajoitukset -osioissa. Luokittajat ja järjestelmäviesti ovat kaksi esimerkkiä Copilotissa toteutetuista lievennyksistä, jotka auttavat vähentämään tämäntyyppisen sisällön riskiä. Luokittelijat luokittelevat tekstin merkitsemään mahdollisesti haitallista sisältöä käyttäjän kehotteissa tai luoduissa vastauksissa. Hyödynnämme myös nykyisiä parhaita käytäntöjä hyödyntämällä järjestelmäviestiä, jossa annetaan mallille ohjeet sen toiminnan yhdenmukaistamiseksi Microsoftin tekoälyperiaatteiden ja käyttäjien odotusten kanssa.
Copilot-kuvien lataamisen hyväksyminen. Kun käyttäjä lataa ensimmäisen kerran kasvot sisältävän kuvan Copilotiin, häntä pyydetään antamaan suostumuksensa biometristen tietojen lataamiseen Copilotiin. Jos käyttäjä ei osallistu, kuvaa ei lähetetä Copilotille. Kaikki kuvat poistetaan riippumatta siitä, sisältävätkö ne kasvoja vai eivät, 30 päivän kuluessa keskustelun päättymisestä.
Ilmoitus tekoälystä. Copilot on suunniteltu myös ilmoittamaan ihmisille, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa. Kun käyttäjät käyttävät Copilotia, tarjoamme erilaisia kosketuspisteitä, joiden tarkoituksena on auttaa heitä ymmärtämään järjestelmän ominaisuuksia, ilmoittamaan heille, että Copilot toimii tekoälyn avulla, ja viestimään rajoituksista. Käyttökokemus on suunniteltu siten, että se auttaa käyttäjiä saamaan kaiken irti Copilotista ja minimoimaan yliluottamuksen riskin. Tietojen paljastaminen auttaa käyttäjiä myös ymmärtämään paremmin Copilotia ja heidän vuorovaikutustaan sen kanssa.
Median alkuperä. Kun Copilot luo kuvan, olemme ottaneet käyttöön Sisällön tunnistetiedot -ominaisuuden, joka käyttää salausmenetelmiä kaikkien Tekoälyn luomien Kopiointi-toiminnolla luotujen kuvien lähteen eli alkuperän merkitsemiseen. Tämä tekniikka käyttää C2PA (Coalition for Content and Authenticity) -järjestön asettamia standardeja lisätäkseen tekoälyn luomiin kuviin ylimääräisen luottamuksen ja läpinäkyvyyden kerroksen.
Automaattinen sisällöntunnistus. Kun käyttäjät lataavat kuvia osana keskustelukehotettaan, Copilot ottaa käyttöön työkaluja lasten seksuaalisen hyväksikäytön ja hyväksikäytön kuvien havaitsemiseksi (CSEAI). Microsoft raportoi kaikki ilmeiset CSEAI-tiedot National Center for Missing and Exploited Children (NCMEC) -keskukselle Yhdysvaltain lain edellyttämällä tavalla. Kun käyttäjät lataavat tiedostoja analysoitavaksi tai käsiteltäviksi, Copilot ottaa käyttöön automaattisen tarkistuksen havaitakseen sisältöä, joka voi aiheuttaa riskejä tai väärinkäyttöä, kuten tekstiä, joka voi liittyä laittomaan toimintaan tai haitalliseen koodiin.
Käyttöehdot ja käytännesäännöt. Käyttäjien tulee noudattaa Copilotin sovellettavia käyttöehtoja ja Microsoftin palvelusopimuksen käyttäytymissääntöjä sekä Microsoftin tietosuojalauseketta, jotka muun muassa ilmoittavat heille sallituista ja sallimattomista käyttötavoista sekä ehtojen rikkomisen seurauksista. Käyttöehdot sisältävät käyttäjille myös lisätietoja, ja ne toimivat ohjeena käyttäjille, jotka saavat lisätietoja Copilotista. Käyttäjiä, jotka syyllistyvät vakaviin tai toistuvia rikkomuksiin, voidaan tilapäisesti tai pysyvästi keskeyttää palvelusta.
Palaute, seuranta ja valvonta. Copilot-käyttökokemus perustuu olemassa oleviin työkaluihin, joiden avulla käyttäjät voivat lähettää palautetta, jonka Microsoftin toimintatiimit tarkistavat. Lisäksi lähestymistapamme riskien kartoittamiseen, mittaamiseen ja hallintaan kehittyy edelleen, kun opimme lisää, ja teemme jo parannuksia esikatselujaksojen aikana kerättyn palautteen perusteella.

Lisätietoja vastuullisesta tekoälystä

Microsoft Responsible AI Transparency Report

Microsoft AI Principles

Microsoftin vastuulliset tekoälyresurssit

Microsoft Azure Learning -kurssit vastuullisesta tekoälystä

Lisätietoja Microsoft Copilot

Microsoft Copilot usein kysyttyjä kysymyksiä

Tietoja tästä asiakirjasta

© 2024 Microsoft Corporation. Kaikki oikeudet pidätetään. Tämä asiakirja toimitetaan sellaisenaan ja vain tiedoksi. Tämän julkaisun sisältöä, kuten viittauksia URL-osoitteisiin ja sivustoihin, voidaan muuttaa asiasta erikseen ilmoittamatta. Asiakas käyttää ohjelmistoa omalla vastuullaan. Jotkin esimerkit ovat vain havainnollisia ja kuvitteellisia. Mitään todellista yhteyttä ei ole tarkoitettu tai johdettu.

Tätä asiakirjaa ei ole tarkoitettu oikeudellisen neuvonnan antamiseksi eikä sitä pidä tulkita oikeudelliseksi neuvonannon antamiseksi. Lainkäyttöalueella, jossa toimit, voi olla erilaisia lakisääteisiä tai oikeudellisia vaatimuksia, jotka koskevat tekoälyjärjestelmääsi. Ota yhteyttä lakiasiantuntijaan, jos olet epävarma järjestelmääsi mahdollisesti koskevista laeista tai määräyksistä, varsinkin jos uskot, että ne voivat vaikuttaa näihin suosituksiin. Huomaa, että kaikki nämä suositukset ja resurssit eivät sovellu kaikkiin skenaarioihin, ja toisaalta nämä suositukset ja resurssit eivät ehkä riitä joihinkin skenaarioihin.

Julkaistu: 10.10.2024

Päivitetty viimeksi: 01.10.2024