Pēdējoreiz atjaunināts: 2025. gada 19. decembris
Kas ir pārredzamības piezīme?
Mākslīgā intelekta sistēma ietver ne tikai tehnoloģiju, bet arī cilvēkus, kuri to izmantos, cilvēkus, kurus tā ietekmēs, un vidi, kurā tā tiek izvietota. Microsoft atklātības piezīmes ir paredzētas, lai palīdzētu jums saprast, kā darbojas mākslīgā intelekta tehnoloģija Copilot pamatā, kādas izvēles esam veikuši, kas ietekmē sistēmas veiktspēju un darbību, kā arī to, cik svarīgi ir domāt par visu sistēmu, lai Copilot lietotāji varētu kontrolēt savu pieredzi un saprast darbības, ko veicam, lai nodrošinātu drošu produktu.
Microsoft piezīmes par caurspīdīgumu ir daļa no plašākiem Microsoft centieniem īstenot mūsu mākslīgā intelekta principus praksē. Lai uzzinātu vairāk, skatiet rakstu Microsoft AI principi.
Microsoft Copilot pamati
Ievads
Copilot ir mākslīgā intelekta nodrošināta pieredze, kas palīdzēs sniegt lietotājiem meklēto informāciju, vienlaikus esot gatava atbalstīt lietotājus atbildēs uz plašu jautājumu loku neatkarīgi no situācijas vai tēmas. Atsvaidzinātais Copilot atbild ne tikai uz pamatinformācijas izgūšanas vaicājumiem, bet arī koncentrējas uz satura ģenerēšanu, lai lietotājiem piedāvātu proaktīvāku atbalstu uzdevumu izpildes laikā. Mums pieaug izpratne par to, kā mākslīgais intelekts var palīdzēt cilvēkiem mācīties, atklāt un būt radošākiem, tāpēc mums ir jāveido cita veida produkts. Jaunās Copilot pieredzes mērķis ir kļūt par jauna veida līdzekli, kas ir atvērts un dinamisks, lai intuitīvāk labāk apmierinātu lietotāju vajadzības.
Korporācija Microsoft nopietni apņemas nodrošināt atbildīgu mākslīgo intelektu. Atjauninātā Copilot pieredze ir izstrādāta saskaņā ar Microsoft mākslīgā intelekta principiem, Microsoft atbildīga mākslīgā intelekta Standard un sadarbībā ar atbildīgiem mākslīgā intelekta ekspertiem visā uzņēmumā, tostarp Microsoft atbildīga mākslīgā intelekta biroju, mūsu inženieru komandām, Microsoft Research un Aether. Papildinformāciju par atbildīgu mākslīgā intelekta izmantošanu korporācijā Microsoft varat uzzināt šeit.
Šajā dokumentā mēs aprakstām mūsu pieeju atbildīgai mākslīgā intelekta lietošanai programmā Copilot. Pirms izlaišanas mēs izmantojām Microsoft jaunākās metodes, lai kartētu, novērtētu un pārvaldītu iespējamos riskus un sistēmas ļaunprātīgu izmantošanu, kā arī nodrošinātu tās priekšrocības lietotājiem. Turpinot attīstīt Copilot, mēs arī esam turpinājuši mācīties un uzlabot mūsu atbildīgas mākslīgā intelekta izmantošanas centienus. Šis dokuments tiks periodiski atjaunināts, lai informētu par mūsu attīstošajiem procesiem un metodēm.
Galvenie termini
Klasifikatori Mašīnmācīšanās modeļi, kas palīdz kārtot datus apzīmētās klasēs vai informācijas kategorijās. Atjauninātajā Copilot pieredzē viens no veidiem, kā mēs izmantojam klasifikatorus, ir palīdzēt noteikt potenciāli kaitīgu saturu, ko iesnieguši lietotāji vai ko ģenerē sistēma, lai mazinātu šī satura ģenerēšanu un sistēmas ļaunprātīgu izmantošanu vai ļaunprātīgu izmantošanu.
Zemējums Noteiktās sarunās, kurās lietotāji meklē informāciju, Copilot pamatā ir tīmekļa meklēšanas rezultāti. Tas nozīmē, ka Copilot centrē savu atbildi uz augsta ranga saturu no tīmekļa un pēc ģenerētām teksta atbildēm nodrošina hipersaites. Ņemiet vērā, ka šajā laikā lietotāja uzvednes balss režīmā neaktivizēs meklēšanu tīmeklī, tāpēc nevienā atbildē nebūs iekļautas atsauces.
Lielie valodu modeļi (LLM) Lielie valodu modeļi (LLM) šajā kontekstā ir AI modeļi, kas tiek apmācīti, izmantojot lielu teksta datu apjomu, lai paredzētu vārdus secībās. LLM var veikt dažādus uzdevumus, piemēram, teksta ģenerēšanu, apkopošanu, tulkošanu, klasifikāciju un citus.
Mazināšana Metode vai metožu kombinācija, kas paredzēta, lai samazinātu iespējamos riskus, kas var rasties, izmantojot AI līdzekļus programmā Copilot.
Multimodālie modeļi (MMM) Multimodālie modeļi (MMM) ir AI modeļi, kas ir apmācīti, izmantojot dažāda veida datus, piemēram, tekstu, attēlus vai audio. Šie modeļi var veikt dažādus uzdevumus, piemēram, rakstīt tekstu, aprakstīt attēlus, atpazīt runu un atrast informāciju dažādu tipu datos.
Uzvednes Ievades teksta, attēlu un/vai audio formātā, ko lietotājs nosūta Copilot, lai mijiedarbotos ar mākslīgā intelekta līdzekļiem programmā Copilot.
Sarkanā komanda Paņēmieni, ko izmanto eksperti, lai novērtētu sistēmas ierobežojumus un ievainojamību un pārbaudītu plānoto risku mazināšanas efektivitāti. Sarkanās komandas testēšana ietver testētājus, kas izmanto gan labdabīgas, gan pretinieciskas personas, lai identificētu iespējamos riskus, un atšķiras no sistemātiskas risku mērīšanas.
Atbildes Teksts, attēli vai audio, ko Copilot izvada, reaģējot uz uzvedni vai kā daļu no savstarpējās saziņas ar lietotāju. Sinonīmi jēdzienam "atbilde" ietver "pabeigšana", "paaudze" un "atbilde".
Mazie valodu modeļi (SLM) Mazie valodu modeļi (SLM) šajā kontekstā ir AI modeļi, kas ir apmācīti, izmantojot mazākus, fokusētākus datu apjomus salīdzinājumā ar lieliem valodu modeļiem. Neskatoties uz mazāko izmēru, SLM var izpildīt dažādus uzdevumus, piemēram, teksta ģenerēšanu, apkopošanu, tulkošanu un klasifikāciju. Lai gan tie var neatbilst plašajām LLM iespējām, SLM bieži vien ir resursefektīvāki un var būt ļoti efektīvi konkrētām, mērķtiecīgām lietojumprogrammām.
Sistēmas ziņojums Sistēmas ziņojums (dažreiz saukts par "metaprompt") ir programma, kas kalpo, lai vadītu sistēmas darbību. Sistēmas ziņojuma daļas palīdz saskaņot sistēmas darbību ar Microsoft AI principiem un lietotāju gaidām. Piemēram, sistēmas ziņojumā var būt ietverta tāda rindiņa kā "nesniedziet informāciju un neveidojiet saturu, kas var radīt fizisku, emocionālu vai finansiālu kaitējumu".
Iespējas
Sistēmas darbības
Ar Copilot mēs esam izstrādājuši novatorisku pieeju, lai sniegtu lietotājiem personalizētāku AI pieredzi, kas lietotājiem var palīdzēt izpildīt dažādus uzdevumus. Šī novatoriskā pieeja izmanto dažādas progresīvas tehnoloģijas, piemēram, valodu un multimodālus modeļus no Microsoft, OpenAI un citiem modeļu izstrādātājiem. Mēs strādājām pie drošības paņēmienu ieviešanas modeļiem, kas ir jaunās Copilot pieredzes pamatā pirms publiskā laidiena, lai izstrādātu pielāgotu iespēju un uzvedības kopu, kas nodrošina uzlabotu Copilot pieredzi. Atjauninātajā Copilot lietotāji var nosūtīt uzvednes dabiskā valodā, tekstā vai balsī. Atbildes lietotājiem tiek rādītas dažādos formātos, piemēram, tērzēšanas atbildes teksta formā (ar tradicionālām saitēm uz tīmekļa saturu, ja nepieciešams) un attēlos (ja uzvednē tika veikts attēla pieprasījums). Ja lietotāji sūta uzvednes dabiskās valodas balsī Copilot balss režīmā, viņi saņem audio atbildes.
Kad lietotājs ievada uzvedni programmā Copilot, uzvedne, sarunu vēsture un sistēmas ziņojums tiek nosūtīti, izmantojot vairākus ievades klasifikatorus, lai palīdzētu filtrēt kaitīgu vai nepiemērotu saturu. Tas ir ļoti svarīgs pirmais solis, lai palīdzētu uzlabot modeļa veiktspēju un mazinātu situācijas, kurās lietotāji var mēģināt parādīt modeli nedrošā veidā. Kad uzvedne iziet cauri ievades klasifikatoriem, tā tiek nosūtīta SLM, lai noteiktu, vai pieprasījumam ir nepieciešami pamata dati no tīmekļa un kuram valodas modelim būtu jāreaģē uz pieprasījumu. Visi modeļi ģenerē atbildi, izmantojot lietotāja uzvednes un neseno sarunu vēsturi, lai kontekstualizētu pieprasījumu, sistēmas ziņojumu, lai atbildes saskaņotu ar Microsoft AI principiem un lietotāju gaidām, un, ja nepieciešams, saskaņo atbildes ar meklēšanas rezultātiem atbilstoši atbildēm esošajā, augsta ranga saturā no tīmekļa.
Atbildes lietotājiem tiek parādītas dažādos formātos, piemēram, tērzēšanas atbildes teksta formā, tradicionālās saites uz tīmekļa saturu, attēli un audio atbildes. Ja atbildes tiek sniegtas teksta veidā un atbildes ir balstītas uz datiem no tīmekļa, izvade satur hipersaites, kas norādītas zem teksta, lai lietotāji varētu piekļūt tīmekļa vietnēm, kas tika izmantotas, lai pamatotu atbildi, un uzzināt vairāk par tēmu no turienes. Copilot var arī izpildīt kodu, lai veiktu sarežģītus aprēķinus un ģenerētu grafikus. Copilot var saglabāt konkrētus faktus, kurus lietotāji tam pieprasa atcerēties, ļaujot ģenerēt atbilstošākas atbildes un ieteikumus, pamatojoties uz šo kontekstu. Copilot var arī izdzēst saglabātos faktus, kad lietotāji lūdz tos skaidri aizmirst.
Copilot arī palīdz lietotājiem veidot jaunus stāstus, dzejoļus, dziesmu tekstus un attēlus. Kad Copilot nosaka lietotāja nolūku ģenerēt radošu saturu (piemēram, lietotāja uzvedni, kas sākas ar "uzraksti man ..."), sistēma vairumā gadījumu ģenerēs saturu, kas reaģē uz lietotāja uzvedni. Līdzīgi, kad Copilot nosaka lietotāja nodomu ģenerēt attēlu (piemēram, lietotāja uzvedni, kas sākas ar "uzzīmē mani ..."), Copilot vairumā gadījumu ģenerēs attēlu, kas reaģē uz lietotāja uzvedni. Kad Copilot nosaka lietotāja nodomu modificēt augšupielādētu attēlu (piemēram, lietotāja uzvedni, kas sākas ar "pievienot ..."), Copilot vairumā gadījumu modificēs attēlu, reaģējot uz lietotāja uzvedni. Copilot var nereaģēt ar radošu saturu, ja lietotāja uzvednē ir noteikti termini, kas var radīt problemātisku saturu.
Lietotājiem ar Microsoft kontiem (MSA) tagad ir arī iespēja abonēt Copilot Pro, kas piedāvā uzlabotas iespējas, tostarp paātrinātu veiktspēju, Copilot balssvadība iespēju izmantošanu ilgāku laika periodu un dažos gadījumos piekļuvi jauniem, eksperimentāliem līdzekļiem. Copilot Pro pašlaik ir pieejams ierobežotā skaitā valstu, un mēs plānojam drīzumā padarīt Copilot Pro pieejamu vēl citos tirgos.
Paredzētā drošības darbība
Mūsu Copilot mērķis ir palīdzēt lietotājiem. Izmantojot citu Microsoft ģeneratīvā mākslīgā intelekta produktu un pakalpojumu paraugpraksi, mūsu mērķis ir ierobežot Copilot problemātiska satura ģenerēšanu un palielināt drošas un pozitīvas lietošanas iespējamību. Lai gan mēs esam veikuši pasākumus, lai mazinātu riskus, ģeneratīvā mākslīgā intelekta modeļi, piemēram, Copilot pamatā, ir varbūtības un var pieļaut kļūdas, kas nozīmē, ka mazināšanai dažkārt var neizdoties bloķēt kaitīgas lietotāju uzvednes vai mākslīgā intelekta ģenerētas atbildes. Ja Copilot lietošanas laikā saskaraties ar kaitīgu vai negaidītu saturu, informējiet mūs, sniedzot atsauksmes, lai mēs varētu turpināt uzlabot lietošanas pieredzi.
Lietošanas gadījumi
Paredzētie izmantošanas veidi
Copilot ir paredzēts, lai palīdzētu lietotājiem atbildēt uz plašu jautājumu loku neatkarīgi no situācijas vai tēmas. Lietotāji var mijiedarboties ar Copilot, izmantojot teksta, attēla un audio ievadi, kur mijiedarbība ir paredzēta, lai tā vairāk atgādinātu dabiskas sarunas ar mākslīgā intelekta sistēmu. Turklāt, ja lietotāji mijiedarbojas ar Copilot, izmantojot tekstu, lai meklētu konkrētu informāciju par tēmām, kurās Copilot varētu būt nepieciešams vairāk informācijas, lai sniegtu precīzāku atbildi, šī pieredze ir paredzēta, lai savienotu lietotājus ar atbilstošiem meklēšanas rezultātiem, pārskatītu rezultātus no tīmekļa un apkopotu informāciju, ko lietotāji meklē. Programmā Copilot lietotāji var:
- Apkopojiet reāllaika informāciju, kad tērzējat, izmantojot tekstu. Kad lietotāji mijiedarbojas ar Copilot, izmantojot tekstu, sistēma veic meklēšanu tīmeklī, ja tai ir nepieciešams vairāk informācijas, un izmanto populārākos tīmekļa meklēšanas rezultātus, lai ģenerētu lietotājiem prezentējamas informācijas kopsavilkumu. Šajos kopsavilkumos ir iekļautas atsauces uz tīmekļa lapām, lai palīdzētu lietotājiem redzēt meklēšanas rezultātu avotus un ērti tiem piekļūt, lai Copilot kopsavilkums būtu pamatots. Lietotāji var noklikšķināt uz šīm saitēm, lai dotos tieši uz avotu, ja viņi vēlas uzzināt vairāk.
- Tērzējiet ar mākslīgā intelekta sistēmu, izmantojot tekstu. Lietotāji var tērzēt ar Copilot, izmantojot īsziņu, un uzdot papildu jautājumus, lai atrastu jaunu informāciju un saņemtu atbalstu par visdažādākajām tēmām.
- Interfeiss ar mākslīgo intelektu, izmantojot balsi un izskatu. Copilot var ne tikai saņemt audio ievadi, bet arī radīt audio izvadi vienā no četrām lietotāju atlasītajām balsīm un parādīt vizuālu izskatu, lai bagātinātu mijiedarbību. Audio-audio un izskata iespējas ļauj lietotājiem mijiedarboties ar Copilot dabiskākā un plūstošākā veidā.
- Saņemiet viegli uztveramu ziņu saturu. Lietotāji var izmantot Copilot, lai saņemtu jaunumu, laika apstākļu un citu atjauninājumu kopsavilkumu, pamatojoties uz atlasītām tematiskajām jomām, izmantojot Copilot dienas īssavilkums līdzekli, un klausīties šīs instruktāžas apraidei līdzīgā formātā. Šis līdzeklis izvilks saturu no pilnvarotiem avotiem, kuriem ir līgumi ar Microsoft.
- Saņemiet palīdzību jaunu ideju ģenerēšanā. Ikreiz, kad lietotāji mijiedarbojas ar Copilot pieredzi, viņi redzēs kartīšu kopu, uz kuras var noklikšķināt, lai sāktu tērzēt ar Copilot par noderīgām un interesantām tēmām. Ja lietotāji ir mijiedarbojušies ar citiem Microsoft patērētāju pakalpojumiem, kartes tiks personalizētas saskaņā ar mūsu konfidencialitātes politiku. Laika gaitā kartītes pakalpojumā Copilot var tikt personalizētas, pamatojoties uz lietotāja tērzēšanas vēsturi. Lietotāji jebkurā laikā var atteikties no personalizēšanas iestatījumu izvēlnē.
- Ģenerējiet radošu saturu. Tērzējot ar Copilot, lietotāji var izveidot jaunus dzejoļus, jokus, stāstus, attēlus un citu saturu, izmantojot Copilot pieredzi. Ja nepieciešams, Copilot var arī rediģēt lietotāju augšupielādētos attēlus.
- Uzdevumu veikšana Android ierīcē. Lietotāji var mijiedarboties ar Copilot, izmantojot Android platformu, izmantojot balsi, lai veiktu noteiktus uzdevumus. Šie uzdevumi ir taimeru un modinātāju iestatīšana, tālruņa zvanu veikšana, īsziņu sūtīšana un Uber pasūtīšana. Lietotājiem ir jāapstiprina tālruņa zvans, īsziņa un Uber pasūtījums pirms uzdevumu pabeigšanas.
- Palīdziet veikt izpēti. Copilot var veikt izpētes uzdevumus, parādot padziļinātus resursus, piedāvājot detalizētu tēmu sadalījumu un saites uz avotiem, lai palīdzētu lietotājiem ne tikai ātri atbildēt uz sarežģītākiem vaicājumiem. Copilot var proaktīvi ģenerēt personalizētus izpētes ieteikumus lietotājiem, pamatojoties uz tādiem jautājumiem kā iepriekšējo pētījumu vaicājumi un Copilot atmiņa. Lietotāji var atteikties no personalizēšanas vai paziņojumiem jebkurā laikā sadaļā Iestatījumi.
- Izpētiet pasauli ar Copilot redzējums. Copilot var skatīt jūsu ekrāna vai mobilās kameras plūsmu un izmantot balsi, lai atbildētu uz jautājumiem un mijiedarbotos ar jums. Copilot var tūlītēji skenēt, analizēt un piedāvāt ieskatus un ieteikumus reāllaikā, lai palīdzētu jums strādāt, pārlūkot vai izpētīt pasauli. Copilot redzējums ir pieejams Edge, Windows, iOS un Android.
- Informācijas izgūšana, izmantojot savienotājus. Ar jūsu piekrišanu Copilot var meklēt jūsu mākoņa failus un mijiedarboties ar tiem, izmantojot dabisko valodu. Copilot var izgūt e-pasta ziņojumus, meklēt kontaktpersonas un pārbaudīt kalendāra tikšanās gan no Microsoft Outlook, gan Google Gmail kontiem.
- Sadarbojieties ar Copilot grupām. Pēc uzaicinājuma varat pievienoties vai izveidot grupas sarunas ar Copilot, lai sadarbotos kopīgos projektos un idejās.
Apsvērumi, izvēloties citus lietošanas gadījumus
Mēs aicinām lietotājus pārskatīt visu saturu, pirms pieņemt lēmumus vai rīkoties, pamatojoties uz Copilot atbildēm, jo mākslīgais intelekts var pieļaut kļūdas. Turklāt ir noteikti scenāriji, no kuriem ieteicams izvairīties vai kas ir pretrunā mūsu lietošanas noteikumiem. Piemēram, Microsoft neļauj izmantot Copilot saistībā ar neatļautām darbībām vai jebkādiem mērķiem, kas paredzēti nelikumīgu darbību veicināšanai.
Ierobežojumi
Valoda, attēls un audio modeļi, kas ir Copilot pieredzes pamatā, var ietvert apmācības datus, kas var atspoguļot sabiedrības aizspriedumus, kas savukārt var potenciāli likt Copilot rīkoties negodīgi, neuzticami vai aizvainojoši. Neskatoties uz mūsu intensīvo modeļu apmācību un drošības precizēšanu, kā arī atbildīgu AI vadīklu un drošības sistēmu ieviešanu, ko mēs izvietojam apmācības datos, lietotāju uzvednēs un modeļu izvadēs, AI vadītie pakalpojumi ir kļūdaini un varbūtīgi. Tāpēc ir grūti visaptveroši bloķēt visu nepiemēroto saturu, radot risku, ka mākslīgā intelekta ģenerētajā saturā var rasties aizspriedumi, stereotipi, nepamatotība vai cita veida kaitējums. Šeit ir uzskaitīti daži no veidiem, kā šie ierobežojumi var izpausties Copilot lietošanas pieredzē.
- Stereotipi: Copilot pieredze potenciāli varētu pastiprināt stereotipus. Piemēram, tulkojot "He is a nurse" un "She is a doctor" bezdzimuma valodā, piemēram, turku valodā, un pēc tam atpakaļ angļu valodā, Copilot var netīši radīt stereotipiskus (un nepareizus) rezultātus "She is a nurse" un "He is a doctor". Vēl viens piemērs ir, ģenerējot attēlu, pamatojoties uz uzvedni "Bērni bez tēva", sistēma varētu ģenerēt tikai vienas rases vai etniskās piederības bērnu attēlus, pastiprinot kaitīgos stereotipus, kas varētu pastāvēt publiski pieejamos attēlos, ko izmanto pamatā esošo modeļu apmācībai. Copilot var arī nostiprināt stereotipus, pamatojoties uz lietotāja ievades attēla saturu, paļaujoties uz attēla komponentiem un izdarot pieņēmumus, kas var nebūt patiesi. Mēs esam ieviesuši riska mazinājumus, lai samazinātu risku, ka saturs satur aizvainojošus stereotipus, tostarp ievades un izvades klasifikatorus, precīzi pielāgotus modeļus un sistēmas ziņojumus.
- Pārmērīga un nepietiekama pārstāvība: Copilot savās atbildēs var potenciāli pārāk vai nepietiekami pārstāvēt cilvēku grupas vai pat nepārstāvēt tās vispār. Piemēram, ja teksta uzvednes, kas satur vārdu "gejs", tiek noteiktas kā potenciāli kaitīgas vai aizvainojošas, tas var novest pie tā, ka likumīgās paaudzes par LGBTQIA+ kopienu ir nepietiekami pārstāvētas. Papildus ievades un izvades klasifikatoru, precīzi pielāgotu modeļu, kā arī sistēmas ziņojumu iekļaušanai mēs izmantojam uzvedņu bagātināšanu programmā Designer kā vienu no vairākiem mazināšanas pasākumiem, lai samazinātu risku, ka saturs atspoguļo pārāk vai nepietiekami pārstāv cilvēku grupas.
- Nepiemērots vai aizvainojošs saturs: Copilot lietošanas iespējas var radīt cita veida nepiemērotu vai aizvainojošu saturu. Piemēram, iespēja ģenerēt saturu vienā modalitātē (piemēram, audio), kas ir nepiemērots tā uzvednes kontekstā vai salīdzinot ar to pašu izvadi citā modalitātē (piemēram, teksts). Citi piemēri ir mākslīgā intelekta ģenerēti attēli, kas potenciāli satur kaitīgus artefaktus, piemēram, naida simbolus, saturu, kas attiecas uz apstrīdētām, pretrunīgām vai ideoloģiski polarizējošām tēmām, un seksuāli uzlādētu saturu, kas izvairās no seksuāla rakstura satura filtriem. Mēs esam ieviesuši riska mazināšanos, lai samazinātu risku, ka paaudzes satur nepiemērotu vai aizvainojošu saturu, piemēram, ievades un izvades klasifikatorus, precīzi pielāgotus modeļus un sistēmas ziņojumus.
- Informācijas uzticamība: lai gan Copilot mērķis ir nepieciešamības gadījumā sniegt uzticamus avotus, mākslīgais intelekts var pieļaut kļūdas. Tas potenciāli var radīt bezjēdzīgu saturu vai safabricēt saturu, kas varētu izklausīties saprātīgi, bet ir faktiski neprecīzs. Pat tad, ja atbildes tiek ņemtas no augstas uzticamības tīmekļa datiem, atbildes var sagrozīt saturu un nebūt pilnīgi precīzas vai uzticamas. Izmantojot lietotāja interfeisu un līdzīgā dokumentācijā, mēs atgādinām lietotājiem, ka Copilot var pieļaut kļūdas. Mēs arī turpinām izglītot lietotājus par mākslīgā intelekta ierobežojumiem, piemēram, mudinām viņus vēlreiz pārbaudīt faktus pirms lēmumu pieņemšanas vai rīkoties, pamatojoties uz Copilot atbildēm. Kad lietotāji mijiedarbojas ar Copilot, izmantojot tekstu, tas mēģina izmantot augstas kvalitātes tīmekļa datus, lai samazinātu risku, ka paaudzes paliek nepamatotas.
- Daudzvalodu veiktspēja: dažādās valodās veiktspēja var atšķirties, un angļu valodas veiktspēja vislabākā ir atjauninātā Copilot izlaišanas laikā. Veiktspējas uzlabošana dažādās valodās ir galvenā investīciju joma, un jaunākie modeļi ir uzlabojuši veiktspēju.
- Audio ierobežojumi: audio modeļi var ieviest citus ierobežojumus. Vispārīgi runājot, runas ievades akustiskā kvalitāte, ar runu nesaistīts troksnis, vārdu krājums, akcenti un ievietošanas kļūdas var ietekmēt arī to, vai Copilot apmierinoši apstrādā un reaģē uz lietotāja audio ievadi. Turklāt, tā kā lietotāja uzvednes, izmantojot Copilot balssvadība, neaktivizēs meklēšanu tīmeklī, Copilot, iespējams, nevarēs atbildēt uz pašreizējiem notikumiem balss režīmā.
- Atkarība no interneta savienojamības: atjauninātās Copilot iespējas darbības nodrošināšanai ir nepieciešams savienojums ar internetu. Savienojuma pārtraukumi var ietekmēt pakalpojuma pieejamību un veiktspēju.
Sistēmas veiktspēja
Daudzās AI sistēmās veiktspēja bieži tiek definēta saistībā ar precizitāti (t. i., cik bieži AI sistēma piedāvā pareizu prognozi vai izvadi). Izmantojot Copilot, mēs koncentrējamies uz Copilot kā uz mākslīgā intelekta palīgu, kas atspoguļo lietotāja preferences. Tāpēc divi dažādi lietotāji var aplūkot vienu un to pašu rezultātu un atšķirīgi viedokļi par to, cik tas ir noderīgs vai atbilstošs viņu unikālajai situācijai un gaidām, kas nozīmē, ka šo sistēmu veiktspēja ir jānosaka elastīgāk. Veiktspēja kopumā nozīmē to, ka lietojumprogramma darbojas, kā to paredz lietotāji.
Paraugprakse sistēmas veiktspējas uzlabošanai
Mijiedarbojieties ar interfeisu, izmantojot dabisku, sarunvalodas valodu. Lai iegūtu labākus rezultātus, ir svarīgi mijiedarboties ar Copilot lietotājam ērtā veidā. Līdzīgi kā tādu metožu ieviešana, kas palīdz cilvēkiem efektīvi sazināties ikdienā, arī mijiedarbība ar Copilot kā mākslīgā intelekta palīgu, izmantojot lietotājam pazīstamu tekstu vai runu, var palīdzēt iegūt labākus rezultātus.
Lietotāju pieredze un apgūšana. Lai efektīvi izmantotu Copilot, lietotājiem ir jāizprot tā iespējas un ierobežojumi. Mācīšanās līkne var būt sarežģīta un lietotāji var vēlēties atsaukties uz dažādiem Copilot resursiem (piemēram, šo dokumentu un mūsu bieži uzdotos jautājumus par Copilot), lai efektīvi mijiedarbotos ar pakalpojumu un gūtu labumu no tā.
Risku kartēšana, novērtēšana un pārvaldība
Tāpat kā citas transformācijas tehnoloģijas, mākslīgā intelekta priekšrocību izmantošana nav bez riska, un Microsoft atbildīgas mākslīgā intelekta programmas pamatdaļa ir paredzēta, lai identificētu un kartētu iespējamos riskus, mērītu šos riskus un pārvaldītu tos, veidojot mazināšanas pasākumus un laika gaitā nepārtraukti uzlabojot Copilot. Tālāk esošajās sadaļās ir aprakstīta mūsu iteratīvā pieeja, lai kartētu, novērtētu un pārvaldītu iespējamos riskus.
Karte: rūpīga plānošana un pirmsizvietošanas pretinieku testēšana, piemēram, sarkanā komanda, palīdz mums kartēt iespējamos riskus. Pamata modeļi, kas nodrošina Copilot pieredzi, tika testēti sarkanajā komandā, ko veica testētāji, kuri pārstāv daudzdisciplināras perspektīvas attiecīgajās tēmu jomās. Šī testēšana tika izstrādāta, lai novērtētu jaunākās tehnoloģijas darbību gan ar papildu aizsardzības pasākumiem, gan bez tiem. Šo vingrinājumu mērķis modeļa līmenī ir radīt kaitīgas reakcijas, atklāt potenciālās ļaunprātīgas izmantošanas iespējas un identificēt spējas un ierobežojumus.
Pirms padarījām Copilot pieredzi publiski pieejamu ierobežota laidiena priekšskatījumā, mēs veicām sarkano komandu lietojumprogrammas līmenī, lai novērtētu Copilot trūkumus un ievainojamību. Šis process mums palīdzēja labāk saprast, kā sistēmu var izmantot visdažādākie lietotāji, un palīdzēja mums uzlabot risku mazināšanas iespējas.
Pasākums: papildus Copilot novērtēšanai, salīdzinot ar mūsu esošajiem drošības novērtējumiem, iepriekš aprakstītā sarkanās komandas izmantošana palīdzēja mums izstrādāt novērtējumus un atbildīgas mākslīgā intelekta metrikas, kas atbilst identificētajiem potenciālajiem riskiem, piemēram, uzlaušanas ierobežojumiem, kaitīgam saturam un nepamatotam saturam.
Mēs apkopojām sarunu datus, kas paredzēti šiem riskiem, izmantojot cilvēku dalībnieku un automatizētas sarunu ģenerēšanas konveijeru. Pēc tam katru novērtējumu vērtē vai nu apmācītu cilvēku anotāciju kopums, vai automatizēts anotāciju konveijers. Ikreiz, veicot izmaiņas produktā, tiek atjaunināti esošie vai tiek piedāvāti jauni risku mazināšanas pasākumi, kā arī tiek atjaunināti novērtēšanas konveijeri, lai novērtētu gan produkta veiktspēju, gan atbildīgas mākslīgā intelekta izmantošanas rādītājus. Šie automatizētās novērtēšanas konteksta konveijeri ir apkopoto sarunu ar cilvēku vērtētājiem un sintētisko sarunu kombinācija, kas ģenerēta ar LLM, kas tiek mudinātas pārbaudīt politikas pretinieku veidā. Katrs no šiem drošuma novērtējumiem tiek automātiski novērtēts ar LLM. Jaunizstrādātajos vērtējumos katru novērtējumu sākotnēji vērtē marķētāji cilvēki, kuri lasa teksta saturu vai klausās audio izvadi, un pēc tam to pārvērš par automātisku LLM novērtējumu.
Mūsu modeļu iecerētā darbība apvienojumā ar mūsu novērtēšanas konveijeriem — gan cilvēku, gan automatizētiem — ļauj mums ātri novērtēt iespējamā kaitējuma mērogu. Laika gaitā nosakot jaunas problēmas, mēs turpinām paplašināt mērījumu kopas, lai novērtētu papildu riskus.
Pārvaldība: kad mēs identificējām iespējamos riskus un ļaunprātīgu izmantošanu, izmantojot sarkano komandu izmantošanu un novērtējām tos, izmantojot iepriekš aprakstītās pieejas, mēs izstrādājām papildu mazināšanas pasākumus, kas ir specifiski Copilot pieredzei. Tālāk ir aprakstīti daži no šiem mazināšanas risinājumiem. Mēs turpināsim pārraudzīt Copilot pieredzi, lai uzlabotu produkta veiktspēju un mūsu riska mazināšanas pieeju.
- Pakāpeniska laidiena plāni un nepārtraukta novērtēšana. Mēs esam apņēmušies nepārtraukti apgūt un uzlabot mūsu atbildīgas mākslīgā intelekta izmantošanas pieeju, jo mūsu tehnoloģijas un lietotāju uzvedība attīstās. Mūsu inkrementālā izlaišanas stratēģija ir bijis drošs pamats mūsu tehnoloģiju pārnesei no laboratorijas uz pasauli, un mēs esam apņēmušies īstenot apzinātu un pārdomātu procesu, lai nodrošinātu Copilot lietošanas priekšrocības. Mēs regulāri veicam izmaiņas Copilot, lai uzlabotu produkta veiktspēju un esošos risku mazināšanas pasākumus, kā arī ieviestu jaunus risku mazināšanas pasākumus, reaģējot uz apgūtajām mācībām.
- Klasifikatoru un sistēmas ziņojuma izmantošana, lai mazinātu iespējamos riskus vai ļaunprātīgu izmantošanu. Reaģējot uz lietotāja uzvednēm, LLM var radīt problemātisku saturu. Mēs apspriedām satura tipus, kurus cenšamies ierobežot iepriekš sadaļā Sistēmas darbība un ierobežojumi. Klasifikatori un sistēmas ziņojums ir divi mazināšanas piemēri, kas ir ieviesti programmā Copilot, lai palīdzētu samazināt šāda veida satura risku. Klasifikatori klasificē tekstu, lai atzīmētu ar karodziņu potenciāli kaitīgu saturu lietotāju uzvednēs vai ģenerētās atbildēs. Mēs izmantojam arī pašreizējo paraugpraksi, lai izmantotu sistēmas ziņojumu, kas ietver norādījumu sniegšanu modelim, lai saskaņotu tā darbību ar Microsoft mākslīgā intelekta principiem un lietotāju gaidām.
- Piekrišana Copilot attēlu augšupielādei. Pirmo reizi augšupielādējot Copilot attēlu ar sejām, viņam tiks lūgts sniegt piekrišanu biometrisko datu augšupielādei Copilot. Ja lietotājs nepiekritīs, attēls netiks nosūtīts Copilot. Visi attēli, neatkarīgi no tā, vai tajos ir sejas, tiek izdzēsti 30 dienu laikā pēc sarunas beigām.
- Mākslīgā intelekta atklāšana. Copilot ir arī paredzēts, lai informētu cilvēkus par to, ka viņi mijiedarbojas ar mākslīgā intelekta sistēmu. Kad lietotāji mijiedarbojas ar Copilot, mēs piedāvājam dažādus saskares punktus, kas paredzēti, lai palīdzētu viņiem izprast sistēmas iespējas, atklāt viņiem, ka Copilot darbina mākslīgais intelekts, un informēt par ierobežojumiem. Pieredze ir veidota šādi, lai palīdzētu lietotājiem izmantot visas Copilot iespējas un samazinātu pārmērīgas paļaušanās risku. Informācijas atklāšana arī palīdz lietotājiem labāk izprast Copilot un viņu mijiedarbību ar to.
- Plašsaziņas līdzekļu izcelsme. Kad Copilot ģenerē attēlu, esam iespējojuši līdzekli "Satura akreditācijas dati", kas izmanto šifrēšanas metodes, lai atzīmētu visu ar Copilot izveidoto mākslīgā intelekta ģenerēto attēlu izcelsmi vai "izcelsmi". Šajā tehnoloģijā tiek izmantoti Satura un autentiskuma koalīcijas (C2PA) noteiktie standarti, lai mākslīgā intelekta ģenerētiem attēliem nodrošinātu papildu uzticamību un caurspīdīgumu.
- Automatizēta satura noteikšana. Kad lietotāji augšupielādē attēlus kā daļu no tērzēšanas uzvednes, Copilot izvieto rīkus, lai noteiktu bērnu seksuālas izmantošanas un vardarbības attēlus (CSEAI). Microsoft ziņo par visu acīmredzamo CSEAI Nacionālajam pazudušo un izmantoto bērnu centram (NCMEC), kā to pieprasa ASV tiesību akti. Kad lietotāji augšupielādē failus, lai tos analizētu vai apstrādātu, Copilot izmanto automatizētu skenēšanu, lai noteiktu saturu, kas var izraisīt riskus vai ļaunprātīgu izmantošanu, piemēram, tekstu, kas varētu būt saistīts ar neatļautām darbībām vai ļaunprātīgu kodu.
- Lietošanas nosacījumi un Uzvedības kodekss. Lietotājiem ir jāievēro Copilot piemērojamie lietošanas nosacījumi un uzvedības kodekss, Microsoft pakalpojumu līgums un Microsoft paziņojums par konfidencialitāti, kas cita starpā informē viņus par atļauto un nepieļaujamo lietošanas veidu un noteikumu pārkāpšanas sekām. Lietošanas nosacījumi arī nodrošina papildu informāciju lietotājiem un kalpo kā atsauce lietotājiem uzzināt par Copilot. Lietotājiem, kas izdara nopietnus vai atkārtotus pārkāpumus, var tikt īslaicīgi vai neatgriezeniski apturēta pakalpojuma izmantošana.
- Atsauksmes, pārraudzība un novērošana. Copilot līdzekļa pamatā ir esošie rīki, kas ļauj lietotājiem iesniegt atsauksmes, kuras pārskata Microsoft darba komandas. Turklāt mūsu pieeja risku kartēšanai, novērtēšanai un pārvaldībai turpina attīstīties, jo mēs uzzinām arvien vairāk, un mēs jau veicam uzlabojumus, pamatojoties uz atsauksmēm, kas apkopotas priekšskatījuma periodos.
- Pašnāvības un Self-Harm risku noteikšana un reaģēšana uz tiem. Copilot izmanto mašīnmācīšanās klasifikatorus, kas apmācīti atpazīt valodas modeļus, kas var liecināt par pašnāvību vai paškaitējuma nolūku no lietotāja. Kad šāds saturs tiek noteikts, sistēma pārtrauc sarunu un tā vietā nodrošina palīdzības tālruņa karti ar krīzes atbalsta resursiem (piemēram, pašnāvību un krīžu glābšanas līniju pa tālruni 988 Amerikas Savienotajās Valstīs), mudinot lietotājus meklēt profesionālu palīdzību. Copilot nesniedz konsultācijas; Tā loma ir tikai atklāšana un nosūtīšana, lai nodrošinātu lietotāju drošību.
Papildinformācija par atbildīgu mākslīgā intelekta izmantošanu
Microsoft atbildīga mākslīgā intelekta izmantošanas caurspīdīguma ziņojums
Microsoft atbildīgi mākslīgā intelekta resursi
Microsoft Azure Learning kursi par atbildīgu mākslīgo intelektu
Papildinformācija par Microsoft Copilot
Bieži uzdotie jautājumi par Microsoft Copilot
Par šo dokumentu
© 2024 Microsoft Corporation. Visas tiesības paturētas. Šis dokuments ir nodrošināts tāds, kāds tas ir, un tas paredzēts tikai informatīviem nolūkiem. Šajā dokumentā iekļautā informācija un viedokļi, ieskaitot URL un citas atsauces uz interneta vietnēm, var mainīties bez brīdinājuma. Lietotājs uzņemas ar tās lietošanu saistīto risku. Daži piemēri ir tikai ilustrācijai un ir fiktīvi. Nekāda reāla asociācija nav paredzēta vai izsecināta.
Šis dokuments nav paredzēts un nav jāinterpretē kā juridiskas konsultācijas sniegšana. Jurisdikcijā, kurā darbojaties, var būt dažādas normatīvas vai juridiskas prasības, kas attiecas uz jūsu mākslīgā intelekta sistēmu. Ja neesat pārliecināts par tiesību aktiem vai noteikumiem, kas varētu attiekties uz jūsu sistēmu, īpaši tad, ja uzskatāt, ka tie varētu ietekmēt šos ieteikumus, sazinieties ar juridisko speciālistu. Ņemiet vērā, ka ne visi šie ieteikumi un resursi būs piemēroti katram scenārijam, un otrādi, šie ieteikumi un resursi dažiem scenārijiem var būt nepietiekami.
Publicēts: 10/01/2024
Pēdējoreiz atjaunināts: 10/01/2024