2026. gada 18. augusts
Piezīme
- Informācija šajā rakstā attiecas tikai uz Microsoft Copilot lietošanu personām, kas ir pierakstījušās ar Microsoft kontu, piemēram, personisko e-pasta adresi.
- Informāciju par Microsoft Copilot izmantošanu organizācijās, kurās lietotāji ir pierakstījušies ar savu darba vai mācību kontu, skatiet sadaļā Programmas karte: Microsoft Copilot (organizācijām).
Kas ir pārredzamības piezīme?
Mākslīgā intelekta sistēma ietver ne tikai tehnoloģiju, bet arī cilvēkus, kuri to izmantos, cilvēkus, kurus tā ietekmēs, un vidi, kurā tā tiek izvietota. Microsoft atklātības piezīmes ir paredzētas, lai palīdzētu jums saprast, kā darbojas mākslīgā intelekta tehnoloģija Copilot pamatā, kādas izvēles esam veikuši, kas ietekmē sistēmas veiktspēju un darbību, kā arī to, cik svarīgi ir domāt par visu sistēmu, lai Copilot lietotāji varētu kontrolēt savu pieredzi un saprast darbības, ko veicam, lai nodrošinātu drošu produktu.
Microsoft piezīmes par caurspīdīgumu ir daļa no plašākiem Microsoft centieniem īstenot mūsu mākslīgā intelekta principus praksē. Lai uzzinātu vairāk, skatiet rakstu Microsoft AI principi.
Microsoft Copilot pamati
Ievads
Microsoft Copilot palīdz vienuviet pāriet no idejas līdz pabeigtam darbam. Copilot ir integrēts programmā Word, Excel, PowerPoint, Outlook, Teams un citur, apvienojot izmantotos failus un informāciju vienā pieredzē. Copilot var palīdzēt izveidot elegantus dokumentus, prezentācijas un izklājlapas, e-pasta ziņojumu melnrakstus, organizēt dienu un saņemt atbildes, pamatojoties uz veicamo darbu. Izmantojot Cowork, Copilot var arī palīdzēt izpildīt lielākus, vairāku soļu uzdevumus un nodrošināt pabeigtus uzdevumus. Varat arī izvēlēties starp vadošajiem mākslīgā intelekta modeļiem dažādiem darba veidiem. Konkrētie līdzekļi atšķiras atkarībā no abonementa.
Korporācija Microsoft nopietni apņemas nodrošināt atbildīgu mākslīgo intelektu. Copilot ir izstrādāts saskaņā ar Microsoft mākslīgā intelekta principiem, Microsoft atbildīga mākslīgā intelekta Standard un sadarbībā ar atbildīgiem mākslīgā intelekta ekspertiem visā uzņēmumā, tostarp Microsoft atbildīga mākslīgā intelekta biroju, mūsu inženieru komandām, Microsoft Research un Aether. Papildinformāciju varat iegūt rakstā Atbildīgais mākslīgais intelekts korporācijā Microsoft.
Šajā dokumentā mēs aprakstām mūsu pieeju atbildīgai mākslīgā intelekta lietošanai programmā Copilot. Pirms izlaišanas mēs izmantojām Microsoft jaunākās metodes, lai kartētu, novērtētu un pārvaldītu iespējamos riskus un sistēmas ļaunprātīgu izmantošanu, kā arī nodrošinātu tās priekšrocības lietotājiem. Turpinot attīstīt Copilot, mēs arī esam turpinājuši mācīties un uzlabot mūsu atbildīgas mākslīgā intelekta izmantošanas centienus. Šis dokuments tiks periodiski atjaunināts, lai informētu par mūsu attīstošajiem procesiem un metodēm.
Galvenie termini
Klasifikatori Mašīnmācīšanās modeļi, kas palīdz kārtot datus apzīmētās klasēs vai informācijas kategorijās. Programmā Copilot viens no veidiem, kā mēs izmantojam klasifikatorus, ir palīdzēt noteikt potenciāli kaitīgu saturu, ko iesniedz lietotāji vai ko ģenerē sistēma, lai mazinātu šī satura ģenerēšanu un sistēmas ļaunprātīgu izmantošanu vai ļaunprātīgu izmantošanu.
Zemējums Noteiktās sarunās, kurās lietotāji meklē informāciju, Copilot pamatā ir tīmekļa meklēšanas rezultāti. Tas nozīmē, ka Copilot centrē savu atbildi uz augsta ranga saturu no tīmekļa un nodrošina hipersaites pēc ģenerētām teksta atbildēm vai sarunu transkripcijās balss režīmā.
Lielie valodu modeļi (LLM) Lielie valodu modeļi (LLM) šajā kontekstā ir AI modeļi, kas tiek apmācīti, izmantojot lielu teksta datu apjomu, lai paredzētu vārdus secībās. LLM var veikt dažādus uzdevumus, piemēram, teksta ģenerēšanu, apkopošanu, tulkošanu, klasifikāciju un citus.
Mazināšana Metode vai metožu kombinācija, kas paredzēta, lai samazinātu iespējamos riskus, kas var rasties, izmantojot AI līdzekļus programmā Copilot.
Multimodālie modeļi (MMM) Multimodālie modeļi (MMM) ir AI modeļi, kas ir apmācīti, izmantojot dažāda veida datus, piemēram, tekstu, attēlus vai audio. Šie modeļi var veikt dažādus uzdevumus, piemēram, rakstīt tekstu, aprakstīt attēlus, atpazīt runu un atrast informāciju dažādu tipu datos.
Uzvednes Ievades teksta, attēlu un/vai audio formātā, ko lietotājs nosūta Copilot, lai mijiedarbotos ar mākslīgā intelekta līdzekļiem programmā Copilot.
Sarkanā komanda Paņēmieni, ko izmanto eksperti, lai novērtētu sistēmas ierobežojumus un ievainojamību un pārbaudītu plānoto risku mazināšanas efektivitāti. Sarkanās komandas testēšana ietver testētājus, kas izmanto gan labdabīgas, gan pretinieciskas personas, lai identificētu iespējamos riskus, un atšķiras no sistemātiskas risku mērīšanas.
Atbildes Teksts, attēli vai audio, ko Copilot izvada, reaģējot uz uzvedni vai kā daļu no savstarpējās saziņas ar lietotāju. Sinonīmi jēdzienam "atbilde" ietver "pabeigšana", "paaudze" un "atbilde".
Mazie valodu modeļi (SLM) Mazie valodu modeļi (SLM) šajā kontekstā ir AI modeļi, kas ir apmācīti, izmantojot mazākus, fokusētākus datu apjomus salīdzinājumā ar lieliem valodu modeļiem. Neskatoties uz mazāko izmēru, SLM var izpildīt dažādus uzdevumus, piemēram, teksta ģenerēšanu, apkopošanu, tulkošanu un klasifikāciju. Lai gan tie var neatbilst plašajām LLM iespējām, SLM bieži vien ir resursefektīvāki un var būt ļoti efektīvi konkrētām, mērķtiecīgām lietojumprogrammām.
Sistēmas ziņojums Sistēmas ziņojums (dažreiz saukts par "metaprompt") ir programma, kas kalpo, lai vadītu sistēmas darbību. Sistēmas ziņojuma daļas palīdz saskaņot sistēmas darbību ar Microsoft mākslīgā intelekta principiem un lietotāju gaidām. Piemēram, sistēmas ziņojumā var būt ietverta tāda rindiņa kā "nesniedziet informāciju un neveidojiet saturu, kas var radīt fizisku, emocionālu vai finansiālu kaitējumu".
Iespējas
Sistēmas darbības
Ar Copilot mēs esam izstrādājuši novatorisku pieeju, lai sniegtu lietotājiem personalizētāku AI pieredzi, kas lietotājiem var palīdzēt izpildīt dažādus uzdevumus. Šī novatoriskā pieeja izmanto dažādas progresīvas tehnoloģijas, piemēram, valodu un multimodālus modeļus no Microsoft, OpenAI un citiem modeļu izstrādātājiem. Pirms publiskā laidiena mēs strādājām pie drošības paņēmienu ieviešanas Copilot pamatā esošajiem modeļiem, lai izstrādātu pielāgotu iespēju un uzvedības kopu, kas nodrošina uzlabotu Copilot pieredzi. Programmā Copilot lietotāji var nosūtīt uzvednes, izmantojot tekstu vai balsi dabiskā valodā. Atbildes lietotājiem tiek rādītas dažādos formātos, piemēram, tērzēšanas atbildes teksta formā (ar tradicionālām saitēm uz tīmekļa saturu, ja nepieciešams) un attēlos (ja uzvednē tika veikts attēla pieprasījums). Ja lietotāji sūta uzvednes dabiskās valodas balsī Copilot balss režīmā, viņi saņem audio atbildes.
Kad lietotājs ievada uzvedni programmā Copilot, uzvedne, sarunu vēsture un sistēmas ziņojums tiek nosūtīti, izmantojot vairākus ievades klasifikatorus, lai palīdzētu filtrēt kaitīgu vai nepiemērotu saturu. Tas ir ļoti svarīgs pirmais solis, lai palīdzētu uzlabot modeļa veiktspēju un mazinātu situācijas, kurās lietotāji var mēģināt parādīt modeli nedrošā veidā. Kad uzvedne iziet cauri ievades klasifikatoriem, tiek noteikts, vai pieprasījumam ir nepieciešami pamata dati no tīmekļa un kuram valodas modelim ir jāatbild uz pieprasījumu. Visi modeļi ģenerē atbildi, izmantojot lietotāja uzvedni un neseno sarunu vēsturi, lai kontekstualizētu pieprasījumu, sistēmas ziņojumu, lai atbildes saskaņotu ar Microsoft mākslīgā intelekta principiem un lietotāju gaidām, un, ja nepieciešams, atbildes ar meklēšanas rezultātiem saskaņotu ar pamata atbildēm esošā, augsta ranga saturā no tīmekļa.
Atbildes lietotājiem tiek parādītas dažādos formātos, piemēram, tērzēšanas atbildes teksta formā, tradicionālās saites uz tīmekļa saturu, attēli un audio atbildes. Ja atbildes tiek sniegtas teksta veidā un atbildes ir balstītas uz datiem no tīmekļa, izvade satur hipersaites, kas norādītas zem teksta, lai lietotāji varētu piekļūt tīmekļa vietnēm, kas tika izmantotas, lai pamatotu atbildi, un uzzināt vairāk par tēmu no turienes. Copilot var arī izpildīt kodu, lai veiktu sarežģītus aprēķinus un ģenerētu grafikus. Copilot var saglabāt konkrētus faktus, kurus lietotāji tam pieprasa atcerēties, ļaujot ģenerēt atbilstošākas atbildes un ieteikumus, pamatojoties uz šo kontekstu. Copilot var arī izdzēst saglabātos faktus, kad lietotāji lūdz tos skaidri aizmirst.
Copilot arī palīdz lietotājiem veidot jaunus stāstus, dzejoļus, dziesmu tekstus un attēlus. Kad Copilot nosaka lietotāja nolūku ģenerēt radošu saturu (piemēram, lietotāja uzvedni, kas sākas ar "uzraksti man ..."), sistēma vairumā gadījumu ģenerēs saturu, kas reaģē uz lietotāja uzvedni. Līdzīgi, kad Copilot nosaka lietotāja nodomu ģenerēt attēlu (piemēram, lietotāja uzvedni, kas sākas ar "uzzīmē mani ..."), Copilot vairumā gadījumu ģenerēs attēlu, kas reaģē uz lietotāja uzvedni. Kad Copilot nosaka lietotāja nodomu modificēt augšupielādētu attēlu (piemēram, lietotāja uzvedni, kas sākas ar "pievienot ..."), Copilot vairumā gadījumu modificēs attēlu, reaģējot uz lietotāja uzvedni. Copilot var nereaģēt ar radošu saturu, ja lietotāja uzvednē ir noteikti termini, kas var radīt problemātisku saturu.
Paredzētā drošības darbība
Mūsu Copilot mērķis ir būt noderīgam lietotājiem, un mēs ieviešam drošības pasākumus, lai palīdzētu samazināt kaitīga satura ģenerēšanas iespējamību un palielinātu drošas un pozitīvas lietotāju pieredzes iespējamību. Lai gan mēs esam veikuši pasākumus, lai mazinātu riskus, ģeneratīvā mākslīgā intelekta modeļi, piemēram, Copilot pamatā, ir varbūtības un var pieļaut kļūdas, kas nozīmē, ka mazināšanai dažkārt var neizdoties bloķēt kaitīgas lietotāju uzvednes vai mākslīgā intelekta ģenerētas atbildes. Ja Copilot lietošanas laikā saskaraties ar kaitīgu vai negaidītu saturu, informējiet mūs, sniedzot atsauksmes, lai mēs varētu turpināt uzlabot lietošanas pieredzi.
Lietošanas gadījumi
Paredzētie izmantošanas veidi
Copilot ir veidots, lai palīdzētu lietotājiem atbildēt uz jautājumiem, ģenerēt saturu un izpildīt uzdevumus, izmantojot tekstu, attēlus un balsi dabiskā valodā. Lai sniegtu noderīgas un atbilstošas atbildes, Copilot var izgūt, analizēt un apkopot informāciju no pieejamiem avotiem. Daži papildu līdzekļi var būt pieejami tikai lietotājiem ar piemērotiem abonementiem. Biežāk izmantotie lietošanas gadījumi ir šādi:
Chat, izmantojot tekstu, un iegūstiet tīmekļa kopsavilkumus. Lietotāji var tērzēt ar Copilot, izmantojot īsziņu, un uzdot papildu jautājumus, lai atrastu jaunu informāciju un saņemtu atbalstu par visdažādākajām tēmām. Copilot var veikt meklēšanu tīmeklī un izmantot populārākos tīmekļa meklēšanas rezultātus, lai ģenerētu informācijas kopsavilkumu, ko prezentēt lietotājiem. Šajos kopsavilkumos ir iekļautas atsauces uz tīmekļa lapām, lai palīdzētu lietotājiem pārskatīt meklēšanas rezultātu avotus, kas palīdzēja iegūt Copilot kopsavilkumu. Lietotāji, noklikšķinot uz šīm saitēm, var apmeklēt tīmekļa vietnes avotu un uzzināt vairāk vai novērtēt vietnes uzticamību.
Saņemiet palīdzību jaunu ideju ģenerēšanā. Ikreiz, kad lietotāji mijiedarbojas ar Copilot pieredzi, viņi redzēs kartīšu kopu, uz kuras var noklikšķināt, lai sāktu tērzēt ar Copilot par noderīgām un interesantām tēmām. Ja lietotāji ir mijiedarbojušies ar citiem Microsoft patērētāju pakalpojumiem, kartes tiks personalizētas saskaņā ar mūsu konfidencialitātes politiku. Laika gaitā kartītes pakalpojumā Copilot var tikt personalizētas, pamatojoties uz lietotāja tērzēšanas vēsturi. Lietotāji jebkurā laikā var atteikties no personalizēšanas iestatījumu izvēlnē.
Ģenerējiet radošu saturu. Tērzējot ar Copilot, lietotāji var izveidot jaunus dzejoļus, jokus, stāstus, attēlus un citu saturu, izmantojot Copilot. Ja nepieciešams, Copilot var arī rediģēt lietotāju augšupielādētos attēlus.
Palīdziet veikt izpēti. Copilot var veikt izpētes uzdevumus, parādot padziļinātus resursus, piedāvājot detalizētu tēmu sadalījumu un saites uz avotiem, lai palīdzētu lietotājiem ne tikai ātri atbildēt uz sarežģītākiem vaicājumiem. Copilot var proaktīvi ģenerēt personalizētus izpētes ieteikumus lietotājiem, pamatojoties uz tādiem jautājumiem kā iepriekšējo pētījumu vaicājumi un Copilot atmiņa. Lietotāji var atteikties no personalizēšanas vai paziņojumiem jebkurā laikā sadaļā Iestatījumi.
Atklājiet, salīdziniet un iegādājieties produktus. Copilot iepirkšanās var palīdzēt atrast produktus, salīdzināt iespējas un racionalizēt pirkumus. Izņemot gadījumus, kad tas tiek identificēts, Microsoft nesaņem komisijas maksu vai citu kompensāciju par produktu ieteikumiem vai meklēšanas rezultātiem, kas sniegti programmā Copilot.
Mācieties gudrāk, izmantojot Copilot Learn. Copilot Learn var izveidot viktorīnas un vingrinājumu testus, ģenerēt kartītes, un tas ir paredzēts, lai palīdzētu uzlabot atbildes ar attēliem, lai sarežģītus jēdzienus padarītu vieglāk saprotamus.
Saņemiet palīdzību ar ikdienas uzdevumiem. Copilot Cowork veic uzdevumus jūsu vārdā. Jūs dabiskā valodā aprakstāt, kas jums nepieciešams, un Cowork veic darbu, veidojot dokumentus, izstrādājot un nosūtot e-pasta ziņojumus, plānojot sapulces un pārvaldot failus. Sensitīvas darbības pirms to veikšanas ir jāpārskata un jāapstiprina.
Analizējiet un rediģējiet failus. Failu augšupielāde programmā Copilot ļauj lietotājiem augšupielādēt attēlus vai noteiktus atbalstītos failu tipus tieši tērzēšanas sesijās. Pēc augšupielādes Copilot var analizēt un izvilkt informāciju no šiem failiem, lai sniegtu atbilstošus ieskatus, atbildētu uz jautājumiem vai palīdzētu izpildīt konkrētus uzdevumus. Copilot ar jūsu atļauju var arī atsaukties uz failiem jūsu savienotās tiešsaistes krātuves nodrošinātājos, piemēram, OneDrive un Google Drive.
Redziet un saprotiet. Izmantojiet programmu Vision, lai analizētu attēlus, gūtu ieskatu no fotoattēliem un meklētu vizuāli. Copilot pārskata augšupielādētos attēlus, lai palīdzētu jums saprast, ko redzat.
Izmantojiet savu balsi. Runājiet dabiski ar Copilot, izmantojot balss tērzēšanu. Meklējiet idejas, rakstiet saturu vai saņemiet ātras atbildes pilnīgi brīvroku režīmā.
Izveido savienojumu ar citām programmām. Ņemiet līdzi izvēlētās programmas un informāciju, piemēram, e-pastu, kalendārus, failus, kontaktpersonas un citus pakalpojumus.
Apsvērumi, izvēloties citus lietošanas gadījumus
Mēs aicinām lietotājus pārskatīt visu saturu, pirms pieņemt lēmumus vai rīkoties, pamatojoties uz Copilot atbildēm, jo mākslīgais intelekts var pieļaut kļūdas un var nebūt piemērots noteiktiem lietošanas gadījumiem. Turklāt ir noteikti scenāriji, no kuriem ieteicams izvairīties vai kas ir pretrunā mūsu lietošanas noteikumiem. Piemēram, Microsoft neļauj izmantot Copilot saistībā ar neatļautām darbībām vai jebkādiem mērķiem, kas paredzēti nelikumīgu darbību veicināšanai.
Ierobežojumi
Valoda, attēls un audio modeļi, kas ir Copilot pieredzes pamatā, var ietvert apmācības datus, kas var atspoguļot sabiedrības aizspriedumus, kas savukārt var potenciāli likt Copilot rīkoties negodīgi, neuzticami vai aizvainojoši. Neskatoties uz mūsu intensīvo modeļu apmācību un drošības precizēšanu, kā arī atbildīgu AI vadīklu un drošības sistēmu ieviešanu, ko mēs izvietojam apmācības datos, lietotāju uzvednēs un modeļu izvadēs, AI vadītie pakalpojumi ir kļūdaini un varbūtīgi. Tāpēc ir grūti visaptveroši bloķēt visu nepiemēroto saturu, radot risku, ka potenciāli aizspriedumi, stereotipi, nepamatotība vai cita veida kaitējums, kas var parādīties mākslīgā intelekta ģenerētajā saturā. Šeit ir uzskaitīti daži no veidiem, kā šie ierobežojumi var izpausties Copilot lietošanas pieredzē.
Stereotipi: Copilot pieredze potenciāli varētu pastiprināt stereotipus. Piemēram, tulkojot "He is a nurse" un "She is a doctor" bezdzimuma valodā, piemēram, turku valodā, un pēc tam atpakaļ angļu valodā, Copilot var netīši radīt stereotipiskus (un nepareizus) rezultātus "She is a nurse" un "He is a doctor". Vēl viens piemērs ir, ģenerējot attēlu, pamatojoties uz uzvedni "Bērni bez tēva", sistēma varētu ģenerēt tikai vienas rases vai etniskās piederības bērnu attēlus, pastiprinot kaitīgos stereotipus, kas varētu pastāvēt publiski pieejamos attēlos, ko izmanto pamatā esošo modeļu apmācībai. Copilot var arī nostiprināt stereotipus, pamatojoties uz lietotāja ievades attēla saturu, paļaujoties uz attēla komponentiem un izdarot pieņēmumus, kas var nebūt patiesi. Mēs esam ieviesuši riska mazinājumus, lai samazinātu risku, ka saturs satur aizvainojošus stereotipus, tostarp ievades un izvades klasifikatorus, precīzi pielāgotus modeļus un sistēmas ziņojumus.
Pārmērīga un nepietiekama pārstāvība: Copilot savās atbildēs var potenciāli pārāk vai nepietiekami pārstāvēt cilvēku grupas vai pat nepārstāvēt tās vispār. Piemēram, ja teksta uzvednes, kas satur vārdu "gejs", tiek noteiktas kā potenciāli kaitīgas vai aizvainojošas, tas var novest pie tā, ka likumīgās paaudzes par LGBTQIA+ kopienu ir nepietiekami pārstāvētas. Papildus ievades un izvades klasifikatoru, precīzi pielāgotu modeļu, kā arī sistēmas ziņojumu iekļaušanai mēs izmantojam uzvedņu bagātināšanu programmā Designer kā vienu no vairākiem mazināšanas pasākumiem, lai samazinātu risku, ka saturs atspoguļo pārāk vai nepietiekami pārstāv cilvēku grupas.
Nepiemērots vai aizvainojošs saturs: Copilot pieredze var radīt cita veida nepiemērotu vai aizvainojošu saturu. Piemēram, iespēja ģenerēt saturu vienā modalitātē (piemēram, audio), kas nav piemērots tās uzvednes kontekstā vai salīdzinājumā ar to pašu izvadi citā modalitātē (piemēram, teksts). Citi piemēri ir mākslīgā intelekta ģenerēti attēli, kas potenciāli satur kaitīgus artefaktus, piemēram, naida simbolus, saturu, kas attiecas uz apstrīdētām, pretrunīgām vai ideoloģiski polarizējošām tēmām, un seksuāli uzlādētu saturu, kas izvairās no seksuāla rakstura satura filtriem. Mēs esam ieviesuši riska mazināšanos, lai samazinātu risku, ka paaudzes satur nepiemērotu vai aizvainojošu saturu, piemēram, ievades un izvades klasifikatorus, precīzi pielāgotus modeļus un sistēmas ziņojumus.
Informācijas ticamība: Lai gan Copilot mērķis ir nodrošināt uzticamus avotus, kur tiek meklēta pamatota informācija, mākslīgais intelekts var pieļaut kļūdas. Tas potenciāli var radīt bezjēdzīgu saturu vai safabricēt saturu, kas varētu izklausīties saprātīgi, bet ir faktiski neprecīzs. Pat tad, ja atbildes tiek ņemtas no augstas uzticamības tīmekļa datiem, atbildes var sagrozīt šo saturu veidā, kas var nebūt pilnīgi precīzs, atjaunināts vai uzticams. Izmantojot lietotāja interfeisu un līdzīgā dokumentācijā, mēs atgādinām lietotājiem, ka Copilot var pieļaut kļūdas. Mēs arī turpinām izglītot lietotājus par mākslīgā intelekta ierobežojumiem, piemēram, mudinām viņus vēlreiz pārbaudīt faktus pirms lēmumu pieņemšanas vai rīkoties, pamatojoties uz Copilot atbildēm. Kad lietotāji mijiedarbojas ar Copilot, izmantojot tekstu, tas mēģina izmantot augstas kvalitātes tīmekļa datus, lai samazinātu risku, ka paaudzes paliek nepamatotas.
Daudzvalodu veiktspēja: Dažādās valodās veiktspēja var atšķirties, un vislabākie rezultāti ir angļu valodā Copilot izlaišanas laikā. Veiktspējas uzlabošana dažādās valodās ir galvenā investīciju joma, un jaunākie modeļi ir uzlabojuši veiktspēju.
Audio ierobežojumi Audio modeļiem var būt citi ierobežojumi. Vispārīgi runājot, runas ievades akustiskā kvalitāte, ar runu nesaistīts troksnis, vārdu krājums, akcenti un ievietošanas kļūdas var ietekmēt arī to, vai Copilot apmierinoši apstrādā un reaģē uz lietotāja audio ievadi.
AI neaizstāj profesionālu palīdzību: AI var būt noderīgs rīks problēmu risināšanā, un to var uzskatīt par empātisku, taču tas neaizstāj profesionālas palīdzības meklēšanu. Ja jums ir depresija, domas par pašnāvību vai paškaitējumu vai citas garīgās veselības problēmas, lūdzu, meklējiet profesionālu palīdzību. Copilot var izmantot arī, lai atrastu krīzes vai garīgās veselības resursus jūsu tuvumā.
Atkarība no interneta savienojamības: Copilot darbībai ir nepieciešams savienojums ar internetu. Savienojuma pārtraukumi var ietekmēt pakalpojuma pieejamību un veiktspēju.
Esiet piesardzīgs, veidojot vai lietojot aģentus. Lietotājiem ir jābūt piesardzīgiem, izveidojot savus aģentus vai izmantojot citu nodrošinātus aģentus, īpaši, ja aģentu veiktajām darbībām var būt būtiskas sekas, tās var būt neatgriezeniskas vai var kopīgot sensitīvu personas informāciju (piemēram, paroles, pieteikšanās datus vai personas datus). Aģenti var nedarboties labi visos lietošanas gadījumos un var pieļaut kļūdas, nepareizi interpretēt norādījumus vai tikt maldinātiem ar ļaunprātīgām slēptām instrukcijām, tāpēc lietotājiem ir rūpīgi jāuzrauga rezultāti un jāpārskata svarīga informācija. Lietotājiem var būt ierobežota piekļuve noteiktiem lietošanas gadījumiem, piemēram, kaitīgu vietņu apmeklējumiem vai nepiemērota satura izveidošanai. Veidojot autonomu aģentu mākslīgo intelektu, ir jāievēro arī papildu piesardzības pasākumi, kā sīkāk aprakstīts Microsoft pakalpojumu līguma sadaļā Uzvedības kodekss.
Sistēmas veiktspēja
Daudzās AI sistēmās veiktspēja bieži tiek definēta saistībā ar precizitāti (t. i., cik bieži AI sistēma piedāvā pareizu prognozi vai izvadi). Izmantojot Copilot, mēs koncentrējamies uz Copilot kā uz mākslīgā intelekta palīgu, kas atspoguļo lietotāja preferences. Tāpēc divi dažādi lietotāji var aplūkot vienu un to pašu rezultātu un atšķirīgi viedokļi par to, cik tas ir noderīgs vai atbilstošs viņu unikālajai situācijai un gaidām, kas nozīmē, ka šo sistēmu veiktspēja ir jānosaka elastīgāk. Veiktspēja kopumā nozīmē to, ka lietojumprogramma darbojas, kā to paredz lietotāji.
Paraugprakse sistēmas veiktspējas uzlabošanai
Mijiedarbojieties ar interfeisu, izmantojot dabisku, sarunvalodas valodu. Lai iegūtu labākus rezultātus, ir svarīgi mijiedarboties ar Copilot lietotājam ērtā veidā. Līdzīgi kā tādu metožu ieviešana, kas palīdz cilvēkiem efektīvi sazināties ikdienā, arī mijiedarbība ar Copilot kā mākslīgā intelekta palīgu, izmantojot lietotājam pazīstamu tekstu vai runu, var palīdzēt sasniegt labākus rezultātus.
Lietotāju pieredze un apgūšana. Lai efektīvi izmantotu Copilot, lietotājiem ir jāizprot tā iespējas un ierobežojumi. Var būt mācīšanās līkne, un lietotāji var vēlēties atsaukties uz dažādiem Copilot resursiem (piemēram, šo dokumentu un Microsoft Copilot palīdzēt & mācīties), lai efektīvi mijiedarbotos ar pakalpojumu un gūtu labumu no tā.
Risku kartēšana, novērtēšana un pārvaldība
Tāpat kā citas transformācijas tehnoloģijas, mākslīgā intelekta priekšrocību izmantošana nav bez riska, un Microsoft atbildīgas mākslīgā intelekta programmas pamatdaļa ir paredzēta, lai identificētu un kartētu iespējamos riskus, mērītu šos riskus un pārvaldītu tos, veidojot mazināšanas pasākumus un laika gaitā nepārtraukti uzlabojot Copilot. Tālāk esošajās sadaļās ir aprakstīta mūsu iteratīvā pieeja, lai kartētu, novērtētu un pārvaldītu iespējamos riskus.
Karte: Rūpīga plānošana un pirmsizvietošanas pretinieku testēšana, piemēram, sarkanā komanda, palīdz mums kartēt iespējamos riskus. Pamata modeļi, kas nodrošina Copilot pieredzi, tika testēti sarkanajā komandā, ko veica testētāji, kuri pārstāv daudzdisciplināras perspektīvas attiecīgajās tēmu jomās. Šī testēšana tika izstrādāta, lai novērtētu jaunākās tehnoloģijas darbību gan ar papildu aizsardzības pasākumiem, gan bez tiem. Šo vingrinājumu mērķis modeļa līmenī ir radīt kaitīgas reakcijas, atklāt potenciālās ļaunprātīgas izmantošanas iespējas un identificēt spējas un ierobežojumus.
Programmu līmeņa testēšana pirms laidiena. Pirms Copilot padarīšanas publiski pieejamu, mēs veicām programmu līmeņa sarkano komandu, lai noteiktu trūkumus un ievainojamības. Šī testēšana palīdzēja mums saprast, kā plašs lietotāju loks var izmantot Copilot, un sniedza informāciju par uzlabojumiem mūsu risku mazināšanas jomā.
Notiek testēšana. Atjauninot Copilot, mēs arī testējam jaunus līdzekļus un tehniskos atjauninājumus, ja nepieciešams. Šis nepārtrauktais process palīdz mums identificēt jaunus riskus un laika gaitā uzlabot risku mazināšanas pasākumus.
Pasākums: Iepriekš aprakstītā sarkanā komandas izmantošana ne tikai novērtēja Copilot, salīdzinot ar esošajiem drošības novērtējumiem, bet arī palīdzēja mums izstrādāt novērtējumus un atbildīgas mākslīgā intelekta metrikas, kas atbilst identificētajiem iespējamajiem riskiem, piemēram, uzlaušanas ierobežojumiem, kaitīgam saturam un nepamatotam saturam.
Mēs apkopojām sarunu datus, kas paredzēti šiem riskiem, izmantojot cilvēku dalībnieku un automatizētas sarunu ģenerēšanas konveijeru. Pēc tam katru novērtējumu vērtē vai nu apmācītu cilvēku anotāciju kopums, vai automatizēts anotāciju konveijers. Ikreiz, veicot izmaiņas produktā, tiek atjaunināti esošie vai tiek piedāvāti jauni risku mazināšanas pasākumi, kā arī tiek atjaunināti novērtēšanas konveijeri, lai novērtētu gan produkta veiktspēju, gan atbildīgas mākslīgā intelekta izmantošanas rādītājus. Šie automatizētās novērtēšanas konteksta konveijeri ir apkopoto sarunu ar cilvēku vērtētājiem un sintētisko sarunu kombinācija, kas ģenerēta ar LLM, kas tiek mudinātas pārbaudīt politikas pretinieku veidā. Katrs no šiem drošuma novērtējumiem tiek automātiski novērtēts ar LLM. Jaunizstrādātajos vērtējumos katru novērtējumu sākotnēji vērtē marķētāji cilvēki, kuri lasa teksta saturu vai klausās audio izvadi, un pēc tam to pārvērš par automātisku LLM novērtējumu.
Mūsu modeļu iecerētā darbība apvienojumā ar mūsu novērtēšanas konveijeriem — gan cilvēku, gan automatizētiem — ļauj mums ātri novērtēt iespējamā kaitējuma mērogu. Laika gaitā nosakot jaunas problēmas, mēs turpinām paplašināt mērījumu kopas, lai novērtētu papildu riskus.
Pārvaldīt: Tiklīdz mēs identificējām iespējamos riskus un ļaunprātīgu izmantošanu, izmantojot sarkano komandu izmantošanu un novērtējām tos, izmantojot iepriekš aprakstītās pieejas, mēs izstrādājām papildu mazināšanas pasākumus, kas ir specifiski Copilot pieredzei. Tālāk ir aprakstīti daži no šiem mazināšanas risinājumiem. Mēs turpināsim pārraudzīt Copilot pieredzi, lai uzlabotu produkta veiktspēju un mūsu riska mazināšanas pieeju.
Pakāpeniska laidiena plāni un nepārtraukta novērtēšana. Mēs esam apņēmušies nepārtraukti apgūt un uzlabot mūsu atbildīgas mākslīgā intelekta izmantošanas pieeju, jo mūsu tehnoloģijas un lietotāju uzvedība attīstās. Mūsu inkrementālā izlaišanas stratēģija ir bijis drošs pamats mūsu tehnoloģiju pārnesei no laboratorijas uz pasauli, un mēs esam apņēmušies īstenot apzinātu un pārdomātu procesu, lai nodrošinātu Copilot lietošanas priekšrocības. Mēs regulāri veicam Copilot izmaiņas, lai uzlabotu produkta veiktspēju un esošos risku mazināšanas pasākumus, kā arī ieviestu jaunus risku mazināšanas pasākumus, reaģējot uz apgūtajām mācībām.
Klasifikatoru un sistēmas ziņojuma izmantošana, lai mazinātu iespējamos riskus vai ļaunprātīgu izmantošanu. Reaģējot uz lietotāja uzvednēm, LLM var radīt problemātisku saturu. Mēs apspriedām satura tipus, kurus cenšamies ierobežot iepriekš sadaļā Sistēmas darbība un ierobežojumi. Klasifikatori un sistēmas ziņojums ir divi mazināšanas piemēri, kas ir ieviesti programmā Copilot, lai palīdzētu samazināt šāda veida satura risku. Klasifikatori klasificē tekstu, lai atzīmētu ar karodziņu potenciāli kaitīgu saturu lietotāju uzvednēs vai ģenerētās atbildēs. Mēs izmantojam arī pašreizējo paraugpraksi, lai izmantotu sistēmas ziņojumu, kas ietver norādījumu sniegšanu modelim, lai saskaņotu tā darbību ar Microsoft mākslīgā intelekta principiem un lietotāju gaidām.
Attēlu augšupielāde līdzeklī Copilot redzējums. Kad lietotājs pirmoreiz augšupielādēs attēlu līdzeklī Copilot redzējums, viņam tiks sniegta informācija par to, kā Copilot apstrādā viņa attēlu. Ja lietotājs neturpina augšupielādi, attēls netiek nosūtīts Copilot. Visi attēli tiek izdzēsti 30 dienu laikā pēc sarunas beigām.
Mākslīgā intelekta atklāšana. Copilot ir arī paredzēts, lai informētu cilvēkus par to, ka viņi mijiedarbojas ar mākslīgā intelekta sistēmu. Kad lietotāji mijiedarbojas ar Copilot, mēs piedāvājam dažādus saskares punktus, kas paredzēti, lai palīdzētu viņiem izprast sistēmas iespējas, atklāt viņiem, ka Copilot darbina mākslīgais intelekts, un informēt par ierobežojumiem. Pieredze ir veidota šādi, lai palīdzētu lietotājiem izmantot visas Copilot iespējas un samazinātu pārmērīgas paļaušanās risku. Informācijas atklāšana arī palīdz lietotājiem labāk izprast Copilot un viņu mijiedarbību ar to.
Plašsaziņas līdzekļu izcelsme. Visiem attēliem, kas izveidoti, izmantojot Copilot, esam ieviesuši satura akreditācijas datus, kuru izcelsme ir balstīta uz C2PA standartu, lai palīdzētu lietotājiem noteikt, vai attēli ir rediģēti vai ģenerēti, izmantojot mākslīgo intelektu. Izcelsmes metadatus var skatīt satura akreditācijas datu vietnē.
Automatizēta satura noteikšana. Kad lietotāji augšupielādē attēlus kā daļu no tērzēšanas uzvednes, Copilot izvieto rīkus, lai noteiktu bērnu seksuālas izmantošanas un vardarbības attēlus (CSEAI). Microsoft ziņo par visu acīmredzamo CSEAI Nacionālajam pazudušo un izmantoto bērnu centram (NCMEC), kā to pieprasa ASV tiesību akti. Kad lietotāji augšupielādē failus, lai tos analizētu vai apstrādātu, Copilot izmanto automatizētu skenēšanu, lai noteiktu saturu, kas var izraisīt riskus vai ļaunprātīgu izmantošanu, piemēram, tekstu, kas varētu būt saistīts ar neatļautām darbībām vai ļaunprātīgu kodu.
Lietošanas nosacījumi un Uzvedības kodekss. Lietotājiem ir jāievēro Copilot piemērojamie lietošanas nosacījumi un uzvedības kodekss, Microsoft pakalpojumu līgums un Microsoft paziņojums par konfidencialitāti, kuros cita starpā ir sniegta informācija par atļauto un nepieļaujamo lietojumu un noteikumu pārkāpšanas sekām. Lietošanas nosacījumi arī nodrošina papildu informāciju lietotājiem un kalpo kā atsauce, lai lietotāji varētu uzzināt par Copilot. Lietotājiem, kas izdara nopietnus vai atkārtotus pārkāpumus, var tikt īslaicīgi vai neatgriezeniski apturēta pakalpojuma izmantošana.
Atsauksmes, pārraudzība un novērošana. Copilot lietošanas iespējas ietver rīkus, kas ļauj lietotājiem iesniegt atsauksmes, kuras pārskata Microsoft darba komandas. Turklāt mūsu pieeja risku kartēšanai, novērtēšanai un pārvaldībai turpina attīstīties, jo mēs uzzinām arvien vairāk, un mēs jau veicam uzlabojumus, pamatojoties uz atsauksmēm, kas apkopotas priekšskatījuma periodos.
Pašnāvības un Self-Harm risku noteikšana un reaģēšana uz tiem. Copilot izmanto mašīnmācīšanās klasifikatorus, kas apmācīti atpazīt valodas modeļus, kas var liecināt par pašnāvību vai paškaitējuma nolūku no lietotāja. Kad tiek konstatēts šāds saturs, sistēma pārtrauc sarunu un tā vietā nodrošina krīzes atbalsta resursus (piemēram, pašnāvību un krīžu glābšanas līniju pa tālruni 988 Amerikas Savienotajās Valstīs), mudinot lietotājus meklēt profesionālu palīdzību. Copilot nesniedz konsultācijas; Tā loma ir tikai atklāšana un nosūtīšana, lai nodrošinātu lietotāju drošību.
Paziņojums par paplašinātu lietojumu. Copilot var atgādināt lietotājiem paņemt pārtraukumu, ja viņi ilgstoši ir iesaistījušies nepārtrauktā sarunā. Lietotāji tiek arī regulāri informēti, ka mākslīgais intelekts nav cilvēks un var pieļaut kļūdas.