Átláthatósági megjegyzés a Microsoft Copilot számára (magánszemélyeknek)

2026. augusztus 18-án

Mi az átlátszósági megjegyzés?

Az AI-rendszer nemcsak a technológiát foglalja magában, hanem azokat az embereket is, akik használni fogják, azokat az embereket, akiket érint, valamint azt a környezetet is, amelyben üzembe helyezik. A Microsoft átláthatósági jegyzeteinek célja, hogy segítsen megérteni a Copilot mögött meghúzódó AI-technológia működését, a rendszer teljesítményét és viselkedését befolyásoló döntéseinket, valamint a teljes rendszer átgondolásának fontosságát, hogy a Copilot felhasználói átvehessék az irányítást saját élményeik felett, és megérthessék a biztonságos termék nyújtásához tett lépéseinket.

A Microsoft átláthatósági megjegyzései a Microsoft szélesebb körű erőfeszítésének részét képezik, hogy az AI-alapelveket a gyakorlatban is átültessük. További információ: Microsoft AI-alapelvek.

A Microsoft Copilot alapjai

Bevezetés

A Microsoft Copilot segítségével egy helyen juthat el az ötlettől a kész munkáig. A Copilot integrálva van a Word, az Excel, a PowerPoint, az Outlook, a Teams és egyebekbe, így a használt fájlok és információk egy felületen érhetők el. A Copilot segítségével letisztult dokumentumokat, bemutatókat és táblázatokat hozhat létre, e-mail-piszkozatokat készíthet, megszervezheti a napját, és az elvégzett munkájához kapcsolódó válaszokat kaphat. A Cowork segítségével a Copilot nagyobb, többlépéses feladatokban is segíthet, és elvégzett teendőket is kézbesíthet. Különböző típusú munkákhoz vezető AI-modellek közül is választhat. Az egyes szolgáltatások előfizetésenként változnak.

A Microsoftnál komolyan vesszük a felelős mesterséges intelligencia iránti elkötelezettségünket. A Copilotot a Microsoft AI-alapelveivel, a Microsoft Felelős MI-szabványával összhangban, valamint a vállalat felelős AI-szakértőivel együttműködve fejlesztettük ki, beleértve a Microsoft Felelős AI-irodáját, mérnöki csapatainkat, a Microsoft Researchet és az Aethert. További információért lásd: Felelős AI a Microsoftnál.

Ebben a dokumentumban ismertetjük a Copilot felelősen alkalmazott mesterséges intelligenciájára vonatkozó megközelítésünket. A megjelenést megelőzően a Microsoft legkorszerűbb módszereit alkalmaztuk a lehetséges kockázatok és a rendszerrel való visszaélés feltérképezésére, mérésére és kezelésére, valamint a rendszer felhasználói számára nyújtott előnyök biztosítására. A Copilot továbbfejlesztése során folyamatosan tanultunk és tökéletesítettük a felelős AI-ra vonatkozó erőfeszítéseinket is. Ez a dokumentum rendszeresen frissül, hogy kommunikálja folyamatosan fejlődő folyamatainkat és módszereinket.

Fő fogalmak

Osztályozók Gépi tanulási modellek, amelyek segítenek az adatok címkézett osztályokba vagy információkategóriákba rendezésében. A Copilotban az osztályozók használatának egyik módja a felhasználók által beküldött vagy a rendszer által generált, potenciálisan káros tartalmak észlelése, hogy mérsékeljük a tartalom keletkezését, valamint a rendszerrel való visszaélést vagy visszaélést.

Földelés Bizonyos beszélgetések esetében, ahol a felhasználók információt keresnek, a Copilot a webes keresési eredményekre épül. Ez azt jelenti, hogy a Copilot a válaszát a webről származó magas rangú tartalmakra összpontosítja, és hiperhivatkozásos idézeteket biztosít a generált szöveges válaszokat követően vagy a beszélgetések átirataiban hang módban.

Nagy nyelvi modellek (LLM-ek) Ebben a kontextusban a nagy nyelvi modellek (LLM-ek) olyan AI-modellek, amelyek nagy mennyiségű szöveges adatra vannak betanítva a szavak egymás utáni előrejelzésére. Az LLM-ek számos feladatot képesek elvégezni, például szöveggenerálást, összegzést, fordítást, osztályozást stb.

Kockázatcsökkentés A Copilot AI-funkcióinak használatából eredő lehetséges kockázatok csökkentésére tervezett módszer vagy módszerek kombinációja.

Multimodális modellek (MMM-ek) A multimodális modellek (MMM-ek) olyan AI-modellek, amelyeket különböző típusú adatokra, például szövegre, képekre vagy hangra tanítanak be. Ezek a modellek számos feladatot el tudnak látni, például szöveg írását, képek leírását, beszédfelismerést és információkeresést különböző típusú adatokban.

Parancsok Bemeneti adatok szöveg, képek és/vagy hang formájában, amelyeket a felhasználó elküld a Copilotnak a Copilot AI-funkcióinak használatához.

Piros csapat A szakértők által a rendszer korlátainak és sebezhetőségeinek felmérésére, valamint a tervezett kockázatcsökkentések hatékonyságának tesztelésére használt technikák. A vörös csapat tesztelése magában foglalja a tesztelők jóindulatú és ellenséges személyiségeket is a lehetséges kockázatok azonosítása érdekében, és különböznek a kockázatok szisztematikus mérésétől.

Válaszok Szöveg, képek vagy hangok, amelyeket a Copilot egy parancsra válaszul vagy a felhasználóval folytatott értekezlet részeként ad ki. A "válasz" szinonimái közé tartozik a "befejezés", a "generáció" és a "válasz".

Kis nyelvi modellek (SLM-ek) Ebben a kontextusban a kis nyelvi modellek (SLM-ek) olyan AI-modellek, amelyeket kisebb, fókuszáltabb adatmennyiségekre tanítanak be a nagy nyelvi modellekhez képest. Kisebb méretük ellenére az SLM-ek számos feladatot képesek elvégezni, például szöveggenerálást, összegzést, fordítást és osztályozást. Bár előfordulhat, hogy nem felelnek meg az LLM-ek kiterjedt képességeinek, az SLM-ek gyakran erőforrás-hatékonyabbak, és rendkívül hatékonyak lehetnek specifikus, célzott alkalmazásokhoz.

Rendszerüzenet A rendszerüzenet (más néven "metaprompt") egy olyan program, amely a rendszer viselkedésének irányítását szolgálja. A rendszerüzenet egyes részei segítenek a rendszer viselkedését a Microsoft AI-alapelveihez és felhasználói elvárásokhoz igazítani. Például egy rendszerüzenet tartalmazhat egy olyan sort, mint például: "Ne adjon meg olyan információt, és ne hozzon létre olyan tartalmat, amely fizikai, érzelmi vagy pénzügyi károkat okozhat".

Funkciók

Rendszerviselkedés

A Copilot segítségével innovatív megközelítést fejlesztettünk ki, hogy személyre szabottabb AI-élményt biztosítsunk a felhasználóknak egy vonzó élmény érdekében, amely számos feladat elvégzésében segíthet a felhasználóknak. Ez az innovatív megközelítés számos fejlett technológiát használ, például a Microsoft, az OpenAI és más modellfejlesztők nyelvi és multimodális modelljeit. A nyilvános megjelenés előtt dolgoztunk a Copilot alapjául szolgáló modellek biztonsági technikáinak implementálásán, hogy továbbfejlesztett Copilot-élményt biztosító testreszabott képességeket és viselkedéseket fejlesszünk ki. A Copilotban a felhasználók természetes nyelvű szöveggel vagy hanggal küldhetnek utasításokat. A válaszok számos különböző formátumban jelennek meg a felhasználóknak, például csevegési válaszok szöveges formátumban (szükség esetén a webes tartalomra mutató hagyományos hivatkozásokkal) és képként (ha képre vonatkozó kérés is történt a kérés részeként). Ha a felhasználók természetes nyelvű hangutasításokat küldenek a Copilot Hang módjában, hangos válaszokat kapnak.

Amikor egy felhasználó parancsot ad meg a Copilotban, a parancsot, a beszélgetési előzményeket és a rendszerüzenetet a rendszer több beviteli osztályozón keresztül küldi el a káros vagy nem megfelelő tartalmak kiszűrése érdekében. Ez az első lépés kulcsfontosságú a modell teljesítményének javításához és azon helyzetek mérsékléséhez, amikor a felhasználók esetleg nem biztonságos módon próbálják rákérdezni a modellre. Miután a kérés áthaladt a bemeneti osztályozókon, a rendszer meghatározza, hogy a kérelem megalapozó adatokat igényel-e a webről, és hogy melyik nyelvi modellnek kell válaszolnia a kérésre. Minden modell választ hoz létre a felhasználó parancssora és a legutóbbi beszélgetési előzmények használatával a kérés kontextusba helyezéséhez, a rendszerüzenet használatával, hogy a válaszokat a Microsoft AI-alapelvekhez és felhasználói elvárásokhoz igazítsa, és adott esetben a válaszokat a keresési eredményekhez igazítsa, hogy a válaszokat a meglévő, magas rangú webes tartalomra alapozza.

A válaszok számos különböző formátumban jelennek meg a felhasználóknak, például szöveges csevegési válaszok, webes tartalmakra mutató hagyományos hivatkozások, képek és hangos válaszok. Ha a válaszokat szöveg formájában adják meg – és a válaszok webes adatokon alapulnak –, a kimenet a szöveg alatt felsorolt hiperhivatkozásos idézeteket tartalmaz, így a felhasználók hozzáférhetnek a válasz megalapozásához használt webhely(ek)hez, és onnan többet megtudhatnak a témáról. A Copilot kódot is futtathat összetett számítások elvégzéséhez és grafikonok létrehozásához. A Copilot képes tárolni azokat a tényeket, amelyeket a felhasználók arra kérnek, hogy emlékezzen, így az adott kontextus alapján relevánsabb válaszokat és javaslatokat hozhat létre. A Copilot a mentett tényeket is törölheti, ha a felhasználók kifejezetten kérik azok elfelejtését.

A Copilot segít a felhasználóknak új történetek, versek, dalszövegek és képek létrehozásában is. Amikor a Copilot azt észleli, hogy a felhasználó kreatív tartalmat szeretne létrehozni (például egy "írjon nekem egy..." kezdetű felhasználói parancsot), a rendszer a legtöbb esetben a felhasználó parancsára reagáló tartalmat hoz létre. Hasonlóképpen, ha a Copilot azt észleli, hogy a felhasználó képet akar generálni (például egy "rajzolj nekem egy..."rajzolj nekem" kezdetű felhasználói parancsot), a Copilot a legtöbb esetben a felhasználó parancsára reagáló képet hoz létre. Amikor a Copilot azt észleli, hogy a felhasználó módosítani akar egy feltöltött képet (például egy "..." hozzáadásával kezdődő felhasználói parancsot), a Copilot a legtöbb esetben módosítja a felhasználó parancsára reagáló képet. Előfordulhat, hogy a Copilot nem válaszol kreatív tartalommal, ha a felhasználói parancs bizonyos kifejezéseket tartalmaz, amelyek problémás tartalmat eredményezhetnek.

Szándékolt biztonsági viselkedés

Célunk az, hogy a Copilot hasznos legyen a felhasználók számára, és biztonsági intézkedéseket vezetünk be, amelyek segítenek csökkenteni a káros tartalmak létrehozásának valószínűségét, valamint növelni a biztonságos és pozitív felhasználói élmény valószínűségét. Bár lépéseket tettünk a kockázatok mérséklése érdekében, a Copilot mögött lévőhöz hasonló generatív AI-modellek valószínűségi alapúak és hibákat követhetnek el, ami azt jelenti, hogy a kockázatcsökkentés időnként nem blokkolja a káros felhasználói kéréseket vagy az AI által generált válaszokat. Ha káros vagy váratlan tartalommal találkozik a Copilot használata során, küldjön visszajelzést nekünk, hogy tovább javíthassuk a felhasználói élményt.

Használati esetek

Rendeltetésszerű használat

A Copilot célja, hogy segítse a felhasználókat a kérdések megválaszolásában, a tartalmak létrehozásában és a feladatok elvégzésében természetes nyelven, szöveg, képek és hang használatával. A hasznos és releváns válaszok nyújtása érdekében a Copilot lekérheti, elemezheti és összegezheti a rendelkezésre álló forrásokból származó információkat. Előfordulhat, hogy egyes speciális funkciók csak jogosult előfizetéssel rendelkező felhasználók számára érhetők el. Gyakori használati esetek például a következők:

• Chat szöveget használva és webalapú összefoglalókat kaphat. A felhasználók szöveges üzeneteken keresztül cseveghetnek a Copilottal, és további kérdéseket tehetnek fel, hogy új információkat találjanak, és számos témában támogatást kapjanak. A Copilot képes webes kereséseket végezni, és a legjobb webes keresési eredmények alapján összegzést hoz létre a felhasználóknak bemutatandó információkról. Ezek az összefoglalók weblapokra mutató idézeteket tartalmaznak, amelyek segítenek a felhasználóknak áttekinteni a keresési eredmények forrásait, amelyek segítettek a Copilot összegzésének megalapozásában. A felhasználók ezekre a hivatkozásokra kattintva meglátogathatják a webhely forrását, hogy többet tudjanak meg vagy értékeljék a webhely megbízhatóságát.

• Segítséget kaphat az új ötletek létrehozásához. Minden alkalommal, amikor a felhasználók interakcióba lépnek a Copilot-felülettel, látni fognak egy kártyákat, amelyekre kattintva hasznos és érdekes témákról kezdhetnek csevegni a Copilottal. Ha a felhasználók a Microsoft más fogyasztói szolgáltatásaival is kapcsolatba léptek, a kártyákat személyre szabjuk, az adatvédelmi szabályzatunkkal összhangban. Idővel a Copilot kártyái személyre szabhatók a felhasználó csevegési előzményei alapján. A felhasználók bármikor elutasíthatják a személyre szabást a beállításokban.

• Kreatív tartalom létrehozása. A Copilottal való csevegés során a felhasználók új verseket, vicceket, történeteket, képeket és egyéb tartalmakat hozhatnak létre a Copilot segítségével. A Copilot kérésre szerkesztheti a felhasználók által feltöltött képeket is.

• Segítségnyújtás a kutatásban. A Copilot kutatási feladatokat végezhet a mélyreható erőforrások feltárásával, a témakörök részletes lebontásával és a forrásokhoz való csatolással, hogy a felhasználók az összetettebb lekérdezések gyors válaszain túl segítsenek. A Copilot proaktív módon hozhat létre személyre szabott kutatási javaslatokat a felhasználók számára olyan dolgok alapján, mint a korábbi kutatási lekérdezések és a Copilot memóriája. A felhasználók bármikor leiratkozhatnak a személyre szabásról vagy az értesítésekről a beállításokban.

• Termékek felfedezése, összehasonlítása és vásárlása. A Copilot Shopping segíthet megtalálni a termékeket, összehasonlítani a lehetőségeket, és leegyszerűsítheti a vásárlásokat. Hacsak nincs megadva, a Microsoft nem kap jutalékot vagy egyéb kompenzációt a Copilotban nyújtott termékjavaslatokért vagy keresési eredményekért.

• Tanuljon intelligensebben a Copilot Learn segítségével. A Copilot Learn képes teszteket és gyakorló teszteket létrehozni, tanulókártyákat generálni, és úgy lett kialakítva, hogy segítse a válaszok képekkel történő javítását, hogy könnyebben érthetővé tegye az összetett fogalmakat.

• Segítséget kaphat a napi feladatokhoz. A Copilot Cowork feladatokat hajt végre az Ön nevében. Ön természetes nyelven írja le, hogy mire van szüksége, és a Cowork elvégzi a munkát: dokumentumokat hoz létre, e-maileket készít és küld, értekezleteket ütemez és kezeli a fájlokat. A bizalmas műveleteket előzetesen áttekintheti és jóváhagyhatja.

• Fájlok elemzése és szerkesztése. A fájlfeltöltés a Copilotban lehetővé teszi a felhasználók számára, hogy közvetlenül a csevegésükbe töltsenek fel képeket vagy bizonyos támogatott fájltípusokat. A feltöltés után a Copilot képes elemezni és kinyerni az információkat ezekből a fájlokból, hogy releváns betekintést nyújtson, kérdéseket válaszoljon meg, vagy segítsen adott feladatokban. A Copilot az Ön engedélyével hivatkozhat a csatlakoztatott online tárhelyszolgáltatók, például a OneDrive és a Google Drive fájljaira is.

• Lásd és értse meg. A Látás használatával elemezheti a képeket, elemzéseket nyerhet a fényképekből, és vizuális keresést végezhet. A Copilot áttekinti a feltöltött képeket, hogy segítsen megérteni, amit lát.

• Használja a hangját. Beszélgessen természetesen a Copilottal a hangalapú csevegés használatával. Ötletgyűjtés, tartalom írása vagy gyors válaszok lekérése – teljesen kézi beavatkozás nélkül.

• Más alkalmazásokhoz csatlakozik. Vigye be a kiválasztott alkalmazásokat és információkat, például az e-maileket, a naptárakat, a fájlokat, a névjegyeket és más szolgáltatásokat.

Más használati esetek kiválasztásakor megfontolandó szempontok

Javasoljuk a felhasználóknak, hogy tekintsék át az összes tartalmat, mielőtt döntéseket hoznának vagy a Copilot válaszai alapján járnának el, mivel az AI hibákat követhet el, és előfordulhat, hogy bizonyos használati esetekben nem megfelelő. Emellett vannak olyan forgatókönyvek, amelyeket javasolt elkerülni, vagy amelyek ellentétesek a Használati feltételekkel. A Microsoft például nem engedélyezi a Copilot használatát illegális tevékenységekkel kapcsolatban, vagy bármilyen olyan célra, amelynek célja illegális tevékenységek népszerűsítése.

Korlátozások

A Copilot-élmény alapjául szolgáló nyelvi, képi és hangmodellek olyan betanítási adatokat tartalmazhatnak, amelyek tükrözhetik a társadalmi elfogultságot, ami viszont potenciálisan azt eredményezheti, hogy a Copilot tisztességtelennek, megbízhatatlannak vagy sértőnek vélt módon viselkedjen. Az intenzív modellképzés és biztonsági finomhangolás, valamint a betanítási adatokra, felhasználói kérésekre és modellkimenetekre helyezett felelős AI-vezérlők és biztonsági rendszerek megvalósítása ellenére az AI-alapú szolgáltatások esendőek és valószínűségek. Ez kihívást jelent az összes nem megfelelő tartalom átfogó letiltását, ami potenciális torzítások, sztereotípiák, megalapozatlanság vagy más típusú károk kockázatához vezet, amelyek az AI által létrehozott tartalomban megjelenhetnek. Az alábbiakban felsorolunk néhány módszert, ahogyan ezek a korlátozások megnyilvánulhatnak a Copilot felületén.

• Sztereotípiák: A Copilot-élmény potenciálisan megerősítheti a sztereotípiákat. Amikor például a "Nővér" és a "Nő orvos" szavakat fordítja egy nemtelen nyelvre, például törökre, majd vissza angolra, a Copilot akaratlanul is a "Nővér ápolónő" és a "Nő orvos" sztereotip (és helytelen) eredményeket adhatja. Egy másik példa, amikor az "Apátlan gyermekek" parancs alapján generál képet, a rendszer csak egy fajból vagy etnikumból származó képeket generálhat a gyerekekről, megerősítve a káros sztereotípiákat, amelyek a mögöttes modellek betanításához használt nyilvánosan elérhető képeken létezhetnek. A Copilot a felhasználó bemeneti képének tartalma alapján is megerősítheti a sztereotípiákat azáltal, hogy a kép összetevőire támaszkodik, és olyan feltételezéseket tesz, amelyek esetleg nem igazak. A sértő sztereotípiákat tartalmazó tartalmak kockázatának csökkentésére léptettünk érvénybe, beleértve a bemeneti és kimeneti osztályozókat, a finomhangolt modelleket és a rendszerüzeneteket.

• Felül- és alulreprezentáltság: A Copilot potenciálisan túl- vagy alulreprezentálhatja az emberek csoportjait, vagy akár egyáltalán nem képviselheti őket a válaszaiban. Ha például a "meleg" szót tartalmazó szöveges üzeneteket potenciálisan károsnak vagy sértőnek észleli a rendszer, az az LGBTQIA+ közösség legitim generációinak alulreprezentáltságához vezethet. A bemeneti és kimeneti osztályozók, a finomhangolt modellek, valamint a rendszerüzenetek beépítése mellett a Designer prompt gazdagítását is használjuk a számos kockázatcsökkentés egyikeként, hogy csökkentsük az olyan tartalmak kockázatát, amelyek túl- vagy alulreprezentálják a felhasználók csoportjait.

• Nem megfelelő vagy sértő tartalom: A Copilot-élmény más típusú nem megfelelő vagy sértő tartalmakat is eredményezhet. Ilyen például a tartalom olyan modalitásban (például hang) történő létrehozásának lehetősége, amely nem megfelelő a parancs kontextusában, vagy ha összehasonlítja egy másik modalitás ugyanazon kimenetével (például szöveggel). További példák az AI által létrehozott képek, amelyek potenciálisan káros műtermékeket, például gyűlöletszimbólumokat, vitatott, ellentmondásos vagy ideológiailag polarizáló témákhoz kapcsolódó tartalmakat, valamint a szexuális töltetű tartalmakat tartalmazzák, amelyek kikerülik a szexuális vonatkozású tartalomszűrőket. Intézkedéseket vezettünk be a nem megfelelő vagy sértő tartalmakat tartalmazó generációk (például bemeneti és kimeneti osztályozók, finomhangolt modellek és rendszerüzenetek) kockázatának csökkentése érdekében.

• Információ megbízhatósága: Bár a Copilot célja, hogy megbízható forrásokkal válaszoljon, ahol megalapozott információkat keresnek, az AI hibákat követhet el. Potenciálisan értelmetlen tartalmat generálhat, vagy olyan tartalmat gyárthat, amely ésszerűnek tűnhet, de tényszerűen pontatlan. Még akkor is, ha a válaszok nagy hitelességű webes adatokból származnak, előfordulhat, hogy az adott tartalom félrevezető színe nem teljesen pontos, naprakész vagy megbízható. A felhasználói felületen és az ehhez hasonló dokumentációkban emlékeztetjük a felhasználókat, hogy a Copilot hibázhat. Emellett továbbra is tájékoztatjuk a felhasználókat az AI korlátairól, például arra ösztönözzük őket, hogy ellenőrizzék a tényeket, mielőtt döntéseket hoznának, vagy a Copilot válaszai alapján járnának el. Amikor a felhasználók szövegen keresztül kommunikálnak a Copilottal, az megpróbálja megalapozni magát a jó minőségű webes adatokra, hogy csökkentse a generációk megalapozatlanságának kockázatát.

• Többnyelvű teljesítmény: A teljesítmény nyelvenként eltérő lehet, és az angol a Copilot kiadásakor teljesített a legjobban. A nyelvek teljesítményének javítása kulcsfontosságú befektetési terület, és az új modellek jobb teljesítményt eredményeztek.

• Hangkorlátozások: A hangmodellek más korlátozásokat is bevezethetnek. Általánosságban elmondható, hogy a beszédbemenet akusztikai minősége, a nem beszédzaj, a szókincs, az ékezetek és a beszúrási hibák azt is befolyásolhatják, hogy a Copilot kielégítő módon dolgozza-e fel és válaszol-e a felhasználó hangbemenetére.

• Az AI nem helyettesíti a szakmai segítséget: Az AI hasznos eszköz lehet a problémamegoldáshoz, és empatikusnak tűnhet, de nem helyettesíti a szakmai segítség igénybevételét. Ha depressziót, öngyilkossági vagy önkárosítási gondolatokat vagy más mentális egészségi problémákat tapasztal, kérjük, forduljon szakemberhez. A Copilot arra is használható, hogy válság- vagy mentálhigiénés erőforrásokat keressen az Ön közelében.

• Az internetkapcsolattól való függőség: A Copilot működéséhez internetkapcsolat szükséges. A kapcsolat megszakadása hatással lehet a szolgáltatás rendelkezésre állására és teljesítményére.

• Körültekintően járjon el ügynökök létrehozásakor vagy használatakor: A felhasználóknak körültekintően kell eljárniuk saját ügynökeik létrehozásakor vagy mások által biztosított ügynökök használatakor, különösen akkor, ha az ügynökök által végrehajtott műveletek jelentős következményekkel járhatnak, visszafordíthatatlanok lehetnek, vagy bizalmas személyes adatok (például jelszavak, bejelentkezési adatok vagy személyes adatok) megosztására alkalmasak. Mivel az ügynökök nem minden használati esetben működnek megfelelően, hibákat követhetnek el, félreértelmezhetik az utasításokat, vagy megtéveszthetik őket a rosszindulatú rejtett utasítások, a felhasználóknak szorosan figyelemmel kell kísérniük az eredményeket, és át kell tekinteniük a fontos részleteket. A felhasználók bizonyos használati esetekben, például káros webhelyek felkeresésében vagy nem megfelelő tartalmak létrehozásában korlátozva lehetnek. További óvintézkedéseket kell tenni az autonóm ügynöki AI létrehozásakor is, a Microsoft szolgáltatási szerződésének Viselkedési szabályzat szakaszában leírtak szerint.

Rendszerteljesítmény

Számos AI-rendszerben a teljesítményt gyakran a pontosság (vagyis az AI-rendszer által helyes előrejelzés vagy kimenet) alapján határozzák meg. A Copilot esetében a Copilotra mint AI-alapú segédre összpontosítunk, amely tükrözi a felhasználó preferenciáit. Ezért előfordulhat, hogy két különböző felhasználó ugyanazt a kimenetet nézi, és eltérő véleményük van arról, hogy mennyire hasznos vagy releváns az egyedi helyzetük és elvárásaik szempontjából, ami azt jelenti, hogy ezeknek a rendszereknek a teljesítményét rugalmasabban kell meghatározni. A teljesítmény általánosságban azt jelenti, hogy az alkalmazás a felhasználók által elvárt módon teljesít.

Ajánlott eljárások a rendszerteljesítmény növeléséhez

• A felület használata természetes, társalgási nyelven. A Copilot felhasználó számára kényelmes módon történő használata kulcsfontosságú ahhoz, hogy jobb eredményeket érjen el az élményen keresztül. Hasonlóan ahhoz, mint olyan technikák alkalmazása, amelyek segítenek az embereknek hatékony kommunikációt a mindennapi életükben, a Copilottal AI-alapú segédként való interakciója a felhasználó számára ismerős szövegen vagy beszéden keresztül jobb eredményeket érhet el.

• Felhasználói élmény és bevezetés. A Copilot hatékony használatához a felhasználóknak tisztában kell lenniük a képességeivel és korlátaival. Előfordulhat, hogy van egy tanulási görbe, és előfordulhat, hogy a felhasználók különböző Copilot-erőforrásokra (például erre a dokumentumra és Microsoft Copilot segítenek & tanulásban), hogy hatékonyan kommunikálhassanak a szolgáltatással és kihasználhassák annak előnyeit.

Kockázatok feltérképezése, mérése és kezelése

Más átalakítási technológiákhoz hasonlóan az AI előnyeinek kiaknázása sem kockázatmentes, és a Microsoft Felelős AI programjának egyik alapvető része a lehetséges kockázatok azonosítására és feltérképezésére, a kockázatok mérésére és kezelésére szolgál kockázatcsökkentések kiépítésével és a Copilot folyamatos fejlesztésével az idő múlásával. Az alábbi szakaszokban ismertetjük a lehetséges kockázatok feltérképezésére, mérésére és kezelésére vonatkozó iteratív megközelítésünket.

Térkép: A gondos tervezés és a telepítés előtti kártevőtesztelés (például piros csapatok) segít feltérképezni a lehetséges kockázatokat. A Copilot-élmény alapjául szolgáló modellek vörös csapatos tesztelésen estek át olyan tesztelők részéről, akik multidiszciplináris perspektívákat képviselnek a releváns témakörökben. Ezt a tesztelést úgy tervezték, hogy felmérje, hogyan működne a legújabb technológia további biztosítékokkal és anélkül is. Ezeknek a gyakorlatoknak a célja modellszinten az, hogy káros válaszokat állítsanak elő, feltárják a visszaélés lehetséges lehetőségeit, valamint azonosítsák a képességeket és a korlátokat.

• Alkalmazásszintű tesztelés a kiadás előtt. Mielőtt nyilvánosan elérhetővé tettük volna a Copilotot, alkalmazásszintű vörös csapatot végeztünk a hiányosságok és sebezhetőségek azonosítása érdekében. Ez a tesztelés segített megérteni, hogyan használhatja a felhasználók széles köre a Copilotot, és megalapozta a kockázatcsökkentéseink fejlesztését.

• Folyamatban lévő tesztelés. A Copilot frissítésekor szükség szerint teszteljük az új funkciókat és technikai frissítéseket is. Ez a folyamatos folyamat segít azonosítani a felmerülő kockázatokat, és idővel finomítani a kockázatcsökkentési megoldásainkat.

Intézkedés: Amellett, hogy a Copilotot a meglévő biztonsági értékeléseinkkel értékeltük, a fent ismertetett vörös csapat használata segített az azonosított potenciális kockázatoknak, például a jailbreakeknek, a káros tartalmaknak és a megalapozatlan tartalmaknak megfelelő értékelések és felelős AI-metrikák kidolgozásában.

Ezeket a kockázatokat célzó beszélgetési adatokat gyűjtöttünk össze emberi résztvevők kombinációjával és egy automatizált beszélgetésgenerálási folyamattal. Ezután minden értékelést képzett emberi annotátorok csoportja vagy egy automatizált jegyzetelési folyamat pontoz. Minden alkalommal, amikor a termék megváltozik, a meglévő kockázatcsökkentések frissülnek, vagy új kockázatcsökkentéseket javasolnak, frissítjük a kiértékelési folyamatokat, hogy felmérjük a termék teljesítményét és a felelős AI-metrikákat is. Ezek az automatizált értékelési környezetfolyamatok az emberi értékelőkkel folytatott összegyűjtött beszélgetések és az LLM-ekkel generált szintetikus beszélgetések kombinációi, amelyeket a szabályzatok ellenséges módon történő tesztelésére kérnek. Ezen biztonsági értékelések mindegyike automatikusan pontozódik az LLM-ekkel. Az újonnan kifejlesztett értékeléseknél minden értékelést kezdetben emberi címkézők pontoznak, akik elolvassák a szöveges tartalmat vagy meghallgatják a hangkimenetet, majd automatikus LLM-alapú értékelésekké alakítják.

Modelljeink tervezett viselkedése a kiértékelési folyamatainkkal kombinálva – mind az emberi, mind az automatizált – lehetővé teszi számunkra, hogy gyorsan elvégezzük a méréseket a lehetséges kockázatok nagy léptékben. Ahogy idővel új problémákat azonosítunk, folyamatosan bővítjük a mérési készleteket a további kockázatok felmérése érdekében.

Kezelés: Mivel a piros csapatokon keresztül azonosítottuk a lehetséges kockázatokat és visszaéléseket, és a fent ismertetett megközelítésekkel mértük őket, további kockázatcsökkentéseket fejlesztettünk ki, amelyek kifejezetten a Copilot-élményre vonatkoznak. Az alábbiakban néhány ilyen kockázatcsökkentést ismertetünk. Továbbra is figyeljük a Copilot-élményt a termékteljesítmény és a kockázatcsökkentési megközelítés javítása érdekében.

• Szakaszos megjelenési tervek és folyamatos kiértékelés. Elkötelezettek vagyunk amellett, hogy technológiáink és felhasználói viselkedésünk fejlődésével folyamatosan tanuljuk és fejlesszük felelős AI-megközelítésünket. A növekményes kiadási stratégiánk alapvető része volt annak, ahogyan technológiánkat biztonságosan áthelyezzük a tesztkörnyezetből a világ világába, és elkötelezettek vagyunk egy megfontolt, átgondolt folyamat mellett, amely a Copilot-élmény előnyeinek biztosítása érdekében gondoskodik. Rendszeresen módosítjuk a Copilotot a termékteljesítmény és a meglévő kockázatcsökkentések javítása érdekében, és új kockázatcsökkentéseket vezetünk be a tanulságaink alapján.

• Az osztályozók és a rendszerüzenet használatával csökkentheti a lehetséges kockázatokat vagy a visszaélést. A felhasználói kérésekre válaszul az LLM-ek problémás tartalmat hozhatnak létre. A fenti Rendszerviselkedés és -korlátozások szakaszban ismertettük a korlátozni próbálni kívánt tartalomtípusokat. Az osztályozók és a rendszerüzenet két példa a Copilotban bevezetett enyhítésekre, amelyek segítenek csökkenteni az ilyen típusú tartalmak kockázatát. Az osztályozók úgy osztályozzák a szöveget, hogy megjelöljék a potenciálisan káros tartalmakat a felhasználói parancsokban vagy a generált válaszokban. A meglévő ajánlott eljárásokat is használjuk a rendszerüzenet kihasználásához, amely magában foglalja az utasítások megadását a modellnek, hogy a viselkedését a Microsoft AI-alapelvekhez és a felhasználói elvárásokhoz igazítsa.

• Képek feltöltése a Copilot Látásba. Amikor egy felhasználó első alkalommal tölt fel képet a Copilot Látásba, információt kap arról, hogyan dolgozza fel a képet a Copilot. Ha egy felhasználó nem folytatja a feltöltést, a rendszer nem küldi el a képet a Copilotnak. A beszélgetés befejezését követő 30 napon belül minden kép törlődik.

• AI-közzététel. A Copilot célja, hogy tájékoztassa az embereket arról, hogy egy AI-rendszerrel kommunikálnak. Ahogy a felhasználók kapcsolatba lépnek a Copilottal, különböző kapcsolattartási pontokat kínálunk, amelyek célja, hogy segítsenek nekik megérteni a rendszer képességeit, közzétenni számukra, hogy a Copilot mesterséges intelligenciára épül, és kommunikálni a korlátozásokat. A felületet úgy tervezték, hogy segítsen a felhasználóknak a legtöbbet kihozni a Copilotból, és minimalizálni a túlzott támaszkodás kockázatát. A közzétételek emellett segítenek a felhasználóknak jobban megérteni a Copilotot és a vele való interakcióikat.

• Média eredete. A Copilottal létrehozott összes képhez bevezettük a C2PA szabványon alapuló tartalmi hitelesítő adatokat, hogy segítsünk a felhasználóknak azonosítani, hogy a képeket mesterséges intelligenciával szerkesztették vagy hozták létre. A származási metaadatok a Content Credentials webhelyen tekinthetők meg.

• Automatizált tartalomészlelés. Amikor a felhasználók képeket töltenek fel a csevegési kérés részeként, a Copilot eszközöket helyez üzembe a gyermekek szexuális kizsákmányolását és visszaélését ábrázoló képek (CSEAI) észlelésére. A Microsoft az összes nyilvánvaló CSEAI-t jelenti a National Center for Missing and Exploited Children (NCMEC) számára, az Egyesült Államok törvényei szerint. Amikor a felhasználók fájlokat töltenek fel elemzés vagy feldolgozás céljából, a Copilot automatikus vizsgálatot helyez üzembe az olyan tartalmak észlelésére, amelyek kockázathoz vagy visszaéléshez vezethetnek, például olyan szövegeket, amelyek illegális tevékenységekhez vagy rosszindulatú kódokhoz kapcsolódhatnak.

• Használati feltételek és viselkedési szabályzat. A felhasználóknak be kell tartaniuk a Copilot vonatkozó használati feltételeit és viselkedési szabályzatát, a Microsoft szolgáltatási szerződését és a Microsoft adatvédelmi nyilatkozatát, amelyek többek között tájékoztatják őket a megengedett és nem engedélyezett használatokról, valamint a feltételek megsértésének következményeiről. A Használati feltételek további tájékoztatást is tartalmaznak a felhasználók számára, és referenciaként szolgálnak a felhasználók számára a Copilot megismeréséhez. A súlyos vagy ismételt szabálysértést elkövető felhasználókat ideiglenesen vagy véglegesen felfüggeszthetjük a szolgáltatásból.

• Visszajelzés, monitorozás és felügyelet. A Copilot-élmény olyan eszközöket tartalmaz, amelyek lehetővé teszik a felhasználók számára, hogy visszajelzéseket küldjenek, amelyeket a Microsoft üzemeltetési csapatai ellenőriznek. Emellett a kockázatok feltérképezésével, mérésével és kezelésével kapcsolatos megközelítésünk tovább fog fejlődni, ahogy egyre többet tudunk meg, és már jelenleg is végezünk fejlesztéseket az előzetes verziós időszakokban gyűjtött visszajelzések alapján.

• Az öngyilkossági és Self-Harm kockázatok észlelése és az azokra való reagálás. A Copilot gépi tanulási osztályozókat használ, amelyek arra vannak betanítva, hogy felismerjék az olyan nyelvi mintákat, amelyek öngyilkosságra vagy önkárosító szándékra utalhatnak a felhasználóban. Ilyen tartalom észlelése esetén a rendszer kikapcsolja a beszélgetést, és helyette válságtámogatási erőforrásokat biztosít (például az Öngyilkossági és válságsegélyvonalat a 988-as számon az Egyesült Államokban), ami szakember igénybevételére ösztönzi a felhasználókat. A Copilot nem nyújt tanácsadást; Szerepe az észlelésre és az átirányításra korlátozódik a felhasználók biztonságának biztosítása érdekében.

• Értesítés a kiterjesztett használatról. A Copilot emlékeztetheti a felhasználókat, hogy tartsanak szünetet, ha hosszabb ideje folyamatos beszélgetést folytatnak. A felhasználókat rendszeresen tájékoztatják arról is, hogy a mesterséges intelligencia nem emberi, és hibákat követhet el.

További információ a felelős AI-ról

• Microsoft AI-alapelvek
• A Microsoft felelős AI-erőforrásai
• A Microsoft felelősen alkalmazott mesterséges intelligencia átláthatósági jelentése

További információ a Microsoft Copilot szolgáltatásról

• Microsoft Copilot segítség & tanuláshoz