18 sierpnia 2026 r.
Uwaga
- Informacje zawarte w tym artykule dotyczą wyłącznie korzystania z usługi Microsoft Copilot przez osoby zalogowane za pomocą konta Microsoft, takiego jak osobisty adres e-mail.
- Aby uzyskać informacje na temat korzystania z usługi Microsoft Copilot w organizacjach, w których użytkownicy są zalogowani przy użyciu kont służbowych, zobacz Karta aplikacji: usługa Microsoft Copilot (dla organizacji).
Co to jest notatka dotycząca przejrzystości?
System sztucznej inteligencji obejmuje nie tylko technologię, ale także ludzi, którzy będą z niej korzystać, ludzi, na których będzie miała wpływ, oraz środowisko, w którym jest wdrażana. Uwagi dotyczące przejrzystości firmy Microsoft mają na celu ułatwienie zrozumienia, jak działa technologia sztucznej inteligencji stojąca za funkcją Copilot, dokonanych wyborów, które wpływają na wydajność i zachowanie systemu, a także znaczenie myślenia o całym systemie, aby użytkownicy funkcji Copilot mogli przejąć kontrolę nad własnymi środowiskami i zrozumieć kroki, które podejmujemy w celu zapewnienia bezpiecznego produktu.
Uwagi dotyczące przejrzystości firmy Microsoft są częścią szerszego wysiłku firmy Microsoft mającego na celu wprowadzenie naszych zasad sztucznej inteligencji w praktykę. Aby dowiedzieć się więcej, zobacz Zasady dotyczące sztucznej inteligencji firmy Microsoft AI.
Podstawowe informacje o funkcji Microsoft Copilot
Wprowadzenie
Funkcja Microsoft Copilot ułatwia przejście od pomysłu do ukończonej pracy w jednym miejscu. Usługa Copilot jest zintegrowana z programami Word, Excel, PowerPoint, Outlook, Teams i innymi, zapewniając pliki i informacje, których używasz, w jednym środowisku. Funkcja Copilot może pomóc w tworzeniu dopracowanych dokumentów, prezentacji i arkuszy kalkulacyjnych, tworzeniu wersji roboczych wiadomości e-mail, organizowaniu dnia i uzyskiwaniu odpowiedzi opartych na wykonywanej pracy. Dzięki usłudze Cowork, funkcja Copilot może również pomóc w większych, wieloetapowych zadaniach i dostarczyć ukończone zadania do wykonania. Możesz również wybierać między wiodącymi modelami sztucznej inteligencji dla różnych rodzajów pracy. Poszczególne funkcje różnią się w zależności od subskrypcji.
W firmie Microsoft poważnie traktujemy nasze zobowiązanie do odpowiedzialnej sztucznej inteligencji. Funkcja Copilot została opracowana zgodnie z zasadami sztucznej inteligencji firmy Microsoft, standardem odpowiedzialnej sztucznej inteligencji firmy Microsoft oraz we współpracy z ekspertami ds. odpowiedzialnej sztucznej inteligencji w całej firmie, w tym z Biurem ds. Odpowiedzialnej sztucznej inteligencji firmy Microsoft, naszymi zespołami inżynierów, działem badań firmy Microsoft i firmą Aether. Więcej informacji znajdziesz na stronie Odpowiedzialna sztuczna inteligencja w firmie Microsoft.
W tym dokumencie opisujemy nasze podejście do odpowiedzialnej sztucznej inteligencji dla funkcji Copilot. Przed wprowadzeniem systemu wykorzystaliśmy najnowocześniejsze metody firmy Microsoft do mapowania, mierzenia i zarządzania potencjalnym ryzykiem oraz niewłaściwym użyciem systemu oraz do zabezpieczenia korzyści z niego płynących dla użytkowników. W miarę dalszego rozwoju funkcji Copilot nadal uczymy się i ulepszamy nasze wysiłki w zakresie odpowiedzialnej sztucznej inteligencji. Niniejszy dokument będzie okresowo aktualizowany, aby informować o naszych rozwijających się procesach i metodach.
Kluczowe pojęcia
Klasyfikatory Modele uczenia maszynowego, które pomagają sortować dane w oznaczone klasy lub kategorie informacji. W funkcji Copilot jednym ze sposobów, w jaki używamy klasyfikatorów, jest pomoc w wykrywaniu potencjalnie szkodliwej zawartości przesyłanej przez użytkowników lub generowanej przez system w celu ograniczenia generowania tej zawartości oraz niewłaściwego użycia lub nadużycia systemu.
Uziemienie W przypadku niektórych konwersacji, w których użytkownicy szukają informacji, funkcja Copilot jest oparta na wynikach wyszukiwania w Internecie. Oznacza to, że funkcja Copilot koncentruje swoją odpowiedź na zawartości o wysokiej randze z Internetu i udostępnia cytaty z hiperlinkami po wygenerowanych odpowiedziach tekstowych lub w transkrypcjach konwersacji w trybie głosowym.
Duże modele językowe (LLM) Duże modele językowe (LLM) w tym kontekście to modele sztucznej inteligencji, które są trenowane na dużych ilościach danych tekstowych w celu przewidywania słów w sekwencjach. Modele LLM mogą wykonywać różne zadania, takie jak generowanie, podsumowywanie tekstu, tłumaczenie, klasyfikacja i inne.
Środki zaradcze Metoda lub kombinacja metod zaprojektowana w celu zmniejszenia potencjalnego ryzyka, które może wynikać z korzystania z funkcji sztucznej inteligencji w funkcji Copilot.
Modele multimodalne (MMM) Modele multimodalne (MMM) to modele sztucznej inteligencji trenowane na różnych typach danych, takich jak tekst, obrazy lub dźwięk. Modele te mogą wykonywać różnorodne zadania, takie jak pisanie tekstu, opisywanie obrazów, rozpoznawanie mowy i znajdowanie informacji w różnych typach danych.
Polecenia Dane wejściowe w postaci tekstu, obrazów i/lub dźwięku, które użytkownik wysyła do funkcji Copilot w celu interakcji z funkcjami AI w funkcji Copilot.
Red teaming Techniki stosowane przez ekspertów do oceny ograniczeń i słabych punktów systemu oraz testowania skuteczności planowanych środków zaradczych. Testy zespołu czerwonego obejmują testerów przyjmujących zarówno łagodne, jak i przeciwstawne persony w celu zidentyfikowania potencjalnych zagrożeń i różnią się od systematycznego pomiaru ryzyka.
Odpowiedzi Tekst, obrazy lub dźwięk generowany przez funkcję Copilot w odpowiedzi na polecenie lub w ramach wymiany zdań z użytkownikiem. Synonimami słowa "odpowiedź" są "ukończenie", "generacja" i "odpowiedź".
Małe modele językowe (SLM) Małe modele językowe (SLM) w tym kontekście to modele sztucznej inteligencji, które są trenowane na mniejszych, bardziej skoncentrowanych ilościach danych w porównaniu z dużymi modelami językowymi. Pomimo mniejszego rozmiaru, SLM mogą wykonywać różne zadania, takie jak generowanie, podsumowywanie, tłumaczenie i klasyfikacja tekstu. Chociaż mogą nie odpowiadać szerokim możliwościom modeli LLM, SLM są często bardziej zasobooszczędne i mogą być bardzo skuteczne w przypadku konkretnych, docelowych aplikacji.
Komunikat systemowy Komunikat systemowy (czasami nazywany "metamonitem") to program, który służy do kierowania zachowaniem systemu. Części komunikatu systemowego pomagają dostosować zachowanie systemu do zasad sztucznej inteligencji firmy Microsoft i oczekiwań użytkowników. Na przykład komunikat systemowy może zawierać wiersz "nie podawaj informacji ani nie twórz zawartości, która może spowodować szkody fizyczne, emocjonalne lub finansowe".
Możliwości
Zachowanie systemu
Dzięki funkcji Copilot opracowaliśmy innowacyjne podejście, aby zapewnić użytkownikom bardziej spersonalizowane środowisko sztucznej inteligencji w celu uzyskania atrakcyjnego środowiska, które może pomóc użytkownikom w wykonywaniu różnych zadań. To innowacyjne podejście korzysta z różnych zaawansowanych technologii, takich jak modele językowe i multimodalne firmy Microsoft, OpenAI i innych deweloperów modeli. Przed publicznym wydaniem pracowaliśmy nad wdrożeniem technik bezpieczeństwa dla modeli leżących u podstaw funkcji Copilot, aby opracować niestandardowy zestaw możliwości i zachowań, które zapewnią ulepszone środowisko funkcji Copilot. W funkcji Copilot użytkownicy mogą wysyłać polecenia w postaci tekstu lub głosu w języku naturalnym. Odpowiedzi są prezentowane użytkownikom w kilku różnych formatach, takich jak odpowiedzi na czacie w formie tekstowej (z tradycyjnymi linkami do zawartości internetowej w razie potrzeby) i obrazów (jeśli żądanie obrazu zostało wykonane w ramach polecenia). Jeśli użytkownicy wysyłają polecenia w języku naturalnym w ramach trybu Głos funkcji Copilot, otrzymają odpowiedzi audio.
Gdy użytkownik wprowadzi polecenie w funkcji Copilot, polecenie, historia konwersacji i komunikat systemowy są wysyłane przez kilka klasyfikatorów wejściowych, aby pomóc odfiltrować szkodliwą lub nieodpowiednią zawartość. Jest to kluczowy pierwszy krok, który pomaga poprawić wydajność modelu i ograniczyć sytuacje, w których użytkownicy mogą próbować wydawać polecenia dotyczące modelu w sposób, który może być niebezpieczny. Po przejściu przez klasyfikatory wejściowe zostanie określone, czy żądanie wymaga uziemienia danych z sieci Web i który model języka powinien odpowiedzieć na żądanie. Wszystkie modele generują odpowiedź przy użyciu polecenia użytkownika i historii ostatnich konwersacji w celu kontekstualizacji żądania, komunikatu systemowego w celu dostosowania odpowiedzi do zasad sztucznej inteligencji firmy Microsoft i oczekiwań użytkowników oraz, w razie potrzeby, dopasowania odpowiedzi do wyników wyszukiwania w celu ugruntowania odpowiedzi w istniejącej, wysoko ocenianej zawartości z Internetu.
Odpowiedzi są prezentowane użytkownikom w kilku różnych formatach, takich jak odpowiedzi czatu w formie tekstowej, tradycyjne linki do zawartości internetowej, obrazy i odpowiedzi audio. Gdy odpowiedzi są udzielane w formie tekstowej — a odpowiedzi są oparte na danych z Internetu — dane wyjściowe zawierają hiperłącza cytaty wymienione pod tekstem, dzięki czemu użytkownicy mogą uzyskać dostęp do witryn internetowych, które zostały użyte do ugruntowania odpowiedzi i dowiedzieć się więcej na ten temat. Funkcja Copilot może również uruchamiać kod w celu wykonywania złożonych obliczeń i generowania wykresów. Funkcja Copilot może przechowywać określone fakty, o których zapamiętanie poproszą użytkownicy, co pozwala na generowanie trafniejszych odpowiedzi i sugestii na podstawie tego kontekstu. Funkcja Copilot może również usuwać zapisane fakty, gdy użytkownicy poproszą o ich jawne zapomnienie.
Funkcja Copilot pomaga również użytkownikom tworzyć nowe historie, wiersze, teksty piosenek i obrazy. Gdy funkcja Copilot wykryje zamiar użytkownika wygenerowania kreatywnej zawartości (na przykład polecenie użytkownika zaczynające się od "napisz do mnie..."), system w większości przypadków wygeneruje zawartość reagującą na polecenie użytkownika. Podobnie, gdy funkcja Copilot wykryje zamiar wygenerowania obrazu przez użytkownika (na przykład polecenie użytkownika zaczynające się od "narysuj mnie..."), funkcja Copilot w większości przypadków wygeneruje obraz reagujący na polecenie użytkownika. Gdy funkcja Copilot wykryje zamiar zmodyfikowania przekazanego obrazu przez użytkownika (na przykład monit użytkownika zaczynający się od "dodaj..."), w większości przypadków zmodyfikuje obraz w odpowiedzi na polecenie użytkownika. Funkcja Copilot może nie odpowiadać z kreatywną zawartością, gdy monit użytkownika zawiera pewne terminy, które mogą spowodować problematyczną zawartość.
Zamierzone zachowanie związane z bezpieczeństwem
Naszym celem dla funkcji Copilot jest bycie pomocnym dla użytkowników i wdrażamy zabezpieczenia pomagające zmniejszyć prawdopodobieństwo generowania szkodliwej zawartości oraz zwiększyć prawdopodobieństwo bezpiecznego i pozytywnego środowiska użytkownika. Chociaż podjęliśmy kroki w celu ograniczenia ryzyka, modele generatywnej sztucznej inteligencji, takie jak te stojące za funkcją Copilot, są probabilistyczne i mogą popełniać błędy, co oznacza, że środki zaradcze mogą czasami nie zablokować szkodliwych poleceń użytkowników lub odpowiedzi generowanych przez sztuczną inteligencję. Jeśli napotkasz szkodliwą lub nieoczekiwaną zawartość podczas korzystania z funkcji Copilot, poinformuj nas o tym, przekazując nam opinię, abyśmy mogli nadal ulepszać środowisko.
Przypadki użycia
Przeznaczenie
Funkcja Copilot została zaprojektowana, aby ułatwić użytkownikom odpowiadanie na pytania, generowanie zawartości i wykonywanie zadań za pomocą języka naturalnego przy użyciu tekstu, obrazów i głosu. Aby zapewnić pomocne i odpowiednie odpowiedzi, funkcja Copilot może pobierać, analizować i podsumowywać informacje z dostępnych źródeł. Niektóre funkcje zaawansowane mogą być dostępne tylko dla użytkowników z uprawnionymi subskrypcjami. Przykłady typowych przypadków użycia obejmują:
Chat korzystanie z tekstu i otrzymywanie podsumowań w Internecie. Użytkownicy mogą rozmawiać z funkcją Copilot za pomocą wiadomości tekstowych i zadawać dodatkowe pytania, aby znaleźć nowe informacje i uzyskać pomoc techniczną w wielu różnych tematach. Funkcja Copilot może przeprowadzać wyszukiwania w Internecie i używać najlepszych wyników wyszukiwania w sieci do wygenerowania podsumowania informacji do przedstawienia użytkownikom. Te podsumowania zawierają cytaty ze stron internetowych, aby ułatwić użytkownikom przeglądanie źródeł wyników wyszukiwania, które pomogły ugruntować podsumowanie funkcji Copilot. Użytkownicy mogą kliknąć te linki, aby odwiedzić źródło witryny internetowej w celu uzyskania dodatkowych informacji lub oceny wiarygodności witryny.
Uzyskaj pomoc w generowaniu nowych pomysłów. Za każdym razem, gdy użytkownicy wchodzą w interakcję ze środowiskiem funkcji Copilot, widzą zestaw kart, które mogą kliknąć, aby rozpocząć czat z funkcją Copilot na przydatne i interesujące tematy. Jeśli użytkownicy korzystali z innych usług firmy Microsoft dla klientów indywidualnych, karty zostaną spersonalizowane zgodnie z naszymi zasadami zachowania poufności informacji. Z czasem karty w funkcji Copilot mogą być personalizowane na podstawie historii czatu użytkownika. Użytkownicy mogą zrezygnować z personalizacji w dowolnym momencie w ustawieniach.
Generuj kreatywną zawartość. Podczas czatu z funkcją Copilot użytkownicy mogą tworzyć nowe wiersze, dowcipy, opowiadania, obrazy i inną zawartość z pomocą funkcji Copilot. Funkcja Copilot może również edytować obrazy przekazane przez użytkowników na żądanie.
Pomoc w poszukiwaniach. Funkcja Copilot może wykonywać zadania badawcze, wyświetlając szczegółowe zasoby, oferując szczegółowe podziały tematów i łącząc się ze źródłami, aby pomóc użytkownikom wyjść poza szybkie odpowiedzi na bardziej złożone zapytania. Funkcja Copilot może proaktywnie generować spersonalizowane sugestie badawcze dla użytkowników na podstawie takich elementów, jak wcześniejsze zapytania badawcze i pamięć funkcji Copilot. Użytkownicy mogą zrezygnować z personalizacji lub powiadomień w dowolnym momencie w ustawieniach.
Odkrywaj, porównuj i kupuj produkty. Funkcja Copilot Shopping może pomóc w znajdowaniu produktów, porównywaniu opcji i usprawnianiu zakupów. Z wyjątkiem określonych przypadków firma Microsoft nie otrzymuje prowizji ani innych wynagrodzeń za sugestie dotyczące produktów lub wyniki wyszukiwania podane w funkcji Copilot.
Ucz się mądrzej dzięki funkcji Copilot Learn. Usługa Copilot Learn może tworzyć quizy i testy praktyczne, generować fiszki i jest przeznaczona do ulepszania odpowiedzi za pomocą obrazów w celu ułatwienia zrozumienia złożonych pojęć.
Uzyskaj pomoc dotyczącą codziennych zadań. Aplikacja Copilot Cowork wykonuje zadania w Twoim imieniu. Ty opisujesz to, czego potrzebujesz, w języku naturalnym, a Cowork wykonuje pracę, tworząc dokumenty, redagując i wysyłając wiadomości e-mail, planując spotkania i zarządzając plikami. Poufne działania można przeglądać i zatwierdzać, zanim do nich dojdzie.
Analizowanie i edytowanie plików. Przekazywanie plików w funkcji Copilot umożliwia użytkownikom przesyłanie obrazów lub niektórych obsługiwanych typów plików bezpośrednio do sesji czatu. Po przekazaniu funkcja Copilot może analizować i wyodrębniać informacje z tych plików, aby dostarczać odpowiednie szczegółowe informacje, odpowiadać na pytania lub pomagać w określonych zadaniach. Funkcja Copilot może również odwoływać się do plików u Twoich połączonych dostawców magazynu online, takich jak OneDrive i Dysk Google, za Twoją zgodą.
Zobacz i zrozum. Korzystaj z usługi Vision do analizowania obrazów, uzyskiwania szczegółowych informacji ze zdjęć i wyszukiwania wizualnego. Funkcja Copilot przegląda przekazane obrazy, aby ułatwić zrozumienie tego, co widzisz.
Używaj głosu. Rozmawiaj naturalnie z funkcją Copilot za pomocą czatu głosowego. Burza mózgów, pisanie treści lub uzyskiwanie szybkich odpowiedzi całkowicie bez użycia rąk.
Łączy się z innymi aplikacjami. Korzystaj z aplikacji i wybranych informacji, takich jak poczta e-mail, kalendarze, pliki, kontakty i inne usługi.
Zagadnienia do rozważenia przy wyborze innych przypadków użycia
Zachęcamy użytkowników do przeglądania całej zawartości przed podjęciem decyzji lub działania na podstawie odpowiedzi funkcji Copilot, ponieważ sztuczna inteligencja może popełniać błędy i może nie być odpowiednia w określonych przypadkach użycia. Ponadto istnieją pewne scenariusze, których zalecamy unikać lub które są sprzeczne z naszymi Warunkami użytkowania. Na przykład firma Microsoft nie zezwala na używanie funkcji Copilot w związku z nielegalnymi działaniami lub w jakimkolwiek celu mającym na celu promowanie nielegalnych działań.
Ograniczenia
Modele języka, obrazu i dźwięku, które leżą u podstaw środowiska funkcji Copilot, mogą obejmować dane szkoleniowe, które mogą odzwierciedlać uprzedzenia społeczne, co z kolei może potencjalnie spowodować, że funkcja Copilot będzie zachowywać się w sposób postrzegany jako niesprawiedliwy, nierzetelny lub obraźliwy. Pomimo naszego intensywnego trenowania modeli i dostrajania bezpieczeństwa, a także implementacji odpowiedzialnych mechanizmów kontroli AI i systemów bezpieczeństwa, które umieszczamy w danych szkoleniowych, poleceniach użytkownika i wynikach modelu, usługi oparte na sztucznej inteligencji są omylne i probabilistyczne. Utrudnia to kompleksowe blokowanie wszystkich nieodpowiednich treści, co prowadzi do ryzyka, że potencjalne uprzedzenia, stereotypy, bezpodstawność lub inne rodzaje szkód mogą pojawić się w zawartości generowanej przez sztuczną inteligencję. Niektóre ze sposobów, w jakie te ograniczenia mogą przejawiać się w środowisku funkcji Copilot, są wymienione tutaj.
Stereotypy: Środowisko funkcji Copilot może potencjalnie wzmocnić stereotypy. Na przykład podczas tłumaczenia "On jest pielęgniarzem" i "Ona jest lekarzem" na język bez płci, taki jak turecki, a następnie z powrotem na angielski, funkcja Copilot może przypadkowo zwrócić stereotypowe (i niepoprawne) wyniki "Ona jest pielęgniarką" i "On jest lekarzem". Innym przykładem jest generowanie obrazu na podstawie polecenia "Dzieci bez ojca", system może generować obrazy dzieci tylko jednej rasy lub pochodzenia etnicznego, wzmacniając szkodliwe stereotypy, które mogą istnieć w publicznie dostępnych obrazach używanych do trenowania podstawowych modeli. Funkcja Copilot może również wzmacniać stereotypy na podstawie zawartości obrazu wejściowego użytkownika, opierając się na składnikach obrazu i przyjmując założenia, które mogą nie być prawdziwe. Wdrożyliśmy środki zaradcze, aby zmniejszyć ryzyko zawartości zawierającej obraźliwe stereotypy, w tym klasyfikatory danych wejściowych i wyjściowych, dostosowane modele i komunikaty systemowe.
Nadreprezentacja i niedostateczna reprezentacja: Funkcja Copilot może potencjalnie nadreprezentować lub niedostatecznie reprezentować grupy osób, a nawet w ogóle ich nie reprezentować w swoich odpowiedziach. Na przykład, jeśli podpowiedzi tekstowe zawierające słowo "gej" zostaną wykryte jako potencjalnie szkodliwe lub obraźliwe, może to prowadzić do niedostatecznej reprezentacji prawowitych pokoleń na temat społeczności LGBTQIA+. Oprócz uwzględniania klasyfikatorów danych wejściowych i wyjściowych, precyzyjnie dostrojonych modeli, a także komunikatów systemowych, używamy wzbogacania podpowiedzi w aplikacji Designer jako jednego z kilku środków zaradczych zmniejszających ryzyko zawartości, która nadreprezentuje lub niedostatecznie reprezentuje grupy osób.
Nieodpowiednia lub obraźliwa zawartość: Środowisko funkcji Copilot może potencjalnie generować inne rodzaje nieodpowiedniej lub obraźliwej zawartości. Przykłady obejmują możliwość generowania zawartości w jednej modalności (na przykład dźwięku), która jest nieodpowiednia w kontekście polecenia lub w porównaniu z tym samym wyjściem w innej modalności (na przykład tekstem). Inne przykłady obejmują obrazy wygenerowane przez sztuczną inteligencję, które potencjalnie zawierają szkodliwe artefakty, takie jak symbole nienawiści, treści związane z kwestionowanymi, kontrowersyjnymi lub polaryzującymi ideologicznie tematami, a także treści o charakterze seksualnym, które wymykają się filtrom zawartości związanej z seksualnością. Wprowadziliśmy środki zaradcze, aby zmniejszyć ryzyko pokoleń zawierających nieodpowiednią lub obraźliwą zawartość, taką jak klasyfikatory danych wejściowych i wyjściowych, precyzyjnie dostrojone modele i komunikaty systemowe.
Rzetelność informacji: Podczas gdy funkcja Copilot ma na celu udzielanie odpowiedzi z wiarygodnych źródeł w przypadku poszukiwania informacji ugruntowających, sztuczna inteligencja może popełniać błędy. Może to potencjalnie generować bezsensowne treści lub fabrykować treści, które mogą brzmieć rozsądnie, ale są niezgodne ze stanem faktycznym. Nawet w przypadku uzyskiwania odpowiedzi na podstawie najbardziej autorytatywnych danych internetowych odpowiedzi mogą fałszywie przedstawiać te treści w sposób, który może nie być całkowicie dokładny, aktualny lub wiarygodny. Przypominamy użytkownikom za pośrednictwem interfejsu użytkownika i dokumentacji takiej jak ta, że funkcja Copilot może popełniać błędy. Kontynuujemy również edukowanie użytkowników na temat ograniczeń sztucznej inteligencji, takich jak zachęcanie ich do powtórnego sprawdzania faktów przed podjęciem decyzji lub działania na podstawie odpowiedzi funkcji Copilot. Gdy użytkownicy wchodzą w interakcję z funkcją Copilot za pomocą tekstu, próbuje ona ugruntować się w wysokiej jakości danych internetowych, aby zmniejszyć ryzyko, że pokolenia nie będą uziemione.
Występ w wielu językach: Mogą występować różnice w wydajności w różnych językach, przy czym język angielski działa najlepiej w momencie udostępniania funkcji Copilot. Poprawa wydajności w różnych językach jest kluczowym obszarem inwestycji, a najnowsze modele doprowadziły do poprawy wydajności.
Ograniczenia audio: Modele audio mogą wprowadzać inne ograniczenia. Ogólnie rzecz biorąc, jakość akustyczna danych wejściowych mowy, szumy inne niż językowe, słownictwo, akcenty i błędy wstawiania mogą również wpływać na to, czy funkcja Copilot przetwarza i odpowiada na dane dźwiękowe użytkownika w zadowalający sposób.
Sztuczna inteligencja nie zastąpi profesjonalnej pomocy: Sztuczna inteligencja może być przydatnym narzędziem do rozwiązywania problemów i może być postrzegana jako empatyczna, ale nie zastępuje szukania profesjonalnej pomocy. Jeśli doświadczasz depresji, myśli samobójczych lub samookaleczeń lub innych problemów ze zdrowiem psychicznym, poszukaj profesjonalnej pomocy. Usługa Copilot może być również używana do znajdowania zasobów kryzysowych lub dotyczących zdrowia psychicznego w Twojej okolicy.
Zależność od łączności internetowej: Funkcja Copilot działa w oparciu o łączność z Internetem. Zakłócenia w łączności mogą mieć wpływ na dostępność i wydajność usługi.
Zachowaj ostrożność podczas tworzenia lub używania agentów: Użytkownicy powinni zachować ostrożność podczas tworzenia własnych agentów lub korzystania z agentów udostępnianych przez innych, zwłaszcza jeśli działania podejmowane przez agentów mogą mieć poważne konsekwencje, być nieodwracalne lub potencjalnie prowadzić do udostępnienia poufnych danych osobowych (takich jak hasła, loginy lub dane osobowe). Ponieważ agenci mogą nie działać dobrze we wszystkich przypadkach użycia i mogą popełniać błędy, błędnie interpretować instrukcje lub dać się zwieść złośliwym ukrytym instrukcjom, użytkownicy powinni uważnie monitorować wyniki i przeglądać ważne szczegóły Użytkownicy mogą mieć ograniczone możliwości w niektórych przypadkach użycia, takich jak odwiedzanie szkodliwych witryn internetowych lub tworzenie nieodpowiedniej zawartości. Należy również podjąć dodatkowe środki ostrożności podczas tworzenia autonomicznej agenturalnej sztucznej inteligencji, zgodnie z dalszym opisem w sekcji Kodeks postępowania w Umowie o świadczenie usług firmy Microsoft.
Wydajność systemu
W wielu systemach sztucznej inteligencji wydajność jest często definiowana w odniesieniu do dokładności (czyli tego, jak często system sztucznej inteligencji oferuje poprawną prognozę lub dane wyjściowe). Dzięki funkcji Copilot koncentrujemy się na funkcji Copilot jako asystencie opartym na sztucznej inteligencji, który odzwierciedla preferencje użytkownika. W związku z tym dwóch różnych użytkowników może patrzeć na ten sam wynik i mieć różne opinie na temat tego, na ile jest on przydatny lub istotny dla ich unikalnej sytuacji i oczekiwań, co oznacza, że wydajność tych systemów musi być definiowana bardziej elastycznie. Ogólnie rzecz biorąc, wydajność oznacza, że aplikacja działa zgodnie z oczekiwaniami użytkowników.
Najważniejsze wskazówki dotyczące zwiększania wydajności systemu
Interakcja z interfejsem przy użyciu naturalnego języka konwersacji. Interakcja z funkcją Copilot w sposób wygodny dla użytkownika jest kluczem do uzyskania lepszych wyników w tym środowisku. Podobnie jak w przypadku stosowania technik ułatwiających ludziom skuteczne komunikowanie się w ich codziennym życiu, interakcja z funkcją Copilot jako asystentem opartym na sztucznej inteligencji za pomocą tekstu lub mowy znanej użytkownikowi może pomóc w uzyskaniu lepszych wyników.
Środowisko użytkownika i adopcja. Efektywne korzystanie z funkcji Copilot wymaga od użytkowników zrozumienia jej możliwości i ograniczeń. Może występować krzywa uczenia się, a użytkownicy mogą chcieć odwoływać się do różnych zasobów funkcji Copilot (na przykład tego dokumentu i Microsoft Copilot pomocy & nauce), aby skutecznie wchodzić w interakcje z usługą i czerpać z niej korzyści.
Mapowanie, mierzenie i zarządzanie ryzykiem
Podobnie jak w przypadku innych przełomowych technologii, wykorzystanie zalet sztucznej inteligencji nie jest wolne od ryzyka, a kluczową częścią programu odpowiedzialnej sztucznej inteligencji firmy Microsoft jest identyfikowanie i mapowanie potencjalnych zagrożeń, mierzenie tych zagrożeń oraz zarządzanie nimi poprzez tworzenie środków zaradczych i ciągłe ulepszanie funkcji Copilot w miarę upływu czasu. W poniższych sekcjach opisujemy nasze iteracyjne podejście do mapowania, mierzenia i zarządzania potencjalnym ryzykiem.
Mapa: Staranne planowanie i testowanie przeciwników przed wdrożeniem, takie jak red teaming, pomaga nam mapować potencjalne zagrożenia. Podstawowe modele, które obsługują środowisko funkcji Copilot, przeszły testy zespołu czerwonego przeprowadzone przez testerów, którzy reprezentują multidyscyplinarne perspektywy w odpowiednich obszarach tematycznych. Testy te miały na celu ocenę, jak najnowsza technologia będzie działać zarówno z dodatkowymi zabezpieczeniami, jak i bez nich. Intencją tych ćwiczeń na poziomie modelu jest wygenerowanie szkodliwych reakcji, ujawnienie potencjalnych możliwości niewłaściwego użycia oraz zidentyfikowanie możliwości i ograniczeń.
Testowanie na poziomie aplikacji przed wydaniem. Przed publicznym udostępnieniem funkcji Copilot przeprowadziliśmy red teaming na poziomie aplikacji w celu zidentyfikowania niedociągnięć i luk w zabezpieczeniach. Te testy pomogły nam zrozumieć, w jaki sposób szerokie grono użytkowników może korzystać z funkcji Copilot i świadomych ulepszeń naszych środków zaradczych.
Trwające testy. Testujemy również nowe funkcje i aktualizacje techniczne, w stosownych przypadkach, podczas aktualizowania funkcji Copilot. Ten ciągły proces pomaga nam identyfikować wyłaniające się zagrożenia i z czasem udoskonalać środki zaradcze.
Miara: Oprócz oceny funkcji Copilot pod kątem naszych istniejących ocen bezpieczeństwa, opisane powyżej zastosowanie red teamingu pomogło nam opracować oceny i metryki odpowiedzialnej sztucznej inteligencji odpowiadające zidentyfikowanym potencjalnym zagrożeniom, takim jak jailbreaki, szkodliwa zawartość i nieugruntowana zawartość.
Zebraliśmy dane konwersacyjne ukierunkowane na te zagrożenia, wykorzystując kombinację uczestników i zautomatyzowany potok generowania konwersacji. Każda ocena jest następnie oceniana przez pulę wyszkolonych ludzkich anotatorów lub zautomatyzowany potok adnotacji. Za każdym razem, gdy produkt ulega zmienia, istniejące środki zaradcze są aktualizowane lub proponowane są nowe środki zaradcze, aktualizujemy nasze potoki oceny, aby ocenić zarówno wydajność produktu, jak i metryki odpowiedzialnej sztucznej inteligencji. Te zautomatyzowane potoki kontekstu oceny są kombinacją zebranych rozmów z ludzkimi ewaluatorami i syntetycznych rozmów generowanych za pomocą modeli LLM zachęcanych do testowania zasad w sposób kontradyktoryjny. Każda z tych ocen bezpieczeństwa jest automatycznie oceniana za pomocą modeli LLM. W przypadku nowo opracowanych ocen każda ocena jest początkowo oceniana przez ludzi, którzy czytają zawartość tekstową lub słuchają danych wyjściowych audio, a następnie konwertowana na automatyczne oceny oparte na LLM.
Zamierzone zachowanie naszych modeli w połączeniu z naszymi potokami oceny – zarówno ludzkimi, jak i zautomatyzowanymi – umożliwia nam szybkie przeprowadzanie pomiarów potencjalnych zagrożeń na dużą skalę. W miarę jak z czasem identyfikujemy nowe problemy, nadal rozszerzamy zestawy pomiarów w celu oceny dodatkowych zagrożeń.
Zarządzaj: Po zidentyfikowaniu potencjalnych zagrożeń i nadużyć za pośrednictwem czerwonego zespołu i zmierzeniu ich za pomocą opisanych powyżej podejść opracowaliśmy dodatkowe środki zaradcze, które są specyficzne dla środowiska funkcji Copilot. Poniżej opisujemy niektóre z tych środków zaradczych. Będziemy nadal monitorować środowisko funkcji Copilot, aby poprawić wydajność produktu i nasze podejście do ograniczania ryzyka.
Etapowe plany udostępniania i ciągła ocena. Dokładamy wszelkich starań, aby stale uczyć się i ulepszać nasze podejście do odpowiedzialnej sztucznej inteligencji w miarę rozwoju naszych technologii i zachowań użytkowników. Nasza strategia stopniowego udostępniania była kluczową częścią tego, jak bezpiecznie przenosimy naszą technologię z laboratorium na świat i dokładamy wszelkich starań, aby zapewnić korzyści płynące ze środowiska Copilot. Regularnie wprowadzamy zmiany w funkcji Copilot, aby poprawić wydajność produktu i istniejące środki zaradcze oraz wdrożyć nowe środki zaradcze w odpowiedzi na nasze wnioski.
Wykorzystanie klasyfikatorów i komunikatu systemowego w celu ograniczenia potencjalnego ryzyka lub nadużyć. W odpowiedzi na monity użytkowników modele LLM mogą generować problematyczne treści. Typy zawartości, które staramy się ograniczać, omówiliśmy w powyższych sekcjach Zachowanie i ograniczenia systemu. Klasyfikatory i komunikat systemowy to dwa przykłady środków zaradczych wdrożonych w funkcji Copilot w celu zmniejszenia ryzyka wystąpienia tego typu zawartości. Klasyfikatory klasyfikują tekst, aby oflagować potencjalnie szkodliwą zawartość w poleceniach użytkowników lub wygenerowanych odpowiedziach. Wykorzystujemy również istniejące najlepsze rozwiązania w zakresie wykorzystywania komunikatu systemowego, co obejmuje wydawanie instrukcji modelowi, aby dostosować jego zachowanie do zasad sztucznej inteligencji firmy Microsoft i oczekiwań użytkowników.
Przesyłanie obrazów do funkcji Asystent przeglądania Copilot. Gdy użytkownik po raz pierwszy przekaże obraz do funkcji Asystent przeglądania Copilot, otrzyma informacje o tym, jak jego obraz jest przetwarzany przez funkcję Copilot. Jeśli użytkownik nie będzie kontynuował przekazywania, obraz nie zostanie wysłany do funkcji Copilot. Wszystkie obrazy są usuwane w ciągu 30 dni od zakończenia konwersacji.
Ujawnienie AI. Funkcja Copilot została również zaprojektowana w celu informowania ludzi, że wchodzą w interakcję z systemem sztucznej inteligencji. W miarę korzystania przez użytkowników z funkcji Copilot oferujemy różne punkty styku, które mają pomóc im zrozumieć możliwości systemu, ujawnić im, że funkcja Copilot jest obsługiwana przez sztuczną inteligencję, oraz przekazać ograniczenia. Środowisko zostało zaprojektowane w taki sposób, aby ułatwić użytkownikom maksymalne wykorzystanie możliwości funkcji Copilot i zminimalizować ryzyko nadmiernego polegania na niej. Ujawnienia pomagają również użytkownikom lepiej zrozumieć funkcję Copilot i ich interakcje z nią.
Pochodzenie medialne. Dla wszystkich obrazów utworzonych za pomocą funkcji Copilot zaimplementowaliśmy poświadczenia zawartości oparte na standardzie C2PA, aby ułatwić użytkownikom określenie, czy obrazy były edytowane, czy generowane przez sztuczną inteligencję. Metadane pochodzenia można wyświetlić w witrynie Poświadczenia zawartości.
Zautomatyzowane wykrywanie zawartości. Gdy użytkownicy przesyłają obrazy w ramach poleceń czatu, funkcja Copilot wdraża narzędzia do wykrywania obrazów związanych z wykorzystywaniem seksualnym dzieci i nadużyciami seksualnymi (CSEAI). Firma Microsoft zgłasza wszystkie podejrzenia CSEAI do National Center for Missing and Exploited Children (NCMEC) zgodnie z wymogami prawa Stanów Zjednoczonych. Gdy użytkownicy przesyłają pliki do analizy lub przetworzenia, funkcja Copilot wdraża zautomatyzowane skanowanie w celu wykrycia zawartości, która może prowadzić do zagrożeń lub niewłaściwego użycia, takiej jak tekst, który może odnosić się do nielegalnych działań lub złośliwego kodu.
Warunki użytkowania i Kodeks postępowania. Użytkownicy powinni przestrzegać obowiązujących Warunków użytkowania i Kodeksu postępowania usługi Copilot, Umowy o świadczenie usług firmy Microsoft oraz Oświadczenia o ochronie prywatności firmy Microsoft, które między innymi informują ich o dozwolonym i niedozwolonym użyciu oraz konsekwencjach naruszenia warunków. Warunki użytkowania zawierają również dodatkowe informacje dla użytkowników i służą jako odniesienie dla użytkowników w celu uzyskania informacji o funkcji Copilot. Użytkownicy, którzy dopuszczają się poważnych lub powtarzających się naruszeń, mogą zostać tymczasowo lub na stałe zawiesi korzystanie z usługi.
Opinie, monitorowanie i nadzór. Środowisko funkcji Copilot obejmuje narzędzia umożliwiające użytkownikom przesyłanie opinii, które są przeglądane przez zespoły operacyjne firmy Microsoft. Ponadto nasze podejście do mapowania, mierzenia i zarządzania ryzykiem będzie nadal ewoluować, gdy dowiemy się więcej, i już teraz wprowadzamy ulepszenia w oparciu o opinie zebrane w okresach podglądu.
Wykrywanie i reagowanie na ryzyko samobójstwa i Self-Harm. Funkcja Copilot używa klasyfikatorów uczenia maszynowego przeszkolonych w rozpoznawaniu wzorców językowych, które mogą wskazywać na zamiar popełnienia samobójstwa lub samookaleczenia przez użytkownika. Po wykryciu takiej zawartości system wycofuje się z rozmowy i zamiast tego zapewnia zasoby wsparcia kryzysowego (na przykład linię ratunkową ds. samobójstw i kryzysów pod numerem 988 w Stanach Zjednoczone), zachęcając użytkowników do szukania profesjonalnej pomocy. Funkcja Copilot nie zapewnia porad; Jego rola ogranicza się do wykrywania i kierowania w celu zapewnienia bezpieczeństwa użytkownika.
Powiadomienie o rozszerzonym użyciu. Funkcja Copilot może przypominać użytkownikom o zrobieniu przerwy, jeśli przez dłuższy czas prowadzą ciągłą konwersację. Użytkownicy są również regularnie informowani, że sztuczna inteligencja nie jest człowiekiem i może popełniać błędy.