2026 年 8 月 18 日
注
- この記事の情報は、個人のメール アドレスなどの Microsoft アカウントでサインインしている個人による Microsoft Copilot の使用にのみ適用されます。
- ユーザーが職場または学校アカウントでサインインしている組織での Microsoft Copilot の使用については、「アプリケーション カード: Microsoft Copilot (組織向け)] を参照してください。
透明性メモとは
AIシステムには、テクノロジーだけでなく、それを使う人、影響を受ける人、そしてそれが展開される環境も含まれます。 Microsoft の透明性に関するメモは、Copilot の背後にある AI テクノロジの仕組み、システムのパフォーマンスと動作に影響を与える選択、システム全体について考えることの重要性を理解するのに役立つよう、Copilot のユーザーが自分のエクスペリエンスをコントロールし、安全でセキュアな製品を提供するために実行している手順を理解できるようにするためのものです。
Microsoft の透明性に関するメモは、AI 原則を実践するための Microsoft の広範な取り組みの一環です。 詳細については、Microsoft AI 原則を参照してください。
Microsoft Copilot の基本
概要
Microsoft Copilot は、アイデアから完成した作業まで、すべてを 1 か所で行うのに役立ちます。 Copilot は Word、Excel、PowerPoint、Outlook、Teams などに統合されており、使用するファイルと情報を 1 つのエクスペリエンスにまとめます。 Copilot は、洗練されたドキュメント、プレゼンテーション、スプレッドシートの作成、メールの下書き、1 日の整理、作業中の作業に基づいた回答を得るのに役立ちます。 Cowork を使用すると、Copilot はより大きな複数ステップのタスクを支援し、完了した To Do を提供することもできます。 また、さまざまな種類の作業に対応する主要な AI モデルから選択することもできます。 特定の機能はサブスクリプションによって異なります。
Microsoft は責任ある AI の実現に真剣に取り組んでいます。 Copilot は、Microsoft の AI 原則、Microsoft の Responsible AI Standard に沿って開発され、Microsoft の責任ある AI オフィス、エンジニアリング チーム、Microsoft Research、Aether など、会社全体の責任ある AI 専門家とのパートナーシップにより開発されました。 詳細については、 Microsoft の責任ある AI をご覧ください。
このドキュメントでは、Copilot の責任ある AI に対する Microsoft のアプローチについて説明します。 リリースに先立ち、Microsoft の最先端の手法を活用して、システムの潜在的なリスクと誤用をマッピング、測定、管理し、ユーザーにとってのメリットを確保しました。 Copilot を進化させ続ける中で、責任ある AI の取り組みについても学習し、改善してきました。 このドキュメントは、進化するプロセスと方法を伝えるために定期的に更新されます。
主な用語
分類子 データをラベル付けされたクラスまたは情報のカテゴリに分類するのに役立つ機械学習モデル。 Copilot では、分類子を使用する方法の 1 つは、ユーザーが送信した、またはシステムによって生成された有害な可能性のあるコンテンツを検出して、そのコンテンツの生成とシステムの誤用または乱用を軽減することです。
グラウンディング ユーザーが情報を検索する特定の会話では、Copilot は Web 検索結果に基づいています。 つまり、Copilot は Web からの上位のコンテンツを中心として応答し、生成されたテキスト応答の後または音声モードでの会話のトランスクリプトにハイパーリンク付きの引用を提供します。
大規模言語モデル (LLM) このコンテキストでの大規模言語モデル (LLM) は、大量のテキスト データでトレーニングされ、単語をシーケンス的に予測する AI モデルです。 LLM は、テキストの生成、要約、翻訳、分類など、さまざまなタスクを実行できます。
緩和策 Copilot 内の AI 機能の使用により発生する可能性のある潜在的なリスクを軽減するために設計された方法または方法の組み合わせ。
マルチモーダル モデル (MMM) マルチモーダル モデル (MMM) は、テキスト、画像、オーディオなど、さまざまな種類のデータでトレーニングされる AI モデルです。 これらのモデルは、テキストの書き込み、画像の記述、音声の認識、さまざまな種類のデータにわたる情報の検索など、さまざまなタスクを実行できます。
プロンプト: Copilot 内の AI 機能を操作するためにユーザーが Copilot に送信するテキスト、画像、またはオーディオの形式での入力。
レッド チーム システムの限界と脆弱性を評価し、計画された軽減策の有効性をテストするために専門家によって使用される手法。 レッドチームテストでは、潜在的なリスクを特定するために、良性と敵対的なペルソナの両方を採用するテスターが含まれ、リスクの体系的な測定とは異なります。
応答 プロンプトに応答して、またはユーザーとのやり取りの一環として Copilot が出力するテキスト、画像、またはオーディオ。 「応答」の同義語には、「完了」、「生成」、「回答」が含まれます。
小規模言語モデル (SLM) この文脈における小規模言語モデル (SLM) は、大規模言語モデルと比較して、より小さく、より焦点を絞った量のデータでトレーニングされた AI モデルです。 SLM はサイズが小さいにもかかわらず、テキストの生成、要約、翻訳、分類などのさまざまなタスクを実行できます。 LLM の広範な機能には及ばないかもしれませんが、多くの場合、SLM はリソース効率が高く、特定の対象を絞ったアプリケーションに対して非常に効果的です。
システム メッセージ システム メッセージ ("メタプロンプト" と呼ばれることもあります) は、システムの動作をガイドする機能を持つプログラムです。 システム メッセージの一部は、システムの動作を Microsoft の AI 原則およびユーザーの期待に合わせるのに役立ちます。 たとえば、システム メッセージに、"身体的、感情的、または経済的危害を引き起こす可能性のある情報を提供しない、またはコンテンツを作成しないでください" などの行が含まれる場合があります。
機能
システムの動作
Copilot では、ユーザーのさまざまなタスクに役立つ魅力的なエクスペリエンスを提供するため、よりパーソナライズされた AI エクスペリエンスをユーザーに提供する革新的なアプローチを開発しました。 この革新的なアプローチでは、言語モデルや Microsoft、OpenAI、その他のモデル開発者のマルチモーダル モデルなど、さまざまな高度なテクノロジーが活用されています。 一般公開前に、Copilot の基盤となるモデルの安全技術の実装に取り組み、強化された Copilot エクスペリエンスを提供するカスタマイズされた機能と動作のセットを開発しました。 Copilot では、ユーザーは自然言語、テキスト、または音声でプロンプトを送信できます。 応答は、テキスト形式のチャット応答 (必要に応じて Web コンテンツへの従来のリンクを含む) や画像 (プロンプトの一部として画像要求が行われた場合) など、いくつかの異なる形式でユーザーに表示されます。 ユーザーが Copilot 音声モードで自然言語の音声でプロンプトを送信すると、音声応答が届きます。
ユーザーが Copilot にプロンプトを入力すると、プロンプト、会話履歴、システム メッセージが複数の入力分類器を介して送信され、有害または不適切なコンテンツをフィルター処理するのに役立ちます。 これは、モデルのパフォーマンスを向上させ、ユーザーが安全でない方法でモデルにプロンプトを送信しようとする状況を軽減するための重要な最初の手順です。 プロンプトが入力分類器を通過すると、要求に Web からの根拠となるデータが必要かどうか、および要求に応答する必要がある言語モデルが決定されます。 すべてのモデルは、ユーザーのプロンプトと最近の会話履歴を使用して応答を生成し、要求をコンテキスト化し、システム メッセージを使用して応答を Microsoft の AI 原則とユーザーの期待に合わせ、必要に応じて、応答を検索結果と合わせて、Web からの既存の上位コンテンツの応答の基礎に合わせます。
応答は、テキスト形式のチャット応答、Web コンテンツ、画像、音声応答への従来のリンクなど、いくつかの異なる形式でユーザーに提示されます。 応答がテキスト形式で提供され、その応答が Web からのデータに基づいている場合、出力にはテキストの下にハイパーリンクがリストされているため、ユーザーは応答の根拠となる Web サイトにアクセスし、そこからトピックの詳細を確認できます。 Copilot は、コードを実行して複雑な計算を完了し、グラフを生成することもできます。 Copilot は、ユーザーが記憶するよう要求する特定の事実を保存し、そのコンテキストに基づいてより関連性の高い応答や提案を生成できるようにします。 Copilot は、ユーザーが明示的に忘れるように要求した場合に、保存した事実を削除することもできます。
Copilot は、ユーザーが新しいストーリー、詩、歌詞、画像を作成するのにも役立ちます。 クリエイティブなコンテンツ ("書き込みください" で始まるユーザー プロンプトなど) を生成しようとするユーザーの意図を Copilot が検出すると、ほとんどの場合、システムはユーザーのプロンプトに応答するコンテンツを生成します。 同様に、Copilot が画像生成の意図 ("..." で始まるユーザー プロンプトなど) を検出すると、ほとんどの場合、Copilot はユーザーのプロンプトに応答する画像を生成します。 アップロードされた画像 ("..." で始まるユーザー プロンプトなど) を変更しようとするユーザーの意図を Copilot が検出すると、ほとんどの場合、Copilot はユーザーのプロンプトに応答して画像を変更します。 ユーザー プロンプトに問題のあるコンテンツにつながる可能性のある特定の用語が含まれている場合、Copilot はクリエイティブ コンテンツで応答しない場合があります。
意図された安全行動
Copilot の目標は、ユーザーの役に立つことであり、有害なコンテンツを生成する可能性を減らし、安全で肯定的なユーザー エクスペリエンスの可能性を高めるのに役立つ安全対策を実装しています。 Microsoft はリスクを軽減するための措置を講じていますが、Copilot の背後にあるような生成 AI モデルは確率的であり、間違いを犯す可能性があるため、軽減策が有害なユーザー プロンプトや AI によって生成された応答をブロックできない可能性があります。 Copilot の使用中に有害または予期しないコンテンツが発生した場合は、引き続きエクスペリエンスを向上できるよう、フィードバックを提供してお知らせください。
使用例
使用目的
Copilot は、ユーザーがテキスト、画像、音声を使用した自然言語を通じて質問に答え、コンテンツを生成し、タスクを完了できるように設計されています。 役に立つ関連性の高い回答を提供するために、Copilot は利用可能なソースから情報を取得、分析、要約する場合があります。 一部の高度な機能は、対象となるサブスクリプションを持つユーザーのみが使用できる場合があります。 一般的なユース ケースの例を次に示します。
テキストを使用して Chat し、Web ベースの要約を取得します。 ユーザーはテキストで Copilot とチャットし、フォローアップの質問をして新しい情報を見つけたり、さまざまなトピックに関するサポートを受けたりできます。 Copilot は Web 検索を実行でき、上位の Web 検索結果を使用して、ユーザーに提示する情報の概要を生成します。 これらの要約には、ユーザーが Copilot の概要の基礎となった検索結果のソースを確認するのに役立つ Web ページへの引用が含まれています。 ユーザーはこれらのリンクをクリックして Web サイトのソースにアクセスし、詳細を確認したり、Web サイトの信頼性を評価したりできます。
新しいアイデアを生み出すためのヘルプを入手してください。 ユーザーが Copilot エクスペリエンスを操作するたびに、一連のカードが表示されます。クリックすると、有用で興味深いトピックについて Copilot とチャットを開始できます。 ユーザーが他の Microsoft コンシューマー サービスを利用したことがある場合、カードはプライバシー ポリシーに従ってカスタマイズされます。 時間の経過と共に、Copilot のカードはユーザーのチャット履歴に基づいてカスタマイズされる場合があります。 ユーザーは設定でいつでも個人用設定をオプトアウトできます。
クリエイティブなコンテンツを生成します。 Copilot とチャットする場合、ユーザーは Copilot の助けを借りて、新しい詩、ジョーク、ストーリー、画像、その他のコンテンツを作成できます。 Copilot では、要求に応じてユーザーがアップロードした画像を編集することもできます。
研究を支援します。 Copilot は、詳細なリソースを表示し、トピックの詳細な内訳を提供し、ソースにリンクすることで調査タスクを実行できるため、ユーザーはより複雑なクエリに対して迅速な回答だけでなく、すぐに答えを得ることができます。 Copilot は、過去の調査クエリや Copilot のメモリなどに基づいて、ユーザー向けにパーソナライズされた調査提案を積極的に生成する場合があります。 ユーザーは、設定でいつでも個人用設定または通知をオプトアウトできます。
商品を検索、比較、購入できます。 Copilot ショッピングは、商品の検索、オプションの比較、購入の効率化に役立ちます。 特定された場合を除き、Microsoft は、Copilot で提供される製品の提案や検索結果に対して、コミッションやその他の報酬を受け取ることはありません。
Copilot Learn でよりスマートに学習します。 Copilot Learn では、テストや模擬テストの作成、フラッシュカードの生成ができます。また、画像を使用して応答を強化して複雑な概念を理解しやすくするように設計されています。
毎日のタスクのヘルプを表示します。 Copilot Cowork は、ユーザーに代わってタスクを実行します。 必要なものを自然言語で説明すると、Cowork がドキュメントの作成、メールの作成と送信、会議のスケジュール設定、ファイルの管理などを行います。 機密性の高いアクションは、その前に確認して承認します。
ファイルを分析および編集します。 Copilot のファイルのアップロードを使用すると、ユーザーは画像またはサポートされている特定のファイルの種類をチャット セッションに直接アップロードできます。 アップロードされると、Copilot はこれらのファイルから情報を分析および抽出して、関連する分析情報を提供したり、質問に回答したり、特定のタスクを支援したりできます。 Copilot は、ユーザーの許可を得て、OneDrive や Google ドライブなどの接続されたオンライン ストレージ プロバイダー内のファイルを参照することもできます。
見て理解します。 Vision を使用して、画像を分析し、写真から分析情報を取得し、視覚的に検索します。 Copilot はアップロードされた画像を確認して、表示されている内容を理解するのに役立ちます。
自分の声を使う。 ボイス チャットを使用して Copilot と自然に会話します。 完全にハンズフリーで、アイデアをブレインストーミングしたり、コンテンツを作成したり、すばやく回答を得たりすることができます。
他のアプリに接続します。 メール、予定表、ファイル、連絡先、その他のサービスなど、選択したアプリや情報を取り込みます。
他のユース ケースを選択する際の考慮事項
AI は間違いを犯す可能性があり、特定のユース ケースに適さない可能性があるため、意思決定を行ったり、Copilot の回答に基づいて行動したりする前に、ユーザーはすべてのコンテンツを確認することをお勧めします。 さらに、避けるべきシナリオや、利用規約に反するシナリオがあります。 たとえば、Microsoft は、違法行為に関連して、または違法行為を促進することを意図した目的で Copilot を使用することを許可していません。
制限事項
Copilot エクスペリエンスの基盤となる言語、画像、音声のモデルには、社会的な偏見を反映する可能性のあるトレーニング データが含まれている場合があります。その結果、Copilot が不公平、信頼できない、または攻撃的であると認識される動作を引き起こす可能性があります。 集中的なモデル トレーニングと安全性の微調整、およびトレーニング データ、ユーザー プロンプト、モデル出力に配置する責任ある AI 制御と安全システムの実装にもかかわらず、AI 主導のサービスは誤りがあり、確率的です。 これにより、すべての不適切なコンテンツを包括的にブロックすることが困難になり、AI によって生成されたコンテンツに潜在的な偏見、固定観念、根拠のない、またはその他の種類の害が現れる可能性があるリスクにつながります。 これらの制限が Copilot エクスペリエンスに現れる可能性があるいくつかの方法を次に示します。
ステレオタイプ化: Copilot エクスペリエンスは、固定観念を強化する可能性があります。 たとえば、"He is a nurse" と "She is a doctor" をトルコ語などの性別のない言語に翻訳してから、英語に戻す場合、Copilot は誤って "She is a nurse" and "He is a doctor" というステレオタイプな (そして正しくない) 結果をもたらす可能性があります。別の例としては、「父親のいない子供たち」というプロンプトに基づいて画像を生成する場合、システムは 1 つの人種または民族のみの子供の画像を生成し、基礎となるモデルのトレーニングに使用される公開されている画像に存在する可能性のある有害な固定観念を強化する可能性があります。 また、Copilot は、画像の構成要素に依存し、真実ではない可能性のある仮定をすることで、ユーザーの入力画像の内容に基づいてステレオタイプを強化する場合もあります。 Microsoft は、入出力分類器、微調整されたモデル、システム メッセージなど、不快なステレオタイプを含むコンテンツのリスクを軽減するための緩和策を実装しました。
過大評価と過小評価: Copilot は、応答において、人々のグループを過大または過小表現するか、あるいはまったく表さない可能性があります。 たとえば、"ゲイ" という単語を含むテキスト プロンプトが潜在的に有害または攻撃的であると検出された場合、これは LGBTQIA+ コミュニティについての正当な世代の過小評価につながる可能性があります。 入出力分類器、微調整されたモデル、システム メッセージを含めることに加えて、ユーザーのグループを過大または過小に表現するコンテンツのリスクを軽減するためのいくつかの軽減策の 1 つとして、Designer のプロンプト エンリッチメントを使用しています。
不適切または不快なコンテンツ: Copilot エクスペリエンスでは、他の種類の不適切または不快なコンテンツが生成される可能性があります。 たとえば、プロンプトのコンテキストでは不適切な 1 つのモダリティ (オーディオなど) でコンテンツを生成する機能や、別のモダリティ (テキストなど) の同じ出力と比較した場合などです。 他の例としては、ヘイト シンボルなどの有害なアーティファクトを含む可能性のある AI によって生成された画像、論争、物議を醸す、またはイデオロギー的に二極化するトピックに関連するコンテンツ、性関連コンテンツのフィルターを回避する性的に帯びたコンテンツなどがあります。 Microsoft では、入出力分類器、微調整されたモデル、システム メッセージなど、不適切または不快なコンテンツを含む世代のリスクを軽減するための緩和策を導入しました。
情報の信頼性: Copilot は、根拠となる情報が求められる信頼できるソースで対応することを目的としていますが、AI は間違いを犯す可能性があります。 無意味なコンテンツを生成したり、合理的に聞こえるかもしれないが事実としては不正確なコンテンツを捏造したりする可能性があります。 信頼できる Web データから応答を引き出す場合でも、完全に正確、最新、または信頼できるとは言えない方法で応答がコンテンツを誤って表示する可能性があります。 ユーザー インターフェイスやこのようなドキュメントでは、Copilot が間違いを犯す可能性があることをユーザーに注意喚起しています。 また、意思決定を行う前に事実を再チェックしたり、Copilot の回答に基づいて行動したりすることを奨励するなど、AI の限界についてユーザーを引き続き教育します。 ユーザーがテキストを介して Copilot と対話している場合、世代が接地されていないリスクを軽減するために、Copilot は高品質の Web データに基づいていようとします。
多言語パフォーマンス: 言語によってパフォーマンスにばらつきがある可能性があり、Copilot のリリース時点では英語が最もパフォーマンス高くなっています。 言語全体のパフォーマンスの向上は重要な投資分野であり、最近のモデルではパフォーマンスの向上につながっています。
オーディオの制限事項: オーディオ モデルでは、その他の制限が導入される場合があります。 大まかに言えば、音声入力の音響品質、非音声ノイズ、語彙、アクセント、挿入エラーも、Copilot がユーザーのオーディオ入力を満足のいく方法で処理して応答するかどうかにも影響する可能性があります。
AI は専門家の支援の代わりになるものではありません。 AI は問題解決に役立つツールであり、共感できると見えますが、専門家の助けを求める代わりになるものではありません。 うつ病、自殺や自傷行為の念想、その他のメンタル ヘルス上の問題を抱えている場合は、専門家の助けを求めてください。 Copilot を使用して、近くの危機やメンタル ヘルスのリソースを見つけることもできます。
インターネット接続への依存: Copilot は、インターネット接続に依存して機能します。 接続の中断は、サービスの可用性とパフォーマンスに影響を与える可能性があります。
エージェントを作成または使用する場合は注意が必要です。 ユーザーは、特にエージェントによって実行されたアクションが重大な結果をもたらす可能性がある場合、元に戻せない可能性、または機密性の高い個人情報 (パスワード、ログイン、個人データなど) を共有する可能性がある場合、独自のエージェントを作成したり、他者から提供されたエージェントを使用したりする場合は注意する必要があります。 エージェントはすべてのユース ケースでうまく機能するとは限らず、間違いを犯したり、指示を誤解したり、悪意のある隠された指示に騙されたりする可能性があるため、ユーザーは結果を注意深く監視し、重要な詳細を確認する必要があります。ユーザーは、有害な Web サイトへのアクセスや不適切なコンテンツの作成など、特定のユース ケースから制限される場合があります。 Microsoft サービス規約の「行動規範」セクションで詳しく説明するように、自律エージェント AI を作成する場合は、追加の予防措置も講じる必要があります。
システムのパフォーマンス
多くの AI システムでは、多くの場合、パフォーマンスは精度 (つまり、AI システムが正しい予測または出力を提供する頻度) に関連して定義されます。 Copilot では、ユーザーの好みを反映する AI 搭載のアシスタントとして Copilot に焦点を当てています。 したがって、2 人の異なるユーザーが同じ出力を見て、それがどの程度有用であるか、または固有の状況や期待との関連性について異なる意見を持っている可能性があります。これは、これらのシステムのパフォーマンスをより柔軟に定義する必要があることを意味しています。 パフォーマンスは、アプリケーションがユーザーの期待どおりに動作することを意味すると見なされます。
システム パフォーマンスを改善するためのベスト プラクティス
自然な会話言語を使用してインターフェイスを操作します。 ユーザーが使いやすい方法で Copilot と対話することは、エクスペリエンスを通じてより良い結果を得るための鍵です。 人々が日常生活で効果的にコミュニケーションできるようにするための手法を採用するのと同様に、AI 搭載のアシスタントとして Copilot をユーザーが使い慣れたテキストまたは音声で操作すると、より良い結果を引き出すのに役立つ可能性があります。
ユーザー エクスペリエンスと導入。 Copilot を効果的に使用するには、ユーザーがその機能と制限を理解する必要があります。 学習曲線が生じる場合があり、ユーザーはさまざまな Copilot リソース (学習 & Microsoft Copilotなど) を参照して、サービスを効果的に操作し、サービスから利益を得ることができます。
リスクのマッピング、測定、管理
他の変革的テクノロジと同様に、AI の利点を活用することにもリスクが伴うわけではありません。 Microsoft の責任ある AI プログラム の中核となる部分は、潜在的なリスクを特定してマッピングし、それらのリスクを測定し、軽減策を構築し、Copilot を継続的に改善することで管理するように設計されています。 以下のセクションでは、潜在的なリスクをマッピング、測定、管理するための反復的なアプローチについて説明します。
マップ: 慎重な計画と、レッド チームなどの展開前の敵対的テストは、潜在的なリスクのマッピングに役立ちます。 Copilot エクスペリエンスを強化する基盤となるモデルは、関連するトピック領域にわたって学際的な視点を代表するテスト担当者によるレッド チーム テストを通過しました。 このテストは、最新のテクノロジーが追加の保護手段を適用する場合と適用しない場合の両方で、どのように機能するかを評価するために設計されました。 モデル レベルでのこれらの演習の目的は、有害な応答を生成し、悪用の潜在的な手段を明らかにし、機能と制限を特定することです。
リリース前のアプリケーション レベルのテスト。 Copilot を一般に公開する前に、アプリケーション レベルのレッド チームを実施して欠点と脆弱性を特定しました。 このテストは、さまざまなユーザーが Copilot をどのように使用できるかを理解するのに役立ち、マイクロソフトの緩和策に対する十分な情報に基づいた改善策を実現しました。
現在進行中のテスト。 また、Copilot を更新する際には、必要に応じて新機能や技術的な更新プログラムもテストします。 この継続的なプロセスは、新たなリスクを特定し、時間の経過とともに緩和策を改善するのに役立ちます。
メジャー: 既存の安全性評価に照らして Copilot を評価することに加えて、上記のレッド チームを使用することで、脱獄、有害なコンテンツ、接地されていないコンテンツなど、特定された潜在的なリスクに対応する評価と責任ある AI メトリックを開発するのに役立ちました。
Microsoft は、人間の参加者と自動会話生成パイプラインを組み合わせて、これらのリスクをターゲットとした会話データを収集しました。 各評価は、トレーニングされた人間のアノテーターのプールまたは自動化されたアノテーションパイプラインのいずれかによってスコアリングされます。 製品が変更されるたびに、既存の軽減策が更新されるたびに、または新しい軽減策が提案されるたびに、評価パイプラインを更新して、製品のパフォーマンスと責任ある AI メトリックの両方を評価します。 これらの自動評価コンテキスト パイプラインは、収集された人間の評価者との会話と、敵対的な方法でポリシーをテストするように促される LLM によって生成された合成的な会話の組み合わせです。 これらの安全性評価はそれぞれ、LLM によって自動的に採点されます。 新しく開発された評価では、各評価はまず、テキストコンテンツを読んだり、音声出力を聞いたりする人間のラベラーによって採点され、その後、LLMベースの自動評価に変換されます。
モデルの意図された動作と、人間と自動の両方の評価パイプラインを組み合わせることで、潜在的なリスクの測定を大規模に迅速に実行することができます。 時間の経過に伴って新しい問題が特定されると、測定セットを引き続き拡張して追加のリスクを評価します。
管理: レッド チームを通じて潜在的なリスクと悪用を特定し、上記のアプローチで測定した結果、Copilot エクスペリエンスに特有の追加の軽減策を開発しました。 以下では、それらの軽減策の一部について説明します。 製品のパフォーマンスとリスク軽減アプローチを向上させるために、引き続き Copilot エクスペリエンスを監視します。
段階的なリリース計画と継続的な評価。 Microsoft は、テクノロジとユーザーの行動が進化するにつれて、責任ある AI アプローチを継続的に学習し、改善することに取り組んでいます。 増分リリース戦略は、テクノロジをラボから安全に世界に移す方法の中核であり、Copilot エクスペリエンスのメリットを確保するために、慎重で思慮深いプロセスに取り組んでいます。 製品のパフォーマンスと既存の軽減策を改善し、学習したことに応じて新しい軽減策を実装するために、Copilot に定期的に変更を加えています。
分類子とシステム メッセージを活用して、潜在的なリスクや誤用を軽減します。 LLM は、ユーザーのプロンプトに応じて問題のあるコンテンツを生成する場合があります。 上記の「システムの動作と制限事項」セクションで、制限しようとしているコンテンツの種類について説明しました。 分類子とシステム メッセージは、これらの種類のコンテンツのリスクを軽減するために Copilot に実装された軽減策の 2 つの例です。 分類子はテキストを分類して、ユーザー プロンプトまたは生成された応答で有害な可能性のあるコンテンツにフラグを設定します。 また、既存のベスト プラクティスを利用してシステム メッセージを活用します。これには、モデルの動作を Microsoft の AI 原則およびユーザーの期待に合わせるように指示を与えることが含まれます。
Copilot Vision に画像をアップロードしています。 ユーザーが初めて Copilot Vision に画像をアップロードすると、Copilot によって画像がどのように処理されるかに関する情報が提供されます。 ユーザーがアップロードを続行しない場合、画像は Copilot に送信されません。 すべての画像は、会話が終了してから 30 日以内に削除されます。
AI 開示。 Copilot は、AI システムを操作していることをユーザーに知らせるようにも設計されています。 ユーザーが Copilot を利用する際に、システムの機能を理解し、Copilot が AI を利用していることをユーザーに開示し、制限事項を伝えるのに役立つように設計されたさまざまなタッチポイントが提供されます。 このエクスペリエンスは、ユーザーが Copilot を最大限に活用し、過度の依存のリスクを最小限に抑えることができるように設計されています。 開示は、ユーザーが Copilot と Copilot のやり取りをより深く理解するのにも役立ちます。
メディアの由来。 Copilot で作成されたすべての画像には、画像が AI で編集されたのか生成されたのかをユーザーが識別できるように、コンテンツ資格情報 (C2PA 標準に基づく証明) が実装されています。 来歴メタデータは、 コンテンツ資格情報サイトで表示できます。
自動コンテンツ検出。 ユーザーがチャット プロンプトの一部として画像をアップロードすると、Copilot は児童の性的搾取および虐待画像 (CSEAI) を検出するツールをデプロイします。 Microsoft は、米国の法律で義務付けられているように、すべての明らかな CSEAI を全米行方不明・被搾取児童センター (NCMEC) に報告します。 ユーザーが分析または処理するためにファイルをアップロードすると、Copilot は自動スキャンを展開して、違法なアクティビティや悪意のあるコードに関連する可能性のあるテキストなど、リスクや悪用につながる可能性のあるコンテンツを検出します。
利用規約と行動規範。 ユーザーは、Copilot の該当する 利用規約 と 行動規範、 Microsoft サービス契約、 および Microsoft プライバシーに関する声明を遵守する必要があります。これらのステートメントには、特に、許可される使用と許可されない使用、および使用条件に違反した場合の結果が通知されます。 使用条件は、ユーザーに対して追加の開示も提供し、ユーザーが Copilot について学ぶための参照として機能します。 重大または繰り返し違反を犯したユーザーは、一時的または永久にサービスを停止される場合があります。
フィードバック、監視、監視。 Copilot エクスペリエンスには、ユーザーがフィードバックを送信できるツールが含まれており、Microsoft の運用チームによってレビューされます。 さらに、マッピング、測定、リスク管理に対する Microsoft のアプローチは、状況が深まるにつれて進化し続け、プレビュー期間中に収集されたフィードバックを基に既に改善を行っています。
自殺と Self-Harm のリスクの検出と対応。 Copilot は、ユーザーの自殺または自傷行為を示す可能性のある言語パターンを認識するようにトレーニングされた機械学習分類器を使用します。 このようなコンテンツが検出されると、システムは会話から離脱し、代わりに危機サポート リソース (たとえば、米国の 988 の自殺および危機ライフライン) を提供し、ユーザーに専門家の助けを求めるよう促します。 Copilot はカウンセリングを提供しません。その役割は、ユーザーの安全を確保するための検出と紹介に限定されます。
拡張使用通知。 Copilot は、ユーザーが長時間会話を続けている場合、休憩を取るようユーザーに通知する場合があります。 また、ユーザーには、AI は人間ではなく、間違いを犯す可能性があることも定期的に通知されます。