2026 年 8 月 18 日
注意
- 本文中的資訊僅適用於使用 Microsoft 帳戶 （例如個人電子郵件地址） 登入的個人使用 Microsoft Copilot。
- 如需在使用者使用公司或學校帳戶登入的組織中使用 Microsoft Copilot 的相關資訊，請參閱 申請卡：組織Microsoft Copilot () 。
什麼是透明度附註？
AI 系統不僅包括技術，還包括將使用它的人、將受其影響的人員以及部署它的環境。 Microsoft 的透明度資訊旨在協助您瞭解 Copilot 背後的 AI 技術的運作方式、我們所做的影響系統效能和行為的選擇，以及思考整個系統的重要性，讓 Copilot 使用者能夠控制自己的體驗，並了解我們為提供安全且可靠的產品所採取的步驟。
Microsoft 的透明度資訊是 Microsoft 更廣泛努力的一部分，旨在將我們的 AI 原則付諸實踐。 若要深入了解，請參閱 Microsoft AI 原則。
Microsoft Copilot 的基本概念
簡介
Microsoft Copilot 可協助您在單一位置從構想到完成的工作。 Copilot 已整合至 Word、Excel、PowerPoint、Outlook、Teams 等，將您使用的檔案和資訊整合到一個體驗中。 Copilot 可協助您建立精美的文件、簡報和試算表、撰寫電子郵件草稿、安排您的一天，並取得根據您正在執行的工作獲得解答。 有了 Cowork，Copilot 也可以協助處理較大型的多步驟工作，並提供已完成的待辦事項。 您也可以針對不同類型的工作選擇領先的 AI 模型。 具體功能因訂閱而異。
在 Microsoft，我們認真對待負責任 AI 的承諾。 Copilot 是根據 Microsoft 的 AI 原則、Microsoft 負責任的 AI Standard，以及與全公司負責任的 AI 專家合作開發，包括 Microsoft 負責任的 AI 辦公室、我們的工程團隊、Microsoft Research 和 Aether。 您可以在 Microsoft 負責任的 AI 中深入了解。
在本文件中，我們將說明我們針對 Copilot 負責任的 AI 的方法。 在發行之前，我們運用 Microsoft 最先進的方法來對應、衡量及管理系統中的潛在風險和誤用，以確保其為使用者帶來的好處。 隨著我們持續發展 Copilot，我們也持續學習並改善我們負責任的 AI 工作。 本文件將定期更新，以傳達我們不斷發展的流程和方法。
重要詞彙
分類器 有助於將資料分類為已標記類別或資訊類別的機器學習模型。 在 Copilot 中，我們使用分類器的其中一個方式是協助偵測使用者提交或系統產生的潛在有害內容，以降低該內容的產生以及系統誤用或濫用。
基礎設置 針對使用者尋求資訊的特定交談，Copilot 是以網頁搜尋結果為基礎。 這表示 Copilot 會將其回應放在來自網路上排名較高的內容，並在產生的文字回應之後或在語音模式下的交談文字記錄中提供超連結引文。
大型語言模型 (LLM) 在此情境下) 大型語言模型 (LLM 是經過大量文字資料訓練的 AI 模型，可依序列預測單字。 LLM 可以執行多種任務，例如文本生成、摘要、翻譯、分類等。
緩和措施 一種方法或方法組合，旨在降低在 Copilot 中使用 AI 功能時可能產生的潛在風險。
多模態模型 (MMM) 多模態模型 (MMM) 是經過不同類型資料訓練的 AI 模型，例如文字、圖像或音訊。 這些模型可以執行各種任務，例如編寫文字、描述圖像、識別語音以及在不同類型的資料中尋找資訊。
使用者以文字、影像和/或音訊形式的提示輸入，供 Copilot 與 Copilot 內的 AI 功能互動。
紅隊 專家用來評估系統的局限性和漏洞以及測試計劃緩解措施有效性的技術。 紅隊測試包括測試人員採用良性和對抗性角色來識別潛在風險，這與系統化的風險衡量不同。
回應 Copilot 為回應提示或作為與使用者來回交流的一部分而輸出的文字、影像或音訊。 「回應」的同義詞包括「完成」、「產生」和「回答」。
小型語言模型 (SLM) 在這種情況下) 小型語言模型 (SLM 是 AI 模型，與大型語言模型相比，這些模型在更小、更集中的資料量上進行訓練。 儘管 SLM 體積較小，但可以執行各種任務，例如文字產生、摘要、翻譯和分類。 雖然它們可能無法與 LLM 的廣泛功能相媲美，但 SLM 通常更節省資源，並且對於特定的、有針對性的應用程式非常有效。
系統訊息 系統訊息有時 (稱為「元提示」) 是一種用來指導系統行為的程式。 部分系統訊息可協助使系統行為符合 Microsoft 的 AI 原則和使用者期望。 例如，系統訊息可能包含「請勿提供資訊或建立可能造成身體、情感或財務傷害的內容」之類的行。
功能
系統行為
藉由 Copilot，我們開發了一種創新方法，為使用者帶來更個人化的 AI 體驗，提供引人入勝的體驗，協助使用者完成各種工作。 這種創新方法利用了各種先進技術，例如來自 Microsoft、OpenAI 和其他模型開發人員的語言和多模態模型。 在公開發行之前，我們致力於為 Copilot 底層模型實作安全性技術，以開發一組自訂的功能和行為，以提供增強的 Copilot 體驗。 在 Copilot 中，使用者可以用自然語言、文字或語音傳送提示。 回應會以數種不同的格式呈現給使用者，例如文字形式的聊天回應， (視需要使用傳統網頁內容連結，) 和影像 (如果在提示) 中提出影像要求。 如果使用者在 Copilot 語音模式中以自然語言語音傳送提示，他們將會收到音訊回應。
當使用者在 Copilot 中輸入提示時，提示、交談記錄和系統訊息會透過數個輸入分類器傳送，以協助篩選出有害或不當的內容。 這是幫助提高模型性能並減輕用戶可能嘗試以不安全的方式提示模型的情況的關鍵第一步。 一旦提示通過輸入分類器，就會判斷要求是否需要來自網路的基礎資料，以及哪個語言模型應該回應要求。 所有模型都會使用使用者的提示和最近的交談記錄來產生回應，以將要求內容化，系統訊息以使回應與 Microsoft 的 AI 原則和使用者期望保持一致，如果適當，使回應與搜尋結果保持一致，以根據網路現有的高排名內容中的回應。
回應會以數種不同的格式呈現給使用者，例如文字形式的聊天回應、Web 內容的傳統連結、影像和音訊回應。 當回應以文字形式提供，且回應以來自網路的資料為依據時，輸出會包含列於文字下方的超連結引文，以便使用者 (用來建立回應基礎的網站) 存取網站，並從那裡深入了解該主題。 Copilot 也可以執行程式碼來完成複雜的計算並產生圖形。 Copilot 可以儲存使用者要求它記住的特定事實，讓它能夠根據該內容產生更相關的回應和建議。 當使用者明確要求忘記已儲存的事實時，Copilot 也可以刪除這些事實。
Copilot 也可以協助使用者建立新的故事、詩句、歌詞和影像。 當 Copilot 偵測到使用者產生創意內容 (的意圖時，例如以「寫信給我 ...」開頭的使用者提示 ) ，在大多數情況下，系統會產生回應使用者提示的內容。 同樣地，當 Copilot 偵測到使用者想要產生影像 (，例如以「畫我一張...」開頭的使用者提示時 ) ，在大多數情況下，Copilot 會產生回應使用者提示的影像。 當 Copilot 偵測到使用者想要修改上傳的影像 (例如以「新增 ...」開頭的使用者提示時 ) 在大多數情況下，Copilot 會修改回應使用者提示的影像。 當使用者提示包含可能導致內容問題的特定字詞時，Copilot 可能不會以創意內容回應。
預期的安全行為
我們對 Copilot 的目標是協助使用者，而且我們實作保護措施，以協助降低產生有害內容的可能性，並增加獲得安全且正向使用者體驗的可能性。 雖然我們已採取步驟來降低風險，但像 Copilot 背後的生成式 AI 模型具有可能性性，可能會出錯，這表示緩和措施有時可能無法封鎖有害的使用者提示或 AI 產生的回應。 如果您在使用 Copilot 時遇到有害或非預期的內容，請提供意見反應來告知我們，以便我們繼續改善體驗。
使用案例
預期用途
Copilot 的設計目的是要協助使用者透過使用文字、影像和語音的自然語言來回答問題、產生內容，以及完成工作。 為了提供實用且相關的回應，Copilot 可能會從可用來源擷取、分析及摘要資訊。 某些進階功能可能僅適用於具有合格訂閱的使用者。 常見使用案例範例包括：
使用文字 Chat 並取得網頁摘要。 使用者可以透過文字與 Copilot 聊天，並詢問後續問題，以尋找新資訊並取得各種主題的支援。 Copilot 可以執行網頁搜尋，並會使用熱門網頁搜尋結果來產生要呈現給使用者的資訊摘要。 這些摘要包括網頁的引文，以協助使用者檢閱有助於 Copilot 摘要基礎的搜尋結果來源。 用戶可以點擊這些鏈接訪問網站來源，以了解更多信息或評估網站的可靠性。
取得產生新構想的協助。 每次使用者與 Copilot 體驗互動時，他們都會看到一組卡片，他們可以按一下卡片，開始與 Copilot 討論有用和有趣的主題。 如果使用者已經與其他 Microsoft 消費者服務互動，卡片將會根據我們的隱私權原則進行個人化。 一段時間後，Copilot 中的資訊卡可能會根據使用者的聊天記錄進行個人化。 使用者可以隨時在 [設定] 中選擇退出個人化。
產生創意內容。 與 Copilot 聊天時，使用者可以在 Copilot 的協助下創作新的詩句、笑話、故事、影像和其他內容。 如果使用者要求，Copilot 也可以編輯上傳的影像。
協助研究。 Copilot 可以透過呈現深入的資源、提供主題的詳細細分，以及連結至來源來執行研究工作，以協助使用者超越更複雜查詢的快速解答。 Copilot 可能會根據過去的研究查詢和 Copilot 記憶等內容，主動為使用者產生個人化的研究建議。 使用者可以隨時在設定中選擇退出個人化或通知。
探索、比較及購買產品。 Copilot 購物可協助您尋找產品、比較選項以及簡化購買。 除非已識別，否則 Microsoft 不會因在 Copilot 中提供的產品建議或搜尋結果而收取佣金或其他報酬。
使用 Copilot Learn 更聰明地學習。 Copilot Learn 可以建立測驗和練習測試、產生抽認卡，其設計目的是協助使用影像增強回應，讓複雜的概念更容易理解。
取得日常工作的說明。 Copilot Cowork 會代表您執行工作。 您以自然語言描述您需要什麼，Cowork 會完成這項工作，包括建立文件、撰寫草稿和傳送電子郵件、排程會議以及管理檔案。 您可以在敏感性動作發生之前， 先檢閱並核准它。
分析和編輯檔案。 Copilot 中的檔案上傳可讓使用者將影像或某些支援的檔案類型直接上傳到他們的聊天工作階段。 上傳後，Copilot 可以分析並擷取這些檔案中的資訊，以提供相關深入解析、回答問題或協助完成特定工作。 Copilot 也可以在您允許的情況下參考連線的線上儲存空間提供者，例如 OneDrive 和 Google 雲端硬碟中的檔案。
看見並理解。 使用 [視覺] 來分析影像、從相片取得深入解析，以及以視覺化方式進行搜尋。 Copilot 會檢閱上傳的影像，以協助您瞭解您看到的內容。
使用您的聲音。 使用語音聊天與 Copilot 自然交談。 完全免持地集思廣益、撰寫內容或快速取得解答。
連線至其他應用程式。 帶入您選擇的應用程式和資訊，例如電子郵件、行事曆、檔案、連絡人和其他服務。
選擇其他使用案例時的考量項目
我們鼓勵使用者在做出決策或根據 Copilot 的回應採取行動之前，先檢閱所有內容，因為 AI 可能會犯錯，而且可能不適合某些使用案例。 此外，我們建議您避免某些或違反使用條款的情況。 例如，Microsoft 不允許將 Copilot 用於與非法活動相關聯或用於任何旨在推廣非法活動的用途。
限制
作為 Copilot 體驗基礎的語言、影像和音訊模型可能包含可反映社會偏見的訓練資料，進而可能導致 Copilot 以被視為不公平、不可靠或冒犯性的方式行事。 儘管我們進行了密集的模型訓練和安全微調，以及我們對訓練資料、使用者提示和模型輸出實施了負責任的 AI 控制和安全系統，但 AI 驅動的服務還是容易出錯且有機率的。 這使得全面阻止所有不當內容變得具有挑戰性，從而導致人工智能生成的內容中可能出現潛在偏見、刻板印象、不接地氣或其他類型傷害的風險。 這裡列出了這些限制可能在 Copilot 體驗中顯現的一些方式。
刻板印象： Copilot 體驗可能會強化刻板印象。 例如，將「他是一名護士」和「她是一名醫生」翻譯成無性別語言，例如土耳其文，然後再翻譯回英文時，Copilot 可能會不小心產生「她是一名護士」和「他是一名醫生」的刻板印象 (和不正確的) 結果。另一個例子是，當根據提示「無父兒童」生成圖像時，系統可以生成僅來自一個種族或民族的兒童圖像，從而強化用於訓練底層模型的公開圖像中可能存在的有害刻板印象。 Copilot 也可能會根據使用者輸入影像中的內容，藉由依賴影像的元件並做出可能不正確的假設，來強化刻板印象。 我們已實作緩和措施，以降低包含冒犯性刻板印象之內容的風險，包括輸入和輸出分類器、微調模型和系統訊息。
代表性過高和代表性不足：Copilot 在其回應中可能會過度或不足地代表一群人，甚至完全不代表他們。 例如，如果包含「同性戀」一詞的文字提示被偵測為潛在有害或冒犯性，這可能會導致合法世代對 LGBTQIA+ 社群的代表性不足。 除了包含輸入和輸出分類器、微調模型以及系統訊息之外，我們還使用 Designer 中的提示擴充作為數種緩和措施之一，以降低過度或不足代表人員群組之內容的風險。
不當或冒犯性內容： Copilot 體驗可能會產生其他類型的不當或冒犯性內容。 範例包括以一種形式產生內容的能力 (例如，音訊) 在其提示內容中不適當，或與不同形式 (中的相同輸出進行比較時，例如文字) 。 其他範例包括 AI 產生的影像，其中可能包含仇恨符號等有害偽影、與有爭議、有爭議或意識形態兩極分化的主題相關的內容，以及逃避性相關內容篩選的帶有色情色彩的內容。 我們已採取緩和措施，以降低生成包含不適當或冒犯性內容的風險，例如輸入和輸出分類器、微調模型和系統訊息。
資訊可靠性： 雖然 Copilot 旨在以可靠的來源回應，並尋求基礎資訊，但 AI 可能會犯錯。 它可能會產生無意義的內容或捏造聽起來合理但實際上不準確的內容。 即使在從高權限 Web 資料中提取回應時，回應也可能以可能不完全準確、最新或不可靠的方式歪曲該內容。 我們透過使用者介面和這類文件提醒使用者，Copilot 可能會犯錯。 我們也會持續教育使用者了解 AI 的限制，例如鼓勵他們在做出決策或根據 Copilot 的回應採取行動之前，先仔細查核事實。 當使用者透過文字與 Copilot 互動時，它會嘗試以高品質的 Web 資料為基礎，以降低世代未接地的風險。
多語系效能： 不同語言的效能可能會有所不同，其中英文在發行 Copilot 時表現最佳。 提高跨語言的效能是一個關鍵的投資領域，最近的模型導致了效能的提高。
音訊限制： 音訊模型可能會帶來其他限制。 概括而言，語音輸入的音質、非語音雜訊、詞彙、口音和插入錯誤也可能影響 Copilot 是否以令人滿意的方式處理和回應使用者的音訊輸入。
AI 無法取代專業協助： 人工智慧可以成為解決問題的有用工具，並且可以被視為富有同理心，但它並不能取代尋求專業協助。 如果您正在經歷憂鬱症、自殺或自殘念頭或其他心理健康問題，請尋求專業協助。 Copilot 也可以用來尋找您附近的危機或心理健康資源。
對網際網路連線的依賴：Copilot 仰賴網際網路連線才能運作。 連線中斷可能會對服務的可用性和效能產生影響。
建立或使用代理程式時請務必小心： 使用者在建立自己的代理或使用他人提供的代理時應謹慎行事，特別是當代理採取的行動可能產生重大後果、不可逆轉或有可能分享敏感個人資訊 (例如密碼、登入資訊或個人資料) 時。 由於代理可能不適用於所有用例，並且可能會犯錯誤、誤解指令或被惡意隱藏指令欺騙，因此使用者應密切監控結果並查看重要細節，使用者可能會受到某些用例的限制，例如造訪有害網站或創建不當內容。 建立自主代理程式 AI 時也應採取其他預防措施，如 Microsoft 服務合約的管理辦法一節中的進一步說明。
系統效能
在許多 AI 系統中，效能的定義通常會與準確性相關 (也就是 AI 系統提供正確預測或輸出) 的頻率。 透過 Copilot，我們專注於 Copilot 做為 AI 支援的助理，能反映使用者的喜好設定。 因此，兩個不同的使用者可能會查看相同的輸出，並對其對其獨特情況和期望的有用性或相關性有不同的看法，這意味著必須更靈活地定義這些系統的效能。 我們廣義上認為效能意味著應用程式如使用者預期執行。
改善系統效能的最佳做法
使用自然的交談語言與介面互動。 以使用者舒適的方式與 Copilot 互動，是透過體驗獲得更好結果的關鍵。 與採用技術來協助使用者在日常生活中有效溝通類似，透過使用者熟悉的文字或語音，以 AI 支援的助理身分與 Copilot 互動，可能有助於獲得更好的結果。
使用者體驗和採用。 有效使用 Copilot 需要使用者了解其功能和限制。 可能會有學習曲線，使用者可能會想要參考各種 Copilot 資源，例如， (本文件和Microsoft Copilot可協助 & 學習) 有效地與服務互動並從中受益。
對應、衡量和管理風險
與其他變革性技術一樣，利用 AI 的優點並非沒有風險， Microsoft 負責任 AI 計畫 的核心部分旨在識別和對應潛在風險、衡量這些風險，並透過建立緩和措施並隨著時間持續改善 Copilot 來管理這些風險。 在下面的部分中，我們將描述我們用於映射、衡量和管理潛在風險的迭代方法。
地圖： 仔細規劃和部署前對抗性測試，例如紅隊，可協助我們繪製潛在風險。 支援 Copilot 體驗的基礎模型經過了來自代表相關主題領域跨學科觀點的測試人員的紅隊測試。 該測試旨在評估最新技術在應用任何額外保護措施的情況下如何工作。 在模型層面進行這些練習的目的是產生有害的反應，揭示潛在的濫用途徑，並識別功能和限制。
發行前的應用程式層級測試。 在公開使用 Copilot 之前，我們進行了應用程式層級紅隊編排，以識別缺點和弱點。 此測試協助我們了解廣泛的使用者如何使用 Copilot，並對我們的風險降低措施進行明智改進。
進行中的測試。 更新 Copilot 時，我們也會視情況測試新功能和技術更新。 這個持續的過程有助於我們識別新出現的風險，並隨著時間的推移完善我們的緩解措施。
測量： 除了根據我們現有的安全評估評估 Copilot 之外，上述使用紅隊還協助我們開發評估和負責任的 AI 指標，對應已識別的潛在風險，例如越獄、有害內容和未接地氣的內容。
我們結合使用人類參與者和自動對話產生管道來收集針對這些風險的對話資料。 然後，每個評估都會由訓練有素的人工註釋者池或自動註釋管道進行評分。 每次產品變更、更新現有的風險降低措施或提出新的緩和措施時，我們都會更新評估管線，以評估產品效能和負責任的 AI 計量。 這些自動化評估內容管道是與人類評估者收集的對話，以及使用 LLM 產生的合成對話的組合，以提示以對抗性方式測試原則。 這些安全性評估中的每一個都會使用 LLM 自動評分。 對於新開發的評估，每個評估首先由閱讀文字內容或聆聽音訊輸出的人工標記人員進行評分，然後轉換為基於 LLM 的自動評估。
我們模型的預期行為與我們的評估管道（包括人工和自動化）相結合，使我們能夠快速大規模測量潛在風險。 隨著我們隨著時間的推移發現新問題，我們將繼續擴展測量集以評估其他風險。
管理： 當我們透過紅隊識別潛在風險和濫用，並使用上述方法進行測量時，我們開發了其他特定於 Copilot 體驗的風險降低措施。 以下說明其中一些緩和措施。 我們會繼續監控 Copilot 體驗，以改善產品效能和風險降低方法。
分階段發行計畫和持續評估。 我們致力於隨著技術和使用者行為的演進，不斷學習和改善負責任的 AI 方法。 我們的累加式發行策略一直是我們如何將技術安全地從實驗室移轉到世界的核心部分，我們致力於深思熟慮的流程，以確保 Copilot 體驗的好處。 我們會定期變更 Copilot，以改善產品效能和現有的風險降低措施，並根據我們的學習實作新的風險降低措施。
利用分類器和系統訊息來降低潛在風險或濫用。 為了回應使用者提示，LLM 可能會產生有問題的內容。 我們在上方的 [系統行為與限制] 章節中討論了我們嘗試限制的內容類型。 分類器和系統訊息是 Copilot 中實作的兩個緩和措施範例，可協助降低這些內容類型的風險。 分類器會將文字分類，以在使用者提示或產生的回應中標示可能有害的內容。 我們也會利用現有的最佳做法來運用系統訊息，其中涉及提供指令給模型，以使其行為符合 Microsoft 的 AI 原則及使用者期望。
正在上傳影像至 Copilot 視覺。 使用者第一次將影像上傳到 Copilot 視覺 時，將會提供他們 Copilot 如何處理其影像的資訊。 如果使用者未繼續上傳，影像將不會傳送至 Copilot。 所有影像都會在交談結束後的 30 天內刪除。
AI 揭露。 Copilot 的設計也是要通知使用者他們正在與 AI 系統互動。 當使用者與 Copilot 互動時，我們會提供各種接觸點，旨在協助他們瞭解系統的功能、向他們揭露 Copilot 是由 AI 所提供，並傳達限制。 體驗是以這種方式設計，可協助使用者充分利用 Copilot，並將過度依賴的風險降到最低。 資訊洩漏也可以協助使用者更瞭解 Copilot 以及他們與其互動的互動。
媒體來源。 針對所有使用 Copilot 建立的影像，我們已根據 C2PA 標準實作內容憑證，以協助使用者識別影像是否經 AI 編輯或產生。 出處中繼資料可在 內容認證網站上檢視。
自動內容偵測。 當使用者上傳影像作為聊天提示的一部分時，Copilot 會部署工具來偵測 CSEAI) (兒童性剝削和性虐待影像。 根據美國法律要求，Microsoft向國家失蹤和受虐兒童中心 (NCMEC) 報告所有明顯的 CSEAI。 當使用者上傳檔案進行分析或處理時，Copilot 會部署自動掃描來偵測可能導致風險或濫用的內容，例如可能與非法活動或惡意程式碼相關的文字。
使用條款和管理辦法。 使用者應遵守 Copilot 適用 的使用條款 和管理 辦法、 Microsoft 服務合約和 Microsoft 隱私權聲明，其中其他事項包括告知他們允許和不允許的使用，以及違反條款的後果。 使用規定也為使用者提供了額外的揭露，並作為使用者了解 Copilot 的參考。 嚴重或屢次違規的用戶可能會被暫時或永久暫停服務。
意見反應、監視和監督。 Copilot 體驗包含可讓使用者提交意見反應的工具，且意見反應會由 Microsoft 的營運團隊檢閱。 此外，隨著我們瞭解的更多資訊，我們用於繪製、衡量和管理風險的方法也將不斷演進，而且我們已經在根據預覽期間收集的意見反應進行改進。
偵測和回應自殺和 Self-Harm 風險。 Copilot 使用經過訓練的機器學習分類器，可辨識可能指出使用者有自殺或自殘意圖的語言模式。 當偵測到此類內容時，系統會中斷對話，而是提供危機支援資源，例如美國) 中的 988 自殺和危機生命熱線 (，鼓勵使用者尋求專業協助。 Copilot 不提供諮詢;其作用僅限於檢測和轉介，以確保用戶安全。
延長使用通知。 如果使用者長時間進行連續交談，Copilot 可能會提醒使用者休息一下。 使用者也會定期被告知人工智慧不是人類，可能會犯錯。