2026 年 8 月 18 日
注意
- 本文中的信息仅适用于使用 Microsoft 帐户（例如个人电子邮件地址）登录的个人对 Microsoft Copilot 的使用。
- 有关用户使用其工作或学校帐户登录的组织中使用 Microsoft Copilot 的信息，请参阅应用程序 卡：组织Microsoft Copilot () 。
什么是透明度说明？
人工智能系统不仅包括技术，还包括将使用它的人、将受其影响的人以及部署它的环境。 Microsoft 的透明度说明旨在帮助你了解 Copilot 背后的 AI 技术的工作原理、我们所做的影响系统性能和行为的选择，以及考虑整个系统的重要性，以便 Copilot 用户可以控制自己的体验，并了解我们为提供安全可靠的产品而采取的步骤。
Microsoft 的透明度说明是 Microsoft 将 AI 原则付诸实践的更广泛努力的一部分。 若要了解详细信息，请参阅 微软 AI 原则。
Microsoft Copilot 基础知识
简介
Microsoft Copilot 可帮助在一个位置从想法转移到完成的工作。 Copilot 已集成到 Word、Excel、PowerPoint、Outlook、Teams 等中，将你使用的文件和信息整合到一个体验中。 Copilot 可以帮助你创建精美的文档、演示文稿和电子表格，起草电子邮件，安排你的一天，并根据你正在进行的工作获取答案。 借助 Cowork，Copilot 还可以帮助处理更大的多步骤任务并交付已完成的待办事项。 你还可以针对不同类型的工作在领先的 AI 模型之间进行选择。 具体功能因订阅而异。
在 Microsoft，我们非常重视我们对负责任的 AI 的承诺。 Copilot 的开发符合 Microsoft 的 AI 原则、Microsoft 负责任的 AI Standard，并与公司内负责任的 AI 专家（包括 Microsoft 负责任的 AI 办公室、我们的工程团队、Microsoft Research 和 Aether）合作开发。 可在 Microsoft 负责任的 AI 中了解详细信息。
在本文档中，我们将介绍为 Copilot 负责任的 AI 的方法。 在发布之前，我们利用 Microsoft 最先进的方法来映射、测量和管理系统的潜在风险和滥用，并确保它为用户带来好处。 随着我们不断改进 Copilot，我们也在不断学习和改进我们负责任的 AI 工作。 本文档将定期更新，以传达我们不断发展的流程和方法。
关键术语
分类器 有助于将数据分类为标记类或信息类别的机器学习模型。 在 Copilot 中，我们使用分类器的一种方法是帮助检测用户提交或系统生成的潜在有害内容，以减少该内容的生成以及系统的误用或滥用。
接地 对于用户寻求信息的某些对话，Copilot 基于 Web 搜索结果。 这意味着 Copilot 会将其响应集中在来自 Web 且排名靠前的内容上，并在生成的文本响应之后或在语音模式下的对话脚本中提供超链接引文。
大型语言模型 (LLM) 在这种情况下) 大型语言模型 (LLM 是经过大量文本数据训练的 AI 模型，可以按顺序预测单词。 LLM 可以执行各种任务，例如文本生成、汇总、翻译、分类等。
缓解措施 一种旨在降低在 Copilot 中使用 AI 功能可能产生的潜在风险的方法或方法组合。
多模态模型 (MMM) MMM (多模态模型) 是针对不同类型的数据（如文本、图像或音频）进行训练的 AI 模型。 这些模型可以执行各种任务，例如编写文本、描述图像、识别语音以及查找不同类型数据的信息。
用户发送到 Copilot 以文本、图像和/或音频形式进行提示输入，以便与 Copilot 中的 AI 功能进行交互。
红队 专家用于评估系统的局限性和漏洞以及测试计划缓解措施有效性的技术。 红队测试包括测试人员采用良性和对抗性角色来识别潜在风险，这不同于系统地评估风险。
响应 Copilot 为响应提示或作为与用户来回交流的一部分而输出的文本、图像或音频。 “响应”的同义词包括“完成”、“生成”和“答案”。
小型语言模型 (SLM) 在这种情况下，小型语言模型 (SLM) 是与大型语言模型相比，在更小、更集中的数据量上训练的 AI 模型。 尽管体积较小，但 SLM 可以执行各种任务，例如文本生成、摘要、翻译和分类。 虽然 SLM 可能无法与 LLM 的广泛功能相媲美，但它们通常更节省资源，并且对于特定的目标应用程序非常有效。
系统消息 系统消息 (有时称为“元提示符”) 是一个用于指导系统行为的程序。 系统消息的某些部分有助于使系统行为与 Microsoft 的 AI 原则和用户期望保持一致。 例如，系统消息可能包含诸如“请勿提供信息或创建可能导致身体、情感或经济伤害的内容”之类的行。
功能
系统行为
借助 Copilot，我们开发了一种创新方法，为用户带来更加个性化的 AI 体验，从而提供引人入胜的体验，帮助用户完成各种任务。 这种创新方法利用了各种先进技术，例如来自 Microsoft、OpenAI 和其他模型开发人员的语言和多模态模型。 在公开发布之前，我们致力于为基于 Copilot 的模型实现安全技术，以开发一组自定义的功能和行为，以提供增强的 Copilot 体验。 在 Copilot 中，用户可以使用自然语言、文本或语音发送提示。 响应以多种不同的格式呈现给用户，例如文本形式的聊天回复， (根据需要带有指向 Web 内容的传统链接，) 和图像 (作为提示) 的一部分发出的图像请求。 如果用户在 Copilot 语音模式下以自然语言语音发送提示，他们将收到音频答复。
当用户在 Copilot 中输入提示时，提示、对话历史记录和系统消息将通过多个输入分类器发送，以帮助筛选掉有害或不适当的内容。 这是帮助提高模型性能和缓解用户可能试图以不安全的方式提示模型的情况的关键第一步。 提示通过输入分类器后，将确定请求是否需要来自 Web 的基础数据，以及哪个语言模型应响应该请求。 所有模型都使用用户的提示和最近的对话历史记录生成响应，以将请求置于上下文中，系统消息以使响应与 Microsoft 的 AI 原则和用户期望保持一致，并在适当时使响应与搜索结果保持一致，以基于 Web 中现有的高排名内容中的响应。
响应以多种不同的格式呈现给用户，例如文本形式的聊天响应、指向 Web 内容的传统链接、图像和音频响应。 当回复以文本形式提供时 - 并且回复基于来自 Web 的数据 - 输出包含文本下方列出的超链接引文，以便用户可以访问网站 (用于建立回复基础的) ，并从那里了解有关该主题的更多信息。 Copilot 还可以运行代码来完成复杂的计算并生成图形。 Copilot 可以存储用户要求其记住的特定事实，使其能够根据该上下文生成更相关的响应和建议。 当用户明确要求忘记已保存的事实时，Copilot 还可以删除这些事实。
Copilot 还可帮助用户创建新的故事、诗歌、歌词和图像。 当 Copilot 检测到用户意图生成创意内容 (（例如以“给我写信给我...”开头的用户提示 ) 时，在大多数情况下，系统将生成响应用户提示的内容。 同样，当 Copilot 检测到用户意图生成图像 (（例如以“画我一个...”开头的用户提示 ) 时，在大多数情况下，Copilot 将生成响应用户提示的图像。 当 Copilot 检测到用户意图修改上传的图像 (（例如以“添加 ...”开头的用户提示）时 ) ，在大多数情况下，Copilot 将修改响应用户提示的图像。 当用户提示包含某些可能导致有问题内容的术语时，Copilot 可能不会以创意内容做出响应。
预期的安全行为
我们 Copilot 的目标是对用户有所帮助，并且我们实施安全措施来帮助降低生成有害内容的可能性，并增加获得安全和积极用户体验的可能性。 虽然我们已采取措施来缓解风险，但生成式 AI 模型（例如 Copilot 背后的模型）具有概率性，可能会出错，这意味着缓解措施有时可能无法阻止有害的用户提示或 AI 生成的响应。 如果在使用 Copilot 时遇到有害或意外内容，请通过提供反馈告知我们，以便我们可以继续改进体验。
用例
预期用途
Copilot 旨在帮助用户使用文本、图像和语音通过自然语言回答问题、生成内容和完成任务。 为了提供有用且相关的响应，Copilot 可能会从可用源检索、分析和汇总信息。 某些高级功能可能仅适用于具有符合条件的订阅的用户。 常见用例示例包括：
使用文本对话助手并获取基于 Web 的摘要。 用户可以通过文本与 Copilot 聊天，并提出后续问题，以查找新信息并获得有关各种主题的支持。 Copilot 可以执行 Web 搜索，并将使用排名靠前的 Web 搜索结果生成要呈现给用户的信息摘要。 这些摘要包括对网页的引用，以帮助用户查看有助于建立 Copilot 摘要的搜索结果源。 用户可以点击这些链接访问网站来源以了解更多信息或评估网站的可靠性。
获取生成新创意的帮助。 每次用户与 Copilot 体验交互时，他们都会看到一组卡片，用户可以单击这些卡片开始与 Copilot 聊天，讨论有用和有趣的主题。 如果用户与其他 Microsoft 消费者服务进行了交互，则将根据我们的隐私策略对卡片进行个性化设置。 随着时间的推移，Copilot 中的卡片可能会根据用户的聊天历史记录进行个性化设置。 用户可以随时在设置中选择退出个性化。
生成创意内容。 与 Copilot 聊天时，用户可以在 Copilot 的帮助下创建新的诗歌、笑话、故事、图像和其他内容。 如果需要，Copilot 还可以编辑用户上传的图像。
协助研究。 Copilot 可以通过呈现深入资源、提供主题的详细细分以及链接到源来执行研究任务，帮助用户超越快速答案来处理更复杂的查询。 Copilot 可能会根据过去的研究查询和 Copilot 记忆等内容主动为用户生成个性化的研究建议。 用户可以随时在设置中选择退出个性化或通知。
发现、比较和购买产品。 Copilot 购物可以帮助你查找产品、比较选项和简化购买。 除非已确定，否则 Microsoft 不会因 Copilot 中提供的产品建议或搜索结果而获得佣金或其他报酬。
使用 Copilot Learn 更智能地学习。 Copilot Learn 可以创建测验和练习测试、生成抽认卡，旨在帮助通过图像增强响应，使复杂概念更易于理解。
获取有关日常任务的帮助。 Copilot Cowork 代表你执行任务。 您用自然语言描述您的需求，Cowork 会完成这项工作，创建文档、起草和发送电子邮件、安排会议和管理文件。 在敏感操作发生之前，你需要审查并批准它。
分析和编辑文件。 Copilot 中的文件上传允许用户将图像或某些受支持的文件类型直接上传到其聊天会话中。 上传后，Copilot 可以分析和提取这些文件中的信息，以提供相关见解、回答问题或协助完成特定任务。 经你允许，Copilot 还可以引用连接的在线存储提供商（如 OneDrive 和 Google Drive）中的文件。
看到并理解。 使用视觉功能分析图像、从照片中获取见解以及进行视觉搜索。 Copilot 会查看上传的图像，以帮助你了解所看到的内容。
使用语音。 使用语音聊天与 Copilot 自然交谈。 集思广益、撰写内容或快速获取答案，完全免提。
连接到其他应用。 引入你选取的应用和信息，如电子邮件、日历、文件、联系人和其他服务。
选择其他用例时的注意事项
我们鼓励用户在做出决定或根据 Copilot 的答复采取行动之前查看所有内容，因为 AI 可能会出错，并且可能不适合某些用例。 此外，我们还建议避免某些情况或违反我们的使用条款。 例如，Microsoft 不允许将 Copilot 用于与非法活动或旨在促进非法活动的任何目的。
限制
作为 Copilot 体验基础的语言、图像和音频模型可能包含可以反映社会偏见的训练数据，这反过来又可能导致 Copilot 以被视为不公平、不可靠或冒犯的方式行事。 尽管我们进行了密集的模型训练和安全微调，以及我们对训练数据、用户提示和模型输出实施了负责任的 AI 控制和安全系统，但 AI 驱动的服务是容易出错且概率性的。 这使得全面阻止所有不当内容变得具有挑战性，从而导致人工智能生成的内容中可能出现潜在的偏见、刻板印象、不根据性或其他类型的伤害的风险。 这些限制可能在 Copilot 体验中体现的一些方式在此处列出。
刻板印象： Copilot 体验可能会强化刻板印象。 例如，将“他是护士”和“她是医生”翻译成土耳其语等无性别语言，然后再翻译回英语时，Copilot 可能会无意中产生“她是护士”和“他是医生”的刻板印象 (和不正确的) 结果。另一个例子是，当基于提示“无父儿童”生成图像时，系统可以仅生成来自一个种族或民族的儿童图像，从而强化用于训练底层模型的公开图像中可能存在的有害刻板印象。 Copilot 还可能会根据用户输入图像的内容强化刻板印象，方法是依赖图像的组件并做出可能不正确的假设。 我们已实施缓解措施，以降低包含冒犯性刻板印象的内容的风险，包括输入和输出分类器、微调模型和系统消息。
代表性过高和代表性不足：Copilot 可能会在回复中过度或过少代表人群，甚至根本不代表他们。 例如，如果包含“同性恋”一词的文本提示被检测为潜在有害或冒犯性，则可能导致合法世代在 LGBTQIA+ 群体中的代表性不足。 除了包含输入和输出分类器、微调模型以及系统消息外，我们还使用 Designer 中的提示扩充作为多种缓解措施之一，以降低内容过度或过少代表人群的风险。
不适当或冒犯性内容： Copilot 体验可能会生成其他类型的不适当或冒犯性内容。 示例包括以一种模式生成内容的能力 (例如，音频) 在其提示上下文中不适当，或者与不同模式 (中的相同输出进行比较时，例如文本) 。 其他示例包括 AI 生成的图像，这些图像可能包含仇恨符号等有害伪影，与有争议、有争议或意识形态两极分化的话题相关的内容，以及规避性相关内容筛选器的色情内容。 我们已实施缓解措施，以降低生成包含不适当或冒犯性内容的风险，例如输入和输出分类器、微调模型和系统消息。
信息可靠性： 虽然 Copilot 旨在通过可靠的来源进行回复，以寻求基础信息，但 AI 可能会犯错误。 它可能会生成无意义的内容或编造听起来合理但实际上不准确的内容。 即使在从高权威 Web 数据获取响应时，响应也可能以可能不完全准确、最新或不可靠的方式曲解该内容。 我们通过用户界面和此类文档提醒用户，Copilot 可能会出错。 我们还将继续向用户说明 AI 的局限性，例如鼓励他们在做出决定或根据 Copilot 的响应采取行动之前仔细检查事实。 当用户通过文本与 Copilot 交互时，它将尝试以高质量的 Web 数据为基础，以降低世代不接地的风险。
多语言性能： 不同语言的性能可能有所不同，其中英语在发布 Copilot 时表现最佳。 提高跨语言的性能是一个关键的投资领域，最近的模型已经提高了性能。
音频限制： 音频模型可能会引入其他限制。 从广义上讲，语音输入的音质、非语音噪音、词汇、口音和插入错误也可能影响 Copilot 是否以令人满意的方式处理和响应用户的音频输入。
AI 不能替代专业帮助： 人工智能可以成为解决问题的有用工具，并且可以被视为同理心，但它不能替代寻求专业帮助。 如果您正在经历抑郁、自杀或自残念头或其他心理健康问题，请寻求专业帮助。 Copilot 还可用于查找你附近的危机或心理健康资源。
对 Internet 连接的依赖性： Copilot 依靠 Internet 连接才能正常工作。 连接中断可能会影响服务的可用性和性能。
创建或使用代理时务必小心： 用户在创建自己的代理或使用他人提供的代理时应谨慎行事，特别是如果代理采取的行为可能会产生重大后果、不可逆转或有可能共享敏感个人信息 (，例如密码、登录名或个人数据) 。 由于代理可能并非适用于所有用例，并且可能会犯错误、曲解指令或被恶意隐藏指令欺骗，因此用户应密切监控结果并查看重要细节用户可能会受到某些用例的限制，例如访问有害网站或创建不适当的内容。 创建自主代理 AI 时，还应采取其他预防措施，如 Microsoft 服务协议的行为准则部分所述。
系统性能
在许多 AI 系统中，性能的定义通常与准确性相关 (即 AI 系统提供正确预测或输出) 的频率。 对于 Copilot，我们专注于将 Copilot 作为反映用户偏好的 AI 支持的助手。 因此，两个不同的用户可能会查看相同的输出，并对它对其独特情况和期望的有用性或相关性有不同的看法，这意味着必须更灵活地定义这些系统的性能。 我们广泛认为性能意味着应用程序按用户预期运行。
提高系统性能的最佳做法
使用自然的对话语言与界面交互。 以用户舒适的方式与 Copilot 交互是通过体验获得更好结果的关键。 与采用技术帮助人们在日常生活中有效沟通类似，作为 AI 支持的助手，通过用户熟悉的文本或语音与 Copilot 交互可能有助于获得更好的结果。
用户体验和采用。 有效使用 Copilot 需要用户了解其功能和限制。 可能存在学习曲线，用户可能希望参考各种 Copilot 资源 (例如，本文档和Microsoft Copilot有助于 & 学习) 有效地与服务交互并从中受益。
映射、度量和管理风险
与其他转换技术一样，利用 AI 的优势并非无风险， Microsoft 负责任的 AI 计划 的核心部分旨在识别和映射潜在风险，衡量这些风险，并通过构建缓解措施和随着时间的推移持续改进 Copilot 来管理风险。 在下面的部分中，我们将介绍映射、衡量和管理潜在风险的迭代方法。
地图： 仔细的规划和部署前的对抗性测试（例如红队）有助于我们绘制潜在风险图。 为 Copilot 体验提供支持的基础模型经过了代表相关主题领域多学科视角的测试人员的红色团队测试。 该测试旨在评估最新技术在应用任何附加保障措施的情况下或不应用任何额外保障措施的情况下如何工作。 这些在模型级别练习的目的是产生有害的响应，找出潜在的滥用途径，并确定能力和局限性。
发布前的应用程序级测试。 在公开发布 Copilot 之前，我们进行了应用程序级红队来识别缺陷和漏洞。 此测试帮助我们了解广大用户如何使用 Copilot，并对缓解措施进行明智的改进。
正在进行的测试。 更新 Copilot 时，我们还会根据需要测试新功能和技术更新。 这个持续的过程有助于我们识别新出现的风险并随着时间的推移完善我们的缓解措施。
度量值： 除了根据现有的安全评估评估 Copilot 之外，上述红队的使用还帮助我们制定了与已识别的潜在风险（例如越狱、有害内容和不接地气的内容）相对应的评估和负责任的 AI 指标。
我们结合使用人类参与者和自动对话生成管道收集针对这些风险的对话数据。 然后，每个评估都由训练有素的人工注释者池或自动注释管道进行评分。 每次产品更改、更新现有缓解措施或提出新的缓解措施时，我们都会更新评估管道，以评估产品性能和负责任的 AI 指标。 这些自动化评估上下文管道是收集的与人类评估人员的对话以及由 LLM 生成的合成对话的组合，旨在以对抗性方式测试策略。 这些安全性评估中的每一项都由 LLM 自动评分。 对于新开发的评估，每个评估最初都由阅读文本内容或收听音频输出的人工标记人员进行评分，然后转换为基于 LLM 的自动评估。
我们模型的预期行为与我们的评估管道（包括人工和自动化）相结合，使我们能够快速大规模测量潜在风险。 随着我们随着时间的推移发现新问题，我们将继续扩展衡量集以评估其他风险。
管理： 当我们通过红队识别潜在风险和滥用并使用上述方法进行测量时，我们开发了特定于 Copilot 体验的其他缓解措施。 下面，我们将介绍其中的一些缓解措施。 我们将继续监视 Copilot 体验，以提高产品性能和风险缓解方法。
分阶段发布计划和持续评估。 随着技术和用户行为的发展，我们致力于学习和改进负责任的 AI 方法。 我们的增量发布策略一直是我们将技术从实验室安全地推向世界的核心部分，我们致力于一个深思熟虑的过程来确保 Copilot 体验的好处。 我们会定期对 Copilot 进行更改，以提高产品性能和现有缓解措施，并实施新的缓解措施以回应我们了解的内容。
利用分类器和系统消息来降低潜在风险或误用。 为了响应用户提示，LLM 可能会生成有问题的内容。 我们在上面的“系统行为和限制”部分中讨论了试图限制的内容类型。 分类器和系统消息是已在 Copilot 中实现的缓解措施的两个示例，可帮助降低这些类型内容的风险。 分类器对文本进行分类，以标记用户提示或生成的响应中的潜在有害内容。 我们还利用现有最佳做法来利用系统消息，这涉及向模型提供指令，以使其行为与 Microsoft 的 AI 原则和用户期望保持一致。
将图像上传到 Copilot 视觉。 用户首次将图像上传到 Copilot 视觉 时，系统会向他们提供有关 Copilot 如何处理其图像的信息。 如果用户未继续上传，则不会将图像发送到 Copilot。 所有图像将在对话结束后的 30 天内删除。
AI 披露。 Copilot 还旨在通知人们他们正在与 AI 系统交互。 当用户与 Copilot 互动时，我们会提供各种接触点，旨在帮助他们了解系统的功能、向他们披露 Copilot 由 AI 提供支持，并传达限制。 体验以这种方式设计，可帮助用户充分利用 Copilot，并最大限度地降低过度依赖的风险。 披露还可帮助用户更好地了解 Copilot 及其与其交互。
媒体来源。 对于使用 Copilot 创建的所有图像，我们已实现基于 C2PA 标准的内容凭据和来源验证，以帮助人们识别图像是使用 AI 编辑还是生成的。 可以在 内容凭据网站上查看来源元数据。
自动内容检测。 当用户上传图像作为聊天提示的一部分时，Copilot 会部署工具来检测 CSEAI) (儿童性剥削和虐待图像。 根据美国法律的要求，Microsoft向国家失踪和受剥削儿童中心 (NCMEC) 报告所有明显的 CSEAI。 当用户上传文件进行分析或处理时，Copilot 会部署自动扫描，以检测可能导致风险或滥用的内容，例如可能与非法活动或恶意代码相关的文本。
使用条款和行为准则。 用户应遵守 Copilot 适用 的使用条款 和 行为准则、 Microsoft 服务协议以及 Microsoft 隐私声明，其中包括告知他们允许和不允许的使用以及违反条款的后果。 使用条款还为用户提供了其他披露，并作为用户了解 Copilot 的参考。 严重或屡次违规的用户可能会被暂时或永久暂停服务。
反馈、监视和监督。 Copilot 体验包括允许用户提交反馈的工具，这些反馈由 Microsoft 的运营团队审核。 此外，随着我们了解详细信息，我们映射、度量和管理风险的方法将不断改进，并且我们已经在根据预览期间收集的反馈进行改进。
检测和应对自杀和 Self-Harm 风险。 Copilot 使用经过训练的机器学习分类器，可以识别可能表明用户自杀或自残意图的语言模式。 检测到此类内容时，系统会脱离对话，而是提供危机支持资源，例如美国) 的 988 (自杀和危机生命线，鼓励用户寻求专业帮助。 Copilot 不提供咨询;其作用仅限于检测和转介，以确保用户安全。
扩展使用情况通知。 如果用户长时间进行连续对话，Copilot 可能会提醒用户休息一下。 用户还定期被告知人工智能不是人类，可能会犯错误。