研究与学习代理中的隐私和负责任的 AI

Microsoft在隐私和负责任的 AI 原则方面建立了具有坚实基础的研究和学习代理。 以下是数据的处理方式以及安全措施:

  • 数据处理和存储: 使用学习代理时,AI 会实时处理你的消息和任何上传的文档,以生成响应和学习活动。 数据保留在 Microsoft 365 租户中, 它受其他 M365 服务相同的安全性、合规性和数据驻留策略的约束。 Microsoft不会根据数据保护 策略使用内容或对话来训练基础 AI 模型。 该服务可能会收集基本遥测 (,例如功能使用情况计数) 以提高质量,但不会收集对话或学习材料的实际内容。

  • 数据不会向外传输。 数据不用于训练基础语言模型。 数据受到最全面的企业合规性和安全控制的保护。 数据在静态和传输中受到保护并加密。

  • 内容审查和安全性:学习代理的所有 AI 输出都通过 M365 Copilot 对话助手使用的内容安全筛选器运行,以确保它们符合Microsoft的负责任 AI 标准,该标准适用于安全和适合课堂的内容。 代理侧重于教育用例,将拒绝或筛选不适当的请求或输出。 M365 中的内置防护栏Copilot 对话助手解决自我伤害、性内容、暴力和仇恨言论的问题。

  • 适合年龄的设计: 学习代理仅适用于 13 岁或以上的用户。 对于 K-12 学生,这是通过 Microsoft Entra ID 通过托管学校租户帐户强制执行的,该帐户会检查与每个用户关联的年龄组。 被确定为13岁以下的未成年人不被授予访问权限。 AI 生成的语气和内容经过精心设计,具有中立性和教育性,避免过度非正式、情感或不适当的评论。 这可确保代理可在教室和青少年学习者中安全使用。

  • 使用 AI 素养指南: 教师、学生和机构领导者可以使用链接的材料 https://aka.ms/AILiteracy 来有效、负责任地使用 AI。

  • 透明度和用户控制: 与 Study 和 Learn 代理的对话显然是 AI 交互 , 你始终知道你正在使用 AI 代理。 如果代理将响应置于已上传的文档中,引文会显示信息来源,使你能够在上下文中验证事实。 你保持控制:可以随时结束对话、开始新对话或选择不上传任何个人材料。 Microsoft实施了许多负责任 AI 评审 (包括完整的负责任 AI 评估) 来优化代理的行为。

  • 专注于学习 (而不是) 评分: 学习代理明确为学习工具,不评估或给学生评分。 测验结果、抽认卡使用情况和对话历史记录对学生是私有的。 除非学生显式共享这些交互,否则教师无法了解学生的交互。 这种隐私设计选择鼓励诚实的实践,而不必担心错误可能会影响学术记录。 所有正式评估仍由教师控制。

  • 负责任的 AI 原则: 研究和学习代理是根据Microsoft 负责任的 AI 原则开发的:公平性、可靠性和安全性、隐私和安全、包容性、透明度和问责制。

  • 反馈: 我们欢迎你就学习代理的质量和安全性提供反馈。 使用应用内反馈机制或访问 反馈表单 来分享你的体验。