18 de agosto de 2026
Observação
- As informações neste artigo só se aplicam ao uso do Microsoft Copilot por pessoas que estejam conectadas com uma conta Microsoft, como um endereço de email pessoal.
- Para obter informações sobre o uso de Microsoft Copilot em organizações onde os usuários estão conectados com suas contas corporativas ou de estudante, consulte card de aplicação: Microsoft Copilot (para organizações).
O que é uma Nota de Transparência?
Um sistema de IA inclui não apenas a tecnologia, mas também as pessoas que a usarão, as pessoas que serão afetadas por ela e o ambiente em que ela é implantada. As Notas de Transparência da Microsoft destinam-se a ajudá-lo a entender como funciona a tecnologia de IA por trás do Copilot, as escolhas que fizemos que influenciam o desempenho e o comportamento do sistema e a importância de pensar em todo o sistema, para que os usuários do Copilot possam assumir o controle de suas próprias experiências e entender as etapas que estamos seguindo para fornecer um produto seguro e protegido.
As Notas de Transparência da Microsoft fazem parte de um esforço mais amplo da Microsoft para colocar nossos Princípios de IA em prática. Para saber mais, confira os Princípios de IA da Microsoft AI.
Noções básicas do Microsoft Copilot
Introdução
O Microsoft Copilot ajuda você a passar da ideia ao trabalho concluído, tudo em um só lugar. O Copilot é integrado ao Word, Excel, PowerPoint, Outlook, Teams e muito mais, trazendo os arquivos e as informações que você usa em uma única experiência. O Copilot pode ajudá-lo a criar documentos, apresentações e planilhas elegantes, redigir emails, organizar seu dia e obter respostas fundamentadas no trabalho que você está fazendo. Com o Cowork, o Copilot também pode ajudar com tarefas maiores de várias etapas e entregar tarefas concluídas. Você também pode escolher entre os principais modelos de IA para diferentes tipos de trabalho. Os recursos específicos variam de acordo com a assinatura.
Na Microsoft, levamos muito a sério nosso compromisso com a IA responsável. O Copilot foi desenvolvido de acordo com os Princípios de IA da Microsoft, o Responsible AI Standard da Microsoft e em parceria com especialistas em IA responsável em toda a empresa, incluindo o Office of Responsible AI da Microsoft, nossas equipes de engenharia, Microsoft Research e Aether. Você pode saber mais em IA responsável da Microsoft.
Neste documento, descrevemos nossa abordagem à IA responsável para o Copilot. Antes do lançamento, aproveitamos os métodos avançados da Microsoft para mapear, medir e gerenciar possíveis riscos e uso indevido do sistema e proteger seus benefícios para os usuários. À medida que continuamos a desenvolver o Copilot, também continuamos a aprender e melhorar nossos esforços responsáveis de IA. Este documento será atualizado periodicamente para comunicar nossos processos e métodos em evolução.
Principais termos
Classificadores Modelos de aprendizado de máquina que ajudam a classificar dados em classes rotuladas ou categorias de informações. No Copilot, uma maneira de usar classificadores é ajudar a detectar conteúdo potencialmente prejudicial enviado por usuários ou gerado pelo sistema para mitigar a geração desse conteúdo e o uso indevido ou abuso do sistema.
Aterramento Para determinadas conversas em que os usuários buscam informações, o Copilot é baseado em resultados de pesquisa na Web. Isso significa que o Copilot centraliza sua resposta em conteúdo de alto escalão da Web e fornece citações com hiperlinks após respostas de texto geradas ou em transcrições de conversas no modo de voz.
LLMs (modelos de linguagem grande) Os modelos de linguagem grande (LLMs) nesse contexto são modelos de IA treinados em grandes quantidades de dados de texto para prever palavras em sequências. Os LLMs podem executar uma variedade de tarefas, como geração de texto, resumo, tradução, classificação e muito mais.
Mitigação Um método ou combinação de métodos projetados para reduzir os riscos potenciais que podem surgir do uso dos recursos de IA no Copilot.
Modelos multimodais (MMMs) Os MMMs (modelos multimodais) são modelos de IA treinados em diferentes tipos de dados, como texto, imagens ou áudio. Esses modelos podem executar uma variedade de tarefas, como escrever texto, descrever imagens, reconhecer fala e encontrar informações em diferentes tipos de dados.
Prompts Entradas na forma de texto, imagens e/ou áudio que um usuário envia ao Copilot para interagir com os recursos de IA do Copilot.
Agrupamento vermelho Técnicas usadas por especialistas para avaliar as limitações e vulnerabilidades de um sistema e para testar a eficácia das mitigações planejadas. O teste da equipe vermelha inclui testadores que adotam personas benignas e contraditórias para identificar riscos potenciais e são distintos da medição sistemática de riscos.
Respostas Texto, imagens ou áudio que o Copilot gera em resposta a um prompt ou como parte das idas e vindas com o usuário. Sinônimos de "resposta" incluem "conclusão", "geração" e "resposta".
SLMs (modelos de linguagem pequena) Os SLMs (modelos de linguagem pequena), nesse contexto, são modelos de IA treinados em quantidades menores e mais focadas de dados em comparação com modelos de linguagem grandes. Apesar de seu tamanho menor, os SLMs podem executar uma variedade de tarefas, como geração de texto, resumo, tradução e classificação. Embora possam não corresponder aos amplos recursos dos LLMs, os SLMs geralmente são mais eficientes em termos de recursos e podem ser altamente eficazes para aplicativos específicos e direcionados.
Mensagem do sistema A mensagem do sistema (às vezes chamada de "metaprompt") é um programa que serve para orientar o comportamento do sistema. Partes da mensagem do sistema ajudam a alinhar o comportamento do sistema com os Princípios de IA da Microsoft e as expectativas do usuário. Por exemplo, uma mensagem do sistema pode incluir uma linha como "não forneça informações ou crie conteúdo que possa causar danos físicos, emocionais ou financeiros".
Recursos
Comportamento do sistema
Com o Copilot, desenvolvemos uma abordagem inovadora para trazer uma experiência de IA mais personalizada aos usuários para uma experiência envolvente que pode ajudar os usuários em uma variedade de tarefas. Essa abordagem inovadora aproveita uma variedade de tecnologias avançadas, como modelos de linguagem e multimodais da Microsoft, OpenAI e outros desenvolvedores de modelos. Trabalhamos na implementação de técnicas de segurança para os modelos subjacentes ao Copilot antes do lançamento público para desenvolver um conjunto personalizado de recursos e comportamentos que fornecem uma experiência aprimorada do Copilot. No Copilot, os usuários podem enviar prompts em texto ou voz em linguagem natural. As respostas são apresentadas aos usuários em vários formatos diferentes, como respostas de chat em forma de texto (com links tradicionais para conteúdo da Web, conforme necessário) e imagens (se uma solicitação de imagem foi feita como parte do prompt). Se os usuários enviarem prompts em voz em idioma natural no modo de voz do Copilot, eles receberão respostas de áudio.
Quando um usuário insere um prompt no Copilot, o prompt, o histórico da conversa e a mensagem do sistema são enviados por meio de vários classificadores de entrada para ajudar a filtrar conteúdo prejudicial ou inadequado. Essa é uma primeira etapa crucial para ajudar a melhorar o desempenho do modelo e atenuar situações nas quais os usuários podem tentar solicitar o modelo de uma maneira que possa ser insegura. Depois que o prompt passa pelos classificadores de entrada, é feita uma determinação se a solicitação requer dados de base da Web e qual modelo de linguagem deve responder à solicitação. Todos os modelos geram uma resposta usando o prompt do usuário e o histórico de conversas recentes para contextualizar a solicitação, a mensagem do sistema para alinhar as respostas com os princípios de IA da Microsoft e as expectativas do usuário e, se apropriado, alinhar as respostas com os resultados da pesquisa para fundamentar as respostas em conteúdo existente e de alto escalão da Web.
As respostas são apresentadas aos usuários em vários formatos diferentes, como respostas de chat em formato de texto, links tradicionais para conteúdo da Web, imagens e respostas de áudio. Quando as respostas são fornecidas na forma de texto - e as respostas são fundamentadas em dados da web - a saída contém citações com hiperlinks listadas abaixo do texto para que os usuários possam acessar os sites que foram usados para fundamentar a resposta e aprender mais sobre o tópico a partir daí. O Copilot também pode executar código para concluir cálculos complexos e gerar gráficos. O Copilot pode armazenar fatos específicos que os usuários solicitam que ele lembre, permitindo que ele gere respostas e sugestões mais relevantes com base nesse contexto. O Copilot também pode excluir fatos salvos quando os usuários pedem para esquecê-los explicitamente.
O Copilot também ajuda os usuários a criar novas histórias, poemas, letras de músicas e imagens. Quando o Copilot detecta a intenção do usuário de gerar conteúdo criativo (como um prompt do usuário que começa com "escreva-me um ..."), o sistema gerará, na maioria dos casos, conteúdo responsivo ao prompt do usuário. Da mesma forma, quando o Copilot detecta a intenção do usuário de gerar uma imagem (como um prompt do usuário que começa com "desenhe-me um ..."), o Copilot, na maioria dos casos, gerará uma imagem que responda ao prompt do usuário. Quando o Copilot detecta a intenção do usuário de modificar uma imagem carregada (como um prompt do usuário que começa com "adicionar um ..."), o Copilot, na maioria dos casos, modifica uma imagem que responde ao prompt do usuário. O Copilot pode não responder com conteúdo criativo quando o prompt do usuário contém determinados termos que podem resultar em conteúdo problemático.
Comportamento de segurança pretendido
Nosso objetivo com o Copilot é ser útil para os usuários e implementamos proteções para ajudar a reduzir a probabilidade de gerar conteúdo prejudicial e aumentar a probabilidade de uma experiência de usuário segura e positiva. Embora tenhamos tomado medidas para mitigar os riscos, os modelos de IA generativa, como os que estão por trás do Copilot, são probabilísticos e podem cometer erros, o que significa que as mitigações podem ocasionalmente falhar ao bloquear solicitações prejudiciais do usuário ou respostas geradas por IA. Se você encontrar conteúdo prejudicial ou inesperado ao usar o Copilot, informe-nos fornecendo comentários para que possamos continuar melhorando a experiência.
Casos de uso
Usos pretendidos
O Copilot foi projetado para ajudar os usuários a responder perguntas, gerar conteúdo e concluir tarefas por meio de linguagem natural usando texto, imagens e voz. Para fornecer respostas úteis e relevantes, o Copilot pode recuperar, analisar e resumir informações de fontes disponíveis. Alguns recursos avançados podem estar disponíveis apenas para usuários com assinaturas qualificadas. Exemplos de casos de uso comuns incluem o seguinte:
Chat usando texto e obtenha resumos baseados na Web. Os usuários podem conversar com o Copilot por mensagem de texto e fazer perguntas de acompanhamento para encontrar novas informações e receber suporte em uma ampla variedade de tópicos. O Copilot pode executar pesquisas na Web e usará os principais resultados da pesquisa na Web para gerar um resumo das informações a serem apresentadas aos usuários. Esses resumos incluem citações de páginas da Web para ajudar os usuários a examinar as fontes dos resultados de pesquisa que ajudaram a fundamentar o resumo do Copilot. Os usuários podem clicar nesses links para visitar a fonte do site para saber mais ou avaliar a confiabilidade do site.
Obtenha ajuda para gerar novas ideias. Sempre que os usuários interagirem com a experiência do Copilot, eles verão um conjunto de cartões nos quais poderão clicar para começar a conversar com o Copilot sobre tópicos úteis e interessantes. Se os usuários interagiram com outros serviços de consumidor da Microsoft, os cartões serão personalizados, de acordo com nossas políticas de privacidade. Com o tempo, os cartões no Copilot podem ser personalizados com base no histórico de chat de um usuário. Os usuários podem recusar a personalização a qualquer momento nas configurações.
Gere conteúdo criativo. Ao conversar com o Copilot, os usuários podem criar novos poemas, piadas, histórias, imagens e outros conteúdos com a ajuda do Copilot. O Copilot também pode editar imagens carregadas pelos usuários, se solicitado.
Auxiliar na pesquisa. O Copilot pode realizar tarefas de pesquisa revelando recursos aprofundados, oferecendo detalhamentos de tópicos e vinculando fontes para ajudar os usuários a ir além das respostas rápidas para consultas mais complexas. O Copilot pode gerar proativamente sugestões de pesquisa personalizadas para usuários com base em itens como consultas de pesquisa anteriores e memória do Copilot. Os usuários podem recusar a personalização ou as notificações a qualquer momento nas configurações.
Descubra, compare e compre produtos. O Copilot Shopping pode ajudar você a encontrar produtos, comparar opções e simplificar compras. Exceto quando identificado, a Microsoft não recebe comissões ou outra compensação por sugestões de produtos ou resultados de pesquisa fornecidos no Copilot.
Estude de forma mais inteligente com o Copilot Learn. O Copilot Learn pode criar questionários e testes práticos, gerar flashcards e foi projetado para ajudar a aprimorar respostas com imagens para facilitar a compreensão de conceitos complexos.
Obtenha ajuda com as tarefas diárias. O Copilot Cowork executa tarefas em seu nome. Você descreve o que precisa em linguagem natural e o Cowork faz o trabalho, criando documentos, redigindo e enviando e-mails, agendando reuniões e gerenciando arquivos. Você examina e aprova ações confidenciais antes que elas aconteçam.
Analise e edite arquivos. O carregamento de arquivos no Copilot permite que os usuários carreguem imagens ou determinados tipos de arquivo com suporte diretamente em suas sessões de chat. Depois de carregado, o Copilot pode analisar e extrair informações desses arquivos para fornecer insights relevantes, responder a perguntas ou ajudar em tarefas específicas. O Copilot também pode fazer referência a arquivos em seus provedores de armazenamento online conectados, como OneDrive e Google Drive, com sua permissão.
Veja e entenda. Use a Visão para analisar imagens, obter insights de fotos e pesquisar visualmente. O Copilot analisa as imagens carregadas para ajudá-lo a entender o que está vendo.
Use sua voz. Fale naturalmente com o Copilot usando o chat de voz. Faça um brainstorming de ideias, escreva conteúdo ou obtenha respostas rápidas, totalmente com as mãos livres.
Conecta-se a outros aplicativos. Traga os aplicativos e as informações que você escolher, como email, calendários, arquivos, contatos e outros serviços.
Considerações ao escolher outros casos de uso
Incentivamos os usuários a revisar todo o conteúdo antes de tomar decisões ou agir com base nas respostas do Copilot, pois a IA pode cometer erros e pode não ser adequada para determinados casos de uso. Além disso, há determinados cenários que recomendamos evitar ou que vão contra nossos Termos de Uso. Por exemplo, a Microsoft não permite que o Copilot seja usado em conexão com atividades ilegais ou para qualquer finalidade destinada a promover atividades ilegais.
Limitações
Os modelos de linguagem, imagem e áudio subjacentes à experiência do Copilot podem incluir dados de treinamento que podem refletir preconceitos sociais, o que, por sua vez, pode fazer com que o Copilot se comporte de maneiras percebidas como injustas, não confiáveis ou ofensivas. Apesar de nosso treinamento intensivo de modelo e ajuste fino de segurança, bem como da implementação dos controles de IA responsáveis e sistemas de segurança que colocamos em dados de treinamento, prompts do usuário e saídas de modelo, os serviços orientados por IA são falíveis e probabilísticos. Isso dificulta o bloqueio abrangente de todo conteúdo impróprio, levando a riscos de possíveis vieses, estereótipos, falta de fundamento ou outros tipos de danos que podem aparecer no conteúdo gerado por IA. Algumas das maneiras pelas quais essas limitações podem se manifestar na experiência do Copilot estão listadas aqui.
Estereótipos: A experiência do Copilot pode reforçar estereótipos. Por exemplo, ao traduzir "Ele é enfermeira" e "Ela é médica" para um idioma sem gênero, como o turco, e depois voltar para o inglês, o Copilot pode inadvertidamente produzir os resultados estereotipados (e incorretos) de "Ela é enfermeira" e "Ele é médico". Outro exemplo é que, ao gerar uma imagem com base no prompt "Filhos órfãos", o sistema pode gerar imagens de crianças de apenas uma raça ou etnia, reforçando estereótipos prejudiciais que podem existir em imagens disponíveis publicamente usadas para treinar os modelos subjacentes. O Copilot também pode reforçar estereótipos com base no conteúdo da imagem de entrada do usuário, baseando-se em componentes da imagem e fazendo suposições que podem não ser verdadeiras. Implementamos mitigações para reduzir o risco de conteúdo que contenha estereótipos ofensivos, incluindo classificadores de entrada e saída, modelos ajustados e mensagens do sistema.
Super-representação e sub-representação: O Copilot pode representar grupos de pessoas em excesso ou sub-representação, ou até mesmo não representá-los, em suas respostas. Por exemplo, se prompts de texto que contêm a palavra "gay" forem detectados como potencialmente prejudiciais ou ofensivos, isso pode levar à sub-representação de gerações legítimas sobre a comunidade LGBTQIA+. Além de incluir classificadores de entrada e saída, modelos ajustados e mensagens do sistema, usamos o enriquecimento imediato no Designer como uma das várias atenuações para reduzir o risco de conteúdo que super-representa ou sub-representa grupos de pessoas.
Conteúdo impróprio ou ofensivo: A experiência do Copilot pode potencialmente produzir outros tipos de conteúdo impróprio ou ofensivo. Exemplos incluem a capacidade de gerar conteúdo em uma modalidade (por exemplo, áudio) que é inadequada no contexto de seu prompt ou quando comparada com a mesma saída em uma modalidade diferente (por exemplo, texto). Outros exemplos incluem imagens geradas por IA que potencialmente contêm artefatos prejudiciais, como símbolos de ódio, conteúdo relacionado a tópicos contestados, controversos ou ideologicamente polarizadores e conteúdo sexualmente carregado que escapa dos filtros de conteúdo sexual. Implementamos mitigações para reduzir o risco de gerações que contêm conteúdo inadequado ou ofensivo, como classificadores de entrada e saída, modelos ajustados e mensagens do sistema.
Confiabilidade das informações: Embora o Copilot tenha como objetivo responder com fontes confiáveis onde as informações básicas são buscadas, a IA pode cometer erros. Pode gerar conteúdo sem sentido ou fabricar conteúdo que pode parecer razoável, mas é factualmente impreciso. Mesmo ao extrair respostas de dados da Web de alta autoridade, as respostas podem deturpar esse conteúdo de uma forma que pode não ser totalmente precisa, atualizada ou confiável. Lembramos aos usuários por meio da interface do usuário e em documentações como esta que o Copilot pode cometer erros. Também continuamos a educar os usuários sobre as limitações da IA, como incentivá-los a marcar os fatos antes de tomar decisões ou agir com base nas respostas do Copilot. Quando os usuários interagem com o Copilot por meio de texto, ele tenta se basear em dados da Web de alta qualidade para reduzir o risco de que as gerações não sejam fundamentadas.
Desempenho multilíngue: Pode haver variações no desempenho entre idiomas, com o inglês tendo o melhor desempenho no momento do lançamento do Copilot. Melhorar o desempenho em vários idiomas é uma área de investimento fundamental, e modelos recentes levaram a um melhor desempenho.
Limitações de áudio: Os modelos de áudio podem introduzir outras limitações. Em termos gerais, a qualidade acústica da entrada de fala, ruído que não é de fala, vocabulário, sotaques e erros de inserção também podem afetar se o Copilot processa e responde à entrada de áudio de um usuário de maneira satisfatória.
A IA não substitui a ajuda profissional: A IA pode ser uma ferramenta útil para a resolução de problemas e pode ser vista como empática, mas não substitui a busca por ajuda profissional. Se você está passando por depressão, pensamentos suicidas ou automutilação ou outros problemas de saúde mental, procure ajuda profissional. O Copilot também pode ser usado para encontrar recursos de crise ou saúde mental perto de você.
Dependência da conectividade com a Internet: O Copilot depende da conectividade com a Internet para funcionar. As interrupções na conectividade podem afetar a disponibilidade e o desempenho do serviço.
Tenha cuidado ao criar ou usar agentes: Os usuários devem ter cuidado ao criar seus próprios agentes ou usar agentes fornecidos por outros, especialmente se as ações tomadas pelos agentes puderem ter consequências significativas, ser irreversíveis ou ter potencial para compartilhar informações pessoais confidenciais (como senhas, logins ou dados pessoais). Como os agentes podem não funcionar bem para todos os casos de uso e podem cometer erros, interpretar mal as instruções ou ser enganados por instruções ocultas mal-intencionadas, os usuários devem monitorar os resultados de perto e revisar detalhes importantes Os usuários podem ser impedidos de determinados casos de uso, como visitar sites prejudiciais ou criar conteúdo inadequado. Precauções adicionais também devem ser tomadas ao criar IA agencial autônoma, conforme descrito mais detalhadamente na seção Código de Conduta do Contrato de Serviços Microsoft.
Desempenho do sistema
Em muitos sistemas de IA, o desempenho geralmente é definido em relação à precisão (ou seja, com que frequência o sistema de IA oferece uma previsão ou saída correta). Com o Copilot, estamos focados no Copilot como um assistente da plataforma AI que reflete as preferências do usuário. Portanto, dois usuários diferentes podem olhar para a mesma saída e ter opiniões diferentes sobre o quão útil ou relevante ela é para sua situação e expectativas únicas, o que significa que o desempenho desses sistemas deve ser definido de forma mais flexível. Consideramos, em termos gerais, que o desempenho do aplicativo significa que o aplicativo funciona conforme o esperado dos usuários.
Práticas recomendadas para melhorar o desempenho do sistema
Interaja com a interface usando linguagem natural e coloquial. Interagir com o Copilot de uma maneira confortável para o usuário é fundamental para obter melhores resultados por meio da experiência. Assim como a adoção de técnicas para ajudar as pessoas a se comunicarem de forma eficaz no dia a dia, interagir com o Copilot como um assistente da plataforma IA, seja por meio de texto ou fala familiar para o usuário, pode ajudar a obter melhores resultados.
Experiência e adoção do usuário. O uso eficaz do Copilot exige que os usuários entendam seus recursos e limitações. Pode haver uma curva de aprendizado, e os usuários podem querer consultar vários recursos do Copilot (por exemplo, este documento e Microsoft Copilot ajuda & aprendizado) para interagir efetivamente e se beneficiar do serviço.
Mapeamento, medição e gerenciamento de riscos
Como outras tecnologias transformacionais, aproveitar os benefícios da IA não é livre de riscos, e uma parte central do programa de IA Responsável da Microsoft foi projetada para identificar e mapear riscos potenciais, medir esses riscos e gerenciá-los criando mitigações e melhorando continuamente o Copilot ao longo do tempo. Nas seções abaixo, descrevemos nossa abordagem iterativa para mapear, medir e gerenciar riscos potenciais.
Mapa: O planejamento cuidadoso e os testes adversários pré-implantação, como red teaming, nos ajudam a mapear riscos potenciais. Os modelos subjacentes que alimentam a experiência do Copilot passaram por testes de equipe vermelha de testadores que representam perspectivas multidisciplinares em áreas de tópicos relevantes. Este teste foi projetado para avaliar como a tecnologia mais recente funcionaria com e sem quaisquer salvaguardas adicionais aplicadas a ela. A intenção desses exercícios no nível do modelo é produzir respostas prejudiciais, revelar caminhos potenciais para uso indevido e identificar capacidades e limitações.
Teste no nível do aplicativo antes do lançamento. Antes de disponibilizar o Copilot publicamente, realizamos uma análise em grupo vermelho no nível do aplicativo para identificar deficiências e vulnerabilidades. Esses testes nos ajudaram a entender como uma ampla gama de usuários pode usar o Copilot e informaram melhorias para nossas mitigações.
Testes em andamento. Também testamos novos recursos e atualizações técnicas, conforme apropriado, ao atualizar o Copilot. Esse processo contínuo nos ajuda a identificar riscos emergentes e refinar nossas mitigações ao longo do tempo.
Medida: Além de avaliar o Copilot em relação às nossas avaliações de segurança existentes, o uso de red teaming descrito acima nos ajudou a desenvolver avaliações e métricas de IA responsáveis correspondentes a riscos potenciais identificados, como jailbreaks, conteúdo prejudicial e conteúdo não aterrado.
Coletamos dados de conversa direcionados a esses riscos, usando uma combinação de participantes humanos e um pipeline automatizado de geração de conversas. Cada avaliação é então pontuada por um pool de anotadores humanos treinados ou por um pipeline de anotação automatizado. Sempre que o produto é alterado, as mitigações existentes são atualizadas ou novas mitigações são propostas, atualizamos nossos pipelines de avaliação para avaliar o desempenho do produto e as métricas de IA responsáveis. Esses pipelines de contexto de avaliação automatizados são uma combinação de conversas coletadas com avaliadores humanos e conversas sintéticas geradas com LLMs solicitadas a testar políticas de maneira contraditória. Cada uma dessas avaliações de segurança é pontuada automaticamente com LLMs. Para as avaliações recém-desenvolvidas, cada avaliação é inicialmente pontuada por rotuladores humanos que leem o conteúdo do texto ou ouvem a saída de áudio e, em seguida, convertida em avaliações automáticas baseadas em LLM.
O comportamento pretendido de nossos modelos em combinação com nossos pipelines de avaliação - humanos e automatizados - nos permite realizar rapidamente a medição de riscos potenciais em escala. À medida que identificamos novos problemas ao longo do tempo, continuamos a expandir os conjuntos de medidas para avaliar riscos adicionais.
Gerenciar: À medida que identificamos possíveis riscos e uso indevido por meio de red teaming e os medimos com as abordagens descritas acima, desenvolvemos mitigações adicionais específicas para a experiência do Copilot. Abaixo, descrevemos algumas dessas mitigações. Continuaremos monitorando a experiência do Copilot para melhorar o desempenho do produto e nossa abordagem de mitigação de risco.
Planos de lançamento em fases e avaliação contínua. Estamos comprometidos em aprender e aprimorar nossa abordagem de IA responsável continuamente à medida que nossas tecnologias e comportamento do usuário evoluem. Nossa estratégia de lançamento incremental tem sido uma parte essencial de como movemos nossa tecnologia com segurança do laboratório para o mundo, e estamos comprometidos com um processo deliberado e cuidadoso para garantir os benefícios da experiência do Copilot. Estamos fazendo alterações no Copilot regularmente para melhorar o desempenho do produto e as mitigações existentes e implementar novas mitigações em resposta aos nossos aprendizados.
Aproveitando os classificadores e a mensagem do sistema para mitigar riscos potenciais ou uso indevido. Em resposta a solicitações do usuário, as LLMs podem produzir conteúdo problemático. Discutimos os tipos de conteúdo que tentamos limitar nas seções Comportamento e Limitações do Sistema acima. Os classificadores e a mensagem do sistema são dois exemplos de mitigações que foram implementadas no Copilot para ajudar a reduzir o risco desses tipos de conteúdo. Os classificadores classificam o texto para sinalizar conteúdo potencialmente prejudicial em solicitações do usuário ou respostas geradas. Também utilizamos as práticas recomendadas existentes para alavancar a mensagem do sistema, o que envolve fornecer instruções ao modelo para alinhar seu comportamento com os princípios de IA da Microsoft e com as expectativas do usuário.
Carregando imagens para o Visão do Copilot. Na primeira vez que um usuário carregar uma imagem no Visão do Copilot, ele receberá informações sobre como sua imagem é processada pelo Copilot. Se um usuário não continuar com o upload, a imagem não será enviada ao Copilot. Todas as imagens são excluídas dentro de 30 dias após o término da conversa.
Divulgação de IA. O Copilot também foi projetado para informar às pessoas que elas estão interagindo com um sistema de IA. À medida que os usuários interagem com o Copilot, oferecemos vários pontos de contato projetados para ajudá-los a entender os recursos do sistema, divulgar a eles que o Copilot é alimentado por IA e comunicar limitações. A experiência foi projetada dessa forma para ajudar os usuários a aproveitar ao máximo o Copilot e minimizar o risco de dependência excessiva. As divulgações também ajudam os usuários a entender melhor o Copilot e suas interações com ele.
Proveniência da mídia. Para todas as imagens criadas com o Copilot, implementamos credenciais de conteúdo, baseadas no padrão C2PA, para ajudar as pessoas a identificar se as imagens foram editadas ou geradas com IA. Os metadados de proveniência podem ser exibidos no site de Credenciais de Conteúdo.
Detecção automatizada de conteúdo. Quando os usuários carregam imagens como parte do prompt de chat, o Copilot implanta ferramentas para detectar imagens de exploração e abuso sexual infantil (CSEAI). A Microsoft relata todos os CSEAI aparentes ao NCMEC (Centro Nacional para Crianças Desaparecidas e Exploradas), conforme exigido pela lei dos EUA. Quando os usuários carregam arquivos para analisar ou processar, o Copilot implanta a verificação automatizada para detectar conteúdo que possa levar a riscos ou uso indevido, como texto relacionado a atividades ilegais ou código mal-intencionado.
Termos de Uso e Código de Conduta. Os usuários devem cumprir os Termos de Uso e o Código de Conduta aplicáveis do Copilot, o Contrato de Serviços Microsoft e a Política de Privacidade da Microsoft, que, entre outras coisas, os informam sobre usos permitidos e não permitidos e as consequências da violação dos termos. Os Termos de Uso também fornecem divulgações adicionais para os usuários e servem como referência para que os usuários saibam mais sobre o Copilot. Os usuários que cometerem violações graves ou repetidas podem ser suspensos temporária ou permanentemente do serviço.
Comentários, monitoramento e supervisão. A experiência do Copilot inclui ferramentas que permitem aos usuários enviar comentários, que são revisados pelas equipes de operações da Microsoft. Além disso, nossa abordagem para mapear, medir e gerenciar riscos continuará a evoluir à medida que aprendemos mais e já estamos fazendo melhorias com base no feedback coletado durante os períodos de visualização.
Detectando e respondendo a riscos de suicídio e Self-Harm. O Copilot usa classificadores de aprendizado de máquina treinados para reconhecer padrões de linguagem que podem indicar intenção de suicídio ou automutilação do usuário. Quando esse tipo de conteúdo é detectado, o sistema se desconecta da conversa e fornece recursos de suporte em situações de crise (por exemplo, a linha de emergência para suicídio e crise no número 988 nos Estados Unidos), incentivando os usuários a procurar ajuda profissional. O Copilot não fornece aconselhamento; Sua função é limitada à detecção e encaminhamento para garantir a segurança do usuário.
Notificação de uso estendido. O Copilot pode lembrar os usuários de fazer uma pausa se eles estiverem envolvidos em conversas contínuas por um longo período de tempo. Os usuários também são regularmente informados de que a IA não é humana e pode cometer erros.