Nota de Transparência do Microsoft Copilot (para pessoas físicas)

18 de agosto de 2026

O que é uma Nota de Transparência?

Um sistema de IA inclui não apenas a tecnologia, mas também as pessoas que a usarão, as pessoas que serão afetadas por ela e o ambiente em que ela é implantada. As Notas de Transparência da Microsoft destinam-se a ajudá-lo a entender como funciona a tecnologia de IA por trás do Copilot, as escolhas que fizemos que influenciam o desempenho e o comportamento do sistema e a importância de pensar em todo o sistema, para que os usuários do Copilot possam assumir o controle de suas próprias experiências e entender as etapas que estamos seguindo para fornecer um produto seguro e protegido.

As Notas de Transparência da Microsoft fazem parte de um esforço mais amplo da Microsoft para colocar nossos Princípios de IA em prática. Para saber mais, confira os Princípios de IA da Microsoft AI.

Noções básicas do Microsoft Copilot

Introdução

O Microsoft Copilot ajuda você a passar da ideia ao trabalho concluído, tudo em um só lugar. O Copilot é integrado ao Word, Excel, PowerPoint, Outlook, Teams e muito mais, trazendo os arquivos e as informações que você usa em uma única experiência. O Copilot pode ajudá-lo a criar documentos, apresentações e planilhas elegantes, redigir emails, organizar seu dia e obter respostas fundamentadas no trabalho que você está fazendo. Com o Cowork, o Copilot também pode ajudar com tarefas maiores de várias etapas e entregar tarefas concluídas. Você também pode escolher entre os principais modelos de IA para diferentes tipos de trabalho. Os recursos específicos variam de acordo com a assinatura.

Na Microsoft, levamos muito a sério nosso compromisso com a IA responsável. O Copilot foi desenvolvido de acordo com os Princípios de IA da Microsoft, o Responsible AI Standard da Microsoft e em parceria com especialistas em IA responsável em toda a empresa, incluindo o Office of Responsible AI da Microsoft, nossas equipes de engenharia, Microsoft Research e Aether. Você pode saber mais em IA responsável da Microsoft.

Neste documento, descrevemos nossa abordagem à IA responsável para o Copilot. Antes do lançamento, aproveitamos os métodos avançados da Microsoft para mapear, medir e gerenciar possíveis riscos e uso indevido do sistema e proteger seus benefícios para os usuários. À medida que continuamos a desenvolver o Copilot, também continuamos a aprender e melhorar nossos esforços responsáveis de IA. Este documento será atualizado periodicamente para comunicar nossos processos e métodos em evolução.

Principais termos

Classificadores Modelos de aprendizado de máquina que ajudam a classificar dados em classes rotuladas ou categorias de informações. No Copilot, uma maneira de usar classificadores é ajudar a detectar conteúdo potencialmente prejudicial enviado por usuários ou gerado pelo sistema para mitigar a geração desse conteúdo e o uso indevido ou abuso do sistema.

Aterramento Para determinadas conversas em que os usuários buscam informações, o Copilot é baseado em resultados de pesquisa na Web. Isso significa que o Copilot centraliza sua resposta em conteúdo de alto escalão da Web e fornece citações com hiperlinks após respostas de texto geradas ou em transcrições de conversas no modo de voz.

LLMs (modelos de linguagem grande) Os modelos de linguagem grande (LLMs) nesse contexto são modelos de IA treinados em grandes quantidades de dados de texto para prever palavras em sequências. Os LLMs podem executar uma variedade de tarefas, como geração de texto, resumo, tradução, classificação e muito mais.

Mitigação Um método ou combinação de métodos projetados para reduzir os riscos potenciais que podem surgir do uso dos recursos de IA no Copilot.

Modelos multimodais (MMMs) Os MMMs (modelos multimodais) são modelos de IA treinados em diferentes tipos de dados, como texto, imagens ou áudio. Esses modelos podem executar uma variedade de tarefas, como escrever texto, descrever imagens, reconhecer fala e encontrar informações em diferentes tipos de dados.

Prompts Entradas na forma de texto, imagens e/ou áudio que um usuário envia ao Copilot para interagir com os recursos de IA do Copilot.

Agrupamento vermelho Técnicas usadas por especialistas para avaliar as limitações e vulnerabilidades de um sistema e para testar a eficácia das mitigações planejadas. O teste da equipe vermelha inclui testadores que adotam personas benignas e contraditórias para identificar riscos potenciais e são distintos da medição sistemática de riscos.

Respostas Texto, imagens ou áudio que o Copilot gera em resposta a um prompt ou como parte das idas e vindas com o usuário. Sinônimos de "resposta" incluem "conclusão", "geração" e "resposta".

SLMs (modelos de linguagem pequena) Os SLMs (modelos de linguagem pequena), nesse contexto, são modelos de IA treinados em quantidades menores e mais focadas de dados em comparação com modelos de linguagem grandes. Apesar de seu tamanho menor, os SLMs podem executar uma variedade de tarefas, como geração de texto, resumo, tradução e classificação. Embora possam não corresponder aos amplos recursos dos LLMs, os SLMs geralmente são mais eficientes em termos de recursos e podem ser altamente eficazes para aplicativos específicos e direcionados.

Mensagem do sistema A mensagem do sistema (às vezes chamada de "metaprompt") é um programa que serve para orientar o comportamento do sistema. Partes da mensagem do sistema ajudam a alinhar o comportamento do sistema com os Princípios de IA da Microsoft e as expectativas do usuário. Por exemplo, uma mensagem do sistema pode incluir uma linha como "não forneça informações ou crie conteúdo que possa causar danos físicos, emocionais ou financeiros".

Recursos

Comportamento do sistema

Com o Copilot, desenvolvemos uma abordagem inovadora para trazer uma experiência de IA mais personalizada aos usuários para uma experiência envolvente que pode ajudar os usuários em uma variedade de tarefas. Essa abordagem inovadora aproveita uma variedade de tecnologias avançadas, como modelos de linguagem e multimodais da Microsoft, OpenAI e outros desenvolvedores de modelos. Trabalhamos na implementação de técnicas de segurança para os modelos subjacentes ao Copilot antes do lançamento público para desenvolver um conjunto personalizado de recursos e comportamentos que fornecem uma experiência aprimorada do Copilot. No Copilot, os usuários podem enviar prompts em texto ou voz em linguagem natural. As respostas são apresentadas aos usuários em vários formatos diferentes, como respostas de chat em forma de texto (com links tradicionais para conteúdo da Web, conforme necessário) e imagens (se uma solicitação de imagem foi feita como parte do prompt). Se os usuários enviarem prompts em voz em idioma natural no modo de voz do Copilot, eles receberão respostas de áudio.

Quando um usuário insere um prompt no Copilot, o prompt, o histórico da conversa e a mensagem do sistema são enviados por meio de vários classificadores de entrada para ajudar a filtrar conteúdo prejudicial ou inadequado. Essa é uma primeira etapa crucial para ajudar a melhorar o desempenho do modelo e atenuar situações nas quais os usuários podem tentar solicitar o modelo de uma maneira que possa ser insegura. Depois que o prompt passa pelos classificadores de entrada, é feita uma determinação se a solicitação requer dados de base da Web e qual modelo de linguagem deve responder à solicitação. Todos os modelos geram uma resposta usando o prompt do usuário e o histórico de conversas recentes para contextualizar a solicitação, a mensagem do sistema para alinhar as respostas com os princípios de IA da Microsoft e as expectativas do usuário e, se apropriado, alinhar as respostas com os resultados da pesquisa para fundamentar as respostas em conteúdo existente e de alto escalão da Web.

As respostas são apresentadas aos usuários em vários formatos diferentes, como respostas de chat em formato de texto, links tradicionais para conteúdo da Web, imagens e respostas de áudio. Quando as respostas são fornecidas na forma de texto - e as respostas são fundamentadas em dados da web - a saída contém citações com hiperlinks listadas abaixo do texto para que os usuários possam acessar os sites que foram usados para fundamentar a resposta e aprender mais sobre o tópico a partir daí. O Copilot também pode executar código para concluir cálculos complexos e gerar gráficos. O Copilot pode armazenar fatos específicos que os usuários solicitam que ele lembre, permitindo que ele gere respostas e sugestões mais relevantes com base nesse contexto. O Copilot também pode excluir fatos salvos quando os usuários pedem para esquecê-los explicitamente.

O Copilot também ajuda os usuários a criar novas histórias, poemas, letras de músicas e imagens. Quando o Copilot detecta a intenção do usuário de gerar conteúdo criativo (como um prompt do usuário que começa com "escreva-me um ..."), o sistema gerará, na maioria dos casos, conteúdo responsivo ao prompt do usuário. Da mesma forma, quando o Copilot detecta a intenção do usuário de gerar uma imagem (como um prompt do usuário que começa com "desenhe-me um ..."), o Copilot, na maioria dos casos, gerará uma imagem que responda ao prompt do usuário. Quando o Copilot detecta a intenção do usuário de modificar uma imagem carregada (como um prompt do usuário que começa com "adicionar um ..."), o Copilot, na maioria dos casos, modifica uma imagem que responde ao prompt do usuário. O Copilot pode não responder com conteúdo criativo quando o prompt do usuário contém determinados termos que podem resultar em conteúdo problemático.

Comportamento de segurança pretendido

Nosso objetivo com o Copilot é ser útil para os usuários e implementamos proteções para ajudar a reduzir a probabilidade de gerar conteúdo prejudicial e aumentar a probabilidade de uma experiência de usuário segura e positiva. Embora tenhamos tomado medidas para mitigar os riscos, os modelos de IA generativa, como os que estão por trás do Copilot, são probabilísticos e podem cometer erros, o que significa que as mitigações podem ocasionalmente falhar ao bloquear solicitações prejudiciais do usuário ou respostas geradas por IA. Se você encontrar conteúdo prejudicial ou inesperado ao usar o Copilot, informe-nos fornecendo comentários para que possamos continuar melhorando a experiência.

Casos de uso

Usos pretendidos

O Copilot foi projetado para ajudar os usuários a responder perguntas, gerar conteúdo e concluir tarefas por meio de linguagem natural usando texto, imagens e voz. Para fornecer respostas úteis e relevantes, o Copilot pode recuperar, analisar e resumir informações de fontes disponíveis. Alguns recursos avançados podem estar disponíveis apenas para usuários com assinaturas qualificadas. Exemplos de casos de uso comuns incluem o seguinte:

• Chat usando texto e obtenha resumos baseados na Web. Os usuários podem conversar com o Copilot por mensagem de texto e fazer perguntas de acompanhamento para encontrar novas informações e receber suporte em uma ampla variedade de tópicos. O Copilot pode executar pesquisas na Web e usará os principais resultados da pesquisa na Web para gerar um resumo das informações a serem apresentadas aos usuários. Esses resumos incluem citações de páginas da Web para ajudar os usuários a examinar as fontes dos resultados de pesquisa que ajudaram a fundamentar o resumo do Copilot. Os usuários podem clicar nesses links para visitar a fonte do site para saber mais ou avaliar a confiabilidade do site.

• Obtenha ajuda para gerar novas ideias. Sempre que os usuários interagirem com a experiência do Copilot, eles verão um conjunto de cartões nos quais poderão clicar para começar a conversar com o Copilot sobre tópicos úteis e interessantes. Se os usuários interagiram com outros serviços de consumidor da Microsoft, os cartões serão personalizados, de acordo com nossas políticas de privacidade. Com o tempo, os cartões no Copilot podem ser personalizados com base no histórico de chat de um usuário. Os usuários podem recusar a personalização a qualquer momento nas configurações.

• Gere conteúdo criativo. Ao conversar com o Copilot, os usuários podem criar novos poemas, piadas, histórias, imagens e outros conteúdos com a ajuda do Copilot. O Copilot também pode editar imagens carregadas pelos usuários, se solicitado.

• Auxiliar na pesquisa. O Copilot pode realizar tarefas de pesquisa revelando recursos aprofundados, oferecendo detalhamentos de tópicos e vinculando fontes para ajudar os usuários a ir além das respostas rápidas para consultas mais complexas. O Copilot pode gerar proativamente sugestões de pesquisa personalizadas para usuários com base em itens como consultas de pesquisa anteriores e memória do Copilot. Os usuários podem recusar a personalização ou as notificações a qualquer momento nas configurações.

• Descubra, compare e compre produtos. O Copilot Shopping pode ajudar você a encontrar produtos, comparar opções e simplificar compras. Exceto quando identificado, a Microsoft não recebe comissões ou outra compensação por sugestões de produtos ou resultados de pesquisa fornecidos no Copilot.

• Estude de forma mais inteligente com o Copilot Learn. O Copilot Learn pode criar questionários e testes práticos, gerar flashcards e foi concebido para ajudar a melhorar as respostas com imagens para facilitar a compreensão de conceitos complexos.

• Obter ajuda com tarefas diárias. Copilot Cowork executa tarefas em seu nome. Descreve o que precisa em linguagem natural e Cowork faz o trabalho ao criar documentos, redigir e enviar e-mails, agendar reuniões e gerir ficheiros. Pode rever e aprovar ações confidenciais antes que elas aconteçam.

• Analise e edite ficheiros. O carregamento de ficheiros no Copilot permite que os utilizadores carreguem imagens ou determinados tipos de ficheiro suportados diretamente nas suas sessões de chat. Uma vez carregado, o Copilot pode analisar e extrair informações destes ficheiros para fornecer informações relevantes, responder a perguntas ou ajudar com tarefas específicas. O Copilot também pode referenciar ficheiros nos seus fornecedores de armazenamento online ligados, como o OneDrive e o Google Drive, com a sua permissão.

• Ver e compreender. Utilize a Visão para analisar imagens, obter informações a partir de fotografias e pesquisar visualmente. As avaliações do Copilot carregaram imagens para o ajudar a compreender o que está a ver.

• Use a sua voz. Fale naturalmente com o Copilot através do chat de voz. Debater ideias, escrever conteúdos ou obter respostas rápidas, totalmente sem utilizar as mãos.

• Liga a outras aplicações. Introduza as aplicações e informações que escolher, como e-mail, calendários, ficheiros, contactos e outros serviços.

Considerações ao escolher outros casos de uso

Encorajamos os utilizadores a rever todo o conteúdo antes de tomarem decisões ou agirem com base nas respostas do Copilot, uma vez que a IA pode cometer erros e pode não ser adequada para determinados casos de utilização. Adicionalmente, existem determinados cenários que recomendamos evitar ou que vão contra os nossos Termos de Utilização. Por exemplo, a Microsoft não permite que o Copilot seja utilizado em ligação com atividades ilegais ou para qualquer fim destinado a promover atividades ilegais.

Limitações

Os modelos de linguagem, imagem e áudio subjacentes à experiência do Copilot podem incluir dados de formação que podem refletir preconceitos sociais, o que, por sua vez, pode potencialmente fazer com que o Copilot se comporte de formas percecionadas como injustas, não fiáveis ou ofensivas. Apesar do nosso treinamento intensivo de modelo e ajuste fino de segurança, bem como da implementação dos controles de IA responsáveis e sistemas de segurança que colocamos em dados de treinamento, solicitações do usuário e saídas do modelo, os serviços orientados por IA são falíveis e probabilísticos. Isto desafia o bloqueio abrangente de todos os conteúdos inadequados, o que leva a riscos de potenciais enviesamentos, estereótipos, falta de fundamento ou outros tipos de danos que possam aparecer nos conteúdos gerados por IA. Algumas das formas como essas limitações se podem manifestar na experiência do Copilot estão listadas aqui.

• Estereotipagem: A experiência do Copilot pode reforçar estereótipos. Por exemplo, ao traduzir "He is a nurse" e "She is a doctor" para uma língua sem género, como o turco, e depois novamente para o inglês, o Copilot pode, inadvertidamente, produzir os resultados estereotipados (e incorretos) de "She is a nurse" e "He is a doctor". Outro exemplo é ao gerar uma imagem com base no prompt "filhos sem pai", o sistema pode gerar imagens de crianças de apenas uma raça ou etnia, reforçando estereótipos prejudiciais que podem existir em imagens publicamente disponíveis usadas para treinar os modelos subjacentes. O Copilot também pode reforçar estereótipos com base nos conteúdos da imagem de entrada do utilizador, baseando-se em componentes da imagem e fazendo suposições que podem não ser verdadeiras. Implementámos mitigações para reduzir o risco de conteúdo que contenha estereótipos ofensivos, incluindo classificadores de entrada e saída, modelos ajustados e mensagens do sistema.

• Sobre-representação e sub-representação: O Copilot pode potencialmente sobre-representar ou sub-representar grupos de pessoas, ou mesmo não representá-los de todo, nas suas respostas. Por exemplo, se solicitações de texto que contêm a palavra "gay" forem detectadas como potencialmente prejudiciais ou ofensivas, isso pode levar à sub-representação de gerações legítimas sobre a comunidade LGBTQIA+. Além de incluir classificadores de entrada e saída, modelos ajustados, bem como mensagens do sistema, usamos o enriquecimento de solicitação em Designer como uma das várias mitigações para reduzir o risco de conteúdo que sobre-representa ou sub-representa grupos de pessoas.

• Conteúdo inadequado ou ofensivo: A experiência do Copilot pode potencialmente produzir outros tipos de conteúdo inadequado ou ofensivo. Os exemplos incluem a capacidade de gerar conteúdo numa modalidade (por exemplo, áudio) que é inadequada no contexto do seu pedido ou quando comparada com a mesma saída numa modalidade diferente (por exemplo, texto). Outros exemplos incluem imagens geradas por IA que potencialmente contêm artefatos nocivos, como símbolos de ódio, conteúdo relacionado a tópicos contestados, controversos ou ideologicamente polarizadores e conteúdo sexualmente carregado que escapa dos filtros de conteúdo sexual. Implementámos mitigações para reduzir o risco de gerações com conteúdo inadequado ou ofensivo, como classificadores de entrada e saída, modelos ajustados e mensagens do sistema.

• Fiabilidade da informação: Embora o Copilot tenha como objetivo responder com fontes fiáveis onde as informações de base são procuradas, a IA pode cometer erros. Pode potencialmente gerar conteúdo sem sentido ou fabricar conteúdo que pode parecer razoável, mas factualmente impreciso. Mesmo ao desenhar respostas de dados da Web de alta autoridade, as respostas podem deturpar esse conteúdo de uma forma que pode não ser completamente precisa, atualizada ou confiável. Lembramos aos utilizadores, através da interface de utilizador e em documentação como esta, que o Copilot pode cometer erros. Também continuamos a educar os utilizadores sobre as limitações da IA, como encorajá-los a fazer duplo marcar factos antes de tomarem decisões ou agirem com base nas respostas do Copilot. Quando os utilizadores interagem com o Copilot através de texto, este tentará basear-se em dados Web de alta qualidade para reduzir o risco de gerações sem fundamento.

• Desempenho multilingue: Pode haver variações no desempenho entre idiomas, com o inglês a ter o melhor desempenho na altura do lançamento do Copilot. A melhoria do desempenho em todas as línguas é uma área de investimento fundamental e os modelos recentes levaram a um melhor desempenho.

• Limitações de Áudio: Os modelos de áudio podem introduzir outras limitações. Em termos gerais, a qualidade acústica da entrada de voz, ruído não de voz, vocabulário, acentos e erros de inserção também podem afetar se o Copilot processa e responde à entrada de áudio de um utilizador de forma satisfatória.

• A IA não substitui a ajuda profissional: A IA pode ser uma ferramenta útil para a resolução de problemas e pode ser considerada empática, mas não substitui a procura de ajuda profissional. Se estiver a sofrer de depressão, pensamentos suicidas ou de automutilação, ou outros problemas de saúde mental, procure ajuda profissional. O Copilot também pode ser utilizado para encontrar recursos de crise ou de saúde mental perto de si.

• Dependência da ligação à Internet: O Copilot depende da conectividade Internet para funcionar. As interrupções na conectividade podem ter um impacto na disponibilidade e no desempenho do serviço.

• Tenha cuidado ao criar ou utilizar agentes: Os utilizadores devem ter cuidado ao criar os seus próprios agentes ou ao utilizar agentes fornecidos por outros, especialmente se as ações tomadas pelos agentes puderem ter consequências significativas, ser irreversíveis ou ter potencial para partilhar informações pessoais confidenciais (como palavras-passe, inícios de sessão ou dados pessoais). Como os agentes podem não funcionar bem para todos os casos de uso e podem cometer erros, interpretar instruções incorretamente ou ser enganados por instruções ocultas mal-intencionadas, os usuários devem monitorar os resultados de perto e analisar detalhes importantes Os usuários podem ser impedidos de certos casos de uso, como visitar sites prejudiciais ou criar conteúdo inadequado. Também devem ser tomadas precauções adicionais ao criar IA de agente autónoma, conforme descrito na secção Código de Conduta do Contrato de Serviços Microsoft.

Desempenho do sistema

Em muitos sistemas de IA, o desempenho é frequentemente definido em relação à precisão (ou seja, a frequência com que o sistema de IA oferece uma previsão ou saída correta). Com o Copilot, estamos focados no Copilot como uma assistente com tecnologia de IA que reflete as preferências do utilizador. Por conseguinte, dois utilizadores diferentes podem olhar para o mesmo resultado e ter opiniões diferentes sobre a sua utilidade ou relevância para a sua situação e expectativas únicas, o que significa que o desempenho destes sistemas deve ser definido de forma mais flexível. Em termos gerais, consideramos que o desempenho significa que a aplicação tem o desempenho esperado pelos utilizadores.

Melhores práticas para melhorar o desempenho do sistema

• Interaja com a interface usando linguagem natural e conversacional. Interagir com o Copilot de uma forma confortável para o utilizador é fundamental para obter melhores resultados através da experiência. À semelhança da adoção de técnicas para ajudar as pessoas a comunicarem eficazmente no seu dia-a-dia, interagir com o Copilot como um assistente alimentado por IA através de texto ou voz que é familiar ao utilizador pode ajudar a obter melhores resultados.

• Experiência do utilizador e adoção. A utilização eficaz do Copilot exige que os utilizadores compreendam as suas capacidades e limitações. Pode haver uma curva de aprendizagem e os utilizadores podem querer referenciar vários recursos do Copilot (por exemplo, este documento e Microsoft Copilot ajudar a & aprendizagem) para interagir eficazmente com o serviço e beneficiar dele.

Mapeamento, medição e gestão de riscos

Tal como outras tecnologias transformadoras, o aproveitamento dos benefícios da IA não está isento de riscos e uma parte fundamental do programa de IA Responsável da Microsoft foi concebida para identificar e mapear potenciais riscos, medir esses riscos e geri-los através da criação de mitigações e da melhoria contínua do Copilot ao longo do tempo. Nas secções abaixo, descrevemos a nossa abordagem iterativa para mapear, medir e gerir potenciais riscos.

Mapa: O planeamento cuidadoso e os testes contraditórios pré-implementação, como o "red teaming", ajudam-nos a mapear potenciais riscos. Os modelos subjacentes que alimentam a experiência do Copilot passaram por testes da equipa vermelha de testadores que representam perspetivas multidisciplinares em áreas temáticas relevantes. Este teste foi concebido para avaliar o funcionamento da tecnologia mais recente, com e sem quaisquer salvaguardas adicionais aplicadas à mesma. A intenção destes exercícios ao nível do modelo é produzir respostas prejudiciais, encontrar potenciais vias de utilização indevida e identificar capacidades e limitações.

• Testes ao nível da aplicação antes do lançamento. Antes de tornar o Copilot disponível publicamente, realizámos equipas vermelhas ao nível da aplicação para identificar falhas e vulnerabilidades. Este teste ajudou-nos a compreender como um vasto leque de utilizadores poderia utilizar o Copilot e a informar as melhorias às nossas mitigações.

• Testes contínuos. Também testamos novas funcionalidades e atualizações técnicas, conforme apropriado, ao atualizar o Copilot. Este processo contínuo ajuda-nos a identificar riscos emergentes e a refinar as nossas mitigações ao longo do tempo.

Medida: Além de avaliar o Copilot em relação às nossas avaliações de segurança existentes, a utilização de equipas vermelhas descritas acima ajudou-nos a desenvolver avaliações e métricas de IA responsável correspondentes aos potenciais riscos identificados, como fugas de ficheiros, conteúdo prejudicial e conteúdo não fundamentado.

Recolhemos dados de conversação direcionados a estes riscos, utilizando uma combinação de participantes humanos e um pipeline automatizado de geração de conversações. Cada avaliação é então pontuada por um grupo de anotadores humanos treinados ou por um pipeline de anotações automatizado. Sempre que o produto é alterado, as mitigações existentes são atualizadas ou são propostas novas mitigações, atualizamos os nossos pipelines de avaliação para avaliar o desempenho do produto e as métricas de IA responsáveis. Esses pipelines de contexto de avaliação automatizados são uma combinação de conversas coletadas com avaliadores humanos e conversas sintéticas geradas com LLMs solicitados a testar políticas de forma adversarial. Cada uma dessas avaliações de segurança é automaticamente pontuada com LLMs. Para as avaliações recém-desenvolvidas, cada avaliação é inicialmente pontuada por rotuladores humanos que leem o conteúdo do texto ou ouvem a saída de áudio e, em seguida, convertida para avaliações automáticas baseadas em LLM.

O comportamento pretendido de nossos modelos em combinação com nossos pipelines de avaliação — humanos e automatizados — nos permite realizar rapidamente medições para riscos potenciais em escala. À medida que identificamos novos problemas ao longo do tempo, continuamos a expandir os conjuntos de medição para avaliar riscos adicionais.

Gerir: À medida que identificámos potenciais riscos e utilização indevida através da equipa vermelha e os medimos com as abordagens descritas acima, desenvolvemos mitigações adicionais que são específicas para a experiência do Copilot. Abaixo, descrevemos algumas dessas mitigações. Continuaremos a monitorizar a experiência do Copilot para melhorar o desempenho do produto e a nossa abordagem de mitigação de riscos.

• Planos de lançamento faseado e avaliação contínua. Estamos empenhados em aprender e melhorar continuamente a nossa abordagem de IA responsável à medida que as nossas tecnologias e o comportamento dos utilizadores evoluem. A nossa estratégia de lançamento incremental tem sido uma parte fundamental da forma como movemos a nossa tecnologia de forma segura do laboratório para o mundo e estamos empenhados num processo deliberado e ponderado para garantir os benefícios da experiência do Copilot. Estamos a fazer alterações ao Copilot regularmente para melhorar o desempenho do produto e as mitigações existentes e implementar novas mitigações em resposta às nossas aprendizagens.

• Tirar partido dos classificadores e da mensagem do sistema para mitigar potenciais riscos ou utilizações indevidas. Em resposta aos pedidos do utilizador, os LLMs poderão produzir conteúdo problemático. Discutimos os tipos de conteúdo que tentamos limitar nas secções Comportamento e Limitações do Sistema acima. Os classificadores e a mensagem do sistema são dois exemplos de mitigações que foram implementadas no Copilot para ajudar a reduzir o risco desses tipos de conteúdo. Os classificadores classificam o texto para sinalizar conteúdo potencialmente prejudicial em solicitações do usuário ou respostas geradas. Também utilizamos as práticas recomendadas existentes para alavancar a mensagem do sistema, o que envolve fornecer instruções ao modelo para alinhar seu comportamento com os princípios de IA da Microsoft e com as expectativas do usuário.

• Carregando imagens para o Visão do Copilot. Na primeira vez que um usuário carregar uma imagem no Visão do Copilot, ele receberá informações sobre como sua imagem é processada pelo Copilot. Se um usuário não continuar com o upload, a imagem não será enviada ao Copilot. Todas as imagens são excluídas dentro de 30 dias após o término da conversa.

• Divulgação de IA. O Copilot também foi projetado para informar às pessoas que elas estão interagindo com um sistema de IA. À medida que os usuários interagem com o Copilot, oferecemos vários pontos de contato projetados para ajudá-los a entender os recursos do sistema, divulgar a eles que o Copilot é alimentado por IA e comunicar limitações. A experiência foi projetada dessa forma para ajudar os usuários a aproveitar ao máximo o Copilot e minimizar o risco de dependência excessiva. As divulgações também ajudam os usuários a entender melhor o Copilot e suas interações com ele.

• Proveniência da mídia. Para todas as imagens criadas com o Copilot, implementamos credenciais de conteúdo, baseadas no padrão C2PA, para ajudar as pessoas a identificar se as imagens foram editadas ou geradas com IA. Os metadados de proveniência podem ser exibidos no site de Credenciais de Conteúdo.

• Detecção automatizada de conteúdo. Quando os usuários carregam imagens como parte do prompt de chat, o Copilot implanta ferramentas para detectar imagens de exploração e abuso sexual infantil (CSEAI). A Microsoft relata todos os CSEAI aparentes ao NCMEC (Centro Nacional para Crianças Desaparecidas e Exploradas), conforme exigido pela lei dos EUA. Quando os usuários carregam arquivos para analisar ou processar, o Copilot implanta a verificação automatizada para detectar conteúdo que possa levar a riscos ou uso indevido, como texto relacionado a atividades ilegais ou código mal-intencionado.

• Termos de Uso e Código de Conduta. Os usuários devem cumprir os Termos de Uso e o Código de Conduta aplicáveis do Copilot, o Contrato de Serviços Microsoft e a Política de Privacidade da Microsoft, que, entre outras coisas, os informam sobre usos permitidos e não permitidos e as consequências da violação dos termos. Os Termos de Uso também fornecem divulgações adicionais para os usuários e servem como referência para que os usuários saibam mais sobre o Copilot. Os usuários que cometerem violações graves ou repetidas podem ser suspensos temporária ou permanentemente do serviço.

• Comentários, monitoramento e supervisão. A experiência do Copilot inclui ferramentas que permitem aos usuários enviar comentários, que são revisados pelas equipes de operações da Microsoft. Além disso, nossa abordagem para mapear, medir e gerenciar riscos continuará a evoluir à medida que aprendemos mais e já estamos fazendo melhorias com base no feedback coletado durante os períodos de visualização.

• Detectando e respondendo a riscos de suicídio e Self-Harm. O Copilot usa classificadores de aprendizado de máquina treinados para reconhecer padrões de linguagem que podem indicar intenção de suicídio ou automutilação do usuário. Quando esse tipo de conteúdo é detectado, o sistema se desconecta da conversa e fornece recursos de suporte em situações de crise (por exemplo, a linha de emergência para suicídio e crise no número 988 nos Estados Unidos), incentivando os usuários a procurar ajuda profissional. O Copilot não fornece aconselhamento; Sua função é limitada à detecção e encaminhamento para garantir a segurança do usuário.

• Notificação de uso estendido. O Copilot pode lembrar os usuários de fazer uma pausa se eles estiverem envolvidos em conversas contínuas por um longo período de tempo. Os usuários também são regularmente informados de que a IA não é humana e pode cometer erros.

Saiba mais sobre a IA responsável

• Princípios de IA da Microsoft AI
• Recursos de IA Responsáveis da Microsoft
• Relatório de Transparência de IA Responsável da Microsoft

Saiba mais sobre o Microsoft Copilot

• Microsoft Copilot ajuda & o aprendizado