Considerações de segurança do Código do Copilot (versão prévia)

Importante

O Microsoft Copilot usa IA e pode cometer erros ou interpretar mal as instruções. Examine solicitações e resultados cuidadosamente, especialmente antes que o Copilot Code execute comandos, se conecte à Internet, altere arquivos ou antes de compartilhar informações pessoais. Você é responsável pelas ações que o Copilot executa em seu nome. Ao usar o Copilot, você concorda com os Termos de Uso. Para obter mais informações, consulte a Política de Privacidade da Microsoft.

O Código do Microsoft Copilot para contas pessoais está atualmente em Versão Prévia.

Essas informações se referem a um produto de pré-lançamento que pode ser modificado substancialmente antes de ser lançado. A Microsoft não faz garantias, expressas ou implícitas, quanto às informações fornecidas aqui.

O Copilot Code pode escrever e executar software e executar ações em seu dispositivo para você. A Microsoft criou proteções no Código do Copilot para ajudar a reduzir o risco. Você ainda é responsável por revisar e aprovar o que ele faz.

Como o Copilot Code ajuda a manter você seguro

  • Aprovação antes de ações confidenciais. O Copilot Code pode ler e gravar arquivos na pasta do projeto selecionada. Por padrão, ele solicita sua aprovação antes de acessar outros locais, se conectar à Internet, executar um comando ou excluir arquivos.
  • Área restrita para projetos locais. Quando o Copilot Code funciona em um projeto em seu dispositivo, ele usa uma área restrita. A área restrita limita quais arquivos e recursos de rede o Copilot Code e os comandos que ele executa podem acessar e seus limites também se aplicam à versão prévia da Web. A área restrita está ativada por padrão e funciona junto com solicitações de aprovação. A aprovação de uma ação não substitui uma restrição de área restrita. Se uma ação não for permitida, o Código do Copilot informará o que ele bloqueou e por quê. Ele não repete a ação silenciosamente sem permissão.
  • Limites da área restrita. A área restrita ajuda a reduzir o risco, mas não o remove. Você pode desativar a área restrita nas configurações. Enquanto estiver desativado, suas restrições de arquivo e rede não se aplicam mais, embora suas configurações de aprovação ainda se apliquem. A área restrita também não abrange um aplicativo que você inicia fora de uma sessão do Copilot Code. Examine o código gerado antes de executá-lo por conta própria.
  • Aprovações limitadas à sua sessão. A aprovação que você dá durante uma sessão se aplica a essa sessão e não é transferida para outras conversas. Essa regra não se aplica quando Sempre permitir está ativado, porque Sempre permitir persiste entre sessões.
  • Filtros de conteúdo prejudicial. Os classificadores e os filtros de conteúdo baseados em IA ajudam a localizar e bloquear conteúdo prejudicial em seus prompts e nas respostas do Copilot Code. Esse conteúdo inclui discurso de ódio, violência, conteúdo sexual, automutilação e material protegido.
  • Instruções internas para recusar solicitações não seguras. As instruções do sistema direcionam o Copilot Code para recusar solicitações inadequadas e evitar a geração de código inseguro ou mal-intencionado.
  • Progresso visível. O Copilot Code mostra cada etapa à medida que funciona e mostra uma visualização dinâmica quando há suporte, para que você possa saber se está indo em uma direção que não pretendia.
  • Teste antes do lançamento. A Microsoft testou o Copilot Code com prompts adversários, exercícios de equipe vermelha e classificadores automatizados. Os testes cobriram conteúdo prejudicial, código inseguro ou malicioso, tentativas de jailbreak e tentativas de fazê-lo executar ações sem sua aprovação.

Riscos que você deve estar ciente

  • Ações não intencionais. O Copilot Code pode interpretar mal sua solicitação e alterar, substituir ou excluir arquivos que você não pretendia. Examine as solicitações de aprovação cuidadosamente e interrompa uma tarefa se algo parecer errado.
  • Injeção imediata. Files, repositórios, páginas da Web ou pacotes que o Copilot Code lê podem conter instruções ocultas destinadas a manipulá-lo. Se o Copilot Code solicitar uma aprovação que você não espera ou tentar uma ação que você não solicitou, cancele a tarefa e revise-a.
  • Executando comandos e baixando código. Quando você aprova um comando ou um download, o Copilot Code pode instalar pacotes e executar códigos da Internet. Aprove apenas o que você entende e confia.
  • Sempre permitir. Quando Sempre permitir está ativado, o Copilot Code não pergunta antes de executar ações, incluindo alterações de arquivo, exclusões, downloads e pushes do GitHub. Saiba mais sobre os riscos e como desativá-lo em Usar sempre permitir.
  • GitHub. Quando você se conecta ao GitHub, o Copilot Code pode ler seus repositórios e, com sua aprovação, enviar alterações por push. Verifique em qual repositório e branch ele está funcionando, especialmente para repositórios públicos.
  • Código inseguro ou incorreto. O código gerado pela IA pode conter bugs ou pontos fracos de segurança. Teste o que o código do Copilot compila antes de confiar nele ou compartilhá-lo.
  • Informações pessoais. Não coloque senhas, chaves ou outros dados confidenciais em prompts ou arquivos de projeto. Antes de compartilhar um aplicativo, certifique-se de que ele não contenha informações que você deseja manter privadas.
  • Usos sensíveis. Não use o Copilot Code para criar software para fins consequentes ou críticos de segurança sem testes adequados e revisão humana. Os exemplos incluem software que diagnostica condições de saúde ou afeta o acesso de alguém a crédito, moradia ou emprego.

Observação

O Código do Copilot não executa ações confidenciais sem sua aprovação, a menos que você ative Sempre permitir. Você pode interromper uma ação antes que ela seja concluída, pausar o Copilot Code ou cancelar a tarefa a qualquer momento.

Mais formas de trabalhar com o Copilot Code