Funcionalidades Agenteiais Experimentais

Neste artigo

• Por que a segurança importa

• Princípios de segurança e privacidade do agente

• Habilitar recursos agentes experimentais

• Acesso de aplicativo no workspace do agente

• Acesso a arquivos no workspace do agente

• Problemas conhecidos

Por que a segurança importa

A IA agentic tem funcionalidades poderosas hoje em dia— por exemplo, ela pode concluir muitas tarefas complexas em resposta aos prompts do usuário, transformando como os usuários interagem com seus computadores. À medida que essas funcionalidades são introduzidas, os modelos de IA ainda enfrentam limitações funcionais em termos de como se comportam e, ocasionalmente, podem alucinar e produzir saídas inesperadas. Além disso, os aplicativos de IA agente introduzem novos riscos de segurança, como a XPIA (injeção de prompt cruzado), em que o conteúdo mal-intencionado inserido em elementos ou documentos da interface do usuário pode substituir as instruções do agente, levando a ações não intencionais, como exfiltração de dados ou instalação de malware. Recomendamos que você leia essas informações e entenda as implicações de segurança de habilitar um agente em seu computador. 

À medida que começamos a criar recursos agente no Windows, nosso compromisso é incluir controles robustos de segurança e privacidade que capacitam os clientes a explorar seu potencial com confiança com o apoio de diretrizes claras e guardrails apropriados impulsionados por essas metas.

1. Não repúdio : todas as ações de um agente são observáveis e distinguíveis daquelas tomadas por um usuário.

2. Confidencialidade: Agentes que coletam, agregam ou utilizam dados protegidos de usuários atendem ou excedem os padrões de segurança e privacidade dos dados que consomem.

3. Autorização : os usuários aprovam todas as consultas para dados do usuário, bem como ações realizadas.

Princípios de segurança e privacidade agente

Proteger agentes de IA requer um conjunto robusto de princípios que garantam que eles atuem de acordo com a intenção do usuário ao proteger seus dados.

1. Agentes são entidades autônomas. Eles são suscetíveis a ataques da mesma forma que qualquer outro usuário ou componentes de software. Suas ações devem ser capazes de ser contidas.

2. Os agentes devem ser capazes de produzir logs delineando suas atividades. O Windows deve ser capaz de verificar essas ações com um log de auditoria sem adulteração.

3. Os agentes devem fornecer um meio de supervisionar suas atividades. Muitas atividades de agentes são planos agregados que contêm várias etapas. Os usuários devem poder examinar as etapas e aprovar o plano e monitorar a execução do plano. Os agentes devem ser capazes de solicitar explicitamente a autorização ou decisão de um usuário quando necessário.

4. Os agentes devem sempre agir sob os princípios de privilégio mínimo e não devem receber permissões ou funcionalidades que excedam a do usuário iniciador, incluindo direitos administrativos. Os privilégios do agente autorizado devem estar granulares, específicos e com limite de tempo. Os agentes só devem ser capazes de acessar informações confidenciais (por exemplo, dados card de crédito) em contextos específicos autorizados pelo usuário, como para realizar ações específicas, como ao interagir com aplicativos específicos ou em sites especificados.

5. As entidades no sistema – administrador, sistema local etc. – não devem ter acesso especial a um agente diferente do proprietário do qual ele atua em nome.

6. O Windows foi projetado para ajudar os agentes a cumprirem os compromissos da Microsoft assumidos na Instrução de Privacidade da Microsoft e no Standard de IA Responsável . O Windows dará suporte a agentes no processamento de dados apenas para fins claramente definidos, garantindo transparência e confiança. Consulte o Relatório de Privacidade da Microsoft para obter detalhes sobre nossos compromissos com o avanço da IA com responsabilidade enquanto protege a privacidade e outros direitos fundamentais.

O desenvolvimento de agentes e a segurança relacionada à IA continuam sendo um campo rápido de pesquisa com a participação ativa da Microsoft em parceria com a comunidade de segurança mais ampla. Como parte do compromisso da Iniciativa Segura do Futuro da Microsoft, ajudar usuários, empresas e desenvolvedores a enfrentar esses desafios é nossa prioridade máxima à medida que as pessoas começam a interagir com agentes como parte de seus fluxos de trabalho diários.

Habilitar recursos agentísticos experimentais

A configuração de recursos agente experimentais está desativada por padrão. Esse recurso não tem recursos de IA por conta própria, é um recurso de segurança para agentes como o Copilot Actions. Habilitar esse alternância permite a criação de uma conta de agente separada e um workspace no dispositivo, fornecendo um espaço contido para manter a atividade do agente separada do usuário.  

A configuração de recursos agente experimentais está atualmente em versão prévia, com o objetivo de coletar e aprender com comentários para refinar a experiência. Durante seu período de visualização, continuaremos a adicionar mais controles granulares de segurança e privacidade antes que ele seja disponibilizado geralmente.  

O Copilot Actions, atualmente em versão prévia para Windows Insiders no Copilot Labs, usa essa funcionalidade, para obter mais informações, consulte Copilot no Windows: As Ações de Copilot começam a ser distribuídas para o Windows Insiders | Blog do Windows Insider.  

Essa configuração só pode ser habilitada por um usuário administrativo do dispositivo e, uma vez habilitada, está habilitada para todos os usuários no dispositivo, incluindo outros administradores e usuários padrão.   

A configuração do recurso agente experimental permite:

• A criação de contas de agente que fornecem aos agentes sua própria conta separada em seu dispositivo ao agir em seu nome. O Windows está usando uma abordagem em fases para adicionar regras mais rígidas para contas de agente em versões futuras.

• A criação do workspace do agente em que os agentes podem trabalhar em paralelo com um usuário humano, habilitando o isolamento do runtime e a autorização de escopo. Isso fornece ao agente recursos como sua própria área de trabalho, limitando a visibilidade e o acesso que o agente tem à atividade da área de trabalho do usuário.

• Aplicativos agentic como Copilot podem solicitar e obter acesso a essas seis pastas comumente usadas no diretório de perfil de usuário durante a execução no workspace do agente: Documentos, Downloads, Área de Trabalho, Música, Imagens e Vídeos.

Etapas para habilitar recursos agentes experimentais:

1. Entrar no Windows com uma conta de administrador

2. No aplicativo Configurações em seu dispositivo Windows, selecione Componentes de IA do Sistema > > Recursos agente experimentais

Acesso de aplicativo no workspace do agente

Ao executar no workspace do agente, o aplicativo agentic tem acesso aos aplicativos que estão disponíveis para todos os usuários por padrão. Para limitar o acesso, você pode instalar aplicativos para usuários específicos ou especificamente para seus agentes.

Acesso a arquivos no workspace do agente

As contas agentic têm acesso limitado ao diretório do perfil de usuário (C:\Users\<nome de usuário>\) enquanto operam no workspace do agente. Se um agente precisar de acesso a arquivos nesse diretório, o Windows concederá acesso de leitura e gravação às seguintes pastas conhecidas: Documentos, Downloads, Área de Trabalho, Vídeos, Imagens, Música quando a configuração estiver habilitada. Você pode ter essas pastas no local padrão ou pode tê-las redirecionado para outro lugar no sistema de arquivos.

Para limitar o acesso a essas pastas, desative a configuração do recurso agente experimental.

1. No aplicativo Configurações em seu dispositivo Windows, selecione Componentes de IA do Sistema > > recursos agente experimentais

2. Desativar a configuração

As contas do agente têm acesso a todas as pastas às quais todos os usuários autenticados têm acesso, por exemplo, perfis de usuário públicos.

Problemas conhecidos

Você pode enfrentar esses problemas na compilação 26220.7262:

• O Windows não dormirá enquanto Copilot tiver conversas ativas.

  • Solução alternativa: Feche todas as conversas do Copilot Actions ou feche Copilot selecionando-a na bandeja, clicando com o botão direito do mouse e selecionando "Sair".

• Você pode ver um aviso "Outra pessoa ainda está usando este computador. Se encerrar agora, estes poderão perder trabalho não guardado." ao tentar encerrar ou reiniciar o dispositivo Windows devido a conversações ativas do Copilot Actions.

  • Solução: Feche as conversações do Copilot Actions ou feche o Copilot ao selecioná-lo no tabuleiro, clicar com o botão direito do rato e selecionar "Sair".

• Os utilizadores empresariais com Gerenciamento de privilégios de ponto de extremidade podem ver Intune perfis geridos criados para as contas de Utilizador do Agente que não são limpas quando a conversação da Ação copilot é fechada ou a aplicação sai. Normalmente, estes perfis terminam com um cifrão, ou seja: _$, e estão localizados juntamente com as contas de Utilizador do Agente na pasta de utilizadores do Windows (normalmente c:\utilizadores).

  • Solução: a Microsoft tem conhecimento deste problema e está a trabalhar numa correção que irá limpo os restantes perfis Intune. ​​​​​​​

​​​​​​​