Funcionalidades Agenteiais Experimentais

Neste artigo

• Por que motivo a segurança é importante

• Princípios de segurança e privacidade do agente

• Ativar funcionalidades agentes experimentais

• Acesso à aplicação na área de trabalho do agente

• Acesso a ficheiros na área de trabalho do agente

• Problemas conhecidos

Porque é que a Segurança é importante

ATUALMENTE, a IA agente tem capacidades avançadas— por exemplo, pode concluir muitas tarefas complexas em resposta a pedidos do utilizador, transformando a forma como os utilizadores interagem com os seus PCs. À medida que estas capacidades são introduzidas, os modelos de IA ainda enfrentam limitações funcionais em termos de comportamento e, ocasionalmente, podem alucinar e produzir saídas inesperadas. Além disso, as aplicações de IA agente introduzem novos riscos de segurança, como a injeção de linhas cruzadas (XPIA), em que conteúdos maliciosos incorporados em elementos de IU ou documentos podem substituir instruções do agente, o que leva a ações não intencionais, como a instalação de software maligno ou exfiltração de dados. Recomendamos que leia estas informações e compreenda as implicações de segurança de ativar um agente no seu computador. 

À medida que começamos a criar capacidades agentes no Windows, o nosso compromisso é incluir controlos robustos de segurança e privacidade que capacitam os clientes a explorar o seu potencial com confiança com o suporte de orientações claras e proteções adequadas orientadas por estes objetivos.

1. Não rejeição : todas as ações de um agente são observáveis e distinguíveis das executadas por um utilizador.

2. Confidencialidade: Os agentes que recolhem, agregam ou utilizam dados protegidos dos utilizadores cumprem ou excedem os padrões de segurança e privacidade dos dados que consomem.

3. Autorização : os utilizadores aprovam todas as consultas para os dados do utilizador, bem como as ações executadas.

Princípios de segurança e privacidade agentes

Proteger agentes de IA requer um conjunto robusto de princípios que garantem que atuam de acordo com a intenção do utilizador, salvaguardando os dados.

1. Os agentes são entidades autónomas. São suscetíveis a ataques da mesma forma que qualquer outro utilizador ou componente de software. As suas ações têm de ser capazes de ser contidas.

2. Os agentes têm de ser capazes de produzir registos que delineiem as suas atividades. O Windows deve conseguir verificar estas ações com um registo de auditoria evidente de adulteração.

3. Os agentes devem fornecer um meio para supervisionar as respetivas atividades. Muitas atividades de agentes são planos agregados que contêm vários passos. Os utilizadores devem poder rever os passos e aprovar o plano e monitorizar a execução do plano. Os agentes têm de ser capazes de pedir explicitamente a autorização ou decisão de um utilizador, sempre que necessário.

4. Os agentes devem agir sempre de acordo com os princípios de menor privilégio e não devem ser concedidas permissões ou capacidades que excedam as do utilizador iniciador, incluindo direitos administrativos. Os privilégios do agente autorizado devem ser granulares, específicos e vinculados à hora. Os agentes só podem aceder a informações confidenciais (por exemplo, dados de cartão de crédito) em contextos específicos autorizados pelo utilizador, como para realizar ações específicas, como quando interagem com aplicações específicas ou em sites especificados.

5. As entidades no sistema ( administrador, sistema local, etc.) não devem ter acesso especial a um agente que não seja o proprietário do qual age em nome de.

6. O Windows foi concebido para ajudar os agentes a cumprir os compromissos assumidos pela Microsoft na Declaração de Privacidade da Microsoft e na Norma de IA Responsável . O Windows suportará agentes no processamento de dados apenas para fins claramente definidos, garantindo transparência e confiança. Consulte o Relatório de Privacidade da Microsoft para obter detalhes sobre os nossos compromissos em avançar com a IA de forma responsável, salvaguardando a privacidade e outros direitos fundamentais.

O desenvolvimento de agentes e a segurança relacionada com IA continuam a ser um campo de investigação em rápida mudança com a participação ativa da Microsoft em parceria com a comunidade de segurança mais ampla. Como parte do compromisso da Iniciativa Secure Future da Microsoft, ajudar os utilizadores, empresas e programadores a enfrentar estes desafios é a nossa principal prioridade à medida que as pessoas começam a interagir com agentes como parte dos seus fluxos de trabalho diários.

Ativar Funcionalidades Agenteiais Experimentais

A definição de funcionalidades agentes experimentais está desativada por predefinição. Esta funcionalidade não tem capacidades de IA por si só, é uma funcionalidade de segurança para agentes como o Copilot Actions. Ativar este botão de alternar permite a criação de uma conta de agente e área de trabalho separadas no dispositivo, proporcionando um espaço contido para manter a atividade do agente separada do utilizador.  

A definição de funcionalidades agentes experimentais está atualmente em pré-visualização, para efeitos de recolha e aprendizagem de comentários para refinar a experiência. Durante o período de pré-visualização, continuaremos a adicionar controlos de privacidade e segurança mais granulares antes de serem disponibilizados em geral.  

Copilot Actions, atualmente em pré-visualização para Windows Insiders no Copilot Labs, utiliza esta funcionalidade. Para obter mais informações, consulte Copilot no Windows: As Ações copiais começam a ser implementadas para Windows Insiders | Blogue do Windows Insider.  

Esta definição só pode ser ativada por um utilizador administrativo do dispositivo e, uma vez ativada, é ativada para todos os utilizadores no dispositivo, incluindo outros administradores e utilizadores padrão.   

A definição de funcionalidade agente experimental permite:

• A criação de contas de agente que fornecem aos agentes a sua própria conta separada no seu dispositivo ao agir em seu nome. O Windows está a utilizar uma abordagem faseada para adicionar regras mais rigorosas para contas de agente em versões futuras.

• A criação da área de trabalho do agente onde os agentes podem trabalhar em paralelo com um utilizador humano, permitindo o isolamento do runtime e a autorização no âmbito. Isto fornece ao agente capacidades como o seu próprio ambiente de trabalho, ao mesmo tempo que limita a visibilidade e o acesso que o agente tem à atividade de ambiente de trabalho do utilizador.

• As aplicações agentes como o Copilot podem pedir e obter acesso a estas seis pastas utilizadas frequentemente no diretório de perfis de utilizador durante a execução na área de trabalho do agente: Documentos, Transferências, Ambiente de Trabalho, Música, Imagens e Vídeos.

Passos para ativar funcionalidades agentes experimentais:

1. Iniciar sessão no Windows com uma conta de administrador

2. Na aplicação Definições no seu dispositivo Windows, selecione Componentes do Sistema > IA > Funcionalidades agentes experimentais

Acesso à aplicação na área de trabalho do agente

Ao executar na área de trabalho do agente, a aplicação agente tem acesso às aplicações que estão disponíveis para todos os utilizadores por predefinição. Para limitar o acesso, pode instalar aplicações para utilizadores específicos ou especificamente para os seus agentes.

Acesso a ficheiros na área de trabalho do agente

As contas agente têm acesso limitado ao diretório de perfis de utilizador (C:\Utilizadores\<nome de utilizador>\) enquanto operam na área de trabalho do agente. Se um agente precisar de acesso a ficheiros nesse diretório, o Windows concede acesso de leitura e escrita às seguintes pastas conhecidas: Documentos, Transferências, Ambiente de Trabalho, Vídeos, Imagens, Música quando a definição está ativada. Pode ter estas pastas na localização padrão ou pode tê-las redirecionado para outro local no sistema de ficheiros.

Para limitar o acesso a estas pastas, desative a definição da funcionalidade agente experimental.

1. Na aplicação Definições no seu dispositivo Windows, selecione Componentes do Sistema > IA > Funcionalidades agentes experimentais

2. Desativar a definição

As contas de agente têm acesso a quaisquer pastas às quais todos os utilizadores autenticados tenham acesso, por exemplo, perfis de utilizador públicos.

Problemas Conhecidos

Pode enfrentar estes problemas na versão 26220.7262:

• O Windows não irá dormir enquanto o Copilot tiver conversações ativas.

  • Solução: Feche as conversações do Copilot Actions ou feche o Copilot ao selecioná-lo no tabuleiro, clicar com o botão direito do rato e selecionar "Sair".

• Poderá ver um aviso "Outra pessoa ainda está a utilizar este PC. Se encerrar agora, estes poderão perder trabalho não guardado." ao tentar encerrar ou reiniciar o dispositivo Windows devido a conversações ativas do Copilot Actions.

  • Solução: Feche as conversações do Copilot Actions ou feche o Copilot ao selecioná-lo no tabuleiro, clicar com o botão direito do rato e selecionar "Sair".

• Os utilizadores empresariais com Gestão de privilégios de pontos finais podem ver Intune perfis geridos criados para as contas de Utilizador do Agente que não são limpas quando a conversação da Ação Copilot é fechada ou a aplicação é fechada. Normalmente, estes perfis terminam com um cifrão, ou seja: _$, e estão localizados juntamente com as contas de Utilizador do Agente na pasta de utilizadores do Windows (normalmente c:\utilizadores).

  • Solução: a Microsoft tem conhecimento deste problema e está a trabalhar numa correção que irá limpar os restantes perfis Intune. ​​​​​​​

​​​​​​​