Características de agente experimental

En este artículo

• Por qué la seguridad es importante

• Principios de seguridad y privacidad del agente

• Habilitar características agenteicas experimentales

• Acceso a aplicaciones en el área de trabajo del agente

• Acceso a archivos en el área de trabajo del agente

• Problemas conocidos

Por qué la seguridad es importante

Agentic AI tiene capacidades potentes hoy en día, por ejemplo, puede completar muchas tareas complejas en respuesta a las solicitudes de los usuarios, transformando la forma en que los usuarios interactúan con sus equipos. A medida que se introducen estas capacidades, los modelos de IA siguen enfrentando limitaciones funcionales en términos de cómo se comportan y, en ocasiones, pueden alucinar y producir salidas inesperadas. Además, las aplicaciones de IA agentic introducen nuevos riesgos de seguridad, como la inyección de mensajes cruzados (XPIA), donde el contenido malintencionado incrustado en elementos o documentos de la interfaz de usuario puede invalidar las instrucciones del agente, llevando a acciones no deseadas como la exfiltración de datos o la instalación de malware. Le recomendamos que lea esta información y comprenda las implicaciones de seguridad de habilitar un agente en el equipo. 

A medida que comenzamos a desarrollar capacidades de agente en Windows, nuestro compromiso es incluir sólidos controles de seguridad y privacidad que permitan a los clientes explorar su potencial con confianza, con el apoyo de una guía clara y barandillas adecuadas impulsadas por estos objetivos.

1. No rechazo : todas las acciones de un agente son observables y distinguibles de las tomadas por un usuario.

2. Confidencialidad: Los agentes que recopilan, agregan o utilizan datos protegidos de los usuarios cumplen o superan los estándares de seguridad y privacidad de los datos que consumen.

3. Autorización : los usuarios aprueban todas las consultas de datos de usuario, así como las acciones realizadas.

Principios de seguridad y privacidad del agente

La protección de los agentes de IA requiere un conjunto sólido de principios que garantizan que actúan de acuerdo con la intención del usuario mientras protegen sus datos.

1. Los agentes son entidades autónomas. Son susceptibles a ataques de la misma manera que cualquier otro usuario o componentes de software. Sus acciones deben poder ser contenidas.

2. Los agentes deben poder producir registros esquematizando sus actividades. Windows debería ser capaz de comprobar estas acciones con un registro de auditoría antimanipulación.

3. Los agentes deben proporcionar un medio para supervisar sus actividades. Muchas actividades de agentes son planes agregados que contienen varios pasos. Los usuarios deben poder revisar los pasos y aprobar el plan y supervisar la ejecución del plan. Los agentes deben poder solicitar explícitamente la autorización o decisión de un usuario cuando sea necesario.

4. Los agentes siempre deben actuar bajo los principios del privilegio mínimo y no deben concederse permisos o capacidades que excedan de los del usuario iniciador, incluidos los derechos administrativos. Los privilegios de agente autorizados deben ser granulares, específicos y limitados de tiempo. Los agentes solo deben poder acceder a información confidencial (por ejemplo, datos de tarjetas de crédito) en contextos específicos autorizados por el usuario, como para llevar a cabo acciones específicas, como al interactuar con aplicaciones específicas, o en sitios web específicos.

5. Las entidades del sistema (administrador, sistema local, etc.) no deben tener acceso especial a un agente que no sea el propietario del que actúa en nombre de.

6. Windows está diseñado para ayudar a los agentes a cumplir los compromisos de Microsoft contraídos en la Declaración de privacidad de Microsoft y en la Standard de IA responsable. Windows proporcionará soporte a los agentes para procesar los datos solo con fines claramente definidos, garantizar la transparencia y la confianza. Consulta el Informe de privacidad de Microsoft para obtener información detallada sobre nuestros compromisos para avanzar de forma responsable en la IA, a la vez que proteges la privacidad y otros derechos fundamentales.

El desarrollo de agentes y la seguridad relacionada con la inteligencia artificial siguen siendo un campo de investigación de movimiento rápido con participación activa de Microsoft en asociación con la comunidad de seguridad en general. Como parte del compromiso de la Iniciativa segura para el futuro de Microsoft, ayudar a los usuarios, empresas y desarrolladores a abordar estos desafíos es nuestra prioridad principal a medida que las personas empiezan a interactuar con los agentes como parte de sus flujos de trabajo diarios.

Habilitar características de agente experimental

La configuración de características de agente experimental está desactivada de manera predeterminada. Esta característica no tiene capacidades de IA por sí sola, es una característica de seguridad para agentes como Acciones de Copilot. Habilitar este botón de alternancia permite la creación de una cuenta de agente independiente y un área de trabajo en el dispositivo, proporcionando un espacio contenido para mantener la actividad del agente independiente del usuario.  

El ajuste de las funciones de agente experimental se encuentra actualmente en versión preliminar, con el fin de recopilar y aprender de los comentarios para refinar la experiencia. Durante el período de vista previa, seguiremos agregando controles de privacidad y seguridad más granulares antes de que estén disponibles de forma general.  

Acciones de Copilot, actualmente en versión preliminar para usuarios de Windows Insider en Laboratorios de Copilot, usa esta funcionalidad. Para obtener más información, vea Copilot on Windows: Copilot Actions comienza a implementarse para los Windows Insider | Blog de Windows Insider.  

Esta configuración solo la puede habilitar un usuario administrativo del dispositivo y, una vez habilitada, está habilitada para todos los usuarios del dispositivo, incluidos otros administradores y usuarios estándar.   

La configuración de la característica agente experimental permite:

• La creación de cuentas de agente que proporcionan a los agentes su propia cuenta independiente en el dispositivo al actuar en su nombre. Windows está usando un enfoque por fases para agregar reglas más estrictas para las cuentas de agente en próximas versiones.

• La creación del área de trabajo del agente donde los agentes pueden trabajar en paralelo con un usuario humano, lo que habilita el aislamiento del tiempo de ejecución y la autorización de ámbito. Esto proporciona al agente funcionalidades como su propio escritorio, al tiempo que limita la visibilidad y el acceso que tiene al agente a la actividad de escritorio del usuario.

• Las aplicaciones agentic como Copilot pueden solicitar y obtener acceso a estas seis carpetas usadas habitualmente en el directorio de perfiles de usuario mientras se ejecutan en el área de trabajo del agente: Documentos, descargas, escritorio, música, imágenes y vídeos.

Pasos para habilitar las características agenteicas experimentales:

1. Iniciar sesión en Windows con una cuenta de administrador

2. En la aplicación Configuración de tu dispositivo Windows, selecciona Componentes de IA > sistema > características de agente experimental

Acceso a aplicaciones en el área de trabajo del agente

Al ejecutarse en el área de trabajo del agente, la aplicación agentic tiene acceso a las aplicaciones que están disponibles para todos los usuarios de forma predeterminada. Para limitar el acceso, puede instalar aplicaciones para usuarios específicos o específicamente para sus agentes.

Acceso a archivos en el área de trabajo del agente

Las cuentas de agente tienen acceso limitado al directorio de perfil de usuario (C:\Users\<nombre de usuario>\) mientras trabajas en el área de trabajo del agente. Si un agente necesita acceso a los archivos de ese directorio, Windows concede acceso de lectura y escritura a las siguientes carpetas conocidas: Documentos, Descargas, Escritorio, Vídeos, Imágenes, Música cuando la configuración está habilitada. Es posible que estas carpetas estén en la ubicación estándar o que las hayas redirigido a otra parte del sistema de archivos.

Para limitar el acceso a estas carpetas, desactiva la configuración de la función agente experimental.

1. En la aplicación Configuración de tu dispositivo Windows, selecciona Componentes de IA > sistema > características de agente experimental

2. Desactivar la configuración

Las cuentas de agente tienen acceso a las carpetas a las que todos los usuarios autenticados tienen acceso, por ejemplo, los perfiles de usuario públicos.

Problemas conocidos

Puede enfrentarse a estos problemas en la compilación 26220.7262:

• Windows no se suspenderá mientras Copilot tenga conversaciones activas.

  • Solución alternativa: Cierre las conversaciones de Acciones de Copilot o cierre Copilot seleccionándola en la bandeja, haciendo clic con el botón derecho en ella y seleccionando "Salir".

• Es posible que veas una advertencia "Otra persona sigue usando este equipo. Si apagaste ahora, podrían perder el trabajo sin guardar". Al intentar apagar o reiniciar el dispositivo Windows debido a conversaciones activas de Acciones de Copilot.

  • Solución alternativa: Cierre las conversaciones de Acciones de Copilot o cierre Copilot seleccionándola en la bandeja, haciendo clic con el botón derecho en ella y seleccionando "Salir".

• Es posible que los usuarios empresariales con Administración con privilegios para puntos de conexión vean Intune perfiles administrados creados para las cuentas de usuario del agente que no se limpian cuando se cierra la conversación de acción de Copilot o se cierra la aplicación. Estos perfiles suelen terminar con un signo de dólar, es decir: _$, y se encuentran junto a las cuentas de usuario agente en la carpeta usuarios de Windows (normalmente c:\usuarios).

  • Solución alternativa: Microsoft es consciente de este problema y está trabajando en una corrección que limpiará los perfiles de Intune restantes. ​​​​​​​

​​​​​​​