18 de agosto de 2026
Nota
- La información de este artículo solo se aplica al uso de Microsoft Copilot por parte de personas que han iniciado sesión con una cuenta de Microsoft, como una dirección de correo electrónico personal.
- Para obtener información sobre el uso de Microsoft Copilot en organizaciones donde los usuarios han iniciado sesión con su cuenta profesional o educativa, consulte Tarjeta de aplicación: Microsoft Copilot (para organizaciones).
¿Qué es una Nota de Transparencia?
Un sistema de IA incluye no solo la tecnología, sino también las personas que lo usarán, las personas que se verán afectadas por él y el entorno en el que se implementa. Las Notas de transparencia de Microsoft están pensadas para ayudarle a comprender cómo funciona la tecnología de inteligencia artificial detrás de Copilot, las decisiones que tomamos que influyen en el rendimiento y el comportamiento del sistema, y la importancia de pensar en todo el sistema, para que los usuarios de Copilot puedan tomar el control de sus propias experiencias y comprender los pasos que estamos dando para proporcionar un producto seguro.
Las notas de transparencia de Microsoft forman parte de un esfuerzo más amplio de Microsoft para poner en práctica nuestros principios de inteligencia artificial. Para obtener más información, consulte los Principios de Microsoft AI.
Conceptos básicos de Microsoft Copilot
Introducción
Microsoft Copilot le ayuda a pasar de la idea al trabajo terminado, todo en un solo lugar. Copilot está integrado en Word, Excel, PowerPoint, Outlook, Teams y mucho más, y reúne los archivos y la información que usa en una sola experiencia. Copilot puede ayudarle a crear documentos, presentaciones y hojas de cálculo pulidos, borrador de correos electrónicos, organizar su día y obtener respuestas basadas en el trabajo que está haciendo. Con Cowork, Copilot también puede ayudar con tareas más grandes de varios pasos y entregar tareas completadas. También puede elegir entre los principales modelos de IA para diferentes tipos de trabajo. Las características específicas varían según la suscripción.
En Microsoft, nos tomamos muy en serio nuestro compromiso con la IA responsable. Copilot se ha desarrollado en consonancia con los principios de inteligencia artificial de Microsoft, la Standard de IA responsable de Microsoft y en asociación con expertos en inteligencia artificial responsable de toda la empresa, incluida la Oficina de IA responsable de Microsoft, nuestros equipos de ingeniería, Microsoft Research y Aether. Puede obtener más información en IA responsable en Microsoft.
En este documento, describimos nuestro enfoque sobre la IA responsable para Copilot. Antes del lanzamiento, aprovechamos los métodos de vanguardia de Microsoft para asignar, medir y administrar los riesgos potenciales y el uso incorrecto del sistema y para proteger sus beneficios para los usuarios. A medida que hemos seguido evolucionando Copilot, también hemos seguido aprendiendo y mejorando nuestros esfuerzos de IA responsable. Este documento se actualizará periódicamente para comunicar nuestros procesos y métodos en evolución.
Términos clave
Clasificadores Modelos de aprendizaje automático que ayudan a ordenar los datos en clases etiquetadas o categorías de información. En Copilot, una forma en que usamos los clasificadores es ayudar a detectar contenido potencialmente dañino enviado por los usuarios o generado por el sistema para mitigar la generación de ese contenido y el uso incorrecto o abuso del sistema.
Conexión a tierra En determinadas conversaciones en las que los usuarios buscan información, Copilot se basa en los resultados de búsqueda web. Esto significa que Copilot centra su respuesta en contenidos de alto rango de la web y proporciona citas con hipervínculos después de respuestas de texto generadas o en transcripciones de conversaciones en modo de voz.
Modelos de lenguaje de gran tamaño (LLM) Los modelos de lenguaje grande (LLM) en este contexto son modelos de IA que se entrenan con grandes cantidades de datos de texto para predecir palabras en secuencias. Los LLM pueden realizar una variedad de tareas, como generación de texto, resumen, traducción, clasificación y más.
Mitigación Un método o combinación de métodos diseñados para reducir los riesgos potenciales que pueden surgir del uso de las características de IA en Copilot.
Modelos multimodales (MMMs) Los modelos multimodales (MMM) son modelos de IA que se entrenan en diferentes tipos de datos, como texto, imágenes o audio. Estos modelos pueden realizar una variedad de tareas, como escribir texto, describir imágenes, reconocer voz y buscar información en diferentes tipos de datos.
Consultas Entradas en forma de texto, imágenes o audio que un usuario envía a Copilot para interactuar con las características de inteligencia artificial dentro de Copilot.
Equipos rojos Técnicas utilizadas por los expertos para evaluar las limitaciones y vulnerabilidades de un sistema y probar la eficacia de las mitigaciones planificadas. Las pruebas del equipo rojo incluyen probadores que adoptan personas benignas y adversarias para identificar riesgos potenciales y son distintas de la medición sistemática de riesgos.
Respuestas Texto, imágenes o audio que Copilot emite en respuesta a una indicación o como parte de las idas y venidas con el usuario. Los sinónimos de "respuesta" incluyen "finalización", "generación" y "contestación".
Modelos de lenguaje pequeño (SLM) Los modelos de lenguaje pequeño (SLM) en este contexto son modelos de IA que se entrenan con cantidades de datos más pequeñas y más enfocadas en comparación con los modelos de lenguaje grande. A pesar de su tamaño más pequeño, los SLM pueden realizar una variedad de tareas, como la generación de texto, el resumen, la traducción y la clasificación. Aunque es posible que no coincidan con las amplias capacidades de los LLM, los SLM suelen ser más eficientes en el uso de los recursos y pueden ser muy eficaces para aplicaciones específicas y específicas.
Mensaje del sistema El mensaje del sistema (a veces denominado "metaprompt") es un programa que sirve para guiar el comportamiento del sistema. Algunas partes del mensaje del sistema ayudan a alinear el comportamiento del sistema con los principios de inteligencia artificial y las expectativas del usuario de Microsoft. Por ejemplo, un mensaje del sistema puede incluir una línea como "no proporcionar información ni crear contenido que pueda causar daños físicos, emocionales o financieros".
Capacidades
Comportamiento del sistema
Con Copilot, hemos desarrollado un enfoque innovador para ofrecer una experiencia de IA más personalizada a los usuarios para una experiencia atractiva que puede ayudar a los usuarios con una variedad de tareas. Este enfoque innovador aprovecha una variedad de tecnologías avanzadas, como el lenguaje y los modelos multimodales de Microsoft, OpenAI y otros desarrolladores de modelos. Trabajamos en la implementación de técnicas de seguridad para los modelos subyacentes a Copilot antes de su lanzamiento público para desarrollar un conjunto personalizado de funcionalidades y comportamientos que proporcionen una experiencia mejorada de Copilot. En Copilot, los usuarios pueden enviar indicaciones en lenguaje natural, texto o voz. Las respuestas se presentan a los usuarios en varios formatos diferentes, como respuestas de chat en forma de texto (con vínculos tradicionales a contenido web según sea necesario) e imágenes (si se realizó una solicitud de imagen como parte de la indicación). Si los usuarios envían indicaciones en voz en lenguaje natural dentro del modo de voz de Copilot, recibirán respuestas de audio.
Cuando un usuario escribe una indicación en Copilot, la indicación, el historial de conversaciones y el mensaje del sistema se envían a través de varios clasificadores de entrada para ayudar a filtrar el contenido perjudicial o inadecuado. Este es un primer paso crucial para ayudar a mejorar el rendimiento del modelo y mitigar situaciones en las que los usuarios podrían intentar solicitar el modelo de una manera que podría no ser segura. Una vez que la solicitud pasa a través de los clasificadores de entrada, se determina si la solicitud requiere datos de conexión a tierra de la web y qué modelo de lenguaje debe responder a la solicitud. Todos los modelos generan una respuesta utilizando la indicación del usuario y el historial de conversaciones recientes para contextualizar la solicitud, el mensaje del sistema para alinear las respuestas con los principios de inteligencia artificial de Microsoft y las expectativas del usuario y, si procede, alinear las respuestas con los resultados de búsqueda para fundamentar las respuestas en contenido existente de alto rango de la web.
Las respuestas se presentan a los usuarios en varios formatos diferentes, como respuestas de chat en forma de texto, vínculos tradicionales a contenido web, imágenes y respuestas de audio. Cuando las respuestas se proporcionan en forma de texto, y las respuestas se fundamentan en datos de la web, la salida contiene citas con hipervínculos que se enumeran debajo del texto para que los usuarios puedan acceder a los sitios web que se usaron para fundamentar la respuesta y obtener más información sobre el tema desde allí. Copilot también puede ejecutar código para completar cálculos complejos y generar gráficos. Copilot puede almacenar hechos específicos que los usuarios solicitan que recuerde, lo que le permite generar respuestas y sugerencias más relevantes basadas en ese contexto. Copilot también puede eliminar los hechos guardados cuando los usuarios piden olvidarlos explícitamente.
Copilot también ayuda a los usuarios a crear nuevas historias, poemas, letras de canciones e imágenes. Cuando Copilot detecta la intención del usuario de generar contenido creativo (como una indicación de usuario que comienza con "escríbeme un ..."), el sistema, en la mayoría de los casos, generará contenido que responda a la indicación del usuario. De forma similar, cuando Copilot detecta la intención del usuario de generar una imagen (como una indicación de usuario que comienza con "dibújame un ..."), Copilot, en la mayoría de los casos, generará una imagen que responda a la indicación del usuario. Cuando Copilot detecta la intención del usuario de modificar una imagen cargada (como una indicación de usuario que comienza con "agregar un ..."), Copilot, en la mayoría de los casos, modificará una imagen que responda a la indicación del usuario. Es posible que Copilot no responda con contenido creativo cuando la indicación del usuario contenga determinados términos que podrían dar lugar a contenido problemático.
Comportamiento de seguridad previsto
Nuestro objetivo para Copilot es ser útiles para los usuarios e implementamos medidas de seguridad para ayudar a reducir la probabilidad de generar contenido perjudicial y aumentar la probabilidad de una experiencia de usuario segura y positiva. Aunque hemos tomado medidas para mitigar los riesgos, los modelos de IA generativa como los que hay detrás de Copilot son probabilísticos y pueden cometer errores, lo que significa que las mitigaciones en ocasiones pueden no bloquear indicaciones de usuario dañinas o respuestas generadas por IA. Si encuentra contenido dañino o inesperado al usar Copilot, háganoslo saber enviando comentarios para que podamos seguir mejorando la experiencia.
Casos de uso
Usos previstos
Copilot está diseñado para ayudar a los usuarios a responder preguntas, generar contenido y completar tareas a través del lenguaje natural mediante texto, imágenes y voz. Para proporcionar respuestas útiles y relevantes, Copilot puede recuperar, analizar y resumir información de fuentes disponibles. Algunas características avanzadas pueden estar disponibles solo para usuarios con suscripciones aptas. Algunos ejemplos de casos de uso comunes son los siguientes:
Chat usar texto y obtener resúmenes basados en web. Los usuarios pueden chatear con Copilot a través de texto y formular preguntas de seguimiento para encontrar nueva información y recibir soporte técnico en una amplia variedad de temas. Copilot puede realizar búsquedas web y usará los principales resultados de búsqueda web para generar un resumen de la información que se presentará a los usuarios. Estos resúmenes incluyen citas a páginas web para ayudar a los usuarios a revisar las fuentes de resultados de búsqueda que ayudaron a fundamentar el resumen de Copilot. Los usuarios pueden hacer clic en estos enlaces para visitar la fuente del sitio web para obtener más información o evaluar la confiabilidad del sitio web.
Obtener ayuda para generar nuevas ideas. Cada vez que los usuarios interactúen con la experiencia de Copilot, verán un conjunto de tarjetas en las que pueden hacer clic para empezar a chatear con Copilot sobre temas útiles e interesantes. Si los usuarios han interactuado con otros servicios al consumidor de Microsoft, las tarjetas se personalizarán, de acuerdo con nuestras directivas de privacidad. Con el tiempo, las tarjetas de Copilot se pueden personalizar en función del historial de chat de un usuario. Los usuarios pueden optar por no participar en la personalización en cualquier momento en la configuración.
Generar contenido creativo. Al chatear con Copilot, los usuarios pueden crear nuevos poemas, chistes, historias, imágenes y otro contenido con la ayuda de Copilot. Copilot también puede editar las imágenes cargadas por los usuarios si así lo solicitan.
Ayudar con la investigación. Copilot puede llevar a cabo tareas de investigación mostrando recursos detallados, ofreciendo desgloses detallados de temas y enlaces a fuentes para ayudar a los usuarios a ir más allá de las respuestas rápidas para consultas más complejas. Copilot puede generar de forma proactiva sugerencias de investigación personalizadas para los usuarios en función de cosas como consultas de investigación anteriores y memoria de Copilot. Los usuarios pueden optar por no recibir personalización ni notificaciones en cualquier momento en la configuración.
Descubre, compara y compra productos. Compras de Copilot puede ayudarle a encontrar productos, comparar opciones y simplificar las compras. Excepto donde se identifique, Microsoft no recibe comisiones ni ninguna otra compensación por las sugerencias de productos o los resultados de búsqueda proporcionados en Copilot.
Estudia de forma más inteligente con Copilot Learn. Copilot Learn puede crear cuestionarios y pruebas de práctica, generar tarjetas didácticas y está diseñado para ayudar a mejorar las respuestas con imágenes para que los conceptos complejos sean más fáciles de entender.
Obtenga ayuda con las tareas diarias. Copilot Cowork realiza tareas en su nombre. Usted describe lo que necesita en lenguaje natural y Cowork hace el trabajo, creando documentos, redactando y enviando correos electrónicos, programando reuniones y administrando archivos. Usted revisa y aprueba acciones confidenciales antes de que sucedan.
Analizar y editar archivos. La carga de archivos en Copilot permite a los usuarios cargar imágenes o determinados tipos de archivos compatibles directamente en sus sesiones de chat. Una vez cargado, Copilot puede analizar y extraer información de estos archivos para proporcionar información relevante, responder preguntas o ayudar con tareas específicas. Copilot también puede hacer referencia a archivos de sus proveedores de almacenamiento en línea conectados, como OneDrive y Google Drive, con su permiso.
Ver y comprender. Use Vision para analizar imágenes, obtener información de fotos y buscar visualmente. Copilot revisa las imágenes cargadas para ayudarle a comprender lo que está viendo.
Usa tu voz. Hable de forma natural con Copilot mediante el chat de voz. Haga una lluvia de ideas, escriba contenido u obtenga respuestas rápidas, completamente a manos libres.
Se conecta a otras aplicaciones. Incorpore las aplicaciones y la información que elija, como correo electrónico, calendarios, archivos, contactos y otros servicios.
Consideraciones al elegir otros casos de uso
Animamos a los usuarios a revisar todo el contenido antes de tomar decisiones o actuar en función de las respuestas de Copilot, ya que la IA puede cometer errores y puede no ser adecuada para determinados casos de uso. Además, hay ciertos escenarios que recomendamos evitar o que van en contra de nuestros Términos de uso. Por ejemplo, Microsoft no permite que Copilot se use en relación con actividades ilegales o para cualquier propósito destinado a promover actividades ilegales.
Limitaciones
Los modelos de lenguaje, imagen y audio que subyacen a la experiencia de Copilot pueden incluir datos de aprendizaje que pueden reflejar sesgos sociales, lo que a su vez puede hacer que Copilot se comporte de formas que se perciban como injustas, poco confiables u ofensivas. A pesar de nuestro entrenamiento intensivo de modelos y el ajuste de seguridad, así como la implementación de los controles de IA responsables y los sistemas de seguridad que colocamos en los datos de entrenamiento, las indicaciones del usuario y los resultados del modelo, los servicios impulsados por IA son falibles y probabilísticos. Esto dificulta el bloqueo exhaustivo de todo el contenido inapropiado, lo que conlleva riesgos de posibles sesgos, estereotipos, falta de fundamento u otros tipos de daño que podrían aparecer en el contenido generado por IA. Aquí se enumeran algunas de las formas en que esas limitaciones pueden manifestarse en la experiencia de Copilot.
Estereotipos: La experiencia de Copilot podría reforzar los estereotipos. Por ejemplo, al traducir "Él es enfermero" y "Ella es doctora" a un idioma sin género como el turco y, a continuación, de nuevo al inglés, Copilot podría producir inadvertidamente los resultados estereotipados (e incorrectos) de "Ella es una enfermera" y "Él es un médico". Otro ejemplo es cuando se genera una imagen basada en el mensaje "Niños sin padre", el sistema podría generar imágenes de niños de una sola raza o etnia, reforzando los estereotipos dañinos que podrían existir en las imágenes disponibles públicamente utilizadas para entrenar los modelos subyacentes. Copilot también podría reforzar los estereotipos basados en el contenido de la imagen de entrada del usuario basándose en componentes de la imagen y haciendo suposiciones que podrían no ser ciertas. Hemos implementado mitigaciones para reducir el riesgo de contenido que contiene estereotipos ofensivos, incluidos clasificadores de entrada y salida, modelos ajustados y mensajes del sistema.
Sobrerrepresentación y subrepresentación: Copilot podría representar en exceso o en defecto a grupos de personas, o incluso no representarlos en absoluto, en sus respuestas. Por ejemplo, si se detectan mensajes de texto que contienen la palabra "gay" como potencialmente dañinos u ofensivos, esto podría dar lugar a una representación insuficiente de generaciones legítimas sobre la comunidad LGBTQIA+. Además de incluir clasificadores de entrada y salida, modelos ajustados, así como mensajes del sistema, usamos el enriquecimiento de avisos en Designer como una de las varias mitigaciones para reducir el riesgo de contenido que sobrerrepresenta o infra a grupos de personas.
Contenido inapropiado u ofensivo: La experiencia de Copilot puede producir potencialmente otros tipos de contenido inapropiado u ofensivo. Algunos ejemplos son la capacidad de generar contenido en una modalidad (por ejemplo, audio) que no es adecuado en el contexto de su indicación o cuando se compara con la misma salida en una modalidad diferente (por ejemplo, texto). Otros ejemplos son las imágenes generadas por inteligencia artificial que pueden contener artefactos dañinos, como símbolos de odio, contenido relacionado con temas controvertidos, controvertidos o ideológicamente polarizantes, y contenido con carga sexual que elude los filtros de contenido relacionado con el sexo. Hemos implementado mitigaciones para reducir el riesgo de que las generaciones contengan contenido inapropiado u ofensivo, como clasificadores de entrada y salida, modelos ajustados y mensajes del sistema.
Confiabilidad de la información: Aunque Copilot tiene como objetivo responder con fuentes fiables donde se busca información de fundamento, la IA puede cometer errores. Podría generar contenido sin sentido o fabricar contenido que puede sonar razonable pero que es inexacto. Incluso al extraer respuestas de datos web de alta autoridad, las respuestas pueden tergiversar ese contenido de una manera que podría no ser completamente precisa, actualizada o confiable. Recordamos a los usuarios a través de la interfaz de usuario y en documentación como esta que Copilot puede cometer errores. También seguimos educando a los usuarios sobre las limitaciones de la IA, como animarles a comprobar los hechos antes de tomar decisiones o actuar en función de las respuestas de Copilot. Cuando los usuarios interactúan con Copilot a través de texto, intentará basarse en datos web de alta calidad para reducir el riesgo de que las generaciones no estén fundamentadas.
Rendimiento multilingüe: Podría haber variaciones en el rendimiento entre idiomas, y el inglés tendrá el mejor rendimiento en el momento de lanzar Copilot. Mejorar el rendimiento en todos los idiomas es un área de inversión clave, y los modelos recientes han llevado a un mejor rendimiento.
Limitaciones de audio: Los modelos de audio pueden introducir otras limitaciones. En términos generales, la calidad acústica de la entrada de voz, el ruido no verbal, el vocabulario, los acentos y los errores de inserción también pueden afectar si Copilot procesa y responde a la entrada de audio de un usuario de manera satisfactoria.
La IA no sustituye a la ayuda profesional: La IA puede ser una herramienta útil para la resolución de problemas y puede parecer empática, pero no reemplaza la búsqueda de ayuda profesional. Si tienes depresión, pensamientos suicidas o autolesiones, u otros problemas de salud mental, busca ayuda profesional. Copilot también se puede usar para encontrar recursos de crisis o de salud mental cerca de usted.
Dependencia de la conectividad a Internet: Copilot depende de la conectividad a Internet para funcionar. Las interrupciones en la conectividad pueden tener un impacto en la disponibilidad y el rendimiento del servicio.
Tenga cuidado al crear o usar agentes: Los usuarios deben tener cuidado al crear sus propios agentes o usar agentes proporcionados por otros, especialmente si las acciones emprendidas por los agentes podrían tener consecuencias significativas, ser irreversibles o tener potencial para compartir información personal confidencial (como contraseñas, inicios de sesión o datos personales). Dado que es posible que los agentes no funcionen bien para todos los casos de uso y que cometan errores, malinterpreten las instrucciones o se les engañe con instrucciones ocultas maliciosas, los usuarios deben supervisar detenidamente los resultados y revisar los detalles importantes Es posible que se restrinja a los usuarios de determinados casos de uso, como visitar sitios web dañinos o crear contenido inapropiado. También se deben tomar precauciones adicionales al crear IA agente autónoma, como se describe más adelante en la sección Código de conducta del Contrato de servicios de Microsoft.
Rendimiento del sistema
En muchos sistemas de IA, el rendimiento se define a menudo en relación con la precisión (es decir, la frecuencia con la que el sistema de IA ofrece una predicción o salida correcta). Con Copilot, nos centramos en Copilot como un asistente con tecnología de IA que refleja las preferencias del usuario. Por lo tanto, dos usuarios diferentes pueden mirar el mismo resultado y tener diferentes opiniones sobre cuán útil o relevante es para su situación y expectativas únicas, lo que significa que el rendimiento de estos sistemas debe definirse de manera más flexible. En términos generales, consideramos que el rendimiento significa que la aplicación funciona como esperan los usuarios.
Procedimientos recomendados para mejorar el rendimiento del sistema
Interactúe con la interfaz mediante lenguaje natural y conversacional. Interactuar con Copilot de una manera que sea cómoda para el usuario es clave para obtener mejores resultados a través de la experiencia. De forma similar a la adopción de técnicas para ayudar a las personas a comunicarse de forma eficaz en su vida diaria, interactuar con Copilot como un asistente con tecnología de IA, ya sea a través de texto o voz que sea familiar para el usuario, puede ayudar a obtener mejores resultados.
Experiencia del usuario y adopción. El uso eficaz de Copilot requiere que los usuarios comprendan sus capacidades y limitaciones. Puede haber una curva de aprendizaje y es posible que los usuarios deseen hacer referencia a varios recursos de Copilot (por ejemplo, este documento y Microsoft Copilot ayudan a & aprendizaje) para interactuar de forma eficaz con el servicio y beneficiarse de él.
Asignar, medir y administrar riesgos
Al igual que otras tecnologías de transformación, aprovechar las ventajas de la inteligencia artificial no está libre de riesgos y una parte fundamental del programa de IA responsable de Microsoft está diseñada para identificar y mapear posibles riesgos, medir esos riesgos y administrarlos mediante la creación de mitigaciones y la mejora continua de Copilot a lo largo del tiempo. En las secciones siguientes se describe nuestro enfoque iterativo para asignar, medir y administrar posibles riesgos.
Mapa: Una planeación cuidadosa y pruebas adversarias previas a la implementación, como el simulacro de ataques rojos, nos ayudan a trazar un mapa de posibles riesgos. Los modelos subyacentes que impulsan la experiencia de Copilot pasaron por pruebas en equipos rojos de evaluadores que representan perspectivas multidisciplinares en áreas temáticas relevantes. Esta prueba se diseñó para evaluar cómo funcionaría la tecnología más reciente con y sin medidas de seguridad adicionales aplicadas. La intención de estos ejercicios a nivel de modelo es producir respuestas dañinas, exponer posibles vías de uso incorrecto e identificar capacidades y limitaciones.
Pruebas a nivel de aplicación antes del lanzamiento. Antes de que Copilot estuviera disponible públicamente, realizamos una formación de equipos rojos a nivel de aplicación para identificar deficiencias y vulnerabilidades. Estas pruebas nos ayudaron a comprender cómo una amplia gama de usuarios podrían usar Copilot e informaron sobre las mejoras de nuestras mitigaciones.
Pruebas continuas. También probamos nuevas características y actualizaciones técnicas, según corresponda, al actualizar Copilot. Este proceso continuo nos ayuda a identificar riesgos emergentes y refinar nuestras mitigaciones con el tiempo.
Medir: Además de evaluar Copilot con respecto a nuestras evaluaciones de seguridad existentes, el uso de red teaming descrito anteriormente nos ayudó a desarrollar evaluaciones y métricas de IA responsables correspondientes a los posibles riesgos identificados, como jailbreaks, contenido dañino y contenido sin fundamento.
Recopilamos datos conversacionales dirigidos a estos riesgos, mediante una combinación de participantes humanos y una canalización automatizada de generación de conversaciones. Luego, cada evaluación es calificada por un grupo de anotadores humanos capacitados o por una canalización de anotación automatizada. Cada vez que cambia el producto, se actualizan las mitigaciones existentes o se proponen nuevas mitigaciones, actualizamos nuestras canalizaciones de evaluación para evaluar el rendimiento del producto y las métricas de IA responsable. Estas canalizaciones automatizadas de contexto de evaluación son una combinación de conversaciones recopiladas con evaluadores humanos y conversaciones sintéticas generadas con LLM a las que se les solicita que prueben las directivas de forma adversa. Cada una de estas evaluaciones de seguridad se califica automáticamente con LLM. Para las evaluaciones recientemente desarrolladas, cada evaluación es calificada inicialmente por etiquetadores humanos que leen el contenido del texto o escuchan la salida de audio, y luego se convierten en evaluaciones automáticas basadas en LLM.
El comportamiento deseado de nuestros modelos en combinación con nuestras canalizaciones de evaluación, tanto humanas como automatizadas, nos permite realizar rápidamente mediciones de posibles riesgos a escala. A medida que identificamos nuevos problemas con el tiempo, seguimos ampliando los conjuntos de medidas para evaluar riesgos adicionales.
Administrar: A medida que identificábamos posibles riesgos y usos incorrectos a través de equipos rojos y los medíamos con los enfoques descritos anteriormente, desarrollábamos mitigaciones adicionales que son específicas de la experiencia de Copilot. A continuación, se describen algunas de esas mitigaciones. Seguiremos supervisando la experiencia de Copilot para mejorar el rendimiento del producto y nuestro enfoque de mitigación de riesgos.
Planes de lanzamiento por fases y evaluación continua. Nos comprometemos a aprender y mejorar nuestro enfoque de IA responsable continuamente a medida que evolucionan nuestras tecnologías y el comportamiento de los usuarios. Nuestra estrategia de lanzamiento incremental ha sido una parte fundamental de cómo trasladamos nuestra tecnología de forma segura del laboratorio al mundo, y nos comprometemos a un proceso deliberado y reflexivo para proteger las ventajas de la experiencia de Copilot. Estamos realizando cambios en Copilot periódicamente para mejorar el rendimiento del producto y las mitigaciones existentes, e implementar nuevas mitigaciones en respuesta a nuestros aprendizajes.
Aprovechar los clasificadores y el mensaje del sistema para mitigar posibles riesgos o uso incorrecto. En respuesta a las indicaciones de los usuarios, los LLM pueden producir contenido problemático. Explicamos los tipos de contenido que intentamos limitar en las secciones anteriores sobre comportamiento y limitaciones del sistema. Los clasificadores y el mensaje del sistema son dos ejemplos de mitigaciones que se han implementado en Copilot para ayudar a reducir el riesgo de estos tipos de contenido. Los clasificadores clasifican el texto para marcar el contenido potencialmente dañino en las indicaciones de los usuarios o en las respuestas generadas. También usamos los procedimientos recomendados existentes para aprovechar el mensaje del sistema, lo que implica proporcionar instrucciones al modelo para alinear su comportamiento con los principios de inteligencia artificial de Microsoft y con las expectativas del usuario.
Carga de imágenes en Copilot Vision. La primera vez que un usuario cargue una imagen en Copilot Vision, se le proporcionará información sobre cómo Copilot procesa su imagen. Si un usuario no continúa con la carga, la imagen no se enviará a Copilot. Todas las imágenes se eliminan en un plazo de 30 días tras finalizar la conversación.
Divulgación de IA. Copilot también está diseñado para informar a las personas de que interactúan con un sistema de IA. A medida que los usuarios interactúan con Copilot, ofrecemos varios puntos de contacto diseñados para ayudarles a comprender las capacidades del sistema, revelarles que Copilot funciona con IA y comunicar las limitaciones. La experiencia está diseñada de esta manera para ayudar a los usuarios a sacar el máximo partido de Copilot y minimizar el riesgo de dependencia excesiva. Las divulgaciones también ayudan a los usuarios a comprender mejor Copilot y sus interacciones con él.
Procedencia de los medios. Para todas las imágenes creadas con Copilot, hemos implementado credenciales de contenido, de procedencia basada en el estándar C2PA, para ayudar a las personas a identificar si las imágenes se editaron o generaron con IA. Los metadatos de procedencia se pueden ver en el sitio de Credenciales de contenido.
Detección de contenido automatizada. Cuando los usuarios cargan imágenes como parte de su mensaje de chat, Copilot implementa herramientas para detectar imágenes de abuso y explotación sexual infantil (CSEAI). Microsoft notifica todos los CSEAI aparentes al National Center for Missing and Exploited Children (NCMEC), tal y como exige la legislación estadounidense. Cuando los usuarios cargan archivos para analizarlos o procesarlos, Copilot implementa un examen automatizado para detectar contenido que podría provocar riesgos o un uso incorrecto, como texto que podría estar relacionado con actividades ilegales o código malintencionado.
Términos de uso y Código de conducta. Los usuarios deben cumplir los Términos de uso y Código de conducta aplicables de Copilot, el Contrato de servicios de Microsoft y la Declaración de privacidad de Microsoft, que, entre otras cosas, les informan de los usos permitidos y no permitidos y de las consecuencias de infringir los términos. Las Condiciones de uso también proporcionan divulgaciones adicionales para los usuarios y sirven como referencia para que los usuarios obtengan información sobre Copilot. Los usuarios que cometan infracciones graves o reiteradas pueden ser suspendidos temporal o permanentemente del servicio.
Comentarios, seguimiento y supervisión. La experiencia de Copilot incluye herramientas que permiten a los usuarios enviar comentarios, que son revisados por los equipos de operaciones de Microsoft. Además, nuestro enfoque para asignar, medir y administrar riesgos seguirá evolucionando a medida que aprendamos más y ya estamos realizando mejoras basadas en los comentarios recopilados durante los períodos de versión preliminar.
Detectar y responder a los riesgos de suicidio y Self-Harm. Copilot usa clasificadores de aprendizaje automático entrenados para reconocer patrones de lenguaje que pueden indicar suicidio o intención de autolesión por parte del usuario. Cuando se detecta este tipo de contenido, el sistema se desconecta de la conversación y, en su lugar, proporciona recursos de ayuda para crisis (por ejemplo, la Línea de Prevención de Suicidio y Crisis 988 en Estados Unidos), animando a los usuarios a buscar ayuda profesional. Copilot no proporciona asesoramiento; Su función se limita a la detección y la derivación para garantizar la seguridad del usuario.
Notificación de uso extendido. Copilot puede recordar a los usuarios que se tomen un descanso si han estado participando en conversaciones continuas durante un período de tiempo prolongado. También se informa regularmente a los usuarios de que la IA no es humana y puede cometer errores.