Note de transparence pour Microsoft Copilot (pour les particuliers)

18 août 2026

Qu’est-ce qu’une note de transparence ?

Un système d’IA comprend non seulement la technologie, mais aussi les personnes qui l’utiliseront, les personnes qui seront affectées par elle et l’environnement dans lequel il est déployé. Les notes de transparence de Microsoft sont destinées à vous aider à comprendre le fonctionnement de la technologie d’IA derrière Copilot, les choix que nous avons faits qui influencent les performances et le comportement du système, ainsi que l’importance de penser à l’ensemble du système, afin que les utilisateurs de Copilot puissent prendre le contrôle de leurs propres expériences et comprendre les étapes que nous prenons pour fournir un produit sûr et sécurisé.

Les notes de transparence de Microsoft font partie d’un effort plus large de Microsoft pour mettre en pratique nos principes d’IA. Pour en savoir plus, consultez les principes de Microsoft AI.

Informations de base de Microsoft Copilot

Introduction

Microsoft Copilot vous aide à passer de l’idée au travail fini, le tout au même endroit. Copilot est intégré à Word, Excel, PowerPoint, Outlook, Teams, etc., regroupant les fichiers et les informations que vous utilisez dans une seule expérience. Copilot peut vous aider à créer des documents, des présentations et des feuilles de calcul soignés, à rédiger des e-mails, à organiser votre journée et à obtenir des réponses ancrées dans le travail que vous faites. Avec Cowork, Copilot peut également vous aider à effectuer des tâches plus importantes en plusieurs étapes et à livrer des tâches à faire terminées. Vous pouvez également choisir entre les principaux modèles d’IA pour différents types de travail. Les fonctionnalités spécifiques varient selon l’abonnement.

Chez Microsoft, nous prenons au sérieux notre engagement en faveur d'une IA responsable. Copilot a été développé conformément aux principes d’IA de Microsoft, au Standard d’IA responsable de Microsoft, et en partenariat avec des experts en IA responsable au sein de l’entreprise, notamment le Bureau de l’IA responsable de Microsoft, nos équipes d’ingénierie, Microsoft Research et Aether. Vous pouvez en savoir plus sur IA responsable chez Microsoft.

Dans ce document, nous décrivons notre approche de l’IA responsable pour Copilot. Avant sa sortie, nous avons tiré parti des méthodes de pointe de Microsoft pour cartographier, mesurer et gérer les risques potentiels et l’utilisation abusive du système et pour sécuriser ses avantages pour les utilisateurs. À mesure que nous avons continué à faire évoluer Copilot, nous avons également continué à apprendre et à améliorer nos efforts en matière d’IA responsable. Ce document sera mis à jour périodiquement pour communiquer l’évolution de nos processus et méthodes.

Termes clés

Classifieurs Modèles d’apprentissage automatique qui permettent de trier les données en classes ou catégories d’informations étiquetées. Dans Copilot, nous utilisons des classificateurs pour aider à détecter le contenu potentiellement dangereux soumis par les utilisateurs ou généré par le système afin d’atténuer la génération de ce contenu et l’utilisation incorrecte ou abusive du système.

Ancrage Pour certaines conversations dans lesquelles les utilisateurs recherchent des informations, Copilot est ancré dans les résultats de recherche web. Cela signifie que Copilot centre sa réponse sur le contenu de premier rang provenant du web et fournit des citations avec liens hypertexte à la suite de réponses textuelles générées ou dans les transcriptions de conversation en mode vocal.

Grands modèles de langage (LLM) Dans ce contexte, les grands modèles linguistiques (LLM) sont des modèles d’IA qui sont entraînés sur de grandes quantités de données textuelles pour prédire les mots dans des séquences. Les LLM peuvent effectuer diverses tâches, telles que la génération de texte, le résumé, la traduction, la classification, etc.

Limitation des risques Méthode ou combinaison de méthodes conçues pour réduire les risques potentiels pouvant découler de l’utilisation des fonctionnalités d’IA dans Copilot.

Modèles multimodaux (MMM) Les modèles multimodaux (MMM) sont des modèles IA entraînés sur différents types de données, tels que du texte, des images ou de l’audio. Ces modèles peuvent effectuer diverses tâches, telles que l’écriture de texte, la description d’images, la reconnaissance vocale et la recherche d’informations dans différents types de données.

Requêtes Entrées sous forme de texte, d’images et/ou d’audio qu’un utilisateur envoie à Copilot pour interagir avec les fonctionnalités IA dans Copilot.

Mise en équipe rouge Techniques utilisées par les experts pour évaluer les limites et les vulnérabilités d’un système et pour tester l’efficacité des mesures d’atténuation prévues. Les tests de l’équipe rouge comprennent des testeurs qui adoptent à la fois des personnalités bénignes et contradictoires pour identifier les risques potentiels et se distinguent de la mesure systématique des risques.

Réponses Texte, images ou audio que Copilot génère en réponse à une invite ou dans le cadre d’échanges avec l’utilisateur. Les synonymes de « réponse » incluent « achèvement », « génération » et « réponse ».

Petits modèles de langage (SLM) Dans ce contexte, les petits modèles de langage (SLM) sont des modèles d’IA qui sont entraînés sur des quantités de données plus petites et plus ciblées par rapport aux grands modèles de langage. Malgré leur petite taille, les MLS peuvent effectuer diverses tâches, telles que la génération de texte, le résumé, la traduction et la classification. Bien qu’ils ne correspondent pas aux capacités étendues des LLM, les SLM sont souvent plus économes en ressources et peuvent être très efficaces pour des applications spécifiques et ciblées.

Message système Le message système (parfois appelé « métaprompt ») est un programme qui sert à guider le comportement du système. Certaines parties du message système permettent d’aligner le comportement du système sur les principes de Microsoft en matière d’IA et les attentes des utilisateurs. Par exemple, un message système peut inclure une ligne telle que « Ne fournissez pas d’informations ou ne créez pas de contenu qui pourrait causer des dommages physiques, émotionnels ou financiers ».

Fonctionnalités

Comportement du système

Avec Copilot, nous avons développé une approche innovante pour offrir aux utilisateurs une expérience d’IA plus personnalisée pour une expérience attrayante qui peut aider les utilisateurs à effectuer diverses tâches. Cette approche innovante s’appuie sur une variété de technologies avancées, telles que le langage et les modèles multimodaux de Microsoft, OpenAI et d’autres développeurs de modèles. Nous avons travaillé sur la mise en œuvre de techniques de sécurité pour les modèles sous-jacents à Copilot avant sa publication publique afin de développer un ensemble personnalisé de fonctionnalités et de comportements qui offrent une expérience Copilot améliorée. Dans Copilot, les utilisateurs peuvent envoyer des invites en langage naturel, texte ou vocal. Les réponses sont présentées aux utilisateurs dans plusieurs formats différents, tels que les réponses de conversation sous forme de texte (avec des liens traditionnels vers le contenu web si nécessaire) et d’images (si une demande d’image a été faite dans le cadre de l’invite). Si les utilisateurs envoient des invites en langage naturel dans le mode Copilot Voice, ils reçoivent des réponses audio.

Lorsqu’un utilisateur entre une invite dans Copilot, l’invite, l’historique des conversations et le message système sont envoyés via plusieurs classificateurs d’entrée pour aider à filtrer le contenu dangereux ou inapproprié. Il s’agit d’une première étape cruciale pour aider à améliorer les performances du modèle et à atténuer les situations dans lesquelles les utilisateurs peuvent tenter d’inviter le modèle d’une manière qui pourrait être dangereuse. Une fois que l’invite passe par les classifieurs d’entrée, il est déterminé si la requête nécessite des données de mise à la terre provenant du web et quel modèle de langage doit répondre à la requête. Tous les modèles génèrent une réponse à l’aide de l’invite de l’utilisateur et de l’historique des conversations récentes pour contextualiser la demande, le message système pour aligner les réponses sur les principes de Microsoft en matière d’IA et les attentes des utilisateurs et, le cas échéant, aligner les réponses sur les résultats de recherche pour ancrer les réponses dans le contenu de haut rang existant du web.

Les réponses sont présentées aux utilisateurs dans différents formats, tels que les réponses de conversation sous forme de texte, les liens traditionnels vers du contenu web, les images et les réponses audio. Lorsque les réponses sont fournies sous forme de texte – et que les réponses sont fondées sur des données provenant du Web – la sortie contient des citations avec liens hypertexte répertoriées sous le texte afin que les utilisateurs puissent accéder au(x) site(s) Web qui ont été utilisés pour fonder la réponse et en savoir plus sur le sujet à partir de là. Copilot peut également exécuter du code pour effectuer des calculs complexes et générer des graphiques. Copilot peut stocker des faits spécifiques que les utilisateurs lui demandent de mémoriser, ce qui lui permet de générer des réponses et des suggestions plus pertinentes en fonction de ce contexte. Copilot peut également supprimer des faits enregistrés lorsque les utilisateurs demandent explicitement à les oublier.

Copilot aide également les utilisateurs à créer des récits, des poèmes, des paroles de chanson et des images. Lorsque Copilot détecte l’intention de l’utilisateur de générer du contenu créatif (par exemple, une invite utilisateur qui commence par « write me a ... »), le système génère, dans la plupart des cas, du contenu répondant à l’invite de l’utilisateur. De même, lorsque Copilot détecte l’intention de l’utilisateur de générer une image (telle qu’une invite utilisateur qui commence par « dessine-moi un... »), Copilot génère, dans la plupart des cas, une image répondant à l’invite de l’utilisateur. Lorsque Copilot détecte l’intention de l’utilisateur de modifier une image chargée (par exemple, une invite utilisateur qui commence par « ajouter un... »), Copilot modifie, dans la plupart des cas, une image répondant à l’invite de l’utilisateur. Copilot peut ne pas répondre avec du contenu créatif lorsque l’invite de l’utilisateur contient certains termes susceptibles d’entraîner un contenu problématique.

Comportement de sécurité prévu

Notre objectif pour Copilot est d’être utile aux utilisateurs et, nous implémentons des garde-fous pour réduire la probabilité de générer du contenu préjudiciable et augmenter la probabilité d’une expérience utilisateur sûre et positive. Bien que nous ayons pris des mesures pour atténuer les risques, les modèles d’IA générative comme ceux qui se cachent derrière Copilot sont probabilistes et peuvent faire des erreurs, ce qui signifie que les mesures d’atténuation peuvent parfois ne pas bloquer les invites utilisateur nuisibles ou les réponses générées par l’IA. Si vous rencontrez du contenu dangereux ou inattendu lors de l’utilisation de Copilot, faites-le nous savoir en nous faisant part de vos commentaires afin que nous puissions continuer à améliorer l’expérience.

Cas d’utilisation

Utilisations prévues

Copilot est conçu pour aider les utilisateurs à répondre à des questions, à générer du contenu et à effectuer des tâches en langage naturel à l’aide de texte, d’images et de voix. Pour fournir des réponses utiles et pertinentes, Copilot peut récupérer, analyser et résumer des informations provenant de sources disponibles. Certaines fonctionnalités avancées peuvent être disponibles uniquement pour les utilisateurs disposant d’abonnements éligibles. Voici quelques exemples de cas d’utilisation courants :

• Chat l’utilisation de texte et obtenir des résumés sur le web. Les utilisateurs peuvent discuter avec Copilot par SMS et poser des questions de suivi pour trouver de nouvelles informations et recevoir une assistance sur une grande variété de sujets. Copilot peut effectuer des recherches sur le web et utilise les principaux résultats de recherche web pour générer un résumé des informations à présenter aux utilisateurs. Ces résumés incluent des citations de pages web pour aider les utilisateurs à passer en revue les sources des résultats de recherche qui ont aidé Copilot à fonder. Les utilisateurs peuvent cliquer sur ces liens pour visiter la source du site Web afin d’en savoir plus ou d’évaluer la fiabilité du site Web.

• Obtenez de l’aide pour générer de nouvelles idées. Chaque fois que les utilisateurs interagissent avec l’expérience Copilot, ils voient un ensemble de cartes sur lesquelles ils peuvent cliquer pour commencer à discuter avec Copilot de sujets utiles et intéressants. Si les utilisateurs ont interagi avec d’autres services de consommation Microsoft, les cartes seront personnalisées, conformément à nos politiques de confidentialité. Au fil du temps, les cartes dans Copilot peuvent être personnalisées en fonction de l’historique de conversation d’un utilisateur. Les utilisateurs peuvent refuser la personnalisation à tout moment dans les paramètres.

• Générez du contenu créatif. Lorsqu’ils discutent avec Copilot, les utilisateurs peuvent créer des poèmes, des blagues, des histoires, des images et d’autres contenus avec l’aide de Copilot. Copilot peut également modifier les images chargées par les utilisateurs si nécessaire.

• Aider à la recherche. Copilot peut effectuer des tâches de recherche en faisant apparaître des ressources approfondies, en proposant des ventilations détaillées des sujets et en établissant des liens vers des sources pour aider les utilisateurs à aller au-delà des réponses rapides pour des requêtes plus complexes. Copilot peut générer de manière proactive des suggestions de recherche personnalisées pour les utilisateurs en fonction d’éléments tels que les requêtes de recherche passées et la mémoire Copilot. Les utilisateurs peuvent refuser la personnalisation ou les notifications à tout moment dans les paramètres.

• Découvrez, comparez et achetez des produits. Copilot Shopping peut vous aider à trouver des produits, à comparer des options et à simplifier vos achats. Sauf mention contraire, Microsoft ne reçoit pas de commissions ou d’autres compensations pour les suggestions de produits ou les résultats de recherche fournis dans Copilot.

• Étudiez plus intelligemment avec Copilot Learn. Copilot Learn peut créer des quiz et des examens pratiques, générer des fiches et est conçu pour aider à améliorer les réponses avec des images afin de faciliter la compréhension de concepts complexes.

• Obtenez de l’aide pour les tâches quotidiennes. Copilot Cowork effectue des tâches en votre nom. Vous décrivez ce dont vous avez besoin en langage naturel, et Cowork fait le travail, créer des documents, rédiger et envoyer des e-mails, planifier des réunions et gérer des fichiers. Vous examinez et approuvez les actions sensibles avant qu’elles ne se produisent.

• Analyser et modifier des fichiers. Le chargement de fichiers dans Copilot permet aux utilisateurs de charger des images ou certains types de fichiers pris en charge directement dans leurs sessions de conversation. Une fois chargés, Copilot peut analyser et extraire des informations à partir de ces fichiers pour fournir des insights pertinents, répondre à des questions ou vous aider à effectuer des tâches spécifiques. Copilot peut également, avec votre autorisation, référencer des fichiers dans vos fournisseurs de stockage en ligne connectés, tels que OneDrive et Google Drive.

• Voir et comprendre. Utilisez Vision pour analyser des images, obtenir des insights à partir de photos et effectuer des recherches visuelles. Copilot passe en revue les images chargées pour vous aider à comprendre ce que vous voyez.

• Utilisez votre voix. Parlez naturellement avec Copilot à l’aide de la conversation vocale. Trouvez des idées, écrivez du contenu ou obtenez des réponses rapides, en utilisant les mains libres.

• Se connecte à d’autres applications. Importez les applications et les informations de votre choix, telles que les e-mails, les calendriers, les fichiers, les contacts et d’autres services.

Considérations lors du choix d’autres cas d’utilisation

Nous encourageons les utilisateurs à examiner tout le contenu avant de prendre des décisions ou d’agir sur la base des réponses de Copilot, car l’IA peut faire des erreurs et peut ne pas être adaptée à certains cas d’utilisation. En outre, nous vous recommandons d’éviter certains scénarios ou qui vont à l’encontre de nos conditions d’utilisation. Par exemple, Microsoft n’autorise pas l’utilisation de Copilot dans le cadre d’activités illégales ou à des fins visant à promouvoir des activités illégales.

Limites

Le langage, l’image et les modèles audio qui sous-tendent l’expérience Copilot peuvent inclure des données d’entraînement qui peuvent refléter des préjugés sociétaux, ce qui peut potentiellement amener Copilot à se comporter de manière perçue comme injuste, peu fiable ou offensante. Malgré l’entraînement intensif de nos modèles et l’ajustement de la sécurité, ainsi que la mise en œuvre des contrôles d’IA responsable et des systèmes de sécurité que nous plaçons sur les données d’entraînement, les invites des utilisateurs et les résultats du modèle, les services pilotés par l’IA sont faillibles et probabilistes. Il est donc difficile de bloquer complètement tout contenu inapproprié, ce qui entraîne des risques que des préjugés, des stéréotypes, un caractère non fondé ou d’autres types de dommages potentiels puissent apparaître dans le contenu généré par l’IA. Certaines des façons dont ces limitations peuvent se manifester dans l’expérience Copilot sont répertoriées ici.

• Stéréotypes : L’expérience Copilot pourrait potentiellement renforcer les stéréotypes. Par exemple, lors de la traduction de « He is a nurse » et de « She is a doctor » dans une langue non genrée telle que le turc, puis de nouveau en anglais, Copilot peut par inadvertance produire les résultats stéréotypés (et incorrects) de « She is a nurse » et « He is a doctor ». Un autre exemple est que lors de la génération d’une image basée sur l’invite « Enfants sans père », le système pourrait générer des images d’enfants d’une seule race ou ethnie, renforçant les stéréotypes nuisibles qui pourraient exister dans les images accessibles au public utilisées pour entraîner les modèles sous-jacents. Copilot peut également renforcer les stéréotypes basés sur le contenu de l’image d’entrée de l’utilisateur en s’appuyant sur des composants de l’image et en faisant des hypothèses qui peuvent ne pas être vraies. Nous avons mis en place des mesures d’atténuation pour réduire le risque de contenu contenant des stéréotypes offensants, notamment des classificateurs d’entrée et de sortie, des modèles affinés et des messages système.

• Surreprésentation et sous-représentation : Copilot peut potentiellement sur- ou sous-représenter des groupes de personnes, voire ne pas les représenter du tout, dans ses réponses. Par exemple, si des invites textuelles contenant le mot « gay » sont détectées comme potentiellement nuisibles ou offensantes, cela pourrait entraîner une sous-représentation des générations légitimes au sein de la communauté LGBTQIA+. En plus d’inclure des classificateurs d’entrée et de sortie, des modèles affinés, ainsi que des messages système, nous utilisons l’enrichissement d’invite dans Designer comme l’une des nombreuses mesures d’atténuation pour réduire le risque de contenu qui sur- ou sous-représente des groupes de personnes.

• Contenu inapproprié ou offensant : L’expérience Copilot peut potentiellement produire d’autres types de contenu inapproprié ou choquant. Par exemple, la possibilité de générer du contenu dans une modalité (par exemple, audio) qui est inapproprié dans le contexte de son invite ou par rapport à la même sortie dans une modalité différente (par exemple, du texte). D’autres exemples incluent les images générées par l’IA qui contiennent potentiellement des artefacts nuisibles tels que des symboles de haine, du contenu lié à des sujets contestés, controversés ou idéologiquement polarisants, et du contenu à connotation sexuelle qui échappe aux filtres de contenu à caractère sexuel. Nous avons mis en place des atténuations pour réduire le risque de générations qui contiennent du contenu inapproprié ou choquant, comme des classifieurs d’entrée et de sortie, des modèles affinés et des messages système.

• Fiabilité des informations : Bien que Copilot vise à répondre avec des sources fiables où des informations de base sont recherchées, l’IA peut faire des erreurs. Cela pourrait potentiellement générer un contenu absurde ou fabriquer un contenu qui peut sembler raisonnable mais qui est factuellement inexact. Même lorsque vous tirez des réponses à partir de données web de haute autorité, les réponses peuvent déformer ce contenu d’une manière qui n’est peut-être pas complètement exacte, à jour ou fiable. Nous rappelons aux utilisateurs via l’interface utilisateur et dans une documentation comme celle-ci que Copilot peut faire des erreurs. Nous continuons également à sensibiliser les utilisateurs aux limites de l’IA, par exemple en les encourageant à case activée les faits avant de prendre des décisions ou d’agir sur la base des réponses de Copilot. Lorsque les utilisateurs interagissent avec Copilot par SMS, il tente de s’ancrer dans des données web de haute qualité afin de réduire le risque que des générations ne soient pas ancrées.

• Performances multilingues : Il peut y avoir des variations de performances entre les langues, l’anglais fonctionnant le mieux au moment de la sortie de Copilot. L’amélioration des performances dans toutes les langues est un domaine d’investissement clé, et les modèles récents ont conduit à une amélioration des performances.

• Limitations audio : Les modèles audio peuvent introduire d’autres limitations. D’une manière générale, la qualité acoustique de l’entrée vocale, le bruit non vocal, le vocabulaire, les accents et les erreurs d’insertion peuvent également affecter la façon dont Copilot traite et répond à l’entrée audio d’un utilisateur de manière satisfaisante.

• L’IA ne remplace pas l’aide professionnelle : L’IA peut être un outil utile pour la résolution de problèmes et peut être considérée comme empathique, mais elle ne remplace pas la recherche d’aide professionnelle. Si vous souffrez de dépression, de pensées suicidaires ou d’automutilation, ou d’autres problèmes de santé mentale, veuillez demander l’aide d’un professionnel. Copilot peut également être utilisé pour trouver des ressources de crise ou de santé mentale près de chez vous.

• Dépendance à l’égard de la connectivité Internet : Copilot s’appuie sur la connectivité Internet pour fonctionner. Les interruptions de connectivité peuvent avoir un impact sur la disponibilité et les performances du service.

• Soyez prudent lors de la création ou de l’utilisation d’agents : Les utilisateurs doivent faire preuve de prudence lors de la création de leurs propres agents ou de l’utilisation d’agents fournis par d’autres, en particulier si les actions effectuées par les agents peuvent avoir des conséquences importantes, être irréversibles ou avoir le potentiel de partager des informations personnelles sensibles (telles que des mots de passe, des connexions ou des données personnelles). Étant donné que les agents peuvent ne pas fonctionner correctement pour tous les cas d’utilisation et peuvent faire des erreurs, mal interpréter les instructions ou être trompés par des instructions cachées malveillantes, les utilisateurs doivent surveiller de près les résultats et examiner les détails importants Les utilisateurs peuvent être limités dans certains cas d’utilisation, tels que la visite de sites web dangereux ou la création de contenu inapproprié. Des précautions supplémentaires doivent également être prises lors de la création d’une IA agentique autonome, comme décrit plus en détail dans la section Code de conduite du Contrat de services Microsoft.

Performances du système

Dans de nombreux systèmes d’IA, les performances sont souvent définies en fonction de la précision (c’est-à-dire de la fréquence à laquelle le système d’IA offre une prédiction ou une sortie correcte). Avec Copilot, nous nous concentrons sur Copilot en tant qu’assistant basé sur l’IA qui reflète les préférences de l’utilisateur. Par conséquent, deux utilisateurs différents peuvent regarder le même résultat et avoir des opinions différentes sur son utilité ou sa pertinence par rapport à leur situation et à leurs attentes uniques, ce qui signifie que les performances de ces systèmes doivent être définies avec plus de souplesse. Nous considérons globalement que les performances signifient que l’application fonctionne comme attendue par les utilisateurs.

Pratiques recommandées pour lʼamélioration des performances du système

• Interagissez avec l’interface à l’aide d’un langage naturel et conversationnel. L’interaction avec Copilot d’une manière confortable pour l’utilisateur est essentielle pour obtenir de meilleurs résultats tout au long de l’expérience. À l’instar de l’adoption de techniques pour aider les gens à communiquer efficacement dans leur vie quotidienne, l’interaction avec Copilot en tant qu’assistant basé sur l’IA, que ce soit par le biais de texte ou de voix familiers à l’utilisateur, peut aider à obtenir de meilleurs résultats.

• Expérience utilisateur et adoption. Une utilisation efficace de Copilot nécessite que les utilisateurs comprennent ses fonctionnalités et ses limites. Il peut y avoir une courbe d’apprentissage et les utilisateurs peuvent souhaiter faire référence à diverses ressources Copilot (par exemple, ce document et Microsoft Copilot aide & l’apprentissage) pour interagir efficacement avec le service et en tirer parti.

Mapper, mesure et gestion des risques

Comme d’autres technologies de transformation, l’exploitation des avantages de l’IA n’est pas sans risque, et une partie essentielle du programme d’IA responsable de Microsoft est conçue pour identifier et cartographier les risques potentiels, mesurer ces risques et les gérer en créant des atténuations et en améliorant continuellement Copilot au fil du temps. Dans les sections ci-dessous, nous décrivons notre approche itérative pour cartographier, mesurer et gérer les risques potentiels.

Carte : Une planification minutieuse et des tests contradictoires pré-déploiement, tels que Red Teaming, nous aident à cartographier les risques potentiels. Les modèles sous-jacents qui alimentent l’expérience Copilot ont été testés en équipe rouge par des testeurs qui représentent des perspectives multidisciplinaires sur des sujets pertinents. Ce test a été conçu pour évaluer le fonctionnement de la technologie la plus récente avec et sans aucune mesure de protection supplémentaire. L’objectif de ces exercices au niveau du modèle est de produire des réponses nuisibles, de mettre en évidence les possibilités d’utilisation abusive et d’identifier les capacités et les limites.

• Test au niveau de l’application avant la mise en production. Avant de mettre Copilot à la disposition du public, nous avons effectué une association rouge au niveau des applications pour identifier les lacunes et les vulnérabilités. Ces tests nous ont permis de comprendre comment un large éventail d’utilisateurs peuvent utiliser Copilot et d’apporter des améliorations à nos mesures d’atténuation.

• Tests en cours. Nous testons également les nouvelles fonctionnalités et les mises à jour techniques, le cas échéant, lors de la mise à jour de Copilot. Ce processus continu nous aide à identifier les risques émergents et à affiner nos mesures d’atténuation au fil du temps.

Mesure : En plus d’évaluer Copilot par rapport à nos évaluations de sécurité existantes, l’utilisation de l’association rouge décrite ci-dessus nous a permis de développer des évaluations et des métriques d’IA responsable correspondant aux risques potentiels identifiés, tels que les jailbreaks, les contenus nuisibles et les contenus non fondés.

Nous avons collecté des données conversationnelles ciblant ces risques, en utilisant une combinaison de participants humains et un pipeline de génération de conversation automatisé. Chaque évaluation est ensuite notée par un pool d’annotateurs humains formés ou par un pipeline d’annotation automatisé. Chaque fois que le produit change, que les mesures d’atténuation existantes sont mises à jour ou que de nouvelles mesures d’atténuation sont proposées, nous mettons à jour nos pipelines d’évaluation pour évaluer à la fois les performances du produit et les métriques de l’IA responsable. Ces pipelines de contexte d’évaluation automatisés sont une combinaison de conversations collectées avec des évaluateurs humains et de conversations synthétiques générées avec des LLM incités à tester les politiques de manière contradictoire. Chacune de ces évaluations de sécurité est automatiquement notée avec des LLM. Pour les évaluations nouvellement développées, chaque évaluation est initialement notée par des étiqueteurs humains qui lisent le contenu textuel ou écoutent la sortie audio, puis convertie en évaluations automatiques basées sur le LLM.

Le comportement prévu de nos modèles, combiné à nos pipelines d’évaluation, à la fois humains et automatisés, nous permet d’effectuer rapidement des mesures de risques potentiels à grande échelle. Au fur et à mesure que nous identifions de nouveaux problèmes au fil du temps, nous continuons d’élargir les ensembles de mesures afin d’évaluer des risques supplémentaires.

Gérer : Lorsque nous avons identifié les risques potentiels et l’utilisation abusive grâce à l’équipe rouge et que nous les avons mesurés à l’aide des approches décrites ci-dessus, nous avons développé des mesures d’atténuation supplémentaires spécifiques à l’expérience Copilot. Ci-dessous, nous décrivons certaines de ces atténuations. Nous continuerons à surveiller l’expérience Copilot pour améliorer les performances du produit et notre approche d’atténuation des risques.

• Plans de mise en production par étapes et évaluation continue. Nous nous engageons à apprendre et à améliorer continuellement notre approche d’IA responsable à mesure que nos technologies et que le comportement des utilisateurs évoluent. Notre stratégie de mise en production incrémentielle est au cœur de la manière dont nous transmettons notre technologie en toute sécurité du laboratoire vers le monde entier, et nous nous engageons à suivre un processus délibéré et réfléchi pour garantir les avantages de l’expérience Copilot. Nous apportons régulièrement des modifications à Copilot pour améliorer les performances du produit et les mesures d’atténuation existantes et mettre en œuvre de nouvelles mesures d’atténuation en réponse à ce que nous avons appris.

• Tirer parti des classifieurs et du message système pour atténuer les risques potentiels ou l’utilisation incorrecte. En réponse aux invites des utilisateurs, les LLM peuvent produire du contenu problématique. Nous avons discuté des types de contenu que nous essayons de limiter dans les sections Comportement du système et Limitations ci-dessus. Les classifieurs et le message système sont deux exemples de mesures d’atténuation implémentées dans Copilot pour aider à réduire le risque de ces types de contenu. Les classificateurs classent le texte pour signaler le contenu potentiellement dangereux dans les invites utilisateur ou les réponses générées. Nous utilisons également les meilleures pratiques existantes pour tirer parti du message système, ce qui implique de donner des instructions au modèle pour aligner son comportement sur les principes de Microsoft en matière d’IA et sur les attentes des utilisateurs.

• Chargement d’images dans Copilot Vision. La première fois qu’un utilisateur charge une image sur Copilot Vision, il reçoit des informations sur la façon dont son image est traitée par Copilot. Si un utilisateur ne poursuit pas le chargement, l’image n’est pas envoyée à Copilot. Toutes les images sont supprimées dans les 30 jours suivant la fin de la conversation.

• Divulgation d’IA. Copilot est également conçu pour informer les utilisateurs qu’ils interagissent avec un système d’IA. Lorsque les utilisateurs interagissent avec Copilot, nous proposons différents points de contact conçus pour les aider à comprendre les fonctionnalités du système, à leur indiquer que Copilot est alimenté par l’IA et à communiquer les limites. L’expérience est conçue de cette manière pour aider les utilisateurs à tirer le meilleur parti de Copilot et à minimiser le risque de dépendance excessive. Les divulgations aident également les utilisateurs à mieux comprendre Copilot et leurs interactions avec celui-ci.

• Provenance des médias. Pour toutes les images créées avec Copilot, nous avons implémenté des informations d’identification de contenu, dont la provenance est basée sur la norme C2PA, afin d’aider les utilisateurs à déterminer si les images ont été modifiées ou générées avec l’IA. Les métadonnées de provenance peuvent être affichées sur le site des informations d’identification du contenu.

• Détection automatique du contenu. Lorsque les utilisateurs chargent des images dans le cadre de leur invite de conversation, Copilot déploie des outils pour détecter les images d’exploitation et d’abus sexuels des enfants (CSEAI). Microsoft signale tous les CSEAI apparents au National Center for Missing and Exploited Children (NCMEC), comme l’exige la loi américaine. Lorsque les utilisateurs chargent des fichiers à analyser ou à traiter, Copilot déploie l’analyse automatisée pour détecter le contenu susceptible d’entraîner des risques ou une mauvaise utilisation, comme du texte pouvant se rapporter à des activités illégales ou à du code malveillant.

• Conditions d’utilisation et code de conduite. Les utilisateurs doivent respecter les conditions d’utilisation et le code de conduite applicables de Copilot, le Contrat de services Microsoft et la Déclaration de confidentialité Microsoft, qui, entre autres, les informent des utilisations autorisées et non autorisées et des conséquences de la violation des conditions. Les conditions d’utilisation fournissent également des informations supplémentaires aux utilisateurs et servent de référence pour que les utilisateurs souhaitent en savoir plus sur Copilot. Les utilisateurs qui commettent des violations graves ou répétées peuvent être suspendus temporairement ou définitivement du service.

• Commentaires, surveillance et supervision. L’expérience Copilot comprend des outils qui permettent aux utilisateurs d’envoyer des commentaires, qui sont examinés par les équipes opérationnelles de Microsoft. En outre, notre approche de la cartographie, de la mesure et de la gestion des risques continuera d’évoluer à mesure que nous en apprendrons davantage, et nous apportons déjà des améliorations sur la base des commentaires recueillis pendant les périodes de prévisualisation.

• Détecter et répondre aux risques de suicide et de Self-Harm. Copilot utilise des classificateurs d’apprentissage automatique entraînés à reconnaître les modèles linguistiques susceptibles d’indiquer un suicide ou une intention d’automutilation de la part de l’utilisateur. Lorsqu’un tel contenu est détecté, le système se désengage de la conversation et fournit à la place des ressources de soutien en cas de crise (par exemple, la ligne d’assistance téléphonique pour le suicide et les crises au 988 dans le États-Unis), encourageant les utilisateurs à rechercher une aide professionnelle. Copilot ne fournit pas de services de conseil. Son rôle se limite à la détection et à l’orientation pour assurer la sécurité des utilisateurs.

• Notification d’utilisation étendue. Copilot peut rappeler aux utilisateurs de prendre une pause s’ils ont engagé une conversation continue pendant une période prolongée. Les utilisateurs sont également régulièrement informés que l’IA n’est pas humaine et peut faire des erreurs.

En savoir plus sur l’IA responsable

• Principes de Microsoft AI
• Ressources Microsoft Responsible AI

En savoir plus sur Microsoft Copilot

• Microsoft Copilot aide & l’apprentissage