Nota sulla trasparenza per Microsoft Copilot

Che cos'è una nota sulla trasparenza?

Un sistema di intelligenza artificiale include non solo la tecnologia, ma anche le persone che la useranno, le persone che ne saranno interessate e l'ambiente in cui viene distribuita. Le note sulla trasparenza di Microsoft hanno lo scopo di aiutare l'utente a comprendere come funziona la tecnologia IA dietro Copilot, le scelte che abbiamo fatto che influenzano le prestazioni e il comportamento del sistema e l'importanza di pensare all'intero sistema, in modo che gli utenti di Copilot possano assumere il controllo delle proprie esperienze e comprendere i passaggi che stiamo eseguendo per fornire un prodotto sicuro e sicuro.

Le note sulla trasparenza di Microsoft fanno parte di uno sforzo più ampio di Microsoft per mettere in pratica i nostri principi di intelligenza artificiale. Per saperne di più, vedi i principi ai Microsoft. 

Nozioni di base su Microsoft Copilot

Funzionalità

Limitazioni

I modelli di lingua, immagine e audio che sotto l'esperienza copilot possono includere dati di formazione che possono riflettere pregiudizi sociali, il che a sua volta può potenzialmente causare il comportamento di Copilot in modi percepiti come ingiusti, inaffidabili o offensivi. Nonostante la nostra intensa formazione sui modelli e la messa a punto della sicurezza, così come l'implementazione dei controlli responsabili dell'intelligenza artificiale e dei sistemi di sicurezza che inseriamo sui dati di formazione, i prompt degli utenti e gli output dei modelli, i servizi basati sull'intelligenza artificiale sono fallibili e probabilistici. Questo rende difficile bloccare completamente tutti i contenuti inappropriati, con il rischio di potenziali pregiudizi, stereotipi, inesattezze o altri tipi di danno che potrebbero comparire nel contenuto generato dall'intelligenza artificiale. Ecco alcuni dei modi in cui queste limitazioni potrebbero manifestarsi nell'esperienza Copilot. 

• Stereotipo: L'esperienza copilot potrebbe potenzialmente rafforzare gli stereotipi. Ad esempio, quando si traduce "È un infermiere" e "Lei è un medico" in una lingua senza genere come il turco e poi di nuovo in inglese, Copilot potrebbe inavvertitamente restituire i risultati stereotipici (e non corretti) di "È un'infermiera" e "È un medico". Un altro esempio è quando si genera un'immagine basata sul prompt "Bambini senza padre", il sistema potrebbe generare immagini di bambini di una sola razza o etnia, rafforzando gli stereotipi dannosi che potrebbero esistere in immagini disponibili pubblicamente utilizzate per addestrare i modelli sottostanti. Copilot potrebbe anche rafforzare gli stereotipi basati sul contenuto nell'immagine di input dell'utente facendo affidamento su componenti dell'immagine e facendo ipotesi che potrebbero non essere vere. Abbiamo implementato misure di prevenzione per ridurre il rischio di contenuti contenenti stereotipi offensivi, inclusi classificatori di input e output, modelli ottimizzati e messaggi di sistema.

• Sovrarappresentazione e sottorappresentanza: Copilot potrebbe potenzialmente rappresentare gruppi di persone in eccesso o sottorappresentanti, o addirittura non rappresentarli affatto, nelle sue risposte. Ad esempio, se messaggi di testo che contengono la parola "gay" vengono rilevati come potenzialmente dannosi o offensivi, ciò potrebbe portare alla sottorappresentazione delle generazioni legittime sulla comunità LGBTQIA+. Oltre a includere classificatori di input e output, modelli ottimizzati e messaggi di sistema, usiamo l'arricchimento rapido in Designer come una delle diverse misure di prevenzione per ridurre il rischio che i contenuti che rappresentano gruppi di persone troppo o sotto rappresentano troppo.

• Contenuto inappropriato o offensivo: l'esperienza Copilot può produrre potenzialmente altri tipi di contenuto inappropriato o offensivo. Gli esempi includono la capacità di generare contenuto in una modalità (ad esempio l'audio) inappropriata nel contesto del suo prompt o rispetto allo stesso output in una modalità diversa (ad esempio il testo). Altri esempi includono immagini generate dall'INTELLIGENZA che contengono artefatti potenzialmente dannosi come simboli di odio, contenuti correlati a argomenti contestata, controversi o ideologicamente polarizzanti e contenuti sessualmente carichi che eludono i filtri dei contenuti sessuali. Abbiamo messo in atto misure di prevenzione per ridurre il rischio di generazioni che contengono contenuto inappropriato o offensivo, ad esempio classificatori di input e output, modelli ottimizzati e messaggi di sistema.

• Affidabilità delle informazioni: Anche se Copilot mira a rispondere con fonti affidabili, se necessario, l'intelligenza artificiale può commettere errori. Potrebbe generare contenuti insensati o produrre contenuti che potrebbero sembrare ragionevoli, ma di fatto imprecisi. Anche quando si ttingono risposte da dati Web ad alta autorità, le risposte potrebbero essere false nel contenuto in un modo che potrebbe non essere del tutto accurato o affidabile. Ricordiamo agli utenti attraverso l'interfaccia utente e nella documentazione come questo che Copilot può fare errori. Continuiamo anche a educare gli utenti sui limiti dell'intelligenza artificiale, ad esempio incoraggiandoli a controllare i fatti prima di prendere decisioni o agire in base alle risposte di Copilot. Quando gli utenti interagiscono con Copilot tramite testo, cercherà di mettere a terra i dati Web di alta qualità per ridurre il rischio che le generazioni siano insodnate.

• Prestazioni multilingue: potrebbero esserci variazioni delle prestazioni tra lingue, con risultati migliori per l'inglese al momento del rilascio del Copilot aggiornato. Migliorare le prestazioni tra le lingue è un'area di investimento chiave e i modelli recenti hanno permesso di migliorare le prestazioni.

• Limitazioni audio: i modelli audio potrebbero introdurre altre limitazioni. In generale, la qualità acustica dell'input vocale, il rumore non vocale, il vocabolario, gli accenti e gli errori di inserimento potrebbero anche influire sul fatto che Copilot elabora e risponda all'input audio di un utente in modo soddisfacente. Inoltre, poiché l'utente richiede quando utilizza Copilot Voice non attiverà ricerche Web, Copilot potrebbe non essere in grado di rispondere agli eventi correnti in modalità vocale.

• Dipendenza dalla connettività Internet: l'esperienza Copilot aggiornata si basa sulla connettività Internet per funzionare. Le interruzioni della connettività possono avere un impatto sulla disponibilità e sulle prestazioni del servizio.

Prestazioni del sistema

In molti sistemi di intelligenza artificiale, le prestazioni sono spesso definite in relazione all'accuratezza (ad esempio, la frequenza con cui il sistema di IA offre una previsione o un output corretto). Con Copilot, ci concentriamo su Copilot come un assistente basato sull'intelligenza artificiale che riflette le preferenze dell'utente. Di conseguenza, due utenti diversi potrebbero esaminare lo stesso risultato e avere opinioni diverse su quanto sia utile o pertinente per la loro situazione unica e le loro aspettative, il che significa che le prestazioni per questi sistemi devono essere definite in modo più flessibile. Consideriamo ampiamente le prestazioni per indicare che l'applicazione funziona come gli utenti si aspettano.

Mappatura, misurazione e gestione dei rischi

Come altre tecnologie di trasformazione, sfruttare i vantaggi dell'intelligenza artificiale non è privo di rischi e una parte fondamentale del programma IA responsabile di Microsoft è progettata per identificare e mappare i potenziali rischi, misurare tali rischi e gestirli creando misure di prevenzione e migliorando continuamente Copilot nel corso del tempo. Nelle sezioni seguenti viene descritto l'approccio iterativo per mappare, misurare e gestire i potenziali rischi.

Mappa: un'attenta pianificazione e test avversari prima della distribuzione, ad esempio il red teaming, ci aiuta a mappare i potenziali rischi. I modelli di base che alimentano l'esperienza Copilot sono stati sottoposti a test in team rossi da tester che rappresentano prospettive multidisciplinari su argomenti rilevanti. Questo test è stato progettato per valutare il funzionamento della tecnologia più recente sia con che senza ulteriori misure di sicurezza applicate. L'intenzione di questi esercizi a livello di modello è quella di produrre risposte dannose, di individuare possibili alternative all'uso improprio e di identificare capacità e limitazioni.

Prima di rendere disponibile pubblicamente l'esperienza Copilot in un'anteprima limitata, abbiamo anche condotto una squadra rossa a livello dell'applicazione per valutare Copilot per individuare carenze e vulnerabilità. Questo processo ci ha aiutato a comprendere meglio come il sistema potrebbe essere utilizzato da un'ampia varietà di utenti e ci ha aiutato a migliorare le misure di prevenzione.

Misura: oltre a valutare Copilot in base alle nostre valutazioni di sicurezza esistenti, l'uso del red teaming descritto sopra ci ha aiutato a sviluppare valutazioni e metriche di INTELLIGENZA responsabile corrispondenti a potenziali rischi identificati, come jailbreak, contenuti dannosi e contenuti non insodati.

Sono stati raccolti dati di conversazione mirati a questi rischi, usando una combinazione di partecipanti umani e una pipeline di generazione delle conversazioni automatizzata. Ogni valutazione viene quindi segnata da un pool di annotatori umani addestrati o da una pipeline di annotazione automatizzata. Ogni volta che i cambiamenti dei prodotti, le misure di prevenzione esistenti vengono aggiornate o vengono proposte nuove misure di prevenzione, aggiorniamo le pipeline di valutazione per valutare le prestazioni del prodotto e le metriche di intelligenza artificiale responsabile. Queste pipeline di contesto di valutazione automatizzate sono una combinazione di conversazioni raccolte con analizzatori umani e conversazioni sintetiche generate con i messaggi istantanei che chiede di testare i criteri in modo avversario. Ognuna di queste valutazioni di sicurezza viene segnata automaticamente con i messaggi istantanei. Per le valutazioni appena sviluppate, ogni valutazione viene inizialmente segnata da etichettatori umani che leggono il contenuto del testo o ascoltano l'output audio, quindi vengono convertite in valutazioni automatiche basate su LLM.

Il comportamento previsto dei nostri modelli in combinazione con le nostre pipeline di valutazione, sia umane che automatizzate, ci consente di eseguire rapidamente la misurazione dei potenziali rischi su vasta scala. Man mano che identifichiamo nuovi problemi nel corso del tempo, continuiamo ad espandere i set di misure per valutare i rischi aggiuntivi. 

Gestisci: man mano che abbiamo identificato i potenziali rischi e l'uso improprio attraverso il red teaming e misurato con gli approcci descritti in precedenza, abbiamo sviluppato altre misure di prevenzione specifiche per l'esperienza Copilot. Di seguito sono descritte alcune di queste misure di prevenzione. Continueremo a monitorare l'esperienza Copilot per migliorare le prestazioni del prodotto e il nostro approccio di prevenzione dei rischi. 

• Piani di rilascio a fasi e valutazione continua.    Ci impegniamo a imparare e migliorare continuamente il nostro approccio all’IA generativa man mano che le nostre tecnologie e il comportamento degli utenti evolvono. La nostra strategia di rilascio incrementale è stata una parte fondamentale del modo in cui spostiamo la nostra tecnologia in modo sicuro dal laboratorio al mondo e ci impegniamo a un processo consapevole e riflessivo per garantire i vantaggi dell'esperienza Copilot. Microsoft apporta regolarmente modifiche a Copilot per migliorare le prestazioni del prodotto e le misure di prevenzione esistenti e implementa nuove misure di prevenzione in risposta alle nostre attività di apprendimento.

• Uso di classificatori e del messaggio di sistema per ridurre i potenziali rischi o usare in modo improprio.    In risposta alle richieste degli utenti, i messaggi istantanei possono produrre contenuto problematico. Abbiamo discusso i tipi di contenuto che cerchiamo di limitare nelle sezioni Comportamento e limitazioni del sistema precedenti. I classificatori e il messaggio di sistema sono due esempi di misure di prevenzione implementate in Copilot per ridurre il rischio di questi tipi di contenuto. I classificatori classificano il testo per contrassegnare il contenuto potenzialmente dannoso nelle richieste dell'utente o nelle risposte generate. Utilizziamo inoltre le procedure consigliate esistenti per sfruttare il messaggio di sistema, che implica fornire istruzioni al modello per allineare il suo comportamento ai principi di intelligenza artificiale di Microsoft e alle aspettative degli utenti.

• Consenso per il caricamento di immagini Copilot.    La prima volta che un utente carica un'immagine contenente volti su Copilot, gli verrà chiesto di fornire il consenso per il caricamento dei dati biometrici su Copilot. Se un utente non acconsente esplicitamente, l'immagine non verrà inviata a Copilot. Tutte le immagini, indipendentemente dal fatto che contengano o meno volti, vengono eliminate entro 30 giorni dalla fine della conversazione.

• Divulgazione di intelligenza artificiale.    Copilot è anche progettato per informare le persone che stanno interagendo con un sistema di intelligenza artificiale. Man mano che gli utenti interagiscono con Copilot, offriamo vari touchpoint progettati per aiutarli a comprendere le capacità del sistema, divulgare loro che Copilot è basato sull'intelligenza artificiale e comunicare limitazioni. L'esperienza è stata progettata in questo modo per aiutare gli utenti a sfruttare al meglio Copilot e ridurre al minimo il rischio di overreliance. Le divulgazioni aiutano anche gli utenti a comprendere meglio Copilot e le loro interazioni con esso.

• Provenienza dei supporti.    Quando Copilot genera un'immagine, è stata abilitata una funzionalità "Credenziali contenuto", che usa metodi di crittografia per contrassegnare l'origine, o "provenienza", di tutte le immagini generate dall'INTELLIGENZA creata con Copilot. Questa tecnologia utilizza gli standard stabiliti dalla Coalition for Content and Authenticity (C2PA) per aggiungere un ulteriore livello di fiducia e trasparenza per le immagini generate dall'INTELLIGENZA.

• Rilevamento automatico del contenuto.    Quando gli utenti caricano immagini come parte della richiesta di chat, Copilot distribuisce strumenti per rilevare lo sfruttamento sessuale dei bambini e le immagini improprie (CSEAI). Microsoft segnala tutte le apparenti CSEAI al National Center for Missing and Exploited Children (NC COMMUNITY), come richiesto dalla legge statunitense. Quando gli utenti caricano file per l'analisi o l'elaborazione, Copilot distribuisce l'analisi automatica per rilevare contenuti che potrebbero causare rischi o uso improprio, ad esempio testo che potrebbe riguardare attività illegali o codice dannoso.

• Condizioni per l'utilizzo e Codice di comportamento.    Gli utenti devono rispettare le Condizioni per l'utilizzo e il Codice di comportamentoMicrosoft applicabili di Copilot e l'Informativa sulla privacy di Microsoft, che, tra le altre cose, li informano di usi consentiti e non autorizzati e delle conseguenze della violazione delle condizioni. Le Condizioni per l'utilizzo forniscono inoltre informazioni aggiuntive per gli utenti e fungono da riferimento per gli utenti per ottenere informazioni su Copilot. Gli utenti che commettono violazioni gravi o ripetute possono essere sospesi temporaneamente o definitivamente dal servizio.

• Feedback, monitoraggio e supervisione.    L'esperienza Copilot si basa sugli strumenti esistenti che consentono agli utenti di inviare feedback, che vengono rivisti dai team operativi Microsoft. Inoltre, il nostro approccio alla mappatura, alla misurazione e alla gestione dei rischi continuerà a evolversi man mano che impareremo di più e stiamo già apportando miglioramenti in base al feedback raccolto durante i periodi di anteprima.

Scopri di più sull'intelligenza artificiale responsabile

Report sulla trasparenza dell'intelligenza artificiale responsabile Microsoft

Principi dell'intelligenza artificiale microsoft

Microsoft Responsible AI Resources

Corsi di apprendimento di Microsoft Azure sull'intelligenza artificiale responsabile

Altre informazioni su Microsoft Copilot

Microsoft Copilot domande frequenti

Informazioni su questo documento

© 2024 Microsoft Corporation. Tutti i diritti sono riservati. Il presente documento viene fornito "così come è" e solo a scopo informativo. Le informazioni e le opinioni espresse in questo documento, inclusi gli URL e altri riferimenti a siti Web Internet, possono cambiare senza preavviso. Il licenziatario assume ogni rischio derivante dall’utilizzo del software. Alcuni esempi sono solo a scopo esemplificativo e fittizio. Nessuna associazione reale è prevista o dedotta.

Questo documento non deve essere, e non deve essere interpretato come fornire, consulenza legale. La giurisdizione in cui si opera può avere vari requisiti normativi o legali applicabili al sistema di intelligenza artificiale. Rivolgersi a uno specialista legale in caso di dubbi sulle leggi o le normative che potrebbero applicarsi al sistema, soprattutto se si ritiene che potrebbero influire su queste raccomandazioni. Tenere presente che non tutte queste raccomandazioni e risorse saranno appropriate per ogni scenario e, al contrario, queste raccomandazioni e risorse potrebbero essere insufficienti per alcuni scenari.

Data di pubblicazione: 10/01/2024

Ultimo aggiornamento: 01/10/2024