Ghi chú minh bạch cho Microsoft Copilot

Ghi chú Minh bạch là gì?

Một hệ thống AI không chỉ bao gồm công nghệ, mà còn bao gồm những người sẽ sử dụng nó, những người sẽ bị ảnh hưởng bởi nó, và môi trường mà nó được triển khai. Transparency Notes của Microsoft nhằm giúp bạn hiểu cách công nghệ AI đằng sau Copilot hoạt động, các lựa chọn mà chúng tôi đã thực hiện ảnh hưởng đến hiệu suất và hành vi của hệ thống cũng như tầm quan trọng của việc suy nghĩ về toàn hệ thống, để người dùng Copilot có thể kiểm soát trải nghiệm của riêng họ và hiểu các bước chúng tôi đang thực hiện để cung cấp một sản phẩm an toàn và bảo mật.

Transparency Notes của Microsoft là một phần trong nỗ lực lớn hơn của Microsoft trong việc đưa các Nguyên tắc AI của chúng tôi vào thực tiễn. Để tìm hiểu thêm, hãy xem Nguyên tắc AI của Microsoft. 

Thông tin cơ bản về Microsoft Copilot

Chức năng

Giới hạn

Các mô hình ngôn ngữ, hình ảnh và âm thanh mà về cơ bản là trải nghiệm Copilot có thể bao gồm dữ liệu đào tạo có thể phản ánh thành kiến xã hội, điều này có thể khiến cho Copilot hoạt động theo cách được coi là không công bằng, không đáng tin cậy hoặc xúc phạm. Mặc dù chúng tôi đã đào tạo mô hình chuyên sâu và tinh chỉnh an toàn, cũng như thực hiện các hệ thống kiểm soát ai có trách nhiệm và an toàn mà chúng tôi đặt vào dữ liệu đào tạo, lời nhắc người dùng và đầu ra mô hình, các dịch vụ điều khiển AI là khả thi và xác thực. Điều này khiến việc chặn toàn diện tất cả nội dung không phù hợp dẫn đến rủi ro tiềm ẩn về thành kiến, rập khuôn, không có mặt hoặc các loại gây hại khác có thể xuất hiện trong nội dung do AI tạo ra. Một số cách mà những hạn chế đó có thể biểu hiện trong trải nghiệm Copilot được liệt kê ở đây. 

• Rập khuôn: Trải nghiệm Copilot có thể củng cố rập khuôn. Ví dụ, khi dịch "Anh ấy là một y tá" và "Cô ấy là bác sĩ" sang một ngôn ngữ không giống như tiếng Thổ Nhĩ Kỳ và sau đó trở lại tiếng Anh, Copilot có thể vô tình cho ra kết quả rập khuôn (và không chính xác) của "Cô ấy là một y tá" và "Anh ấy là một bác sĩ." Một ví dụ khác là khi tạo ra một hình ảnh dựa trên lời nhắc "Trẻ em không cha", hệ thống có thể tạo ra hình ảnh của trẻ em chỉ từ một chủng tộc hoặc dân tộc, củng cố rập khuôn có hại có thể tồn tại trong các hình ảnh có sẵn công khai được sử dụng để đào tạo các mô hình cơ bản. Copilot cũng có thể củng cố rập khuôn dựa trên nội dung trong hình ảnh đầu vào của người dùng bằng cách dựa vào các thành phần của hình ảnh và đưa ra giả định có thể không đúng. Chúng tôi đã triển khai các biện pháp giảm thiểu để giảm rủi ro của nội dung có chứa các rập khuôn phản cảm, bao gồm cả phân loại đầu vào và đầu ra, các mô hình được tinh chỉnh và thông báo hệ thống.

• Trình bày quá mức và trình bày sai: Copilot có thể có khả năng đại diện quá mức hoặc dưới đại diện cho các nhóm người, hoặc thậm chí không đại diện cho họ ở tất cả, trong các phản ứng của nó. Ví dụ: nếu lời nhắc văn bản có chứa từ "gay" được phát hiện là có khả năng gây hại hoặc xúc phạm, điều này có thể dẫn đến sự trình bày sai về các thế hệ hợp pháp về cộng đồng LGBTQIA+. Ngoài việc bao gồm các bộ phân loại đầu vào và đầu ra, các mô hình được tinh chỉnh cũng như thông báo hệ thống, chúng tôi sử dụng làm phong phú lời nhắc trong Designer như một trong một số biện pháp giảm nhẹ để giảm nguy cơ nội dung đại diện cho nhóm người quá hoặc dưới.

• Nội dung không phù hợp hoặc xúc phạm: Trải nghiệm Copilot có thể tạo ra các loại nội dung không phù hợp hoặc xúc phạm khác. Ví dụ bao gồm khả năng tạo nội dung theo một phương thức (ví dụ: âm thanh) không phù hợp trong ngữ cảnh của lời nhắc hoặc khi so sánh với cùng một đầu ra theo phương thức khác (ví dụ: văn bản). Các ví dụ khác bao gồm hình ảnh do AI tạo có khả năng chứa các thành phần có hại như biểu tượng ghét, nội dung liên quan đến các chủ đề tranh luận, gây tranh cãi hoặc phân cực về tư tưởng và nội dung bị tính phí khiêu dâm né bộ lọc nội dung liên quan đến tình dục. Chúng tôi đã áp dụng các biện pháp giảm thiểu để giảm thiểu rủi ro của các thế hệ chứa nội dung không phù hợp hoặc xúc phạm, chẳng hạn như phân loại đầu vào và đầu ra, mô hình được tinh chỉnh và thông báo hệ thống.

• Độ tin cậy thông tin: Mặc dù Copilot nhằm mục đích đáp ứng với các nguồn đáng tin cậy khi cần thiết, AI có thể gây ra lỗi. Nó có khả năng tạo ra nội dung không nhạy cảm hoặc chế tạo nội dung nghe có thể hợp lý nhưng thực tế là không chính xác. Ngay cả khi vẽ phản hồi từ dữ liệu web có thẩm quyền cao, các phản hồi có thể trình bày sai nội dung đó theo cách có thể không hoàn toàn chính xác hoặc đáng tin cậy. Chúng tôi nhắc người dùng thông qua giao diện người dùng và trong tài liệu như thế này rằng Copilot có thể gây ra lỗi. Chúng tôi cũng tiếp tục hướng dẫn người dùng về các giới hạn của AI, chẳng hạn như khuyến khích họ kiểm tra lại dữ kiện trước khi đưa ra quyết định hoặc hành động dựa trên phản hồi của Copilot. Khi người dùng tương tác với Copilot thông qua tin nhắn văn bản, nó sẽ cố gắng tự tiếp đất trong dữ liệu web chất lượng cao để giảm rủi ro mà các thế hệ chưa có mặt.

• Hiệu suất đa ngôn ngữ: Có thể có các biến thể về hiệu suất trên các ngôn ngữ, với tiếng Anh hoạt động tốt nhất tại thời điểm phát hành Copilot cập nhật. Cải thiện hiệu suất trên nhiều ngôn ngữ là một lĩnh vực đầu tư chính và các mô hình gần đây đã giúp cải thiện hiệu suất.

• Giới hạn âm thanh: Mô hình âm thanh có thể đặt ra các giới hạn khác. Nói rộng ra, chất lượng âm thanh của đầu vào giọng nói, tiếng ồn không phải giọng nói, từ vựng, dấu và lỗi chèn cũng có thể ảnh hưởng đến việc liệu các quy trình của Copilot có phản hồi đầu vào âm thanh của người dùng một cách thỏa đáng hay không. Ngoài ra, vì lời nhắc người dùng khi sử dụng Copilot Voice sẽ không kích hoạt tìm kiếm trên web nên Copilot có thể không phản hồi được các sự kiện hiện tại ở chế độ thoại.

• Phụ thuộc vào khả năng kết nối Internet: Trải nghiệm Copilot được cập nhật dựa trên khả năng kết nối Internet để hoạt động. Sự gián đoạn trong khả năng kết nối có thể ảnh hưởng đến tính khả dụng và hiệu suất của dịch vụ.

Hiệu suất hệ thống

Trong nhiều hệ thống AI, hiệu suất thường được xác định liên quan đến độ chính xác (nghĩa là mức độ thường xuyên mà hệ thống AI cung cấp dự đoán hoặc đầu ra chính xác). Với Copilot, chúng tôi tập trung vào Copilot với tư cách là trợ lý có hỗ trợ AI phản ánh sở thích của người dùng. Do đó, hai người dùng khác nhau có thể xem cùng một đầu ra và có ý kiến khác nhau về mức độ hữu ích hoặc liên quan đến tình hình và kỳ vọng độc đáo của họ, có nghĩa là hiệu suất cho các hệ thống này phải được xác định linh hoạt hơn. Chúng tôi xem xét rộng rãi hiệu suất để có nghĩa là ứng dụng hoạt động như người dùng mong đợi.

Lập bản đồ, đo lường và quản lý rủi ro

Giống như các công nghệ chuyển đổi khác, việc khai thác lợi ích của AI không phải là không gặp rủi ro và một phần cốt lõi của chương trình AI chịu trách nhiệm của Microsoft được thiết kế để xác định và ánh xạ các rủi ro tiềm ẩn, đo lường những rủi ro đó và quản lý chúng bằng cách xây dựng các biện pháp giảm thiểu và liên tục cải thiện Copilot theo thời gian. Trong các mục dưới đây, chúng tôi mô tả phương pháp tiếp cận lặp của mình để ánh xạ, đo lường và quản lý các rủi ro tiềm ẩn.

Bản đồ: Lập kế hoạch cẩn thận và kiểm tra đối thủ trước khi triển khai, chẳng hạn như nhóm màu đỏ, giúp chúng tôi ánh xạ các rủi ro tiềm ẩn. Các mô hình cơ bản hỗ trợ trải nghiệm Copilot trải nghiệm qua kiểm tra nhóm màu đỏ từ những người kiểm tra đại diện cho các quan điểm đa ngành trên các lĩnh vực chủ đề liên quan. Thử nghiệm này được thiết kế để đánh giá cách công nghệ mới nhất hoạt động cùng với và không có bất kỳ biện pháp bảo vệ bổ sung nào được áp dụng cho nó. Mục đích của các bài tập này ở mức mô hình là để sản xuất các phản ứng có hại, con đường tiềm năng bề mặt để sử dụng sai, và xác định khả năng và giới hạn.

Trước khi cung cấp trải nghiệm Copilot công khai trong bản xem trước bản phát hành giới hạn, chúng tôi cũng đã tiến hành nhóm màu đỏ ở cấp ứng dụng để đánh giá Copilot để khắc phục các thiếu sót và lỗ hổng. Quy trình này đã giúp chúng tôi hiểu rõ hơn về cách nhiều người dùng có thể sử dụng hệ thống và giúp chúng tôi cải thiện các biện pháp giảm nhẹ.

Đo lường: Ngoài việc đánh giá Copilot dựa trên đánh giá an toàn hiện có của chúng tôi, việc sử dụng nhóm màu đỏ được mô tả ở trên đã giúp chúng tôi phát triển đánh giá và số liệu AI chịu trách nhiệm tương ứng với các rủi ro tiềm ẩn được xác định, chẳng hạn như jailbreaks, nội dung có hại và nội dung không có mặt.

Chúng tôi đã thu thập dữ liệu hội thoại nhắm mục tiêu những rủi ro này, bằng cách sử dụng kết hợp những người tham gia của con người và quy trình tạo cuộc hội thoại tự động. Mỗi đánh giá sau đó được ghi điểm bởi một nhóm các chú thích con người được đào tạo hoặc một đường ống dẫn chú thích tự động. Mỗi lần thay đổi sản phẩm, các biện pháp giảm nhẹ hiện tại được cập nhật hoặc các biện pháp giảm nhẹ mới được đề xuất, chúng tôi cập nhật quy trình đánh giá của mình để đánh giá cả hiệu suất sản phẩm và các chỉ số AI chịu trách nhiệm. Các đường ống dẫn ngữ cảnh đánh giá tự động này là sự kết hợp của các cuộc hội thoại được thu thập với các đánh giá của con người và các cuộc hội thoại tổng hợp được tạo ra với CÁC LLM được nhắc kiểm tra các chính sách theo cách đối nghịch. Mỗi đánh giá an toàn này được tự động ghi điểm với LLM. Đối với đánh giá mới được phát triển, mỗi đánh giá ban đầu được ghi điểm bởi các nhãn của con người, những người đọc nội dung văn bản hoặc nghe đầu ra âm thanh, và sau đó chuyển thành đánh giá tự động dựa trên LLM.

Hành vi dự kiến của các mô hình kết hợp với đường ống đánh giá của chúng tôi — cả con người và tự động — cho phép chúng tôi nhanh chóng thực hiện đo lường các rủi ro tiềm ẩn ở quy mô. Khi chúng tôi xác định các vấn đề mới theo thời gian, chúng tôi tiếp tục mở rộng các bộ đo lường để đánh giá các rủi ro bổ sung. 

Quản lý: Khi chúng tôi xác định các rủi ro tiềm ẩn và lạm dụng thông qua nhóm màu đỏ và đo chúng bằng các phương pháp tiếp cận được mô tả ở trên, chúng tôi đã phát triển các biện pháp giảm nhẹ bổ sung dành riêng cho trải nghiệm Copilot. Dưới đây, chúng tôi mô tả một số trong những biện pháp giảm nhẹ đó. Chúng tôi sẽ tiếp tục giám sát trải nghiệm Copilot để cải thiện hiệu suất sản phẩm và phương pháp tiếp cận giảm thiểu rủi ro của chúng tôi. 

• Kế hoạch phát hành theo giai đoạn và đánh giá liên tục.    Chúng tôi cam kết học hỏi và cải tiến liên tục phương pháp tiếp cận AI có trách nhiệm khi công nghệ và hành vi người dùng của chúng tôi phát triển. Chiến lược phát hành gia tăng của chúng tôi đã là một phần cốt lõi của cách chúng tôi di chuyển công nghệ của chúng tôi một cách an toàn từ phòng thí nghiệm vào thế giới, và chúng tôi cam kết một quá trình suy nghĩ cẩn trọng để đảm bảo lợi ích của trải nghiệm Copilot. Chúng tôi đang thực hiện thay đổi đối với Copilot thường xuyên để cải thiện hiệu suất sản phẩm và các biện pháp giảm nhẹ hiện có, đồng thời triển khai các biện pháp giảm thiểu mới nhằm đáp ứng với các bài học của chúng tôi.

• Tận dụng bộ phân loại và thông báo hệ thống để giảm thiểu rủi ro tiềm ẩn hoặc lạm dụng.    Để đáp lại lời nhắc của người dùng, LLM có thể tạo ra nội dung có vấn đề. Chúng tôi đã thảo luận các loại nội dung mà chúng tôi cố gắng giới hạn trong các mục Hành vi và Giới hạn Hệ thống ở trên. Bộ phân loại và thông báo hệ thống là hai ví dụ về các biện pháp giảm nhẹ đã được triển khai trong Copilot nhằm giúp giảm rủi ro của các loại nội dung này. Bộ phân loại phân loại văn bản để gắn cờ nội dung có thể gây hại trong lời nhắc người dùng hoặc phản hồi được tạo ra. Chúng tôi cũng sử dụng các biện pháp tốt nhất hiện có để tận dụng thông điệp hệ thống, bao gồm việc cung cấp hướng dẫn cho mô hình để phù hợp với hành vi của mình với các nguyên tắc AI của Microsoft và theo kỳ vọng của người dùng.

• Đồng ý tải lên hình ảnh Copilot.    Lần đầu tiên người dùng tải hình ảnh có chứa khuôn mặt lên Copilot, họ sẽ được yêu cầu cung cấp sự chấp thuận của họ để tải dữ liệu sinh trắc học lên Copilot. Nếu người dùng không chọn tham gia, hình ảnh sẽ không được gửi đến Copilot. Tất cả hình ảnh, bất kể chúng có chứa khuôn mặt hay không, sẽ bị xóa trong vòng 30 ngày sau khi cuộc hội thoại kết thúc.

• Tiết lộ AI.    Copilot cũng được thiết kế để thông báo cho mọi người rằng họ đang tương tác với một hệ thống AI. Khi người dùng tương tác với Copilot, chúng tôi cung cấp nhiều điểm tiếp cận khác nhau được thiết kế để giúp họ hiểu rõ khả năng của hệ thống, tiết lộ với họ rằng Copilot hoạt động trên cơ chế AI và giao tiếp với các giới hạn. Trải nghiệm được thiết kế theo cách này để giúp người dùng tận dụng tối đa Copilot và giảm thiểu rủi ro liên quan. Tiết lộ cũng giúp người dùng hiểu rõ hơn về Copilot và tương tác của họ với Copilot.

• Phương tiện chứng minh.    Khi Copilot tạo một hình ảnh, chúng tôi đã bật tính năng "Thông tin xác thực Nội dung", tính năng này sử dụng các phương pháp mã hóa để đánh dấu nguồn hoặc "chứng minh", tất cả hình ảnh do AI tạo bằng Copilot. Công nghệ này sử dụng các tiêu chuẩn do Liên minh về Nội dung và Xác thực (C2PA) thiết lập để thêm lớp tin cậy và độ trong suốt cho hình ảnh do AI tạo ra.

• Tự động phát hiện nội dung.    Khi người dùng tải lên hình ảnh như một phần trong lời nhắc trò chuyện của họ, Copilot sẽ triển khai các công cụ để phát hiện hình ảnh bóc lột và lạm dụng tình dục trẻ em (CSEAI). Microsoft báo cáo tất cả CSEAI rõ ràng cho Trung tâm Quốc gia về trẻ em bị mất tích và bị lợi dụng (NCMEC), theo yêu cầu của luật pháp Hoa Kỳ. Khi người dùng tải tệp lên để phân tích hoặc xử lý, Copilot sẽ triển khai tính năng quét tự động để phát hiện nội dung có thể dẫn đến rủi ro hoặc sử dụng sai, chẳng hạn như văn bản có thể liên quan đến hoạt động bất hợp pháp hoặc mã độc hại.

• Điều khoản Sử dụng và Quy tắc Ứng xử.    Người dùng nên tuân thủ Các Điều khoản Sử dụng và Quy tắc Ứng xử thỏa thuận Dịch vụ của Microsoft và Điều khoản về Quyền riêng tư của Microsoft, v.v... thông báo cho họ về việc sử dụng được cho phép và không được phép cũng như hậu quả của việc vi phạm các điều khoản. Điều khoản Sử dụng cũng cung cấp thông tin tiết lộ bổ sung cho người dùng và là tài liệu tham khảo để người dùng tìm hiểu về Copilot. Người dùng vi phạm nghiêm trọng hoặc lặp lại có thể bị tạm ngừng hoặc vĩnh viễn khỏi dịch vụ.

• Phản hồi, giám sát và giám sát.    Trải nghiệm Copilot được xây dựng dựa trên công cụ hiện có cho phép người dùng gửi phản hồi, được các nhóm hoạt động của Microsoft xem xét. Hơn nữa, phương pháp tiếp cận của chúng tôi để lập bản đồ, đo lường và quản lý rủi ro sẽ tiếp tục phát triển khi chúng tôi tìm hiểu thêm, và chúng tôi đã thực hiện những cải tiến dựa trên phản hồi thu thập được trong các giai đoạn xem trước.

Tìm hiểu thêm về AI chịu trách nhiệm

Báo cáo minh bạch AI chịu trách nhiệm của Microsoft

Nguyên tắc Microsoft AI

Tài nguyên AI Chịu trách nhiệm của Microsoft

Các khóa học Microsoft Azure Learning về AI Chịu trách nhiệm

Tìm hiểu thêm về Microsoft Copilot

Microsoft Copilot Hỏi Thường Gặp

Giới thiệu về tài liệu này

© Microsoft Corporation 2024. Mọi quyền đã được bảo lưu. Tài liệu này được cung cấp "như hiện tại" và chỉ cho mục đích thông tin. Thông tin và dạng xem được thể hiện trong tài liệu này, bao gồm URL và các tham chiếu Website Internet khác, có thể thay đổi mà không cần thông báo. Bạn phải chịu rủi ro khi sử dụng phần mềm. Một số ví dụ chỉ để minh họa và là đồ họa. Không có sự liên kết thực sự là dự định hoặc suy ra.

Tài liệu này không nhằm mục đích, và không nên được hiểu là cung cấp tư vấn pháp lý. Khu vực pháp lý mà bạn đang hoạt động có thể có các yêu cầu pháp lý hoặc quy định khác nhau áp dụng cho hệ thống AI của bạn. Tham khảo ý kiến chuyên gia pháp lý nếu bạn không chắc chắn về các luật hoặc quy định có thể áp dụng cho hệ thống của bạn, đặc biệt là nếu bạn nghĩ rằng những người có thể ảnh hưởng đến các đề xuất này. Hãy lưu ý rằng không phải tất cả các đề xuất và tài nguyên này sẽ phù hợp với mọi kịch bản và ngược lại, các đề xuất và tài nguyên này có thể không đủ cho một số kịch bản.

Ngày phát hành: 10/01/2024

Cập nhật gần nhất: 01/10/2024