Copilot trong Bing: Cách tiếp cận của chúng tôi đối với AI chịu trách nhiệm

Ở cấp mô hình, công việc của chúng tôi bắt đầu với các phân tích thăm dò GPT-4 vào cuối mùa hè năm 2022. Điều này bao gồm việc tiến hành thử nghiệm nhóm màu đỏ rộng rãi khi cộng tác với OpenAI. Thử nghiệm này được thiết kế để đánh giá cách thức hoạt động của công nghệ mới nhất mà không cần áp dụng thêm bất kỳ biện pháp bảo vệ nào khác. Ý định cụ thể của chúng tôi tại thời điểm này là để sản xuất các phản ứng có hại, con đường tiềm năng bề mặt để sử dụng sai, và xác định khả năng và giới hạn. Kết hợp các kiến thức chuyên sâu của chúng tôi trên OpenAI và Microsoft đã đóng góp vào những tiến bộ trong việc phát triển mô hình và đối với chúng tôi tại Microsoft, chúng tôi đã hiểu rõ về các rủi ro và đóng góp vào các chiến lược giảm nhẹ sớm cho Copilot trong Bing.  

Ngoài thử nghiệm nhóm màu đỏ cấp mô hình, một nhóm chuyên gia đa ngành đã tiến hành nhiều vòng thử nghiệm nhóm màu đỏ cấp ứng dụng trên Copilot trong trải nghiệm Bing AI trước khi làm cho chúng công khai trong bản xem trước bản phát hành giới hạn của chúng tôi. Quá trình này đã giúp chúng tôi hiểu rõ hơn về cách hệ thống có thể bị khai thác bởi các đối thủ và cải thiện các biện pháp giảm nhẹ của chúng tôi. Những người kiểm tra sức chịu áp lực không đối lập cũng đánh giá rộng rãi các tính năng mới của Bing cho các thiếu sót và lỗ hổng. Sau khi phát hành, trải nghiệm AI mới trong Bing được tích hợp vào cơ sở hạ tầng thử nghiệm và đo lường sản xuất hiện có của tổ chức kỹ thuật Bing. Ví dụ: những người thử nghiệm nhóm màu đỏ từ các khu vực và nền khác nhau liên tục và có hệ thống cố gắng thỏa hiệp hệ thống, đồng thời phát hiện của họ được sử dụng để mở rộng bộ dữ liệu mà Bing sử dụng để cải thiện hệ thống.  

Thử nghiệm và kiểm tra sức chịu tải của nhóm màu đỏ có thể xuất hiện các trường hợp rủi ro cụ thể, nhưng trong người dùng sản xuất sẽ có hàng triệu cuộc hội thoại khác nhau với Copilot trong Bing. Hơn nữa, các cuộc hội thoại theo nhiều góc độ và ngữ cảnh, việc xác định nội dung có hại trong một cuộc hội thoại là một tác vụ phức tạp. Để hiểu rõ hơn và giải quyết tiềm ẩn rủi ro trong Copilot trong trải nghiệm Bing AI, chúng tôi đã phát triển thêm các số liệu AI chịu trách nhiệm dành riêng cho các trải nghiệm AI mới đó để đo lường các rủi ro tiềm ẩn như jailbreaks, nội dung có hại và nội dung không có nền. Chúng tôi cũng cho phép đo theo quy mô thông qua đường ống đo tự động một phần. Mỗi khi sản phẩm thay đổi, các biện pháp giảm nhẹ hiện có được cập nhật hoặc đề xuất các biện pháp giảm thiểu mới, chúng tôi cập nhật quy trình đo lường của mình để đánh giá cả hiệu suất sản phẩm và các chỉ số AI chịu trách nhiệm.  

Như một ví dụ minh họa, hệ thống đo lường được cập nhật một phần tự động cho nội dung có hại bao gồm hai cải tiến chính: mô phỏng hội thoại và chú thích hội thoại tự động, được con người xác minh. Trước tiên, các chuyên gia AI chịu trách nhiệm xây dựng các mẫu để nắm bắt cấu trúc và nội dung của các cuộc hội thoại có thể dẫn đến các loại nội dung có hại khác nhau. Các mẫu này sau đó được trao cho một đại diện trò chuyện, tương tác với tư cách người dùng giả thuyết với Copilot trong Bing, tạo ra các cuộc hội thoại mô phỏng. Để xác định liệu các hội thoại mô phỏng này có chứa nội dung có hại hay không, chúng tôi đã lấy hướng dẫn mà các nhà ngôn ngữ học chuyên nghiệp thường sử dụng để đánh nhãn dữ liệu và sửa đổi chúng để sử dụng bởi GPT-4 để đánh nhãn cho các cuộc hội thoại trên quy mô lớn, tinh chỉnh các hướng dẫn cho đến khi có thỏa thuận quan trọng giữa các cuộc hội thoại được gắn nhãn mô hình và hội thoại có nhãn người. Cuối cùng, chúng tôi đã sử dụng các cuộc hội thoại có nhãn mô hình để tính toán chỉ số AI có trách nhiệm giúp ghi lại hiệu quả của Copilot trong Bing trong việc giảm nhẹ nội dung có hại.   

Đường ống dẫn đo lường của chúng tôi cho phép chúng tôi nhanh chóng thực hiện đo lường rủi ro tiềm năng ở quy mô. Khi chúng tôi xác định các sự cố mới thông qua giai đoạn xem trước và thử nghiệm nhóm màu đỏ liên tục, chúng tôi tiếp tục mở rộng các bộ đo lường để đánh giá các rủi ro bổ sung.  

Khi chúng tôi xác định các rủi ro tiềm ẩn và lạm dụng thông qua các quy trình như kiểm tra nhóm màu đỏ và kiểm tra sức chịu tải và đo lường chúng bằng các phương pháp tiếp cận sáng tạo được mô tả ở trên, chúng tôi đã phát triển các biện pháp giảm nhẹ bổ sung cho những biện pháp được sử dụng cho tìm kiếm truyền thống. Dưới đây, chúng tôi mô tả một số trong những biện pháp giảm nhẹ đó. Chúng tôi sẽ tiếp tục giám sát Copilot trong các Bing AI của mình để cải thiện hiệu suất và giảm thiểu sản phẩm.  

Phát hành theo giai đoạn, đánh giá liên tục. Chúng tôi cam kết học hỏi và cải tiến liên tục phương pháp tiếp cận AI có trách nhiệm khi công nghệ và hành vi người dùng của chúng tôi phát triển. Chiến lược phát hành gia tăng của chúng tôi đã là một phần cốt lõi trong cách chúng tôi di chuyển công nghệ của mình một cách an toàn từ các phòng thí nghiệm ra thế giới và chúng tôi cam kết thực hiện một quy trình suy nghĩ cẩn trọng để đảm bảo các lợi ích của Copilot trong Bing. Việc giới hạn số người có quyền truy cập trong giai đoạn xem trước đã cho phép chúng tôi khám phá cách mọi người sử dụng Copilot trong Bing, bao gồm cả cách mọi người có thể sử dụng sai mục đích để chúng tôi có thể tìm cách giảm thiểu các sự cố mới xuất hiện trước khi phát hành rộng hơn. Ví dụ: chúng tôi yêu cầu người dùng xác thực bằng tài khoản Microsoft của họ trước khi truy cập trải nghiệm Bing mới đầy đủ. Người dùng chưa xác thực chỉ có thể truy nhập bản xem trước có giới hạn của trải nghiệm. Các bước này ngăn cản lạm dụng và giúp chúng tôi (nếu cần) thực hiện hành động phù hợp để đáp ứng các vi phạm Quy tắc Ứng xử.  Chúng tôi đang thực hiện các thay đổi đối với Copilot trong Bing hàng ngày để cải thiện hiệu suất sản phẩm, cải thiện các biện pháp giảm nhẹ hiện có và triển khai các biện pháp giảm thiểu mới nhằm đáp ứng các bài học của chúng tôi trong giai đoạn xem trước.  

Căn cứ trong kết quả tìm kiếm. Như đã nói ở trên, Copilot trong Bing được thiết kế để cung cấp các phản hồi được hỗ trợ bởi thông tin trong kết quả tìm kiếm trên web khi người dùng đang tìm kiếm thông tin. Ví dụ: hệ thống được cung cấp văn bản từ kết quả tìm kiếm hàng đầu và hướng dẫn thông qua metaprompt để phản hồi. Tuy nhiên, trong việc tóm tắt nội dung từ web, Copilot trong Bing có thể bao gồm thông tin phản hồi không có trong các nguồn đầu vào. Nói cách khác, nó có thể tạo ra kết quả không có mặt. Đánh giá ban đầu của chúng tôi đã chỉ ra rằng kết quả không có mặt trong cuộc trò chuyện có thể phổ biến hơn đối với một số loại lời nhắc hoặc chủ đề nhất định, chẳng hạn như yêu cầu tính toán toán học, thông tin tài chính hoặc thị trường (ví dụ: thu nhập công ty, dữ liệu hiệu suất chứng khoán) và thông tin như ngày chính xác của sự kiện hoặc giá cụ thể của các mặt hàng. Người dùng nên luôn thận trọng và sử dụng phán xét tốt nhất của họ khi xem kết quả tìm kiếm tóm tắt, cho dù trên trang kết quả tìm kiếm hoặc trong trải nghiệm trò chuyện. Chúng tôi đã thực hiện một số biện pháp để giảm thiểu rủi ro mà người dùng có thể dựa trên nội dung được tạo không có nền trong các kịch bản tóm tắt và trải nghiệm trò chuyện. Ví dụ: các phản hồi trong Copilot trong Bing dựa trên kết quả tìm kiếm bao gồm tham chiếu đến các trang web nguồn cho người dùng để xác minh phản hồi và tìm hiểu thêm. Người dùng cũng được thông báo rõ ràng rằng họ đang tương tác với hệ thống AI và nên kiểm tra tài liệu nguồn kết quả web để giúp họ sử dụng đánh giá tốt nhất.  

Phân loại dựa trên AI và metaprompting để giảm thiểu rủi ro tiềm ẩn hoặc lạm dụng. Việc sử dụng LLM có thể tạo ra nội dung có vấn đề có thể dẫn đến rủi ro hoặc lạm dụng. Ví dụ có thể bao gồm đầu ra liên quan đến tự gây hại, bạo lực, nội dung đồ họa, sở hữu trí tuệ, thông tin không chính xác, lời ghét hoặc văn bản có thể liên quan đến các hoạt động bất hợp pháp. Phân loại và siêu cấp là hai ví dụ về các biện pháp giảm nhẹ đã được thực hiện trong Copilot trong Bing để giúp giảm rủi ro của các loại nội dung này. Bộ phân loại phân loại văn bản để gắn cờ các loại nội dung có khả năng gây hại khác nhau trong truy vấn tìm kiếm, lời nhắc trò chuyện hoặc phản hồi được tạo. Bing sử dụng các phân loại dựa trên AI và bộ lọc nội dung, bộ lọc này áp dụng cho tất cả các kết quả tìm kiếm và các tính năng liên quan; chúng tôi đã thiết kế thêm các bộ phân loại lời nhắc và bộ lọc nội dung nhằm giải quyết các rủi ro có thể có do Copilot trong các tính năng của Bing gây ra. Cờ dẫn đến các biện pháp giảm nhẹ tiềm năng, chẳng hạn như không trả lại nội dung được tạo cho người dùng, chuyển người dùng đến một chủ đề khác hoặc chuyển hướng người dùng đến tìm kiếm truyền thống. Metaprompting liên quan đến việc cung cấp hướng dẫn cho mô hình để hướng dẫn hành vi của mô hình, bao gồm cả để hệ thống hoạt động phù hợp với Nguyên tắc AI của Microsoft và kỳ vọng của người dùng. Ví dụ: metaprompt có thể bao gồm một dòng chẳng hạn như "liên lạc bằng ngôn ngữ lựa chọn của người dùng".   

Bảo vệ quyền riêng tư trong Visual Tìm kiếm trong Copilot trong Bing. Khi người dùng tải lên hình ảnh như một phần trong lời nhắc trò chuyện của họ, Copilot trong Bing sẽ sử dụng công nghệ làm mờ khuôn mặt trước khi gửi hình ảnh cho mô hình AI. Làm mờ khuôn mặt được sử dụng để bảo vệ sự riêng tư của các cá nhân trong hình ảnh. Công nghệ làm mờ khuôn mặt dựa trên các gợi ý ngữ cảnh để xác định vị trí mờ và sẽ cố gắng làm mờ tất cả các khuôn mặt. Khi khuôn mặt bị mờ, mô hình AI có thể so sánh hình ảnh được nhập với hình ảnh có sẵn công khai trên Internet. Kết quả là, ví dụ, Copilot trong Bing có thể xác định một cầu thủ bóng rổ nổi tiếng từ ảnh của người chơi đó trên một sân bóng rổ bằng cách tạo ra một đại diện số phản ánh số áo của người chơi, màu áo, sự hiện diện của một hoop bóng rổ, v.v. Người lái trong Bing không lưu trữ dạng biểu thị số của mọi người khỏi hình ảnh đã tải lên và không chia sẻ chúng với bên thứ ba. Người phụ trách bản sao trong Bing sử dụng dạng số biểu thị hình ảnh mà người dùng chỉ tải lên với mục đích phản hồi lời nhắc của người dùng, sau đó họ sẽ bị xóa trong vòng 30 ngày sau khi cuộc trò chuyện kết thúc.    

Nếu người dùng yêu cầu Người phụ trách sao chép trong Bing cung cấp thông tin về một hình ảnh đã tải lên, các câu trả lời trò chuyện có thể phản ánh tác động của hiện tượng làm mờ khuôn mặt đối với khả năng cung cấp thông tin về hình ảnh đã tải lên của người mẫu đó. Ví dụ: Bộ sao chép trong Bing có thể mô tả một người nào đó có khuôn mặt mờ.    

Hạn chế giao tiếp giao tiếp. Trong khoảng thời gian xem trước, chúng tôi biết rằng các phiên trò chuyện rất dài có thể dẫn đến các phản hồi lặp đi lặp lại, không hữu ích hoặc không phù hợp với Copilot theo chủ đích của Bing. Để giải quyết sự cố lệch nhau về cuộc trò chuyện này, chúng tôi đã giới hạn số lượt (các sàn giao dịch có chứa cả câu hỏi người dùng và trả lời từ Copilot trong Bing) cho mỗi phiên trò chuyện. Chúng tôi tiếp tục đánh giá các phương pháp tiếp cận bổ sung để giảm thiểu sự cố này.  

Nhanh chóng làm phong phú. Trong một số trường hợp, lời nhắc của người dùng có thể không rõ. Khi điều này xảy ra, Người lái trong Bing có thể sử dụng LLM để giúp xây dựng thêm chi tiết trong lời nhắc nhằm giúp đảm bảo người dùng nhận được phản hồi mà họ đang tìm kiếm. Làm phong phú lời nhắc như vậy không dựa vào bất kỳ kiến thức nào về người dùng hoặc các tìm kiếm trước đây của họ, mà thay vào đó là mô hình AI. Các truy vấn đã sửa đổi này sẽ hiển thị trong lịch sử trò chuyện của người dùng và cũng giống như các tìm kiếm khác, có thể bị xóa bằng cách sử dụng các tùy chọn kiểm soát trong sản phẩm.  

Người dùng làm trung tâm thiết kế và kinh nghiệm người dùng can thiệp. Trải nghiệm người dùng làm trung tâm thiết kế và sử dụng là một khía cạnh thiết yếu của phương pháp tiếp cận ai có trách nhiệm của Microsoft. Mục tiêu là để root sản phẩm thiết kế trong nhu cầu và kỳ vọng của người dùng. Khi người dùng tương tác với Copilot trong Bing lần đầu tiên, chúng tôi cung cấp nhiều điểm tiếp xúc khác nhau được thiết kế để giúp họ hiểu khả năng của hệ thống, tiết lộ với họ rằng Copilot trong Bing được ai hỗ trợ và các giới hạn giao tiếp. Trải nghiệm được thiết kế theo cách này để giúp người dùng tận dụng tối đa Copilot trong Bing và giảm thiểu rủi ro liên quan quá mức. Các thành phần của trải nghiệm này cũng giúp người dùng hiểu rõ hơn về Copilot trong Bing và các tương tác của họ với Bing. Các đề xuất này bao gồm các đề xuất chat dành riêng cho AI chịu trách nhiệm (ví dụ: Bing sử dụng AI như thế nào? Tại sao Copilot trong Bing không phản hồi về một số chủ đề?), giải thích về các hạn chế, cách thức người dùng có thể tìm hiểu thêm về cách hệ thống hoạt động và báo cáo phản hồi cũng như các tham chiếu có thể dẫn hướng dễ dàng xuất hiện trong các phản hồi để hiển thị cho người dùng kết quả và trang có phản hồi căn cứ.  

Tiết lộ AI. Copilot trong Bing cung cấp một số điểm tiếp xúc cho tiết lộ AI có ý nghĩa, trong đó người dùng được thông báo rằng họ đang tương tác với hệ thống AI cũng như cơ hội để tìm hiểu thêm về Copilot trong Bing. Việc trao quyền cho người dùng với kiến thức này có thể giúp họ tránh việc phụ thuộc quá nhiều vào AI và tìm hiểu về các điểm mạnh và giới hạn của hệ thống.  

Phương tiện chứng minh.Microsoft Designer đã bật tính năng "Thông tin xác thực Nội dung", tính năng này sử dụng các phương pháp mã hóa để đánh dấu nguồn hoặc "chứng minh" của tất cả các hình ảnh do AI tạo ra trên Designer. Tính năng hình nền mờ kỹ thuật số vô hình hiển thị nguồn, thời gian và ngày tạo ban đầu, đồng thời không thể thay đổi thông tin này. Công nghệ này sử dụng các tiêu chuẩn do Liên minh về Nội dung và Xác thực (C2PA) thiết lập để bổ sung thêm một lớp tin cậy và độ trong suốt cho hình ảnh do AI tạo ra. Microsoft là người đồng sáng lập C2PA và đã đóng góp với công nghệ chứng minh nội dung kỹ thuật số cốt lõi. 

Điều khoản Sử dụng và Quy tắc Ứng xử. Tài nguyên này chi phối việc sử dụng Copilot trong Bing. Người dùng nên tuân thủ Điều khoản Sử dụng và Quy tắc Ứng xử, trong số những điều khác, thông báo cho họ về việc sử dụng được cho phép và không cho phép và hậu quả của việc vi phạm các điều khoản. Điều khoản Sử dụng cũng cung cấp thông tin tiết lộ bổ sung cho người dùng và đóng vai trò là tài liệu tham khảo hữu ích để người dùng tìm hiểu về Copilot trong Bing.   

Hoạt động và phản ứng nhanh chóng. Chúng tôi cũng sử dụng Copilot trong các quy trình giám sát và vận hành liên tục của Bing để giải quyết khi Copilot trong Bing nhận được tín hiệu hoặc nhận báo cáo, cho biết có thể sử dụng sai mục đích hoặc vi phạm Điều khoản Sử dụng hoặc Quy tắc Ứng xử.  

Phản hồi, giám sát và giám sát. Copilot trong trải nghiệm Bing được xây dựng dựa trên công cụ hiện có cho phép người dùng gửi phản hồi và báo cáo mối quan tâm, được các nhóm hoạt động của Microsoft xem xét. Các quy trình hoạt động của Bing cũng đã được mở rộng để phù hợp với các tính năng trong Copilot trong trải nghiệm Bing, ví dụ: cập nhật trang Báo cáo mối quan tâm để bao gồm các loại nội dung mới mà người dùng tạo với sự trợ giúp của mô hình.   

Phương pháp tiếp cận của chúng tôi để xác định, đo lường và giảm thiểu rủi ro sẽ tiếp tục phát triển khi chúng tôi tìm hiểu thêm và chúng tôi đã cải tiến dựa trên phản hồi thu thập được trong giai đoạn xem trước.     

Tự động phát hiện nội dung. Khi người dùng tải lên hình ảnh như một phần trong lời nhắc trò chuyện của họ, Copilot trong Bing sẽ triển khai các công cụ để phát hiện hình ảnh bóc lột và lạm dụng tình dục trẻ em (CSEAI), đáng chú ý nhất là công nghệ khớp băm PhotoDNA. Microsoft đã phát triển PhotoDNA để giúp tìm các bản trùng lặp của CSEAI đã biết. Microsoft báo cáo tất cả CSEAI rõ ràng cho Trung tâm Quốc gia về trẻ em bị mất tích và bị lợi dụng (NCMEC), theo yêu cầu của luật pháp Hoa Kỳ. Khi người dùng tải tệp lên để phân tích hoặc xử lý, Copilot sẽ triển khai tính năng quét tự động để phát hiện nội dung có thể dẫn đến rủi ro hoặc sử dụng sai, chẳng hạn như văn bản có thể liên quan đến hoạt động bất hợp pháp hoặc mã độc hại.

Microsoft tiếp tục xem xét nhu cầu của trẻ em và thanh thiếu niên như một phần trong đánh giá rủi ro của các tính năng AI mới tạo ra trong Copilot trong Bing. Tất cả các tài khoản trẻ em của Microsoft xác định người dùng dưới 13 tuổi hoặc theo quy định khác theo luật địa phương không thể đăng nhập để truy cập vào trải nghiệm Bing mới đầy đủ.   

Như được mô tả ở trên, đối với tất cả người dùng, chúng tôi đã triển khai các biện pháp bảo vệ giúp giảm thiểu nội dung có hại tiềm ẩn. Trong Copilot trong Bing, kết quả được đặt như trong Chế độ Nghiêm ngặt của Tìm kiếm An toàn trên Bing, chế độ này có mức bảo vệ an toàn cao nhất trong tìm kiếm chính trên Bing, do đó ngăn không cho người dùng, bao gồm cả người dùng vị thành niên, tiếp xúc với nội dung có thể gây hại. Ngoài thông tin chúng tôi đã cung cấp trong tài liệu này và trong câu hỏi thường gặp về các tính năng trò chuyện, thông tin thêm về cách Thức hoạt động của Copilot trong Bing để tránh phản hồi với nội dung phản cảm ngoài ý muốn trong kết quả tìm kiếm có tại đây.  

Microsoft cam kết không cung cấp quảng cáo được cá nhân hóa dựa trên hành vi trực tuyến cho trẻ em dưới 18 tuổi theo ngày sinh lưu trong tài khoản Microsoft của mình. Tính năng bảo vệ quan trọng này sẽ mở rộng đến các quảng cáo trong Copilot trong các tính năng của Bing. Người dùng có thể thấy quảng cáo theo ngữ cảnh dựa trên truy vấn hoặc lời nhắc được sử dụng để tương tác với Bing.  

Để mở khóa tiềm năng chuyển đổi của việc tạo AI, chúng ta phải xây dựng sự tin tưởng vào công nghệ thông qua việc trao quyền cho các cá nhân hiểu cách dữ liệu của họ được sử dụng và cung cấp cho họ các lựa chọn và kiểm soát có ý nghĩa đối với dữ liệu của họ. Copilot trong Bing được thiết kế để ưu tiên đại lý của con người, thông qua việc cung cấp thông tin về cách sản phẩm hoạt động cũng như các giới hạn của sản phẩm và thông qua việc mở rộng các lựa chọn và kiểm soát mạnh mẽ của người tiêu dùng đối với Copilot trong các tính năng của Bing.   

Điều khoản về Quyền riêng tư của Microsoft cung cấp thông tin về các biện pháp bảo vệ quyền riêng tư minh bạch của chúng tôi để bảo vệ khách hàng và thiết lập thông tin về các biện pháp kiểm soát giúp người dùng của chúng tôi có thể xem và quản lý dữ liệu cá nhân của họ. Để giúp đảm bảo rằng người dùng có thông tin họ cần khi tương tác với các tính năng trò chuyện mới của Bing, các tiết lộ trong sản phẩm sẽ thông báo cho người dùng rằng họ tương tác với một sản phẩm AI và chúng tôi cung cấp liên kết đến các Câu hỏi thường gặp và giải thích thêm về cách hoạt động của các tính năng này. Microsoft sẽ tiếp tục lắng nghe phản hồi của người dùng và sẽ bổ sung thêm chi tiết về các tính năng trò chuyện của Bing phù hợp để hỗ trợ hiểu biết về cách sản phẩm hoạt động.   

Microsoft cũng cung cấp cho người dùng các công cụ mạnh mẽ để thực hiện các quyền của họ đối với dữ liệu cá nhân của họ. Đối với dữ liệu do Copilot thu thập trong Bing, bao gồm cả thông qua các truy vấn và lời nhắc của người dùng, Bảng điều khiển Quyền riêng tư của Microsoft cung cấp những người dùng được xác thực (đã đăng nhập) với các công cụ để thực hiện quyền chủ thể dữ liệu của họ, bao gồm bằng cách cung cấp cho người dùng khả năng xem, xuất và xóa lịch sử hội thoại được lưu trữ. Microsoft tiếp tục thu thập phản hồi về cách họ muốn quản lý trải nghiệm Bing mới của mình, bao gồm cả cách sử dụng trải nghiệm quản lý dữ liệu trong ngữ cảnh.   

Copilot trong Bing cũng vinh dự các yêu cầu theo quyền châu Âu bị quên đi, theo quy trình Microsoft phát triển và tinh chỉnh chức năng tìm kiếm truyền thống của Bing. Tất cả người dùng có thể báo cáo mối quan ngại về nội dung và phản hồi được tạo tại đây và người dùng ở châu Âu của chúng tôi có thể sử dụng biểu mẫu này để gửi yêu cầu chặn kết quả tìm kiếm ở Châu Âu bên dưới quyền bị quên lãng.   

Copilot trong Bing sẽ vinh danh các lựa chọn về quyền riêng tư của người dùng, bao gồm cả những lựa chọn trước đây đã được thực hiện trong Bing, chẳng hạn như sự chấp thuận cho việc thu thập và sử dụng dữ liệu được yêu cầu thông qua biểu ngữ cookie và các tùy chọn kiểm soát có sẵn trong Bảng điều khiển Quyền riêng tư của Microsoft. Để giúp cho phép người dùng tự chủ và cơ quan trong việc đưa ra quyết định sáng suốt, chúng tôi đã sử dụng quy trình xem xét nội bộ của chúng tôi để kiểm tra cẩn thận cách các lựa chọn được trình bày cho người dùng. 

Ngoài các tùy chọn kiểm soát có sẵn thông qua Bảng điều khiển Quyền riêng tư của Microsoft, cho phép người dùng xem, xuất và xóa lịch sử tìm kiếm của họ, bao gồm các cấu phần của lịch sử Trò chuyện, những người dùng được xác thực đã bật tính năng Lịch sử trò chuyện trong sản phẩm có khả năng xem, truy cập và tải xuống lịch sử trò chuyện thông qua kiểm soát trong sản phẩm. Người dùng có thể xóa các cuộc trò chuyện cụ thể khỏi Lịch sử trò chuyện hoặc tắt hoàn toàn chức năng lịch sử trò chuyện bất cứ lúc nào bằng cách truy cập trang Cài đặt Bing. Người dùng cũng có thể chọn có cho phép cá nhân hóa truy cập vào trải nghiệm tùy chỉnh hơn với các câu trả lời được cá nhân hóa hay không. Người dùng có thể chọn tham gia và chọn không tham gia cá nhân hóa bất cứ lúc nào trong Cài đặt Trò chuyện trong trang Cài đặt Bing.  Việc xóa các cuộc trò chuyện cụ thể khỏi Lịch sử trò chuyện sẽ ngăn không cho chúng được sử dụng để cá nhân hóa.  
 
Thông tin thêm về Lịch sử trò chuyện và cá nhân hóa được cung cấp cho người dùng trong Copilot trong Câu hỏi thường gặp về Bing. 

Copilot trong Bing đã được xây dựng với ý định về quyền riêng tư, để dữ liệu cá nhân được thu thập và sử dụng chỉ khi cần thiết và được lưu giữ không lâu hơn mức cần thiết. Như đã đề cập ở trên, Visual Tìm kiếm trong tính năng Copilot trong Bing sẽ triển khai một cơ chế làm mờ khuôn mặt trong hình ảnh tại thời điểm người dùng tải lên, để hình ảnh khuôn mặt không được xử lý hoặc lưu trữ thêm. Thông tin khác về dữ liệu cá nhân mà Bing thu thập, cách dữ liệu được sử dụng và cách dữ liệu được lưu trữ và xóa có sẵn trong Điều khoản về Quyền riêng tư của Microsoft, cũng cung cấp thông tin về các tính năng trò chuyện mới của Bing.   

Người sao chép trong Bing có chính sách lưu giữ và xóa dữ liệu để giúp đảm bảo rằng dữ liệu cá nhân được thu thập thông qua các tính năng trò chuyện của Bing chỉ được lưu giữ miễn là cần thiết.   

Chúng tôi sẽ tiếp tục tìm hiểu và phát triển phương pháp tiếp cận của chúng tôi trong việc cung cấp Copilot trong Bing, và như chúng tôi làm như vậy, chúng tôi sẽ tiếp tục làm việc qua các lĩnh vực để điều chỉnh sự đổi mới AI của mình với giá trị con người và quyền cơ bản, bao gồm bảo vệ người dùng trẻ và quyền riêng tư.   

Giống như Copilot trong Bing, khi một Copilot có người dùng cuối bảo vệ dữ liệu thương mại nhập lời nhắc vào giao diện, lời nhắc, cuộc hội thoại ngay lập tức, kết quả tìm kiếm hàng đầu và metaprompt được gửi dưới dạng đầu vào cho LLM. Mô hình tạo ra một phản hồi bằng lịch sử hội thoại nhanh chóng và nhanh chóng để sắp xếp ngữ cảnh cho yêu cầu, siêu dữ liệu để căn chỉnh phản hồi phù hợp với Nguyên tắc AI của Microsoft và kỳ vọng của người dùng cũng như kết quả tìm kiếm phản hồi mặt đất trong nội dung hiện có, cao cấp từ web. Điều này hoạt động giống như Copilot trong Bing như được mô tả ở trên trong tài liệu này, ngoại trừ Copilot có bảo vệ dữ liệu thương mại chỉ dựa vào lịch sử hội thoại ngay lập tức (không phải lịch sử hội thoại gần đây) do lịch sử trò chuyện được lưu trữ không phải là tính năng hiện đang được hỗ trợ. Designer và Visual Tìm kiếm có sẵn trong phiên bản này. 

Giống như các công nghệ chuyển đổi khác, việc khai thác lợi ích của AI không phải là không có rủi ro và một phần cốt lõi của chương trình AI chịu trách nhiệm của Microsoft được thiết kế để xác định các rủi ro tiềm ẩn, đo lường xu hướng của chúng để xảy ra và xây dựng các biện pháp giảm thiểu để giải quyết chúng. Một lần nữa, phần mô tả ở trên về các nỗ lực của Microsoft trong việc xác định, đo lường và giảm thiểu rủi ro tiềm ẩn đối với Copilot trong Bing cũng áp dụng cho phiên bản này, kèm theo một số giải thích về các biện pháp giảm thiểu được mô tả dưới đây: 

Phát hành theo giai đoạn, đánh giá liên tục. Giống như với Copilot Bing, đối với Copilot với bảo vệ dữ liệu thương mại, chúng tôi cũng áp dụng một phương pháp phát hành gia tăng. Vào ngày 18 tháng 7 năm 2023, Copilot có tính năng bảo vệ dữ liệu thương mại được cung cấp dưới dạng bản xem trước miễn phí cho khách hàng doanh nghiệp đủ điều kiện có tài khoản M365 cụ thể để bật cho người dùng cuối là doanh nghiệp của họ. Ba mươi (30) ngày sau khi thông báo cho khách hàng doanh nghiệp đủ điều kiện, Copilot với bảo vệ dữ liệu thương mại đã trở thành "mặc định về" cho những khách hàng tương tự. Copilot với bảo vệ dữ liệu thương mại cũng có sẵn cho các tài khoản giảng viên giáo dục M365 cụ thể. Copilot có tính năng bảo vệ dữ liệu thương mại thường được cung cấp cho một số khách hàng doanh nghiệp nhất định vào ngày 1 tháng 12 năm 2023. Trong tương lai, chúng tôi dự định mở rộng quyền truy cập vào Copilot bằng tính năng bảo vệ dữ liệu thương mại cho Microsoft Entra ID người dùng khác.

Điều khoản Sử dụng và Quy tắc Ứng xử. Người dùng cuối của Copilot có bảo vệ dữ liệu thương mại phải tuân thủ Điều khoản Sử dụng của Người dùng Cuối. Các Điều khoản Sử dụng này thông báo cho người dùng cuối sử dụng được phép và không được phép và hậu quả của việc vi phạm các điều khoản.  

Hoạt động và phản ứng nhanh chóng. Chúng tôi cũng sử dụng Copilot trong các quy trình giám sát và vận hành liên tục của Bing để giải quyết khi Copilot có tính năng bảo vệ dữ liệu thương mại nhận được tín hiệu hoặc nhận báo cáo cho biết có thể sử dụng sai mục đích hoặc vi phạm Điều khoản Sử dụng của Người dùng Cuối. 

Phản hồi, giám sát và giám sát. Copilot có tính năng bảo vệ dữ liệu thương mại sử dụng cùng một công cụ như Copilot trong Bing cho người dùng để gửi phản hồi và báo cáo mối quan tâm, được các nhóm hoạt động của Microsoft xem xét. Copilot trong các quy trình hoạt động của Bing cũng đã được mở rộng để phù hợp với các tính năng trong Copilot với trải nghiệm bảo vệ dữ liệu thương mại, ví dụ: cập nhật trang Báo cáo mối quan tâm để bao gồm các loại nội dung mới mà người dùng tạo với sự trợ giúp của mô hình.  

Để giúp đảm bảo rằng người dùng cuối có thông tin họ cần khi tương tác với Copilot bằng tính năng bảo vệ dữ liệu thương mại, tài liệu sản phẩm có sẵn ở cuối tài liệu này, bao gồm các trang Câu hỏi thường gặp và Tìm hiểu thêm. 

Các lời nhắc và phản hồi được tạo bởi người dùng cuối trong Copilot với bảo vệ dữ liệu thương mại được xử lý và lưu trữ phù hợp với tiêu chuẩn xử lý dữ liệu doanh nghiệp. Gói Copilot có ưu đãi bảo vệ dữ liệu thương mại hiện chỉ khả dụng cho khách hàng doanh nghiệp và người dùng cuối đã được xác thực của họ, vì vậy chúng tôi không dự đoán trẻ em hoặc thanh thiếu niên trở thành người dùng cuối của Copilot với tính năng bảo vệ dữ liệu thương mại tại thời điểm này. Ngoài ra, Copilot có tính năng bảo vệ dữ liệu thương mại không cung cấp bất kỳ quảng cáo được nhắm mục tiêu theo hành vi nào cho người dùng cuối. Thay vào đó, bất kỳ quảng cáo nào được hiển thị chỉ là những quảng cáo phù hợp theo ngữ cảnh.  

Tài liệu này là một phần trong nỗ lực rộng lớn hơn của Microsoft nhằm đưa các nguyên tắc AI của chúng tôi vào thực tiễn. Để tìm hiểu thêm, hãy xem:

Phương pháp tiếp cận ai chịu trách nhiệm của Microsoft

Tiêu chuẩn AI Chịu trách nhiệm của Microsoft

Tài nguyên AI chịu trách nhiệm của Microsoft  

Các khóa học Microsoft Azure Learning về AI Chịu trách nhiệm  

Giới thiệu Bing mới  

Điều khoản Sử dụng và Quy tắc Ứng xử

Câu hỏi thường gặp

Tổng quan về Copilot với bảo vệ dữ liệu thương mại

Điều khoản Sử dụng của Người dùng Cuối

Câu hỏi thường gặp