Lưu ý về tính minh bạch cho Microsoft Copilot (dành cho cá nhân)

Ngày 18 tháng 8 năm 2026

Ghi chú minh bạch là gì?

Hệ thống AI không chỉ bao gồm công nghệ mà còn bao gồm những người sẽ sử dụng nó, những người sẽ bị ảnh hưởng bởi nó và môi trường mà nó được triển khai. Ghi chú về tính minh bạch của Microsoft nhằm giúp bạn hiểu cách hoạt động của công nghệ AI đằng sau Copilot, các lựa chọn chúng tôi đã đưa ra ảnh hưởng đến hiệu suất và hành vi của hệ thống cũng như tầm quan trọng của việc suy nghĩ về toàn bộ hệ thống, để người dùng Copilot có thể kiểm soát trải nghiệm của riêng họ và hiểu các bước chúng tôi đang thực hiện để cung cấp một sản phẩm an toàn và bảo mật.

Ghi chú về tính minh bạch của Microsoft là một phần trong nỗ lực lớn hơn tại Microsoft nhằm đưa các Nguyên tắc AI của chúng tôi vào thực tiễn. Để tìm hiểu thêm, hãy xem Nguyên tắc Microsoft AI.

Thông tin cơ bản về Microsoft Copilot

Giới thiệu

Microsoft Copilot giúp bạn chuyển từ ý tưởng đến công việc đã hoàn thành, tất cả ở cùng một nơi. Copilot được tích hợp vào Word, Excel, PowerPoint, Outlook, Teams và nhiều ứng dụng khác, đưa các tệp và thông tin bạn sử dụng vào một trải nghiệm. Copilot có thể giúp bạn tạo tài liệu, bản trình bày và bảng tính đẹp mắt, soạn thảo email, sắp xếp ngày của bạn và nhận câu trả lời dựa trên công việc bạn đang làm. Với Cowork, Copilot cũng có thể hỗ trợ các tác vụ lớn hơn, gồm nhiều bước và hoàn thành việc cần làm. Bạn cũng có thể lựa chọn giữa các mô hình AI hàng đầu cho các loại công việc khác nhau. Các tính năng cụ thể sẽ thay đổi tùy theo gói đăng ký.

Tại Microsoft, chúng tôi coi trọng cam kết AI có trách nhiệm. Copilot được phát triển theo các Nguyên tắc AI của Microsoft, Standard AI có trách nhiệm của Microsoft và hợp tác với các chuyên gia AI có trách nhiệm trong toàn công ty, bao gồm Office of Responsible AI của Microsoft, các nhóm kỹ thuật, Microsoft Research và Aether. Bạn có thể tìm hiểu thêm tại AI có trách nhiệm tại Microsoft.

Trong tài liệu này, chúng tôi mô tả cách tiếp cận của chúng tôi đối với AI có trách nhiệm cho Copilot. Trước khi phát hành, chúng tôi đã tận dụng các phương pháp hiện đại của Microsoft để lập bản đồ, đo lường và quản lý các rủi ro tiềm ẩn cũng như việc sử dụng sai hệ thống, đồng thời đảm bảo các lợi ích của hệ thống cho người dùng. Khi tiếp tục phát triển Copilot, chúng tôi cũng tiếp tục học hỏi và cải thiện những nỗ lực AI có trách nhiệm của mình. Tài liệu này sẽ được cập nhật định kỳ để truyền đạt các quá trình và phương pháp đang phát triển của chúng tôi.

Các thuật ngữ khóa

Bộ phân loại Các mô hình máy học giúp sắp xếp dữ liệu vào các lớp hoặc danh mục thông tin được gắn nhãn. Trong Copilot, một cách mà chúng tôi sử dụng bộ phân loại là giúp phát hiện nội dung có khả năng gây hại do người dùng gửi hoặc do hệ thống tạo ra để giảm thiểu việc tạo ra nội dung đó và lạm dụng hoặc lạm dụng hệ thống.

Nối đất Đối với một số cuộc trò chuyện nhất định mà người dùng tìm kiếm thông tin, Copilot dựa trên kết quả tìm kiếm trên web. Điều này có nghĩa là Copilot tập trung phản hồi của mình dựa trên nội dung xếp hạng cao từ web và cung cấp các trích dẫn có siêu liên kết sau khi phản hồi bằng văn bản được tạo hoặc trong bản chép lại cuộc trò chuyện ở chế độ thoại.

Mô hình ngôn ngữ lớn (LLM) Các mô hình ngôn ngữ lớn (LLM) trong ngữ cảnh này là các mô hình AI được đào tạo trên một lượng lớn dữ liệu văn bản để dự đoán các từ theo trình tự. LLM có thể thực hiện nhiều tác vụ khác nhau, chẳng hạn như tạo văn bản, tóm tắt, dịch, phân loại, v.v.

Giảm thiểu Một phương pháp hoặc kết hợp các phương pháp được thiết kế để giảm thiểu rủi ro tiềm ẩn có thể phát sinh khi sử dụng các tính năng AI trong Copilot.

Mô hình đa phương thức (MMM) Mô hình đa phương thức (MMM) là các mô hình AI được đào tạo trên các loại dữ liệu khác nhau, như văn bản, hình ảnh hoặc âm thanh. Các mô hình này có thể thực hiện nhiều tác vụ khác nhau, chẳng hạn như viết văn bản, mô tả hình ảnh, nhận dạng giọng nói và tìm thông tin qua các loại dữ liệu khác nhau.

Yêu cầu Đầu vào dưới dạng văn bản, hình ảnh và/hoặc âm thanh mà người dùng gửi đến Copilot để tương tác với các tính năng AI trong Copilot.

Nhóm màu đỏ Các kỹ thuật được các chuyên gia sử dụng để đánh giá những hạn chế và lỗ hổng của hệ thống cũng như để kiểm tra tính hiệu quả của các biện pháp giảm thiểu theo kế hoạch. Thử nghiệm đội đỏ bao gồm những người thử nghiệm áp dụng cả tính cách lành tính và đối kháng để xác định rủi ro tiềm ẩn và khác biệt với việc đo lường rủi ro có hệ thống.

Phản hồi Văn bản, hình ảnh hoặc âm thanh mà Copilot xuất ra để phản hồi yêu cầu hoặc như một phần của việc trao đổi qua lại với người dùng. Từ đồng nghĩa của "phản hồi" bao gồm "hoàn thành", "tạo ra và "trả lời".

Mô hình ngôn ngữ nhỏ (SLM) Mô hình ngôn ngữ nhỏ (SLM) trong ngữ cảnh này là các mô hình AI được đào tạo trên lượng dữ liệu nhỏ hơn, tập trung hơn so với các mô hình ngôn ngữ lớn. Mặc dù kích cỡ nhỏ hơn nhưng SLM có thể thực hiện nhiều tác vụ khác nhau, chẳng hạn như tạo văn bản, tóm tắt, dịch và phân loại. Mặc dù chúng có thể không phù hợp với khả năng mở rộng của LLM, nhưng SLM thường tiết kiệm tài nguyên hơn và có thể hiệu quả cao cho các ứng dụng cụ thể, được nhắm mục tiêu.

Thông báo Hệ thống Thông báo hệ thống (đôi khi được gọi là "siêu yêu cầu") là một chương trình có chức năng hướng dẫn hành vi của hệ thống. Các phần của thông báo hệ thống giúp điều chỉnh hoạt động của hệ thống phù hợp với Nguyên tắc AI của Microsoft và kỳ vọng của người dùng. Ví dụ: một thông báo hệ thống có thể bao gồm một dòng như "không cung cấp thông tin hoặc tạo nội dung có thể gây tổn hại về thể chất, tình cảm hoặc tài chính".

Chức năng

Hành vi hệ thống

Với Copilot, chúng tôi đã phát triển một phương pháp tiếp cận sáng tạo để mang đến trải nghiệm AI cá nhân hóa hơn cho người dùng, mang đến trải nghiệm hấp dẫn có thể giúp người dùng thực hiện nhiều tác vụ khác nhau. Cách tiếp cận sáng tạo này tận dụng nhiều công nghệ tiên tiến, chẳng hạn như ngôn ngữ và mô hình đa phương thức từ Microsoft, OpenAI và các nhà phát triển mô hình khác. Chúng tôi đã nghiên cứu việc triển khai các kỹ thuật an toàn cho các mô hình cơ bản của Copilot trước khi phát hành công khai để phát triển một tập hợp các khả năng và hành vi tùy chỉnh mang lại trải nghiệm Copilot nâng cao. Trong Copilot, người dùng có thể gửi yêu cầu bằng văn bản hoặc giọng nói ngôn ngữ tự nhiên. Phản hồi được hiển thị cho người dùng ở một số định dạng khác nhau, chẳng hạn như phản hồi trò chuyện ở dạng văn bản (với các liên kết truyền thống đến nội dung web nếu cần) và hình ảnh (nếu yêu cầu hình ảnh được đưa ra như một phần của yêu cầu). Nếu người dùng gửi yêu cầu bằng giọng nói ngôn ngữ tự nhiên trong chế độ Lệnh thoại Copilot, họ sẽ nhận được phản hồi bằng âm thanh.

Khi người dùng nhập yêu cầu trong Copilot, yêu cầu, lịch sử hội thoại và tin nhắn hệ thống sẽ được gửi qua một số bộ phân loại đầu vào để giúp lọc ra nội dung có hại hoặc không phù hợp. Đây là bước đầu tiên quan trọng để giúp cải thiện hiệu suất mô hình và giảm thiểu các tình huống mà người dùng có thể cố gắng nhắc mô hình theo cách có thể không an toàn. Sau khi lời nhắc đi qua bộ phân loại đầu vào, xác định được thực hiện nếu yêu cầu yêu cầu dữ liệu cơ bản từ web và mô hình ngôn ngữ nào sẽ phản hồi yêu cầu. Tất cả các mô hình đều tạo ra phản hồi bằng cách sử dụng yêu cầu của người dùng và lịch sử hội thoại gần đây để bối cảnh hóa yêu cầu, thông báo hệ thống để điều chỉnh phản hồi phù hợp với Nguyên tắc AI của Microsoft và kỳ vọng của người dùng, nếu thích hợp, hãy điều chỉnh phản hồi với kết quả tìm kiếm để tạo phản hồi cơ bản trong nội dung xếp hạng cao hiện có từ web.

Phản hồi được trình bày cho người dùng ở một số định dạng khác nhau, chẳng hạn như phản hồi trò chuyện ở dạng văn bản, liên kết truyền thống đến nội dung web, hình ảnh và phản hồi âm thanh. Khi phản hồi được cung cấp dưới dạng văn bản — và phản hồi được dựa trên dữ liệu từ web — đầu ra chứa các trích dẫn siêu liên kết được liệt kê bên dưới văn bản để người dùng có thể truy cập (các) trang web được sử dụng để làm cơ sở cho phản hồi và tìm hiểu thêm về chủ đề từ đó. Copilot cũng có thể chạy mã để hoàn thành các phép tính phức tạp và tạo đồ thị. Copilot có thể lưu trữ các sự kiện cụ thể mà người dùng yêu cầu ghi nhớ, cho phép tạo ra các phản hồi và đề xuất phù hợp hơn dựa trên ngữ cảnh đó. Copilot cũng có thể xóa dữ kiện đã lưu khi người dùng yêu cầu quên chúng một cách rõ ràng.

Copilot cũng giúp người dùng tạo ra những câu chuyện, bài thơ, lời bài hát và hình ảnh mới. Khi Copilot phát hiện ý định tạo nội dung sáng tạo của người dùng (chẳng hạn như lời nhắc của người dùng bắt đầu bằng câu hỏi "viết cho tôi một ..."), trong hầu hết các trường hợp, hệ thống sẽ tạo nội dung đáp ứng yêu cầu của người dùng. Tương tự, khi Copilot phát hiện ý định tạo hình ảnh của người dùng (chẳng hạn như lời nhắc của người dùng bắt đầu bằng "hãy vẽ cho tôi một ..." ), trong hầu hết các trường hợp, Copilot sẽ tạo một hình ảnh đáp ứng yêu cầu của người dùng. Khi Copilot phát hiện ý định sửa đổi hình ảnh đã tải lên của người dùng (chẳng hạn như lời nhắc của người dùng bắt đầu bằng "thêm một ..."), trong hầu hết các trường hợp, Copilot sẽ sửa đổi hình ảnh đáp ứng lời nhắc của người dùng. Copilot có thể không phản hồi bằng nội dung sáng tạo khi lời nhắc người dùng chứa một số thuật ngữ nhất định có thể dẫn đến nội dung có vấn đề.

Hành vi an toàn dự định

Mục tiêu của chúng tôi đối với Copilot là giúp ích cho người dùng và chúng tôi triển khai các biện pháp bảo vệ để giúp giảm khả năng tạo ra nội dung có hại và tăng khả năng có trải nghiệm người dùng an toàn và tích cực. Mặc dù chúng tôi đã thực hiện các bước để giảm thiểu rủi ro, nhưng các mô hình AI tổng quát như mô hình đằng sau Copilot có khả năng xác suất và có thể mắc lỗi, nghĩa là việc giảm thiểu đôi khi có thể không chặn được lời nhắc gây hại của người dùng hoặc phản hồi do AI tạo ra. Nếu bạn gặp phải nội dung gây hại hoặc không mong muốn khi sử dụng Copilot, hãy cho chúng tôi biết bằng cách cung cấp phản hồi để chúng tôi có thể tiếp tục cải thiện trải nghiệm.

Trường hợp sử dụng

Mục đích sử dụng

Copilot được thiết kế để giúp người dùng trả lời câu hỏi, tạo nội dung và hoàn thành nhiệm vụ thông qua ngôn ngữ tự nhiên sử dụng văn bản, hình ảnh và giọng nói. Để cung cấp phản hồi hữu ích và phù hợp, Copilot có thể truy xuất, phân tích và tóm tắt thông tin từ các nguồn sẵn có. Một số tính năng nâng cao có thể chỉ sẵn dùng với người dùng có đăng ký đủ điều kiện. Ví dụ về các trường hợp sử dụng phổ biến bao gồm:

• Chat bằng văn bản và nhận bản tóm tắt dựa trên web. Người dùng có thể trò chuyện với Copilot qua tin nhắn và đặt các câu hỏi tiếp theo để tìm thông tin mới và nhận hỗ trợ về nhiều chủ đề khác nhau. Copilot có thể thực hiện tìm kiếm trên web và sẽ sử dụng kết quả tìm kiếm trên web hàng đầu để tạo bản tóm tắt thông tin để trình bày cho người dùng. Những bản tóm tắt này bao gồm các trích dẫn đến các trang web để giúp người dùng xem xét nguồn kết quả tìm kiếm giúp làm nền tảng cho bản tóm tắt của Copilot. Người dùng có thể nhấp vào các liên kết này để truy cập nguồn trang web nhằm tìm hiểu thêm hoặc đánh giá độ tin cậy của trang web.

• Nhận trợ giúp tạo ra ý tưởng mới. Mỗi lần người dùng tương tác với trải nghiệm Copilot, họ sẽ thấy một bộ thẻ mà họ có thể nhấp vào để bắt đầu trò chuyện với Copilot về các chủ đề hữu ích và thú vị. Nếu người dùng đã tương tác với các dịch vụ người tiêu dùng khác của Microsoft, các thẻ sẽ được cá nhân hóa, theo các chính sách về quyền riêng tư của chúng tôi. Theo thời gian, thẻ trong Copilot có thể được cá nhân hóa dựa trên lịch sử trò chuyện của người dùng. Người dùng có thể chọn không tham gia cá nhân hóa bất cứ lúc nào trong cài đặt.

• Tạo nội dung sáng tạo. Khi trò chuyện với Copilot, người dùng có thể tạo thơ, truyện cười, câu chuyện, hình ảnh mới và các nội dung khác với sự trợ giúp từ Copilot. Copilot cũng có thể chỉnh sửa hình ảnh do người dùng tải lên nếu được yêu cầu.

• Hỗ trợ nghiên cứu. Copilot có thể thực hiện các nhiệm vụ nghiên cứu bằng cách hiển thị các tài nguyên chuyên sâu, cung cấp phân tích chi tiết về các chủ đề và liên kết đến các nguồn để giúp người dùng vượt ra ngoài câu trả lời nhanh cho những truy vấn phức tạp hơn. Copilot có thể chủ động tạo các đề xuất nghiên cứu được cá nhân hóa cho người dùng dựa trên những thông tin như truy vấn nghiên cứu trước đây và bộ nhớ Copilot. Người dùng có thể chọn không nhận cá nhân hóa hoặc thông báo bất cứ lúc nào trong cài đặt.

• Khám phá, so sánh và mua sản phẩm. Copilot Shopping có thể giúp bạn tìm sản phẩm, so sánh các tùy chọn và hợp lý hóa việc mua hàng. Trừ khi được xác định, Microsoft không nhận hoa hồng hoặc khoản bồi thường khác cho các đề xuất sản phẩm hoặc kết quả tìm kiếm được cung cấp trong Copilot.

• Học tập thông minh hơn với Copilot Learn. Copilot Learn có thể tạo các bài kiểm tra và bài kiểm tra thực hành, tạo thẻ ghi nhớ, đồng thời được thiết kế để giúp cải thiện phản hồi bằng hình ảnh nhằm giúp các khái niệm phức tạp trở nên dễ hiểu hơn.

• Nhận trợ giúp với các tác vụ hàng ngày. Copilot Cowork thay mặt bạn thực hiện các tác vụ. Bạn mô tả những gì bạn cần bằng ngôn ngữ tự nhiên, và Cowork thực hiện công việc đó, tạo tài liệu, soạn thảo và gửi email, lên lịch cuộc họp và quản lý tệp. Bạn xem lại và phê duyệt các hành động nhạy cảm trước khi nó xảy ra.

• Phân tích và chỉnh sửa tệp. Tải tệp lên trong Copilot cho phép người dùng tải trực tiếp hình ảnh hoặc một số loại tệp được hỗ trợ vào phiên trò chuyện của họ. Sau khi tải lên, Copilot có thể phân tích và trích xuất thông tin từ các tệp này để cung cấp thông tin chuyên sâu liên quan, trả lời câu hỏi hoặc hỗ trợ các tác vụ cụ thể. Copilot cũng có thể tham chiếu các tệp trong các nhà cung cấp dịch vụ lưu trữ trực tuyến được kết nối của bạn như OneDrive và Google Drive khi bạn cho phép.

• Xem và hiểu. Sử dụng Tầm nhìn để phân tích hình ảnh, nhận thông tin chuyên sâu từ ảnh và tìm kiếm trực quan. Copilot sẽ xem lại các hình ảnh đã tải lên để giúp bạn hiểu rõ những gì bạn đang xem.

• Sử dụng giọng nói của bạn. Trò chuyện tự nhiên với Copilot bằng cách sử dụng trò chuyện thoại. Động não ý tưởng, viết nội dung hoặc nhận câu trả lời nhanh chóng hoàn toàn rảnh tay.

• Kết nối với các ứng dụng khác. Mang vào các ứng dụng và thông tin bạn chọn, như email, lịch, tệp, liên hệ và các dịch vụ khác.

Những điều cần cân nhắc khi chọn các trường hợp sử dụng khác

Chúng tôi khuyến khích người dùng xem xét tất cả nội dung trước khi đưa ra quyết định hoặc hành động dựa trên phản hồi của Copilot, vì AI có thể mắc lỗi và có thể không phù hợp với một số trường hợp sử dụng nhất định. Ngoài ra, có một số kịch bản nhất định mà chúng tôi khuyên bạn nên tránh hoặc vi phạm Điều khoản sử dụng của chúng tôi. Ví dụ: Microsoft không cho phép sử dụng Copilot liên quan đến các hoạt động bất hợp pháp hoặc cho bất kỳ mục đích nào nhằm thúc đẩy hoạt động bất hợp pháp.

Giới hạn

Các mô hình ngôn ngữ, hình ảnh và âm thanh làm nền tảng cho trải nghiệm Copilot có thể bao gồm dữ liệu đào tạo có thể phản ánh thành kiến xã hội, từ đó có khả năng khiến Copilot hành xử theo cách được cho là không công bằng, không đáng tin cậy hoặc xúc phạm. Mặc dù chúng tôi đào tạo mô hình chuyên sâu và tinh chỉnh an toàn, cũng như triển khai các hệ thống an toàn và kiểm soát AI có trách nhiệm mà chúng tôi đưa vào dữ liệu đào tạo, lời nhắc người dùng và đầu ra mô hình, các dịch vụ do AI điều khiển là có thể sai lầm và xác suất. Điều này trở nên khó khăn trong việc chặn toàn diện tất cả nội dung không phù hợp, dẫn đến rủi ro có thể xảy ra thành kiến, định kiến, vô căn cứ hoặc các loại tác hại khác có thể xuất hiện trong nội dung do AI tạo ra. Một số cách mà những hạn chế đó có thể thể hiện trong trải nghiệm Copilot được liệt kê ở đây.

• Rập khuôn: Trải nghiệm Copilot có khả năng củng cố định kiến. Ví dụ: Khi dịch "He is a nurse" và "She is a doctor" sang ngôn ngữ không giới tính như tiếng Thổ Nhĩ Kỳ, rồi chuyển sang tiếng Anh, Copilot có thể vô tình đưa ra kết quả rập khuôn (và không chính xác) như "She is a nurse" (Cô ấy là y tá) và "He is a doctor". Một ví dụ khác là khi tạo hình ảnh dựa trên lời nhắc "Những đứa trẻ mồ côi cha", hệ thống có thể tạo ra hình ảnh của những đứa trẻ chỉ từ một chủng tộc hoặc dân tộc, củng cố các định kiến có hại có thể tồn tại trong các hình ảnh có sẵn công khai được sử dụng để đào tạo các mô hình cơ bản. Copilot cũng có thể củng cố định kiến dựa trên nội dung trong hình ảnh nhập của người dùng bằng cách dựa vào các thành phần của hình ảnh và đưa ra các giả định có thể không đúng. Chúng tôi đã triển khai các biện pháp giảm thiểu để giảm nguy cơ nội dung chứa rập khuôn mang tính xúc phạm, bao gồm bộ phân loại đầu vào và đầu ra, các mô hình được tinh chỉnh và thông báo hệ thống.

• Đại diện quá mức và thiếu đại diện: Copilot có khả năng đại diện quá mức hoặc không đại diện cho các nhóm người, hoặc thậm chí không đại diện cho họ trong phản hồi của mình. Ví dụ: nếu các lời nhắc văn bản có chứa từ "đồng tính" được phát hiện là có khả năng gây hại hoặc xúc phạm, điều này có thể dẫn đến việc cộng đồng LGBTQIA+ đại diện thiếu cho các thế hệ hợp pháp. Ngoài việc bao gồm các bộ phân loại đầu vào và đầu ra, các mô hình được tinh chỉnh cũng như thông báo hệ thống, chúng tôi sử dụng làm giàu yêu cầu trong Designer như một trong một số biện pháp giảm thiểu để giảm nguy cơ nội dung đại diện quá mức hoặc không đúng cho các nhóm người.

• Nội dung không phù hợp hoặc xúc phạm: Trải nghiệm Copilot có khả năng tạo ra các loại nội dung không phù hợp hoặc xúc phạm khác. Ví dụ bao gồm khả năng tạo nội dung trong một phương thức (ví dụ: âm thanh) không phù hợp trong ngữ cảnh của yêu cầu hoặc khi so sánh với cùng đầu ra trong một phương thức khác (ví dụ: văn bản). Các ví dụ khác bao gồm hình ảnh do AI tạo ra có khả năng chứa các hiện vật có hại như biểu tượng thù ghét, nội dung liên quan đến các chủ đề gây tranh cãi, gây tranh cãi hoặc phân cực về mặt tư tưởng và nội dung khiêu dâm né tránh bộ lọc nội dung liên quan đến tình dục. Chúng tôi đã đưa ra các biện pháp giảm thiểu để giảm nguy cơ xảy ra các thế hệ chứa nội dung không phù hợp hoặc xúc phạm, chẳng hạn như bộ phân loại đầu vào và đầu ra, các mô hình được tinh chỉnh và thông báo hệ thống.

• Độ tin cậy thông tin: Trong khi Copilot nhắm đến mục tiêu phản hồi bằng các nguồn đáng tin cậy nơi tìm kiếm thông tin cơ sở, AI có thể mắc sai lầm. Nó có khả năng tạo ra nội dung vô nghĩa hoặc bịa đặt nội dung nghe có vẻ hợp lý nhưng về mặt thực tế là không chính xác. Ngay cả khi thu thập phản hồi từ dữ liệu web có thẩm quyền cao, phản hồi có thể trình bày sai nội dung đó theo cách có thể không hoàn toàn chính xác, cập nhật hoặc đáng tin cậy. Chúng tôi nhắc người dùng thông qua giao diện người dùng và trong tài liệu như thế này rằng Copilot có thể mắc lỗi. Chúng tôi cũng tiếp tục giáo dục người dùng về những hạn chế của AI, chẳng hạn như khuyến khích họ kiểm tra kỹ lưỡng các sự việc trước khi đưa ra quyết định hoặc hành động dựa trên phản hồi của Copilot. Khi người dùng tương tác với Copilot qua văn bản, Copilot sẽ cố gắng dựa trên dữ liệu web chất lượng cao để giảm nguy cơ các thế hệ không có cơ sở.

• Hiệu suất đa ngôn ngữ: Hiệu năng có thể có sự khác nhau giữa các ngôn ngữ, trong đó tiếng Anh hoạt động tốt nhất tại thời điểm phát hành Copilot. Cải thiện hiệu năng giữa các ngôn ngữ là một lĩnh vực đầu tư chính và các mô hình gần đây đã giúp cải thiện hiệu năng.

• Giới hạn âm thanh: Các kiểu âm thanh có thể có những hạn chế khác. Nhìn chung, chất lượng âm thanh của đầu vào giọng nói, tiếng ồn không phải giọng nói, từ vựng, giọng nói và lỗi chèn cũng có thể ảnh hưởng đến việc liệu Copilot có xử lý và phản hồi đầu vào âm thanh của người dùng một cách đầy đủ hay không.

• AI không phải là sự thay thế cho sự trợ giúp chuyên nghiệp: AI có thể là một công cụ hữu ích để giải quyết vấn đề và có thể thấy sự đồng cảm, nhưng nó không thay thế cho việc tìm kiếm sự trợ giúp chuyên nghiệp. Nếu bạn đang bị trầm cảm, có ý nghĩ tự tử hoặc tự làm hại bản thân hoặc các vấn đề sức khỏe tâm thần khác, vui lòng tìm kiếm sự trợ giúp chuyên nghiệp. Bạn cũng có thể sử dụng Copilot để tìm các nguồn tài nguyên về khủng hoảng hoặc sức khỏe tâm thần gần bạn.

• Phụ thuộc vào kết nối Internet: Copilot dựa vào kết nối Internet để hoạt động. Sự gián đoạn trong kết nối có thể ảnh hưởng đến tính khả dụng và hiệu suất của dịch vụ.

• Thận trọng khi tạo hoặc sử dụng tác nhân: Người dùng nên thận trọng khi tạo trợ lý ảo của riêng họ hoặc sử dụng các tác nhân do người khác cung cấp, nhất là nếu các hành động do trợ lý ảo thực hiện có thể gây ra hậu quả đáng kể, không thể đảo ngược hoặc có khả năng chia sẻ thông tin cá nhân nhạy cảm (chẳng hạn như mật khẩu, thông tin đăng nhập hoặc dữ liệu cá nhân). Vì các tác nhân có thể không hoạt động tốt cho tất cả các trường hợp sử dụng và có thể mắc lỗi, hiểu sai hướng dẫn hoặc bị lừa bởi các hướng dẫn ẩn độc hại, người dùng nên theo dõi chặt chẽ kết quả và xem xét các chi tiết quan trọng Người dùng có thể bị hạn chế đối với một số trường hợp sử dụng nhất định, chẳng hạn như truy cập các trang web có hại hoặc tạo nội dung không phù hợp. Cần thực hiện các biện pháp phòng ngừa bổ sung khi tạo AI tác nhân tự động như được mô tả chi tiết hơn trong phần Quy tắc ứng xử trong Thỏa thuận Dịch vụ của Microsoft.

Hiệu suất hệ thống

Trong nhiều hệ thống AI, hiệu năng thường được xác định liên quan đến độ chính xác (tức là tần suất hệ thống AI đưa ra dự đoán hoặc kết quả chính xác). Với Copilot, chúng tôi tập trung vào Copilot như một trợ lý hoạt động trên nền tảng AI phản ánh sở thích của người dùng. Do đó, hai người dùng khác nhau có thể nhìn vào cùng một đầu ra và có ý kiến khác nhau về mức độ hữu ích hoặc liên quan đến tình huống và kỳ vọng riêng của họ, điều đó có nghĩa là hiệu suất cho các hệ thống này phải được xác định linh hoạt hơn. Nói chung, chúng tôi coi hiệu năng có nghĩa là ứng dụng hoạt động như mong đợi của người dùng.

Các biện pháp tốt nhất để cải thiện hiệu suất hệ thống

• Tương tác với giao diện bằng ngôn ngữ giao tiếp tự nhiên. Tương tác với Copilot theo cách khiến người dùng cảm thấy thoải mái là chìa khóa để có được kết quả tốt hơn thông qua trải nghiệm. Tương tự như việc áp dụng các kỹ thuật để giúp mọi người giao tiếp hiệu quả trong cuộc sống hàng ngày, tương tác với Copilot như một trợ lý hoạt động trên nền tảng AI thông qua văn bản hoặc giọng nói quen thuộc với người dùng có thể giúp tạo ra kết quả tốt hơn.

• Trải nghiệm người dùng và tiếp nhận. Việc sử dụng Copilot hiệu quả đòi hỏi người dùng phải hiểu rõ khả năng và giới hạn của nó. Có thể có một đường cong học tập và người dùng có thể muốn tham khảo các tài nguyên Copilot khác nhau (ví dụ: tài liệu này và Microsoft Copilot trợ giúp & học tập) để tương tác hiệu quả và hưởng lợi từ dịch vụ.

Lập bản đồ, đo lường và quản lý rủi ro

Giống như các công nghệ chuyển đổi khác, việc khai thác lợi ích của AI không phải là không có rủi ro và một phần cốt lõi của chương trình AI có trách nhiệm của Microsoft được thiết kế để xác định và ánh xạ các rủi ro tiềm ẩn, đo lường những rủi ro đó và quản lý chúng bằng cách xây dựng các biện pháp giảm thiểu và liên tục cải thiện Copilot theo thời gian. Trong các phần bên dưới, chúng tôi mô tả cách tiếp cận lặp lại của mình để lập bản đồ, đo lường và quản lý rủi ro tiềm ẩn.

Bản đồ: Việc lập kế hoạch cẩn thận và thử nghiệm đối thủ trước khi triển khai, chẳng hạn như tấn công, sẽ giúp chúng tôi lập bản đồ các rủi ro tiềm ẩn. Các mô hình cơ bản hỗ trợ trải nghiệm Copilot đã trải qua quá trình thử nghiệm nhóm màu sắc từ những người thử nghiệm, những người đại diện cho quan điểm đa ngành trên các lĩnh vực chủ đề liên quan. Thử nghiệm này được thiết kế để đánh giá cách thức hoạt động của công nghệ mới nhất cả khi có và không có bất kỳ biện pháp bảo vệ bổ sung nào được áp dụng cho nó. Mục đích của những bài tập này ở cấp mô hình là tạo ra các phản ứng có hại, đưa ra những con đường tiềm ẩn cho việc sử dụng sai mục đích và xác định khả năng và hạn chế.

• Thử nghiệm mức ứng dụng trước khi phát hành. Trước khi đưa Copilot lên lịch công khai, chúng tôi đã tiến hành tấn công cấp ứng dụng để xác định các thiếu sót và lỗ hổng. Thử nghiệm này đã giúp chúng tôi hiểu cách nhiều người dùng có thể sử dụng Copilot và cung cấp thông tin về các cải tiến cho các biện pháp giảm thiểu của chúng tôi.

• Thử nghiệm đang diễn ra. Chúng tôi cũng thử nghiệm các tính năng mới và bản cập nhật kỹ thuật, khi thích hợp, khi cập nhật Copilot. Quá trình liên tục này giúp chúng tôi xác định các rủi ro mới nổi và tinh chỉnh các biện pháp giảm thiểu của mình theo thời gian.

Đo lường: Ngoài việc đánh giá Copilot dựa trên các đánh giá an toàn hiện có của chúng tôi, việc sử dụng tấn công mô tả ở trên đã giúp chúng tôi phát triển các đánh giá và chỉ số AI có trách nhiệm tương ứng với những rủi ro tiềm ẩn đã xác định, chẳng hạn như bẻ khóa, nội dung có hại và nội dung không có căn cứ.

Chúng tôi đã thu thập dữ liệu hội thoại nhắm vào những rủi ro này, sử dụng kết hợp người tham gia và quy trình tạo hội thoại tự động. Mỗi đánh giá sau đó được chấm điểm bởi một nhóm người chú thích được đào tạo hoặc một quy trình chú thích tự động. Mỗi lần sản phẩm thay đổi, các biện pháp giảm nhẹ hiện tại được cập nhật hoặc các biện pháp giảm nhẹ mới được đề xuất, chúng tôi sẽ cập nhật quy trình đánh giá của mình để đánh giá cả hiệu suất sản phẩm và chỉ số AI có trách nhiệm. Các quy trình ngữ cảnh đánh giá tự động này là sự kết hợp của các cuộc trò chuyện được thu thập với những người đánh giá con người và các cuộc hội thoại tổng hợp được tạo bằng LLM được nhắc để kiểm tra các chính sách theo cách đối nghịch. Mỗi đánh giá an toàn này đều được tự động chấm điểm với LLM. Đối với các đánh giá mới được phát triển, mỗi đánh giá ban đầu được chấm điểm bởi những người ghi nhãn con người đọc nội dung văn bản hoặc nghe đầu ra âm thanh, sau đó chuyển đổi thành đánh giá dựa trên LLM tự động.

Hành vi dự kiến của các mô hình kết hợp với quy trình đánh giá của chúng tôi - cả con người và tự động - cho phép chúng tôi nhanh chóng thực hiện đo lường rủi ro tiềm ẩn trên quy mô lớn. Khi xác định các vấn đề mới theo thời gian, chúng tôi tiếp tục mở rộng các bộ đo lường để đánh giá các rủi ro khác.

Quản lý: Khi chúng tôi xác định các rủi ro tiềm ẩn và lạm dụng thông qua tấn công đồng đo lường chúng bằng các phương pháp được mô tả ở trên, chúng tôi đã phát triển các biện pháp giảm thiểu bổ sung dành riêng cho trải nghiệm Copilot. Dưới đây, chúng tôi mô tả một số biện pháp giảm thiểu đó. Chúng tôi sẽ tiếp tục giám sát trải nghiệm Copilot để cải thiện hiệu suất sản phẩm và phương pháp giảm thiểu rủi ro của chúng tôi.

• Kế hoạch phát hành theo giai đoạn và đánh giá liên tục. Chúng tôi cam kết học hỏi và cải thiện phương pháp tiếp cận AI có trách nhiệm của mình liên tục khi công nghệ và hành vi người dùng của chúng tôi phát triển. Chiến lược phát hành gia tăng của chúng tôi là một phần cốt lõi trong cách chúng tôi chuyển công nghệ của mình an toàn từ phòng thí nghiệm ra thế giới và chúng tôi cam kết thực hiện một quy trình chu đáo và chu đáo để đảm bảo lợi ích của trải nghiệm Copilot. Chúng tôi thường xuyên thực hiện thay đổi cho Copilot để cải thiện hiệu suất sản phẩm và các biện pháp giảm nhẹ hiện có, đồng thời triển khai các biện pháp giảm nhẹ mới để đáp ứng các bài học của chúng tôi.

• Tận dụng bộ phân loại và thông báo hệ thống để giảm thiểu rủi ro tiềm ẩn hoặc lạm dụng. Để đáp lại lời nhắc của người dùng, LLM có thể tạo nội dung có vấn đề. Chúng tôi đã thảo luận về các loại nội dung mà chúng tôi cố gắng hạn chế trong phần Hành vi Hệ thống và Giới hạn ở trên. Bộ phân loại và thông báo hệ thống là hai ví dụ về các biện pháp giảm thiểu đã được triển khai trong Copilot để giúp giảm rủi ro của các loại nội dung này. Bộ phân loại sẽ phân loại văn bản để gắn cờ nội dung có khả năng gây hại trong yêu cầu của người dùng hoặc phản hồi được tạo. Chúng tôi cũng sử dụng các phương pháp tốt nhất hiện có để tận dụng thông báo hệ thống, liên quan đến việc đưa ra hướng dẫn cho mô hình điều chỉnh hành vi của mô hình theo các nguyên tắc AI của Microsoft và với kỳ vọng của người dùng.

• Tải hình ảnh lên Copilot Vision. Lần đầu tiên người dùng tải hình ảnh lên Copilot Vision, họ sẽ được cung cấp thông tin về cách Copilot xử lý hình ảnh của họ. Nếu người dùng không tiếp tục tải lên, hình ảnh sẽ không được gửi đến Copilot. Tất cả hình ảnh sẽ bị xóa trong vòng 30 ngày sau khi cuộc hội thoại kết thúc.

• Tiết lộ thông tin của AI. Copilot cũng được thiết kế để thông báo cho mọi người rằng họ đang tương tác với hệ thống AI. Khi người dùng tương tác với Copilot, chúng tôi sẽ cung cấp các điểm tiếp xúc khác nhau được thiết kế để giúp họ hiểu các khả năng của hệ thống, tiết lộ cho họ rằng Copilot hoạt động trên nền tảng AI và giao tiếp các giới hạn. Trải nghiệm được thiết kế theo cách này để giúp người dùng tận dụng tối đa Copilot và giảm thiểu nguy cơ phụ thuộc quá mức. Việc tiết lộ thông tin cũng giúp người dùng hiểu rõ hơn về Copilot và tương tác của họ với Copilot.

• Xuất xứ phương tiện. Đối với tất cả hình ảnh được tạo bằng Copilot, chúng tôi đã triển khai thông tin xác thực nội dung, xuất xứ dựa trên tiêu chuẩn C2PA để giúp mọi người xác định xem hình ảnh được chỉnh sửa hay tạo bằng AI. Có thể xem siêu dữ liệu xuất xứ trên trang Thông tin xác thực Nội dung.

• Tự động phát hiện nội dung. Khi người dùng tải hình ảnh lên trong yêu cầu trò chuyện, Copilot sẽ triển khai các công cụ để phát hiện hình ảnh lạm dụng và bóc lột tình dục trẻ em (CSEAI). Microsoft báo cáo tất cả các CSEAI rõ ràng cho Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC), theo yêu cầu của luật pháp Hoa Kỳ. Khi người dùng tải tệp lên để phân tích hoặc xử lý, Copilot sẽ triển khai tính năng quét tự động để phát hiện nội dung có thể dẫn đến rủi ro hoặc sử dụng sai mục đích, chẳng hạn như văn bản có thể liên quan đến hoạt động bất hợp pháp hoặc mã độc hại.

• Điều khoản Sử dụng và Quy tắc Ứng xử. Người dùng phải tuân thủ Quy tắc ứng xử và Điều khoản sử dụng hiện hành của Copilot, Thỏa thuận Dịch vụ của Microsoft và Điều khoản về quyền riêng tư của Microsoft. Trong đó thông báo cho họ về việc sử dụng được phép và không được phép cũng như hậu quả của việc vi phạm các điều khoản. Điều khoản sử dụng cũng cung cấp các tiết lộ bổ sung cho người dùng và đóng vai trò là tài liệu tham khảo để người dùng tìm hiểu về Copilot. Người dùng vi phạm nghiêm trọng hoặc nhiều lần có thể bị đình chỉ tạm thời hoặc vĩnh viễn khỏi dịch vụ.

• Phản hồi, giám sát và giám sát. Trải nghiệm Copilot bao gồm các công cụ cho phép người dùng gửi phản hồi, được xem xét bởi các nhóm vận hành của Microsoft. Hơn nữa, phương pháp tiếp cận của chúng tôi để lập bản đồ, đo lường và quản lý rủi ro sẽ tiếp tục phát triển khi chúng tôi tìm hiểu thêm và chúng tôi đã thực hiện cải tiến dựa trên phản hồi thu thập được trong thời gian xem trước.

• Phát hiện và ứng phó với các nguy cơ tự tử và Self-Harm. Copilot sử dụng các bộ phân loại máy học được đào tạo để nhận dạng các mẫu ngôn ngữ có thể cho thấy người dùng có ý định tự tử hoặc tự làm hại bản thân. Khi phát hiện nội dung như vậy, hệ thống sẽ tách khỏi cuộc trò chuyện và thay vào đó cung cấp các tài nguyên hỗ trợ khủng hoảng (ví dụ: Đường dây hỗ trợ khủng hoảng và tự tử theo số 988 tại Hoa Kỳ), khuyến khích người dùng tìm kiếm sự trợ giúp chuyên nghiệp. Copilot không cung cấp dịch vụ tư vấn; Vai trò của nó chỉ giới hạn ở việc phát hiện và giới thiệu để đảm bảo an toàn cho người dùng.

• Thông báo sử dụng mở rộng. Copilot có thể nhắc người dùng nghỉ giải lao nếu họ tham gia vào cuộc trò chuyện liên tục trong một khoảng thời gian dài. Người dùng cũng thường xuyên được thông báo rằng AI không phải là con người và có thể mắc sai lầm.

Tìm hiểu thêm về AI có trách nhiệm

• Nguyên tắc Microsoft AI
• Tài nguyên AI có trách nhiệm của Microsoft

Tìm hiểu thêm về Microsoft Copilot

• Microsoft Copilot trợ giúp & học tập