預覽) (Copilot Code 安全性考量

重要

Microsoft Copilot 使用 AI,可能會犯錯或誤解指示。 請仔細檢閱要求和結果,尤其是在 Copilot 程式碼執行命令、連線至網際網路、變更檔案之前,或是在您共用個人資訊之前。 您需要對 Copilot 代表您採取的動作負責。 使用 Copilot 即表示您同意 使用規定。 如需詳細資訊,請參閱 Microsoft 隱私權聲明。

適用於個人帳戶的 Microsoft Copilot 代碼目前處於預覽階段。

此資訊與發行前版本產品相關,在發行前可能會進行大幅修改。 Microsoft 對此處提供的資訊,不提供任何明示或隱含的瑕疵擔保。

Copilot 程式碼可以為您撰寫及執行軟體,並在您的裝置上採取動作。 Microsoft 在 Copilot 程式碼中內建保護措施,以協助降低風險。 您仍需負責檢閱及核准其功能。

Copilot Code 如何協助保護您的安全

  • 在敏感性動作之前先核准。 Copilot 程式碼可以讀取和寫入您選取的專案資料夾中的檔案。 根據預設,它會在存取其他位置、連線到網際網路、執行命令或刪除檔案之前徵求您的核准。
  • 用於本機專案的沙箱。 當 Copilot Code 處理您裝置上的專案時,它會使用沙箱。 沙箱會限制 Copilot 程式碼及其執行的命令可以存取的檔案和網路資源,其限制也適用於網頁預覽。 沙箱預設為開啟,並與核准要求一起運作。 核准動作不會覆寫沙箱限制。 如果不允許某項動作,Copilot 程式碼會告訴您封鎖的內容和原因。 未經允許,它不會悄悄地重試該動作。
  • 沙箱的限制。 沙箱有助於降低風險,但不會移除風險。 您可以在 [設定] 中關閉沙箱。 當它關閉時,其檔案和網路限制不再適用,但您的核准設定仍然適用。 沙箱也不涵蓋您在 Copilot Code 工作階段之外自行啟動的應用程式。 在您自行執行之前,先檢閱產生的程式碼。
  • 核准僅限於您的工作階段。 您在工作階段期間給予的核准會套用至該工作階段,且不會套用至其他交談。 當 [永遠允許] 開啟時,此規則不適用,因為 [永遠允許] 會跨工作階段持續存在。
  • 有害內容篩選器。 AI 分類器和內容篩選器可協助尋找並封鎖提示和 Copilot 程式碼回應中的有害內容。 此內容包含仇恨言論、暴力、色情內容、自我傷害和受保護的內容。
  • 拒絕不安全要求的內建指示。 系統指示指示 Copilot 程式碼拒絕不適當的要求,並避免產生不安全或惡意程式碼。
  • 可見進度。 Copilot 程式碼會顯示每個步驟的運作方式,並在支援的地方顯示即時預覽,讓您可以判斷步驟是否朝著您不想要的方向發展。
  • 發行前測試。 Microsoft 使用對抗性提示、紅隊練習和自動分類器測試了 Copilot 程式碼。 測試涵蓋有害內容、不安全或惡意程式碼、越獄嘗試以及試圖使其在未經您批准的情況下採取行動。

需要注意的風險

  • 非預期的動作。 Copilot 程式碼可能會誤解您的要求,並變更、覆寫或刪除您不想要的檔案。 請仔細檢閱核准要求,如果出現問題,請停止工作。
  • 提示注入。 Copilot 程式碼讀取的 Files、存放庫、網頁或套件可能包含旨在操作它的隱藏指令。 如果 Copilot Code 要求您未預期的核准,或嘗試您未要求的動作,請取消該工作並加以檢閱。
  • 執行命令和下載程式碼。 當您核准命令或下載時,Copilot 程式碼可以安裝套件,並從網際網路執行程式碼。 只核准您理解和信任的內容。
  • 一律允許。 當 [一律允許] 為開啟時,Copilot Code 不會先詢問,再採取動作,包括檔案變更、刪除、下載和 GitHub 推送。 在 [使用] 一律允許一律中深入了解風險以及如何關閉。
  • GitHub。 當您連線 GitHub 時,Copilot Code 可以讀取您的存放庫,並在您核准後推送變更。 檢查它正在哪個存放庫和分支中運作,特別是對於公用存放庫。
  • 不安全或不正確的代碼。 AI 產生的程式碼可能包含錯誤或安全性弱點。 在您依賴或共用 Copilot Code 之前,先測試它所建置的內容。
  • 個人資訊。 請勿在提示或專案檔案中放入密碼、金鑰或其他機密資料。 在您共用 App 之前,請確定它不包含您想要保密的資訊。
  • 敏感用途。 在沒有適當測試和人工檢閱的情況下,請勿使用 Copilot 程式碼來建置用於重要或安全關鍵目的的軟體。 例如,診斷健康狀況或影響某人獲得信貸、住房或就業機會的軟體。

注意

除非您開啟 [永遠允許],否則 Copilot Code 不會在未經您核准的情況下採取敏感性動作。 您可以隨時在動作完成之前停止動作、暫停 Copilot 程式碼或取消工作。

使用 Copilot Code 的其他方式