Microsoft Copilot 中的視覺如何運作

Microsoft Copilot 中的視覺可讓您共用桌面螢幕或行動相機,並詢問 Copilot 您所看到的內容,並提供以共用內容和工作資料為根據的答案。 若要開始使用它,請參閱開始使用 Microsoft Copilot 中的視覺

視力如何運作?

視覺會將您分享的資訊轉換成 Copilot 可以推理的資訊,然後將其與您的工作資料結合,大聲回答您。

  • 您可以在語音交談時共用視覺輸入: 桌面畫面 (在 Windows 或網頁) ,或行動裝置相機。
  • Copilot 會將共用螢幕或相機內容轉換成可分析的資料,包括文字、影像、圖表和螢幕介面。
  • Copilot 會結合其所看到的內容與您的 Microsoft 365 工作資料 ,例如文件、電子郵件和先前的討論,以根據其回應。
  • Copilot 會即時以語音回答,因此您可以在同一次交談中提出後續問題。

視覺能做什麼?

以下是您可以使用視覺執行的一些最有用的操作:

  • 分析並說明您正在查看的內容。 要求 Copilot 解譯圖表、表格、投影片或密集文字。 例如,「摘要此儀表板,並醒目提示任何異常。」
  • 將意見反應轉化為後續步驟。 共用一頁文件、電子郵件或聊天,並詢問「我收到了哪些意見反應?我接下來要做什麼?」
  • 取得專案狀態更新。 共用追蹤器或工作項目,並詢問「提供此項目的快速狀態、目前擁有者,以及下一個里程碑」。
  • 取得內容相關的逐步說明。 將手機相機指向裝置錯誤,並詢問「如何?修正此錯誤?」

視力有哪些限制?

  • 目前只能透過與 Copilot 的語音聊天來取得視覺。
  • 每日使用量是根據可用容量而定,並會計入您的每日語音使用量。 當您接近可用使用量時,系統會在 Copilot 應用程式中通知您。
  • 視覺無法讀取影片或動畫 GIF。
  • 提問時在視窗之間切換太快,可能會導致 Copilot 根據錯誤的螢幕內容進行回應。
  • 視覺無法採取動作或直接操作螢幕上的項目。
  • 視力沒有長期回憶。 它不會重複使用先前工作階段的螢幕或相機輸入。

注意

這些是啟動時的功能。 持續的改進可能會隨著時間解決其中一些限制。

視力可以存取什麼?

在作用中工作階段期間,Copilot 會處理您選擇要共用的螢幕或相機內容,以及您的 Microsoft 365 工作資料,以奠定其答案基礎,例如文件、電子郵件、會議和先前的討論。

  • 視覺輸入是由使用者起始且受工作階段限制,因此 Copilot 只能使用使用中工作階段期間共用的內容。
  • 共用螢幕或相機內容會處理為一系列影像。 音訊和視訊資料會暫時儲存,供您提供意見反應給 Microsoft,並會在 48 小時後刪除。
  • 語音交談中的文字文字記錄的儲存和管理方式與 Microsoft Copilot 應用程式中的文字交談相同。
  • Vision 遵守 Microsoft 對資料安全性和隱私權的企業級承諾,並且不會推斷出種族或情感等敏感個人屬性。

如需詳細資訊,請參閱 Microsoft Copilot 的資料、隱私權和安全性

支援哪些類型的內容?

視覺可以理解一系列螢幕上和真實世界的內容,包括:

  • 文字、影像、圖表、表格和儀表板。
  • 桌面上的應用程式介面和多視窗工作流程。
  • 透過行動相機檢視的實體物件。

支援哪些語言?

視覺提供 Microsoft Copilot 支援的所有語言版本。 某些語言可能更容易出現發音或辨識差異。 如需完整清單,請參閱 Microsoft Copilot 支援的語言

如何評估願景對話? 哪些計量可用來測量效能?

為了確保品質,系統會提供 Copilot 測試問題,並根據相關性、正確性、完整性、語氣和指示遵循性等準則評估其回應。 為了更有效地測量效能,我們也會檢閱功能使用狀況、按讚率、參與率和使用者意見反應。 我們還進行廣泛的安全評估,以確保視力以負責任的方式回應有害查詢。

如何?在 Copilot 中提供關於視力的意見反應?

您可以在結束語音交談後提供意見反應。 您應該會在聊天記錄中看到豎起大拇指/向下拇指,並與 Microsoft 共用以取得功能改進。 我們不會使用此意見反應來訓練 Copilot 所使用的基礎模型。

在 Copilot 中使用視覺的更多方式