Stručne a jasne: príručka o dĺžke dokumentov, ktoré poskytujete službe Copilot

Pri písaní Copilot výziev môžete Copilot poskytnúť informácie alebo vzorky – zdroj, ktorý Copilot použiť. Môžete sa napríklad spýtať Copilot v Word: Napíš osnovu marketingového plánu na základe vlastností produktu op.saných v tomto dokumente. Ak však chcete dosiahnuť čo najlepší výstup z Copilot, je dôležité zvážiť dĺžku obsahu, ktorý Copilot, pretože existujú obmedzenia veľkosti dokumentov, ktoré Copilot dokážu čítať naraz.

V závislosti od typu úloh, ktoré zadáte službe Copilot, sa niekedy Copilot sústredí len na začiatok dokumentu (až po jeho hranice) a potom ignoruje všetko, čo je za ním. Ak napríklad položíte otázku na konkrétnu tému v dlhom dokumente, dĺžka dokumentu zvyčajne neovplyvní schopnosť získať výsledok na základe toho, ako veľké jazykové modely (LLM) uvažujú nad obsahom. Ak však požiadate o zhrnutie dlhého dokumentu, úloha si vyžaduje celý kontext dokumentu, ktorý bude informovať o výstupe. V druhom prípade vstupujú do hry dĺžkové limity, ktoré ovplyvňujú výstup.

V prípade scenárov, keď je na poskytnutie odpovede pre službu Copilot potrebný celý kontext dokumentu, je niekoľko dobrých pravidiel týkajúcich sa dĺžky dokumentu, ktorý poskytujete Copilot:

• Pri sumarizáciu alebo odkazovanie na obsah, udržať celkom maximálne 1,5 milióna slov alebo 300 strán, aby Copilot funguje efektívne.

• Kladenie Copilot otázok týkajúcich sa dokumentu funguje najlepšie, ak je dokument menší ako približne 1,5 milióna slov.

• Prepisovanie najlepšie funguje pri dokumente, ktorý má menej ako približne 3000 slov.

Udržiavanie súborov, ktoré poskytujete službe Copilot, v rámci týchto limitov veľkosti pomáha službe Copilot čítať a reagovať na vaše dokumenty presne a efektívne. Ak je váš dokument dlhší ako tieto limity, Copilot vám môže pomôcť, ale zameria sa len na prvú časť dokumentu. Bolo by to, ako keby ste si prečítali len niekoľko prvých kapitol knihy a snažili sa uhádnuť zvyšok (čo je to, čo v tomto prípade robí Copilot).