Chain of Thought (CoT) - myšlenkový řetězec
Technika promptování, která přiměje LLM model uvažovat krok za krokem a zlepšuje přesnost u složitých úloh.
Co je Chain of Thought?
Chain of Thought (zkratkou CoT, česky „myšlenkový řetězec") je technika promptování, při které modelu explicitně řeknete, aby řešení rozepsal krok za krokem. Místo jedné věty odpovědi tak LLM nejdřív zveřejní průběžné úvahy a teprve pak dospěje k finálnímu výsledku. U logických, matematických a vícekrokových úloh to znatelně zvyšuje přesnost.
Jak CoT použít
- Zero-shot CoT: Stačí k promptu přidat větu jako „Uvažuj krok za krokem" nebo „Nejdřív rozeber problém, pak odpověz"
- Few-shot CoT: V promptu ukážete modelu několik příkladů, které obsahují postupné řešení (navazuje na few-shot prompting)
- Reasoning modely: Moderní modely (např. o1, Claude s extended thinking) mají CoT zabudované a uvažují samy od sebe
Kdy CoT pomáhá
- Matematické a logické úlohy
- Analýza smluv a dokumentů s mnoha podmínkami
- Rozhodování AI agentů, kteří musí volit další akci
Nevýhoda: delší odpověď znamená více tokenů, tedy vyšší cenu a delší latenci.