Halucinace AI (Hallucination)
Jev, kdy AI model vygeneruje přesvědčivě znějící, ale fakticky chybnou nebo smyšlenou informaci.
Co je halucinace AI?
Halucinace je situace, kdy AI model vygeneruje odpověď, která zní přesvědčivě a sebejistě, ale ve skutečnosti je nepravdivá nebo vymyšlená. Model „neví, že neví" - nemá mechanismus pro ověřování faktů, proto si je jednoduše domyslí.
Příklady halucinací
- Vymyšlené citace knih nebo vědeckých článků, které neexistují
- Chybná data, čísla nebo historické události
- Smyšlení lidé nebo firmy prezentovány jako reálné
Jak halucinacím předejít
- RAG: Model odpovídá pouze z ověřených dokumentů, které mu předložíte
- Systémový prompt: Instrukce jako „Pokud nevíš, řekni to"
- Nižší temperature: Menší kreativita = méně vymýšlení