Co je halucinace
AI může působit sebejistě i ve chvíli, kdy si informace domýšlí. Plynulý tón není důkaz pravdivosti. U faktů, čísel, citací a důležitých tvrzení je vždy potřeba ověření.
Plynulé ≠ pravdivé
AI může působit sebejistě i ve chvíli, kdy si informace domýšlí. Plynulý tón není důkaz pravdivosti. U faktů, čísel, citací a důležitých tvrzení je vždy potřeba ověření.
Proč k halucinaci došlo?
Model nerozlišuje svět na jednoduché kategorie „vím" a „nevím" tak, jak to dělá člověk. Generuje nejpravděpodobnější pokračování textu, a když mu chybí jistá opora, může mezeru vyplnit něčím, co zní věrohodně, ale není to pravda.
Bez vyhledávání, citací nebo napojení na spolehlivý zdroj si model sám realitu neověří. Proto je dobré sledovat nejen to, jak odpověď zní, ale i z čeho vychází.
Praktické pravidlo: čím důležitější téma, tím méně se spoléhej na plynulost a tím víc ověřuj.
Jak halucinaci poznat
- Příliš sebejistý tón bez zdrojů.
- Podezřele konkrétní čísla u věcí, které těžko může vědět.
- Neověřené citace, smyšlené studie, odkazy, které nejdou dohledat.
- Informace o událostech, které se staly až po datu trénování modelu.
Když je téma důležité, ptej se modelu, z čeho vychází, v čem si není jistý a co je potřeba ověřit. Většinou ti to řekne sám - pokud se ho zeptáš.