Halucinácia.
Stav, keď LLM s istotou tvrdí informáciu, ktorá nie je pravdivá — najväčšie riziko produkčných nasadení.
Halucinácia je výmysel, ktorý model prezentuje ako fakt. Pôvod: model bol trénovaný predikovať pravdepodobné pokračovanie textu, nie overovať pravdu. Mitigácie: RAG (zakotvenie odpovede v dátach), citácie zdrojov, low temperature pre deterministickejšie výstupy, validácia výstupu druhým modelom, human-in-the-loop pri kritických rozhodnutiach. Pri firemných nasadeniach je nulová tolerancia halucinácií pri financiách, právnych a medicínskych témach.
RAG (Retrieval-Augmented Generation)
Technika, kde LLM pred odpoveďou vyhľadá relevantné dokumenty v knowledge base a odpovedá na ich základe — minimalizuje halucinácie.
LLM
Large Language Model — rozsiahly jazykový model natrénovaný na obrovskom korpuse textu, schopný generovať a rozumieť prirodzenému jazyku.
Hľadáte nasadenie Halucinácia vo firme?
Bezplatná konzultácia. 30 minút online. Po nej viete, či má pre vás zmysel pokračovať.