RAG (Retrieval-Augmented Generation).
Technika, kde LLM pred odpoveďou vyhľadá relevantné dokumenty v knowledge base a odpovedá na ich základe — minimalizuje halucinácie.
RAG kombinuje vyhľadávanie a generovanie. Postup: užívateľská otázka sa premení na vector embedding, vo vector databáze sa nájdu najpodobnejšie pasáže z firemnej knowledge base a tie sa pošlú LLM ako kontext spolu s otázkou. LLM odpovie na základe nájdených dát, čím sa drasticky znižuje halucinácia. RAG je štandard pre firemných chatbotov, FAQ asistentov, vyhľadávanie v dokumentoch a interných copilotov.
Vector databáza
Špecializovaná databáza na ukladanie a vyhľadávanie embeddingov — základ RAG aplikácií.
Embedding
Číselná reprezentácia textu (vektor), ktorá zachytáva sémantický význam a umožňuje semantické vyhľadávanie.
Knowledge base (KB)
Štruktúrovaný zdroj firemných znalostí — FAQ, návody, dokumentácia — z ktorého AI agent čerpá odpovede.
LLM
Large Language Model — rozsiahly jazykový model natrénovaný na obrovskom korpuse textu, schopný generovať a rozumieť prirodzenému jazyku.
Hľadáte nasadenie RAG (Retrieval-Augmented Generation) vo firme?
Bezplatná konzultácia. 30 minút online. Po nej viete, či má pre vás zmysel pokračovať.