Jak funguje LLM, token a RAG — vysvětleno jednoduše
Srozumitelně a bez matematiky — co je velký jazykový model, co je token, proč AI někdy chybuje a co řeší RAG.
📚 Součást série Od nuly k AI agentovi lekce 1 z 4 →- Pochopit, co LLM ve skutečnosti dělá
- Vědět, co je token a proč se podle něj platí
- Rozumět tomu, k čemu je RAG
Než začneš AI reálně používat, pomůže rozumět tomu, co se pod kapotou děje. Nemusíš znát matematiku — stačí tři pojmy: LLM, token a RAG.
Co je LLM
LLM (large language model, velký jazykový model) je AI natrénovaná na obrovském množství textu. V jádru dělá jednu jedinou věc: na základě toho, co už bylo napsáno, předpovídá, jaké slovo přijde dál. Když to dělá dost dobře, vznikne z toho souvislá odpověď, překlad, shrnutí nebo kód.
Zní to skoro moc jednoduše — ale právě z téhle „předpovědi dalšího slova” v obřím měřítku vyroste schopnost psát, vysvětlovat i programovat. Známé LLM jsou ChatGPT (OpenAI), Claude (Anthropic), Gemini (Google) nebo Llama (Meta).
Co je token
Model nepracuje přímo se slovy, ale s tokeny — kousky textu. Token může být celé slovo, jeho část, nebo i mezera. Zhruba platí, že 1000 tokenů ≈ 750 slov.
Proč to řešit? Protože ceny za AI se počítají za tokeny — zvlášť za vstup (co pošleš) a za výstup (co model vygeneruje). A modely mají limit, kolik tokenů zvládnou naráz (tzv. kontextové okno). Když posíláš dlouhý dokument, spotřebuješ víc tokenů.
Co je RAG
RAG (retrieval-augmented generation) řeší jeden zásadní problém: model zná jen to, na čem byl natrénovaný — nezná tvoje dokumenty, tvůj web ani včerejší novinky.
RAG funguje tak, že před odpovědí model nejdřív vyhledá relevantní informace (v tvých dokumentech, databázi, na webu) a ty mu přiloží k dotazu. Model pak odpovídá na základě konkrétních podkladů, ne jen z paměti.
Zjednodušeně:
- Zeptáš se.
- Systém najde k dotazu relevantní kousky tvých dat.
- Pošle modelu: „Odpověz na tohle a použij tyhle podklady.”
- Model odpoví konkrétně a s menší šancí na halucinaci.
Díky RAG postavíš třeba chatbota nad vlastní dokumentací nebo asistenta, který zná tvoje data.
Shrnutí
- LLM = AI, která předpovídá další slovo → umí psát, vysvětlovat, programovat.
- Token = kousek textu; podle tokenů se platí i měří limit.
- RAG = přiložení vlastních podkladů, aby model odpovídal konkrétně a ne z paměti.
Další krok: teď víš, jak to uvnitř funguje — pojď se naučit jak psát prompty, aby ti model dával přesně to, co chceš →
Komentáře