RAG s vektory, nebo fulltext: co rozhoduje o kvalitě

Nasazení umělé inteligence při výběru zaměstnanců není technický problém, ale problém odpovědnosti. Algoritmus dokáže během vteřin projít tisíce životopisů a označit ty, které se podobají profilu úspěšných zaměstnanců. Jenže to, co se podobá, nemusí být správné. Etika začíná u otázky, jaká data modelu dodáváte a kdo nese odpovědnost, když systém někoho vyřadí.

Typická chyba je nasadit AI asistenta a přestat účetnictví rozumět. Pokud nevíte, jak se počítá DPH nebo jak zaúčtovat zálohu, asistent vám to nevysvětlí. Další častá chyba je sdílet přístupové údaje k bankovnictví bez omezení. Většina nástrojů dnes nabízí pouze čtení, ale musíte si to ověřit. A poslední věc: ne všechny doklady jsou elektronické. Papírové účtenky musíte naskenovat nebo vyfotit, a to je práce, kterou za vás nikdo neudělá.

Kde AI opravdu pomůže a kde je to jen reklama Největší přínos bývá u párování bankovních transakcí s doklady. Asistent se naučí vaše typické platby a sám navrhne, který doklad k platbě patří. To ušetří hodiny ručního hledání, pokud máte hodně malých plateb kartou. Naopak kategorizace pro daňové přiznání zůstává na vás. Žádný nástroj nezná vaše konkrétní daňové úpravy, odpočty ani způsob, jakým vedete sklad. Výstup z AI je vždy jen návrh, ne hotové daňové přiznání.

Typické chyby mají společné jádro: příliš obecný prompt, chybějící příklady a žádné testy. Napiš alespoň dvacet reprezentativních dotazů včetně nesmyslů a urážek a sleduj, jak bot reaguje. Zaved pravidlo, že když si není jistý, řekne to a nabídne kontakt nebo jiný postup. Vyhni se tónu, který slibuje víc, než bot umí. Lepší je kratší odpověď s jasným omezením než sebevědomý výmysl.

Při samotném napojení se vyhněte dvěma častým chybám. První je podcenění idempotence: pokud um podporuje opakované odeslání stejného požadavku, použijte unikátní klíč, aby se operace neprovedla dvakrát. Druhou chybou je ignorování stavových změn. Některá rozhraní posílají události asynchronně, takže se nespoléhejte jen na okamžitou odpověď. Ověřte si, zda je potřeba nastavit webhook nebo pravidelně dotazovat stav.

Od prototypu k něčemu, co unese provoz Začni v jednom souboru: načti dotaz, zavolej model, vypiš odpověď. Teprve potom přidávej paměť konverzace, omezení tématu a logování. U paměti pozor na růst kontextu — drž jen posledních několik výměn a shrnutí starších. U logování si nastav, co se ukládá a na jak dlouho, protože konverzace často obsahují osobní údaje. Nikdy neposílej do promptu celou databázi ani celé soubory, vždy jen vybrané úryvky.

RAG systém stojí na dvou pilířích: na tom, jak dobře umíte najít relevantní části dokumentů, a na tom, jak z těch částí sestavíte kontext pro model. Většina lidí začne vektorovou databází a embeddingy, ale zapomene na chunking. Právě dělení textu rozhoduje o tom, jestli vyhledávač vrátí smysluplný úryvek, nebo půlku věty bez kontextu. Chunk by měl odpovídat jedné myšlence, typicky 200–500 tokenů, s překryvem 10–20 %, aby se informace na hranicích neztratila.

Malá firma obvykle řeší účetnictví dvěma způsoby: buď ho dělá externí účetní, nebo si ho vedou sami v nějakém programu. AI asistenti se tváří jako třetí cesta, která zvládne obojí. Jenže rozdíl mezi reklamním videem a realitou je hlavně v tom, co všechno musíte doplnit ručně. Než začnete něco platit, ověřte si, jak konkrétně vám to ušetří čas.

Postavit si vlastního chatbota dnes neznamená trávit týdny psaním modelu od nuly. Většina praktických řešení stojí na hotovém jazykovém modelu, ke kterému přidáš vlastní logiku, data a rozhraní. První krok není technický, ale věcný: napiš si na papír, jaký problém má bot řešit. Objednávky, FAQ, sběr leadů, interní vyhledávání? Bez této věty skončíš u hračky, která umí jen zdvořile odpovídat na cokoli.

Z kandidátů vyberte tři až pět chunků, seřaďte je podle skóre a vložte do promptu. Do systémové zprávy napište jasně: odpovídej pouze z poskytnutých úryvků, pokud tam odpověď není, řekni to. Uveď v promptu i zdroj, ať model cituje. Teplotu nastavte nízko, aby model neimprovizoval. Pokud kontext přesáhne limit, použijte reranker, který vybere jen nejrelevantnější pasáže, místo abyste slepě posílali vše.

Reálné náklady nejsou jen předplatné. Počítejte s časem na zavedení: nahrání číselníků, nastavení pravidel a první měsíce, kdy musíte opravovat chyby. Některé nástroje účtují za počet zpracovaných dokladů, takže při sezónním nárůstu faktur cena vyskočí. Jiné mají pevný tarif, ale omezují počet uživatelů nebo připojení k bankám. Předplatné se navíc často platí ročně dopředu a zkušební verze bývá krátká. Přečtěte si, co se stane s daty po skončení předplatného.