Stručně: Grounding ukotvuje generovanou odpověď v dohledaných podkladech. RAG, retrieval-augmented generation, před generováním vyhledá relevantní obsah a přidá jej modelu jako kontext.
Jak Grounding a RAG používám v praxi
V praxi pojem Grounding a RAG nepoužívám jako další číslo do prezentace. Nejdřív si určím, které rozhodnutí má zpřesnit, z jakých dat nebo pozorování vychází a kdo podle výsledku něco změní. Odděluji fázi vyhledání zdrojů od samotného generování a kontroluji, zda výstup skutečně odpovídá tomu, co citované podklady říkají. Zapisuji také výchozí stav, datum měření a hranice interpretace. Díky tomu lze později rozlišit skutečný posun od změny nástroje, vzorku nebo formulace dotazu.
Na co si dát pozor
Největší riziko je přesnost, která je pouze na pohled. Ani kvalitní zdroj nezabrání chybě, když jej systém špatně vybere, vytrhne z kontextu nebo zkombinuje s rozpornými podklady. Výsledek proto porovnávám v čase, na stabilním vzorku a společně s obchodním kontextem. Pokud pojem nevede ke konkrétnímu dalšímu kroku, nevznikla analýza, ale jen nový štítek.
Otázky pro rozhodnutí
- Z jakého korpusu systém zdroje vybírá?
- Lze dohledat cestu od tvrzení ke zdroji?
- Jak se řeší rozpory a zastaralé informace?
- Kde je nutná lidská kontrola?