Definícia

AI grounding je proces, pri ktorom sa odpoveď generatívnej umelej inteligencie opiera o konkrétne a overiteľné zdroje informácií. Model tak nevychádza iba zo znalostí získaných počas tréningu, ale dostáva aj aktuálny alebo špecifický kontext, napríklad firemné dokumenty, databázy či informácie z webu.

Grounding pomáha zvyšovať presnosť a dôveryhodnosť výstupov generatívnej AI a znižovať riziko halucinácií, teda odpovedí, ktoré pôsobia vierohodne, ale obsahujú nepravdivé alebo nepodložené informácie.

Popis

Jazykový model nemusí poznať najnovšie informácie ani interné dáta konkrétnej firmy. Grounding mu preto pri konkrétnej úlohe poskytne dodatočný kontext, z ktorého môže pri tvorbe odpovede vychádzať.

Zdrojom môžu byť napríklad:

  • interné smernice a firemná dokumentácia,
  • produktové katalógy,
  • databázy a informačné systémy,
  • aktuálne výsledky vyhľadávania,
  • odborné alebo iné dôveryhodné zdroje.

Jednou z najčastejších techník groundingu je RAG (Retrieval-Augmented Generation). Systém najskôr vyhľadá informácie relevantné pre otázku používateľa a následne ich poskytne modelu ako kontext pre vytvorenie odpovede.

RAG však nie je synonymom groundingu. Grounding je širší princíp a možno ho dosiahnuť aj inými spôsobmi, napríklad vložením potrebných informácií priamo do promptu alebo prepojením AI s externými nástrojmi a dátovými zdrojmi.

Grounding si netreba zamieňať ani s trénovaním či dolaďovaním modelu. Pri groundingu sa model nemení. Namiesto toho dostáva pri konkrétnej úlohe relevantné informácie, ktoré môže použiť pri tvorbe výstupu.

Výsledok zároveň závisí od kvality zdrojov aj od toho, ako ich model interpretuje. Grounding preto môže výrazne znížiť riziko nepresností, ale nezaručuje, že každá odpoveď bude správna.

Príklad

Firma používa AI asistenta na odpovedanie zamestnancom na otázky o interných pravidlách. Pri každej otázke systém vyhľadá relevantné časti aktuálnych firemných smerníc a poskytne ich modelu ako podklad.

Odpoveď tak nevychádza iba zo všeobecných znalostí modelu, ale je ukotvená v konkrétnych interných dokumentoch.