Definícia

AI halucinácia je jav, keď systém umelej inteligencie vytvorí nepravdivú, nepresnú alebo nepodloženú informáciu a podá ju ako vierohodnú odpoveď. Môže napríklad vymyslieť neexistujúcu štúdiu, uviesť nesprávnu štatistiku, prisúdiť výrok nesprávnej osobe alebo doplniť detail, ktorý nemá oporu v dostupných podkladoch.

Halucinácie sa spájajú najmä s generatívnou umelou inteligenciou a veľkými jazykovými modelmi. Tie pri tvorbe textu predpovedajú ďalšie slová podľa naučených vzorcov a aktuálneho kontextu. Výsledok preto môže znieť presvedčivo, aj keď fakticky nesedí.

Práve vierohodná forma robí AI halucinácie problematickými. Chybná informácia nemusí na prvý pohľad pôsobiť ako chyba.

Popis

AI môže halucinovať rôznymi spôsobmi. Niekedy si vymyslí celý zdroj alebo udalosť, inokedy pridá chybný detail k inak správnej odpovedi alebo spojí viac informácií do tvrdenia, ktoré nezodpovedá realite.

Typickým príkladom je, keď AI:

  • vymyslí knihu, článok alebo vedeckú štúdiu,
  • uvedie neexistujúci odkaz či citáciu,
  • doplní nesprávny údaj o skutočnej osobe alebo udalosti,
  • spojí informácie z rôznych kontextov do nepravdivého tvrdenia,
  • vytvorí odpoveď bez dostatočnej opory v poskytnutých podkladoch.

Nie každá chyba AI musí mať rovnaký charakter. Model môže pracovať so zastaranou informáciou, nesprávne pochopiť zadanie alebo urobiť logickú chybu. Pri halucinácii je typické najmä to, že vytvorí chybný či nepodložený obsah, ktorý napriek tomu pôsobí vierohodne.

Riziko možno znižovať kvalitnejším kontextom, prepojením na overené zdroje alebo takzvaným groundingom, pri ktorom systém opiera odpoveď o konkrétne dáta či dokumenty. Ani tieto postupy však nezaručia, že sa halucinácie nikdy neobjavia.

Pri práci s generatívnou AI má preto zmysel overovať najmä konkrétne fakty, čísla, citácie a odkazy na zdroje. Pri právnych, zdravotných, finančných alebo iných citlivých informáciách je kontrola ešte dôležitejšia.

Príklad

Používateľ požiada AI, aby našla výskum o vplyve sociálnych sietí na nákupné správanie. Model uvedie názov štúdie, mená autorov, rok vydania aj konkrétne výsledky.

Keď si používateľ zdroj overí, zistí, že takáto štúdia neexistuje. AI vytvorila údaje, ktoré formálne pripomínajú reálnu akademickú citáciu, no nemajú oporu v skutočnom zdroji.

AI halucinácia teda môže pôsobiť presne a dôveryhodne, hoci samotná informácia nie je pravdivá alebo ju nemožno overiť.