Pred pár mesiacmi mi jeden kolega, inak triezvo uvažujúci človek, poslal text s poznámkou pod čiarou odkazujúcou na štúdiu z renomovaného časopisu. Štúdia znela presvedčivo, číslo ročníka sedelo, meno autora znelo dôveryhodne. Jediný problém — neexistovala. Chatbot si ju vymyslel s takou istotou, že by pri nej obstál aj skúsený podvodník. A práve v tom je háčik: umelá inteligencia neklame preto, že by chcela klamať. Ona jednoducho nevie, že klame.
Tento jav sa odborne volá halucinácia a nie je to chyba systému, je to jeho podstata. Jazykový model nehľadá pravdu, hľadá najpravdepodobnejšie ďalšie slovo. Keď mu chýbajú fakty, nezastaví sa a nepovie "neviem". Poskladá vetu, ktorá znie štatisticky správne, aj keď je vecne úplne mimo. A keďže to robí plynulo, sebavedomo a bez zaváhania, veríme mu presne tak, ako by sme verili kolegovi, ktorý vie, o čom hovorí.
Prvý filter: overte zdroj, nie tón
Najväčšia chyba, ktorú pri práci s AI robíme, je posudzovať dôveryhodnosť podľa toho, ako text znie. Sebavedomý štýl s odbornými výrazmi pôsobí presvedčivo bez ohľadu na to, či je pravdivý. Preto prvé pravidlo znie: každé konkrétne tvrdenie — číslo, dátum, meno, citácia, zákon, štatistika — si vyžaduje samostatné overenie mimo nástroja, ktorý ho vygeneroval. Nie v tom istom chate. Nie druhou otázkou tomu istému modelu, lebo ten si svoju chybu pokojne zopakuje, niekedy aj s väčšou istotou než prvýkrát.
Funguje jednoduchý test: ak by ste to isté tvrdenie počuli od cudzieho človeka v krčme, overili by ste si ho? Ak áno, overte si aj to, čo napísala AI. Rozdiel medzi nimi je menší, než by sa zdalo — obaja môžu znieť presvedčivo a obaja sa môžu mýliť.
Dôverovať AI bez overenia je ako veriť kolegovi, ktorý sa nikdy nepomýlil — len preto, že to ešte nikto nezachytil.
Druhý filter: pýtajte sa na zdroj priamo
Dobrý spôsob, ako model prinútiť k väčšej opatrnosti, je požiadať ho, aby uviedol konkrétny zdroj a zároveň priznal mieru istoty. Otázka "si si tým istý a odkiaľ to vieš" niekedy stačí na to, aby model sám priznal neistotu alebo opravil tvrdenie. Nie vždy, no funguje to častejšie, než by ste čakali. Rovnako pomáha požiadať o link na primárny zdroj — ak ho model nevie dodať, alebo ak odkaz vedie na stránku, ktorá s témou nemá nič spoločné, je to jasný signál.
Užitočný je aj takzvaný krížový test: rovnakú otázku položte dvom rôznym nástrojom nezávisle od seba. Ak sa odpovede zhodujú v konkrétnych detailoch, pravdepodobnosť halucinácie klesá. Ak sa rozchádzajú, vedeli ste, že je čas siahnuť po klasickom vyhľadávaní alebo odbornej databáze.
Tretí filter: rozlišujte fakty od syntézy
Existuje rozdiel medzi tým, keď AI zhŕňa niečo, čo jej dáte na vstupe, a tým, keď generuje informácie z vlastnej pamäte. Prvý prípad je relatívne bezpečný — model pracuje s materiálom, ktorý mu poskytnete, a chyby sú menej pravdepodobné aj ľahšie odhaliteľné. Druhý prípad, teda keď sa pýtate na fakty zo sveta bez toho, aby ste dodali podklad, je presne tá situácia, kde halucinácie vznikajú najčastejšie. Čím špecifickejšie a menej známe je fakt, o ktorý sa pýtate — obskúrny historický dátum, presné znenie zákona, meno vedľajšej postavy v knihe — tým vyššie je riziko, že si to model jednoducho domyslí.
Skúsený používateľ preto vopred odhadne, kde je pôda šmykľavá. Otázky typu "aké je hlavné mesto Slovenska" model nepokazí. Otázky typu "koľko presne stálo toto konkrétne rozhodnutie vlády v roku 2019 podľa správy NKÚ" sú úplne iná liga a zaslúžia si samostatné overenie v origináli.
Nakoniec ide o návyk, nie o jednorazovú kontrolu. Rovnako ako si novinár zvykol overovať citáciu pred publikovaním, aj bežný používateľ si musí zvyknúť na to, že presvedčivosť textu nie je dôkaz pravdivosti. Nástroj, ktorý nikdy nezaváha, práve preto zaslúži o niečo viac skepsy než človek, ktorý si niekedy povie, že si nie je istý.