Zeptáte se modelu na knihu k danému tématu. Odpoví vám názvem, autorem, rokem vydání, dokonce krátce shrne obsah. Všechno sedí, všechno zní věrohodně. Jen ta kniha neexistuje. Nikdy nebyla napsaná. Model si ji vymyslel od začátku do konce a podal vám ji se stejným klidem, s jakým by vám řekl, kolik je dvě a dvě.
Tomuhle jevu se říká halucinace a je to nejzrádnější vlastnost, kterou dnešní AI má. Ne že by se to stávalo pořád. Zrádné je to tím, že vymyšlená odpověď vypadá úplně stejně jako ta správná. Zmínili jsme ji už ve druhém dílu a slíbili jí vlastní kapitolu. Tady je, protože tímhle otevíráme celý blok o tom, jak se nenechat od AI zmást.
Proč se to vůbec děje
Vraťme se k tomu obrazu z druhého dílu. Model hádá slovo po slovu z naučené mapy jazyka. Neodhaduje, co je pravda, odhaduje, co by tam mělo stát. Většinou to vyjde nastejno, protože pravdivé věty jsou v jeho tréninku nejčastější. Ale ne vždycky.
Halucinace není chyba, která se do modelu vloudila. Je to přímý důsledek toho, jak funguje.
Představte si to takhle. Zeptáte se na něco, o čem model viděl málo textu, nebo dokonce nic. Co udělá? Neřekne “to nevím”, protože říct nevím není v jeho povaze. Jeho úkol je pokračovat v textu, skládat pravděpodobná slova. Tak poskládá slova, která k té otázce statisticky pasují, a vznikne odpověď, která zní přesně jako pravda, protože je ušitá ze stejné látky. Jen za ní nic není.
Je to jako student u zkoušky, který látku neumí, ale za nic na světě to nepřizná. Místo mlčení začne plynule mluvit, používá správně znějící termíny, staví věty, které dávají smysl. Zkušený zkoušející to prohlédne. Ten méně zkušený uvěří, protože to zní učeně. Model je přesně tenhle student, jen mluví plynuleji než kdokoli z nás.
Kde halucinace číhají nejčastěji
Dobrá zpráva je, že se neobjevují náhodně. Mají svoje typická místa, a když je znáte, víte, kdy zpozornět.
Konkrétní čísla a data jsou první. Statistiky, roky, procenta, přesné částky. Zeptáte se, kolik obyvatel má nějaké město nebo v jakém roce se něco stalo, a model klidně střelí číslo, které zní rozumně, ale je vedle. Nemá v sobě databázi faktů, ze které by četl. Odhaduje, jaké číslo by tam asi mělo být.
Citace a zdroje jsou možná ještě zákeřnější. Model umí vyrobit dokonale vypadající citaci. Jméno autora, název studie, časopis, rok. Vše ve správném formátu, vše věrohodné. A vše smyšlené. Protože formát citace se naučil dokonale, jen konkrétní obsah si domýšlí.
A pak detaily o málo známých věcech. O velkých, dobře zdokumentovaných tématech model mluví spolehlivě, viděl je v textu tisíckrát. Ale zeptejte se na malou obec, okrajovou historickou postavu nebo specifický technický detail, a půda pod ním se ztenčí. Čím míň textu na dané téma viděl, tím větší šance, že začne vymýšlet.
Vzorec za tím vším je stejný. Halucinace kvete tam, kde má model málo opory a přesto musí odpovědět.
Jak vymyšlenou odpověď poznat
Teď to praktické. Nejde spolehlivě odhalit každou halucinaci na první pohled, ale pár varovných signálů vám výrazně zvýší šanci.
- Podezřele konkrétní údaj u okrajového tématu. Když model u málo známé věci sype přesná čísla a data s naprostou jistotou, zbystřete. Právě ta kombinace okrajovosti a sebejistoty je podezřelá.
- Citace, kterou si můžete ověřit, ale neděláte to. Jakmile model odkáže na konkrétní studii, knihu nebo článek, berte to jako výzvu ke kontrole, ne jako hotový fakt. Když zdroj nejde dohledat, nejspíš neexistuje.
- Odpověď, která zní až moc hladce. Občas je vymyšlená odpověď podezřele učesaná, všechno do sebe krásně zapadá. Realita bývá kostrbatější než výmysl.
- Vaše vlastní tušení, že něco nehraje. Když vám instinkt napovídá, že je odpověď divná, dejte na něj. Bývá to lepší detektor, než si myslíte.
Nejjednodušší test ze všech je ale zeptat se dvakrát. Položte stejnou otázku znovu, klidně v jiném okně nebo trochu jinak formulovanou. U věci, kterou model “zná”, dostanete v jádru stejnou odpověď pokaždé. U halucinace se odpovědi často rozejdou, protože si pokaždé vymýšlí znovu. Když vám na tutéž otázku přijdou dvě různá čísla, víte, kolik uhodilo.
Jak si informace ověřovat, aniž byste zešíleli
Tady se hodí trocha zdravého rozumu, ať z vás tenhle díl neudělá paranoika, který nevěří ničemu.
Neplatí, že si musíte ověřovat všechno. To by AI ztratila smysl. Platí něco jednoduššího: rozlišujte, kdy na přesnosti záleží a kdy ne. Když si necháte přeformulovat email nebo vymyslet nápady na výlet, není co ověřovat, žádné tvrdé fakty tam nejsou. Ale jakmile jde o konkrétní číslo, datum, jméno, citaci nebo cokoli, co budete někde dál používat jako fakt, ověřte si to u důvěryhodného zdroje.
Vzpomeňte na vodítko ze třetího dílu. Existuje na tohle jedna jediná správná odpověď, kterou si musím být jistý? Pokud ano, model je první krok, ne poslední slovo.
Ověřování přitom nemusí být věda. U většiny věcí stačí rychlé vyhledání na internetu. U citace zkuste dohledat, jestli daná studie vůbec existuje. U čísla se podívejte, jestli ho potvrzuje ještě někdo jiný. Jde o pár vteřin práce, které vás ochrání před tím, abyste dál šířili něco vymyšleného.
A ještě jedna finta, která hodně pomáhá. Některé modely dnes umí vyhledávat na internetu přímo v průběhu odpovědi a doloží, odkud čerpaly. Když tuhle možnost máte, využijte ji u všeho, co se týká faktů nebo aktuálního dění. Odpověď opřená o dohledatelný zdroj je o řád spolehlivější než ta, kterou model vytáhl jen ze své mapy jazyka.
Sebejistý tón není důkaz
Jednu věc si z tohohle dílu odneste především. Model zní stejně přesvědčivě, ať má pravdu, nebo si vymýšlí. Jeho jistota není měřítko pravdivosti. Je to jen styl, kterým mluví pořád.
U člověka jsme zvyklí, že nejistota se pozná. Zaváhá, odkašle si, řekne “tak tím si nejsem jistý”. Model tohle nedělá. Halucinaci vysloví se stejnou samozřejmostí jako notoricky známý fakt, protože sám ten rozdíl nevnímá. A přesně proto na nás jeho omyly platí tak dobře. Jsme naučení věřit sebejistému projevu.
Jakmile vám tohle docvakne, přestanete sebejistý tón brát jako záruku a začnete se ptát “jak to model ví?” místo “jak sebejistě to říká?”. Přesně tenhle posun z vás udělá uživatele, kterého AI jen tak neoblafne.
Halucinace jsou ale jen jedna část skládačky. I když se naučíte je odhalovat, zůstává větší otázka: jak vůbec přistupovat k tomu, co vám AI říká, aby z vás nebyl ani slepý věřící, ani věčný škarohlíd. O tom, jak si udržet zdravou skepsi a ověřovat chytře místo úporně, bude příští díl.
