V minulém dílu jsme si ukázali, že si model občas vymýšlí. Z toho by se dal odvodit jednoduchý závěr: nevěř mu nic. Jenže to je stejná chyba jako věřit mu všechno, jen z opačné strany.
Pravda leží někde mezi. A najít to místo, to je celé umění, o kterém je tenhle díl.
Halucinace byly konkrétní problém s konkrétními varovnými signály. Teď jdeme o patro výš, k obecnějšímu postoji. Jak vůbec přistupovat k tomu, co vám AI říká, aby z vás nebyl ani slepý věřící, ani věčný škarohlíd, který si radši všechno napíše sám. Obojí je totiž k ničemu.
AI není autorita, i když tak zní
Zvykli jsme si, že když něco zní chytře a sebejistě, asi to bude pravda. Fungovalo to u učitelů, u knih, u odborníků v televizi. Sebejistota u lidí většinou koreluje se znalostí, protože kdo si není jistý, obvykle to na sobě nechá znát.
U modelu tahle rovnice neplatí.
Vzpomeňte na sedmý díl. Model mluví se stejnou jistotou, ať má pravdu, nebo halucinuje, protože ten rozdíl sám nevnímá. Jeho tón je konstanta, ne signál. A přesně tady se láme, jestli s AI umíte pracovat, nebo vás vodí za nos. Musíte se odnaučit ten starý reflex, že plynulý sebejistý projev znamená spolehlivou informaci.
Berte model jako chytrého známého, který o všem něco zaslechl a rád se podělí. Je to skvělý parťák na první nápad, na rozjezd, na “hele, kde bych mohl začít”. Ale nepodepsal byste podle něj smlouvu ani nenastavil dávkování léku. Ta samá osoba, dvě různé úrovně důvěry, podle toho, o co jde.
Křížová kontrola, prakticky
Zdravá skepse zní hezky, ale co s ní v praxi? Nejúčinnější nástroj je křížová kontrola. Znamená to prostě nespoléhat na jediný zdroj, ať je to AI, nebo cokoli jiného.
Když vám model řekne fakt, na kterém záleží, ověřte ho jinde. Nemusíte psát rešerši. Většinou stačí hodit klíčové slovo do vyhledávače a podívat se, jestli to potvrzuje víc na sobě nezávislých míst. Když ano, jste doma. Když se zdroje rozcházejí nebo nenajdete nic, máte varování.
Funguje i obrácený postup, a je vážně užitečný. Nechte kontrolovat jeden model druhým, nebo tentýž model v novém okně. Zkopírujte odpověď a zeptejte se: je na tomhle něco nepřesného? Model, který text nepsal, k němu nemá “vztah” a často chybu najde. Ještě lepší je poprosit ho, ať u každého tvrzení řekne, jak jistý si je a odkud to má. Sebejistý model se najednou začne krotit a přizná, že tohle konkrétní číslo si tak úplně nestojí za. Není to stoprocentní, oba se můžou plést stejně, ale jako druhý pár očí to překvapivě zabírá.
A pak je tu nejlevnější kontrola vůbec, ta vlastní hlavou. Sedí to dohromady? Neodporuje si odpověď sama se sebou? Nevypadá některé číslo mimo mísu? Kritické myšlení není žádná vyšší matematika. Je to zvyk chvíli se u odpovědi zastavit místo toho, abyste ji rovnou vzali za svou.
Kdy nevěřit sebejistému tónu
Pojďme si to zúžit na chvíle, kdy má být skepse nejostřejší. Nemá smysl prověřovat úplně všechno, tím byste se uštvali. Jde o to poznat, kdy zbystřit.
Zpozorněte vždycky, když jde o:
- Čísla, data, statistiky. Cokoli přesného a měřitelného. Právě tady model nejčastěji střílí od boku.
- Zdroje a citace. Jméno studie, autor, rok. Snadno se vyrábí, těžko se pozná od pravého.
- Věci, které budete dál používat jako fakt. Když to má jít do článku, do práce, do rozhodnutí, ověřte to. Vaše jméno na tom bude, ne modelovo.
- Oblasti, kde chyba bolí. Zdraví, právo, peníze, bezpečnost. Tady je AI nanejvýš první krok, nikdy poslední slovo.
Naopak nemá cenu prověřovat věci, kde žádná tvrdá pravda není. Když si necháte přepsat email, vymyslet nápady nebo vysvětlit obecný princip, není co ověřovat. Rozlišovat mezi těmito dvěma světy, to je půlka celé dovednosti.
Skepse ano, paranoia ne
Ať to nevyzní, že máte AI za lháře, kterého musíte hlídat na každém kroku. To by byla škoda a taky zbytečná práce.
Většinu času model odpovídá správně. Vážně. Na spoustě věcí, hlavně na těch dobře zdokumentovaných a obecných, je spolehlivý a ušetří vám hory času. Kdybyste za ním chodili s lupou u každé věty, přišli byste o všechno, kvůli čemu se ho vyplatí používat.
Cíl není nedůvěra. Cíl je kalibrovaná důvěra. Vědět, čemu můžete věřit skoro na slovo a co si radši prověřit. Ten cit se buduje praxí, a čím víc s AI pracujete, tím líp poznáte, kdy je na pevné půdě a kdy plave.
Jde vlastně o starou dobrou mediální gramotnost, jen s novým hráčem. Nevěříte přece slepě všemu, co vám řekne první člověk na ulici ani co si přečtete v prvním článku z vyhledávání. U AI platí totéž. Je to mocný zdroj, ne vševědoucí věštec, a vy jste pořád ten, kdo má poslední slovo.
Zdravá skepse a křížová kontrola vás ochrání před tím, čemu model rozumí špatně. Zbývá ale ještě jedna vrstva, na kterou samo ověřování nestačí: co když model rozumí špatně systematicky? Odkud se v odpovědích berou předsudky a zkreslení a proč AI nezná včerejší zprávy, to si vezmeme v příštím dílu.
