Slíbil jsem to na konci minulého dílu, tak plním. Žádné rovnice, žádné neuronové sítě do detailu. Jen jeden obraz, který vám v hlavě zůstane, a od kterého se pak odvíjí pochopení skoro všeho ostatního, co s AI zažijete.
Když jsem tomu poprvé porozuměl sám, spadl mi kámen ze srdce. Do té doby mi ta věc přišla jako záhadná černá skříňka. Pak mi jeden člověk vysvětlil, co se uvnitř děje, a najednou dávalo smysl úplně všechno. Proč je model tak dobrý v jedněch věcech a tak nespolehlivý v jiných. Proč zní tak sebejistě, i když nemá pravdu. Pojďme na to.
Hra na doplňování slov
Základ je překvapivě prostý. Jazykový model dělá jedinou věc: hádá, jaké slovo přijde další.
Zní to skoro urážlivě jednoduše na něco, co umí napsat báseň nebo vysvětlit kvantovou fyziku. Ale je to tak. Dostane kus textu a jeho jediný úkol je odhadnout, co logicky následuje. Pak to slovo připojí, podívá se na výsledek včetně toho nového slova a hádá další. A další. Slovo po slově, dokud není odpověď hotová.
Znáte to sami. Když vám někdo řekne “snědla vlk a”, mozek automaticky nabídne “Karkulku”. Když napíšete do telefonu “vidíme se v”, nabídne vám klávesnice “pátek” nebo “kavárně”. Přesně tohle model dělá, jen v nesrovnatelně větším měřítku a s nesrovnatelně lepším odhadem. Je to našeptávač na steroidech.
Celá ta plynulost, chytrost, schopnost odpovědět na cokoli, to všechno vyrůstá z jednoho jediného triku opakovaného pořád dokola. Hádni další slovo. A ono to funguje líp, než by kdokoli čekal.
Co znamená, že je model natrénovaný
Odkud ale ví, které slovo je to pravé? Odtud se dostáváme k tréninku.
Vzpomeňte na strojové učení z minulého dílu. Nikdo modelu nesepsal pravidla jazyka. Místo toho mu ukázali nepředstavitelné množství textu, prakticky velkou část toho, co lidstvo napsalo a dalo na internet. Knihy, články, diskuze, encyklopedie. A model si na tom obrovském materiálu sám osahal, jaká slova chodí s jakými, v jakých souvislostech, v jakém pořadí.
Nepamatuje si ten text jako knihovna. Nemá někde uloženou Wikipedii, ze které by opisoval. Spíš si z toho všeho vytvořil něco jako obrovskou mapu jazyka. Mapu, kde slova, která spolu souvisí, leží blízko, a kde jsou zaznamenané tisíce vzorů, jak se lidský jazyk chová. Když pak hádá další slovo, čte z téhle mapy.
Proto umí mluvit o čemkoli. Ne že by to znal jako fakt. Spíš viděl tolik textu na dané téma, že dokáže velmi věrně napodobit, jak by o něm mluvil člověk, který to zná.
A tady je ta zrádná část.
Proč AI nezná pravdu, jen pravděpodobnost
Model nerozlišuje mezi “je to pravda” a “zní to pravděpodobně”. On tenhle rozdíl vůbec nevnímá. Jeho jediné měřítko je, jestli slovo dobře zapadá do vzoru, který se naučil. Ne jestli odpovídá skutečnosti.
Většinou to vyjde nastejno, protože pravdivé věty jsou v tom trénovacím textu zdaleka nejčastější. Když se zeptáte, jaké je hlavní město Francie, “Paříž” je zdaleka nejpravděpodobnější pokračování, a je i správně. Systém a realita se potkávají.
Jenže ne vždycky. Občas model narazí na otázku, kde nemá dost opory, a stejně odpoví, protože odpovědět je jeho povaha. Nesloží ramena, neřekne “to nevím”. Prostě poskládá slova, která zní věrohodně, a naservíruje je se stejnou sebejistotou jako u té Paříže. Jenže tentokrát je to vymyšlené. Odborně se tomu říká halucinace a věnujeme jí celý pozdější díl, protože je to jeden z nejdůležitějších jevů, které o AI musíte vědět.
Zapamatujte si to takhle: model neodhaduje, co je pravda. Odhaduje, co by tam mělo stát. A to jsou dvě různé věci, které se naštěstí často, ale ne vždycky, kryjí.
Proč tenhle obraz stačí
Nemusíte rozumět matematice pod pokličkou, abyste tohle uměli využít. Ten jeden obraz, stroj hádající slovo po slovu z naučené mapy jazyka, vám vysvětlí většinu chování, které u AI potkáte.
Proč zní tak plynule? Protože napodobuje vzory lidského jazyka, ve kterých plaval. Proč umí psát v různých stylech? Protože viděl básníky i právníky i kuchařky. Proč si občas vymýšlí? Protože jede po pravděpodobnosti, ne po pravdě. Proč nezná dnešní datum? Protože v jeho mapě žádné “dnes” není, jen text, který kdysi nastudoval.
Jakmile tenhle obraz jednou uchopíte, přestanete od AI čekat věci, které dávat nemůže. A začnete z ní tahat to, v čem je vážně dobrá.
V příštím dílu tuhle znalost obrátíme v praktickou. Podíváme se konkrétně, k čemu se AI hodí, kde naopak selhává, a jak poznat, kdy po ní sáhnout a kdy radši ne.
