Poprosíte model, ať vám popíše typického programátora. Nejspíš vám vykreslí muže. Poprosíte ho o typickou zdravotní sestru, a hádejte, koho dostanete. Ne proto, že by si to model myslel. On si nemyslí nic. Jen věrně opakuje vzory, které nasbíral z textu, a v tom textu programátoři a sestry vypadají zrovna takhle.
Tímhle dílem uzavíráme blok o tom, jak se nenechat od AI zmást. Halucinace byly o vymýšlení, ověřování o zdravé skepsi. Teď přidáme poslední vrstvu, tu nejtišší. Zkreslení, které v odpovědích není vidět na první pohled, protože nezní jako chyba. Zní jako samozřejmost.
Odkud se bere zaujatost
Vraťme se naposledy k tomu obrazu z druhého dílu. Model se učil z obrovského množství textu, který napsali lidé. A lidský text není neutrální. Nese v sobě všechno, co do něj lidé vložili, včetně předsudků, stereotypů a nerovnováh, o kterých třeba ani nevědí.
Model tohle všechno nasaje a věrně to odráží. Je to zrcadlo, ne soudce.
Když v milionech textů převažuje jistý obraz, model ho převezme jako normu. Ne že by ho někdo naprogramoval být zaujatý. Ta zaujatost je vestavěná v surovině, ze které se učil. Odráží se v ní, jak lidé psali, koho citovali, čí pohled zaznamenali a čí přešli mlčením. Jazyk, kterým mluvíme, není čistá tabulka. A model mluví přesně tím jazykem.
Projevuje se to jemně. V tom, koho model automaticky předpokládá v jaké roli. Které kultuře nebo jazyku rozumí líp, protože o něm viděl víc textu. Který úhel pohledu bere jako výchozí, aniž byste ho o to žádali. Většinou si toho ani nevšimnete, dokud si na to schválně nedáte pozor.
Proč na tom záleží v praxi
Někdo teď může mávnout rukou, že jde o okrajovost. Není. Ta zaujatost tiše formuje odpovědi, které berete jako neutrální.
Zeptáte se na doporučení, na shrnutí sporného tématu, na to, jak se k něčemu postavit. Model vám dá odpověď, která zní vyváženě a rozumně. Přitom v sobě může nést náklon, kterého si nevšimnete právě proto, že zní tak samozřejmě. Nejnebezpečnější zkreslení není to křiklavé. Je to to, které splývá s tím, co považujeme za normální.
Nejde o to model za tohle odsoudit. Jde o to počítat s tím. Když víte, že odpověď může být nakloněná, čtete ji jinak. Ptáte se, čí pohled tam chybí, jestli existuje i jiný úhel, koho by se stálo zeptat vedle modelu. Ta samá obezřetnost, kterou jsme si budovali u faktů, platí i tady, jen je hůř vidět.
Pomáhá jedna jednoduchá věc. U citlivějších témat model přímo požádejte o víc úhlů pohledu. “Ukaž mi tohle z několika stran.” “Jaké jsou protiargumenty?” “Koho by tenhle pohled naštval a proč?” Rozšíříte tím pole, ze kterého model čerpá, a dostanete pestřejší obraz než jednu vyhlazenou odpověď.
Znalostní cutoff, aneb kde modelu končí svět
Druhá velká hranice je úplně jiného druhu, ale stejně důležitá. Model zná svět jen do určitého okamžiku. Do dne, kdy skončil jeho trénink. Tomu bodu se říká znalostní cutoff a za něj model prostě nevidí.
Zmínili jsme to už ve třetím dílu, teď to dotáhneme. Představte si člověka, který si přečetl obrovskou knihovnu, a pak ho na několik měsíců zavřeli do místnosti bez oken, novin a internetu. Ví strašně moc, ale jen do dne, kdy dveře zaklaply. Co se stalo pak, netuší. Nové volby, nový model telefonu, včerejší zápas, o ničem z toho nemá páru. A co hůř, on sám neví, že něco zmeškal, protože o té zavřené místnosti nemá tušení. Prostě odpovídá z toho, co si pamatuje, jako by to pořád platilo.
Přesně takhle je na tom model. Všechno, co “ví”, pochází z textu nasbíraného do jistého data. Ptát se ho na dnešní počasí, kurz koruny nebo poslední zprávy nemá smysl, pokud nemá připojení k vyhledávání. Odpoví vám podle toho, co znal ke svému cutoffu, což může být dávno neaktuální.
A tady číhá zrada. Model vám to neaktuální řekne se stejnou jistotou jako cokoli jiného. Nepřizná od sebe “pozor, tohle je možná zastaralé”. Prostě odpoví. Zeptáte se, kdo je aktuální ministr nebo jaká je nejnovější verze nějakého programu, a dostanete odpověď, která byla pravdivá ke dni cutoffu a od té doby se dávno mohla změnit.
Jak s oběma limity žít
Dobrá zpráva: obojí se dá obejít, když o tom víte.
Na aktuálnost je lék přímočarý. Používejte modely, které umí vyhledávat na internetu, u všeho, co se týká současného dění. Když model doloží odpověď čerstvým zdrojem, obešel tím svůj cutoff. A když si nejste jistí, jestli zrovna vyhledával, zeptejte se ho, k jakému datu má informace, nebo ho o vyhledání rovnou poproste. Pár slov navíc vás ochrání před tím, abyste stavěli na neaktuálních datech.
Na zaujatost jednoduchý vypínač není, protože je vetkaná hloub. Ale i tady pomáhá vědomí, že tam je. Berte odpovědi o citlivých, sporných nebo lidských tématech jako jeden hlas, ne jako neutrální verdikt. Ptejte se po jiných úhlech. A na věcech, kde na férovosti záleží, nespoléhejte na model jako na jediného rozhodčího.
Obojí vlastně spadá pod jeden princip, který táhne celý tenhle blok. Model není vševědoucí ani nestranný pozorovatel světa. Je to odraz textu, na kterém se učil, se všemi jeho mezerami, náklony a jasně danou hranicí v čase. Držte to v hlavě a budete odpovědi číst s tou správnou špetkou obezřetnosti – nezmate vás pak ani tiché zkreslení, ani sebejistě podaná zastaralost.
Tím uzavíráme třetí blok. Umíte teď odhalit halucinaci, ověřit fakt, který nesedí, a počítat s tím, že model má svoje slepá místa i časový strop. To je pořádný kus kritické gramotnosti. V dalším bloku se posuneme jinam, k tématu, které se zatím drželo stranou, ale je čím dál důležitější: jak AI používat bezpečně. Začneme tím, co do ní nikdy nevkládat.
