„Počasí bylo dnes chladné a…” Model si tady vybírá mezi slovy „zataženo” a „šedivo” – čtenáři je to upřímně jedno, věta funguje s obojím. Právě tahle banální volba slova je teď jádrem hádky, která rozdělila uživatele Claude na dva tábory.
Ve čtvrtek 14. srpna zveřejnil Anthropic delší vysvětlení, jak watermarking textu v Claude skutečně funguje – princip, limity, i to, co se dá a nedá obejít. Přišlo to tři dny po vlně kritiky, která se spustila, jakmile firma potvrdila, že bude AI generovaný text značkovat kvůli evropské regulaci. Co přesně Anthropic popsal a proč se kolem toho strhla taková bouře.
Jak se watermark dostane do věty
Jazykový model negeneruje text najednou, ale slovo po slově. U každého dalšího slova zvažuje několik kandidátů a vybírá ten nejpravděpodobnější vzhledem k tomu, co už napsal. U slova „zataženo” versus „šedivo” nezáleží na tom, který kandidát vyhraje – smysl věty se prakticky nezmění. Podle Anthropicu se tahle volba za normálních okolností řeší náhodným číslem.
Watermarking tenhle mechanismus jen mírně poupraví. Model podle svých slov stále vybírá „náhodně”, ale zdroj té náhodnosti je jiný – místo obyčejného generátoru náhodných čísel použije tajný klíč a několik posledních slov, které do věty už napsal. Kdo klíč zná, dokáže zpětně zkontrolovat, jestli posloupnost slov odpovídá tomu, co by Claude s tímhle klíčem zvolil. Pokud ano, dá se odhadnout pravděpodobnost, že text vznikl v Claude.
Anthropic to přirovnává k Monopoly. Kostky nahradíte číslicemi z rozvoje čísla pí – hráči si házejí stejně „náhodně” jako předtím, hra vypadá úplně stejně. Ale kdo zná posloupnost pí a vidí zápis všech tahů, dokáže zpětně poznat, že se v té hře pí použilo. Přesně tak funguje i watermark v textu: čtenáři nic nezmění, ale kdo má klíč, dokáže po faktu ověřit stopu.
Firma zdůrazňuje, že se model nezačne systematicky klonit k „šedivo” nebo k „zataženo” – v jedné větě padne jedno, v další druhé, podle kontextu. Nejde ani o to, že by watermarking model tlačil k slovu, které by jinak vůbec nepoužil.
Čtenáři se na výsledném textu nezmění vůbec nic.
Odkud se to vzalo
Metoda, kterou Anthropic používá, je vlastní verze přístupu SynthID-Text, který v roce 2024 v časopise Nature publikoval tým Google DeepMind. Podle firmy patří do rodiny technik sahající až k návrhu informatika Scotta Aaronsona z roku 2022 – všechny fungují na stejném principu, mění jen zdroj náhodnosti při výběru slov. Motivace je regulační. Evropský AI Act v článku 50 vyžaduje, aby poskytovatelé AI značkovali generovaný obsah způsobem rozpoznatelným pro stroje. Anthropic v červenci 2026 podepsal příslušný Kodex chování spolu s dalšími hlavními vývojáři modelů a zhruba 190 dalšími signatáři. Povinnost se stala vymahatelnou 2. srpna 2026, pokuty za nedodržení jdou až do 15 milionů eur nebo 3 procent celosvětového obratu. Anthropic přiznává, že region pro watermarking zatím nedokáže spolehlivě omezit, takže ho nasazuje globálně – i mimo EU.
Modelům vydaným před 2. srpnem 2026 se watermarking teprve doplní, firma slibuje postupné nasazení v následujících měsících.
Kde watermark nefunguje
Nejzajímavější část vysvětlení jsou právě limity.
Detekce watermarku funguje špatně na krátkých úsecích textu – čím méně slov, tím míň příležitostí k volbě, a tedy míň signálu k odhalení. Se stoupající délkou textu roste i jistota detekce.
Watermark navíc skoro mizí u faktických pasáží – tady si prostě není z čeho vybírat. Anthropic dává příklad: „Nejslavnější dílo Isaaca Newtona se jmenovalo Principia…” Správně je jen „Mathematica”, žádná jiná možnost neexistuje, takže se watermark nemá na co nabalit. Stejný problém nastává u korektur. Když Claude jen opraví gramatiku a interpunkci v cizím textu, většina slov zůstává autorova, a pro watermark tak nezbývá téměř žádný prostor.
U kódu je situace podobná – přesnost je někdy jediná přijatelná volba, takže kód nese watermark minimálně. Výjimkou jsou komentáře v kódu, kde je slovní volba volnější. Anthropic přitom rovnou přiznává, že lehká editace watermark pravděpodobně úplně neodstraní, zatímco kompletní přepis, kde se vymění každé slovo, ano. Otázka, jestli by se takový přepsaný text dal ještě vůbec nazvat AI generovaným, podle firmy zůstává otevřená.
Detekční API, kterým by si kdokoli mohl watermark ověřit, Anthropic zatím nemá hotové – slibuje ho „brzy”. U souborů jako PNG, JPG nebo SVG jde firma jinou cestou: připojuje kryptograficky podepsaná metadata podle standardu C2PA, stejná, jakou používají výrobci fotoaparátů. Do samotného souboru se nic neukrývá.
Co k tomu řekli lidé
Reakce na sítích přišly rychleji než samotné vysvětlení. Na Redditu jeden z uživatelů popsal watermarking jako spiknutí proti nevinným lidem, kteří Claude jen tak nepoužívají k podvádění. Jiný komentář byl přímější: jediný důvod, proč by ti to mělo vadit, je že chceš lidem lhát. Podle serveru Business Insider desítky uživatelů na síti X tvrdily, že kvůli watermarku zrušily předplatné – mezi nimi i matematický influencer, který svou výpověď doprovodil screenshotem.
Na celé hádce je paradoxní, že se vůbec nevede o technickou stránku věci. Watermark podle Anthropicu nikoho neidentifikuje, nic nestojí navíc a čtenář ho nepozná. Spor je o něco jiného – o to, že text s neviditelnou stopou najednou dokáže prozradit něco, co dřív prozradit nešlo. Jestli je to problém, záleží čistě na tom, co s tím textem člověk dělal.
