Subscribe Now
Trending News
News

Stačil jeden dopis a Fable 5 zmizel. Teď se o něj válčí na G7

Stačil jeden dopis a Fable 5 zmizel. Teď se o něj válčí na G7

Šest dní po tom, co americké Ministerstvo obchodu donutilo Anthropic globálně vypnout modely Fable 5 a Mythos 5, není na stole žádná dohoda ani datum obnovení provozu. Jednání mezitím opustila zasedačky ve Washingtonu a přelila se na summit G7 v Évianu, kde se ministr obchodu Howard Lutnick a šéf Anthropicu Dario Amodei pohybovali ve stejných místnostech.

Připomeňme, oč jde. Anthropic spustil Fable 5 a Mythos 5 devátého června. O tři dny později, 12. června v 17:21 východního času, dorazila firmě exportní direktiva, která zakazuje přístup k oběma modelům jakémukoli cizímu státnímu příslušníkovi, ať se nachází kdekoli na světě. Protože Anthropic neumí v reálném čase ověřovat národnost uživatelů, vypnul oba modely plošně pro všechny. Ostatní modely včetně Opusu 4.8 jedou dál.

To všechno už víme. Co je nové, je rozsah politické bitvy, která se kolem zákazu rozjela.

Z krizové schůzky se stala diplomacie na úrovni G7

Původní vyjednávání probíhala vzdáleně. Podle zdroje blízkého firmě se technický tým Anthropicu spojil s úředníky každý den od pátku, kdy administrativa firmu poprvé kontaktovala. V pondělí pak dorazili senioři osobně do budovy Ministerstva obchodu, kde se k jednání připojil i národní kyber-ředitel Sean Cairncross.

Pak se ale věc posunula o level výš. Amodei i Lutnick zamířili na summit G7 do Évian-les-Bains ve Francii, kde Lutnick podle Reuters dál vedl pravidelné hovory s Anthropic přímo z okraje jednání. Trump se k věci vyjádřil po pracovním obědě, kterého se vedle lídrů G7 účastnili i šéfové předních AI firem: Amodei za Anthropic, Sam Altman za OpenAI a Demis Hassabis za Google DeepMind.

A do toho vstoupila Británie.

Premiér Keir Starmer prý vznesl výpadek Fable 5 a Mythos 5 přímo vůči Trumpovi a žádal výjimku, která by obnovila přístup pro britské občany a firmy. Neuspěl. Britský ministr pro AI Kanishka Narayan to komentoval ostře: tento týden byla podle něj nejpokročilejší AI na světě odříznuta pro všechny v Británii a je to důkaz, že země potřebuje vlastní suverénní AI kapacitu. Diplomatické zdroje G7 řekly Reuters, že spojenci s Lutnickem nadnesli myšlenku rámce „důvěryhodného partnera”, který by přístup obnovil vybraným spojeneckým státům nebo firmám. Dohody zatím nedosáhli.

Co vlastně stojí v Lutnickově dopise

Tohle je část, kterou původní reportáže často zjednodušovaly. Stojí za to ji mít přesně.

Ministr Lutnick poslal dopis Amodeimu v pátek a podle kopie, kterou viděl Reuters i Bloomberg, zasáhl kvůli obavě, že modely mohou být nasazeny nebo odkloněny k vojensko-zpravodajským uživatelům v Číně, Rusku nebo dalších zemích, které vzbuzují obavy. Bloomberg zároveň upozorňuje na zajímavý detail: Lutnick v dopise neuvedl, proč konkrétně jsou omezení nutná. Citoval jen zákony, které vládě umožňují uvalit exportní kontroly na civilní technologii zneužitelnou ke zpravodajským účelům protivníkovou armádou.

Právní oporou je Export Control Reform Act z roku 2018. Podle experta na exportní kontrolu, kterého cituje Reuters, jde vůbec o první případ, kdy Ministerstvo obchodu tuto konkrétní pravomoc použilo. Dopis vyžaduje licenci pro export nebo pro transfer modelu cizímu státnímu příslušníkovi uvnitř USA a hrozí „neprodlenými trestními a civilními postihy” při nedodržení.

Tady je ovšem zádrhel, který může celou akci právně podkopat. Experti na exportní kontrolu pro Reuters poznamenali, že AI modely se obvykle vůbec neexportují. Nasazují se přes vzdálený přístup, který exportní regulace nekontrolují. Otázka tedy zní, jestli Commerce vůbec má právní pravomoc takhle jednat. Ministerstvo na dotazy ohledně použitých pravomocí neodpovědělo.

Spouštěč: Amazon, tedy investor i hostitel v jednom

Podnět ke všemu přišel od Amazonu. Jeho výzkumníci našli způsob, jak z Fable 5 dostat informace použitelné pro kyberútoky, a CEO Andy Jassy osobně eskaloval nález až k ministru financí Scottu Bessentovi, ministru obchodu Lutnickovi a kyber-řediteli Cairncrossovi.

Na téhle eskalační cestě je něco, co stojí za pozornost. Firma, která zranitelnost nahlásila, je zároveň největším investorem Anthropicu a jeho cloudovým hostitelem. Tahle dvojrole, od bezpečnostního týmu konkurenta až k nejvyšším patrům exekutivy, vyvolala otázky, jestli ve hře nehrála roli i komerční rivalita. Nikdo to neprokázal. Ale ta otázka visí ve vzduchu.

A teď k tomu „nebezpečnému promptu”. Tady je přesnost zásadní, protože verze o pouhém „fix this code” je zavádějící. Podle samotného Anthropicu dostala vláda zatím jen verbální důkaz o úzkém, neuniverzálním jailbreaku, který v podstatě spočívá v tom, že se model požádá o přečtení konkrétní codebase a opravu chyb v ní. Katie Moussouris z firmy Luta Security, která onen třetí-stranný materiál recenzovala, upřesnila, že Fable 5 požadavek nejprve odmítl a obejití vyžadovalo manuální, vícekrokový postup. Tedy ne jeden magický prompt, ale práce krok za krokem.

Anthropic celou věc shrnuje jednoznačně: nález úzkého potenciálního jailbreaku by podle něj neměl být důvodem ke stažení komerčního modelu nasazeného stovkám milionů lidí. Kdyby se tenhle standard aplikoval plošně, v podstatě by to podle firmy zastavilo nasazování nových modelů u všech poskytovatelů frontier modelů. Firma také připomíná, že kvůli Fable zavedla 30denní retenci dat, což pro ni nese reálné náklady, ale umožňuje to detekovat a mitigovat jailbreaky.

Bezpečnostní komunita se postavila za Anthropic. I s jednou trhlinou

Možná nejsilnější nová linie celého příběhu nepřišla od Anthropicu, ale od lidí, kteří se kyberbezpečností živí.

Čtrnáctého června zveřejnila skupina vedená Alexem Stamosem otevřený dopis na webu freefable.org, adresovaný Lutnickovi a Cairncrossovi. Žádá zrušení exportních direktiv a zavedení otevřeného, vědeckého a transparentního procesu pro budoucí posuzování rizik AI. Počet signatářů vyšplhal přes 150 a čte se jako kdo je kdo v oboru: Stamos, Katie Moussouris, Rachel Tobac, Chris Wysopal z Veracode, Joe Levy z firmy Sophos, kryptografické legendy Bruce Schneier a Philip Zimmermann.

Argument dopisu je čistě praktický, ne ideologický. Mythos-class modely jsou podle signatářů opravdu dobré v hledání chyb a psaní exploitů. Ale nejsou v tom unikátní. Stejnou schopnost lze replikovat na GPT-5.5, Opusu, Sonnetu i čínských modelech jako Kimi 2.7. Vzít obráncům nejlepší nástroje ve chvíli, kdy protivníci rychle dohánějí, je podle nich nebezpečné. Dopis to shrnuje tak, že akce vzala nejlepší modely obráncům, vytvořila tržní nejistotu a ohrozila americké vedení v AI, aniž by existovalo reálné riziko, které by ji ospravedlnilo.

Háček? Je tu jeden a je dost pikantní.

Server Eastern Herald upozornil, že nejméně čtyři signatáři dopisu v dubnu spoluautorovali výzkum Cloud Security Alliance, který firmy varoval, ať se připraví na éru kyberútoků poháněných právě modely třídy Mythos. Jeden z nich za tu práci dostal zaplaceno. Teď spolupodepisuje dokument tvrdící, že ty samé schopnosti zvládne tucet jiných modelů. Obojí přitom může platit zároveň: model může být skutečně silný v hledání zranitelností a současně ne natolik unikátní, aby jeho zákaz reálně snížil riziko.

Politické pozadí, které celý spor barví

Aby toho nebylo málo, mezi Anthropic a administrativou už jednou pořádně zajiskřilo. Vztahy se roztrhly začátkem roku, když firma odmítla umožnit armádě používat své modely pro domácí sledování a plně autonomní zbraňové systémy. Vláda pak Anthropic zařadila na bezpečnostní blacklist a soudní spor o toto označení dosud běží.

Davidu Sacksovi, poradci Bílého domu pro AI, tahle souvislost zjevně vadí. Na síti X napsal, že ti, kdo akci spojují s předchozími spory kolem ministerstva obrany, se mýlí. Jen pár hodin předtím ovšem Anthropic obvinil z „sofistikované strategie regulatory capture”, tedy snahy ovlivnit regulaci ve svůj prospěch. Sacks zároveň tvrdil, že administrativa dala Amodeimu na výběr: opravit jailbreak, nebo Fable 5 stáhnout. Anthropic to celé považuje za nedorozumění.

Co teď řeší zákazníci a kam míří sázky

Pro platící zákazníky je situace prozaická. Refundace běží pro předplatitele, kteří se přihlásili mezi 9. a 14. červnem, a deadline je 20. června, tedy za pár dní. Anthropic zatím nezveřejnil aktualizované cenové pokyny pro případ, že by se Fable 5 vrátil před tímto datem nebo po něm.

Vývojáři, kteří stavěli na modelu produkční pipeline, mezitím přesouvají zátěž jinam. Volání modelu claude-fable-5 vrací chybu a doporučená náhrada je Opus 4.8, případně neanthropické alternativy. Jako like-for-like swap se zmiňuje GPT-5.5, který exportním kontrolám nepodléhá.

Predikční trhy zůstávají rozdělené. K 17. červnu se na Polymarketu na trhu o obnovení Fable 5 pro americké zákazníky proobchodovalo přes 544 tisíc dolarů. Konkrétní kurz se ale mění každou hodinu, takže jakékoli procento má smysl uvádět jen s časovým razítkem.

V zásadě jsou na stole tři scénáře. Buď Anthropic opraví konkrétní jailbreak a vláda omezení zruší, možná s geografickými limity. Nebo se modely vrátí jen pro americké zákazníky a cizí státní příslušníci zůstanou trvale vyloučeni, dokud nezískají individuální licenci. Anebo pat pokračuje, případ skončí u federálního soudu a konkurenční pozice Anthropicu mezitím eroduje, jak vývojáři migrují ke konkurenci.

Ať to dopadne jakkoli, jeden precedent už platí: americká vláda právě ukázala, že dokáže během několika hodin globálně vypnout nasazený frontier model. A udělala to nástrojem, který byl postavený pro zbraně a pokročilé čipy, ne pro software. To je věc, kterou si od teď musí započítat do rizik každá AI laboratoř.

Related posts