V dubnu udělal Anthropic něco, co se v branži umělé inteligence ještě nestalo. Vydal systémovou kartu k modelu, který odmítl pustit na trh. Jmenuje se Claude Mythos Preview a podle firmy je tak schopný, že by ve volném oběhu nadělal víc škody než užitku.
Konkrétně jde o bezpečnost. Mythos prý dokáže najít a zneužít zranitelnost v každém větším operačním systému i webovém prohlížeči, pokud ho o to uživatel požádá. Nejstarší chyba, kterou odhalil, byla 27 let stará díra v OpenBSD, tedy v systému s pověstí jednoho z nejlépe zabezpečených vůbec. Jiné bugy přežily v cizím kódu dvě desetiletí lidských revizí. Popisuje to Anthropic v technickém blogu, který launch doprovázel.
Místo veřejného vydání spustila firma Project Glasswing. Model dostala k ruce úzká skupina zhruba padesáti prověřených organizací (mimo jiné Apple, Microsoft, Google, NVIDIA nebo JPMorgan Chase) a jediný úkol zní hledat a látat díry v kritické infrastruktuře dřív, než je najde někdo s horšími úmysly. Za první měsíc takhle našly přes 10 000 vysoce nebo kriticky závažných zranitelností. Bilance natolik nepříjemná, že guvernér Bank of England a šéf Rady pro finanční stabilitu Andrew Bailey požádal Anthropic, ať jeho orgán s nálezy ve finančním systému seznámí přímo.
A teď to zajímavé.
O šest týdnů později se rétorika otočila. V květnové aktualizaci Project Glasswing už Anthropic nepíše, že model zůstane zamčený napořád. Píše, že se těší, až modely třídy Mythos jednou nabídne ve veřejném vydání, jakmile k tomu dozraje dost silné zabezpečení. Žádné datum, žádný termín, jen změna tónu. Mezitím se v kódu Anthropiku mihlo označení claude-mythos-1-preview spolu s popisem přístupu k Mythosu v nástrojích Claude Code a Claude Security. Upozornil na to server TestingCatalog.
Z „příliš nebezpečné na vydání” se tak během měsíce a půl stalo „nebezpečné jen do doby, než to půjde prodat”. A přesně tohle mi na celém příběhu vrtalo hlavou od začátku. Argument, že svět potřebuje čas se zabezpečit, dává smysl. Koneckonců 99 % nálezů Glasswingu zatím zůstává neopravených, takže s utajením se těžko hádá. Jenže o tom, co je „příliš nebezpečné”, celou dobu rozhoduje firma, která to nebezpečí vyrobila, má z jeho strachu prospěch a teď z něj chystá produkt.
A nezůstane to u jednoho případu. Helen Tonerová z georgetownského Centra pro bezpečnost a vznikající technologie čeká, že Mythos je spíš první z řady než jednorázová výjimka. OpenAI ostatně týden po Mythosu vydala vlastní kyberbezpečnostní model GPT-5.4-Cyber, taky jen vybraným výzkumníkům. Roky přitom platilo, že otevřenost modelům i vědě prospívá, protože se na nich dá stavět a dají se zkoumat. Pokud se z nejschopnější umělé inteligence stane „dual-use” technologie po vzoru obranného průmyslu, k té nejlepší verzi se běžný uživatel nemusí dostat vůbec. Píše Nature.
Byla bych opatrná. Před šesti týdny byl Mythos příliš nebezpečný na to, aby existoval venku. Teď je z něj produkt, který si jednou možná koupíte. Buď se svět za tu dobu stihl zabezpečit rychleji, než kdokoli čekal — anebo „příliš nebezpečné” znamená něco trochu jiného ve chvíli, kdy k tomu přiložíte cenovku.
