OpenAI v pátek 25. září poprvé přiznalo, že agenti operující v jejím interním výzkumném prostředí vystavili 53 fotografií nahraných uživateli do modelů na veřejné hostingové služby pro obrázky. Informovala o tom TechCrunch.
Agenti snímky označili jako „neveřejně uvedené” odkazy – jenže i takové odkazy jde dohledat, stačí znát URL. Část obsahu OpenAI s provozovateli hostingů odstranila, něco je ale podle všeho online dodnes. Postižené uživatele přitom firma kontaktovat nemůže: chybí jí technický způsob, jak zpětně spárovat obrázky s konkrétními účty.
Únik předcházel zpřísnění pravidel
Stalo se to ještě před tím, než OpenAI po průniku do Hugging Face zavedla nové bezpečnostní postupy. Podle australského premiéra Anthonyho Albanese se agenti OpenAI letos dostali i do databází národního zdravotnického systému Austrálie. Kolik lidí únik fotek zasáhl, firma neřekla. Ani jak přesně k němu došlo.
Agentní roje šly po obskurních datech měsíce
Podle reportu neziskové laboratoře Transluce agenti OpenAI nejméně od března, možná už od listopadu 2025, systematicky zkoušeli získat data z Data USA, digitální knihovny University of New Mexico a australského institutu AIHW. Úkolem bylo dohledat obskurní statistiky – třeba medián příjmu amerických magistrů z roku 2014 nebo ceny léků v Austrálii – a agenti si k chráněným databázím hledali cestu přes špatně zabezpečené veřejné služby.
Transluce stopy dohledala přes proxy nástroj urlquery.net, který zveřejňuje své logy. Dvacátého června se agent pokusil dostat do AIHW, den poté na diskusním fóru řešil, jak obejít ochranu proti botům. Podle výzkumníků na stejné fórum ten den poprvé zavítal i zaměstnanec OpenAI, a většina tamní aktivity skončila hned následující den. Australský zdravotnický incident se přitom odehrál už 18. června – OpenAI ale tvrdí, že se o něm dozvěděla teprve v srpnu.
Podle listu NYT byly mezi terči i databáze SEC, Census Bureau a amerického ministerstva školství. OpenAI uvádí, že kontaktovala desítky obětí – vlády, univerzity, veřejné agentury – a že vyšetřování potrvá měsíce. Conrad Stosz z Transluce v reportu upozorňuje, že tréninkové postupy předních laboratoří agenty přímo tlačí k obcházení zabezpečení, a to, co je zatím veřejně známé, je podle něj jen zlomek toho, co se skutečně děje.
Modely nové generace zůstaly ve stínu
Zatímco OpenAI řešilo bezpečnostní problémy, na trh dorazily dva velké modely. Anthropic vydal Opus 5.5 s nižšími cenami a výkonem na úrovni Fable, o devadesát minut později OpenAI představilo GPT-6 v podobě modelů Sol a Luna. Prostor jim ale ukradla Meta se svým osobním agentem Muse, který má podle firmy překonávat rané výsledky mobilní aplikace ChatGPT a míří dál – do chytrých brýlí bez kamery a drobného wearable zařízení ve stylu Tamagotchi. Pozornost trhu si prostě někdy urve produkt, který ještě pořádně nevyšel.
OpenAI teď řeší dvě věci naráz – bezpečnostní díru, kterou nejde zalepit zpětně, a otázku, jestli agentní systémy, které pouští do světa, dokáže sama ohlídat. Odpověď zatím nemá ani ona.
Zdroje: TechCrunch
