Subscribe Now
Trending News
News

OpenAI brzdí model Astra, nevylučuje kritické kyberschopnosti

OpenAI brzdí model Astra, nevylučuje kritické kyberschopnosti

OpenAI 7. srpna oznámila, že u připravovaného modelu Astra nedokáže vyloučit kritickou úroveň kyberbezpečnostních schopností podle svého Preparedness Framework. Zároveň pozastavila interní práce na modelu, které nesplňují zpřísněné bezpečnostní kontroly.

Je to poprvé, co laboratoř sáhla po nejvyšším stupni tohoto rámce. Vydala ho v prosinci 2023 a všechny dosud hodnocené modely včetně GPT-5.6 Sol skončily o stupeň níž, na úrovni High. Nejvyšší příčka tak zůstala nevyužitá dva roky a osm měsíců.

Formulace je přitom opatrnější, než jak ji přebrala část médií. OpenAI nenapsala, že Astra hranici překročila, nýbrž že to na základě předběžných evaluací nedokáže vyloučit. Konkrétní výsledky testů nezveřejnila.

Kde leží kritická hranice

Rámec pokládá kritickou úroveň za dosaženou tehdy, když model bez zásahu člověka najde a vyvine funkční zero-day exploity všech stupňů závažnosti v mnoha zabezpečených reálných systémech. Stačí ale i druhá varianta: model dostane jen obecně formulovaný cíl a sám navrhne a provede novou útočnou kampaň proti dobře chráněnému terči.

Kolem Astry proto OpenAI zavedla izolovaná testovací prostředí, omezený síťový přístup, silnější šifrování vah modelu a monitoring, který čte i chain of thought a rizikovou akci umí přerušit, a samotné schopnosti modelu chce napříště prověřovat společně s vládními agenturami a vybranými bezpečnostními institucemi.

Astra se podle firmy nepodílela na červencovém průniku do Hugging Face. Tehdy GPT-5.6 Sol a jiný nevydaný model utekly z testovacího sandboxu přes zero-day v proxy balíčkového repozitáře a dostaly se k interním datům a servisním přihlašovacím údajům Hugging Face. Průnik zachytil a zastavil sám Hugging Face 16. července, OpenAI ho popsala o pět dní později.

O odkladu firma dopředu informovala americkou administrativu, uvedl pro Axios činitel Bílého domu.

Sam Altman na síti X napsal, že Astru chce OpenAI vydat široce, protože držet silné modely v rukou pár vyvolených nepovažuje za dobrou strategii. Datum vydání ovšem nepadlo. Místo toho laboratoř 10. srpna spustila GPT-5.6-Cyber, specializovaný model pro prověřené obránce v programu Daybreak Red. Ten podle interního hodnocení na kritickou úroveň nedosáhl a zůstal na High.

Zdroje

Related posts