Subscribe Now
Trending News
Shorts

Gemini 4 Carbon dostanou jako první bezpečnostní týmy

Gemini 4 Carbon dostanou jako první bezpečnostní týmy

Google DeepMind 28. října 2026 představil Gemini 4 Carbon, podle firmy svůj zatím nejsilnější model. Míří hlavně na kybernetickou bezpečnost a na dlouhé vícekrokové programátorské úlohy. Vývojářům, firmám ani běžným uživatelům ho ale Google zatím nedává. Jako první ho dostává jen část bezpečnostních týmů, které brání sítě a software před útoky, a postupně se přidají další prověření partneři z programu Fairwind. Ostatní přijdou na řadu, až Google posbírá zpětnou vazbu a doladí ochranné mechanismy (guardrails). Datum neuvedl. Zapojil se také do dobrovolného procesu americké vlády pro testování modelů před vydáním.

Oznámení podepsal Koray Kavukcuoglu, senior viceprezident Google DeepMind a hlavní architekt AI v Googlu. Carbon navazuje na Gemini 4 Argon, který Google ohlásil 30. září 2026 a vývojářům přes API otevřel 13. října. I Argon šel stejnou cestou, nejdřív přes Fairwind a teprve potom do API. Programu Fairwind se podle DeepMindu účastní přes 650 partnerů, mezi nimi CrowdStrike nebo Palo Alto Networks. Přednostně do něj Google pouští vlády a provozovatele kritické infrastruktury, třeba ze zdravotnictví, telekomunikací, energetiky nebo financí. Podmínky jsou přísné. U Argonu smějí partneři model zpřístupnit jen interním týmům pro bezpečnost, reakci na incidenty a penetrační testy, musí používat vícefaktorové ověření odolné proti phishingu a evidovat, kdo s modelem pracuje. Cena bude stejná jako u Argonu. V úvodním období stojí milion vstupních tokenů 2 dolary a milion výstupních 10 dolarů, tokeny z mezipaměti mají slevu 95 %. Pak se ceny zdvojnásobí na 4 a 20 dolarů.

Google rozděluje obranu do tří kroků: zranitelnost najít, ověřit, že se dá zneužít, a opravit ji u kořene. Ověření má praktický smysl, protože podle Googlu bezpečnostní týmy stále častěji nechávají modely zjistit, které chyby jdou skutečně zneužít, a podle toho řadí opravy. Na každý krok firma uvádí jeden benchmark. V testu SEC-bench Pro, kde model hledá chyby ve skutečném softwaru, dosáhl Carbon 88,2 %, GPT-6 Astra od OpenAI 85,4 % a Argon 83,4 %. Google použil část sady se 183 úlohami z JavaScriptových enginů. Úloha se počítá jako vyřešená, když model napíše ukázku útoku (proof of concept), která shodí zranitelnou verzi programu, ale ne opravenou. V testu ExploitGym, kde model musí chybu opravdu zneužít, má Carbon 54,8 % s limitem deset hodin na úlohu a 53,5 % se standardním šestihodinovým limitem. GPT-6 Astra bez časového limitu došel na 42,4 %, Claude Opus 5.5 od Anthropicu se šesti hodinami na 34,5 %. V žebříčku CWE-bench, který měří opravy, má Carbon 71,0 % a o tři procentní body předstihl Argon i GPT-6 Astra. SEC-bench Pro a ExploitGym si ale Google počítal sám, čísla konkurence převzal z jejich vlastních zpráv a svoje modely testoval bez ochranných filtrů. CWE-bench naopak vyhodnocuje u všech modelů firma Collinear AI.

Mimo bezpečnost je Carbon stavěný na dlouhou agentní práci. Interní týmy Googlu ho podle oznámení nechaly běžet i několik dní v kuse, když ve velkých kódových bázích a nízkoúrovňových systémech hledal příčiny nenápadných chyb a opravoval je. V souhrnném Artificial Analysis Intelligence Index v5.0 má 59 bodů a je první, těsně před Claude Opus 5.5 s 58 body. Argon tam má 50. Index sestavuje nezávislá firma Artificial Analysis a na jejím webu je Carbon k 31. říjnu 2026 na prvním místě. V žebříčku WebDev Arena, který porovnává tvorbu webových aplikací, si Carbon proti Argonu polepšil o 89 bodů Elo a s 1768 body je předběžně čtvrtý. Ne všude vede. V programátorském testu FrontierSWE 2 ho s 65,5 % proti 61,2 % porazil GPT-6 Astra a v testu ovládání počítače OSWorld-2.1 (část bez internetu) má Claude Opus 5.5 87,2 % proti jeho 81,5 %. Velký skok udělal u dlouhého kontextu: v testu GraphWalks s kontexty od 256 tisíc do milionu tokenů má 96,2 %, Argon 84,2 %.

Velkou část oznámení věnuje Google chování modelu. V testu Terminal-Bench 4.0 podle firmy klesl podíl úspěšných podvodů na nulu a pokusů o podvod na 0,4 %. Při ostrém programování s interními týmy ubylo závažných upozornění na misalignment, tedy na chování mimo záměr uživatele, skoro o 80 %. Carbon podle interních testů Googlu píše proti Argonu zhruba o polovinu méně nepodložených tvrzení a místo domýšlení chybějících údajů raději vypíše, co ještě potřebuje. O 26 % méně často dělá něco, o co ho nikdo nežádal, a o 29 % méně často nechá práci nedodělanou. V testu nepřímé prompt injection od Gray Swan neprošel při 15 pokusech jediný útok, zatímco u Argonu uspělo 0,7 % útoků a u Claude Opus 5.5 1,0 %. Všechna tato čísla zveřejnil Google.

Zdroje:

Related posts