Subscribe Now
Trending News
News

Gemma 4 12B přináší multimodální AI pro běžné notebooky

Gemma 4 12B přináší multimodální AI pro běžné notebooky

Google DeepMind představil Gemma 4 12B, nový otevřený model zaměřený na lokální běh multimodální AI. Novinka rozšiřuje rodinu Gemma 4 a míří mezi malé edge modely a výrazně větší varianty s architekturou Mixture of Experts. Cílem je nabídnout model, který zvládne pokročilé reasoning, práci s nástroji i multimodální vstupy bez nutnosti výkonných serverů. Podle Googlu je Gemma 4 12B navržena tak, aby běžela přímo na notebooku s přibližně 16 GB operační nebo sdílené paměti.

Za projektem stojí Google DeepMind, který pokračuje v rozšiřování otevřené rodiny modelů Gemma postavené na výzkumu využívaném také při vývoji Gemini. Model je dostupný pod licencí Apache 2.0 a Google uvádí, že komunita již stáhla modely Gemma více než 150 milionkrát. Ekosystém kolem Gemmy dnes zahrnuje tisíce odvozených modelů, specializovaných fine-tunů a nástrojů pro lokální provoz.

Největší technickou novinkou je takzvaná unified architektura. Většina multimodálních modelů používá samostatné encodery pro obraz nebo audio a teprve jejich výstupy předává jazykovému modelu. Gemma 4 12B tento krok vynechává. Obrazové i zvukové vstupy jsou integrovány přímo do hlavního modelu, což snižuje paměťové nároky, latenci a zjednodušuje celý inference pipeline. Zároveň jde o první středně velký model řady Gemma s nativní podporou audio vstupu.

Google model prezentuje především jako základ pro agentní aplikace běžící lokálně. Mezi zamýšlené scénáře patří osobní AI asistenti, lokální zpracování dokumentů, analýza dat, multimodální vyhledávání, automatizace pracovních postupů nebo vývojářské nástroje schopné pracovat s externími utility a API. Díky lokálnímu provozu mohou vývojáři vytvářet systémy, které neodesílají citlivá data do cloudu a fungují i bez internetového připojení.

Podle zveřejněných benchmarků se výkon modelu v řadě úloh přibližuje výrazně většímu modelu Gemma 4 26B MoE, přestože vyžaduje méně než polovinu paměti. Součástí modelu je také technologie Multi-Token Prediction, která umožňuje generovat více tokenů najednou a zkracovat odezvu při inferenci. Google tak cílí na oblast, kde se dnes střetává rostoucí zájem o lokální AI s omezenými hardwarovými možnostmi běžných uživatelů.

Z pohledu trhu je zajímavé především to, že se velcí hráči stále více zaměřují na modely určené pro lokální běh. Zatímco před několika lety byly pokročilé multimodální systémy doménou cloudových služeb, dnes se vývoj posouvá směrem k notebookům, pracovním stanicím a mobilním zařízením. Gemma 4 12B je dalším krokem tímto směrem a ukazuje, že schopnosti spojované s velkými modely se postupně dostávají i na hardware dostupný běžným vývojářům.

Zdroje:

Related posts