Na pražské demonstraci 31. srpna zaznělo, že je potřeba zastavit trénink modelů nad 10²⁵ výpočetními operacemi. Přesně tenhle práh má Evropa v AI Actu a povinnosti z něj platí od loňského srpna. Dvě nové české neziskovky žádají regulaci výpočetního výkonu, aniž by jim došlo, že ta jejich hlavní už rok běží.
Podle odhadu Lupy.cz dorazily poslední prázdninový den na náměstí Jana Palacha nižší desítky lidí. Organizátoři z PauseAI přitom na sítích psali, že by jich mělo přijít aspoň pět set. Průvod pak odešel směrem k Úřadu vlády a v proslovech zaznělo to, s čím spolek pracuje od svého vzniku: zablokovat modely nad určitou hranicí, dokud u nich nepůjde zaručit bezpečnost.
Tu hranici má PauseAI na webu napsanou číselně. „Takovým modelem se rozumí AI s více než 10¹² parametry nebo trénovaná s více než 10²⁵ výpočetními operacemi.“
Deset na dvacátou pátou.
Práh, který už rok platí
Článek 51 evropského AI Actu pracuje se stejným číslem. Obecný model natrénovaný nad 10²⁵ operací se automaticky klasifikuje jako model se systémovým rizikem a povinnosti pro jeho poskytovatele začaly platit 2. srpna 2025. Kdo dnes v Evropě nabízí velký obecný model, plní tyhle povinnosti víc než rok.
Práh mají oba dokumenty stejný. Liší se v tom, co se za ním děje. AI Act ukládá poskytovateli vyhodnotit model, hlásit incidenty a řešit kyberbezpečnost. PauseAI chce povolovací řízení po vzoru léčiv, kde nová mezinárodní agentura vydává souhlas s každým tréninkovým během a s každým nasazením. Ohlašovací povinnost versus povolení předem. To je celý spor a na náměstí nezazněl. Přitom je to jediná část toho balíku, o které se dá vést seriózní debata.
Na pódiu vystoupila poslankyně Irena Ferčíková Konečná a kritizovala, že se evropská regulace rozmělňuje. Naráží na omnibus k AI Actu a formálně má pravdu. Jenže ten příběh vypadá jinak, než jak ho podala. Nařízení 2026/1744 je účinné od 27. července letošního roku a povinnosti pro vysoce rizikové systémy podle přílohy III odsouvá z letošního srpna až na 2. prosince 2027, tedy o šestnáct měsíců. Důvodem nebyl tlak lobbistů, ale to, že nebyly hotové normy a metodiky. Komise odložila vlastní pravidla, protože je nedokázala zprovoznit.
A do téhle situace přichází dvojice spolků s tím, že by to chtělo ještě jednu vrstvu navrch.
Jeden detail z Lupy, protože dobře vystihuje úroveň té debaty. Kolegové z Brna se cestou na demonstraci zasekli na 110 minut ve vlaku kvůli poruše zabezpečovacího zařízení a jeden z řečníků z toho na místě udělal argument, že technologie jsou rizikové. Spojit staniční zabezpečovačku s velkými jazykovými modely chce jistou pružnost.
Zákaz publikovat matematiku
Druhý bod návrhu zní: „Omezit zveřejňování průlomových algoritmů.“ Nové tréninkové postupy, jako byla svého času architektura Transformer, mají být podle PauseAI regulované podobně jako jiné formy nebezpečných informací.
Tohle už jsme jednou zkoušeli a víme, jak to dopadlo.
V devadesátkách vedly Spojené státy silnou kryptografii jako munici a na export povolovaly jen oslabené šifry s klíči do 512 bitů. Vývoj to nezastavilo, jen se přesunul jinam. Zato ta oslabená větev zůstala v knihovnách a v protokolech ležet a v březnu 2015 z ní vylezla zranitelnost FREAK. Zasáhla 36 % serverů s HTTPS, mezi nimi fbi.gov, whitehouse.gov i nsa.gov, a klíč z té doby šlo prolomit za nějakých sto dolarů v cloudu. Regulace, která měla omezit šíření nebezpečné matematiky, po sobě nechala díru, kterou si internet nesl dvacet let.
Když čtu, že se má regulovat publikace tréninkových algoritmů, čtu návrh na crypto wars podruhé. Tentokrát s tím rozdílem, že arXiv je otevřený a Čína na něj má stejný přístup jako Brno.
Ratchet, o kterém se nemluví
A pak je tam věta, kvůli které jsem si sedl a otevřel editor. „Je proto třeba zvážit regulaci výpočetního výkonu – například přes omezení výroby čipů a nových výpočetních paradigmat (fotonické čipy, kvantové počítače).“
Živím se kontrolou kvality v elektronické výrobě a s fotonikou ani s kvantovými počítači se dnes žádný jazykový model netrénuje. Ta věta v návrhu nedává technický smysl, jen řadí strašidla za sebe. Omezovat výrobu čipů kvůli riziku, že si někdo natrénuje superinteligenci na běžném hardwaru, znamená sáhnout na dodavatelský řetězec, ze kterého žije celý průmysl od automobilek po zdravotnickou techniku.
Přitom pod tím vším leží problém, kterého si nevšiml nikdo z účastníků a který je věcně mnohem zajímavější. Podle měření Epoch AI se výpočet potřebný ke stejnému výkonu u jazykových modelů půlí každých osm měsíců, s intervalem spolehlivosti pět až čtrnáct. Moorův zákon zdvojnásobuje výkon hardwaru za dva roky, tohle běží několikrát rychleji. Pevně stanovená hranice se tím pádem sama utahuje: co bylo v roce 2024 na okraji možností, je za pár let běžná univerzitní práce, ale spadne pod stejný strop, protože strop se nehnul. Prahová regulace výpočtu je tichý ratchet a nikdo pro něj zatím nemá dobrou odpověď.
Jádro problému je v tom, že se hranice měří na vstupu, zatímco regulátora zajímá výstup. FLOP je spočitatelný, schopnost modelu ne, a efektivita mezi ty dvě veličiny každý rok vráží klín. Evropská komise si to zjevně uvědomuje, protože AI Act jí umožňuje práh upravit delegovaným aktem. Číslo 10²⁵ tedy není fyzikální konstanta, ale politické rozhodnutí, které lze měnit bez řádného legislativního procesu. Mezinárodní agentura by měla stejný problém, jen o dvě patra výš a bez kohokoli, kdo by ji přehlasoval.
Kdo to bude vymáhat
Zbývá otázka, kdo by tu mezinárodní agenturu poslechl. Máme na to živý experiment: americké exportní kontroly čipů do Číny.
Pravidla platí od října 2022. DeepSeek trénoval V3 na čipech H800, které byly navržené přesně tak, aby prošly, a výkonem se blížily zakázanému H100. Zakázat je Washington stihl až v říjnu 2023, tedy s ročním zpožděním. Analytici z RAND z toho vyvozují, že kontroly neselhaly principiálně, ale kvůli mezerám a pomalému prosazování.
Beru to jako platný argument, jen z něj plyne přesný opak toho, co si od něj bezpečnostní aktivisté slibují. Spojené státy měly jediné hrdlo lahve v podobě Nvidie a stejně jim rok trvalo zavřít jednu díru. Agentura, která by měla schvalovat tréninkové běhy po celém světě, by potřebovala dohled nad litografií v Hsinchu, nad balírnami v Malajsii, nad každým clusterem, který si někdo poskládá z karet nakoupených po kusech přes tři překupníky v Šen-čenu, a nad výzkumnými odděleními států, které tu úmluvu ani nepodepíšou. Jako myšlenkový experiment fajn. Jako návrh veřejné politiky je to přání zapsané do odrážky.
Musím ovšem přiznat, že mi vlastní argument nesedí úplně hladce. Výpočetní výkon je totiž jediná bezpečnostní páka, která je fyzicky spočitatelná, a proto ji zkoumají i lidé, které bych aktivisty nenazval. Ze všech nástrojů, které se v téhle debatě nabízejí, je regulace výpočtu ta nejméně hloupá. Pořád ho ale považuju za špatný, protože reguluje schopnost místo použití. AI Act, se kterým mám spoustu problémů, jde po aplikacích a kontextech. PauseAI chce jít po tom, co model umí, bez ohledu na to, k čemu slouží. To je hranice, kterou nepřekročila ani ta nejregulačně nadšenější jurisdikce světa.
Regulujeme, co nevyrábíme
Nejvíc mi ale na celé té demonstraci vadí adresa. Praha, konec srpna, požadavek na globální kontrolu výpočetního výkonu vznesený ze země, jejíž veškerá plánovaná kapacita pro trénink umělé inteligence je jedna gigafactory nad Zbraslaví, která zatím existuje na papíře, a jejíž největší chystané datové centrum má mít v první fázi 22 MW.
Evropa nemá frontier model. Přesto má podle Draghiho zprávy o konkurenceschopnosti kolem stovky technologických zákonů a přes 270 regulátorů působících v digitálních sítích. Víc než 60 % evropských firem přitom považuje regulaci za překážku investic. Draghi jmenovitě kritizuje princip předběžné opatrnosti v AI Actu. Není to zpráva od někoho, koho by šlo odbýt jako libertariánského nadšence do trhu.
Jenže tady si tu úvahu obvykle přetáhnu dál, než unese. Odliv lidí z evropského výzkumu do Kalifornie neběží kvůli AI Actu, ten je účinný teprve od roku 2024. Táhnou ho platové rozdíly v násobcích a dostupnost rizikového kapitálu. K tomu jedna drobnost, které si nikdo nevšímá: v Evropě se opce v pracovní smlouvě pořád berou jako exotika. Mistral navíc zůstal v Paříži a peníze si zvedl, takže tvrdá verze „všichni utekli“ neplatí.
Regulace je ale ta jediná příčina, kterou si Evropa způsobila sama a mohla by ji změnit do roka. Platy v Bay Area Brusel neovlivní. Tohle ano. A tady stojí dvě české neziskovky a navrhují přidat další vrstvu.
Energetika: kdo zaplatí nové zdroje
Poslankyně na demonstraci zmínila, že datová centra zdražují elektřinu. Tady se přetahovat nebudu, protože v krátkém horizontu má pravdu. Gigafactory nad Zbraslaví má mít výkon nejméně 100 MW a při plném provozu by se dostala ke dvěma procentům celkové české spotřeby. To se do velkoobchodní ceny promítne a někdo to zaplatí.
Jenže strop na výpočet odstraní zákazníka, ne spotřebu. Restart Three Mile Island se rozjel kvůli poptávce datacenter a americká vláda na něj loni v listopadu pustila miliardu dolarů v úvěru. Poprvé po desetiletích má někdo zájem platit za nové zdroje dopředu.
Za dvacet let se u nás nepostavila ani nová výroba, ani připojovací kapacita. Poptávku umíme vyrobit rychle, elektrárnu ne.
Dvě organizace, jeden adresář
Sedlák z Lupy popsal scénu jako dvě neziskovky. Formálně sedí: PauseAI CZ funguje jako spolek od prosince 2025, Iniciativa pro bezpečnost AI se ustavila letos v červenci jako zapsaný ústav. Ondřej Krása z Univerzity Pardubice ale figuruje v obou. Zvenčí to vypadá jako scéna. Zblízka je to okruh lidí, které spočítáš na prstech jedné ruky.
IBAI je z těch dvou serióznější a píšu to bez ironie. Nedělá happeningy, chce psát analýzy a chystá evropskou občanskou iniciativu, která má nasbírat milion podpisů a dotlačit svět k ratifikaci mezinárodní úmluvy v roce 2029. Nástroj je legitimní, jen bych si na něj nesázel: ECI potřebuje milion podpisů z nejméně sedmi států do dvanácti měsíců, ze stovky registrovaných iniciativ tu hranici překonal jen zlomek a Komise ani potom nemusí předložit nic.
Bezpečnostní výzkum AI je legitimní obor a najdou se v něm lidé, kteří tomu rozumí líp než já. Jenže organizace, která na náměstí žádá zastavení u prahu platného od loňska a přidá k tomu omezení výroby čipů se zákazem publikovat algoritmy, nedělá bezpečnostní politiku. Dělá symbol. A symboly mají v Bruselu ošklivý zvyk propsat se do textu, ze kterého se pak dvacet let vyrábí exportní šifra.
Zdroje: PauseAI CZ – návrh · Lupa.cz: reportáž z demonstrace · Evropská komise: GPAI v AI Actu, čl. 51 · Nařízení (EU) 2026/1744 · Epoch AI: Algorithmic progress in language models · FREAK · RAND: DeepSeek’s Lesson · The Register: úvěr na Three Mile Island · Ekonews: datacentra a ceny elektřiny · IBAI
