Subscribe Now
Trending News
News

AI Act: od neděle musí chatbot přiznat, že není člověk

AI Act: od neděle musí chatbot přiznat, že není člověk

V neděli 2. srpna se v celé Evropské unii začne používat článek 50 nařízení o umělé inteligenci. Zákaznický chatbot, hlasový asistent, digitální avatar i AI agent musí od té chvíle dát uživateli najevo, že na druhé straně nesedí člověk.

Za porušení hrozí pokuta až 15 milionů eur nebo tři procenta celosvětového ročního obratu, podle toho, co je vyšší. Pevná částka odpovídá zhruba 360 milionům korun. Mediální zkratka „od neděle se musí označovat AI obsah“ ale platí jen zčásti. Článek 50 nikde neříká, že každý obrázek z generátoru dostane viditelnou nálepku.

Povinností je pět a každá míří na jiného adresáta. Dvě z nich se běžného uživatele generativních nástrojů netýkají vůbec. Následující text shrnuje, co přesně od neděle platí, co se naopak posunulo o rok a půl dál a kdo má nová pravidla v Česku vymáhat.

Pět povinností, ne jedna nálepka

Česká asociace umělé inteligence rozdělila článek 50 podle toho, koho zavazuje. Rozdíl mezi poskytovatelem, tedy tím, kdo systém vyvíjí a uvádí na trh, a zavádějícím subjektem, tedy tím, kdo ho profesionálně používá, tady rozhoduje skoro o všem:

  1. Chatboti a voiceboti: poskytovatel musí systém navrhnout tak, aby člověk věděl, že komunikuje se strojem.
  2. Technické označení výstupů: poskytovatel generativního systému musí výstupy označit ve strojově čitelném formátu a zajistit, aby šlo označení detekovat.
  3. Rozpoznávání emocí a biometrická kategorizace: zavádějící subjekt musí informovat osoby, které jeho provozu vystaví.
  4. Deepfaky: kdo je zveřejňuje, musí uvést, že obsah vznikl nebo byl upraven uměle.
  5. Text ve veřejném zájmu: kdo publikuje AI generovaný text, který informuje veřejnost o veřejných záležitostech, musí to uvést.

Největší zmatek panuje kolem druhého bodu. Odstavec 2 nevytváří viditelnou nálepku pro čtenáře ani pro diváka, ale technickou vrstvu: digitálně podepsaná metadata nebo neviditelné vodoznaky. Smyslem je zpětná ověřitelnost původu, tedy aby šlo u konkrétního souboru dohledat, jestli ho vygenerovala AI. Viditelnou vrstvu řeší až odstavec 4, a to výhradně u deepfaků a u textů ve veřejném zájmu. Kodex správné praxe, který Evropská komise vydala jako dobrovolný návod, doporučuje ikonu EU a popisky AI GENERATED nebo AI MODIFIED. U zvukových deepfaků, kde vizuální označení nedává smysl, má stačit slyšitelné upozornění na začátku.

Pro poskytovatele generativních systémů, které byly na trhu už před 2. srpnem 2026, přitom platí odklad. Technické označení a detekci musí doladit až do 2. prosince 2026. Vyplývá to z čerstvé novely AI Actu.

Odstavce 4 a 5 se ale na zavádějící subjekty vztahují od neděle bez odkladu.

Kdy AI označovat nemusíte

Povinnost oznámit člověku, že mluví se strojem, neplatí tam, kde je to zřejmé. Komise ale tuhle výjimku vykládá dost úzce. Za zřejmé považuje třeba asistenta pro profesionální vývojáře, interního zaměstnaneckého asistenta pro proškolený personál nebo NPC v jednohráčové videohře, kde se z podstaty žádný jiný člověk účastnit nemůže. Zákaznický chatbot ani avatar v imerzivním prostředí podle pokynů zřejmé nejsou. Realistický robotický mazlíček taky ne.

Obecné povědomí o tom, že AI existuje, tedy firmu nezachrání.

Druhou výjimkou je běžná editace. Gramatická korektura, drobná úprava formátu, komprese nebo odstranění šumu z fotky pod povinnost označit obsah zpravidla nespadají. Shrnutí textu, parafráze měnící význam, dosazení nebo odstranění objektu ve fotce či realistická syntéza hlasu konkrétního člověka už ano.

A pak je tu definice deepfaku, kterou si podle mě spousta lidí přečte špatně. Deepfake podle AI Actu není každý AI obrázek. Musí jít o obsah, který se podobá existujícím osobám, místům nebo událostem a zároveň by se člověku mohl nepravdivě jevit jako autentický. Komise to ilustruje na pěkném protikladu: když e-shop dosadí fotku židle do vygenerovaného obývacího pokoje, o deepfake nejde, protože zákazník scénu chápe jako produktovou vizualizaci a vlastnosti výrobku zůstávají pravdivé. Když ale zpravodajský web přidá do fotky z demonstrace větší dav, situace se mění, protože u zpravodajské fotografie publikum očekává záznam skutečnosti. Úmysl oklamat se přitom nezkoumá. Zohlednit se má i to, kdo obsah uvidí, protože děti a lidé s nižší digitální gramotností se nachytat nechají snáz.

Média mají vlastní výjimku, a ta bude podle mě předmětem sporů. Text ve veřejném zájmu se označovat nemusí, pokud prošel skutečným lidským přezkumem a konkrétní osoba za jeho zveřejnění nese redakční odpovědnost. Kontrola pravopisu nestačí, existence redakční politiky na papíře taky ne. Redaktor musí mít znalosti k tomu text věcně ověřit, změnit ho, nebo ho odmítnout. A pokud do textu sáhne AI až po redakčním schválení, výjimka padá. Upřímně nevím, jak tohle bude kdokoli zvenčí prokazovat, protože redakční proces se z hotového článku vyčíst nedá.

Nejpřísnější část se posouvá o rok a půl

Pravidla pro vysoce rizikové systémy, tedy pro AI při náboru zaměstnanců, v úvěrovém hodnocení, ve vzdělávání, v justici nebo v kritické infrastruktuře, měla původně začít platit také 2. srpna 2026.

Nezačnou.

Novela označovaná jako AI Omnibus vyšla v Úředním věstníku 24. července 2026 a v platnost vstoupila 27. července. Systémy podle přílohy III dostaly čas do 2. prosince 2027, AI zabudovaná do regulovaných výrobků podle přílohy I až do 2. srpna 2028.

Komise odklad odůvodňuje zpožděním technických norem: firmy podle ní mají mít pravidla k dispozici až ve chvíli, kdy k nim existují nástroje pro implementaci. Advokát Jaroslav Kuba z poradenské společnosti Rödl k tomu dodává, že mluvit o odkladu AI Actu je zavádějící, protože řada povinností platí už dnes a od srpna jich přibývá.

Kritici to vidí opačně. Koalice organizací kolem EDRi, do níž patří Access Now, Amnesty International, ECNL i AlgorithmWatch, označila finální kompromis ze 7. května 2026 za oslabení AI Actu a vytkla mu procesní vady, zejména chybějící posouzení dopadů u nařízení, které ještě ani nezačalo platit. Předtím varovalo v otevřeném dopise šedesát organizací, úřadů a expertů. Nejvíc jim vadil návrh, aby poskytovatelé nemuseli registrovat systémy v evropské databázi, pokud sami usoudí, že vysoce rizikové nejsou.

Obě strany mají v něčem pravdu. Nároky na řízení rizik, kvalitu dat, vedení záznamů a technickou dokumentaci se bez hotových harmonizovaných norem plní hodně nepohodlně, na to si stěžují i firmy, které regulaci nijak nebojkotují. Zároveň platí, že ochranná pravidla se posouvají o rok a půl u aplikací, které rozhodují o práci a o penězích konkrétních lidí. Původně jsem ten odklad považoval hlavně za technikálii kolem norem. Čím víc čtu argumenty obou táborů, tím méně mi to jako pouhá technikálie připadá.

Kdo to bude v Česku vymáhat

Dozorové role vláda rozdělila mezi několik úřadů. Český telekomunikační úřad má obecnou působnost a slouží jako jednotné kontaktní místo, Česká národní banka dohlíží na regulované finanční instituce a Úřad pro ochranu osobních údajů má na starost vysoce rizikové systémy ve vymáhání práva, justici, volebních věcech a v oblasti hranic a migrace. ÚNMZ je oznamujícím orgánem pro posuzování shody, Česká agentura pro standardizaci provozuje regulační sandbox.

Adaptační zákon, který k tomu má doplnit procesní a sankční mechanismy, ale podle veřejně dostupných informací z jara 2026 neprošel celým legislativním procesem. Aktuální stav si ověřte, situace se mohla za poslední týdny pohnout. Ministerstvo financí navíc už v připomínkovém řízení upozornilo, že návrh počítá s 207 miliony korun ze státního rozpočtu na roky 2026 až 2028, a chtělo, aby si peníze na dozor našly MPO a ČTÚ ve svých rozpočtech.

Samotné povinnosti z článku 50 platí bez ohledu na to, protože nařízení EU je přímo použitelné. Vymáhání ale stojí a padá s procesním rámcem a s lidmi, kteří ho obsluhují.

V Česku zatím podle dostupných zdrojů nepadla za porušení AI Actu ani jedna pokuta.

Pro čtenáře z toho plyne jedna praktická změna. Od neděle by mělo být na české firemní podpoře poznat, kdy píšete se strojem, a poznat by to mělo jít z okna chatu ještě před první odpovědí, ne z obchodních podmínek.


Zdroje

  • Nařízení (EU) 2024/1689 (AI Act): eur-lex.europa.eu
  • Nařízení (EU) 2026/1744 (AI Omnibus), Úřední věstník 24. 7. 2026: eur-lex.europa.eu
  • Pokyny Evropské komise k transparentnosti podle článku 50: digital-strategy.ec.europa.eu
  • Kodex správné praxe pro transparentnost AI generovaného obsahu: digital-strategy.ec.europa.eu
  • Česká asociace umělé inteligence, „EU AI Act: Pravidla o transparentnosti AI začínají platit 2. srpna“, 27. 7. 2026: asociace.ai
  • MPO, „Novela AI Aktu a nové pokyny upřesňují pravidla pro využívání umělé inteligence“, červenec 2026: mpo.gov.cz
  • Hrot24, „Brusel odložil nejtěžší část AI Actu“, 29. 7. 2026: hrot24.cz
  • Lupa.cz, „Od 2. srpna přichází povinné označování výtvorů umělé inteligence“, červenec 2026: lupa.cz
  • EDRi a spol., analýza AI Omnibusu, červen 2026: ecnl.org
  • EDRi, otevřený dopis 60 organizací k transparentnosti v AI Actu, únor 2026: edri.org
  • LeitnerLaw, rozbor českého adaptačního zákona, březen 2026: leitnerlaw.cz
  • Česká justice, „Zákon o umělé inteligenci narazil na kritiku podnikatelů i úřadů“, listopad 2025: ceska-justice.cz

Related posts