Na jaře roku 2023 si tři zaměstnanci jihokorejského Samsungu během necelého měsíce zjednodušili práci podobným způsobem. Jeden vložil do ChatGPT kus interního zdrojového kódu, aby mu pomohl najít chybu. Druhý nahrál zápis z porady a požádal o shrnutí. Třetí prošel modelem výsledky interních testů. Žádný z nich nejednal ve zlém úmyslu, žádný neporušil zákon. Přesto Samsung během několika dní zakázal používání externích AI nástrojů napříč celou firmou. Data byla pryč a nešla vzít zpět.
Tahle historka by se dnes mohla odehrát v jakékoli firmě v Česku. A v menších obměnách se odehrává každý den i v soukromí: když někdo poprosí ChatGPT o pomoc s rozvodovou dohodou, lékařskou zprávou nebo přihlašovacím heslem do internetového bankovnictví.
Cílem tohoto textu není naučit vás ovládat AI nástroje. K tomu existují manuály. Cílem je nastavit vám hlavu tak, abyste s nimi mohli žít bezpečně.
Komu je tento průvodce určen
Text je psaný pro dvě skupiny čtenářů a každá z nich si v něm najde svoji část.
První skupinou je běžný uživatel. Někdo, kdo si nechá od ChatGPT, Gemini nebo Copilota pomoct s e-mailem tchyni, s receptem na nedělní oběd nebo s přípravou dovolené. Žádný technik. Žádné firemní pravidlo nad hlavou. Jen vlastní zdravý rozum a osobní data, která stojí za to chránit.
Druhou skupinou je zaměstnanec. Někdo, kdo AI používá v práci, ať už to firma oficiálně schválila, nebo zatím o tom firma neví. Pro tuto skupinu je sázka výrazně vyšší: kromě vlastních dat řeší duševní vlastnictví zaměstnavatele, smlouvy s klienty a v některých případech i osobní právní odpovědnost.
Rozdíl mezi oběma skupinami je jednoduchý a stojí za to si ho zapamatovat. Doma za následky platíte vy. V práci platí firma, ale odpovědnost nese zaměstnanec.
Jak AI ve skutečnosti zachází s tím, co jí napíšete
Většina lidí přistupuje k chatovacímu oknu jako k vyhledávači. Položím dotaz, dostanu odpověď, hotovo. Tahle představa je nebezpečně mylná.
Velké jazykové modely (LLM) provozované jako veřejně dostupná služba mají ve výchozím nastavení dvě vlastnosti, které je dobré znát. Za prvé, váš vstup může být použit k dalšímu trénování modelu. Co tam dnes napíšete, může se v budoucnu objevit jako součást odpovědi někomu jinému. Za druhé, vzorky konverzací mohou procházet lidští anotátoři kontrolující kvalitu výstupů. Soukromí v ten okamžik neexistuje.
Placené firemní verze (ChatGPT Team a Enterprise, Microsoft 365 Copilot, Gemini for Workspace) mají tyto věci nasmlouvané jinak: data se zpravidla netrénují a režim přístupu je přísnější. Bezplatné verze a osobní účty fungují ve výchozím režimu volnějším.
To je celá podstata problému. Když do AI vložíte rodné číslo, výplatní pásku, klientskou smlouvu nebo zdrojový kód, jednáte s pozoruhodně dobře oblečeným cizincem, který si vás možná nahrává.
Past, do které padáme všichni
Před technickými pravidly stojí za to chvíli mluvit o psychologii. AI nástroje s námi komunikují lidsky. Říkají „rozumím”, omlouvají se za chyby, vyjadřují se empaticky. Náš mozek to čte jako rozhovor s kolegou. A kolegovi u kávy občas řekneme něco, co bychom nikdy nenapsali do firemního dokumentu.
Tomuto jevu se říká antropomorfizace — připisování lidských vlastností něčemu, co je nemá. Jazykový model nemá vědomí, loajalitu ani diskrétnost. Je to statistický nástroj, který velmi dobře předpovídá další slovo ve větě. Jakmile s ním začnete jednat jako s důvěrníkem, právě jste udělali první chybu.
Tohle není výzva ke chladu nebo k podezíravosti. Je to jen pozvánka k poctivému pojmenování situace. Když mluvíte s AI, nemluvíte s kamarádem. Mluvíte se službou.
Semafor pro každodenní rozhodování
Místo dlouhé směrnice s desítkami pravidel stačí jednoduchý filtr, kterým si proženete každý dotaz, než stisknete Enter. Nazvěme ho semafor.
Červená — sem to nepatří. Cokoli, co obsahuje unikátní identifikátor člověka nebo firmy. Rodná čísla, hesla, čísla účtů, lékařské zprávy s diagnózou, jména klientů, interní strategické dokumenty, finanční výkazy, zdrojový kód, který firmu odlišuje od konkurence. Pravidlo zní: jakmile by konkrétní text mohl někoho identifikovat nebo poškodit, nemá v AI co dělat.
Oranžová — použít, ale až po úpravě. Pracovní e-maily, popisy problémů, obecné zadání projektů. Ne všechno se hodí poslat tak, jak to leží. Místo „naše firma má problém s cashflow kvůli opožděné platbě od ČEZu” napíšete „středně velká firma řeší dočasný výpadek likvidity kvůli pozdní faktuře od klienta z energetiky”. Pointa zůstane stejná, AI vám pomůže stejně dobře, ale identifikační stopa je pryč. Říká se tomu abstraktizace a je to dovednost, kterou se vyplatí natrénovat.
Zelená — bez obav. Veřejně známá fakta, gramatické korektury obecných textů, nápady na dárky, generování marketingových titulků, brainstorming bez vazby na konkrétní firmu. Tady je AI ve své nejlepší formě.
Tenhle filtr nevypadá nijak složitě, a o to právě jde. Bezpečnost při práci s AI se nedělá pomocí dvacetistránkové směrnice. Dělá se třemi sekundami zaváhání před každým Enter.
Druhý směr rizika: co od AI dostáváme zpátky
Většina lidí si pod „bezpečností AI” představuje jen to, co do nástroje pošle. Stejně důležité ale je, co z něj přijde zpět.
Jazykové modely halucinují. Tvrdí věci s naprostou jistotou, i když si je vymýšlí. Citují neexistující paragrafy zákonů, vymýšlí knihy a jejich autory, generují kód s funkcemi, které v dané knihovně nikdy nebyly. Problém není v tom, že se občas spletou. Problém je v tom, že se pletou se stejným sebevědomím, s jakým říkají věci pravdivé.
V praxi to znamená jedinou věc. Pokud použijete výstup z AI (kód, právní rada, lékařská informace, analýza trhu, citace do článku), odpovědnost za chybu nese ten, kdo to použil. AI vás nikam nedoprovodí, neomluví a před soudem za vás nepostaví.
Pravidlo zní: AI je výborný juniorní asistent a mizerný šéf. Berte si od ní nápady, koncepty, první verze. Hotové výstupy si ověřte z nezávislého zdroje, než je vypustíte do světa.
Shadow IT: tichá hrozba v každé kanceláři
Jednou z nejčastějších cest, jak se firemní data dostávají ven, je takzvané Shadow IT — situace, kdy zaměstnanec řeší pracovní úkol v nástroji, který jeho IT oddělení neschválilo nebo o něm vůbec neví.
Scénář se opakuje stále stejně. Firma buď AI oficiálně nezakázala, ale ani nepořídila placenou verzi, nebo ji zakázala, ale zaměstnanec spěchá. Otevře si bezplatnou verzi ChatGPT pod svým soukromým Google účtem, nahraje tam pracovní report a jde domů o hodinu dřív. Z jeho pohledu šlo o nevinné šetření času. Z pohledu firmy právě vyvedl duševní vlastnictví do služby s nejvolnějšími pravidly pro nakládání s daty.
Tahle situace má jednoduché řešení a vyžaduje upřímnost na obou stranách. Pokud chcete v práci AI používat, zeptejte se vedení nebo IT oddělení, co je povoleno. Pokud nic povoleného není, požádejte o to. Pokud vás firma odmítne, neobcházejte to. V momentě, kdy něco uteče přes váš soukromý účet, nemá zaměstnavatel co řešit. Odpovědnost je vaše.
Phishing v nové éře: konec špatné češtiny
Po dlouhá léta jsme se učili rozpoznat podvodný e-mail podle lámaného jazyka, podivného slovosledu a generického oslovení „Vážený zákazník”. Tahle pomůcka definitivně skončila.
Útočník dnes nemusí umět česky. AI mu text přeloží a stylizuje do dokonalé korporátní mluvy, která napodobuje styl konkrétní banky, IT podpory nebo dokonce vašeho šéfa. K tomu mu stačí pár veřejně dostupných ukázek: výroční zpráva banky, váš LinkedIn profil, vaše příspěvky na sociálních sítích. Vznikne tak personalizovaný phishingový e-mail (odborně spear phishing), který je k nerozeznání od skutečnosti.
Bezpečnostní firmy Proofpoint a Darktrace dokumentují od roku 2024 strmý nárůst tohoto typu útoků napříč evropskými jazyky včetně češtiny. Gramatické chyby zmizely. Zbylo jen jedno spolehlivé varovné znamení: záměr.
Když po vás e-mail (jakkoli dobře napsaný) chce rychlou akci jako kliknutí na odkaz, zadání hesla, schválení faktury nebo změnu čísla účtu, zpomalte. Žádná legitimní instituce nepotřebuje, abyste cokoli vyřešili během pěti minut. Pokud vám píše banka, otevřete si její oficiální aplikaci. Pokud vám píše šéf, zavolejte mu nebo mu napište na interním chatu. Tomuto principu se říká ověření druhým kanálem a je to dnes nejúčinnější obrana, kterou máte.
Deepfakes: když uším ani očím nelze věřit
V únoru 2024 obletěl svět případ hongkongské pobočky inženýrské firmy Arup. Zaměstnanec účetního oddělení se zúčastnil videokonference, na které byl finanční ředitel firmy a několik dalších kolegů. Všichni vypadali a mluvili přesně tak, jak je znal. Po krátké poradě dostal pokyn převést přibližně 25 milionů amerických dolarů, v přepočtu zhruba 600 milionů korun, na několik účtů. Provedl to.
Na videokonferenci s ním nebyl ani jeden skutečný člověk. Všechny postavy v hovoru byly deepfake, tedy videa vygenerovaná v reálném čase na základě veřejně dostupných záznamů skutečných zaměstnanců.
Tahle technologie už dávno není doménou hollywoodských studií. Pro vygenerování věrné napodobeniny lidského hlasu dnes stačí asi tři sekundy nahrávky. Najít tři sekundy hlasu kohokoli, kdo má účet na Instagramu, YouTube nebo TikToku, je práce na pár minut.
Pro běžné uživatele odtud plyne jedna konkrétní rada, kterou si zaslouží zavedení v každé rodině. Domluvte se na rodinném hesle. Jedno tajné slovo, které znají jen členové domácnosti. Může to být jméno dávno mrtvého psa, vymyšlený výraz, cokoli, co nenajdete na sociálních sítích. Když vám zavolá „syn” z neznámého čísla, že měl nehodu a potřebuje urgentně peníze, prostě se zeptejte na heslo. AI ho nezná.
Pro zaměstnance platí podobné pravidlo v korporátní podobě. Pokud vám telefonuje nebo videokonferenčně volá nadřízený s netradičním úkolem typu schvalte převod, pošlete přístupy nebo otevřete neznámou přílohu, zavěste a zavolejte mu zpět na jeho oficiální, uložené číslo. Nikoli na číslo, ze kterého vám právě volal.
A pokud máte při videohovoru sebemenší podezření, požádejte druhou stranu o nečekanou věc. Otočit hlavu výrazně z profilu, mávnout rukou před obličejem, dotknout se nosu. Generátory videa v reálném čase mají s rychlým pohybem stále potíže: obraz se začne trhat, deformovat nebo na vteřinu prosvitne pravá tvář útočníka.
Tři pilíře digitální neprůstřelnosti
Z předchozích kapitol stojí za to vytáhnout tři principy, které fungují napříč všemi situacemi.
Zpomalit. Útočníci sázejí na časový stres a emoce: strach, zvědavost, urgenci, autoritu. Pokud na vás cokoli (e-mail, telefonát, AI nástroj) tlačí k rychlému rozhodnutí, je to první varování. Zdravá pochybnost vás nikdy nestála víc než pět minut. Ukvapené „ano” stálo lidi i firmy miliony.
Ověřovat mimo systém. Když přišla výzva e-mailem, ověřujte telefonem. Když přišla telefonem, ověřujte e-mailem nebo osobně. Útočník zpravidla kontroluje jen jeden kanál. Druhý mu zlomí vaz.
Předvídat. Vycházejte z toho, že cokoli na internetu vidíte, slyšíte nebo čtete, může být syntetické. Není to paranoia, je to realismus odpovídající stavu techniky v roce 2026. Zdravá skepse je dnes nejúčinnější bezpečnostní software, který si můžete nainstalovat. A běží zdarma ve vaší hlavě.
Desatero pro bezpečnou práci s AI
Pro ty, kdo chtějí mít přehled na jednom listě papíru:
- AI nezapomíná. Co tam jednou napíšete, tam zůstane.
- Anonymizujte. Měňte jména, názvy firem a unikátní čísla za obecné pojmy.
- Ověřujte. Každé tvrdé číslo nebo fakt z AI prověřte v externím zdroji.
- Neplaťte daty. Pokud za nástroj neplatíte penězi, platíte za něj svými daty.
- Respektujte firemní pravidla. Nepoužívejte v práci nástroje, které IT oddělení neschválilo.
- Nehledejte gramatické chyby v podvodech. Hledejte podezřelý záměr.
- Ověřujte druhým kanálem. Mail telefonem, telefon mailem.
- Mějte rodinné heslo. Naučte ho děti i prarodiče.
- Při videohovoru si v případě pochybnosti vyžádejte nečekaný pohyb.
- Zpomalte. Žádná legitimní záležitost nevyžaduje rozhodnutí během pěti minut.
Bezpečnost při práci s umělou inteligencí není otázkou techniky. Je otázkou návyků. Stejně jako jsme se před dvaceti lety naučili nedávat heslo do e-mailu a před deseti lety neklikat na podivné odkazy, teď se učíme novou vrstvu chování: nezacházet s AI jako s důvěrníkem, neslepě nevěřit jejím výstupům a počítat s tím, že obraz a zvuk už nejsou důkaz identity.
Není to těžké. Stačí třísekundová pauza před stiskem Enter, jedno tajné slovo s rodinou a zvyk ověřit důležitou věc druhým kanálem. Když si tyhle tři věci osvojíte, jste výrazně dál než většina populace. A útočníci si zpravidla vybírají snadnější cíle.
