Zavolá vám dcera. Poznáte její hlas okamžitě, ten byste poznali mezi tisíci. Pláče, něco se stalo, měla nehodu a potřebuje rychle poslat peníze. Jednáte, jak by jednal každý rodič. Jenže na druhém konci není vaše dcera. Je to program, který její hlas napodobil z pár vteřin videa, co dala na sociální síť.
Tohle už není sci-fi ani strašení do budoucna. Děje se to teď a děje se to čím dál víc, protože nástroje, které to umožňují, jsou najednou levné a v ruce skoro každého.
Minulý díl skončil slibem. Řešili jsme, jak chránit vaše data před únikem, a já naznačil, že existuje i druhá hrozba, aktivnější. Ne že vám něco unikne, ale že někdo použije AI přímo proti vám. Tady je celá.
Proč je to najednou problém
Podvodníci tu byli vždycky. Falešné emaily od nigerijského prince, vnuk v nouzi, výhra v loterii, do které jste se nepřihlásili. Nic z toho není nové.
Co je nové, je kvalita a měřítko.
Dřív šel podvod poznat. Šišatá čeština, divné oslovení, zjevně strojový překlad, obrázek slepený v malování. Amatérská práce, na kterou naletěl málokdo. AI tohle změnila od základu. Teď umí kdokoli vyrobit dokonalou češtinu, věrný hlas, video, které vypadá skoro jako pravé, a to všechno rychle a skoro zadarmo. Laťka, která dřív odfiltrovala neschopné podvodníky, spadla na zem.
Vzpomeňte na obraz z druhého dílu. Model je hádač, skládá pravděpodobná slova z mapy jazyka. Přesně tahle schopnost, tak užitečná, když ji použijete vy, se stává zbraní, když ji obrátí někdo proti vám. Ten samý stroj, který vám pomáhá psát email, umí napsat i dokonale znějící podvodnou zprávu. Nástroj je neutrální. Záleží, kdo ho drží.
Tři tváře zneužití
Zneužití AI má víc podob, ale pro běžný život stačí znát tři hlavní. Projdeme je popořadě.
Falešné hlasy. Tomu, co jsem popsal na začátku, se říká klonování hlasu. Z krátké nahrávky, klidně jen pár vteřin, dnešní nástroje vyrobí syntetický hlas, který zní jako konkrétní člověk. Stačí video ze sociální sítě, hlasovka, cokoli. Podvodník pak tímhle hlasem zavolá a hraje divadlo: příbuzný v nouzi, šéf, který nutně potřebuje převod, kdokoli, komu byste bez váhání věřili.
Vymyšlená videa. Deepfake je video nebo obrázek, kde AI vymění tvář nebo vloží slova do úst někomu, kdo je nikdy neřekl. Politik říká něco, co by nikdy neřekl. Známá osobnost propaguje investici, o které nikdy neslyšela. Kvalita jde nahoru každým měsícem a to, co ještě loni šlo poznat, dnes projde.
Podvodné texty na míru. Nejtišší a možná nejrozšířenější. AI umí vygenerovat tisíce variant phishingového emailu, každý v bezchybné češtině, každý přizpůsobený oběti. Umí si o vás z veřejných zdrojů zjistit detaily a vetkat je do zprávy, aby zněla důvěryhodně. Píše přesně tím tónem, který od dané instituce čekáte. Banka, pošta, úřad, doručovací služba.
Společný jmenovatel? Všechno tohle dřív vyžadovalo buď talent, nebo peníze. Teď nevyžaduje ani jedno.
Jak falešný obsah poznat
Teď to, kvůli čemu tu jsme. Rozpoznat se to dá, jen se člověk musí naučit dívat jinam, než byl zvyklý.
U videí a obrázků pořád existují trhliny, i když jich ubývá. Zpozorněte u těchhle věcí:
- Oči a mrkání. Deepfake často mrká divně, nepřirozeně, nebo skoro vůbec. Pohled bývá lehce skelný, jakoby mimo.
- Okraje a přechody. Podívejte se, kde tvář přechází do vlasů, kde se hlava potkává s krkem. Právě na hranicích to často drhne, rozmazává se, blikne.
- Ruce a detaily. AI si pořád láme zuby na rukou. Divný počet prstů, nepřirozené prohnutí, šperk, který se mění. Detaily bývají slabina.
- Zvuk a pusa. Nesedí pohyb rtů se slovy? Zní hlas ploše, bez emoce, s divnou intonací? To jsou varovné signály.
U hlasu je to těžší, protože sluch nemá kam zaklesnout. Klonovaný hlas zní čím dál věrněji. Přesto: často mu chybí přirozené zaváhání, nádech, drobné přeřeknutí. Zní hladce až moc. A hlavně, když volající tlačí na rychlost a emoce, zbystřete bez ohledu na to, jak dobře zní.
Nejlepší obrana není technická
Na technických vadách bych ale obranu nestavěl. Nebudete stíhat rozpoznávat každou, protože mizí. Co nezmizí, je vzorec, na kterém podvod stojí.
Skoro každý podvod přes AI má dvě společné věci: tlak na čas a tlak na emoce.
Musí to být hned. Nesmíte to s nikým konzultovat. Hrozí něco strašného, nebo naopak čeká něco skvělého, ale jen když zareagujete teď. Přesně tohle je otisk podvodu, ať za ním stojí AI, nebo ne. Protože kdybyste měli čas v klidu přemýšlet a ověřit si to, podvod by nevyšel. Spěch je jejich zbraň.
Takže nejsilnější obrana je pomalost.
Zavolá vám příbuzný v nouzi? Zavěste a zavolejte mu sami, na jeho známé číslo. Přijde naléhavý email z banky? Nejděte na odkaz v něm, otevřete si stránku banky ručně nebo zavolejte na oficiální linku. Chce po vás někdo peníze nebo údaje pod tlakem? Právě ten tlak je důvod couvnout, ne spěchat. Pár minut ověření zboří i dokonalý deepfake, protože ten funguje jen v tom prvním impulzu.
Domluvte si s blízkými rodinné heslo. Slovo, které zná jen rodina a které si po telefonu řeknete, když jde do tuhého. Klonovaný hlas ho neuhodne. Je to pitomě jednoduché a funguje to líp než jakákoli technická finta.
Zdravá ostražitost, ne panika
Bylo by snadné po tomhle dílu přestat věřit vlastnímu telefonu. Byla by to ale přehnaná reakce a taky vyčerpávající způsob života.
Většina zpráv, co dostanete, je pravá. Většina videí je skutečná. Cílem není podezřívat všechno a každého, ale poznat těch pár situací, kdy jde o peníze, o údaje nebo o rychlé rozhodnutí pod tlakem. Tam a jen tam nasadit obezřetnost. Zbytek času můžete žít v klidu.
Je to vlastně stejný posun jako u celého seriálu. U halucinací jsme se učili nevěřit slepě sebejistému tónu modelu. Tady se učíme nevěřit slepě tomu, že hlas nebo tvář patří tomu, komu se zdá. Stará mediální gramotnost, nový hráč. Ověřuj, než zareaguješ. Zpomal, když někdo tlačí.
V tom je odolnost, kterou žádný sebedokonalejší deepfake neprolomí: nestojí na tom, že podvod poznáte podle vady v obraze, ale na návyku zastavit se dřív, než jednáte.
Zneužití AI druhými je jedna strana zodpovědnosti. Existuje ale i druhá, tišší a osobnější: jak AI používáte vy sami, když jde o poctivost. Kdy je fér ji použít, jak se dívat na autorství a kde leží hranice mezi pomůckou a podvodem. O etice a autorství, tématu, které se týká úplně každého, kdo s AI něco tvoří, bude příští díl.
