Deepfake je v poslední době často skloňovaný pojem. Co se pod tímto označením skrývá a proč se z technologie, která ve svých počátcích sloužila spíše pro pobavení geeků, může stát mocný nástroj pro šíření dezinformací a vedení hybridních válek?
Blížíme se k bodu zlomu
Deepfake je označení pro realistickou úpravu videí nebo fotografií. Cílem je vzbudit dojem, že osoba na audiozáznamu, videozáznamu či fotografii říká nebo dělá věci, které by ve skutečnosti neudělala nebo neřekla. Poprvé se masověji začalo o fenoménu deepfake mluvit ve druhé polovině uplynulé dekády, kdy se v internetových diskuzních skupinách začala objevovat pornografická videa, v nichž zdánlivě vystupovaly veřejně známé osoby. Aktuálně je podle organizace Deeptrace, která se zabývá monitoringem falešných videí a dalších obdobných podvrhů, až 96 % falešného obsahu pornografickým materiálem.
Technologie stojící za tvorbou falešných videí je založena na strojovém učení. Odborníci varují, že se překotný vývoj této technologie dostává do zlomového bodu, kdy běžný uživatel nebude mít šanci odhalit, že se jedná o podvrh. To je velmi znepokojivé, což si uvědomují IT oborníci i etičtí hackeři po celém světě.
Pokud necháme stranou etiku a možné porušování autorských práv, je tato forma manipulace nebezpečnou zbraní pro celý svět. Videa, na kterých je uměle naroubována hlava známé osobnosti, zatímco zbytek těla patří pornoherečce nebo pornoherci, jsou dávnou minulostí. Dezinformátoři a manipulátoři dnes tvoří preciznější záznamy, které většinou odborník dokáže odhalit, ale laik se může nachytat.
Hrozí tak situace, kdy se videa nebo fotografie mimo autoritativní média stanou nedůvěryhodným zdrojem informací. Ve spojení se sociálními sítěmi jde o svízelnou situaci. Dezinformátorům se pomalu otevírá prostor s prakticky neomezenými možnostmi. Je na čase zasáhnout nějakou regulací, podobně jako vláda odstavila dezinformační weby?
Deepfake lze (zatím) odhalit. Významnou roli hraje čas
Na odhalení podvržených videí a fotografií existují nástroje, které je dokáží odhalit. Většinou je to ale pozdě, kdy už si část veřejnosti může vyhodnotit podvrh jako skutečnou informaci. Navíc tyto nástroje nestíhají držet krok s podvodníky, protože se technologie na vytváření deepfake vyvíjejí neuvěřitelnou rychlostí.
Toho jsou si dezinformátoři moc dobře vědomi a také moc dobře vědí, jak si málokdo ověřuje informace. Lidská tendence věřit senzacím či zprávám, které jsou v souladu s jejich přesvědčením, je občas bezmezná. Přestože se po čase ukáže, že je informace podvrhem, zárodek původního podvrhu si žije svým vlastním životem. Semínko nenávisti bylo zaseto.
Podvodné video s ukrajinským prezidentem
Posledním známým podvrhem tohoto typu, je videozáznam z poloviny března, kdy ukrajinský prezident promlouvá ke svému lidu. Na podvrženém videozáznamu vyzývá Ukrajince, aby se vzdali Rusům. Video není moc povedené, ale je jakýmsi varováním. Příště již nemusí být poznat, že se jedná o podvrh.
Wondered when Deep Fakes would start happening. Russian hackers targeted several Ukrainian sites and posted a deepfake video of Zelensky calling for troops to lay down their arms. This video is – obviously – utterly fake, but shows new dimensions of conflicts in the digital space pic.twitter.com/TM7Z4pitkG
— D.Emery (@DemeryUK) March 16, 2022
