Takto snadno a s jistotou poznáte obrázek vytvořený umělou inteligencí

Modely nové generace, jako jsou Midjourney v6.1, Flux 1.1, DALL-E 3 nebo Imagen 3 od Googlu, produkují vizuály, které na první pohled oklamou i trénované oko profesionálního fotografa. Proto je stále těžší rozpoznat realitu od generovaného obsahu a často se stává, že se generátory učí rychleji než detekční nástroje, které takový obsah umí rozpoznat. Přesto existují konkrétní rady a technologické postupy, díky kterým lze odhalit i ty nejpokročilejší syntetické podvrhy.

Jak fungují AI generátory

Pro lepší pochopení, jak odhalit vygenerovaný obrázek, je vhodné rozumět principu jeho samotného vzniku. Současné špičkové generátory využívají architekturu tzv. difuzních modelů, mnohdy v kombinaci třeba s architekturou typu Transformer. Pro zjednodušení si můžeme představit nejdříve „šum“ (shluk náhodných barevných pixelů), ze kterého model postupně v několika krocích „vytesává“ požadovaný obraz na základě textového zadání (promptu). Tyto modely se analýzou miliard reálných fotografií a obrazů z internetu naučily statistické vzorce, vizuální korelace a asociace.

Problém pro dosavadní umělou inteligenci je především to, že AI absolutně nerozumí fyzice, anatomii či trojrozměrnému prostoru. Nesimuluje chování světelného paprsku dopadajícího na reálný prostorový objekt a pouze skládá pixely do pravděpodobnostních vzorců, které viděla u podobně nasvícených scén. Proto tyto programy selhávají v momentech, které vyžadují logickou kontinuitu prostoru, přesné odrazy v zrcadlech, ale také různé složité mechanické a anatomické vazby.

AI produkuje stále věrohodnější a dokonalejší obrázky. , ...

Technologická detekce

V případě podezření na syntetický obsah, tedy právě třeba uměle vytvořený obrázek, se jeví jako první logický krok použití specializovaných digitálních nástrojů. Nejde jen o samotné detektory, ale existuje hned více kroků pro rozpoznání vytvořeného obsahu. Jako první lze zmínit kryptograficky podepsaná metadata o původu obrázku. Ta jsou součástí obrázků vygenerovaných v licencovaném nástroji, jako je třeba Adobe Firefly nebo OpenAI. Právě tyto nástroje jsou součástí celosvětové koalice pro provenienci a autenticitu obsahu (C2PA) a na oficiálním webu contentcreden­tials.org/veri­fy lze provést snadnou kontrolu obsahu.

Společnost Google DeepMind implementovala do svých modelů neviditelný steganografický vodoznak SynthID. Ten neupravuje čitelná EXIF data, ale přímo mění frekvenční rozložení samotných pixelů tak, že je to pro oko nerozpoznatelné, ale naopak pro vyhledávač Googlu jasně rozpoznatelné. Výhodou je, že SynthID na rozdíl od klasických metadat přežije i ořez, mírnou změnu barev nebo zmenšení. Kromě výše uvedených možností existují i specializované AI detektory, jako jsou Hive Moderation, Sightengine nebo FauxLens. Nástroje analyzují obrázky na úrovni pixelů a hledají třeba specifický digitální šum, který běžné fotoaparáty na snímcích zanechávají, a vygenerované obrázky jej nemají. Používají pak i další metody a snaží se uživateli třeba procentuálně vyčíslit pravděpodobnost AI generovaného obrázku.

Když technika nestačí

Problém je, že obsah i metody skrytí uměle generovaných obrázků se stále mění a posouvají. Zatímco ještě v roce 2024 měly podobné detektory úspěšnost až 75 %, nyní je spolehlivost na hranici pouhých 18 % až 30 %. Jakmile obrázek projde přes WhatsApp, sociální sítě nebo jiný komunikátor, je zmenšen a komprimován. Mnoho metadat zmizí a detektory selžou. Stejně tak stačí udělat screenshot obrazovky a opět se původní soubor mění.

Pokud selžou nejnovější nástroje, je nutné obrázek zkusit prozkoumat lidským okem a zaměřit se na absolutní detaily. Dnes modely negenerují šestiprsté lidi, ale pořád je dobré se zaměřit třeba na propletené ruce, prsty svírající mobil nebo opírající se o nepravidelné povrchy. Nápovědou mohou být i hodinky na ruce, šperky nebo jiné doplňky, které nerespektují fyziku. Dobré je zaměřit se také na písmena, nápisy a drobné texty v pozadí, které jsou pro AI stále problémem. Dalším vodítkem jsou odrazy, stíny nebo odlesky v očích. Pokud něco z toho nesedí, jde o dobrou indicii. Dále lze sledovat detaily kůže, nelogičnosti na pozadí obrázku a detaily, které jsou patrné až po zvětšení.