Google jde proti šíření falešných zpráv: obrázky od umělé inteligence označí neviditelným vodoznakem

Programy s podporou umělé inteligence, jako je například Midjourney, jsou schopné vytvářet velmi realistické obrázky pouze na základě vašeho textového zadání. Jejich přesvědčivost je v některých případech taková, že je velmi obtížné je rozeznat od skutečně pořízených fotografií.

Dceřiná společnost Googlu, DeepMind, má přesně pro takové případy řešení a představila nový nástroj s názvem "SynthID". Dokáže nejen obrázky vytvořené umělou inteligencí identifikovat, ale také je označit vodoznakem. Tímto způsobem Google chce zabránit šíření falešných informací a zneužití obrázků.

SynthID: jak nový nástroj pracuje

Nový nástroj pracuje se dvěma různými modely AI. Jeden je zodpovědný za rozpoznávání generovaných obrázků. Zde se jako identifikační prvek používají především metadata. Druhý model vytváří vodoznaky. V tomto případě by SynthID také měl rozpoznat počítačem generované obrázky, a to i v případech, kdy byl použit barevný filtr, zvětšení nebo zmenšení. 

Celkem existují tři úrovně důvěryhodnosti, které nástroj použije pro klasifikaci posuzovaného obrázku:

• obrázek byl vygenerován umělou inteligencí,
• obrázek mohl být vygenerován umělou inteligencí a měl by být používán obezřetně,
• obrázek nebyl umělou inteligencí vygenerován.

Pokud se ukáže, že obrázek skutečně umělá inteligence vytvořila, SynthID jej označí nenápadným vodoznakem. Tato značka velikosti několika pixelů se do obrázku zapouzdří, takže je velmi obtížné ji odstranit. To platí i pro případ, kdy by obrázek byl dále upravován a předchozí metadata se tím ztratí.

SynthID od Google je prozatím použitelný pouze omezeně

Sami zástupci společnosti DeepMind ale k celé věci uvádí, že nástroj je stále ve fázi beta a funkce rozpoznávání ještě není zcela vyzrálá. Prozatím funguje pouze s jejím vlastním programem umělé inteligence "Imagen".

Do budoucna chce DeepMind svůj SynthID dále rozvíjet a ptá se i na zpětnou vazbu od uživatelů, aby mohla nástroj nadále vylepšovat. Nevylučuje ani možnost funkce rozpoznávání a označování obrázků z dalších podobných AI generátorů, jakými jsou Midjourney nebo DALL-E 2.

Zdroj: The Verge