Podvodníci oslovují statisíce uživatelů Facebooku pomocí obrázků generovaných umělou inteligencí. Při jejich činnosti jim je paradoxně nápomocen právě algoritmus Facebooku. Podle Stanfordovy univerzity podvodníci používají cílené obrázky, aby přilákali pozornost uživatelů.
Kromě bizarních obrázků, jako je Ježíš složený z krevet, používají také snímky, u nichž je méně snadné rozpoznat, že se jedná o padělky. Podvodníci šíří odkazy na webové stránky, na kterých následně uživatele lákají k nákupu neexistujících produktů nebo k prozrazení osobních údajů. Navzdory varováním jsou tyto podvody poměrně úspěšné.
Algoritmus Facebooku zajišťuje zvýšené zobrazování snímků generovaných AI
Zdroj: Stanford University
Problematické je zejména to, že se takové příspěvky zobrazují i uživatelům, kteří tyto stránky nesledují nebo na nich ani nikdy nebyli. Paradoxní je, že tato skutečnost je způsobena úpravou algoritmu Facebooku ze strany samotné mateřské společnosti Meta, která změny zavedla proto, aby mohla lépe konkurovat TikToku.
Výzkum ukázal nebezpečí lákadla AI obrázků a nedokonalost algoritmu Facebooku
Výzkumníci ze Stanfordské univerzity prozkoumali přes stovku stránek na Facebooku, z nichž každá zveřejnila více než 50 obrázků generovaných umělou inteligencí. Některé z nich tvoří koordinované clustry, které zveřejňují velké množství obrázků generovaných umělou inteligencí. Mezi zjevné motivace patří přivádění lidí na stránky mimo platformu, prodej produktů a budování většího počtu sledujících.
Vědci se zaměřili na spammery, které definovali jako účty přesouvající své publikum na vlastní obsahovou farmu, a podvodníky, kteří se pokoušeli buď prodávat neexistující produkty, ukradli provozované stránky, nebo se pokoušeli manipulovat s publikem v rámci komentářů. Tyto snímky generované AI celkem představují stovky milionů interakcí a zobrazují se prostřednictvím kanálu Facebooku některým uživatelům, kteří tyto stránky ani nesledují.
Mohlo by vás zajímat
Komentáře k mnoha obrázkům generovaným umělou inteligencí, které zobrazují všednější věci, než je krevetový Ježíš (domácí potřeby, domy nebo umělecká díla údajně vytvořená dětmi), naznačují, že mnoho uživatelů si ani není vědomo syntetického původu obrázků.
Výzkum poukazuje na běžné, ale netransparentní používání obrázků vytvořených umělou inteligencí na Facebooku a na potřebu lepších metod prokazování původu a transparentnosti.
Zdroj: Stanford University
8 foto
video