Noční můra: studenti dokázali pomocí brýlí od Mety on-line identifikovat kolemjdoucí na ulici

Chytré brýle, vzhledem ke své schopnosti nepřetržitě zaznamenávat a sdílet data prostřednictvím videokamery, vyvolávají řadu obav o soukromí. Ale co teprve, když se tato technologie propojí s dalšími, tedy konkrétně s nástroji pro vyhledávání a s umělou inteligencí. Noční můra ochránců soukromí je na světě.

A právě to provedli a vysvětlili v dokumentu na Googlu studenti AnhPhu Nguyen a Caine Ardayfio. Podařilo se jim propojit chytré brýle Meta Ray-Ban 2 s internetovým vyhledávačem obličejů PimEyes, aby identifikovali cizí lidi křížovým vyhledáváním informací o nich z různých databázích a sociálních sítí. Použili také velký jazykový model (LLM) k rychlému spojení všech těchto dat.
 

Výsledkem je možnost získat osobní údaje v podstatě kohokoli jen letmým pohledem na něj skrze chytré brýle. Rychle nalezené údaje zahrnovaly například jejich domácí adresy, telefonní čísla, věk a příbuzné z veřejně dostupných záznamů a profilů na sociálních sítích. Informace obrželi velmi rychle na mobilní telefon. Je tak možné například rychle získat informace pro podvod nebo potenciálně sledovat cizí osoby až domů, protože není problém si najít jejich adresu.

Technologie za projektem a jeho cíl

Studenti uvádějí, že toto je možné díky nedávnému pokroku v oblasti LLM, tedy velkých jazykových modelů. "Tato synergie mezi LLM a zpětným vyhledáváním obličejů umožňuje plně automatickou a komplexní extrakci dat, která dříve nebyla možná pouze tradičními metodami."
 

Zatímco dříve by někdo musel strávit značný čas prohledáváním veřejných databází, aby našel informace pouze na základě něčího obrazu, jejich "dystopické" chytré brýle zvládnout tuto práci během několika sekund.

Spolutvůrci tohoto projektu uvedli, že upravili pár brýlí Meta Ray-Ban 2 a vytvořili svůj systém I-XRAY, aby upozornili na "významné obavy o soukromí", protože technologie se vyvíjí neuvěřitelně rychle. Vybrali si brýle Meta Ray-Ban 2, protože "vypadají téměř jako běžné brýle". A jsou také snadno dostupné. Nguyen uvedl, že použití chytrých brýlí od Mety by bylo "nejstrašidelnějším způsobem", jak by se mohl pachatel pokusit skenovat obličeje nepozorovaně.
 

Testování a etické obavy

Nguyen a Ardayfio testovali svou technologii na stanici metra "na nic netušících lidech v reálném světě". Dokonce předstírali, že některé testovací subjekty znají, aby demonstrovali, jak by technologie mohla být zneužita k jejich oklamání. Aby udrželi skenování obličejů v tajnosti, studenti zakryli světlo, které se automaticky rozsvítí, když brýle Meta Ray-Ban 2 nahrávají.

Cílem projektu bylo přesvědčit lidi, aby se odhlásili z vyhledávačů jako PimEyes a chránili své soukromí online. Nguyen a Ardayfio poskytli instrukce, jak své obličeje z vyhledávačů odstranit. Týká se to kromě PimEyes například Facecheck ID a vyhledávačů osob jako FastPeopleSearch, CheckThem a Instant Checkmate.
 

Reakce společností

Meta a PimEyes se ve svých prohlášeních snažily bagatelizovat rizika pro soukromí uživatelů. Meta poznamenala, že stejná rizika existují u fotografií jednotlivců, zatímco PimEyes tvrdí, že lidi "neidentifikuje" (pouze poskytuje odkazy na jejich fotografie, kde uživatelé často mohou najít identifikační informace).
 

Ačkoli tvůrci projektu I-XRAY nechtějí zveřejnit svůj kód, aby zabránili zneužití, jejich demonstrace ukazuje na vážné obavy o soukromí v éře chytrých brýlí a technologie rozpoznávání obličejů. Je důležité, aby si lidé byli vědomi těchto rizik a podnikli kroky k ochraně svých online osobních údajů.

Zdroj: X, 404media, Cybernews, I-XRAY