Podvodné telefonáty budou od teď ještě nebezpečnější: může za to umělá inteligence

Umělá inteligence v rukou podvodníků

OpenAI totiž 1. října vydala také vývojářskou aplikaci Realtime API. Ta slouží pro využívání hlasových a jazykových modelů ChatGPT pro potřeby vývojářů. Ti mohou funkci zahrnout do svých aplikací či programů a mohou chatbota využívat pro odbavování textových i hlasových příkazů také textem či hlasem, a to na dosud nejpokročilejší úrovni.

Pokud jste o Realtime API, respektive ChatGPT Advanced Voice Mode ještě neslyšeli, tato funkce umožňuje uživatelům mluvit s ChatGPT o dost přirozeněji a plynuleji než doposud. Chatbot umí například simultánně překládat (včetně podpory češtiny i slovenštiny) a dokáže hovořit s různým emočními zabarvením, anebo umí mimikovat nářečí, přízvuk a tak podobně.

Haló, tady AI útočník

Jak už vás možná napadlo, novinka vzbuzuje obavy v odborné obci bezpečnostních expertů. Výzkumníci z Univerzity Illinois v Urbana Champaign (UIUC) provedli experiment, zdali může být technologie Realtime API zneužita pro automatizované podvodné telefonáty.

Ze zjištění vyplývá, že telefonické podvody klasického střihu – kdy volá sám útočník, vydává se za vašeho známého, pracovníka banky či jiné instituce, a snaží se vás obalamutit – mohou být pomocí AI kompletně zautomatizovány.

„Naše zjištění ukazují, že nástroje AI skutečně dokážou autonomně vykonávat akce potřebné pro různé telefonní podvody,“ uvedl Daniel Kang, asistent profesora katedry počítačových věd na UIUC. A to navíc za minimální náklady. Kangův výzkumný tým vypočítal, že průměrné náklady na jeden takový telefonický podvod řízený pomocí AI hlasového asistenta je necelý dolar, tedy asi 20 korun.

OpenAI: Máme řešení

Na druhé straně, společnost OpenAI i ve vyjádření pro server The Register poukazuje na smluvní podmínky týkající se služeb kolem ChatGPT. V těch jsou zahrnuty i ochranné mechanismy pro ochranu softwaru před zneužitím.

„[…] aktivně monitorujeme potenciální zneužití. Naše zásady také vyžadují, aby vývojáři jasně informovali své uživatele, že komunikují s umělou inteligencí, pokud to není zřejmé z kontextu,“ tvrdí OpenAI.

Zdroj: OpenAI, The Register