Smutný případ z USA
Sewel Setzer III, 14letý chlapec z Floridy, si na internetu oblíbil chatovacího robota Character.AI. Jde o AI nástroj pro chatování typu role-play – robot se tedy umí stylizovat do vašich oblíbených knižních, filmových či videoherních postav. Za aplikací stojí bývalí inženýři Googlu Noam Shazeer a Daniel De Freitas Adiwardana.
Po necelém měsíci kdy teenager používal Character.AI – dopisoval si přitom zejména s postavami z univerza Hry o trůny – si jeho matka Megan Garcia začala všímat, že chaty nejsou úplně v pořádku. Už ale bylo pozdě jakkoliv zakročit, 14letý Sewel si prostřelil hlavu pistolí.
„Garciina stížnost obsahuje důkazy, které ukazují, že chatbot se vydává za licencovaného terapeuta, aktivně podporuje myšlenky na sebevraždu a vede vysoce sexualizované konverzace, které by mohly být vnímány jako zneužití, kdyby je inicioval dospělý člověk,“ uvedli právní zástupci Megan Garcia.
Zdroj: se svolením Ars Technica
Děsivé zprávy přímo od AI
Žena dokonce zveřejnila snímky obrazovky ze synova počítače. Na nich je vidět, jak si dopisuje zejména s virtuální Daenerys, jednou z hlavních postav celé ságy. Doslova jej láká „k sobě“ a ptá se ho, zdali zvažuje sebevraždu. Zprávy rozhodně nenechají nikoho klidným.
Ve svém vyjádření Garciová obviňuje společnost ze způsobení smrti jejího syna, z vědomého uvádění nebezpečného výrobku na trh a z klamavých obchodních praktik.
Mohlo by vás zajímat
Zástupci společnosti Character.AI se k situaci vyjádřili pro server Ars Technica: „Jsme zdrceni tragickou ztrátou jednoho z našich uživatelů a chceme vyjádřit hlubokou soustrast rodině.“
Zároveň tvůrci uvedli, že aplikaci vylepšili o upozornění na sebepoškozování a sebevraždy mladistvých, připojili do rozhraní chatu i telefonní číslo na linku důvěry. Character.AI má nyní 30 dní na to, aby na žalobu zareagovala.
Zdroj: Ars Technica, PRNewswire
