Členské státy EU přijaly historické rozhodnutí o nových, přísnějších pravidlech pro používání umělé inteligence. Opatření mají přísněji regulovat aplikace, které jsou klasifikovány jako obzvláště rizikové, a zcela zakázat některé praktiky, jako je například sociální skóring, známý z Číny.
Tento zákon je první svého druhu na světě a může mít významný dopad na globální přístup k umělé inteligenci.
Plány, na kterých se v Bruselu shodli unijní lídři, stanoví, že systémy umělé inteligence musejí do budoucna být transparentnější, srozumitelnější a měly by vyloučit diskriminaci. Kromě toho je vyžadován monitoring lidským faktorem, nikoliv pouze jinými technologiemi.
Legislativa usiluje o vysokou úroveň regulace, a to zejména v oblasti vzdělávání a zdravotnictví, kritickou infrastrukturu nevyjímaje. Některé aplikace umělé inteligence by dokonce mohly být zakázány.
Evropa stanovuje normy: pravidla pro umělou inteligenci s celosvětovým významem
Zdroj: Midjourney (vygenerováno pomocí umělé inteligence)
Nový zákon také definuje omezení pro rozpoznávání obličejů na veřejných místech. Za určitých okolností ale bezpečnostní orgány mohou udělit výjimku. Některé důležité otázky ale stále zůstávají nezodpovězeny a v jednotlivých zemích EU bude v této souvislosti ještě potřeba udělat hodně práce.
Zákon o umělé inteligenci uplatňuje přístup založený na riziku. K různým aplikacím této technologie se přistupuje různě v závislosti na hrozbách, které představují pro společnost. Zákon zakazuje aplikace umělé inteligence, které jsou z hlediska míry rizika považované za nepřijatelné. Kromě už zmíněného sociálního skóringu jde například i o rozpoznávání emocí na pracovištích a ve školách.
Mohlo by vás zajímat
Vysoce rizikové systémy ale zahrnují i autonomní vozidla nebo zdravotnické prostředky. V jejich případě je vnímána hrozba z hlediska bezpečnosti a základních práv občanů. Zahrnují také aplikace umělé inteligence ve finančních službách a vzdělávání, kde existuje riziko předpojatosti obsažené v algoritmech AI.
Pravidla budou mít zásadní dopad na všechny osoby nebo subjekty, které vyvíjejí, vytvářejí, používají nebo přeprodávají umělou inteligenci v EU, přičemž v centru pozornosti jsou především americké technologické firmy.
Ještě dlouhá cesta k implementaci
Omezení, která se týkají systémů pro všeobecné použití, nabydou účinnosti až 12 měsíců poté, kdy zákon o umělé inteligenci vstoupí v platnost. I poté ale generativní systémy umělé inteligence, které jsou dnes komerčně dostupné a k jejich typickým zástupcům patří například ChatGPT od OpenAI, Gemini od Google nebo Copilot od Microsoftu, budou mít k dispozici přechodné období. Ode dne platnosti nové legislativy poběží lhůta v délce 36 měsíců, která poskytovatelům modelů AI dává prostor je uvést do souladu s právními předpisy.
Mohlo by vás zajímat
Američtí technologičtí giganti tento vyvíjející se zákon pozorně sledují. Do generativních systémů umělé inteligence, zaměřených na veřejnost, investovali velké množství financí. Nyní budou muset zajistit soulad s novým zákonem, jenž je v některých bodech poměrně náročný. Jistě není jejich zájmem, aby investované prostředky přišly vniveč.
Zdroj: CNBC
video
