Místopředseda vlády Ivan Bartoš (Piráti) dnes na zasedání v Bruselu bude s dalšími ministry Evropské unie zodpovědnými za digitalizaci schvalovat nařízení o umělé inteligenci (AI Act).
Na programu jsou i další důležité body digitalizace. Z Bartošova pohledu jde o vrchol jeho agendy v rámci českého předsednictví Radě EU. V případě AI Actu nicméně místopředseda do Bruselu neodletěl se širokou podporou všech zainteresovaných. (Aktualizace: AI Act byl jednomyslně schválen).
Server Lupa.cz slaví 25. narozeniny. K výročí vám nabídneme sérii textů, podcastů a offline diskusí k dopadům AI na podobu internetu. Vše najdete na této speciální stránce.
AI Act určí, jak budou regulovány a provozovány systémy umělé inteligence v Evropě. Hlavní myšlenka je typicky evropská. Regulace má chránit uživatele před sledováním, zneužíváním jeho dat, manipulací a podobně. Původní návrh představila Evropská komise a Česko v posledních měsících muselo vést složitá jednání unijních států s různými zájmy.
Trh a akademici bijí na poplach a varují, že předložená regulace může udusat rozvoj AI v celé sedmadvacítce. To by mohlo starý kontinent ekonomicky poškodit. Zejména v kontrastu zemí, jako jsou Čína nebo Spojené státy, které k regulaci přistupují umírněně a mohou pak vyvážet produkty jako TikTok a další.
AI Act je podle kritiků šitý horkou jehlou, i když už se na něm dělá asi osmnáct měsíců. Mezi zástupci firem, startupů nebo univerzit lze dlouhodobě narazit na výrazné kritiky. Během nedávné večeře v rámci Czech Digital Weeku se například ozval Martin Rehák, který spoluzaložil štědře zainvestovanou firmu Resistant AI a předtím Ciscu prodal AI startup Cognitive Security. Mimo záznam kritikou nešetří mnoho dalších důležitých hráčů.
Podle informací, které Lupa posbírala, se regulace připravovala bez pořádné konzultace s trhem. Kritici uvádí, že Česko chce AI Act i kvůli slibu Evropské komisi dotlačit ještě do konce roku, takže pro tržní konzultace není dostatek času.
Očekává se, že na dnešním jednání bude AI Act schválen. Následně postoupí k jednáním do Evropského parlamentu. Tam případně vznikne další prostor, aby si trh u europoslanců prolobboval změny, po kterých touží. „V europarlamentu může dojít k posunu,“ řekl Lupě Bartoš. Za předkládaným návrhem si stojí s tím, že AI Act je vybalancovaný a že je kromě zájmů vědy, výzkumu a byznysu důležité chránit uživatele.
Vážné negativní dopady
Svaz průmyslu a dopravy ČR, který sdružuje také tuzemské a zahraniční technologické společnosti, začátkem listopadu zveřejnil otevřený dopis, v němž apeluje na to, aby se zákon ještě nějakou dobu řešil. Vedle společností jako Microsoft, Atos, AutoCont, O2, Phonexia, Vodafone, MAMA AI a dalších jsou pod dopisem podepsány univerzity typu ČVUT, VUT nebo Univerzita Karlova.
Dle Svazu je potřeba, aby česká vláda nepodlehla politickým tlakům některých členských států a evropských institucí. Návrh AI Actu má podle firem řadu nedostatků, což může mít „vážný negativní dopad na vývoj a využívání umělé inteligence v EU“.
Vláda obavy firem a akademiků z dopisu příliš nereflektovala. Svaz mluví o přetrvávajících závažných nedostatcích. Své obavy začátkem prosince publikovaly také další evropské byznysové svazy a asociace, jednotné stanovisko bylo vydáno pod značkou uskupení BusinessEurope. „Evropský byznys se shoduje, že současné celkové směřování regulace umělé inteligence výrazně omezí její zavádění a využívání v praxi,“ stojí v prohlášení.
Hlavním motivem AI Actu, který v dubnu loňského roku nastřelila Evropská komise, je regulace systémů umělé inteligence tak, aby nepředstavovaly riziko. AI technologie by například neměly manipulovat s lidským chováním nebo sloužit k vytváření sociálního skóre. Dále mají být definovány systémy s vysokým rizikem, které mají být povoleny pouze tehdy, když projdou posouzením rizik.
GPAI a rizikové systémy
Právě vysoce rizikové systémy jsou jednou ze dvou položek, které u kritiků budí největší vášně. Aktuální podoba AI Actu podle nich neobsahuje jasnou metodiku, jak takové systémy definovat. Pokud se takové posuzování nechá na prováděcím aktu, vytvoří to investiční nejistotu.
Další problematickou kategorií jsou systémy General Purpose AI (GPAI). Tato sekce původně v návrhu AI Actu nebyla, letos ale byla přidána skrze pozměňovací návrhy. Rozjela se debata, co to vlastně je za systémy. V podstatě jdeo technologie typu jazykových modelů a řady dalších, které mohou být použity k mnoha účelům, o nichž jejich autoři nemusí nic tušit.
Podle kritiky například není možné tyto dopady předvídat. Zcela nejasný je také dopad na open source, ze kterého AI systémy často bývají poskládány a samy jsou jako open source vydávány. Negativní dopady ohledně vývoje open source v Evropě mimo jiné hrozí také v případě Cyber Resilience Actu, na němž se v EU rovněž pracuje.
Sekce o systémech General Purpose v AI Actu zůstala. Možnosti vyjmutí se podle Bartoše řešily. Debata obecně dle jeho slov měla být „velmi informovaná“.
„Vyjednali jsme vyvážený balanc s minimalizací rizika zastavení technického vývoje. Byla zohledněna ochrana soukromí nebo biometrie a aby AI negativně neovlivňovala životy lidí a přinášela pozitivní dopady například ve zdravotnictví. AI systémy budou transparentní a uživatelé budou vědět, že interagují s AI. Systémy na hodnocení sociálního skóre budou zcela zakázány, protože nejsme Čína,“ shrnul Bartoš. „Chceme umožnit vědu, výzkum a vývoj v co nejširší bázi, a to do úrovně, kdy by mělo dojít k porušování lidských práv.“
ČLÁNKY DO MAILU