Rizika, nebo potenciál? Jak budou čeští europoslanci hlasovat o regulaci AI

Může to být jedna z nejdůležitějších regulací, kterou Evropská unie přijme. Pravidla pro používání tzv. umělé inteligence (AI) mohou ovlivnit praktické využívání této technologie i to, jak budou evropské firmy schopné AI systémy vyvíjet v konkurenci amerických či čínských společností. Umělá inteligence přitom má potenciál přinést automatizaci do oborů, kde dříve nebyla možná, a otřást pracovním trhem. 

Akt o umělé inteligenci (AI Act) tento týden v prvním čtení schvaluje Evropský parlament. Zeptali jsme se proto všech 21 českých europoslanců, jaký postoj k návrh mají. Odpovědi zaslalo 15 z nich, nabízíme je v plném znění.  

Jak zněly otázky:

1. Můžete prosím říct (pokud je to možné), jak budete hlasovat? Zvednete pro návrh ruku, budete proti, nebo se zdržíte?
2. Můžete své rozhodnutí krátce zdůvodnit?
3. Jaké pozměňovací návrhy budete případně při hlasování podporovat?

Přečtěte si také:

AI rozevře nůžky mezi dobrými a špatnými vývojáři. V Netclubu debatovali Michal Pěchouček, Honza Sládek a Jan Macek

Marcel Kolaja (Piráti):

S Aktem o umělé inteligenci v podobě, kterou jsme odhlasovali ve výborech Parlamentu, jsem spokojený a moc rád bych legislativu v této podobě podpořil i na plénu. Bohužel do toho na poslední chvíli vstoupila politická skupina lidovců, která navzdory předchozí dohodě změnila své stanovisko k plošnému zákazu technologií na rozpoznávání obličejů ve veřejných prostorách. Jejich protinávrh tento zákaz výrazně oslabuje a vytváří tak prostor pro bezbřehé plošné šmírování. Proto nyní není jisté, jak bude finální podoba vypadat. V naší politické skupině a delegaci Evropských Pirátů ještě budeme jednat o tom, jak se k finálnímu hlasování postavíme v případě, že by byl zákaz rozpoznávání obličejů kamerami takto oslaben.

Pozice odhlasovaná výbory zakazovala použití umělé inteligence pro rozpoznávání obličejů plošně. Jen tak totiž můžeme zajistit, že nebude zneužívána ke šmírování občanů, pronásledování aktivistů a novinářů či potlačování opozice, jako to vidíme třeba v dnešním Rusku.

Podpořím pozměňovací návrh mého kolegy, německého Piráta Patricka Breyera, který chce zakázat používání systémů umělé inteligence k detekci podezřelého chování jedinců z kamerových záznamů. Jde o systémy, které velmi často chybují a mohou tak způsobit nepříjemnosti zcela nevinným lidem. Nežijeme v policejním státě, není možné, aby se každý, kdo „vybočí z řady“, stal automaticky podezřelým.

Dita Charanzová (ANO 2011):

Ve výboru jsem se zdržela. Na plénu budu podporovat některé pozměňovací návrhy, které se snaží vyvážit text a pozměnit některé zákazy, které výborem prošly. Pokud tyto pozměňovací návrhy neprojdou, tak se opět zdržím. Umělé inteligence bychom se neměli bát, naopak bychom ji měli vnímat jako pozitivní nástroj, který může zlepšit náš život. Výhody vidím například v oblasti výzkumu, zdravotnictví, ale i třeba v oblasti boje proti terorismu. Určitě potřebujeme nastavit pravidla pro využívání AI a být ostražití vůči možným rizikům. Obávám se, že návrh Parlamentu jde ale s některými zákazy příliš daleko. Nemohu proto hlasovat pro návrh, který by měl negativní dopad na inovace v Evropě.

Evžen Tošenovský, Veronika Vrecionová, Alexandr Vondra, Jan Zahradil (ODS):

Předloženou pozici v 1. čtení nemůžeme podpořit. I pokud by prošly některé rozumné pozměňovací návrhy, vzhledem k celkovému vyznění celé zprávy zřejmě budeme hlasovat proti.

Na rozdíl od levicové koalice v Evropském parlamentu se nedíváme na umělou inteligenci a priori negativně jako na hrozbu, kterou je potřeba razantně omezit a svázat regulací. Snažíme se v ní vidět především velký potenciál pro naše firmy, občany a veřejnou správu. Spojené státy mají v této oblasti před EU technologický náskok, a pokud to s regulací přeženeme, bude se dále zvyšovat a Evropa přijde o konkurenceschopnost. Hrozilo by, že nebudeme mít dostupné nejlepší technologie, a ztratíme i šanci je vyvinout a uspět globálně, šikovní experti a startupy raději půjdou za oceán. Také bychom se neměli vzdávat širšího využití technologií založených na umělé inteligenci v oblasti vnitřní bezpečnosti, samozřejmě při dodržení veškerých demokratických právních záruk. I v tomto smyslu je rozumnější přístup členských států, dojednaný za českého předsednictví v Radě EU.

Určitě podpoříme pozměňovací návrhy připravené kolegy z naší frakce Evropských konzervativců a reformistů, které zdůrazňují pozitivní přínos umělé inteligence a potřebu sledovat dopady regulace na malé a střední firmy. A dále stojíme za skupinou EPP, pokud jde o využití pro biometrickou identifikaci hledaných osob nebo zabránění teroristickému útoku.

Přečtěte si také:

Největší riziko AI? Evropa si technologii nechala utéct a teď na ní vydělají Google a Microsoft

Tomáš Zdechovský (KDU-ČSL):

Budu hlasovat pro zodpovědný pokrok v rámci dalšího vývoje umělé inteligence. Umělé inteligence se nesmíme bát, ale musíme regulovat rizika.

Hranice technologie umělé inteligence se posouvají téměř denně. Musíme mít ochranné prvky, které zajistí, že nové výkonné systémy umělé inteligence, jako je ChatGPT, budou vyvíjeny a nasazovány zodpovědně.

V zákoně o umělé inteligenci bylo provedeno několik důležitých vylepšení, včetně výjimky pro výzkum. Zákon o UI se jasně zaměřuje na vysoce rizikové systémy namísto snahy o nadměrnou regulaci každého malého kousku softwaru. Musíme snížit byrokratickou zátěž pro evropské společnosti, zejména malé a střední podniky a začínající podniky, jinak už nikdo nebude chtít AI v EU vyvíjet. Již nyní zřetelně zaostáváme za USA a Čínou. Náš průmysl potřebuje šanci konkurovat.

Markéta Gregorová (Piráti):

Pravděpodobně budeme jako delegace Pirátů hlasovat pro návrh. Je zde nicméně jeden kontroverzní pozměňovací návrh o nezahrnutí vzdálené biometrické identifikace do kategorie vysokého rizika a u něj budeme ještě muset v rámci delegace projednat, zda je to pro nás červená linie, pokud projde. Schůzka k tomu proběhne ve Štrasburku; jak jsem pochopila svého kolegu Marcela Kolaju, doporučuje nám z toho červenou linii nedělat a já bych se k tomu přiklonila, ale na 99,99 % budeme hlasovat dohromady jako delegace, nechci vám to tudíž říkat bez diskuze s kolegy jako stoprocentní. :)

Hlasovat pro návrh Parlamentu k AI Aktu budu proto, že samotný AI Akt považuji za významný z hlediska kontroly vysokorizikových systémů a modelů AI, které by mohly být používány v kategoriích, jako je kriminalistika, soudnictví, migrační či náborové řízení, a také ve zmíněné biometrice, bez pravidel, která zabrání zneužití, diskriminaci, či dokonce omezení na právech. Domnívám se, že návrh Parlamentu je rozumně vybalancovaný vůči pozici Komise; a kvalitnější než návrh Rady EU. Věřím tedy, že s tímto návrhem budeme schopni v trialozích získat rozumné kompromisy. Osobně očekávám, že trialogy přinesou ještě mnohé „škrtání“ textu především u povinností tzv. generativních (foundation) modelů, jako je ChatGPT, a budou se soustředit na systémy vysokého rizika, a to podporuji.

Radka Maxová (nezávislá):

S největší pravděpodobností pro návrh budu hlasovat.

Technologie umělé inteligence přinese mnoho společenských a ekonomických výhod, ale jsou tu i rizika týkající se například diskriminace nebo ochrany údajů, takže je podle mě třeba zajistit, aby se tato technologie vyvíjela v souladu se zásadami EU a rizika se tak minimalizovala.

Do velké míry se ztotožňuji s textem, který prošel hlasováním ve výboru, zejména co se týče upravené definice systémů umělé inteligence a rozšířeného seznamu systémů umělé inteligence, které by v EU byly zakázané. Zejména biometrické kategorizační systémy, jako je pohlaví nebo rasa, mohou být z mého pohledu nebezpečné, protože v současné době často vedou k diskriminaci. V souvislosti s tím se chystám podpořit zákaz používání systémů umělé inteligence používaných pro dálkovou biometrickou identifikaci ve veřejně přístupných prostorách.

Přečtěte si také:

Nástup AI připomíná první fázi průmyslové revoluce. Jak generátory změní novinařinu?

Mikuláš Peksa (Piráti):

Akt o umělé inteligenci v podobě, která se odhlasovala ve výborech Parlamentu, vypadá dobře a rád bych ho podpořil i na plénu. Jenže do návrhu na poslední chvíli hodili vidle lidovci, kteří i přes dohodu změnili své stanovisko k plošnému zákazu technologií na rozpoznávání obličejů ve veřejných prostorách. Jejich nový návrh zákaz výrazně oslabuje, a vytváří tak prostor pro plošné šmírování. Proto nyní není jisté, jak bude finální podoba vypadat. V naší politické skupině a delegaci Evropských Pirátů ještě budeme jednat o tom, jak se k finálnímu hlasování postavíme v případě, že by byl zákaz rozpoznávání obličejů kamerami takto oslaben.

Pozice odhlasovaná výbory zakazovala použití umělé inteligence pro rozpoznávání obličejů plošně. Jen tak totiž můžeme zajistit, že nebude zneužívána ke šmírování občanů, pronásledování aktivistů a novinářů či potlačování opozice, jako to vidíme třeba v dnešním Rusku.

Podpořím pozměňovací návrh mého kolegy Patricka Breyera, který chce zakázat používání systémů umělé inteligence k detekci podezřelého chování jedinců z kamerových záznamů. Jde o systémy, které velmi často chybují, a mohou tak způsobit nepříjemnosti zcela nevinným lidem. Nežijeme v policejním státě, není možné, aby se každý, kdo se nebude chovat standardně stal automaticky podezřelým.

Kateřina Konečná (KSČM):

V současné chvíli nemohu jednoznačně říct, jak budu hlasovat. Rozhodnutí se bude odvíjet na základě toho, jaké pozměňovací návrhy Parlament přijme a jaké nikoliv. Sama jsem podala několik pozměňovacích návrhů, které se týkají zákazu biometrického sledování na veřejných prostranstvích, zákazu užívání AI systémů na monitorování a analýzu chování osob na veřejnosti, zákazu používání systémů AI k monitorování pracovišť bez souhlasu zaměstnanců, rozšíření listu vysoce rizikového používání AI a další, které se týkají ochrany občanů před možnými narušeními jejich základních práv. Pokud bude většina těchto pozměňovacích návrhů Parlamentem přijata, pak bych zvážila hlasovat pro návrh. Pokud však bude většina odmítnuta, pak nebudu moct návrh podpořit. V současné podobě totiž text aktu dostatečně nechrání před riziky rapidně se vyvíjejících AI technologií, a není tedy dobrou regulací. Nemohla bych podpořit regulaci, která umožňuje sledovat přítomnost zaměstnanců v práci bez jejich souhlasu a za zpracovávání jejich biometrických dat.

Martina Dlabajová (ANO 2011): 

Stávající text návrhu není dle mého názoru vyvážený, a proto podpořím některé pozměňovací návrhy, které k tomu povedou. Určitě nezvednu ruku pro návrh, o kterém nebudu přesvědčena, že je v pořádku. K umělé inteligenci přistupuji pozitivně a s optimismem, myslím si, že v řadě oblastí, jako je například věda a výzkum nebo medicína, může přinést zlepšení. Podporuji však nastavení a dodržování pravidel a dávat si pozor na možná rizika.

Michaela Šojdrová (KDU-ČSL):

Budu hlasovat pro přijetí návrhu nařízení; konkrétní pozměňovací návrhy ale budeme ještě tento týden s kolegy z EPP projednávat.

AI Act je první a průlomová legislativa pro regulaci umělé inteligence. AI se nesmíme bát, ale zároveň je třeba regulovat její rizika. Chceme přijmout taková pravidla, která zajistí využití AI ve prospěch našich občanů, její odpovědné využití a posílí konkurenceschopnost ve světovém měřítku.

Naše skupina EPP bude usilovat o prosazení několika výjimek ze zákazu biometrické identifikace v oblastech prevence teroristických útoků nebo hledání pohřešovaných dětí. Zde vidím jasný přínos umělé inteligence. Samozřejmě za podmínky jasných pravidel.

Ondřej Knotek, Ondřej Kovařík (ANO 2011):

Konečné hlasování bude záležet na tom, jaké pozměňovací návrhy budou případně přijaty v rámci hlasování na plénu. AI Act v podobě, v jaké prošel výbory, bych podpořit nemohl.

Nesdílím pohled kolegů z výboru, kteří ve své pozici většinově podpořili zákaz nebo razantní omezení některých druhů využití AI.

Podpořím takové pozměňovací návrhy, které tato omezení odstraní, nebo výrazně zmírní.