Nařízení o AI (AI Act), které má nastavit pravidla pro provozování systémů s tzv. umělou inteligencí v EU, má za sebou klíčové hlasování ve výborech pro vnitřní trh a pro občanské svobody. Europoslanci přitom do návrhu Evropské komise přidali řadu novinek.
Mezi důležité přijaté pozměňovací návrhy patří rozšíření regulačních povinností na provozovatele tzv. základních modelů (foundation models). Jde o AI systémy natrénované na velkém množství dat, které se dají využít v řadě případů a slouží jako základ pro další specializované služby. Patří k nim velké jazykové modely jako je GPT nebo textovo-obrazový generátor Stable Diffusion.
Před uvedením na trh budou muset prostřednictvím nezávislých expertů prokázat, že přijali opatření k omezení možných rizik pro zdraví, bezpečnost, základní práva, životní prostředí a demokracii a vládu práva. Mají také mít povinnost dbát na nízkou spotřebu energie a zvyšování energetické efektivity, vypracovat podrobnou technickou dokumentaci a registrovat svůj systém u patřičných evropských orgánů.
Tvůrci generativních modelů navíc mají jasně označovat obsah, který byl vytvořen strojem a mají zajistit, aby jejich systémy nevytvářely obsah, který by byl v rozporu s evropskými zákony, aniž by tím byla dotčena základní práva, včetně svobody slova. Mají také povinně zveřejňovat podrobný přehled použitých trénovacích dat, na která se vztahují autorská práva.
Europoslanci také do návrhu přidali detailnější popis toho, jak má fungovat tzv. regulační pískoviště (regulatory sandbox). Má jít o prostředí, ve kterém budou moci firmy v bezpečném prostředí testovat své systémy ještě předtím, než je uvedou na trh. Snadoboxy mají vznikat na úrovni členských států.
Návrh také rozšiřuje klasifikaci tzv. vysoce rizikových AI systémů. Původně stačilo, aby systém spadal do jedné z kategorií vyjmenovaných v příloze 3 nařízení. Nově bude muset zároveň představovat významné riziko pro zdraví, bezpečnost nebo základní práva lidí.
Samotný seznam v příloze 3 se také od europoslanců dočkal řady změn. Přibyly do něj například systémy používané velkými sociálními sítěmi k doporučování obsahu jejich uživatelům.
Celé znění návrhu včetně přijatých pozměňovacích návrhů si můžete prostudovat na webu Evropského parlamentu (PDF, v angličtině). Teď jej čeká projednání plénem Evropského parlamentu, které je v plánu na polovinu června.
ČLÁNKY DO MAILU