Největší riziko AI? Evropa si technologii nechala utéct a teď na ní vydělají Google a Microsoft

Zatímco v evropských institucích vrcholí příprava nařízení, které má v EU zregulovat AI, americké firmy bojují o to, kdo ovládne trh. Potvrzuje se letitá zkušenost: zatímco USA umí dobře vyvíjet globální IT služby, Evropa je dobrá jen v jejich regulaci, zaznělo na debatním setkání Netclub na téma „Jak zkrotit AI?“. 

Sešli se na něm náměstek ministra pro digitalizaci Ondřej Profant a Tomáš Mikolov, český vědec, který na vývoji AI pracoval v Googlu či Facebooku.

„ChatGPT je postavené na technologii, na které jsem dělal já. Vyvinul jsem první velké jazykové modely, které fungovaly s větším množstvím dat. Pak se o to začaly zajímat velké firmy jako Google a Microsoft a jejich první jazykové modely byly postavené na mém open-source programu staženém ze stránek VUT Brno. Evropa si tedy tuto technologii nechala utéct do zahraničí. A teď se díky ní tady zautomatizují miliony pracovních pozic, ale zisky z toho poplynou firmám jako Microsoft a Google, které se v Evropě zdaní nějakou 0% daní v Irsku. Přijde mi, že neuvažujeme moc ekonomicky a realisticky. V první řadě bychom měli myslet na velké věci: kde jsou peníze a kam nám případně mohou utéct. To je pro mě obrovské riziko do budoucna,“ řekl v průběhu diskuse Mikolov. 

Audiozáznam debaty si můžete poslechnout ve formě podcastu: 

Celou diskusi můžete zhlédnout také jako video na YouTube: 

Co v diskusi o chystané regulaci AI mimo jiného zaznělo: 

Ondřej Profant: 

„Není to klasická regulace, která by říkala ‚takhle rychle se má jet, takhle se dává blinkr‘ nebo něco takového. Je to regulace podobná třeba GDPR v tom, že hodnotí rizika a to, co se skutečně stane. Pravidla jsou flexibilní a je velký důraz na odpovědnost. Dočtete se teď spoustu věcí o tom, co všechno zreguluje a jak zabije firmy, ale ve skutečnosti nezreguluje skoro nikoho, kdo třeba jen něco zkouší a vytváří. Obsahuje třístupňový test, který určuje, na koho regulace dopadne. Prvním stupněm je, jestli vůbec spadáte do definice AI, druhým, jestli systém dělá něco rizikového, a třetím, jestli bude mít vliv na nějaké rozhodování. Tady jde typicky třeba o personalistické systémy, které jsou naučené na starších datech trpících podjatostí – například podhodnocují ženy, protože to tak statisticky vychází kvůli mateřské. A v takový moment Unie říká ‚ne, to nesmíte‘, jde o systém, který má vliv na rozhodnutí. Něco úplně jiného je, když je to třeba jen podpůrná služba, která vás jako člověka informuje a vy pak rozhodujete. V ten moment držíte odpovědnost vy.“ 

Tomáš Mikolov: 

„Umělá inteligence je dnes nadnesený pojem. Jde o určitý způsob programování, použití statistických metod, které dokážou zpracovat velké datasety. Otázkou je, když vytvoříme regulaci osobních údajů (GDPR) a regulaci AI, proč taky nemáme regulaci třeba na e-maily? Firmy poskytují lidem možnost komunikovat přes e-maily, které třeba také mohou použít teroristé a budou si přes ně posílat zprávy. Takže bychom třeba mohli vymyslet ‚GDPR na e-maily‘. Pak bychom si mohli říct, že existují databáze, do kterých si lidé mohou napsat kdeco. Takže bychom třeba měli nějakým způsobem postihovat firmy, které spravují velké databáze všech možných údajů a vymyslet na ně nějaké nařízení. Nakonec bychom mohli takhle regulovat do nekonečna. Na jednu stranu tady budou hrozit pokuty firmám, které si nevyplní nějaké extra papíry, což je pro evropské firmy další zvýšení byrokratické zátěže. A ty, které je vyplní správně nebo budou mít kamarády na těch správných pozicích, naopak dostanou dotace. Mně to přijde zvrácené.“

Na minulém Netclubu jsme s novináři Petrem Koubským (Deník N) a Pavlem Kasíkem (Seznam zprávy) probírali, jak AI změní média a práci novinářů. Záznam si můžete poslechnout/zhlédnout zde: Nástup AI připomíná první fázi průmyslové revoluce. Jak generátory změní novinařinu?

Diskusní setkání pořádáme u příležitosti 25. výročí založení serveru Lupa.cz. Speciální přílohu Lupa slaví 25 let najdete zde.