Systémy AI s inteligencí konkurující té lidské mohou znamenat velké riziko pro společnost a lidstvo. V otevřeném dopise to říká skupina IT expertů, podnikatelů a dalších signatářů. Podepsal jej mimo jiné spoluzakladatel Applu Steve Wozniak, spoluzakladatel Skypu Jaan Tallinn, podnikatel Elon Musk a řada vědců působících v oblasti AI.
Vyzvali proto všecha výzkumná pracoviště, aby alespoň na šest měsíců pozastavila vývoj trénování systémů se schopnostmi, které předčí jazykový model GPT-4. „Toto pozastavení by mělo být veřejné a ověřitelné a měli by se jej účastnit všichni důležití hráči. Pokud by k tomu nedošlo rychle, měly by zasáhnout vlády a zavést moratorium,“ navrhují signatáři.
V takto získaném čase by podle nich měli výzkumníci a nezávislí experti sestavit a zavést sadu opatření, která by měla pohlídat vývoj pokročilých AI systémů. Na jejich dodržování by pak měli dohlížet nezávislí odborníci.
Zákonodárci by zároveň měli přijmout pravidla pro regulaci AI. Ta by měla zahrrnovat nové dohledové orgány, kontinuální sledování AI systémů a velkých zdrojů výpočetního výkonu, zavedení systémů pro označování (watermarking) a rozlišování původu (provenance) strojových výstupů od lidských a další opatření.
Celý dopis, který zveřejnila organizace Future of Life Institute, najdete zde: Pause Giant AI Experiments: An Open Letter.
Připomeňme, že v Evropě se regulace AI systémů chystá už od roku 2021. Evropská komise navrhla nařízení (tzv. AI Act), které by brzy měl v prvním čtení projednat Evropský parlament.
ČLÁNKY DO MAILU