Názory k článku Autonomní AI systémy vlastně nemají být autonomní

Hezke. Takze smirovaci kamery s rozpoznavanim obliceju budou vsude, ale bude se verit/doufat, ze ty jejich funkce nikdo nepouzije bez svoleni soudu...? Takze ty kamery budou mit ta AI metadata sifrovana EU klicem a soudci k nim budou vydavat jednorazove desifrovaci klice? :-D

Spíš to bude fungovat/funguje takto. Ty kamery sice nahrávají video, ale uchovávat se budou jen klíčové snímky (něco se v obraze změnilo) a ty se pak ukládají do databází. A až na tato data se pak nasadí AI. Ostatně podobně to funguje v Číně, kde je velké množství malých superpočítačů, které řeší právě toto.

Příklad třeba Vrbětice. Vyšetřovatel požádá o povolení trasování dvou podezřelých. Takže pošle co nejvíce snímků těch co hledají a AI pak vyhledá, kde se případně pohybovali a sestaví časovou osu. No a to je pak povoleným výstupem. pokud by měl vyšetřovatel vlastní superpočítač k dispozici, tak jen zažádá o přístup k DB a doloží, jak s daty nakládali.

Ale toto je jen možná idea, jak to může fungovat a nikoliv realita :D

Takže vlastně EU zavádí nová pravidla pro všechny informační systémy jen se to bojí říci na plná ústa ;-)

Je to jen teoretická úvaha :-) Leží mi v hlavě ten rozdíl který se dělá mezi systémy postavenými na naprogramovaných algoritmech a systémy využívajícími umělé neuronové sítě (což se v praxi většinou kombinuje). Dle mého názoru by se z hlediska práva neměl dělat rozdíl mezi různými systémy na základě jejich technického řešení.

Trošku to upřesním, pro všechny systémy, které mají schopnost identifikovat osoby na veřejnosti, autonomně hodnotit a autonomně rozhodovat s přímým dopadem na lidi.

25. 5. 2021, 15:46 editováno autorem komentáře

Pokud by se mi podařilo naprogramovat to klasicky tak se mně všechny tyto výmysly týkat nebudou? ;-)

To mě zajímá, jak by jsi naprogramoval identifikaci objektů "klasicky"?

Feature extrakce a pak nejaky velky rucne vytuneny strom ifu... myslim, ze minule z clanku vyplynulo, ze za AI se da povazovat uz obycejne SVM, perceptron a jine trivialni klasifikatory, takze ani neni nutne strkat tam neuronky... spis jde o to, ze je to klasifikator uceny z dat. Pokud byste ho naopak "ucil" vy tim, jak ho programujete, myslim, ze by se to definici AI mohlo vyhnout.

Hmm myslím, že vše co jsi jmenoval bude spadat do AI. Ten ručně výtuněný strom IFu je totiž taky "učení" jen jinak. Ostatně první neurony a sítě byly tvořeny z OP, potenciometrů a jiných analogových prvků a spoje se fyzicky drátovaly. Perceptron sám je ovšem model neuronu (spadá to do neuronek) a pokud je úloha lineárně separabilní, tak je až obdivuhodně funkční. No z perceptronů s přenosovou funkcí se stavějí složitější sítě.

Do AI patří rozhodovací stromy, Bayesovi sítě, Fuzzy logika, neuronky, multivektorové FSM atd.

Obecně mi přijde, že EU to řeší nikoliv pohledu, JAK konkrétně to je udělané, ale spíše z pohledu CO to dělá.

Jsem zvědav jak to nakonec dopadne. A taky si nemyslím, že by tě někdo honil proto, že sis udělal CNN, která je schopna identifikovat objekty. Toto je spíš mířeno na firmy a instituce. Uvidíme.

Ten rozdíl se setřel. Vše spadá do strojového učení a AI.

Tak asi bude trochu rozdíl, když to ten student použije pro vlastní a vnitřní potřebu, nebo pro komerční využití.

Přijde mi, že to dělají a) špatně, b) pozdě.
Já ty obavy ze zneužití chápu, ale připadá mi to asi tak na úrovni zákazu vyrábět střelný prach - s platností pro registrované velkovýrobce.
V době, kdy jednoduchou AI na rozpoznávání obličejů v reálném čase naprogramuje (pozor, to je nadsázka, nechytejte mne za slovo!) student s Raspberry Pi a kamerkou, je pozdě vymýšlet nějaké přísné regulace, navíc bezzubé, bez dopadu na ty, kdo nějaké zneužití chystají.
Technologické firmy nás každého rozpoznají snad i podle toho, na co koukáme v televizi, ale budeme vymýšlet, jak zamezit státu, aby nás "poznal na ulici". (Aneb: jak najdete hledanou osobu? Zeptáte se Google!)

25. 5. 2021, 20:45 editováno autorem komentáře