EU usvojila najkompleksniji zakon o AI-ju uprkos kritikama

Evropska unija (EU) uvela je najobuhvatniji regulatorni okvir za svet veštačke inteligencije (engl. artificial intelligence - AI) koji nastavlja da se razvija zavidnim tempom. Takozvani AI Act, ili zakon o veštačkoj inteligenciji, usvojen je u sredu.

Ovaj skup pravila bi, zbog nedostatka bilo kakvog zakona u SAD, mogao da odredi osnovna pravila razvoja AI tehnologije u zapadnom svetu. Međutim, usvajanje zakona prate kritike iz korporativnog sveta koji misli da zakon ide predaleko, ali i kritike regulatornih tela koja smatraju da zakon ne reguliše dovoljno aspekata AI-ja.

 Thierry Breton / Bloomberg

"Evropa sada postavlja svetske standarde razvoja veštačke inteligencije", rekao je komesar Thierry Breton u saopštenju.

Zakon o veštačkoj inteligenciji stupiće na snagu nakon što ga države članice potpišu (što je obično samo formalnost), i kada se objavi u Službenom glasniku EU.

Zakon o AI-ju ima cilj da odgovori na zabrinutost oko pristrasnosti, privatnosti i drugih rizika od tehnologije koja se brzo razvija. Zakon bi zabranio upotrebu AI-ja za detektovanje emocija na radnim mestima i školama, kao i ograničio način na koji se može koristiti u situacijama sa visokim ulozima kao što je sortiranje prijava za posao. To bi takođe postavilo prva ograničenja za generativne AI alate, koji su privukli pažnju sveta prošle godine sa popularnošću ChatGPT-ja.

Međutim, nacrt zakona izazvao je zabrinutost tri meseca otkako su zvaničnici postigli privremeni sporazum posle maratonske sesije pregovora koja je trajala skoro neprekidnih 24 sata.

Kad su razgovori prošle godine došli do završne faze, francuska i nemačka vlada su odbacile neke od najstrožih ideja za regulisanje generativne veštačke inteligencije, tvrdeći da će pravila naštetiti evropskim startapovima poput francuskog Mistral AI-ja i nemačkog Aleph Alpha GmbH. Grupe civilnog društva poput Corporate Europe Observatory (CEO) izrazile su zabrinutost zbog uticaja koji su tehnološki lideri imali u oblikovanju konačnog teksta regulatornog dokumenta.

"Ovaj jednostrani uticaj je značio da je AI opšte namene u velikoj meri izuzet od pravila i da se zahteva samo da se pridržava nekoliko obaveza transparentnosti", poručili su u saopštenju nadzorni organi, uključujući CEO i LobbyControl, misleći na AI sisteme koji mogu da izvrše širi spektar zadataka. 

Nedavna objava o partnerstvu Mistrala sa Microsoft Corp. izazvala je zabrinutost nekih zakonodavaca. Kai Zenner, pomoćnik parlamenta u pisanju zakona i sada savetnik Ujedinjenih nacija za politiku AI-ja, napisao je da je taj potez strateški pametan i "možda čak neophodan" za francuski startap, ali je naveo i da je "zakonodavstvo EU ponovo izigrano". 

Brando Benifei, poslanik i glavni autor zakona, rekao je da rezultati govore sami za sebe. "Zakon jasno definiše potrebe za bezbednošću najmoćnijih modela sa jasnim kriterijumima, pa je jasno da imamo sve što nam je potrebno", rekao je on u sredu na konferenciji za novinare.

Američke i evropske kompanije takođe su izrazile zabrinutost da će zakon ograničiti konkurentnost bloka. 

Ilustracija (Bloomberg)

"Sa ograničenom industrijom digitalne tehnologije i relativno malim investicijama u poređenju sa industrijskim divovima poput SAD i Kine, ambicije EU za tehnološki suverenitet i liderstvo u AI-ju suočavaju se sa značajnim preprekama", napisao je Raluca Csernatoni, istraživač u centru Carnegie Europe. 

Poslanici su tokom debate u utorak priznali da tek predstoji veliki posao. EU je u procesu uspostavljanja svoje kancelarije za AI, nezavisnog tela u okviru Evropske komisije. Kancelarija će praktično biti ključni izvršilac, sa mogućnošću da zahteva informacije od kompanija koje razvijaju generativnu veštačku inteligenciju i eventualno zabrani rad nekog sistema u okviru bloka.

"Pravila koja smo doneli u ovom mandatu za upravljanje digitalnim domenom - ne samo zakonom o AI-ju - zaista su istorijska, pionirska", rekao je Dragos Tudorache, jedan od vodećih autora zakona u parlamentu. "Ali učiniti da svi oni budu u skladu sa željenim efektom i pretvoriti Evropu u digitalnu silu budućnosti, biće test naše generacije."