EU glasa o novim pravilima za AI

Evropska unija (EU) na korak je da uvede najobuhvatniji okvir za svet veštačke inteligencije (engl. artificial intelligence - AI) koji nastavlja da se razvija zavidnim tempom.

Parlament bloka glasaće u sredu o zakonu o AI-ju, značajnom skupu pravila koja bi, u odsustvu bilo kakvog zakona u Sjedinjenim Američkim Državama (SAD), mogla da daju osnove u pogledu toga kako upravljati AI-jem u zapadnom svetu. Proces usvajanja zakona dolazi uprkos tome što kompanije strahuju da zakon seže predaleko, dok oni koji su zabrinuti za digitalnu bezbednost kažu da zakon nije dovoljno temeljan.

"Izlažemo zajedničku evropsku viziju za budućnost ove tehnologije - onu u kojoj je AI bezbednija više demokratska", rekla je poslanica Eva Maydell u parlamentu u utorak, "ali takođe, nadam se, konkurentnija".

Zakon o AI-ju ima cilj da odgovori na zabrinutost oko pristrasnosti, privatnosti i drugih rizika od tehnologije koja se brzo razvija. Zakon bi zabranio upotrebu AI-ja za detektovanje emocija na radnim mestima i školama, kao i ograničio način na koji se može koristiti u situacijama sa visokim ulozima kao što je sortiranje prijava za posao. To bi takođe postavilo prva ograničenja za generativne AI alate, koji su privukli pažnju sveta prošle godine sa popularnošću ChatGPT-ja.

Bloomberg

 

Međutim, nacrt zakona izazvao je zabrinutost tri meseca otkako su zvaničnici postigli privremeni sporazum posle maratonske sesije pregovora koja je trajala skoro neprekidnih 24 sata.

Kad su razgovori prošle godine došli do završne faze, francuska i nemačka vlada su odbacile neke od najstrožih ideja za regulisanje generativne veštačke inteligencije, tvrdeći da će pravila naštetiti evropskim startapovima poput francuskog Mistral AI-ja i nemačkog Aleph Alpha GmbH. Grupe civilnog društva poput Corporate Europe Observatory (CEO) izrazile su zabrinutost zbog uticaja koji su tehnološki lideri imali u oblikovanju konačnog teksta regulatornog dokumenta.

 

"Ovaj jednostrani uticaj je značio da je AI opšte namene u velikoj meri izuzet od pravila i da se zahteva samo da se pridržava nekoliko obaveza transparentnosti", poručili su u saopštenju nadzorni organi, uključujući CEO i LobbyControl, misleći na AI sisteme koji mogu da izvrše širi spektar zadataka. 

Nedavna objava o partnerstvu Mistrala sa Microsoft Corp. izazvala je zabrinutost nekih zakonodavaca. Kai Zenner, pomoćnik parlamenta u pisanju zakona i sada savetnik Ujedinjenih nacija za politiku AI-ja, napisao je da je taj potez strateški pametan i "možda čak neophodan" za francuski startap, ali je naveo i da je "zakonodavstvo EU ponovo izigrano". 

Bloomberg

 

Američke i evropske kompanije takođe su izrazile zabrinutost da će zakon ograničiti konkurentnost bloka. 

"Sa ograničenom industrijom digitalne tehnologije i relativno malim investicijama u poređenju sa industrijskim divovima poput SAD i Kine, ambicije EU za tehnološki suverenitet i liderstvo u AI-ju suočavaju se sa značajnim preprekama", napisao je Raluca Csernatoni, istraživač u centru Carnegie Europe. 

Poslanici su tokom debate u utorak priznali da tek predstoji veliki posao. EU je u procesu uspostavljanja svoje kancelarije za AI, nezavisnog tela u okviru Evropske komisije. Kancelarija će praktično biti ključni izvršilac, sa mogućnošću da zahteva informacije od kompanija koje razvijaju generativnu veštačku inteligenciju i eventualno zabrani rad nekog sistema u okviru bloka.

"Pravila koja smo doneli u ovom mandatu za upravljanje digitalnim domenom - ne samo zakonom o AI-ju - zaista su istorijska, pionirska", rekao je Dragos Tudorache, jedan od vodećih autora zakona u parlamentu. "Ali učiniti da svi oni budu u skladu sa željenim efektom i pretvoriti Evropu u digitalnu silu budućnosti biće test naše generacije."