EU postigla dogovor o regulisanju AI-ja

Evropska unija (EU) postigla je teško izdejstvovan dogovor o onome što bi trebalo da postane najsveobuhvatnija regulativa o veštačkoj inteligenciji (engl. artificial intelligence - AI) u zapadnom svetu.

Thierry Breton, šef EU za unutrašnje tržište, rekao je da sporazum uspostavlja ravnotežu između podsticanja inovacija i zaštite prava ljudi i kompanija.

"Potrošili smo mnogo vremena na pronalaženje prave ravnoteže između maksimalnog iskorišćavanja potencijala AI-ja za podršku sprovođenju zakona i istovremeno zaštite osnovnih prava naših građana", poručio je on rano u subotu. "Ne želimo nikakav masovni nadzor u Evropi."

Posle više od 37 sati pregovora ove nedelje, delegati Evropske komisije, Evropskog parlamenta i 27 zemalja članica pristali su na set kontrola za alate generativnog AI-ja - kao što su ChatGPT kompanije OpenAI Inc. i Googleov Bard - što je vrsta alata sposobna za proizvodnju sadržaja na komandu.

Pregovarači su se usaglasili da dozvole određeno skeniranje lica uživo, ali uz zaštitne mere i izuzetke, rekao je Breton. Sporazum bi zabranio biometrijsko skeniranje koje kategoriše ljude prema osetljivim karakteristikama, kao što su politička ili verska uverenja, seksualna orijentacija ili rasa. Zvaničnici su rekli da je ovo jedno od najtežih i najosetljivijih pitanja pokrenuto u razgovorima.

Predloženi zakon bi nametnuo finansijske kazne za kompanije koje krše pravila, sa kaznama do 35 miliona evra ili sedam odsto svetskog prometa, u zavisnosti od vrste kršenja i veličine kompanije.

Nacrt zakona tek treba da formalno odobre zemlje članice EU i parlament. Ali sporazum predstavlja ključan korak u pogledu politike koja se odnosi na AI, a koji će - u odsustvu bilo kakve značajne akcije američkog kongresa - postaviti osnovu za regulaciju tehnologije koja se brzo razvija. Cilj EU je da uspostavi prve čvrste zaštitne ograde za AI izvan Azije.

Zvaničnici mesecima rade na finalizaciji zakona o AI-ju i njegovom usvajanju pre evropskih izbora u junu koji bi doneli novu komisiju i parlament, što bi moglo da znači dodatne promene i odugovlačenje.

Odluka je doneta na sednici u petak nakon skoro 24-časovnog maratona koji se rastegao između srede i četvrtka. Tokom prvog sastanka, neki pregovarači su zadremali u sali, dok su drugi raspravljali o najosetljivijoj temi ograničavanja tehnologije skeniranja lica uživo u javnosti pre nego što su konačno pristali na pauzu.

Teške diskusije naglašavaju koliko je debata o regulisanju AI-ja postala sporna, što stvara podelu među svetskim liderima i rukovodiocima u tehnološkom sektoru, dok generativni alati postaju sve popularniji. EU - kao i druge jurisdikcije, uključujući Sjedinjene Američke Države (SAD) i Veliku Britaniju - mučila se da pronađe meru kada je u pitanju potreba da zaštiti svoje AI startapove - kao što su francuski Mistral AI i nemački Aleph Alpha - i izbori se sa potencijalnim društvenim rizicima.

Bloomberg

 

To se pokazalo kao ključni kamen spoticanja u pregovorima, a neke zemlje, uključujući Francusku i Nemačku, protivile su se pravilima za koja su poručile da bi nepotrebno ometala lokalne kompanije.

Državni službenici će u narednim nedeljama još razrađivati određene detalje, ali pregovarači su se uglavnom usaglasili u vezi s tim da postave pravila oko generativnog AI-ja koja uključuju osnovne zahteve za transparentnost za bilo kog programera velikog jezičkog modela. Oni koji predstavljaju sistemski rizik moraće da potpišu dobrovoljni kodeks ponašanja kako bi sarađivali sa komisijom na ublažavanju tog rizika. Plan je sličan pravilima EU o moderiranju sadržaja u okviru zakona o digitalnim uslugama.

Najteži deo se sveo na to koliko ograničiti alate za biometrijsku identifikaciju uživo. Parlament je prošlog proleća glasao za potpunu zabranu, međutim, zemlje EU su se zalagale za izuzeće u domenu nacionalne bezbednosti i sprovođenja zakona. Na kraju su se dve strane usaglasile da ograniče upotrebu tehnologije u javnim prostorima.

 

I Evropski parlament i Savet, koji uključuje 27 država članica EU, moraće da odobre sporazum. Francuska i Nemačka su ranije bile veoma kritički nastrojene u pogledu toga da bi zakon mogao previše da reguliše AI modele opšte namene i ubije domaće konkurente OpenAI-ju, poput Mistrala i Aleph Alphe.

Carme Artigas, državna sekretarka Španije, rekla je da je sporazum u okviru onoga što su zemlje EU želele i "nadamo se da će sve one to potvrditi". Ona je takođe dodala da zasada Mistral verovatno neće morati da učestvuje u kontrolama za AI opšte namene, jer je kompanija u fazi istraživanja i razvoja.

"Pažljivo ćemo analizirati kompromis koji je danas pronađen i u narednim nedeljama obezbediti da tekst očuva kapacitet Evrope da razvije sopstvene tehnologije AI-ja i sačuva svoju stratešku autonomiju", poručio je francuski ministar za digitalnu tehnologiju Jean-Noel Barrot.