Da li će Srbija uskoro dobiti zakon o veštačkoj inteligenciji

Svake godine raste broj kompanija koje uvode veštačku inteligenciju, a Srbija još uvek nema poseban zakon kojim bi regulisala ovu oblast, ali je njegova izrada u toku i mogao bi da bude usvojen do kraja 2025. godine, kaže za Bloomberg Adria Aleksandar Linc-Đorđević, član radne grupe za izradu zakona o veštačkoj inteligenciji i direktor Data Science Conference.

Vlada Srbije je u januaru ove godine, na predlog Ministarstva nauke i tehnološkog razvoja, usvojila Strategiju za razvoj veštačke inteligencije za period od 2025. do 2030. godine. Kao jedan od ciljeva, navodi se "donošenje posebnog zakona koji će regulisati primenu veštačke inteligencije". Prema rečima Linc-Đorđevića, "ovaj zakon je uvršten je u set takozvanih reformskih zakona, pa je Srbija u obavezi da ga usvoji do 31. decembra ove godine, kako bi dobila pristup određenim EU fondovima". 

Srbija je 2023. godine postala jedna od prvih zemalja u svetu koje su usvojile Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije. U pitanju je "preventivni mehanizam, koji omogućava odgovoran razvoj te vrste inteligencije, u skladu sa najvišim etičkim i bezbednosnim standardima", navodi se u zaključku Vlade Srbije, kojim su usvojene etičke smernice. 

"Iako zasad ne postoji poseban zakon, koji bi uredio veštačku inteligenciju, na projekte u ovoj oblasti primenjuje se niz drugih propisa", ističe za Bloomberg Adria pravnica Tamara Zavišić, koja radi kao samostalna konsultantkinja domaćim i stranim startapovima u vezi sa usklađivanjem AI rešenja sa postojećom regulativom. "Tu spadaju propisi u oblasti zaštite podataka o ličnosti, prava intelektualne svojine, informacione bezbednosti i niz drugih", dodaje. 

Prema podacima Eurostata, na kraju 2024. godine, na AI se u poslovanju oslanjalo svega sedam odsto srpskih kompanija. "Taj broj se udvostručio do sredine ove godine", rekao je prethodno Bloomberg Adriju Dragan Tanasković, samostalni konsultant za veštačku inteligenciju, koji radi sa domaćim i stranim kompanijama na uvođenju AI rešenja za unapređenje poslovanja. 

Mnoge zemlje u svetu još uvek nemaju AI regulativu. Evropski Zakon o veštačkoj inteligenciji, koji se kolokvijalno naziva EU AI Act). Donet je u martu prošle godine, a u ovom trenutku smatra najsveobuhvatnijim zakonom na svetu u ovoj oblasti. 

Kada će Srbija dobiti Zakon o veštačkoj inteligenciji

"Inicijalni plan bio da nacrt zakona u avgustu bude dat na javnu raspravu, a da se u Narodnoj skupštini Srbije o njemu glasa na jesen", kaže Linc-Đorđević. Kako ocenjuje, to je sada "neizvesno, zato što se sastanci radne grupe ne održavaju od marta." Bloomberg Adria se u vezi sa izradom zakona obratio Ministarstvu nauke i Ministarstvu pravde, ali odgovor nismo dobili do objavljivanja teksta.

Srbija je od početka ove godine smenila bivšu i izabrala novu vladu. Bivši premijer Srbije Miloš Vučević je krajem januara poneo ostavku u vezi sa protestima zbog pada nadstrešnice na Železničkoj stanici u Novom Sadu 1. novembra 2024, kada je poginulo šestnaest ljudi. U aprilu je izabrana nova vlada, na čijem je čelu aktuelni premijer Đuro Macut. 

"Poslednje onlajn konsultacije radne grupe održane su u februaru. Bojim se da, u trenutnim okolnostima, zakon neće biti kvalitetno urađen, a ako i bude usvojen do kraja godine, moraće vrlo brzo da ide na izmene i dopune", kaže Linc-Đorđević, koji dodaje da se zakon priprema po uzoru na EU AI Act, jer je Srbija kandidat za članstvo u Evropskoj uniji.

 

 

Zasad, kako kaže, postoji radni predlog zakona koji bi trebalo da se pretvori u nacrt, a među članovima radne grupe postoji neusaglašenost po putanju određenih odredbi. "Na primer, postoji predlog da kazne za nepropisno prijavljivanje korišćenja veštačke inteligencije budu veoma visoke, što bi, ako se ovako usvoji, odvratilo kompanije koje investiraju u AI da posluju u Srbiji", smatra.

Kako dodaje, radni predlog predviđa formiranje Agencije za veštačku inteligenciju, koja bi imala ulogu regulatora, što je takođe upitno kao rešenje s obzirom na veličinu naše zemlje i kapacitete koje posedujemo. Ipak, Linc-Đorđević naglašava da je regulator sam po sebi neophodan. "Zaista trebalo urediti rukovanje osetljivim podacima, poput medicinskih, a monitoring u oblastima kao što je medicina je veoma važan, jer postoji veoma visok rizik da nastane šteta zbog neadekvatnog rukovanja podacima", kaže.

 

Depositphotos

Nedostatak regulative kao izazov za kompanije

Oko trećine kompanija u Srbiji eksperimentiše sa veštačkom inteligencijom, pokazalo je istraživanje ICT Hub-a, objavljeno prošle godine. Lideri u ulaganjima su kompanije koje već posluju u oblasti informacionih tehnologija i komunikacija, čije je poslovanje od početka vezano za digitalne tehnologije, a u poslednje vreme pridružuje im se sve više firmi iz finansijskog sektora, naročito banke, o čemu je Bloomberg Adria već pisala. Ulaganja se kreću od nekoliko stotina evra za konverzacione modele kao što su četbotovi, pa do mnogo većih budžeta kada su u pitanju veliki naučnoistraživački projekti.

"Pošto Srbija još uvek nema poseban zakon u ovoj oblasti, kompanije koje ulažu u AI  moraju da planiraju za budućnost", kaže za Bloomberg Adriju Tamara Zavišić, pravnica i konsultantkinja domaćim i stranim startapovima u vezi sa  uvođenjem AI. "Pojedine kompanije su svesne da se približava donošenje zakona, a takođe im je potreban savet ukoliko razvijaju rešenja za evropsko tržište, gde ova regulativa već postoji", pojašnjava.

Kako dodaje, najviše njenih klijenata su kompanije koje se bave fintekom i zaštitom zdravlja. "Obe branše rade sa osetljivim podacima", ističe Zavišić. "Pošto se očekuje da srpski zakon o veštačkoj inteligenciji bude sličan evropskom AI Actu, u skladu sa tim ih i usmeravam", pojašnjava pravnica. 

 

 

Među kompanijama koje se pripremaju za budućnost, kada će regulativa biti uvedena, nalazi se i HTEC, globalna firma za strateške usluge i ekspertizu softverskog i hardverskog embedded dizajna i inženjerstva, sa fokusom na AI. Za potrebe projekata, HTEC formira multidisciplinarne timove, u kojima su i pravnici. 

"Jedan od primera je naš projekat Humeds, AI rešenje za pametno praćenje rada srca", kažu iz pravnog tima HTEC-a u pisanom odgovoru za Bloomberg Adriju. Kako pojašnjavaju, "radi se telezdravstvenom sistemu, koji koristi veštačku inteligenciju za brzu i preciznu detekciju srčanih aritmija na osnovu visokokvalitetnih EKG signala". 

"HTEC je okupio tim koji čine inženjeri specijalizovani za softver, mobilne aplikacije, elektroniku i 'machine learning', kao i kardiolozi i eksperti za usklađivanje našeg medicinskog uređaja sa zdravstvenim regulativama", navode u pisanom odgovoru. 

Kako dodaju, jedan od izazova sa kojima su se suočili jeste nedostatak specifične regulative u oblasti AI-ja. "Ipak, HTEC je uz paralelno praćenje i implementaciju relevantnih evropskih standarda i regulativa, posebnu pažnju posvetio i postojećem lokalnom zakonodavstvu koje je primenjivo i kod upotrebe veštačke inteligencije", ističu. 

"Donošenje regulative u oblasti primene AI-ja u Srbiji na osnovu koje bi se Srbija uskladila sa EU AI Actom i sa globalnim standardima veoma je važno, kako za kompanije, tako i za korisnike", ističe pravni tim HTEC-a. "Uvođenje jasnih pravila omogućilo bi pravnu sigurnost, prevenciju zloupotreba i podstaklo odgovoran razvoj AI tehnologija u skladu sa evropskim i međunarodnim standardima", dodaju. 

 

DepositPhotos

Šta piše u Strategiji razvoja AI-ja i Etičkim smernicama

Zajedničko za Strategiju razvoja veštačke inteligencije i Etičke smernice je što naglašavaju da Srbija na taj način želi da se uskladi sa pravnim tekovinama Evropske unije. 

Etičke smernice su donete 2023. godine, dok je Strategija za period 2025-2030. druga po redu koju je Vlada Srbije usvojila (prva je važila od 2020. do 2025. godine). 

Vlada Srbije je 2021. osnovala Istraživačko-razvojni institut za veštačku inteligenciju, koji je dosad istraživao primenu AI-ja u proizvodnji, upravljanju vodnim resursima, merenju kvaliteta vode, dijagnostici retkih bolesti i drugim oblastima, navodi se na njihovom zvaničnom sajtu. 

 

• Strategija razvoja veštačke inteligencije 2025-2030. 
   

Strategija predviđa da se "izazovi u svim oblastima mora se rešavati uređivanjem načina razvoja i primene veštačke inteligencije kroz zakonske i institucionalne okvire". Kako se dodaje, zakonska rešenja moraju da budu "sveobuhvatna, precizna, usklađena sa razvojem tehnologije". Kako je naglašeno, osnovno merilo ostaje čovek. 

"Neophodno je ići u korak sa svetskim trendovima i na pravi način uvoditi ona rešenja koja su se već pokazala dobra u primeni, a izbegavati ona koja nisu dala očekivane efekte niti dobrobit društvu", navodi se. 

Osim donošenja zakona u ovoj oblasti, strategijom je previđen prelazni period za usklađivanje. Kako se navodi, primena Zakon o veštačkoj inteligenciji u punom obimu očekuje se do kraja 2027. godine. 

• Etičke smernice
   

Etičke smernice, dokument na četrdesetak strana, donete su sa ciljem da omoguće razvoj nauke, ali da istovremeno "ne dozvole da se čovek, kao centralna figura svih procesa koji na njega utiču ... ugrozi i zapostavi". "Sistemi veštačke inteligencije koji se razvijaju moraju da budu u skladu s dobrobiti čoveka, životinja i životne sredine", navodi se. 

"Važno je napomenuti da etičke smernice nemaju snagu zakona, već su preporuke koje bi trebalo da slede svi akteri koji razvijaju ili koriste AI", pojašnjava pravnica Tamara Zavišić. 

Uz smernice je donet i prateći upitnik za kompanije, koji treba da im pomogne da samostalno procene da li se kreću u pravom smeru kada razmišljaju o uvođenju AI rešenja. "Upitnik nije samo sredstvo provere već i edukativni alat o etičkim aspektima AI-ja", dodaje Zavišić i kaže da je korišćenje upitnika preporučeno "od planiranja AI sistema, kroz testiranja pa sve do primene, ali i kasnije, kako bi se pratila usklađenost sa regulativom". 

Smernice sadrže popis oblasti koje zahtevaju posebnu pažnju zbog visokog rizika u rukovanju podacima, navode se biometrijska identifikacija, obrazovanje, zapošljavanje, zdravstvo, pristup javnim i socijalnim uslugama, krivično gonjenje, pravosuđe i upravljanje migracijama. Takođe se navodi da u visokorizične spadaju "sistemi za preporuke vođeni veštačkom inteligencijom na platformama koje koristi veliki broj ljudi, kao što su društvene mreže".

"Ovi principi su usklađeni sa međunarodnim etičkim okvirima, posebno sa EU smernicama, čime se obezbeđuje da Srbija prati globalne standarde u ovoj oblasti", ocenjuje Zavišić. 

Bloomberg

Kako je EU regulisala veštačku inteligenciju

Regulativa u oblasti veštačke inteligencije je relativno nova u Evropskoj uniji (EU). Evropski parlament je u martu 2024. doneo Zakon o veštačkoj inteligenciji (EU AI Act). "On se smatra najsveobuhvatnijim zakonom u ovoj oblasti na svetu", kaže za Bloomberg Adriju Jelena Vujičić, advokat i pravni istraživač u oblasti prava i politike veštačke inteligencije. 

U Americi, gde Vujičić radi kao asistent na Čikaškoj školi prava Univerziteta u Ilinoisu, zasad ne postoji sveobuhvatni zakon, koji bi regulisao ovu oblast, ali pojedinačne države poslednjih godina donose sopstvene zakone.

Kako naglašava, iako AI može da unapredi mnoge procese, postoji rizik od zloupotreba. "Pošto se AI tehnologija stalno razvija, a zakonodavci to ne mogu da predvide, s vremenom se pojavljuju takozvane rupe u zakonu", pojašnjava Vujičić.

Kada je EU uvela AI Act, donela je pojedine zabrane, ističe ona. Zabranila je primenu AI za kognitivnu bihejvioralnu manipulaciju ljudima, na primer - igračke koje se aktiviraju glasom, a mogu da podstaknu opasno ponašanje kod dece. Takođe je zabranjena "biometrijska identifikacija u realnom vremenu i na daljinu, kao što je prepoznavanje i kategorizacija ljudi u javnom prostoru". EU je zabranila i "klasifikaciju ljudi na osnovu ponašanja, socioekonomskog statusa ili ličnih karakteristika". 

Prema podacima Eurostata, 13,5 odsto kompanija u Evropskoj uniji oslanja se na AI rešenja. Rastuća tražnja za generativnim proizvodima veštačke inteligencije može da doda oko 280 milijardi dolara novog softverskog prihoda, pokazuje analiza Bloomberg Intelligencea. Međutim, postoji zabrinutost kada je u pitanju potrošnja struje - globalna potrošnja električne energije za AI i data centre trenutno iznosi oko 1,5 odsto svetske potrošnje, prema podacima iz 2024, godina, uz očekivanje da se to udvostruči do 2030. godine.

 

 

Vujičić smatra da Srbija, koja je još uvek kandidat za članstvo u EU, ima "jedinstvenu priliku da se pozicionira kao regionalni i globalni lider u oblasti odgovorne digitalne transformacije". Srbija, koja neguje odnose sa EU, ali i sa Kinom i Rusijom, mogla bi se razvije u "AI čvorište za kompanije iz različitih delova sveta koje žele da razvijaju, testiraju i plasiraju AI rešenja na evropska, evroazijska i globalna tržišta", smatra ona.