U vreme kada veštačka inteligencija prodire u mnoge pore privrede i državne uprave, regulisanje njene primene postaje sve važnije. Malo je stručnjaka u svetu koji ovu temu razumeju bolje nego dr Funda Güneş, izvršna direktorka i osnivačica Walu AI, konsultantske firme posvećene odgovornoj implementaciji AI-ja i unapređenju digitalne pismenosti.
Sa više od dve decenije iskustva u akademskom istraživanju, radu u IT sektoru i na rukovodećim funkcijama u globalnim korporacijama, Güneş donosi uvid u to kako moćni algoritmi mogu efikasnije da služe ljudima. Kao istraživačica prestižnog američkog SAS Institute, Güneş je radila na uspostavljanju standarda u oblasti etičke primene AI-ja i jedan je od uticajnih glasova u globalnoj debati o korišćenju veštačke inteligencije.
Nedavno je bila u poseti Srbiji, koja bi do kraja godine trebalo da donese zakon o veštačkoj inteligenciji, a ujedno je jedna od prvih zemalja u svetu koje su 2023. usvojile Etičke smernice za primenu AI-ja, o čemu je Bloomberg Adria već pisala. Güneş je u Beogradu održala predavanje za nastavnike o upotrebi veštačke inteligencije u obrazovanju, u sklopu US Speakers programa koji realizuje Nordeus fondacija uz podršku Ambasade SAD u Srbiji.
Opširnije
Da li će Srbija uskoro dobiti zakon o veštačkoj inteligenciji
Srbija bi do kraja godine mogla da dobije Zakon o veštačkoj inteligenciji, kaže za Bloomberg Adriju Aleksandar Linc-Đorđević, član Radne grupe za izradu zakona.
21.07.2025
AI ambicije čine Alibabu najtraženijom kineskom tehnološkom akcijom
Sve veće interesovanje za planove kompanije Alibaba Group Holding Ltd. u oblasti veštačke inteligencije ponovo ju je učinilo najtraženijom tehnološkom akcijom u Kini, dok se investitori vraćaju internet gigantu vrednom 420 milijardi dolara.
pre 5 sati
Intel traži investiciju od Applea kao deo svog plana za povratak
Intel želi da ojača poslovanje, a pregovori su još u ranoj fazi i možda neće doći do dogovora.
pre 6 sati
Nvidijin dogovor sa OpenAI-jem podstiče zabrinutost od novog balona
Tri godine nakon što su OpenAI i Nvidia Corp. pogurali svetsku groznicu oko veštačke inteligencije (engl. artificial intelligence - AI), dve firme udružuju snage kako bi utrle put skupljoj fazi razvoja, kroz dogovor koji je brzo oživeo strahove od AI balona.
24.09.2025
Nordeus fondacija
- Često savetujete različite industrije o primeni veštačke inteligencije. Koje su, po vašem mišljenju, najznačajnije mogućnosti koje AI nudi, a koja su ključna ograničenja koja pozivaju na oprez prilikom primene?
Radim sa brojnim industrijama, koje posluju po strogim pravilima, pa je usklađenost sa zakonskim okvirom polazište. Uključujem se već u najranijoj fazi razvoja projekata, kada se još uvek razvija koncept. Na samom početku razrađujemo scenario primene - ako kompanija pomisli da joj AI može pomoći da reši poslovni problem, prvo sprovodimo inicijalnu procenu rizika. Ti rizici se obično klasifikuju kao niski, srednji ili visoki, u zavisnosti od spremnosti organizacije da ih preuzme, vrednosti koje zastupa, kao i zakonodavnog okvira.
- Da li je primena AI-ja u tim slučajevima pre svega usmerena na automatizaciju internih procesa, ili na sisteme koji direktno utiču na korisnike?
Procena rizika je uvek prvi korak. Ako je slučaj visokorizičan, recimo, kada AI odlučuje o zahtevima za isplatu osiguranja i barata osetljivim ličnim podacima, potrebno je pristupiti sa najvećom pažnjom. Cilj je da se sagledaju sve moguće posledice - kolika bi potencijalna šteta mogla da bude i kako je sprečiti. Namere kompanija su najčešće dobre, ali potreban je širok spektar stručnjaka kako bi se uspostavili zaštitni mehanizmi. Među njima su pravnici, data naučnici, inženjeri, ali i sami korisnici.
Za mene je privatnost ključno pitanje - koliko podataka delimo sa algoritmom, ko ima pristup tim podacima, koliko dugo ih čuvamo i koje opcije nudimo korisnicima. Pristrasnost takođe može da bude problem - ako su podaci koji se koriste za obučavanje algoritma pristrasni, to će uticati na rezultate i predstavlja rizik kojim se mora upravljati.
Tu je i pitanje objašnjivosti, jer rezultati koje AI daje moraju da budu logični ljudima. Na primer, ukoliko veštačka inteligencija preporučuje obrazovne programe učenicima, moramo da osiguramo da je određena preporuka - i učeniku, i njegovim roditeljima.
Nordeus fondacija
- Koji su ključni koraci koje obrazovni sistemi treba da preduzmu kako bi pripremili nastavnike i edukatore za odgovornu upotrebu AI-ja?
Kako bismo etički koristili veštačku inteligenciju, potrebno je razumeti kako ona uopšte funkcioniše. Za korisnike je važno da shvate kako AI uči iz podataka, koji su rizici i ograničenja, ali koja etička pitanja treba imati na umu, recimo, odgovornost, transparentnost i pravičnost. Kako bismo znali ko je odgovoran kada AI pogreši, moramo obezbedimo da ljudski nadzor ostane sastavni deo primene veštačke inteligencije.
- Zdravstvo je jedan od sektora u kojima primena AI-ja ubrzano raste. Kako zdravstveni sistemi mogu iskoristiti njene prednosti, a da pritom zaštite osetljive medicinske podatke?
Veštačka inteligencija nam pruža ogromnu moć, ali s njom dolazi i odgovornost. Kada AI odlučuje u situacijama koje mogu da budu pitanje života i smrti, ona mora biti korišćena pažljivo, odgovorno i transparentno. Danas postoje brojni AI alati za dijagnostiku bolesti, ali znamo i da mogu da pogreše. Zato je ključno da sugestije koje daje AI budu objašnjive, a da konačnu odluku uvek donose lekari.
AI bi trebalo da bude alat koji dopunjuje ljudsko znanje, a ne njegova zamena. Potpuna automatizacija moguća je samo u oblastima gde su zadaci repetitivni, a rizik nizak. U oblastima visokog rizika ljudski nadzor i transparentnost su neophodni. Kada, na primer, AI postavi dijagnozu, ljudi moraju da proveravaju da li ta teorija ima smisla, kao i da dijagnozu saopšte pacijentu.
Veštačka inteligencija može da unapredi sve segmente medicine - od administracije do toga da lekarima omogući da imaju više vremena da se posvete pacijentima. Ankete pokazuju da u Americi lekari veći deo pregleda provedu pišući beleške i unoseći podatke u zdravstveni karton. AI može da automatizuje taj deo posla, a da lekaru ostane vremena za ono najvažnije, a to su razgovor i kvalitetna briga o pacijentu.
Nordeus fondacija
- Kompanije širom sveta istražuju nove načine primene AI-ja. Međutim, u mnogim zemljama, uključujući i Srbiju, još uvek ne postoji specifična regulativa. O čemu bi trebalo da kompanije razmišljaju dok se pripremaju za budućnost?
Pre svega, kompanije treba da definišu sopstvene politike, vrednosti i principe. EU AI Act je takođe je dragocena smernica, jer jasno definiše zabranjene i visokorizične slučajeve upotrebe. Van EU, u zemljama gde se formalno ne primenjuje, može da posluži kao vodič za bezbednu i odgovornu implementaciju.
- EU AI Act se smatra jednom od najkompleksnijih regulativa u toj oblasti. Koje su zemlje donele slične propise?
Vidimo da mnoge zemlje uvode sopstvene regulative u skladu sa svojim vrednostima i prioritetima, od Kine i Turske do Amerike, koje trenutno primenjuju pristup zasnovan na inovacijama i eksperimentisanju. Pristupi se razlikuju, ali važno je da vlade širom sveta prepoznaju značaj AI-ja i aktivno razmišljaju o njenoj budućnosti.
Ključna reč je uspostavljanje poverenja između kompanija i građana. Kako bi se to dogodilo, važno je da svi akteri razumeju kakav je uticaj nekog tehnološkog rešenja na ljude koje direktno pogađa. Važno je da se prvo uspostavi okvir za odgovornu primenu AI-ja, pa da se tek onda razmišlja o tome kako da automatizujemo repetitivne zadatke. AI je alat koji treba da služi ljudima, da unapredi njihova znanje i sposobnosti, a ne da nas zameni.
.webp){kind=icon}
Trenutno nema komentara za vest. Ostavite prvi komentar...