Četbot vam može pomoći da napišete imejl, rezervišete putovanje ili analizirate složenije zadatke. Ali može i da vam - sa potpunim "samopouzdanjem" - preporuči pogrešnu terapiju, previdi ozbiljan simptom ili izmisli izvor koji ne postoji. Novo istraživanje objavljeno u medicinskom časopisu "BMJ Open" pokazalo je da su AI četbotovi davali problematične medicinske savete u oko 50 odsto slučajeva, dok je gotovo petina odgovora ocenjena kao veoma problematična. Analizirani su odgovori platformi ChatGPT, Gemini, Grok, Meta AI i DeepSeek, a istraživači upozoravaju da sistemi često odgovaraju "autoritativno", čak i kada su odgovori netačni i nepotpuni, piše Bloomberg.
Upravo tu, između naizgled impresivne produktivnosti i potencijalno opasne samouverenosti AI sistema, otvara se verovatno najveće pitanje nove tehnološke ere: ko zapravo kontroliše veštačku inteligenciju?
Ovakvi primeri, smatra Branko Subotić, direktor za sertifikaciju i članstvo u beogradskom ogranku međunarodnog udruženja ISACA, pokazuju zašto će kontrola AI sistema postati važnija od same brzine njihove primene. "Prvi put imamo tehnologiju koja može samu sebe da razvija i čiji je dalji razvoj veoma nepredvidljiv. Zato će specifična težina buduće primene ove tehnologije biti više na kontroli nego na otvorenoj primeni", kaže Subotić za Bloomberg Adriju.
Opširnije
Googleovo čedo diže više od dve milijarde u novoj rundi finansiranja
Isomorphic Labs, kompanija za otkrivanje lekova uz pomoć veštačke inteligencije koja je nastala iz Alphabetovog Google DeepMinda, vodi završne razgovore o prikupljanju više od dve milijarde dolara u novoj rundi finansiranja, prema rečima ljudi upoznatih sa planom.
08.05.2026
OpenAI je stvar prošlosti, čak i za SoftBank
Šta je s OpenAI-jem, Sonovom ubedljivo najvećom investicijom?
07.05.2026
Južnokorejsko tržište akcija u snažnom uzletu
Južnokorejske kompanije uživaju u novoj proceni vrednosti, ali se postavlja pitanje li je ovaj uspon ipak preteran.
06.05.2026
Samsung dostigao tržišnu vrednost od bilion dolara, pridruživši se TSMC-ju u elitnom klubu
Samsung se nalazi u samom središtu transformacije koja je Aziju učinila temeljem globalnog ekosistrema veštačke inteligencije.
06.05.2026
Problem nije samo u tome što AI može pogrešiti, već u načinu na koji greške plasira - samouvereno, ubedljivo i često bez mogućnosti da korisnik proceni da li je odgovor validan.
Kako u privatne, tako ljudi sve češće koriste AI i u poslovne svrhe. Zapravo, teško je utvrditi šta je trenutno dominantnije među ova dva, jer je četbot mnogima "zamenio" lekara, terapeuta, konsultanta, ali i Google, kolegu, razne kompjuterske programe kao alate pri radu. Dakle, kontrola AI procesa je jednako važna i u privatnom životu pojedinaca i u korporativnom svetu.
Subotić upozorava da je svest o rizicima nekontrolisane upotrebe AI alata u Srbiji i dalje relativno niska, naročito među manjim i srednjim kompanijama koje često nemaju razvijene politike zaštite podataka i upravljanja AI rizicima. Dodatni problem je što zaposleni sve češće koriste ChatGPT i slične alate bez jasnih internih pravila kompanije. Takva praksa, kaže Subotić, može dovesti do curenja poverljivih podataka, pogrešnih poslovnih odluka i povećane izloženosti sajber-napadima.
"Firme koje uspešno integrišu AI alate s upravljanjem rizicima koristiće AI kao konkurentsku prednost, dok će firme bez jasne strategije biti izloženije bezbednosnim incidentima i gubitku poverenja klijenata. Sam pojam kontrole AI tehnologije u poslovnom svetu ima višestruko značenje, te je izuzetno bitno fundamentalno razumeti sistem, uključujući AI algoritme, podatke na kojima se treniraju, kao i načine donošenja odluka", ocenjuje Subotić.
Koje znanje nam treba u doba AI-ja
Kada je reč o veštinama neophodnim u cilju održavanja kontrole, one se, prema rečima sagovornika, dele u tri osnovne grupe: menadžerske/strateške, etičke/pravne i tehničke. Menadžerske su prvenstveno orijentisane na upravljanje strateškim rizicima koji proizilaze iz upotrebe AI alata, razvijanje politika i procedura i projektni menadžment u AI inicijativama. Etičke veštine se odnose na poznavanje zakonskih regulativa, prepoznavanje etičkih izazova, kao i konstantnu komunikaciju i edukaciju. Tehnička znanja uključuju široku paletu znanja i veština neophodnih za upravljanje upotrebom AI tehnologija.
"U pogledu tehničkih znanja neophodni su stručnjaci koji se bave upravljanjem podacima kojima se hrane AI alati, kao i stručnjaci za upravljanje tehničkim rizicima AI alata i oni iz oblasti sajber-bezbednosti, zatim eksperti za monitoring, evaluaciju i reviziju performansi AI alata."
Zoran Zlokolica, predsednik beogradskog ogranka ISACA, smatra da će tržište rada ubuduće najviše tražiti stručnjake za AI governance (upravljanje i kontrola), sajber-bezbednost i upravljanje AI rizicima, posebno u finansijama, energetici, telekomunikacijama, zdravstvu, državnim institucijama i sektorima kritične infrastrukture, jer "fokus više nije samo na tome kako koristiti AI, već kako ga koristiti bezbedno, odgovorno i kontrolisano".
Međutim, problem u Srbiji je što deo kompanija AI governance i sajber-bezbednost još uvek posmatra prvenstveno kao trošak, iako evropske regulative poput AI Acta već uvode stroža pravila kontrole AI sistema. Zlokolica smatra da AI neće samo "uzimati" poslove, kako se danas svako malo piše i priča, već će istovremeno stvarati potpuno nova zanimanja - od AI auditora (osoba koja proverava kako sistemi veštačke inteligencije funkcionišu) i menadžera za AI rizike, do stručnjaka za AI governance i kontrolu kvaliteta podataka.
Zlokolica: Ona zanimanja u kojima AI tehnologija i robotizacija u potpunosti preuzmu punu samostalnost transformisaće se iz zanimanja u autonomnu uslugu, to jest servis ili proizvod.
Depositphotos
"Istorijski gledano, svaka velika tehnološka revolucija menjala je tržište rada. Neka zanimanja su nestajala, ali su se pojavljivala nova. Razlika je u tome što AI danas ne utiče samo na fizičke i rutinske poslove (npr. vozači, operateri u proizvodnji, administrativni radnici, kol-centri i logistika), već i na intelektualne i kreativne profesije (programeri, pravnici, finansijski analitičari, marketinški stručnjaci, dizajneri, pa čak i deo poslova u medicini i obrazovanju). Međutim, važno je razumeti da će ova promena doći postepeno i da AI neće odmah u potpunosti zameniti ljude u pojedinim zanimanjima. Transformacija će se odvijati kroz više faza", objašnjava Zlokolica.
Prema njegovim rečima, AI se u prvoj fazi uvodi kao pomoćni alat koji ljudima omogućava da rade brže, efikasnije i preciznije; u drugoj fazi dolazi do transformacije zanimanja, gde čovek i AI sistemi rade zajedno - u takvom modelu jedan stručnjak, uz podršku AI tehnologije, može obavljati posao koji je ranije zahtevao više ljudi; u narednim fazama može se govoriti o značajnijoj ili gotovo potpunoj automatizaciji pojedinih poslova. Međutim, uporedo s tim nastajaće i potpuno nova zanimanja i nove profesije.
Prema procenama FREN-a, oko 70.000 poslova moglo bi biti potpuno automatizovano, dok bi gotovo 388.000 zaposlenih moglo značajno da promeni način rada pomoću AI alata. Najizloženiji su administrativni i rutinski poslovi, ali se paralelno otvara prostor za nova zanimanja poput stručnjaka za AI bezbednost, upravljanje podacima, kontrolu i reviziju AI sistema, kao i eksperata za AI governance i monitoring performansi. Dakle, najveću vrednost neće imati oni koji se bore protiv AI-ja, već oni koji nauče kako da rade zajedno s AI-jem, uz fokus na kreativnost, analitičko razmišljanje i donošenje odluka, preneo je lane Digitalni privredni vodič.
Uticaj na produktivnost i uštedu
Uticaj veštačke inteligencije na produktivnost već danas je ogroman, iako je njena puna primena još uvek relativno ograničena u mnogim kompanijama i industrijama. AI danas najviše povećava produktivnost kroz augmentaciju čoveka, a ne kroz potpunu automatizaciju, objašnjava Zlokolica.
Bloomberg
U praksi, to znači da zaposleni pomoću AI alata mogu da obrade mnogo veće količine podataka, brže donose odluke, automatizuju rutinske zadatke i efikasnije povezuju znanja iz različitih oblasti, a najveće promene već su vidljive u analizi podataka, razvoju softvera, korisničkoj podršci, marketingu, finansijama, medicini, sajber-bezbednosti i administrativnim poslovima, gde AI sve češće funkcioniše kao "digitalni copilot" koji zaposlenima omogućava da budu brži, precizniji i produktivniji.
Ta konstruktivna uloga AI-ja kompanijama donosi i značajne finansijske uštede, dok istovremeno otvara nova pitanja troškova i održivosti.
"Savremeni AI sistemi zahtevaju ogromne resurse - od specijalizovanih AI čipova i snažnih procesora do velikih količina podataka i ogromne potrošnje električne energije. Zbog toga tehnološki giganti širom sveta ubrzano grade nove generacije AI data centara sa znatno zahtevnijom infrastrukturom i sistemima hlađenja nego što je slučaj sa tradicionalnim serverima", zaključuje predsednik beogradskog ogranka ISACA.
Upravo zato većina kompanija danas ne razvija sopstvenu AI infrastrukturu, već koristi klaud platforme velikih tehnoloških kompanija poput Microsofta, Amazona ili Googlea. Globalni trendovi pokazuju da će AI nastaviti da povećava produktivnost i smanjuje troškove poslovanja, ali će u isti mah intenzivno nametati pitanja energetske održivosti, bezbednosti, zaštite podataka i upravljanja rizicima. Zbog svega toga, više nije dovoljno samo koristiti AI, već je podjednako važno razumeti kako bezbedno upravljati tom tehnologijom i kako kontrolisati rizike koje nosi sa sobom.
.webp){kind=icon}
