text size
Lideri najvećih svetskih kompanija za razvoj veštačke inteligencije (AI) poručili su da je vreme da se uspori razvoj njihovih najnaprednijih i najprofitabilnijih modela, upozoravajući na sve veće rizike koje ta tehnologija nosi.
Izvršni direktor kompanije Anthropic Dario Amodei objavio je u subotu opširan tekst na svom blogu, u kojem je najavio da će kompanija uvesti nove mere bezbednosti, uključujući angažovanje nezavisnih procenitelja, i pozvao celokupnu industriju da podrži šire usporavanje razvoja AI modela.
Šef OpenAI-ja Sam Altman ubrzo je obećao da će prihvatiti Amodeijev predlog o "nezavisnim proceniteljima koji bi imali pristup kakav imaju zaposleni", dok je Elon Musk, koji vodi kompaniju xAI, napisao da je "Dario u pravu".
Iako su sva trojica lidera tokom godina upozoravala na rizike veštačke inteligencije, konkretan dogovor o usporavanju razvoja gotovo da je bez presedana u ovoj izuzetno konkurentnoj industriji, koja je tradicionalno izbacivala jedan proizvod za drugim kako bi povećala angažovanje korisnika, osvojila veći tržišni udeo i podstakla rast prodaje.
Međutim, javnost sve više brinu ozbiljni rizici koje AI nosi, čemu je doprinela medijski veoma propraćena ostavka istraživača iz Anthropica ove nedelje, koji je otišao zbog straha od egzistencijalnih rizika i ocene da se njegova kompanija ponaša neodgovorno. To je najnovije u nizu sve ozbiljnijih upozorenja koja dolaze iz same industrije da se AI razvija toliko brzo da predstavlja sve veću pretnju nacionalnoj bezbednosti i globalnoj ekonomiji.
Sve veća zabrinutosti oko toga koliko je veštačka inteligencija bezbedna poklapa se sa sve snažnijim otporom prema toj tehnologiji u SAD, koji delom podstiču prigovori zbog opterećenja lokalnih resursa koji su potrebni novim data centrima za podršku AI tehnologiji. Rastuća zabrinutost zbog viših računa za struju i mogućeg gubitka radnih mesta zbog AI učinila je razvoj te tehnologije važnom temom pred novembarske izbore.
Dario Amodei/Bloomberg
Nije jasno koliko će daleko vodeće AI kompanije koje su i same ljuti rivali, a uz to se suočavaju sa snažnom konkurencijom kineskih firmi, otići u uvođenju novih ograničenja ili bezbednosnih provera.
Demis Hasabis, glavni naučnik kompanije Alphabet i suosnivač Google DeepMinda, napisao je u subotu na platformi X da je "pravac dobar" u Amodeijevom tekstu, ali da "detalje tek treba razraditi".
Takođe nije jasno da li bi institucije za zaštitu konkurencije dozvolile kompanijama da na neki način koordinisano uspore razvoj. Tu je i pitanje kako bi na to reagovala tržišta, koja su zahvaljujući euforiji oko AI-ja dostigla nove rekorde: kako bi investitori, željni većih marži i profita, reagovali na ideju o usporavanju?
Amodei je naveo dva glavna razloga za novi oprez: sposobnost AI-ja da unapređuje samu sebe i nedavni slučaj kada su AI agenti kompanije OpenAI udruženo uspeli da izvedu napad na sajt Hugging Facea.
"Moramo usporiti tempo kojim unapređujemo sposobnosti AI modela", napisao je Amodei u subotu na svom blogu. "Brzo će se i dalje napredovati, a vreme koje dobijemo moramo pametno iskoristiti."
Ipak, dodao je da svako usporavanje razvoja mora biti u skladu sa realnošću tržišne utakmice.
"Da budemo jasni, usporavanje ne znači prekidanje obuke modela ili tehnološkog napretka, već obezbeđivanje dovoljno vremena kompanijama da usklade i zaštite svoje modele, kao i nezavisnim proceniteljima da to potvrde", napisao je Amodei.
Tokom procvata AI industrije, direktori vodećih AI laboratorija upozoravali su na potencijalne egzistencijalne rizike -tvrdnje koje su ponekad odbacivane kao pokušaj da se promovišu mogućnosti njihovih proizvoda i kompanije predstave kao najbolji čuvari ove tehnologije. I sam Amodei je ranije rekao da postoji 25 odsto šanse da "stvari krenu po zlu".
Anthropic se već dugo pozicionira kao kompanija posvećena odgovornijem i bezbednijem razvoju AI, sa ciljem da ublaži potencijalne opasnosti ove tehnologije i uveća koristi koje bi imala za društvo. Kompanija je početkom ove godine preduzela dodatne mere kako bi ograničila objavljivanje svog modela Mythos, nakon što je utvrdila da on nosi specifične rizike po sajber-bezbednost.
Anthropic je ranije takođe saopštio da je svetu potreban sistem koji bi omogućio zajedničko donošenje odluka o tome kada treba usporiti razvoj ove tehnologije.
Opširnije
OpenAI i Anthropic upozoravaju: Napredniji AI zahteva jaču sajber-zaštitu
Kompanije za razvoj veštačke inteligencije OpenAI i Anthropic PBC, zajedno sa više od 100 drugih organizacija, upozorile su kompanije i vlade da moraju da učine više kako bi se pripremile za hakerske napade organizovane pomoću AI-ja i kako bi se zaštitile.
27.08.2026
Anthropicovi AI modeli upali u sisteme tri organizacije
Kompanija Anthropic PBC saopštila je da su njeni modeli veštačke inteligencije tokom testiranja sajber-bezbednosti neovlašćeno upali u sisteme tri organizacije, nešto više od nedelju dana nakon što je njen glavni konkurent OpenAI objavio sličan incident.
31.07.2026
OpenAI saopštio da je slučajno hakovao Hugging Face
OpenAI je saopštio da su njegovi napredni modeli veštačke inteligencije nenamerno hakovali kompaniju Hugging Face Inc. u "incidentu bez presedana", što je ponovo otvorilo pozive za uvođenje strožih ograničenja za ovu tehnologiju.
22.07.2026
Lagarde upozorava: AI bi mogla ozbiljno da ugrozi finansijsku stabilnost
Veštačka inteligencija (AI) može potencijalno dovesti do opasnih finansijskih kriza, a Evropska centralna banka je odlučna da spreči da se to desi, izjavila je predsednica ECB Christine Lagarde.
17.06.2026
Istovremeno, Anthropic se i dalje žestoko nadmeće sa dugogodišnjim rivalom OpenAI-jem u razvoju sve sofisticiranijih modela koji mogu da automatizuju složenije zadatke od veće vrednosti za poslovne korisnike. Obe kompanije su poverljivo podnele dokumentaciju za izlazak na berzu, a očekuje se da bi Anthropic mogao da debituje na Wall Streetu već ove godine.
Altman iz OpenAI-ja rekao je da ova godina nije pravi trenutak za izlazak kompanije na berzu. U intervjuu za Fortune, objavljenom u subotu, rekao je da IPO-a neće biti pre 2027. godine. "Smatram da je nedopustivo prihvatati rizik od oko 10 odsto da pobijemo sve do kraja ove decenije", dodao je on.
Ubrzo nakon što je otkriven bezbednosni incident sa Hugging Faceom, Anthropic je saopštio da su njegovi modeli tokom testiranja sajber-bezbednosti probili sisteme tri organizacije, što je dodatno pojačalo zabrinutost zbog sposobnosti AI laboratorija da spreče da njihova tehnologija izmakne kontroli. Početkom ove nedelje, Anthropic je saopštio da je otkrio i četvrti takav napad.
Iako nijedan od ovih slučajeva, uključujući incident sa Hugging Faceom, za sada nije izazvao značajnu štetu, Amodei je rekao da strahuje da bi "za šest do 12 meseci takav roj agenata mogao da bude sposoban da preuzme kontrolu nad čitavim internetom putem dugotrajno aktivne mreže zaraženih uređaja (engl. botnet) (i potencijalno izazovu štetu od više stotina milijardi dolara), pri čemu bi šteta potom dobijala sve veće razmere.
Sam Altman/Bloomberg
Amodei je napisao da će Anthropic omogućiti nezavisnim proceniteljima puni pristup kako bi proveravali bezbednosne prakse kompanije i prijavljivali incidente. On je rekao i da će Anthropic uskoro u svoje kancelarije dovesti procenitelje sa internim pristupom i obezbediti im radna mesta, identifikacione kartice, kompanijske laptopove i ovlašćenja slična onima koje imaju interni timovi za procenu rizika.
Dodao je da će za uvođenje dodatnih mera biti potrebna koordinacija čitave industrije, kao i međunarodna saradnja.
"I dalje verujem da AI može da u ogromnoj meri unapredi kvalitet ljudskog života. I dalje želim da ostvarimo te koristi", napisao je on. "Međutim, te koristi možemo ostvariti samo ako ovu tehnologiju razvijamo na pravi način i pametno iskoristimo vreme koje dobijemo. Zato vredi uložiti dodatni trud da sve uradimo kako treba".
Sve veća zabrinutost zbog AI-ja
Početkom ove nedelje, Altman je rekao da OpenAI razmatra usporavanje razvoja najnaprednijih AI modela, po mogućnosti u saradnji sa celom industrijom.
Glavni naučnik kompanije Jakub Pachocki prethodno je upozorio na opasnosti od AI-ja, rekavši da bi kompanije trebalo da po potrebi usklađeno uspore razvoj.
AI istraživač Jacob Coxon u utorak je dao otkaz i optužio oba bivša poslodavca, Anthropic i OpenAI, da se "kockaju našim životima" u žurbi da razviju superinteligentnu AI. Coxon je u objavi na društvenim mrežama naveo da ljudi koji razvijaju AI veruju da bi ona mogla "da nas sve ubije do kraja decenije".
Evan Hubinger, koji i dalje radi u Anthropicu, odgovorio je da on i druge kolege u kompaniji zaista strahuju od takvog scenarija. "Lično mislim da je verovatnoća veća od 10 odsto u narednoj deceniji", napisao je na platformi X.
Još u julu, više od 1.000 zaposlenih u vodećim AI kompanijama potpisalo je peticiju kojom su pozvali američku vladu da podrži mehanizam koji bi omogućio da se razvoj AI namerno uspori, kako bi se sprečilo da tehnologija napreduje prebrzo.
AI modeli sve uspešnije izvode sopstvene sajber-napade. Anthropic, OpenAI i Meta Platforms su u proteklih nekoliko meseci objavili da su njihovi modeli tokom testiranja uspeli da izađu iz kontrolisanih okruženja, pristupe otvorenom internetu i probiju sisteme stvarnih žrtava.
Amodei je napisao da bi koordinisana strategija omogućila vodećim AI kompanijama u SAD da sprovedu neophodne mere bezbednosti, a da pritom ne izgube konkurentsku prednost. Prema njegovim rečima, to bi zahtevalo određena izuzeća od američkih propisa za zaštitu konkurencije kako bi kompanije mogle da sarađuju u konkretnim oblastima, kao i saradnju sa Kinom.
"Ako značajno ograničimo svoje AI sposobnosti verujući da će Kina učiniti isto, a Kina prekrši taj dogovor, AI bi mogao postati toliko moćan da bi takav potez mogao da dovede do njene geopolitičke dominacije", napisao je on.
Međutim, administracija Donalda Trumpa zasad pokazuje malo interesovanja za korišćenje regulatornih ovlašćenja kako bi postavila ograničenja u razvoju AI.
- U pisanju pomogli Lynn Doan, Angela Cullen i Rebecca Smith.
.webp){kind=icon}
