Anthropic i OpenAI žele da uspore AI trku, Wall Street i Trump se bune

Anthropic i OpenAI naći će se pred teškim izborom: kako usporiti razvoj veštačke inteligencije, a istovremeno se odupreti pritisku tehnološke industrije, finansijskih tržišta i administracije Donalda Trumpa, koji će verovatno pružiti otpor svakom ozbiljnijem usporavanju.

 

Dve kompanije, koje razvijaju najmoćnije AI sisteme na svetu, obećavaju mere za ograničavanje trke u razvoju najnaprednijih AI modela kako bi se bolje razumeli rizici koje ova tehnologija nosi, nakon niza bezbednosnih incidenata.

Izvršni direktor Anthropica Dario Amodei u tekstu od 3.800 reči objavljenom u subotu, koji je podržao izvršni direktor OpenAI-ja Sam Altman, kao i izvršni direktor kompanije SpaceXAI Elon Musk, naveo je da razvoj najnaprednijih sistema mora da bude usporen kako bi se sprečilo da veštačka inteligencija izmakne ljudskoj kontroli i izazove katastrofalnu štetu. Amodei je u svom eseju insistirao na tome da "usporavanje" napretka AI mogućnosti ne znači nužno smanjenje potrošnje ili usporavanje rasta. Ipak, bilo kakva pauza ili odlaganje napretka takozvanih frontier sistema, odnosno najnaprednijih AI sistema, bila bi nepoželjna investitorima koji računaju na to da će procvat AI-ja pokrenuti stotine milijardi dolara kapitalnih ulaganja. Wall Street takođe očekuje potencijalno rekordne inicijalne javne ponude akcija Anthropica i OpenAI-ja, koje zavise od napretka dve kompanije u razvoju AI tehnologije.

Bloomberg

Reakcija tržišta usledila je već u ponedeljak, kada su ključne kompanije za AI infrastrukturu Samsung Electronics i SK Hynix pale za više od četiri odsto u Seulu, dok je investitor u OpenAI SoftBank Group oslabio 13 odsto. U Silicijumskoj dolini, priča o usporavanju mogla bi da pritisne i proizvođače čipova poput Nvidije, koji su imali koristi od povećane potrošnje na procesore za obuku i pokretanje novih generacija AI modela. Posledice bi mogle da osete i kompanije Amazon i Microsoft, koje Anthropicu i OpenAI-ju pružaju usluge računarstva u oblaku za AI.

"Te dve kompanije i njihovi planovi imaju ogroman efekat prelivanja na čitav tehnološki sektor", rekao je Mark Mahaney, analitičar kompanije Evercore ISI. "Ako bi te dve kompanije drastično smanjile ulaganja u istraživanje i razvoj, zapošljavanje i kapitalne izdatke, to bi moglo značajno da utiče na finansijska tržišta."

Svaki potez kojim bi se razvoj AI-ja ograničio mogao bi da izazove i reakciju američkog predsednika Donalda Trumpa, koji je svoju ekonomsku agendu zasnovao na agresivnom razvoju veštačke inteligencije kao pokretaču otvaranja novih radnih mesta i upozorio da SAD moraju da ostanu ispred Kine u ovoj tehnologiji kako bi zaštitile nacionalnu bezbednost. "Kada govorimo o 'usporavanju', ne mislimo na 'zaustavljanje'", napisao je Altman u nedelju na društvenoj mreži X. "Tamo gde će nam biti potrebna pomoć naše vlade jeste međunarodna koordinacija. Ali prvo treba da uradimo ono što možemo sami."

Trump je u nedelju umanjio značaj ideje o dodatnim ograničenjima, ponovivši svoj raniji stav da SAD moraju da nastave da šire AI sektor, čak i suočene sa sve većim domaćim protivljenjem data centrima potrebnim za napajanje ove tehnologije.

"Predvodimo Kinu u AI-ju. Mi smo najnaprednija zemlja na svetu i, iskreno, želim da tako i ostane, jer ko pobedi u AI-ju, pobediće", rekao je Trump novinarima na marginama golf turnira Irish Open. "Možemo da postavimo zaštitne mehanizme. Možemo da uradimo ovo ili ono. Ali mislim da postoji mnogo veoma negativnih sila koje to pitanje pokreću, a ne bi trebalo da ga pokreću."

Zabrinutost zbog egzistencijalnih rizika AI-ja dospela je prošle nedelje u fokus javnosti, nakon što je Anthropic napustio Jacob Coxon, koji je AI kompanije optužio da se u trci za naprednim sistemima "kockaju našim životima". Coxonovu objavu o ostavci na društvenim mrežama podržale su desetine drugih AI istraživača, koji su pozvali na usporavanje razvoja tehnologije za koju je Coxon rekao da bi "mogla da nas sve ubije do kraja decenije". I pre nego što se Coxonova poruka proširila, članovi Kongresa već su zahtevali mere za suzbijanje najvećih rizika AI-ja kroz nove zaštitne mehanizme. Senator Bernie Sanders, nezavisni senator iz Vermonta koji je blizak demokratama, predložio je zabranu takozvane superinteligentne veštačke inteligencije, dok su drugi zakonodavci izneli ideju o "prekidaču za isključivanje" AI-ja. Ipak, mala su očekivanja da će duboko podeljeni Kongres uspeti da postigne dogovor i usvoji bilo šta značajno manje od dva meseca pre izbora za Kongres na polovini mandata. Predsedavajući Predstavničkog doma Mike Johnson pozvao je na partnerstvo tehnološke industrije i vlade u pronalaženju zaštitnih mehanizama za AI, poručivši kompanijama da imaju "korporativnu odgovornost da se postaraju da njihovi proizvodi budu bezbedni". Lider demokratske manjine u Predstavničkom domu Hakeem Jeffries rekao je za ABC-jev program "This Week" da će se demokrate u Predstavničkom domu u utorak ujutru sastati kako bi razgovarale o mogućim merama u vezi sa AI-jem.

Čak i uz milijarde dolara tehnoloških ulaganja koje su u pitanju, neki ljudi na Wall Streetu takođe upozoravaju na mogućnost da nešto katastrofalno pođe po zlu sa ovom tehnologijom i izazove štetu velikih razmera. Greg Jensen, direktor za investicije kompanije Bridgewater Associates i jedan od ranih investitora u OpenAI i Anthropic, rekao je da ga ubrzani napredak AI-ja uznemirava i da svet rizikuje da propusti priliku da spreči ozbiljne posledice.

"Nažalost, istorija pokazuje da nećemo ništa preduzeti dok AI ne počne da ubija ljude", rekao je Jensen u Bloombergovom podkastu Odd Lots. "To će se dogoditi i bilo bi mnogo bolje da počnemo da se bavimo tim problemom pre toga."

Amodei je u svom eseju naveo dva glavna razloga za usporavanje razvoja AI-ja u ovom trenutku: sve veću sposobnost tehnologije da unapređuje samu sebe i incident iz jula, kada je grupa AI agenata kompanije OpenAI neopaženo sarađivala kako bi probila zaštitu veb-sajta kompanije Hugging Face. Šef Anthropica obećao je da će kompanija otvoriti svoja vrata nezavisnim evaluatorima, koji će imati pristup na nivou zaposlenih kako bi mogli da pregledaju nove sisteme pre njihovog puštanja u rad. Taj sistem provere bio je ključni predlog njegovog eseja, a Altman iz OpenAI-ja rekao je da mu se ideja dopada i da planira da je primeni u svojoj kompaniji. Musk je rekao da bi "stručna recenzija" među vodećim AI kompanijama bila "vredna truda". Amodei je dodao da postoji prostor i za nadzor države kada je reč o AI-ju, ponavljajući svoj raniji predlog da najnapredniji AI modeli budu obavezno podvrgnuti državnoj bezbednosnoj proveri.

"Regulacija omogućava javnosti i njenim izabranim predstavnicima da imaju reč i ograničava ono što privatne kompanije mogu da rade", rekao je izvršni direktor Anthropica u intervjuu emitovanom u nedelju u emisiji Sunday Morning na CBS-u.

Dodatna regulacija malo je verovatna pod Trumpovom administracijom, koja je od predsednikovog povratka na funkciju prošle godine uglavnom zauzimala pristup koji podrazumeva minimalno uplitanje države u razvoj AI-ja. Trump je u junu potpisao izvršnu uredbu o sajber-bezbednosti AI-ja kojom je kompanijama ostavljeno da same odluče da li žele da njihove nove AI modele proverava vlada, dok je administracija početkom ovog meseca ubedila zemlje Grupe 20 da prihvate principe koji zagovaraju blag pristup prema AI-ju i drugim novim tehnologijama.

Kao odgovor na Amodeijev tekst, David Sacks, bivši Trumpov "AI car", a sada kopredsedavajući njegovog saveta za tehnologiju, rekao je da AI kompanijama nije potrebna dozvola vlade da uspore razvoj i da jednostavno mogu da odluče da postupaju odgovorno.

"Prestanite da se pretvarate da vam je potrebna bilo čija druga dozvola", napisao je Sacks, investitor rizičnog kapitala, na X-u. "Najlakši način da ne izgradite superinteligenciju jeste da se dogovorite da je nećete izgraditi. Zahtevati željeni regulatorni okvir kao cenu za to izgledaće kao ucena javnosti i političkog sistema."

I Anthropic i OpenAI planiraju izlazak na berzu, ali je Altman u intervjuu za "Fortune", objavljenom u subotu, naveo nove zabrinutosti u vezi sa bezbednošću kao razlog za odlaganje inicijalne javne ponude akcija za period nakon ove godine. Anthropic, koji prema rečima osobe upoznate sa situacijom planira da se kotira na Nasdaqu, još nije saopštio da li će Amodeijeve zabrinutosti uticati na njegov IPO. Kompanija je investitorima saopštila da će u ovom kvartalu poslovati sa profitom, objavio je u nedelju Financial Times.

S obzirom na to koliko se Anthropic, OpenAI i SpaceXAI žestoko nadmeću, a da ne pominjemo kineske konkurente, nije jasno koliko će daleko otići u uvođenju novih ograničenja ili bezbednosnih provera. Kineske kompanije zasad pokazuju malo znakova usporavanja, dok je niz novih AI modela predstavljenih ove godine smanjio prednost SAD, a kompanije poput DeepSeeka i Z.AI prikupljaju nova sredstva kako bi ubrzale razvoj.

Mahaney iz Evercorea ne očekuje značajno usporavanje američkih kompanija i smatra da bi bilo kakve bezbednosne provere uvedene za najnaprednije modele u razvoju imale "veoma mali uticaj na rast prihoda".

I drugi akteri iz Silicijumske doline i sa Wall Streeta izrazili su sumnju u to da će američke kompanije zaista sprovesti najavljene mere. Demis Hassabis, glavni naučnik kompanije Alphabet i suosnivač Google DeepMinda, napisao je u subotu na mreži X da je "pravac dobar" u Amodeijevom eseju, ali da "detalje tek treba razraditi". Direktor Microsofta Satya Nadella podržao je "promišljeno usporavanje" razvoja AI-ja i rekao da će njegova kompanija u ponedeljak objaviti sopstveni kodeks ponašanja za AI modele.

Kao tržišni lideri, Anthropic i OpenAI mogli bi da imaju koristi ako stupe na snagu šira obavezna ograničenja, ocenili su analitičari i direktori startapa. "Što više regulacije imamo u ovom trenutku, to će svima ostalima biti teže da se takmiče s njima", rekao je Gil Luria, analitičar kompanije DA Davidson. Ipak, on čeka konkretne poteze koji bi potvrdili Amodeijeve reči. "Ako Anthropic odloži svoj IPO ili kaže da narednih šest meseci neće raditi pretreniranje modela, onda ću možda početi da shvatam to ozbiljnije", rekao je Luria.