Karen Hao: AI ne mora da bude izgrađen na ovaj način – postoji humaniji model

OpenAI se suočava sa novom pažnjom javnosti nakon što je otkrio da su dva njegova napredna AI modela hakovala sisteme druge kompanije tokom testiranja sajber sposobnosti, ponovo pokrenuvši raspravu o bezbednosnim praksama u industriji. Karen Hao, autorka knjige "Carstvo AI-ja" (Empire of AI), tvrdi da su te brige samo deo mnogo veće priče. Ona kaže da skrivena radna snaga koja stoji iza velikih jezičkih modela — kao i odluke koje se donose u vezi sa obimom, moći i profitom — zaslužuju mnogo više pažnje, posebno dok se vodeće AI kompanije približavaju izlasku na berzu. 

 

U ovom delu Hao takođe proučava AI radnu snagu u zemljama u razvoju. Na primer, 2021. godine, dok se OpenAI pripremao za dominantnije prisustvo ChatGPT-a, bilo je potrebno osigurati da uvredljiv sadržaj bude filtriran pre nego što stigne do korisnika. "Da bi napravio automatizovani filter, OpenAI-u su prvo bili potrebni ljudi koji bi pažljivo pregledali i katalogizovali stotine hiljada primera", piše Hao. Posao je bio poveren spoljnim saradnicima u Keniji, gde su, prema rečima Hao, radnici morali da klasifikuju "groteskne tekstualne opise" u kategorije koje su uključivale eksplicitno nasilje, govor mržnje, uznemiravanje i bestijalnost. Evo šta još autorka misli na ove teme i zašto sama ne koristi nijedan AI model. 

Uporedili ste AI kompanije sa imperijama jer kažete da one prisvajaju i izvlače dragocene resurse kako bi ostvarile svoju viziju. Zbog čega imate tako snažan stav o tome?

- Ove kompanije su konsolidovale istorijski ogromnu količinu ekonomske i političke moći. One postaju vrhovne sile u svetu, baš kao imperije iz prošlosti. Prisvajaju resurse koji nisu njihovi: podatke pojedinaca [i] intelektualnu svojinu umetnika, pisaca i stvaralaca. One eksploatišu izuzetnu količinu rada, kako kroz radnike koje koriste i iscrpljuju da bi proizvele svoje tehnologije, tako i kroz radnike čiji poslovi bivaju automatizovani primenom tih tehnologija. 

Rad sa podacima je sada četvrta najbrže rastuća vrsta rada u SAD. Ljudi koji se bave ovim poslom su naučnici, advokati [i] diplomci sa Ph.D. titulom. Oni daju svoje znanje i stručnost za obuku ovih modela, ali pod duboko eksploatatorskim i slabo plaćenim uslovima. Ovakvom vrstom rada bavim se skoro osam godina; priča je iznova i iznova ista. 

Ipak, to je i dalje posao? Postoji li u tome aspekt koji je jednostavno izazov našeg doba, a ne nužno nešto eksploatatorskije nego ono što je postojalo ranije?

- [Ti] ljudi su visoko obrazovani i mogli su da dobiju zaposlenje sa punim radnim vremenom. Razlog zbog kojeg sada nemaju pristup boljem radu takođe je AI industrija. Ona dizajnira svoju tehnologiju i prodaje je kao alat za automatizaciju intelektualnog rada. Tržište rada se smanjuje — 25 odsto nezaposlenog stanovništva u SAD čine ljudi sa četvorogodišnjom fakultetskom diplomom. To je istorijski rekord.

Dakle, nije reč samo o tome da se daje posao ljudima koji ga nemaju; radi se o degradiranju mogućnosti za rad koje trenutno postoje — izvlačenju kvalifikovanih radnika iz zaposlenja sa punim radnim vremenom i njihovom prebacivanju u gig-rad. 2

(prim. aut. Ekonomisti žestoko raspravljaju o tome u kojoj meri je za ovo zaslužan AI. Istraživači sa Stanforda pronašli su određene dokaze da AI smanjuje broj početnih radnih mesta, a Goldman Sachs je nedavno objavio izveštaj u kojem tvrdi da sektori izloženi AI-ju beleže sporiji rast zaposlenosti.)

 

Karen Hao na intervjuu u Bloombergu u Londonu | Betty Laura Zapata/Bloomberg

 

Da li kažete da bi trebalo da razmišljamo o eksploataciji rada kada koristimo Claude ili ChatGPT?

- Apsolutno. Druge industrije su imale slične probleme. Modna industrija se takođe bavila velikom eksploatacijom rada i velikom degradacijom životne sredine. Odgovor nikada nije bio: Hajde da se jednostavno potpuno rešimo odeće. Odgovor je uvek bio: Hajde da postavimo više standarde za proizvodnju odeće bez tih problema.

Šta kažete zemlji kao što je Malta, koja je potpisala veliki sporazum sa OpenAI, prema kojem svi koji žive na Malti dobijaju besplatan pristup ChatGPT Plus-u tokom godinu dana? Malta kaže da je to stavlja na čelo digitalnog doba.

- Upoznala sam mnogo kreatora politika iz zemalja u razvoju [i] manjih zemalja [koji veruju] da mogu da učestvuju u ovoj revoluciji samo ako se ponude na prodaju. Samo zato što je vlada ponosna na ovo partnerstvo i misli da joj ono daje [a] mesto za stolom, to ne znači nužno da ono vodi ka tome da njeni građani imaju dostojanstveniji život.

Njihova vlada bi to videla kao opremanje građana za rad ili pristup znanju.

- Sklona sam tvrdnji da su oni eksploatisani i baš bi me zanimalo šta ljudi na Malti misle, a ne šta misli vlada Malte. Njihovi podaci se prikupljaju kako bi se obučavale sledeće generacije modela.

Zato ove kompanije izlaze i sklapaju ovakva partnerstva: potrebno im je sve više i više podataka. Ostale su bez visokokvalitetnih podataka sa interneta, pa je jedan od najboljih izvora direktno od korisnika. Ako mogu da sklope ovakva partnerstva sa čitavim državama, dobijate bazu podataka cele države koja se može slobodno učitati. 

Neki ljudi na ovo gledaju samo kao: "Pa, koristio sam Google." Ali nikada nisam videla da ljudi postavljaju svoje medicinske kartone na Google da bi tražili tumačenje. Ljudi to rade sa ChatGPT-jem, Geminijem, Claude-om.

(prim.aut. Obratili smo se OpenAI i Microsoft-u za komentar na tvrdnje Hao o prikupljanju podataka, budući da obe kompanije rade sa Maltom. OpenAI-jev odgovor nas je uputio na njegov proces za isključivanje za ljude koji ne žele da se njihovi podaci koriste za obuku modela. Microsoft je rekao: "Mi ne treniramo na podacima korisnika Copilot-a unutar Microsoft 365 aplikacija sa Personal pretplatama." U međuvremenu, nedavno istraživanje pokazalo je da više od polovine stanovnika Malte očekuje da će AI imati pozitivan uticaj na njihov život tokom naredne decenije — iznad proseka EU).

Zar za vas ne postoji nikakva pozitivna strana? To davanje medicinskih podataka — ako se radi uz pristanak — zar nije deo napretka nauke? Možda bi vam nešto bilo dijagnostikovano ili biste mogli da doprinesete široj dijagnostici.

- Imam probleme sa činjenicom da je to u rukama duboko moćnih kompanija koje nemaju apsolutno nikakvu odgovornost prema ljudima širom sveta na koje to utiče.

Zato ih nazivam carstvima. Ljudi na vrhu mogu da donesu stotine odluka dnevno koje imaju lančane posledice, a ne postoje formalni mehanizmi pomoću kojih milijarde ljudi mogu zaista da ih ospore, dovedu u pitanje [ili] daju povratnu informaciju. Istorijski smo prešli sa imperija na demokratije zato što su demokratije institucionalizovani načini da ljudi kažu kada im se nešto dopada, kada im se nešto ne dopada i kako žele da zajednički upravljaju i sami određuju svoju budućnost.

Da li zapravo kažete da je moć ovih kompanija veća od moći vlada?

- Sve više postaje takva, apsolutno.

Čak i vlade SAD?

- Rekla bih da jeste. Nedavno je došlo do sukoba između Anthropica i Department of War. Department of War je upotrebio nuklearnu opciju kako bi pokušao da natera kompaniju da se povinuje, a to znači zapretiti da će kompaniju proglasiti rizikom za lanac snabdevanja. Anthropic nije popustio. 

(prim. aut. Odnos Anthropica sa Pentagonom se u februaru, osam meseci nakon sklapanja ugovora vrednog 200 miliona dolara za pružanje specijalizovane verzije Claude-a tom ministarstvu. Anthropic je pokušao da zabrani korišćenje modela za masovni nadzor Amerikanaca ili u potpuno autonomnim sistemima naoružanja.)

Ali Anthropic je na drugi način dobro prošao — zauzeo je moralno visoku poziciju i dobio mnogo više korisnika zahvaljujući publicitetu tog trenutka.

- Apsolutno. Ove kompanije su spremne da se suprotstave vladi SAD jer znaju da svaka kazna koja bi mogla uslediti može biti nadoknađena drugim koristima.

Recite mi onda, koji je odgovor? Mislite li da je ličnost poput Pape, koja je potpuno izvan domena vladine politike, neko ko može da pruži neku vrstu putokaza? 

- Važno je da svi lideri u društvu, bilo verski ili neki drugi, razmišljaju o ovim pitanjima i o tome kako na kraju zaštititi ljudsku autonomiju u trenutku kada joj Silicijusmka dolina preti.

AI je poput reči "transport". Transport obuhvata sve, od bicikala do raketa. AI obuhvata ogromnu zbirku različitih tehnologija, od kojih su neke projektovane poput raketa: zahtevaju mnogo resursa i skupe su za proizvodnju. Uopšteno, rakete koristimo samo za uzak podskup potreba u transportu. Nikada ne idemo okolo i ne govorimo: Svaka osoba treba da ima raketu i da koristi tu raketu za svaku svoju potrebu za prevozom.

Moramo da promenimo svoj portfolio AI tehnologija kako bi bolje odražavao specijalizovani AI koji nam je potreban za rešavanje stvarnih društvenih izazova — poput unapređenja zdravstvene zaštite i ubrzavanja otkrivanja lekova.

DeepMindov AlphaFold je primer sistema koji nazivam biciklom AI-ja. On sa velikom preciznošću predviđa kako će se sekvenca aminokiselina saviti u strukturu proteina. To je zaista važno za ubrzavanje razumevanja ljudskih bolesti i dizajniranje lekova — osvojio je Nobelovu nagradu za hemiju. AlphaFold koristi veoma malo podataka, veoma malo računarskih resursa, nema potrebe za eksploatacijom rada, a i dalje može da pruži mnogo koristi. Kada pogledate portfolio AI tehnologija, zar ne biste želeli da izaberete one koje donose veliku korist [i] veoma mali trošak? 

(prim.aut. Zanimljiva činjenica: AlphaFold je ipak zahtevao podatke za obuku, kao i svaki AI alat, ali je DeepMind koristio javno dostupne izvore. Dobijena Protein Structure Database sada je slobodno dostupna i ima više od tri miliona korisnika u 190 zemalja.)

To su vrednosni sudovi, zar ne? Uzmimo AI u odbrani — mnoge vojske ga koriste za odabir meta. Vi to možda vidite kao pogrešno; drugi to mogu videti kao neophodno.

- To je naročito kontroverzno pitanje oko kojeg ljudi zauzimaju različite stavove.

Ono što tvrdim jeste da postoji mnogo različitih načina za proizvodnju AI-ja. Ne morate da otključavate njegove koristi kroz korozivan pristup. Zašto ove kompanije ne držimo odgovornim prema tim višim standardima?

Svesna sam da i Anthropic i OpenAI idu ka izlasku na berzu. Mislite li da bi to mogao biti trenutak koji bi doneo veću odgovornost? 

(prim.aut, Prema izveštajima Bloomberg-a, listing Anthropic-a mogao bi se dogoditi već u oktobru, dok OpenAI naginje ka 2027. godini)

- Nadam se da bi mogao, jer kada kompanije postanu javne, one zaista uvode više struktura upravljanja. Ali ovu kritiku upućujem i postojećim javnim kompanijama — Google, Amazon [i] Microsoft nazivam "carstvima AI-ja". Na kraju, upravljanje mora da dolazi i od javnosti i demokratski izabranih zvaničnika, a ne samo od tržišnih sila.

Ne od osnivača? Zvuči kao da nemate poverenja u ljude koji vode ove kompanije. Veliki deo vaše knjige odnosi se posebno na OpenAI i Sam Altmana. Kako ste ga upoznali?

- Počela sam da se bavim AI-jem 2018. godine za MIT Technology Review. Svake nedelje sam čitala naučne radove, razgovarala sa istraživačima na univerzitetima i u korporativnim laboratorijama. Godine 2019. predložila sam OpenAI-u da se u organizaciji dešava mnogo promena — upravo su stvorili profitni ogranak i možda su želeli ponovo da se predstave javnosti. Provela sam tri dana unutar organizacije.

Nije im se dopao profil koji ste napisali, zar ne?

- Nije.

Rekli ste da postoji nesklad između onoga što su zapravo radili i njihovih obećanja. Šta ste videli što vas je dovelo do tog zaključka?

- Zvali su se OpenAI zbog posvećenosti transparentnosti, [ali] ta organizacija je već tada bila duboko tajnovita. Zaposleni su bili veoma, veoma nervozni zbog onoga što su mi govorili i zbog toga gde mi je bilo dozvoljeno da idem unutar kancelarija, tako da mi je to već delovalo prilično bizarno. Takođe su govorili da kao neprofitna organizacija nikada neće komercijalizovati svoje tehnologije. 8

(prim.aut. Profil Hao, objavljen u februaru 2020. godine, bio je usmeren na trojicu muškaraca koji su tada bili na čelu OpenAI-ja: Greg Brockman, koji je i dalje tamo kao predsednik i suosnivač; Ilya Sutskever, koji je otišao i suosnovao Safe Superintelligence; i Dario Amodei, koji je kasnije suosnovao Anthropic. U njemu je Hao napisala da je OpenAI "dozvolio da žestoka konkurentnost i rastući pritisak za sve većim finansiranjem nagrizu njegove osnivačke ideale transparentnosti, otvorenosti i saradnje".)

Sada su potpuno profitna kompanija, otuda i slučaj između Elon Muska i Sam Altmana. Da li je Musk u ovoj priči za vas "dobar momak"?

(prim.aut. Musk, suosnivač OpenAI-ja, tužio je kompaniju zbog navodnog napuštanja njene prvobitne neprofitne misije. Tužba je bila aktuelna kada sam razgovarala s njim u maju 2025. godine; porota je nešto više od godinu dana kasnije odbacila tvrdnje.)

- Ne. [Smeh]

Često smo opsednuti likovima na vrhu i uvek pokušavamo da analiziramo: Ko je dobar momak? Ko je loš momak? Ko je manje loš momak sa kojim mogu da se nagodim? Ja kažem: To nije jedini skup mogućnosti.

Ne bi trebalo da moramo da živimo sa kompanijama koje su toliko ogromno moćne, gde jedna osoba na vrhu može da odlučuje o svemu tome. Problem je upravljanje, a ne zamena jednog lika drugim.

I vi ste bili deo tog istog sveta. Studirali ste na MIT-u; radili ste za startup. Ovo je zapravo mogla da bude industrija vašeg života.

- Mogla je, da.

Suosnivači OpenAI-ja Sam Altman (desno) i Greg Brockman stižu u savezni sud 30. aprila 2026. godine na suočavanje sa Elon Muskom | David Paul Morris/Bloomberg

Imam utisak da ipak imate problem sa tim ličnostima.

- Imam poseban problem sa kulturom u kojoj su uronjeni i ideologijama koje imaju. To je imperijalistička ideologija. Pre nego što je zauzeo poziciju izvršnog direktora OpenAI-ja, Sam Altman je bio predsednik Y Combinator-a. Rekao je: Ulagаću u deset puta više kompanija svake godine sve dok ne uložim u svaku kompaniju pod suncem. 

Ali tada je bio prilično mlad? Možda je to bila oholost ili ludost.

- Osim što se to odražava kroz način na koji pristupa strategiji OpenAI-ja — povećavaj modele deset puta više svake godine dok ne dostignemo razmeru ljudskog mozga. Svi oni razmišljaju u terminima povećavanja obima po svaku cenu.

Postoje li neki manje loši momci? Mislite li da je Anthropic principijalnija kompanija od OpenAI-ja?

- Ne.

Čak i nakon što se suprotstavio Pentagonu?

[Izvršni direktor Anthropic-a] Dario Amodei je rekao da nema problem sa potpuno autonomnim oružjem. Problem je jednostavno u tome što nije želeo da se ta verzija Claude-a koristi za to.

A Claude je korišćen u ciljanju uz pomoć AI-ja: korišćen je u Iranu.

- Tako je. 

Dario Amodei razgovara sa novinarkom Bloomberga Emily Chang u sedištu Anthropica u Kaliforniji | Jason Henry/Bloomberg

Da li takođe pratite kineske AI igrače poput DeepSeek-a?

- Vrlo površno.

Verujete li da se oni ponašaju drugačije? Optužujete li i njih za imperijalizam?

- Ponašaju se drugačije. Neposredno pre nego što se pojavio ChatGPT, vlada SAD je upotrebila kontrolu izvoza kako bi blokirala kineske kompanije u pristupu najnaprednijim AI računarskim čipovima koje je dizajnirao Nvidia. Odjednom su se te kineske kompanije suočile sa ogromnim ograničenjem jednog od ključnih resursa koje su američke kompanije koristile za ubrzavanje razvoja svog AI-ja — pa su [one] morale da pronađu drugačiji put.

DeepSeek je bio primer kineske kompanije koja je uspela da razvije iste sposobnosti ovih AI modela [sa] značajno manjim računarskim resursima. [To] ilustruje poentu koju iznosim — da je zapravo moguće proizvesti AI sa značajno manje resursa i time imati mnogo manje korozivan uticaj na zdravlje zajednice i planete. Zašto to ne radimo? 

(prim.aut. DeepSeek, koji sada vredi više od 50 milijardi dolara i prema izveštajima se priprema za IPO, i Moonshot spadaju među kineske AI kompanije koje žele da potisnu OpenAI i Anthropic na stranim tržištima. OpenAI i Anthropic optužili su kineske konkurente da koriste američke modele kako bi nepravedno ubrzali razvoj sopstvenih proizvoda, što je navelo Trumpovu administraciju da ispita kineske AI modele zbog moguće krađe intelektualne svojine.)

Iako mislite da u SAD postoji nedostatak upravljanja, i dalje postoji određeni nivo nadzora i odgovornosti, koji u Kini potpuno izostaje.

- Postoji tendencija u medijima da se pretpostavlja da je trka između [SAD i] Kine — nacionalnih država — umesto između otvorenih i zatvorenih modela. Osećam se sasvim prijatno ako [an] open-source model dolazi iz Kine ili SAD, zato što je otvoren; nešto je što se može proveravati. Dominantni igrači koje kritikujem svi su zatvoreni.

Ljudi iz akademske zajednice u ovoj oblasti na kraju su počeli da osnivaju sopstvene kompanije sa strane. Mislite li da je to loš razvoj događaja?

- Problematično je samo ako je to ista postava ljudi od kojih dobijaju finansiranje. To je bio problem sa našim startupom: VC model finansiranja i pritisak da se uvek raste [i] da se vrlo brzo postane profitabilan.

Kada bi postojale kompanije koje se fokusiraju na vrste problema za koje mislim da je važno da ih rešimo, i koje takođe razvijaju AI sa pristupom usmerenim na zaštitu ljudske autonomije, održivost i tako dalje, onda bih, da, rado razmotrila takvu mogućnost. Ne mislim da bih im bila naročito korisna; mislim da mi je bolje da budem novinarka.

Na kraju, Claude ili ChatGPT — šta koristite?

- Ni jedno ni drugo.

Stvarno? Koja je alternativa u vašem životu?

- Nema je. Moj um.

Ne osećate li da vas to sputava?

- Zapravo me oslobađa.