Zabrinjavajući pogled u Muskovu AI utopiju

Titula "Technoking" (engl. kralj tehnologije) koju je preuzeo Elon Musk u kompaniji Tesla Inc. iz današnje perspektive deluje manje kao šala, a više kao svojevrsni manifest. Njegov nedavni intervju za The Economist obuhvatio je širok spektar tema – od budućnosti veštačke inteligencije i njegovog ozloglašenog vođenja Odeljenja za efikasnost vlade do navodnog predstojećeg građanskog rata u Ujedinjenom Kraljevstvu. Zajednička nit koja povezuje Muskovo razgranato poslovno carstvo i njegove političke stavove jeste nepokolebljivo poverenje u sopstvenu sposobnost predviđanja.

"Moji rezultati su izuzetno dobri za jedno ljudsko biće", rekao je Musk glavnoj urednici The Economista, Zanny Minton Beddoes.

To uverenje dodatno su učvrstili Muskovi poslovni uspesi i gotovo kultni status koji je zahvaljujući njima stekao na tržištima kapitala. Ono se ogleda i u njegovoj čvrstoj kontroli nad kompanijama koje vodi, pre svega Space Exploration Technologies Corp. (SpaceX), ali i Tesla Inc. Rizici koncentrisane moći u korporacijama odavno su poznati. Međutim, ono što bi, naročito posle ovog intervjua, trebalo da zabrine svakoga jeste šta se dešava kada "Kralj tehnologije" izađe iz upravnog odbora i počne da oblikuje društvo u celini.

 

U jednom od zanimljivijih verbalnih sukoba tokom intervjua, Musk je odbacio Minton Beddoes kao osobu koja živi u "izolovanom svetu", iako je upravo on prvi svetski bilioner i čovek kojem privatni avion Gulfstream nipošto nije nepoznanica. Istovremeno ju je lično napao zato što je dovela u pitanje njegov apokaliptični opis Ujedinjenog Kraljevstva, zemlje u kojoj ona živi, a koju on godinama nije posetio. Već tokom vikenda Musk je na svojoj društvenoj mreži X otišao korak dalje i Beddoes nazvao "izdajnicom Zapada".

Odavno je poznato da Musk teško podnosi kritike. Pre osam godina prisustvovao sam Teslinom konferencijskom pozivu o poslovnim rezultatima, na kojem analitičari sa Wall Streeta postavljaju pitanja menadžmentu. Kad je dobio nekoliko sasvim uobičajenih, ali neprijatnih pitanja, uvredio se, prekinuo ih i nazvao "glupim". Tesla je potom promenila format tih konferencijskih poziva i prednost dala pitanjima malih investitora, koji su po pravilu znatno popustljiviji prema "Kralju tehnologije".

Osnivačima kompanija, posebno vizionarima, samopouzdanje je neophodno. Međutim, kritika ima važnu ulogu jer omogućava da se pravac koriguje kada je to potrebno. Musk je uglavnom imun na takve korekcije. Njegovi uspesi u razvoju električnih automobila i raketa stvorili su oko njega oreol genija, što je njegovim kompanijama donelo vrtoglavo visoke tržišne procene, ali i toleranciju prema neuspesima i ponašanju koje bi karijeru gotovo svakog drugog direktora odavno okončalo.

Među novijim primerima u Tesli su debakl modela Cybertruck, za koji je Musk tvrdio da "izgleda kao budućnost", iako se pokazalo da malo ko želi da ga kupi, kao i pad prodaje Teslinih električnih vozila usled njegove otvorene podrške krajnje desnim političkim provokatorima. Tu su i njegovo kontroverzno saopštenje iz 2018. godine o navodno obezbeđenim sredstvima za povlačenje Tesle sa berze, iako sredstva zapravo nisu bila obezbeđena, kao i preuzimanje kompanije SolarCity Corp. 2016. godine, koje je mnogi smatraju spasavanjem posrnulog preduzeća.

Danas se, međutim, Muskovi interesi protežu na mnogo širi spektar strateški važnih oblasti – od raketa na koje se oslanja NASA, preko društvenih mreža koje oblikuju javnu raspravu, do satelitske mreže Starlink, koja ima značajan uticaj na vojne operacije u ratu u Ukrajini. Greške u tim oblastima više ne ugrožavaju samo bogatstvo akcionara, već i funkcionisanje društva. Središte svega toga jeste veštačka inteligencija.

AI je zauzeo centralno mesto u intervjuu za The Economist, a Musk je, u svom prepoznatljivom stilu, bio veoma opširan. Predviđa da će veštačka inteligencija u narednih 10 godina nadmašiti intelektualne sposobnosti čitavog čovečanstva. U kombinaciji sa legijama robota koji razmišljaju i neumorno obavljaju poslove, to bi, prema njegovom viđenju, moglo da dovede do budućnosti "neverovatnog obilja" – izraza koji se sve češće pojavljuje i u Teslinoj komunikaciji dok razvija humanoidne robote.

To je optimistična vizija prema kojoj bi čovečanstvo postalo globalna klasa ljudi oslobođenih rada, čije bi materijalne potrebe zadovoljavali nezamislivo inteligentni hardver i softver. Ipak, Musk ni sam ne prihvata u potpunosti takvu sliku. Istovremeno postavlja pitanje zašto bi superinteligentna veštačka inteligencija uopšte slušala naredbe relativno glupih ljudi i priznaje da postoji mogućnost da nas jednostavno eliminiše.

Zanimljiviji aspekt nije toliko mogućnost scenarija nalik filmu Terminator, koliko Muskova ideja kako ga sprečiti. On zamišlja sistem u kojem vodeće AI kompanije međusobno kontrolišu jedna drugu, testirajući svoje modele na potencijalno štetno ponašanje. U svetu u kojem se državni zvaničnici često muče da razumeju i regulišu nove tehnologije, naročito ovu, šačica pionira u oblasti AI mogla bi, kako smatra, da "drži jedni druge pod kontrolom".

Teško je pronaći utehu u pomisli da će Elon Musk, čovek koji burno reaguje na svako osporavanje i krajnje desnu politiku smatra političkim centrom, zajedno sa ostalim tehnološkim milijarderima iz Silicijumske doline, čuvati javni interes dok istovremeno grade bogatstvo vredno bilione dolara. Za to bi bila potrebna gotovo bezgranična vera ili u njega lično ili u ljudsku dobrotu. Društvo sebi ne može da priušti ni jedno ni drugo.

Tehnologija koja navodno može da nas pretvori i u gospodare i u podanike mašina zapravo podrazumeva masovno odricanje od ljudske samostalnosti. A taj proces počinje onog trenutka kada se moć oblikovanja takve tehnologije prepusti svojevrsnoj oligarhiji AI lidera, naviknutih da u svojim kompanijama deluju gotovo bez ograničenja i pritom prisvajaju najveći deo koristi.

Musk, doduše, predviđa izdašan univerzalni osnovni dohodak za ljude koje roboti zamene na radnim mestima, finansiran "obiljem" koje bi oborilo cene robe. Ali mnogo je manje jasno kako bi društvo stiglo do sveta u kojem su masovna nezaposlenost i deflacija navodno poželjni ishodi. Mnogo je opipljivija činjenica da se bogatstvo već danas ubrzano koncentriše u rukama malog broja ljudi. Kako u knjizi Muskism pišu Quinn Slobodian i Ben Tarnoff, za razliku od industrijskog modela Henryja Forda, u kojem je efikasna masovna proizvodnja podsticala masovnu potrošnju, model 21. veka koji oličavaju ljudi poput Muska koncentrisao je i bogatstvo i moć.

Sve izraženiji otpor izgradnji data centara samo je simptom te dublje napetosti. Građani se ne protive isključivo zbog potrošnje resursa, već i zbog osećaja da lokalne zajednice snose troškove, dok korist završava u rukama nekolicine.

Naravno, sasvim je moguće da su Muskova predviđanja potpuno pogrešna. Koliko god impresivni bili njegovi uspesi, njegova samouverena procena sopstvene sposobnosti zanemaruje velike promašaje. Najveći među njima jeste više od decenije neispunjenih obećanja da su potpuno autonomni automobili "na dohvat ruke". Tesla je u poslednja dva trgovačka dana izgubila 168 milijardi dolara tržišne vrednosti upravo zato što Musk, baš kao ni u razgovoru sa Minton Beddoes, tokom poslednje konferencije sa investitorima nije želeo ili nije umeo da svoje tvrdnje potkrepi konkretnim detaljima. Istovremeno, njegovi napori u oblasti veštačke inteligencije i dalje su u senci kompanija poput Anthropic PBC, pa se njegovi stavovi teško mogu smatrati presudnim za razvoj te tehnologije.

Ipak, dobro je što ih je izneo. Veštačka inteligencija već menja način na koji živimo i radimo i nosi ogroman potencijal za promene – i pozitivne i negativne. U tom smislu ona se ne razlikuje od prethodnih tehnoloških revolucija u energetici, saobraćaju ili komunikacijama, čak i ako su njene moguće posledice mnogo veće. Kao i svaka prethodna revolucija, i AI će morati da bude uklopljena u društvo na način koji čuva njegovu suštinu, stavljajući u središte čovekovu autonomiju.

Drugim rečima: bez "Kraljeva tehnologije".