Kako egzistencijalni strahovi oblikuju debatu o AI-ju

Tekući talas panike zbog veštačke inteligencije (AI) zasniva se na uverenju da je tehnologija nedavno nekoliko puta izmakla ljudskoj kontroli i počela da deluje u sopstvenom interesu. Za neke razočarane istraživače AI-ja, kao i pojedine rukovodioce u vodećim kompanijama iz tog sektora, to je prvi znak da se ljudska civilizacija suočava sa stvarnom pretnjom.

Međutim, drugi stručnjaci iz ove oblasti odbacuju takve tvrdnje, upozoravajući da ovakva retorika omogućava kompanijama da izbegnu odgovornost za posledice svoje tehnologije. Kritičari smatraju da bi kreatori politika pre svega trebalo da se bave uticajem AI-ja na životnu sredinu, rizikom od gubitka radnih mesta i mogućnošću masovnog nadzora.

Zabrinutost da bi AI softver mogao predstavljati egzistencijalnu pretnju počela je da raste ovog leta. U julu je OpenAI saopštio da su njegovi napredni AI modeli hakovali Hugging Face Inc., još jednu kompaniju iz oblasti veštačke inteligencije, tokom testiranja čiji je cilj bio da se procene njihove sajber-sposobnosti. Za razliku od AI modela koje kompanija pušta u javnu upotrebu, softver je tokom ovog testiranja radio bez zaštitnih mehanizama koji bi ga u normalnim okolnostima sprečili da preduzme takve radnje, što je uobičajena praksa u AI industriji. OpenAI je u naknadnom izveštaju priznao da je mogao ranije da reaguje i da zaposleni nisu reagovali na znakove da su modeli napustili svoje digitalno izolovano okruženje i provalili u Hugging Face, iako im to nije bilo naloženo.

Bloomberg 

Prilikom drugih testiranja pojavili su se i drugi uznemirujući detalji o ponašanju tehnologije kompanija OpenAI i nekoliko ključnih konkurenata, uključujući Anthropic i Metu. Kada je Jacob Coxon, bivši zaposleni u kompanijama Anthropic i OpenAI, optužio industriju da se "kocka našim životima", Evan Hubinger, istraživač za oblast bezbednosti u Anthropicu, odgovorio je da kompanija zaista veruje da bi AI mogao da ubije svakog čoveka na Zemlji. On je rekao da procenjuje na više od 10 odsto verovatnoću da bi se to moglo dogoditi u narednih deset godina.

Šira javnost tako je stekla uvid u raspravu koja se unutar ove oblasti vodi već godinama. Pre nego što su četbotovi postali proizvod koji se prodaje kroz pretplate, a AI kompanije počele da izlaze na berzu, istraživači su svoj rad videli kao rizičan poduhvat koji bi mogao da donese ogromnu korist čovečanstvu. Neki od vodećih ljudi AI industrije godinama su te ideje razvijali do krajnosti, tvrdeći da bi AI jednog dana mogao da izleči sve ljudske bolesti, zameni sav ljudski rad, ubije sve ljude ili sve to istovremeno.

Rad na razvoju takve tehnologije stvorio je snažan osećaj misije, istovremeno podsticajan i zastrašujući, koji je oblikovao kulturu AI industrije još pre nego što je veštačka inteligencija postala veliki biznis. Te 2023, nekoliko meseci nakon što je ChatGPT pušten u javnost, Yoshua Bengio i Stuart Russell, dvojica pionira ove oblasti, bili su među glavnim potpisnicima apela da se napravi pauza u razvoju najmoćnijih AI sistema, uz upozorenje na velike rizike po društvo i čovečanstvo.

Kritičari su takve argumente dosledno odbacivali kao sebično širenje straha. Za istraživača, verovanje da njegov rad može da ugrozi opstanak čovečanstva ujedno znači i da ga vidi kao najvažniji posao na svetu. Za kompanije je priča o egzistencijalnom riziku u ranim danima AI industrije bila efikasan način za privlačenje zaposlenih, jer su mnogi traženi istraživači želeli da rade u kompanijama koje ozbiljno shvataju takve rizike.

U novije vreme, takva retorika prodrla je čak i u marketinške strategije za proizvod. Tokom Svetskog prvenstva u julu, Anthropic je emitovao reklamu koja počinje prizorom kuće u plamenu, zatim prikazuje rudnik i redove nadgrobnih spomenika, dok zabrinuti glas naratora govori o potencijalno katastrofalnim posledicama koje bi tehnologija mogla da ima. Na kraju muzika postaje optimističnija, a pojavljuje se slogan njegovog četbota Claude: "Bez teških pitanja nema nade".

Depositphotos

Apokaliptičan pogled na AI može da služi i kao odbrambena strategija, a u ovoj oblasti postoje neslaganja oko toga da li ga kompanije koriste na ciničan način. Kada se o AI-ju govori kao o autonomnom entitetu, propusti u bezbednosti mogu se predstaviti kao dokaz da tehnologiju nije moguće držati pod kontrolom. Time se skreće pažnja sa načina na koji su tehnološke kompanije sprovodile eksperimente i na pitanje da li su to činile na bezbedan način, kaže Subbarao Kambhampati, profesor računarstva na Univerzitetu države Arizone. "To je propust u sigurnom okruženju koji pokušavate da predstavite kao: 'AI će postati toliko moćan da će nas sve pobiti'", rekao je on.

Strah je već počeo da utiče na način na koji članovi Kongresa predstavljaju ovaj problem. Senator iz Vermonta Bernie Sanders predložio je zabranu takozvane superinteligentne AI, uz obrazloženje da su čelnici AI kompanija priznali da tehnologija izmiče njihovoj kontroli. Član Predstavničkog doma Kongresa SAD Ted Lieu rekao je da je jedan OpenAI-jev model "izmakao kontroli" i zajedno je sa članom tog doma Nathanielom Moranom u julu predstavio predlog zakona o mehanizmu za hitno isključivanje AI sistema (AI Kill Switch Act).

Gotovo je izvesno da ovi predlozi zakona ove godine neće biti usvojeni, ali njihova priprema pokazuje koliko se retorika o katastrofalnim scenarijima iz AI industrije prelila u govor američkih saveznih zakonodavaca. Zagovornici regulacije AI-ja takođe strahuju da bi predlozi koji polaze od pretpostavke da bi AI mogao da nas sve ubije mogli potisnuti druge ideje o regulisanju ove tehnologije. "Pre nego što dođemo do toga da će 'svet nestati', moramo da razložimo kroz koje mehanizme zamišljamo da bi se to moglo dogoditi", rekla je Sarah Myers West, izvršna direktorka AI Now Institutea, organizacije koja se bavi istraživanjem javnih politika. "Šta možemo da uradimo da te rizike umanjimo?"

Portparol OpenAI-ja Drew Pusateri rekao je da je incident sa Hugging Faceom pokazao gde zaštitne mere kompanije moraju da budu snažnije i da je kompanija na tome radila tako što je ojačala zaštitu u svojim istraživačkim sistemima. Kompanija je u sredu predstavila nove smernice za praćenje i istragu incidenata takozvanog neusklađenog ponašanja AI sistema, kao i način na koji će o njima obaveštavati javnost. Objavila je i nekoliko ranije nepoznatih slučajeva takvog ponašanja, u kojima je njena tehnologija, između ostalog, prikrivala ili izmišljala informacije kako bi došla do rezultata. Kako je kompanija navela, nijedan od tih incidenata nije uključivao kompromitovanje spoljnih mreža.

Anthropic nije želeo da komentariše ovaj tekst.

Melanie Mitchell, profesorka na institutu Santa Fe koja proučava način na koji AI sistemi zaključuju, osporila je u eseju od 10. septembra tvrdnje da su AI kompanije ikada izgubile kontrolu nad svojom tehnologijom. Navela je i da priče o rojevima autonomnih AI agenata koji beže iz svojih "kaveza" iskrivljuju javnu raspravu. Takvi opisi, napisala je, AI modelima pripisuju ljudsku sposobnost samostalnog delovanja koju oni zapravo nemaju.

Mitchell je incident u kome je OpenAI hakovao Hugging Face uporedila sa šumskim požarom u Novom Meksiku 2000. godine. Tada su nadležni tokom kontrolisanog paljenja zanemarili prognoze vetra i gledali kako se požar otima kontroli. Prema njenim rečima, odgovornost je na ljudima koji su modele obučavali metodama koje nagrađuju upornost i autonomno donošenje odluka, a zatim nisu obezbedili bezbedne uslove za njihovo testiranje. Ona smatra da najveće opasnosti u budućnosti pre svega potiču od ljudi koji bi AI modele mogli da koriste za nanošenje štete.

Neki ljudi, uključujući predsednika SAD Donalda Trumpa, smatraju da se priča o tome da bi AI mogla da ugrozi opstanak čovečanstva koristi kao argument da je AI potrebno dodatno regulisati i kao takvu je odbacuju. Međutim, nisu svi koji odbacuju apokaliptične scenarije za to da se AI potpuno prepusti sopstvenom razvoju. Sara Hooker, suosnivačica AI startapa Adaption Labs i bivša istraživačica u Google DeepMindu, saglasna je sa izvršnim direktorom Anthropica Dariom Amodeijem da postoji razlog za zabrinutost zbog mogućnosti da AI počne samostalno da unapređuje sopstvene sposobnosti. Takozvano rekurzivno samounapređivanje označava teoriju prema kojoj bi AI jednog dana mogla da stekne sposobnost da menja sopstveni kod ili na drugi način unapređuje svoje sposobnosti bez ljudske intervencije.

Bloomberg

Amodei je rekao da strahuje da bi, kada taj proces jednom počne, mogao da pokrene povratnu spregu koja bi nadmašila sposobnost ljudi da kontrolišu sisteme koji se neprestano unapređuju. "Ako se ne bude držao pod kontrolom, mogao bi da nadmaši našu sposobnost da razumemo i kontrolišemo te sisteme, zbog čega tom procesu, ako ga uopšte treba pokretati, moramo pristupiti veoma oprezno", napisao je on u subotu u opširnom tekstu na svom blogu, u kome je pozvao na usporavanje razvoja najnaprednijih AI modela.

Retorika Anthropica o egzistencijalnim pretnjama jača je od one koju koristi OpenAI. Ipak, izvršni direktor OpenAI-ja Sam Altman brzo je podržao Amodeijev stav, kao i Elon Musk, čelnik SpaceXAI-ja.

Hooker se slaže da bi AI koja može sama da unapređuje svoje sposobnosti predstavljala veliki iskorak u odnosu na dosadašnje sisteme. S druge strane, "da li to znači da odmah prelazimo na priču o izumiranju čovečanstva? Ne", rekla je ona. Pri procenama koje su ovog meseca iznosili AI istraživači pokušavajući da utvrde verovatnoću nestanka čovečanstva, niko ne objašnjava na čemu se taj broj zasniva, dodaje ona. Takva retorika je u ovoj oblasti već dugo prisutna, stvarajući sopstvenu vrstu povratne sprege koja je AI istraživače još više udaljila od ostatka sveta.

Incident poput hakovanja Hugging Facea pokreće brojna pitanja čak i među onima koji ovu tehnologiju ne vide kao pretnju civilizaciji. Pored toga što nije koristio zaštitne mehanizme koje primenjuje u proizvodima dostupnim javnosti, OpenAI je modele koje je testirao obučio da sarađuju, nagrađujući ih za zajedničko ostvarivanje ciljeva. Iako je trebalo da agenti u ovom testiranju budu međusobno izolovani, svi su imali pristup istom internom softveru, koji im je omogućavao razmenu informacija preko zajedničkog sistema - nečega što je OpenAI nazvao oglasnom tablom. Agenti su otkrili da taj softver može da pristupi internetu iako oni sami nisu mogli, pa su ga naveli da preuzima sadržaj iz spoljašnjih izvora. Zatim su hakovali Hugging Face kako bi došli do skupova podataka koji bi otkrili kako se ocenjuje njihov rad.

Dok AI kompanije nastavljaju da razvijaju bezbednije metode testiranja, Kambhampati kaže da tvrdnje o AI-ju koji izmiče kontroli ne bi trebalo koristiti za izbegavanje odgovornosti. Kao primer navodi Roberta Morrisa, studenta postdiplomskih studija na Kornelu koji je za svoj programerski propust okrivio grešku u kodu nakon što je njegov kompjuterski crv 1988. godine onesposobio oko deset odsto računara tada povezanih na internet. Sud je odbacio taj argument, a Morris je postao prva osoba osuđena na osnovu Zakona o kompjuterskoj prevari i zloupotrebi.

"Ako pokrenete proces koji izmakne kontroli i nanese štetu mojoj imovini, vi ste odgovorni, tačka", rekao je Kambhampati. "To važi čak i kada bi to uradio vaš pas."