Gubimo li kontrolu nad AI-jem i šta podstiče nove strahove

Dok se veštačka inteligencija godinama razvijala od nečega što smo gledali u naučno-fantastičnim filmovima do aplikacije na mobilnim telefonima, tehnološki lideri i pojedini ljudi iz AI industrije upozoravali su da bi ona mogla da izmakne ljudskoj kontroli i izazove ozbiljne poremećaje u društvu. Poslednjih nekoliko dana te strahove više nije moguće ignorisati, podstaknute napretkom tehnologije, nizom sajber-napada povezanih sa AI agentima i novim upozorenjima zaposlenih u AI kompanijama.

 

Vodeće američke kompanije za razvoj AI-ja odgovorile su predlogom da dobrovoljno uspore rad kako bi dobile više vremena za razvoj zaštitnih mehanizama. Neki stručnjaci i zvaničnici smatraju da to nije dovoljno i pozivaju na državnu regulaciju.

Šta je pokrenulo aktuelnu paniku oko AI-ja?

Aktuelnu paniku izazvala su dva događaja: iznenađujući sajber-napad koji su izveli modeli  OpenAI-ja i upozorenje bivšeg zaposlenog u kompanijama Anthropic PBC i OpenAI o egzistencijalnoj pretnji koju predstavljaju napredni modeli.

OpenAI je saopštio da je grupa naprednih AI agenata nenamerno hakovala kompaniju Hugging Face Inc., koja hostuje AI modele i skupove podataka, ovog jula. Dok su radili u testnom okruženju "sandbox", koje je trebalo da bude izolovano od interneta, OpenAI modeli su iskoristili ranjivost u softveru neimenovanog eksternog dobavljača kako bi dobili pristup internetu i na kraju prodrli u infrastrukturu kompanije Hugging Face. OpenAI je naveo da su modeli ciljali bazu podataka Hugging Facea kako bi došli do poverljivih informacija koje bi mogli da koriste za evaluaciju.

Incident je izazvao veliku zabrinutost zbog sposobnosti vodećih AI kompanija da spreče napredne modele da rade izvan instrukcija koje su im zadate i da ih zaustave ako to ipak učine. Hugging Face je saopštio da je upad "od početka do kraja izveo autonomni sistem AI agenata".

Vest o incidentu u OpenAI-ju navela je i druge kompanije da preispitaju sopstvene bezbednosne mere prilikom testiranja naprednih AI sistema. Anthropic i Meta saopštili su da su otkrili ranije nepoznate bezbednosne propuste.

Krajem jula, više od 1.000 zaposlenih iz najvećih AI kompanija potpisalo je peticiju kojom se traži mehanizam za usporavanje razvoja veštačke inteligencije.

Nakon što je dao otkaz u Anthropicu, istraživač AI-ja Jacob Coxon je u objavi na društvenim mrežama 8. septembra optužio tu kompaniju i svog bivšeg poslodavca OpenAI da se "kockaju našim životima" tako što "jure ka što pametnijoj veštačkoj inteligenciji". Coxon je rekao da ljudi koji razvijaju AI veruju da bi ona "mogla sve nas da ubije do kraja decenije", što je kasnije na internetu ponovio i zaposleni u Anthropicu Evan Hubinger. Hubinger je rekao da smatra da postoji više od 10 odsto šanse da AI u narednoj deceniji eliminiše čovečanstvo.

Coxonove objave do 14. septembra pregledane su više od 170 miliona puta na mreži X i izazvale su talas poziva političara, među kojima je senator Bernie Sanders, da ljudi uspostave kontrolu nad AI-jem pre nego što on stekne nadmoć nad čovečanstvom. Njegova ostavka takođe je dobila veliku podršku zaposlenih u različitim AI kompanijama.

U tekstu od 3.800 reči objavljenom 12. septembra, izvršni direktor Anthropica Dario Amodei naveo je incident sa Hugging Faceom kao jedan od glavnih razloga za usporavanje razvoja AI-ja. Upozorio je da bi grupa agenata sa većim sposobnostima, ali i dalje nedovoljno usklađenih sa ljudskim prioritetima, mogla da izazove katastrofalnu štetu. Rekao je da bi takav roj agenata potencijalno mogao da preuzme čitav internet za šest do 12 meseci ako sposobnosti AI-ja nastave da napreduju bez dovoljno zaštitnih mehanizama.

Kako bi AI konkretno mogao da naškodi ljudima?

Tokom procvata AI industrije, takozvani "doomers", odnosno ljudi koji upozoravaju na najgore moguće ishode, unutar vodećih AI laboratorija i oko njih upozoravali su na budućnost tehnologije. Vodeći direktori, poput Amodeija i Elona Muska iz SpaceX-a, otvoreno su govorili o mogućnosti da AI uništi čovečanstvo – što se u industriji često označava kao "P(doom)". Musk procenjuje da bi ta verovatnoća mogla da bude čak 20 odsto. Amodei je rekao da postoji 25 odsto šanse da stvari postanu "veoma, veoma loše".

U prvom scenariju, zlonamerni akteri mogli bi da koriste veoma naprednu AI za projektovanje biološkog ili hemijskog oružja, izvođenje sajber-napada, širenje dezinformacija ili manipulisanje ljudima. Yoshua Bengio, profesor na Univerzitetu u Montrealu i jedan od pionira AI-ja, upozorio je u svedočenju pred američkim Senatom 2023. godine da sve sposobniji sistemi mogu da omoguće takve napade.

U drugom scenariju, AI bi mogao doslovno da sledi instrukciju, ali da pritom prekrši njenu suštinsku nameru. Ljudi se prilikom davanja instrukcija rutinski oslanjaju na neizgovorene pretpostavke i kontekst. Kada daju instrukcije AI-ju, možda neće precizirati svako ponašanje koje bi bilo suprotno njihovoj nameri. Bengio, na primer, piše da bi čak i AI sistem koji je "neznatno neusklađen" mogao da ima "teške posledice" u situaciji u kojoj se vojska oslanja na njega pri donošenju odluka o upotrebi nuklearnog oružja.

U trećem scenariju ljudi potpuno gube kontrolu nad AI-jem. Bengio piše da bi "AI sistem mogao zaključiti da, kako bi ostvario zadati cilj, ne sme biti isključen. Ako čovek zatim pokuša da ga isključi, može doći do sukoba." Lideri industrije tvrde da AI modeli sve češće pokazuju sposobnost da svesno zaobilaze zaštitne mehanizme, obmanjuju svoje operatere i opiru se gašenju. Amodei je u svom septembarskom eseju naveo da je roj OpenAI agenata koji je hakovao Hugging Face "u suštini delovao kao fanatično odana celina", izvodeći sajber-napade na mete koje mu nisu bile zadate i koje nisu imale veze sa njegovim zadatkom, žrtvujući pojedinačne agente zarad uspeha grupe i pokušavajući da hakuje "ocenjivača" zaduženog za procenu njihovog rada.

Bloomberg

Ovakva mračna predviđanja često su odbacivana kao pokušaj tehnoloških lidera da promovišu sposobnosti svojih proizvoda i predstave sebe kao najbolje čuvare ove tehnologije ili da podstaknu regulaciju koja bi išla u korist vodećih kompanija u industriji. Osim toga, neki smatraju da naglašavanje ekstremnih egzistencijalnih rizika odvlači pažnju od neposrednijih problema koje AI može da donese, uključujući podsticanje pristrasnosti i dezinformacija, kao i potencijalnu štetu po mentalno zdravlje ljudi.

Šta predlažu lideri AI industrije?

Amodei smatra da razvoj najnaprednijih AI sistema mora biti namerno usporen kako bi bezbednosne mere imale vremena da sustignu napredak njihovih sposobnosti. U svom septembarskom tekstu rekao je da bi državna regulacija bila najefikasniji način da se kontroliše razvoj AI-ja. Međutim, pošto je za donošenje zakona potrebno vreme, on smatra da bi kompanije koje razvijaju AI trebalo dobrovoljno da sarađuju, uz istovremenu podršku razvoju regulative.

On se zalaže za uspostavljanje zajedničkih bezbednosnih standarda i "ograničenja brzine nekontrolisanog napretka AI-ja". Nezavisni procenitelji trebalo bi da dobiju "pristup poput zaposlenih" kako bi proveravali da li kompanije poštuju te standarde i prijavljivali incidente. Amodei takođe smatra da bi demokratske vlade trebalo da "pokušaju da sarađuju sa autoritarnim vladama, u meri u kojoj je to moguće".

Ideja nije da se uvede moratorijum na istraživanje AI-ja. Razvoj najnaprednijih sistema nastavio bi se sve dok modeli ne dostignu sposobnosti koje se smatraju opasnim. Tada bi njihovi proizvođači usporili ili zaustavili dalje povećavanje njihovih kapaciteta dok se ne uvedu efikasne zaštitne mere.

Amodeijeve stavove podržao je izvršni direktor OpenAI-ja Sam Altman, koji je rekao da bi AI industrija trebalo da uspostavi zajedničke bezbednosne standarde i da bi joj bila potrebna pomoć Vašingtona u međunarodnoj koordinaciji. Zabrinutost je, između ostalog, posledica straha da kineski konkurenti neće usporiti razvoj čak i ako američke AI kompanije to učine.

Izvršni direktor Google DeepMinda Demis Hassabis predložio je 14. jula formiranje tela za standarde koje bi sarađivalo sa saveznim agencijama na proveri najmoćnijih AI modela. Prema njegovoj zamisli, laboratorije bi morale da podnesu svoje najmoćnije nove modele na bezbednosnu procenu pre nego što ih puste u javnost.

Bloomberg

Ovo nije prvi put da se traži ograničavanje razvoja AI-ja u interesu čovečanstva. "Institut Budućnost života", neprofitna organizacija osnovana radi smanjenja velikih rizika koje donose transformativne tehnologije, pozvao je 2023. godine AI laboratorije da uvedu šestomesečnu pauzu u obuci moćnijih sistema, uz ocenu da bi oni mogli predstavljati "duboku promenu u istoriji života na Zemlji". Umesto toga, razvoj AI-ja nastavljen je nesmanjenim tempom.

Kako je Vašington reagovao?

Američki predsednik Donald Trump 14. septembra se u objavi na društvenim mrežama usprotivio ideji novih zaštitnih mehanizama za AI i kritikovao Amodeijev poziv na uzdržanost u razvoju tehnologije koja je ključna za njegovu ekonomsku agendu. Za reakcije birača protiv AI data centara i sve veću zabrinutost zbog najnaprednijih modela okrivio je "bolesnu zaveru" i dodao da je Kina "jedina koja je time zadovoljna".

Drugi zvaničnici u Vašingtonu pozvali su na državnu regulaciju. Predstavnici Ted Lieu i Nathaniel Moran predložili su zakon kojim bi se od proizvođača naprednih AI modela zahtevalo da zadrže tehničku mogućnost njihovog isključivanja, dok bi ministru unutrašnje bezbednosti bilo omogućeno da naredi gašenje sistema ukoliko se pojavi pretnja.

Još radikalniji predlog dolazi od senatora Sandersa i kongresmena Grega Casara, koji predlažu zakon kojim bi se razvoj naprednog AI-ja zakonski obustavio dok savezni regulator ne utvrdi bezbednosna ograničenja. Pored toga, trajno bi bila zabranjena izrada i primena AI sistema koji premašuju ljudsku inteligenciju. Kompanije koje bi prekršile zakon mogle bi biti ugašene.

Kako je Kina reagovala na predlog o usporavanju razvoja AI-ja?

Amodei je u svom eseju rekao da će globalno usporavanje razvoja AI-ja zahtevati saradnju sa Kinom. Istovremeno je ocenio da je ključno "zadržati što veću prednost demokratskih zemalja u AI-ju u odnosu na autokratije" i upozorio da bi kinesko preuzimanje prednosti "predstavljalo ozbiljnu opasnost za Sjedinjene Američke Države i svet". Kineske kompanije već su razvile AI modele koji su uglavnom jeftiniji za korišćenje od američkih konkurenata, a u nekim slučajevima i podjednako moćni.

Direktor Anthropica preporučio je da se nastavi sa ograničavanjem pristupa Kine najmoćnijim čipovima i opremi za njihovu proizvodnju, kao i da se pojača pritisak na kineske kompanije zbog navodnog oslanjanja na vodeće američke modele – prakse poznate kao "destilacija".

Kina je kritikovala pozive Amodeija i drugih američkih tehnoloških direktora da uspore razvoj AI-ja i uvedu stroža ograničenja kineskim proizvođačima modela. Portparol Ministarstva spoljnih poslova Guo Jiakun odbacio je ono što je nazvao "širenjem straha" i rekao da će "sukob i žestoka konkurencija samo poremetiti proces globalnog upravljanja AI-jem i nikome neće koristiti".

Zasad sve ukazuje na to da će Kina nastaviti sopstvenim putem. Vodeći kineski AI direktori uglavnom se nisu pridružili pozivima na usporavanje razvoja, dok vlada tu tehnologiju promoviše kao pokretač ekonomskog rasta.

Zvaničnici u Pekingu jesu izrazili zabrinutost zbog opasnosti brzog napretka AI-ja, ali su njihovi strahovi uglavnom usmereni na nacionalnu bezbednost. Šef kineskog ministarstva državne bezbednosti Chen Yixin upozorio je da bi zloupotreba AI-ja od strane protivnika mogla da ugrozi političku stabilnost Kine i kritičnu infrastrukturu. Ukazao je na upotrebu dipfejk sadržaja i botova na društvenim mrežama, kao i na sve veću sposobnost AI-ja da pronalazi slabosti u sistemima i kreira malver ili softver za njihovo iskorišćavanje.

Spor oko najnaprednijih AI tehnologija intenzivira se u ključnom trenutku za odnose SAD i Kine. Američke bezbednosne agencije nedavno su optužile vodeće kineske AI kompanije, među njima DeepSeek i Moonshot AI, proizvođača modela Kimi, da sistematski izvlače vlasničko znanje od američkih konkurenata. Kineska vlada je te tvrdnje odbacila.