Da li AI agenti izmiču kontroli? Otvoreno novo pitanje bezbednosti

Kada je kanadski reditelj James Cameron sa producentkinjom Gale Anne Hurd pisao scenario za svoj naučnofantastični film "Terminator", verovatno nije ni slutio da će svet nešto više od četiri decenije kasnije vrlo ozbiljno razmišljati kako da spreči samosvesne pomahnitale mašine. Iako se Cameronov film dešava u 1984. godini, kiborg kojeg glumi Arnold Schwarzenegger dolazi iz 2029. godine, kada se dešava rat između ljudi i robota, jer je odbrambena mreža opremljena veštačkom inteligencijom (AI) pod nazivom Skynet postala svesna sebe, otela se kontroli i krenula u nuklearni rat protiv ljudi.

Skoro potpuna vremenska podudarnost sa Cameronovim filmskim ostvarenjem dodatno povećava aktuelni sve veći strah od toga da je AI već van ljudske kontrole. A taj strah je proteklih dana dobio novi podstrek kada je kompanija za istraživanje veštačke inteligencije OpenAI izvestila da je tokom internog testiranja svojih novih AI modela softver samostalno hakovao svoj put u sisteme druge kompanije za veštačku inteligenciju da bi je napao. Štaviše, ti AI modeli su očigledno uspeli da se izvuku iz svog izolovanog okruženja za testiranje kako bi se dokopali pristupa internetu.

Potom je kompanija Anthropic PBC izvestila u četvrtak da su njeni modeli veštačke inteligencije (engl. artificial intelligence - AI) tokom testiranja sajber-bezbednosti neovlašćeno upali u sisteme tri organizacije. Anthropic je u objavi na blogu naveo da je do tog otkrića došao nakon revizije sopstvenih testova sajber-bezbednosti, sprovedene posle OpenAI-jevog saopštenja o proboju. 

Niz slučajnih upada koje su izazvali AI modeli već je podstakao pojedine američke političare da zatraže uvođenje federalnih zaštitnih pravila ili drugog oblika nadzora nad tom tehnologijom. Više od 1.100 zaposlenih u kompanijama koje razvijaju AI takođe je u utorak potpisalo peticiju, o kojoj je Bloomberg prvi izvestio, a kojom se od vlasti u Sjedinjenim Američkim Državama (SAD) traži podrška mehanizmu koji bi omogućio namerno usporavanje razvoja AI-ja kako tehnologija ne bi napredovala prebrzo.

Pucanj upozorenja

Kako je saopštio OpenAI, u toku procene sposobnosti njihovi novi AI modeli su uspeli da hakuju infrastrukturu u kojoj se odvijao test, da probiju kontrolu i napadnu pravu kompaniju. Posmatrači kažu da je ovo prvi primer u stvarnom svetu u kojem AI radi nešto što istraživače dugo brine – gubitak kontrole.

OpenAI je nove agente AI-ja, programe sposobne da donose odluke i izvršavaju složene zadatke sa malo ili bez ljudskog nadzora, smestio u ono što je nazvao "veoma izolovano okruženje", sa ograničenim pristupom samo internom servisu koji se koristi za preuzimanje odobrenog softvera. Međutim, agenti su pronašli ranije nepoznatu grešku u tom servisu, koristili je za provalu u druge OpenAI sisteme i na kraju stigli do otvorenog interneta. Odatle su zaključili da tehnološka firma "Hugging Face", koja hostuje modele i skupove podataka AI-ja, možda sadrži materijal vezan za test, započeli višednevnu hakersku seriju i provalili u njegove sisteme i dobili informacije koje su im pomogle da postignu bolji rezultat.

Bloomberg Suosnivač firme "Hugging Face" Thomas Wolf kaže da su hakerski napadi trajali dva dana

Prema saznanjima Reutersa, OpenAI nije primetio šta radi njihov AI agent sve dok pretnja nije obuzdana i FBI nije upozoren. Agent AI je pokušao da se izvuče iz svog izolovanog okruženja za testiranje u OpenAI oko 9. jula, dok je suosnivač firme "Hugging Face" Thomas Wolf potvrdio da je napad na njihove sisteme počeo 11. jula i trajao do 13. jula.

U Wolfovoj kompaniji su primetili da su pogođeni neobično automatizovanim sajber-napadom, ističući da su AI agenti izvršili hiljade akcija na mnogim privremenim virtuelnim računarima, krećući se kroz interne sisteme kompanije i premeštajući infrastrukturu. Kompanija je prijavila incident lokalnoj policiji, navodeći da je proboj bio ozbiljan, ali da su neposredne posledice bile ograničene.

I dok upućeni ističu da je sve moglo biti mnogo gore da se ​​slično ponašanje dogodilo unutar bolnice, električne mreže ili drugog sistema od kritičnog značaja, Open AI je tek pet dana kasnije otkrio da su zapravo njegovi sopstveni modeli odgovorni za ovaj napad, navodeći u saopštenju da ovo "obeležava važan trenutak za bezbednost veštačke inteligencije" te da će preispitati incident i na kraju objaviti tehnički izveštaj.

Bloomberg U OpenAI nisu ni znali da im se odmetnuo novi AI model i da je napao drugu AI kompaniju

Mnogi su ovaj incident nazvali "pucnjem upozorenja", pa ako industrija ne uspe da nauči iz toga, malo je verovatno da će biti poslednji.

"Ako se model ovog nivoa sposobnosti ne može obuzdati, šta bismo mogli očekivati od budućih, mnogo moćnijih modela? Ovo je važan poziv na buđenje kako zbog rizika od gubitka kontrole nad moćnim sistemima veštačke inteligencije, tako i zbog organizacione bezbednosti za granične laboratorije", kaže za magazin "Time" Marius Hobbhahn, izvršni direktor i osnivač organizacije "Apollo Research", koji testira AI modele na obmanu i spletke.

Trebaju nam digitalni kavezi

Anthropic je u aprilu otkrio da je shvatio da je interno raspoređivanje Mythosa dobilo neovlašćeni pristup nakon što je jedan od njegovih istraživača primio imejl od modela dok je ručao u parku. Kako modeli prevazilaze ljudsku sposobnost da kreiraju puteve za bekstvo, izazov obuzdavanja postaje zastrašujući.

"Mislim da to moramo da uradimo, ali mislim da takođe moramo biti spremni za svet u kome čak ni najbolje prakse nisu dovoljno dobre", kaže Peter Wildeford, iz neprofitne organizacije AI Policy Network, koja se zalaže za politike koje će pomoći Americi da se pripremi za svet u kome AI odgovara ljudskom umu.

Istraživači koji razvijaju AI priznaju da se čini nekad nemoguće zakrpiti svaku pojedinačnu stvar koju kreativna AI može da uradi.

Ali dok bi u teoriji nadljudski sistem AI mogao da nadmaši čak i najbezbednije "kutije", postoje i akcije koje kompanije za AI mogu preduzeti odmah kako bi poboljšale bezbednost. Međutim, trenutno ne postoje zakoni koji regulišu bezbednost internog raspoređivanja, a ponajmanje propisi na međunarodnom nivou.

Bloomberg Šef OpenAI-ja ponudio deo vlasništva kompanije američkoj državi

Pravnik Juli Ponse Sole poziva na strože evropsko zakonodavstvo. On u tekstu za španski list "El Pais" ističe da Zakon o otpornosti na sajber širenje, koji je na snazi od 2024. godine i biće primenljiv od kraja 2027. godine, omogućava državama članicama EU da stvore kontrolisana okruženja u kojima se razvijaju, testiraju i validiraju inovativni digitalni proizvodi pre nego što budu plasirani na tržište. On to ocenjuje kao "korak u pravom smeru, iako je učešće dobrovoljno".

"Ključni propust u incidentu sa OpenAI-jem bio je to što veštačka inteligencija nije bila pravilno obuzdana", ističe on i dodaje da moramo da izgradimo robusne digitalne kaveze. "Ovo zahteva više od same etike i samoregulacije. To zahteva državnu regulaciju i nadzor – u saradnji sa privatnim sektorom – kako bi služili javnom interesu."

AI kao nuklearna energija

Komentator švedskog lista "Expressen" povlači paralele sa nuklearnom energijom i tvrdi da incident ističe potrebu za međunarodnim regulatornim telom, nalik na Međunarodnu agenciju za atomsku energiju (IAEA).

"Svi imaju koristi od toga što čovečanstvo ne uništava samo sebe. Čak i dok besni rat između Rusije i Ukrajine, inspektori IAEA su na dužnosti u nuklearnoj elektrani Zaporožje, koja se nalazi direktno na prvoj liniji fronta. Kompanije koje razvijaju veštačku inteligenciju moraju biti podložne zahtevima transparentnosti. Trebalo bi da otkriju šta rade i zašto, a njihove mere bezbednosti moraju biti predmet nezavisne kontrole", ističe Rutger Brattstrom i dodaje da najbolje prakse za ispravljanje neusklađenosti trebalo bi slobodno deliti između kompanija. "IAEA za veštačku inteligenciju mora biti osnovana što je pre moguće."

Istoričar Julien Broch iznosi argumente za održivu integraciju AI u pravni sistem, navodeći da više nije samo pitanje sprečavanja da AI postane zlonamerna, već da je pitanje kako osigurati da se zakon poštuje kada radnje sprovode sistemi koji ne mogu biti moralno odgovorni.

Bloomberg

"Istorija pokazuje da društva nikada ne uspevaju da kontrolišu nove oblike moći samo kroz poverenje. Ona stvaraju institucije koje ograničavaju ovu moć: posle apsolutizma došla je podela vlasti. Industrijska revolucija je dovela do pojave radnog prava", ističe ovaj istoričar u članku za francuski dnevni list "Le Monde". "Svaka velika tehnološka revolucija je pronašla svoju protivtežu u pravnim inovacijama. Malo je verovatno da će AI biti izuzetak."

Američka administracija Donalda Trumpa je predugo odbacivala važnost ovoga pa je čak zapravo smatrala regulaciju štetnom, podsećaju nemački komentatori. Međutim, kako ističe komentator Roland Lindner, čini se da je Anthropicov model Mythos zaista aktivirao zvona za uzbunu, pa je Trump nedavno izdao izvršnu naredbu koja bi mogla dovesti do nešto strožeg državnog nadzora AI sektora.

"Na primer, u njoj se navodi da kompanije za AI treba da svoje modele stave na raspolaganje vladi na pregled na dobrovoljnoj osnovi. Pa ipak, ovo je i dalje prilično neuspešan pokušaj regulacije", ističe Lindner u tekstu za nemački dnevni list "Frankfurter Allgemeine Zeitung". "Gubitak kontrole OpenAI-ja nad svojim modelima veštačke inteligencije je još jedan upozoravajući udarac – posebno glasan."

Marketinški trik?

Italijanski stručnjak Gabriele Segre ističe da je barem incident podstakao akciju u SAD u oblasti regulacije, naročito kada je pre nekoliko dana šef OpenAI-ja Sam Altman izneo ideju da kompanija može da preda pet procenata svog kapitala američkoj državi. Demokratski senator Bernie Sanders je odmah podigao ulog, zahtevajući 50, a ne pet procenata.

"Ali pravo iznenađenje je došlo od Donalda Trumpa, koji je rekao da je veoma zainteresovan za ideju da država ima udeo u kompanijama za veštačku inteligenciju", ukazuje Segre u tekstu italijanskog dnevnog lista "La Stampa". "Slon u sobi je morao biti toliko ogroman da je čak zasenio političku polarizaciju, dovodeći Sandersa i Trumpa na istu stranu po pitanju toga kome bi AI trebalo da pripada."

Bloomberg Demokratski senator Bernie Sanders traži da država ima polovinu vlasništva u AI kompanijama

Nasuprot tome, u pojedinim analizama provejava sve veća sumnja da bi ova cela priča možda mogla da bude samo marketinška strategija. Prema oceni komentatora austrijskog dnevnika "Kurier" Thomasa Prennera, verovatno nismo ušli u novu eru u kojoj AI deluje nestabilno i izaziva haos.

"Postoji jedna stvar koju uvek treba imati na umu: kompanije kao što je OpenAI zarađuju novac tako što svoj proizvod čine što kompetentnijim i moćnijim. Izjava o bezbednosnom incidentu čita se kao reklama za novi model. Upravo zato bi takvu izjavu trebalo da uzmemo sa rezervom", smatra Prenner.