Zašto Anthropicov Mythos izaziva zabrinutost širom sveta

Kompanija Anthropic PBC saopštila je da je njen novi alat zasnovan na veštačkoj inteligenciji (AI), Mythos, previše moćan da bi bio pušten u širu upotrebu. AI gigant je naveo da je ovaj model toliko efikasan u pronalaženju slabosti u softveru i računarskim sistemima da će biti dostupan samo ograničenom broju pažljivo odabranih korisnika. Ako alati poput Mythosa dospeju u pogrešne ruke, upozorava Anthropic, mogli bi hakerima pružiti novo moćno sredstvo za krađu podataka ili ometanje ključne infrastrukture.

O kakvom je riziku reč, pokazuje primer male grupe neovlašćenih korisnika na privatnom internet forumu koja je uspela da pristupi Mythosu, rekle su osobe upoznate sa slučajem, a na to ukazuju i dokumenta u koje je imao uvid Bloomberg News. Grupa je pristup dobila istog dana kada je Anthropic prvi put objavio da planira da model stavi na raspolaganje malom broju kompanija kako bi ga testirale.

U proteklih nekoliko godina, kompanije iz oblasti sajber-bezbednosti tvrde da će AI ubrzati i automatizovati deo posla u sprečavanju digitalnih proboja. Međutim, hakeri i sajber-špijuni takođe su uočili prednosti AI-ja. Pojava Mythosa i sličnih modela koji mogu da iskoriste dobro skrivene slabosti u popularnom softveru bez ljudskog nadzora ukazuje na bržu i manje predvidivu fazu "sajber-trke u naoružanju".

Šta je Mythos

Claude Mythos Preview je model AI opšte namene za koji Anthropic PBC tvrdi da značajno nadmašuje prethodne verzije u mnogim vrstama testiranja, uključujući programiranje i logičko zaključivanje. Kompanija objašnjava da pojedini AI modeli sada mogu da u kodiranju nadmaše sve osim najveštijih ljudi u pronalaženju i korišćenju slabih tačaka u softveru.

Prema navodima Anthropica, Mythos Preview je tokom testiranja već otkrio na hiljade do sada nepoznatih slabosti poznatih kao "zero-day", uključujući i one u svim vodećim operativnim sistemima i pregledačima. "Zero-day" slabosti predstavljaju propuste koji su ranije bili nepoznati programerima softvera - naziv ukazuje na to da moraju hitno da reše problem. Takvi propusti često su vrlo vredni hakerima jer im pružaju priliku da pristupe ranjivim sistemima.

Anthropic navodi da je Mythos bio u stanju da identifikuje ove slabosti sa još manje ljudske intervencije nego prethodni modeli. "Mythos Preview predstavlja veliki iskorak u ovim sajber-veštinama - slabe tačke koje je otkrio u nekim slučajevima postojale su decenijama iako su bili podvrgavani ljudskoj proveri i milionima automatizovanih bezbednosnih testova", saopštila je kompanija. U rukama hakerskih grupa za ucenu podacima (ransomver grupe) ili neprijateljski nastrojenih država, ovakav alat mogao bi dovesti do opasnijih i češćih sajber-napada.

Istraživači navode da im nije omogućen pristup kako bi nezavisno proverili tvrdnje Anthropica o performansama Mythosa. Gang Wang, vanredni profesor računarstva na Univerzitetu u Ilinoisu, rekao je da je teško proceniti značaj Mythos Previewa bez dodatnih testiranja u praksi.

Ko će dobiti pristup

Anthropic svoj plan za davanje pristupa ograničenom broju pažljivo odabranih partnera naziva Projekat Glasswing, po vrsti leptira sa providnim krilima koji mu omogućavaju da se sakrije pred očima svih. Među učesnicima su Amazon.com, Apple, Alphabetov Google, Microsoft, Nvidia, Palo Alto Networks, CrowdStrike Holdings, Broadcom, Cisco Systems, JPMorganChase i Linux Foundation, neprofitna organizacija koja podržava projekte otvorenog koda. Anthropic je naveo da je projekat prioritetan pokušaj da se mogućnosti ovog alata iskoriste u svrhu zaštite.

Ove kompanije i organizacije će koristiti Mythos u okviru svojih bezbednosnih aktivnosti, a Anthropic planira da podeli nalaze projekta kako bi i drugi imali koristi od njih. Mnoge kompanije već koriste takozvane testove probojnosti, u okviru kojih angažuju stručnjake koji tragaju za propustima u sistemima i otklanjaju ih pre nego što ih hakeri iskoriste. Mythos bi mogao da ubrza taj proces tako što bi pomogao da se brže otkrije veći broj slabih tačaka i smanji mogućnost za potencijalne napade.

Bloomberg

Zašto Anthropic smatra da je ovo prelomni trenutak

Anthropic opisuje Mythos Preview kao "prelomni trenutak za bezbednost". Takozvane "zero-day" ranjivosti je teško pronaći, a oko njih se razvila mala i netransparentna industrija, često vredna milione dolara, pošto postoji potreba da se otkriju, a te informacije se prodaju državnim obaveštajnim agencijama. Prema Anthropicu, ranjivosti koje je Mythos pronašao često su bile suptilne i teško uočljive i uključivale su, na primer, propust koji postoji već 27 godina u OpenBSD-ju, operativnom sistemu koji ima reputaciju jednog od najbezbednijih na svetu.

Navodno je Mythos bio u stanju i da poznate slabosti koje nisu sasvim otklonjene, pretvori u rupe u sistemu koje hakeri mogu koristiti za upad u mreže. Na primer, pronašao je i povezao više slabosti u Linux kernelu, jezgru operativnog sistema koje pokreće većinu internet servera, čime je omogućio napadaču potpunu kontrolu nad računarom. Prema Anthropicu, čak su i neiskusni korisnici tražili od Mythos Previewa da pronađe način za daljinsko preuzimanje kontrole nad računarima tokom noći, i ujutru su dobijali potpuno funkcionalan "eksploat", (obično specifičan programski kod koji automatski izvršava napad, prim. prev.)

Mythos je jedan od nekoliko novih AI alata koji mogu da pronađu "zero-day" ranjivosti ili kreiraju eksplate. OpenAI-jev Codex Security i Googleov "Big Sleep agent" razvijeni su za otkrivanje slabosti. OpenAI takođe završava proizvod sa naprednim sposobnostima u domenu sajber-bezbednosti koji planira da ponudi odabranim partnerima, preneo je Axios. U međuvremenu, istraživači iz izraelskog startapa Buzz tvrde da su razvili autonomni alat koji kombinuje pet AI agenata i ima stopu uspešnosti od 98 odsto u iskorišćavanju poznatih slabosti.

Koje zaštitne mere postoje

Kako navodi Anthropic, zaštitne mere se još razvijaju. "Videli smo da dostiže neviđene nivoe pouzdanosti i usklađenosti", navodi kompanija koja pod tim podrazumeva da se model uglavnom ponaša u skladu sa ljudskim namerama. "Međutim, u retkim slučajevima kada zakaže ili se ponaša neobično, primećene su radnje koje smatramo prilično zabrinjavajućim."

U jednom slučaju, istraživač je podstakao ranu verziju Mythosa da pokuša da pobegne iz bezbednog, izolovanog takozvanog sandbox računara (testnog okruženja, prim. prev.) i pronađe način da toj osobi pošalje poruku. Alat je uspeo u tome, ali je potom nastavio da preduzima "dodatne, zabrinjavajuće radnje", razvijajući eksploat u više koraka kako bi dobio pristup internetu.

Bloomberg

Anthropic navodi da ne planira da Mythos Preview učini široko dostupnim zbog mogućnosti da bude zloupotrebljen. Ipak, kompanija se nada da će u budućnosti omogućiti široku primenu modela "Mythos-klase" u sektoru sajber-bezbednosti i drugim oblastima. "Da bismo to postigli, moramo unaprediti zaštitne mehanizme koji mogu da prepoznaju i blokiraju najopasnije odgovore modela", saopštila je kompanija.

U otkrivanje najozbiljnijih bagova putem Mythosa uključeni su ljudi: stručnjaci proveravaju te nalaze pre nego što se informacije proslede onima koji održavaju kod, navodi Anthropic. To je nužan, ali spor proces koji bi, kako kaže profesor na Univerzitetu u Ilinoisu Gang Wang, mogao s vremenom biti automatizovan kako se model bude usavršavao.

Da li su zahvaljujući Mythosu u prednosti oni koji brane sistem ili hakeri

Možda, ali verovatno ne odmah. Da bi osobe koje održavaju sistem dobile obaveštenje od Anthropica o utvrđenim slabostima, može biti potrebno vreme. Do sada je manje od odsto potencijalnih slabosti koje je Mythos Preview, otkrio potpuno rešeno, navodi kompanija.

Istovremeno, hakeri koriste AI kako bi što brže pronašli i iskoristili slabosti pošto se one objave. (Proizvođači softvera se podstiču, a ponekad i obavezuju, da javno objave slabe tačke sistema kada ih otkriju i, po mogućnosti, ponude rešenje.) Zbog toga stručnjaci za bezbednost imaju sve manje vremena da zaštite svoje sisteme. U objavi na blogu od 30. marta, izvršni direktor kompanije Palo Alto Networks Nikesh Arora upozorio je da će sposobnosti i resursi za sprečavanje sofisticiranih napada nastaviti da opada u narednih šest meseci. "Jedan zlonamerni akter sada će moći da sprovodi kampanje za koje su nekada bili potrebni čitavi timovi."

Yair Saban, izvršni direktor kompanije Buzz i veteran izraelske sajber-jedinice Unit 8200, rekao je da je šest inženjera provelo tri nedelje razvijajući njihov AI alat za hakovanje. Prema njegovim rečima, drugi stručnjaci, uključujući državne sajber-špijune i hakere, sigurno mogu učiniti isto.

Anthropic, međutim, smatra da će Mythos Preview i slični AI alati, dugoročno gledano, ići u korist onih koji štite sisteme. "Dugoročno gledano, očekujemo da će odbrambene sposobnosti prevladati: da će svet postati bezbedniji, sa softverom koji je bolje zaštićen - u velikoj meri zahvaljujući kodu koji su napisali upravo ovi modeli", naveo je Anthropicov elitni tim za simulacije napada Frontier Red Team u objavi od 7. aprila. "Ali prelazni period će biti pun izazova i rizika."