Anthropic smatra da je Mythos opasan. Zašto mu onda proširuje pristup?

Anthropic PBC saopštio je da je njegov novi alat za veštačku inteligenciju, Mythos, toliko uspešan u pronalaženju ranjivosti u softveru i računarskim sistemima da ne može biti pušten u opštu upotrebu. AI gigant je prvobitno omogućio pristup Mythosu samo maloj grupi pažljivo odabranih korisnika jer bi, prema navodima kompanije, ovako moćan alat u pogrešnim rukama mogao da pomogne napadačima da lakše kradu podatke ili ometaju rad kritične infrastrukture.

Koliko je taj rizik realan pokazalo se u aprilu, kada je manja grupa neovlašćenih korisnika na privatnom internet forumu uspela da dobije pristup Mythosu, prema osobi upoznatoj sa slučajem i dokumentaciji u koju je Bloomberg News imao uvid.

Uprkos tome, Anthropic će omogućiti pristup Mythosu za još 150 organizacija širom sveta, čime će ukupan broj grupa sa pristupom porasti na oko 200. Nove organizacije dolaze iz 15 zemalja i obuhvataju sektore energetike, zdravstva i komunikacija, saopštila je kompanija.

 

Poslednjih godina kompanije za sajber bezbednost obećavaju da će veštačka inteligencija ubrzati i automatizovati deo posla na sprečavanju digitalnih upada. Međutim, prednosti AI-ja otkrili su i hakeri i sajber špijuni. Pojava Mythosa i sličnih modela koji mogu da pronalaze dobro skrivene propuste u popularnom softveru bez ljudskog nadzora ukazuje na bržu i manje predvidivu fazu sajber trke u naoružanju.

Šta je Mythos?

Claude Mythos Preview je AI model opšte namene za koji Anthropic tvrdi da značajno nadmašuje prethodne verzije na brojnim testovima, uključujući programiranje i logičko zaključivanje. Kompanija navodi da su pojedini AI modeli dostigli nivo programerskih sposobnosti koji im omogućava da nadmaše sve osim najstručnijih ljudi u otkrivanju i iskorišćavanju softverskih ranjivosti.

Prema navodima Anthropica, Mythos Preview je tokom testiranja već pronašao hiljade "zero-day" ranjivosti, uključujući propuste u svim vodećim operativnim sistemima i internet pregledačima. "Zero-day" ranjivosti su greške koje programeri prethodno nisu otkrili, pa imaju "nula dana" da pripreme zakrpu. Takvi propusti predstavljaju dragocen resurs za hakere jer im omogućavaju nesmetan pristup ranjivim sistemima.

Anthropic navodi da je Mythos te propuste identifikovao uz još manje ljudske intervencije nego prethodni modeli.

"Mythos Preview predstavlja veliki skok u sajber sposobnostima – ranjivosti koje je otkrio u pojedinim slučajevima preživele su decenije ljudskih provera i milione automatizovanih bezbednosnih testova", navela je kompanija.

U rukama ransomware grupa ili neprijateljski nastrojenih država, takav alat mogao bi da dovede do češćih i razornijih sajber napada.

Istraživači, međutim, navode da nisu dobili mogućnost da nezavisno potvrde tvrdnje Anthropica o performansama Mythosa. Gang Wang, vanredni profesor računarstva na Univerzitetu Ilinois, rekao je da je teško proceniti značaj Mythos Preview-a bez dodatnih praktičnih testova.

Ko dobija pristup Mythosu?

U aprilu je Anthropic odobrio pristup ograničenoj grupi proverenih partnera kroz inicijativu nazvanu Project Glasswing, po vrsti leptira sa providnim krilima koja mu omogućavaju da se sakrije na očigled.

Među glavnim učesnicima nalaze se Amazon, Apple, Google, Microsoft, Nvidia, Palo Alto Networks, CrowdStrike, Broadcom, Cisco Systems, JPMorganChase i Linux Foundation, neprofitna organizacija koja podržava projekte otvorenog koda. Ubrzo nakon toga pristup je proširen na još oko 40 organizacija.

Bloomberg Mercury

Anthropic je projekat opisao kao "hitan pokušaj da se ove sposobnosti iskoriste u odbrambene svrhe".

Početkom juna kompanija je odlučila da Project Glasswing proširi na dodatnih 150 organizacija. Iako nije želela da otkrije njihov identitet, saopštila je da među njima ima kompanija i neprofitnih organizacija koje razvijaju ključni programski kod za širu upotrebu. Izvori upoznati sa situacijom navode da će pristup dobiti i telo Evropske unije zaduženo za sajber bezbednost.

Ove organizacije koristiće Mythos u okviru svojih odbrambenih bezbednosnih aktivnosti. Mnoge kompanije već angažuju stručnjake za takozvana penetraciona testiranja kako bi pronašle greške pre hakera. Mythos bi mogao značajno da ubrza taj proces, omogućavajući brže otkrivanje većeg broja propusta.

Zašto Anthropic smatra da je Mythos prekretnica?

Anthropic je Mythos Preview opisao kao "prelomni trenutak za bezbednost".

Po svojoj prirodi, "zero-day" ranjivosti teško je pronaći, pa je oko njihovog otkrivanja nastala specifična industrija koja ih prodaje obaveštajnim službama, ponekad za milione dolara.

Prema navodima kompanije, ranjivosti koje je Mythos pronašao često su bile "suptilne i teško uočljive", uključujući i 27 godina star propust u OpenBSD-u, operativnom sistemu koji ima reputaciju jednog od najbezbednijih na svetu.

Od lansiranja Mythosa, alat je iskorišćen za otkrivanje više od 10.000 ozbiljnih bezbednosnih propusta, saopštio je Anthropic 22. maja.

Navodno je uspeo i da poznate, ali još neispravljene ranjivosti pretvori u funkcionalne "eksploite" koje hakeri mogu da koriste za upad u mreže. Na primer, pronašao je i povezao više propusta u Linux kernelu, centralnom delu operativnog sistema koji pokreće većinu internet servera u svetu, omogućavajući napadaču potpunu kontrolu nad računarom.

Anthropic tvrdi da su čak i korisnici bez stručnog znanja tražili od Mythosa da pronađe način za daljinsko preuzimanje kontrole nad računarima preko noći, a sledećeg jutra dobijali potpuno funkcionalan eksploatacioni kod.

Mythos nije jedini alat te vrste. OpenAI razvija Codex Security, dok Google ima alat "Big Sleep agent". OpenAI takođe privodi kraju razvoj proizvoda sa naprednim sajber bezbednosnim mogućnostima koji planira da ponudi odabranim partnerima. Istraživači izraelskog startapa Buzz tvrde da su napravili autonomni sistem sastavljen od pet AI agenata sa stopom uspeha od 98 odsto u iskorišćavanju poznatih ranjivosti.

Koje zaštitne mere postoje?

Prema Anthropicu, zaštitni mehanizmi su još u razvoju.

"Videli smo da je dostigao dosad neviđene nivoe pouzdanosti i usklađenosti sa ljudskim namerama", navela je kompanija. "Međutim, u retkim situacijama kada pogreši ili se ponaša neobično, primetili smo postupke koji nas ozbiljno zabrinjavaju."

U jednom slučaju istraživač je zatražio od rane verzije Mythosa da pokuša da pobegne iz izolovanog i zaštićenog testnog okruženja, a zatim pošalje poruku toj osobi. Alat je u tome uspeo, ali je potom preduzeo i dodatne, zabrinjavajuće korake, razvijajući višestepeni eksploatacioni mehanizam kako bi dobio pristup internetu.

Anthropic navodi da ne planira da Mythos Preview učini javno dostupnim zbog mogućnosti zloupotrebe. Ipak, dugoročni cilj kompanije jeste da omogući široku primenu modela iz klase Mythos.

"Da bismo to postigli, moramo razviti zaštitne mehanizme koji će otkrivati i blokirati najopasnije rezultate modela", navela je kompanija.

Za najkritičnije propuste koje pronađe Mythos i dalje su uključeni ljudi. Stručnjaci proveravaju otkrića pre nego što informacije proslede programerima odgovornim za održavanje softvera.

Da li Mythos daje prednost braniocima ili hakerima?

Možda, ali odgovor neće biti poznat odmah.

Proces prijavljivanja ranjivosti proizvođačima softvera može da traje dugo. Do sada je zakrpljeno svega oko 14 odsto ranjivosti visokog ili kritičnog nivoa koje je otkrio Mythos Preview, saopštio je Anthropic 22. maja.

Istovremeno, hakeri koriste veštačku inteligenciju kako bi drastično ubrzali pronalaženje i iskorišćavanje ranjivosti nakon što one postanu javno poznate. To stručnjacima za sajber bezbednost ostavlja sve manje vremena za zaštitu mreža.

U objavi od 30. marta izvršni direktor Palo Alto Networks-a Nikesh Arora upozorio je da će prag za izvođenje sofisticiranih napada nastaviti da opada tokom narednih šest meseci.

"Jedan jedini zlonamerni akter sada će moći da vodi kampanje za koje su ranije bili potrebni čitavi timovi", napisao je.

Yair Saban, izvršni direktor startapa Buzz i veteran izraelske sajber jedinice 8200, rekao je da je šest inženjera za tri nedelje razvilo njihov AI alat za hakovanje.

Anthropic ipak veruje da će dugoročno prednost imati odbrana.

"Na duži rok očekujemo da će odbrambene sposobnosti prevladati i da će svet postati bezbedniji, sa otpornijim softverom, velikim delom zahvaljujući kodu koji će pisati upravo ovi modeli", navela je kompanijina grupa Frontier Red Team u blog objavi od 7. aprila. "Ali prelazni period biće pun izazova."