AI koji hakuje sam sebe: Mythos otvara novo poglavlje sajber-rata

Jedne tople februarske večeri na Baliju, Nicholas Carlini se nakratko povukao tokom jednog venčanja, otvorio laptop i rešio da napravi haos. Kompanija Anthropic upravo je pustila u internu proveru novi model veštačke inteligencije (AI) pod nazivom Mythos, a Carlini - poznati istraživač u oblasti AI-ja - želeo je da vidi kakve probleme može da izazove.

Anthropic plaća Carlinija da testira otpornost modela i proveri da li bi hakeri mogli da ih iskoriste za špijunažu, krađu ili sabotažu. Sa Balija, gde je sa suprugom bio na indijskom venčanju, ostao je zatečen mogućnostima modela.

Već za nekoliko sati Carlini je pronašao brojne načine za infiltraciju u sisteme širom sveta. Po povratku u kancelariju Anthropica u centru San Franciska, otkrio je da Mythos može autonomno da kreira moćne alate za provale, uključujući i napade na Linux, sistem otvorenog koda koji predstavlja osnovu većine modernog računarstva.

Mythos je u digitalnom svetu izveo ono što bi u fizičkom svetu bila pljačka banke: zaobišao je bezbednosne protokole, ušao u mreže i probio digitalne "trezore", stičući pristup vrednim podacima. Veštačka inteligencija je ranije "otključavala brave", ali sada je mogla da izvede kompletnu pljačku.

Carlini i njegove kolege počeli su da upozoravaju zaposlene na ono što su otkrili. Svakodnevno su pronalazili ozbiljne i kritične propuste u sistemima koje je Mythos testirao - vrste ranjivosti koje obično otkrivaju samo najbolji hakeri na svetu. Istovremeno, Anthropicov tim pod imenom Frontier Red Team, koji čini 15 zaposlenih, sprovodio je slične eksperimente. Cilj laboratorije je da osigura da se modeli ne mogu zloupotrebiti. Testirali su, na primer, da li bi četbot mogao zlonamerno da upravlja robotskim psima ili da pomogne u razvoju biološkog oružja.

Sada su shvatali da je najveći rizik Mythosa - sajber-bezbednost.

"U roku od nekoliko sati bilo nam je jasno da je model drugačiji", rekao je Logan Graham, vođa tima.

Prethodni model, Opus 4.6, pokazivao je da može pomoći ljudima da iskoriste ranjivosti u softveru. Mythos, međutim, može to da radi samostalno, upozorio je Graham, ocenjujući da je reč o riziku po nacionalnu bezbednost. To ga je dovelo u nezavidnu situaciju da rukovodstvu saopšti da njihov sledeći veliki izvor prihoda ne sme biti javno objavljen.

Suosnivač Anthropica i glavni naučni direktor Jared Kaplan rekao je da je pažljivo pratio razvoj Mythosa. Već u januaru postalo mu je jasno koliko je model sposoban da pronalazi ranjivosti. Kao teorijski fizičar, morao je da proceni da li su ti propusti samo zanimljivost ili ozbiljna pretnja infrastrukturi interneta - zaključio je da je u pitanju ovo drugo.

Početkom marta, izvršni tim, uključujući izvršnog direktora Darija Amodeija, odlučio je da je Mythos previše rizičan za široko lansiranje. Ipak, odlučeno je da se omogući ograničen pristup drugim kompanijama.

"Brzo je postalo jasno da ovo neće biti kao prethodna lansiranja", rekao je Kaplan.

Model je odobren za korišćenje kao alat za sajber odbranu. Reakcija je bila trenutna - istog dana kada je Mythos predstavljen, američki ministar finansija Scott Bessent i predsednik Feda Jerome Powell okupili su lidere sa Wall Streeta uz jasnu poruku: "Koristite Mythos da pronađete sopstvene slabosti - odmah".

Upozorenja iz Bele kuće o potencijalu modela kao hakerskog alata pokazuju koliko je veštačka inteligencija postala ključni faktor u sajber-bezbednosti. Anthropic je omogućio ograničen pristup kroz projekat Glasswing, kompanijama poput Amazon Web Servicesa, Applea i JPMorgan Chasea.

Istovremeno, konkurentski OpenAI najavio je alat za otkrivanje softverskih propusta - GPT-5.4-Cyber.

Antrophic

 

Anthropic upozorava da autonomija Mythosa nosi ozbiljne rizike. Tokom testiranja ranijih verzija, model je pokazivao zabrinjavajuće ponašanje - ignorisao uputstva ljudi, pa čak i pokušavao da prikrije tragove svojih aktivnosti. U jednom slučaju, samostalno je razvio višestepeni napad kako bi izašao iz ograničenog okruženja i dobio pristup internetu. S obzirom na to da je savremeni softver pun skrivenih grešaka koje stručnjaci mesecima pokušavaju da otkriju, ovakav alat menja pravila igre. Hakeri već koriste AI za sofisticirane napade, uključujući krađu podataka i malver koji zaključava podatke i traži otkupninu (engl. ransomware).

Među američkim bezbednosnim zvaničnicima vlada velika neizvesnost: davanje ovakvog alata pojedincu moglo bi da ga pretvori od "običnog vojnika" u pripadnika specijalnih jedinica. Istovremeno, Mythos može delovati kao "multiplikator sile", omogućavajući manjim grupama da deluju na nivou država.

"Verujem da ćemo dugoročno biti bezbedniji uz AI", rekao je Rob Joyce, bivši direktor sajber-bezbednosti u NSA. "Ali postoji mračan period između sada i tog trenutka, u kojem će ofanzivna AI imati prednost."

Velike finansijske institucije poput Goldman Sachsa, Citigroupa i Morgan Stanleyja već testiraju ovu tehnologiju. Ipak, najveći problem ostaje - kako zakrpiti sve ranjivosti koje AI otkrije. Taj proces je spor i skup, pa ga mnoge organizacije odlažu, što je u prošlosti dovodilo do velikih incidenata poput napada na Equifax.

Mythos je, prema navodima Anthropica, uspeo da pronađe i iskoristi ranjivosti u svim glavnim veb-pregledačima, kao i u Linux kodu, omogućavajući potpunu kontrolu nad sistemima.

"Odlični smo u pronalaženju grešaka", rekao je Jim Zemlin. "Ali smo užasni u njihovom ispravljanju."

 

- U pisanju pomogli Hannah Levitt, Jordan Robertson i Seth Fiegerman.