text size
Uprkos svom strahu koji je izazvala vest da su modeli veštačke inteligencije nedavno pobegli iz svojih sistema i odlučili da hakuju konkurenta, vredi znati da su obavili prilično loš posao u prikrivanju svojih tragova. Štaviše, bili su izuzetno bučni.
Sredinom jula, stranica za veštačku inteligenciju Hugging Face primetila je nagli porast aktivnosti na svojim sistemima: više od 17.000 odvojenih napadačkih akcija i upita koje su generisali OpenAI-jevi odbegli agenti. Dobar provalnik obilazi kuću i traži otključan prozor. Ovo je više ličilo na provaljivanje kroz prednja vrata usred bela dana.
Kratkoročna uteha dobro će doći onima koje su uznemirile sposobnosti sajber napada najnaprednijih AI sistema na svetu, čije su navodne moći tehnološkim kompanijama dale oreol opasnog glamura. Baš kao što je Anthropicov Mythos pronašao hiljade ranije nepoznatih ranjivosti u softveru drugih kompanija ili kao što su OpenAI-jevi autonomni agenti podivljali na internetu, AI sistemi sami po sebi nisu naročito prikriveni niti su preterano korisni kada njima upravlja sajber kriminalac.
Na primer, kada deluju sami, kao što su to učinili OpenAI-jevi modeli, nedostaje im bilo kakva stvarna prikrivenost. Istraživači u kompaniji za sajber bezbednost Sophos Ltd. pokušali su da puste agenta iz AI alata OpenClaw unutar izolovane interne mreže i otkrili da je, iako je izveo impresivne stvari, to učinio pred očima svih. "Svi dokazi koje smo videli iz nekih internih testiranja pokazuju da je AI veoma bučan kao protivnik", kaže Rafe Pilling, direktor odeljenja za analizu pretnji u Sophosovoj jedinici Counter Threat Unit. "Prikriven svakako nije."
Sve što se događa na računarskoj mreži, prijava korisnika, otvaranje datoteka ili pokretanje programa, vidljivo je u njenom saobraćaju, a moderni bezbednosni softver prati taj saobraćaj u potrazi za neuobičajenim znakovima koji ukazuju na mogući napad. Ljudski haker kretaće se polako i stopiti se sa okruženjem, čineći svoj saobraćaj što je moguće uobičajenijim. AI sistemi, s druge strane, imaju strpljenje i prikrivenost malog deteta. Stvari rade izuzetno brzo i generišu ogromnu količinu aktivnosti, zbog čega su OpenAI-jevi agenti već posle nekoliko dana aktivirali alarme u Hugging Faceu.
Ovaj nedostatak prikrivenosti nije opšte poznat jer se obično ne meri. Britanski Institut za bezbednost veštačke inteligencije (AI Security Institute), koji je pomogao da se potvrde sposobnosti Mythosa, testira koliko dobro AI modeli mogu da hakuju, ali ne i koliko su prikriveni, kaže Pilling. Ukazuje na primer hakera koji je pokušao da upotrebi AI za generisanje zlonamernog softvera kako bi zaobišao Sophosov odbrambeni softver. Operacija je bila dovoljno bučna da je Sophosov alat označio zlonamerne datoteke i zaustavio hakerski napad.
Sajber kriminalci uglavnom smatraju da je rad sa AI-jem težak. Postali su skeptični prema njegovom uključivanju u svoj rad, pa se na internet forumima žale na halucinacije, pretnju sopstvenom poslu - posebno pisanju zlonamernog softvera i skripti po narudžbini - kao i na sklonost AI-ja da povlađuje i govori korisnicima ono što žele da čuju.
Jedan kriminalni haker nedavno je pokušao da upotrebi AI alat za kodiranje kako bi napravio zlonamerni softver, prema navodima Sophosa. Kada je naredio autonomnim agentima da provere može li novi zlonamerni softver da radi na korporativnoj mreži, a da ne bude primećen, agenti su ga izvestili da može. Međutim, to nije bila istina. Bezbednosni softver otkrio je uljeza, a činilo se da su agenti jednostavno izmislili odgovor koji je njihov šef želeo da čuje.
I srećno svima koji žele da upotrebe najnaprednije frontier modele kompanija Anthropic ili OpenAI u zlonamerne svrhe. Ograničenja na najnovijim alatima tih kompanija toliko su stroga, sa ciljem sprečavanja njihove zloupotrebe, da Hugging Face nije mogao da ih upotrebi čak ni za odbranu od upada OpenAI-jevih agenata. Umesto toga, morali su da pribegnu kineskom open-weight modelu - tako nazvanom jer je besplatan i svako sa njim može da radi šta želi - kompanije Z.ai.
Ali loši akteri ne mogu tako lako da koriste ni te open-weight modele. I dalje bi morali da kupe skupu računarsku snagu za njihovo pokretanje, sa specijalizovanim čipovima, kao i da imaju odgovarajući softver i talentovane inženjere koji bi sve to održavali. To stavlja šefove sajber kriminala pred istu dilemu sa kojom se suočavaju finansijski direktori širom sveta: Da li je korišćenje AI-ja jeftinije ili profitabilnije od onoga što već radimo sa ljudima?
Za mnoge bande odgovor je ne. Većini sajber kriminalaca nedostaju veštine, vreme i novac da bi AI učinili zaista korisnim, prema pregledu više od 100 miliona poruka sa kanala mračnog veba (dark web) koji su u martu 2026. sproveli istraživači sa univerziteta Cambridge, Edinburgh i Strathclyde. Najveća poboljšanja zabeležena su u upravljanju botovima na društvenim mrežama radi prevara i uznemiravanja.
"U praksi vidimo veoma malo stvarnog poremećaja u osnovnom ekosistemu niskog nivoa sajber kriminala izazvanog ovim tehnologijama", pišu istraživači u svojoj studiji. "Uprkos značajnom interesovanju za generativnu veštačku inteligenciju u sajber podzemlju, ona nije značajno smanjila prepreku u pogledu potrebnih veština za ulazak, niti je dovela do ozbiljnih poremećaja u ustaljenim poslovnim modelima ili praksama."
Naravno, brz napredak AI-ja znači da je verovatno samo pitanje vremena kada će modeli postati prikriveniji i bolji u prilagođavanju potrebama mrežnih Moriartyja. Pilling smatra da ćemo u narednih 18 meseci videti više kriminalne upotrebe AI-ja. Međutim, u ovom trenutku strahove više pokreće preterani medijski hajp nego stvarne činjenice.
.webp){kind=icon}
