Kada AI agent postane sajber-rizik

OpenAI, Anthropic i Meta su nedavno objavili da su njihovi AI agenti, u kontrolisanom test okruženju, samostalno izveli radnje koje bi u tradicionalnom modelu bile klasifikovane kao sajber-napad, bez direktne ljudske komande i bez prijavljene štete. Sajber osiguravači sada moraju da odluče da li postojeće polise uopšte prepoznaju takav događaj, u trenutku kada region tek počinje da gradi osnovnu sajber-zaštitu kao proizvod.

Zašto tradicionalna sajber-polisa više nije dovoljna
 

Sajber polise su godinama bile zasnovane na jasnom incidentu: ukradenim pristupnim podacima, spoljnom napadu na server ili ransomveru koji blokira sistem dok kompanija ne plati otkup. Problem nastaje kada AI agent napravi štetu koristeći upravo ona ovlašćenja koja mu je kompanija legitimno dala. Karthik Ramakrishnan, direktor kompanije Armilla, koja se bavi isključivo osiguranjem AI rizika, teže slučajeve opisuje kao one bez konvencionalnog napadača i bez neovlašćene upotrebe pristupnih podataka.

Analitička kuća Verisk upozorava na drugačiji problem, sistemski rizik: ako veliki broj kompanija koristi isti AI model, greška u tom modelu može odjednom da napravi štetu svima, što bi osiguravači mogli da tretiraju kao poseban razlog da takav slučaj isključe iz polise.

Deo problema je i to što industrija još nema dovoljno podataka iz prošlosti da tačno odredi cenu ovog rizika, čak ni programeri AI agenata, kaže istraživač kompanije Rand Sasha Romanosky, još uvek ne znaju šta tačno njihovi sistemi mogu da urade. Tržište sajber-osiguranja, koje danas vredi oko 15 milijardi dolara, prema projekcijama bi do 2030. moglo da naraste na 28 milijardi.  

AI agenti time ulaze direktno u pitanja korporativnog upravljanja, odgovornosti i kontrole pristupa. Osiguravači će verovatno sve više gledati da li kompanija može jasno da pokaže koje sisteme agent koristi, koje odluke sme da donese i gde je obavezna ljudska kontrola. Za Adria region taj problem ima dodatni sloj: dok razvijena tržišta pokušavaju da prilagode postojeće polise novim AI rizicima, deo regiona tek gradi osnovnu ponudu sajber-osiguranja.

Region gde se osnovno sajber-osiguranje tek gradi
 

Dok se globalno raspravlja kako klasifikovati štetu koju napravi agent sa legitimnim pristupom, u Bosni i Hercegovini se raspravlja da li kompanija uopšte može da kupi sajber-polisu. Kerim Hrustanović, izvršni direktor brokerske kuće ANO Insurance Solutions, objašnjava da lokalno tržište u BiH još uvek nema razvijenu ponudu ove vrste zaštite, pa je firmama teško da uopšte pronađu osiguravača voljnog da preuzme takav rizik.

Srbija, Bosna i Hercegovina i Severna Makedonija nemaju državni zakon kojim se uslovljavaju određene bezbednosne mere protiv sajber-rizika za privatne firme. Hrvatska i Slovenija su u drugačijoj poziciji zbog strožeg regulatornog okvira EU. Obaveze koje proizlaze iz direktive NIS2 odnose se na više od 3.000 kompanija u Hrvatskoj i zahtevaju ozbiljnije upravljanje sajber-rizikom, uz moguće kazne do deset miliona evra. NIS2 ne zahteva kupovinu sajber-osiguranja, ali veći pritisak na kompanije da mere i kontrolišu rizik može posredno da podstakne tražnju za takvim polisama.

Za kompanije u regionu koje uvode AI agente zato se spajaju dva problema. Prvi je nov: agent može da napravi štetu bez klasičnog napadača, koristeći ovlašćenja koja već ima. Drugi je stariji: tržište sajber-osiguranja u delu regiona još nije dovoljno razvijeno da kompanijama ponudi široku finansijsku zaštitu od takvih događaja.

U SAD i Zapadnoj Evropi pitanje je kako postojeće polise prilagoditi AI agentima. U delu Adria regiona pitanje je šire: da li odgovarajuća polisa uopšte postoji i šta ona pokriva. Kompanija koja uvodi AI agente zato mora da zna i kojim sistemima oni mogu da pristupe, i ko snosi trošak ako nešto pođe po zlu.