Veštačka inteligencija može da bude saveznik, ali i oružje hakera

Dok hakeri treniraju svoje algoritme da budu brži od svetlosti, Srbija pokušava da im stane na kraj – zakonom. Novi Zakon o informacionoj bezbednosti, o kojem se govori već neko vreme, sada menja pravila igre i menja način rada velikom broju sektora u državi. Ovaj zakon, zapravo, stiže u momentu kad veštačka inteligencija (engl. artificial intelligence - AI) preuzima prevlast u mnogim segmentima, pa i u sajber-bezbednosti. Stručnjaci kažu da nam promene tek slede.

 

Veštačka inteligencija danas menja gotovo svaku industriju, od medija do medicine, a globalne investicije u AI mere se u milijardama dolara. Tehnološke firme, podsetimo, troše ogromno bogatstvo na napredne čipove i data centre, ne samo da bi držale korak sa rastom upotrebe četbotova kao što su ChatGPT, Gemini i Claude, već i da bi se pripremile za fundamentalnu i disruptivnu promenu ekonomske aktivnosti sa ljudi na mašine.

Preciznije, AI ostavlja trag i na način rada napadača na mreže. Još preciznije, AI polako menja i način rada u sajber-bezbednosti u Srbiji. Upravo je to bila tema na ovogodišnjoj konferenciji Pulse360, koju sad već tradicionalno organizuje PULSEC - tehnološka kompanija specijalizovana za implementaciju naprednih rešenja za sajber-bezbednost.

Igor Pinter, direktor PULSEC-a, u izjavi za Bloomberg Adriju kaže kako u Srbiji svest o značaju sajber-bezbednosti raste. "Veštačka inteligencija može da bude vrlo dobar saveznik u sajber-odbrani. S druge strane, hakeri koriste AI za svoje napade, koji postaju sve brži."

 

 

S tim u vezi, dodaje on, novi Zakon o informacionoj bezbednosti i te kako će promeniti način sajber-odbrane. Barem na domaćoj sceni.

Novi zakon o informacionoj bezbednosti utiče na sve

Podsetimo, donošenje novog Zakona o informacionoj bezbednosti je pri kraju – o ovome se raspravljalo na sednici Narodne skupštine u četvrtak, 9. oktobra, nakon više meseci. Predviđa osnivanje Kancelarije za informacionu bezbednost, redefinisanje statusa operatora IKT sistema i uvodi obavezu godišnjih procena rizika od sajber-napada, prenose mediji.

"Ovaj zakon praktično donosi novu vrstu regulative, ne samo određenim kompanijama, već i u mnogom većem spektru kompanija narednih godina. Recimo – transportni sektor, infrastruktura, proizvodnja gasa, finansijski sektor potpašće pod regulacijama ovog zakona, kao i sve one kompanije koje sarađuju sa njima i sa Evropskom unijom."

Zakon o informacionoj bezbednosti je, ističe on, jako dobra osnova da se bezbednost u Srbiji podigne na mnogo viši nivo. "Za samo dve godine sajber-bezbednost će, kao oblast u Srbiji, biti povećana skoro dva i po puta. Iz tog razloga, očekujemo da će bezbednost svih srpskih kompanija morati da se podigne na neki viši nivo, da ne bismo imali slučajeve kao što su to bili ove ili prošle godine."

 

 

Podsetimo, Air Serbia u junu bila meta jakih sajber-napada i privremenih poremećaja u poslovnim procesima. Air Serbia je ranije ove godine uspešno odbila nekoliko talasa DDoS napada, ali je poslednji incident dublje pogodio infrastrukturu kompanije i moguće doveo do kompromitovanja ličnih podataka, pisala je tada Bloomberg Adria.

Krajem proleća, inače, više avio-kompanija pretrpelo je sajber-napade, među kojima su Hawaiian Airlines, WestJet i Qantas. Dana 28. juna, FBI je objavio na društvenim mrežama da je primetio kako sajber-kriminalna grupa Scattered Spider širi svoje ciljanje i na sektor avio-prevoza.

Javnosti je i poznat slučaj kad je finansijsko odeljenje poznatog preduzeća u Adria regionu 2023. godine dobilo zahtev od direktora da se hitno plate neke fakture na račun koji je bio napisan u tom imejlu. Sve je izgledalo regularno pa su zaposleni počeli da plaćaju fakture, koje su ukupno vredele više od pola miliona evra. Finansijska direktorka je nakon plaćanja obavestila direktora kompanije da je sve plaćeno. Srećom, zvali su banku, koja je uspela preko treće banke da zaustavi većinu platnog prometa, ali preduzeće je ostalo bez više od 50.000 evra. 

Kakva je uloga AI u sajber-bezbednosti

Jelena Zelenović Matone, specijalista za informacionu bezbednost i kreiranje politika, objasnila je koji su to tačno izazovi AI u pogledu sajber-bezbednosti. 

• Neovlašćen pristup - bez strogih kontrola, napadači mogu da izmene AI modele i time umanje njihovu pouzdanost;

• Manipulacija putem napada - napadi poznati kao prompt injection mogu da promene ponašanje AI sistema;

• Trovanje podataka - AI modeli su pouzdani samo onoliko koliko su pouzdani podaci na kojima su obučeni;

• Regulatorna usklađenost - Stalno promenljivi propisi zahtevaju jasna pravila upravljanja i veću transparentnost.

"Koristeći veštačku inteligenciju, u stanju smo da uvidimo određene anomalije u našim sistemima, i da na osnovu toga kreiramo solucije koje bismo iskoristili u firmama", kaže ona u izjavi za Bloomberg Adriju.

"AI nam pomaže tako da gledamo šablone ponašanja, mi ne samo da učimo kroz njih, već možemo da predvidimo određene scenarije koji bi mogli da se dogode u institucijama ili organizacijama. Drugim rečima, na osnovu tih scenarija možemo da sagledamo kako se ponašaju eksterni napadači na mreže", pojasnila je.

Na pitanje Bloomberg Adrije kako će u budućnosti AI da nam pomaže u sajber-bezbednosti, Zelenović Matone kaže da, kako se AI razvija, razvijaće se i novi aspekti sajber-bezbednosti. "Kao što AI napreduje za napadače, tako će napredovati i za 'nas koji smo na dobroj strani'. Neće biti lako, jer tehnologija sama od sebe ide veoma ubrzano. Recimo, stavite kvantne kompjutere i veštačku inteligenciju zajedno i imaćete mnogo veće probleme za budućnost."

Dobro je, precizira, što se svet koncentriše na AI. "Međutim, isto tako mislim da treba da podignemo svest na značaj kvantuma koji će tek uslediti u narednim decenijama", poentira ona u izjavi za Bloomberg Adriju.