Agent OpenAI-ja hakovao državni zdravstveni sajt u Australiji

Model kompanije OpenAI početkom ove godine hakovao je sajt australijske vlade, što predstavlja jedan od prvih slučajeva, poznatih javnosti, da je veštačka inteligencija (AI) izvela sajbernapad na državnu bazu podataka.

AI sistem je neovlašćeno pristupio fajlovima na sajtu za prijavljivanje statističkih podataka o zdravstvu, rekao je u četvrtak australijski premijer Anthony Albanese. Nema dokaza da su u napadu 18. juna ugroženi lični podaci australijskih građana, rekao je Albanese u Njujorku.

Vest o napadu objavljena je samo nekoliko sati nakon što su čelnici kompanija za veštačku inteligenciju pozvali svetske lidere da zajednički rade na sprečavanju mogućnosti da AI sistemi izmaknu ljudskoj kontroli. Napad na državni sajt dodatno skreće pažnju na taj rizik, nakon niza incidenata koji su se desili ovog leta kada su modeli OpenAI-ja prodrli u onlajn resurse drugih kompanija, među kojima je najpoznatiji slučaj platforme Hugging Face, koja hostuje skupove podataka za AI.

"Ovo je prvi javno poznat slučaj da je neki državni sistem probijen uz pomoć AI modela, bez naloga zlonamernih aktera", rekao je Charles Li, glavni analitičar tajvanske istraživačke grupe za sajber-bezbednost TeamT5.

Vlada je zabrinuta i zbog toga što je OpenAI mesecima čekao da obavesti Kanberu o incidentu, rekao je potpredsednik vlade Richard Marles. Istraga o upadu je u toku kako bi se utvrdilo šta se dogodilo i da li je prekršen neki zakon, dodao je on.

"Ovo je upozorenje na rizike tehnologije koja se razvija bez odgovarajućih zaštitnih mehanizama i ograničenja", rekao je Marles u četvrtak u Sidneju i dodao da je ovakav upad "potpuno neprihvatljiv".

Ovaj incident jedan je u nizu nedavnih sajber-napada koje su izveli AI modeli kompanija OpenAI, Anthropic i Meta Platforms, što je izazvalo opštu zabrinutost zbog rizika koje nosi sve moćnija tehnologija.

Zabrinutost zbog egzistencijalnih rizika veštačke inteligencije dodatno je porasla ovog meseca nakon što je Anthropic napustio Jacob Coxon, koji je u objavi na društvenim mrežama prilikom odlaska optužio AI kompanije da se "kockaju našim životima".

Anthony Albanese, premijer Australije/Bloomberg

Tokom maja i juna, AI modeli za koje se veruje da potiču iz OpenAI-ja bezuspešno su pokušali da hakuju sajtove još tri pružaoca javno dostupnih podataka, navodi istraživačka kompanija Transluce. Istraživač je rekao da su agenti to radili tokom pokušaja da obave relativno uobičajene zadatke preuzimanja podataka koji nisu bili povezani sa sajber-napadima.

"Agenti su pokušali da hakuju te sajtove kada drugi načini prikupljanja podataka koji su im bili potrebni nisu uspeli", navodi Transluce na svom sajtu. "Važno je napomenuti da zadaci koje su agenti pokušavali da obave nisu bili povezani sa sajber-napadima; agenti su pribegli hakerskim metodama dok su radili na uobičajenim zadacima prikupljanja podataka."

Marles je rekao da je napad na Australiju prvi poznati slučaj da je neki AI model dobio pristup državnim sistemima. Model je ušao na četiri veb-sajta državnih i federalnih institucija tražeći podatke, ali je samo jedan od njih hakovao, rekao je on.

Albanese je rekao da je OpenAI čekao tri meseca da obavesti Kanberu o neovlašćenom pristupu. OpenAI je saopštio da je od otkrivanja upada u avgustu do obaveštavanja australijske vlade 10. septembra proveravao činjenice i istraživao kojim informacijama je pristupljeno.

Premijer je rekao da je razgovarao sa Altmanom kako bi izrazio "izuzetnu zabrinutost zbog ovog incidenta".

"Takođe sam izrazio razočaranje što je kompaniji trebalo previše vremena da obavesti vladu o onome što se dogodilo", rekao je Albanese na konferenciji za novinare na marginama Generalne skupštine Ujedinjenih nacija.

AI sistem je dobio zadatak da pronađe određene informacije, a "postojale su jasne prepreke koje su govorile AI agentu: ne. AI agent je pronašao način da zaobiđe te prepreke", rekao je Albanese. "Model je pokušao na druge načine da dođe do informacija koje je tražio, što je dovelo do neovlašćenog pristupa drugim delovima sistema."

U toku je forenzička istraga, uz pomoć Australijske direkcije za signale (ASD), službe za sajber-bezbednost, kako bi se utvrdilo više detalja o napadu.

OpenAI je u saopštenju naveo da je njegova "opsežna provera neusklađenih aktivnosti modela" otkrila radnje koje su uključivale "nekoliko veb-sajtova i servisa australijske vlade". Modeli su im pristupili pokušavajući da pronađu statističke podatke potrebne za odgovore na pitanja o Australiji tokom interne procene.

"Tokom tog procesa, naši modeli su preduzeli radnje koje nismo nameravali", rekao je portparol OpenAI-ja u saopštenju.

Albanese je rekao da mu je potrebno uveravanje da postoje odgovarajući protokoli za upravljanje veštačkom inteligencijom.

"Gospodin Altman je svakako priznao - a pozvao sam ga i na dalje razgovore, da njihovi protokoli u ovom slučaju nisu bili dovoljno dobri", rekao je Albanese.

Komentari australijskog premijera usledili su u trenutku kada OpenAI poziva SAD da predvode globalne napore na uspostavljanju standarda za veštačku inteligenciju.

Tehnologija konkurentskog Anthropica takođe se našla u centru pažnje zbog slučaja narušavanja onlajn bezbednosti. Istraživači u oblasti sajber-bezbednosti navode da je haker prošle godine koristio njihov model Claude za niz napada na meksičke državne institucije, pri čemu je ukradena velika količina osetljivih poreskih podataka i podataka o biračima.

Amodei i Altman izrazili su zabrinutost zbog mogućnosti da sistemi veštačke inteligencije koji mogu sami sebe da unapređuju nadmaše sposobnost ljudi da ih nadziru i kontrolišu.

- U pisanju pomogli Rachel Metz, Mark Anderson, Newley Purnell i Peter Vercoe