OpenAI saopštio da je slučajno hakovao Hugging Face

OpenAI je saopštio da su njegovi napredni modeli veštačke inteligencije nenamerno hakovali kompaniju Hugging Face Inc. u "incidentu bez presedana", što je ponovo otvorilo pozive za uvođenje strožih ograničenja za ovu tehnologiju.

Kompanija koja stoji iza ChatGPT-ja navela je u objavi na blogu u utorak da su modeli tokom procene svojih sajber-sposobnosti provalili u sistem kompanije Hugging Face, koja hostuje modele veštačke inteligencije i baze podataka. Kako je saopšteno, modeli, među kojima su bili GPT-5.6 Sol i još jedan (još napredniji model koji još nije objavljen), radili su sa ublaženim bezbednosnim ograničenjima kako bi mogli da budu testirani.

Incident otvara pitanja o sposobnosti naprednih modela veštačke inteligencije da izvode sajber-napade, u trenutku kada vlast pokušava da uvede zaštitne mehanizme za ovu tehnologiju. OpenAI je svoju najnoviju grupu modela objavio za širu javnost tek nakon višenedeljnih razgovora sa predstavnicima vlasti, kako bi ublažio zabrinutost zbog mogućih zloupotreba. Vlast u Vašingtonu razmatrala je ograničavanje pristupa iz inostranstva naprednim modelima Claude Fable 5 i Mythos 5 kompanije Anthropic PBC, ali je odustala od tih ograničenja nakon što je kompanija uvela dodatne zaštitne mehanizme.

"Ovo smatramo sajber-incidentom bez presedana, koji uključuje najsavremenije sajber-sposobnosti, i u skladu s tim reagujemo", naveo je OpenAI u objavi na blogu. "U ovoj fazi delimo preliminarne nalaze kako bismo pomogli stručnjacima za odbranu da razumeju šta se dogodilo i da procene za šta su modeli sada sposobni."

Iako su OpenAI-jevi modeli radili u takozvanom izolovanom okruženju za testiranje ("sandbox"), iskoristili su ranjivost u softveru neimenovanog spoljnog dobavljača kako bi pristupili internetu i na kraju probili infrastrukturu kompanije Hugging Face.

Kongresmen iz Teksasa Greg Casar, član Demokratske stranke, napisao je na mreži X da je incident "izuzetno alarmantan" i pozvao na stroži nadzor razvoja modela veštačke inteligencije, uključujući obavezna bezbednosna testiranja i obavezno prijavljivanje bezbednosnih incidenata.

Prošle sedmice Hugging Face je prijavio upad u svoj sistem, navodeći u objavi na blogu da se proboj razlikovao "od svega sa čim smo se ranije susreli po jednom važnom pitanju: od početka do kraja ga je izveo autonomni sistem agenata veštačke inteligencije, a otkrili smo ga i analizirali uglavnom pomoću sopstvene veštačke inteligencije".

OpenAI je saopštio da je modelima zadao da sprovedu "naprednu eksploataciju" i razviju "složene puteve napada" kako bi procenio njihove sajber-sposobnosti. Umesto da samostalno razviju rešenja, modeli su pokušali da pristupe bazi podataka kompanije Hugging Face kako bi došli do poverljivih informacija koje bi mogli da iskoriste tokom procene.

Anthropic je ranije ove godine izneo slična zapažanja kada je odlučio da u početku ograniči objavljivanje modela Mythos. U jednom slučaju istraživač je zatražio od rane verzije modela da pokuša da pobegne iz bezbednog, izolovanog računarskog okruženja, a zatim pronađe način da pošalje poruku istraživaču koji joj je zadao taj zadatak. Mythos je u tome uspeo, ali je zatim nastavio sa "dodatnim, još više zabrinjavajućim radnjama", razvijajući višefazni način eksploatacije koji mu je omogućio širok pristup internetu.

(Dodat komentar kongresmena iz Teksasa.)