DeepSeek testira efikasniji i bezbedniji način za obuku AI agenata

Kineski DeepSeek predstavio je inovativan način za obuku agenata veštačke inteligencije (engl. artificial intelligence - AI), koji bi im potencijalno omogućio da uče efikasnije, uz istovremeno smanjenje rizika od nepoželjnog ponašanja koje je izazvalo zabrinutost širom sveta.

Kompanija sa sedištem u Hangdžouu predstavila je ideje za DeepSeek Elastic Compute, odnosno DSec, u radu od 10.000 reči sa oko 130 autora, među kojima je i osnivač Liang Wenfeng. Istraživanje je objavljeno na arXiv-u, onlajn platformi za naučne radove koji se obično objavljuju pre stručne recenzije.

DeepSeek je saopštio da bi tehnološka platforma mogla da bude projektovana za rad sa milionima takozvanih izolovanih okruženja, u kojima bi se AI agenti testirali dok pokušavaju da izvrše niz zadataka. Jedna proizvodna jedinica DSec-a mogla bi da pokrene oko tri miliona izolovanih okruženja dnevno, odnosno 380.000 istovremeno, navodi kompanija.

Kompanija je dodala da njen pristup može efikasnije da koristi resurse jer računarsku snagu preusmerava agentima kada su aktivni, a ne dok čekaju dodatna uputstva. Procjenjuje da 90 odsto testnih okruženja koristi najviše pet odsto traženog kapaciteta centralne procesorske jedinice, odnosno CPU-a. DeepSeek je izgradio reputaciju pružanjem naprednih AI usluga po tek deliću troškova svojih rivala iz Silicijumske doline.

Agentni AI, koji se oslanja na virtuelne agente za izvršavanje složenih zadataka uz manju ljudsku uključenost, postaje sve popularniji za sve - od rezervisanja hotelskih soba i avionskih karata do pisanja softverskog koda. Nova AI aplikacija kompanije Meta Platforms Inc. Muse ove nedelje je izbila na vrh rang-lista mobilnih aplikacija, dok korisnici sve više koriste uslugu za kupovinu i rezervisanje u restoranima.

Međutim, mogućnost da AI agenti samostalno preduzimaju radnje izazvala je zabrinutost širom sveta zbog rizika koje ova tehnologija nosi, posebno nakon niza incidenata u kojima je tehnologija izašla iz svojih testnih okruženja i provalila na veb-sajtove. Istraživač AI-ja u kompaniji Anthropic PBC podneo je ovog meseca ostavku i pozvao druge zaposlene da preispitaju svoj rad, rekavši da se naprednije AI kompanije "kockaju našim životima".

DeepSeek je saopštio da su, prema njegovom iskustvu, agenti na zadatku "nepouzdani" i da platforma DSec zahteva pažljivo praćenje.

"Agenti mogu da oštete sisteme datoteka, iscrpe resurse ili ometaju sistemske komponente, što potencijalno može poremetiti pokretanje sistema ili druga opterećenja koja se izvršavaju na istom sistemu", napisali su autori. "Platforma zato zahteva detaljnu kontrolu pristupa i analizu nepredviđenog ponašanja kako bi se ograničili i dijagnostikovali kvarovi izazvani agentima."

U radu se dalje navode primeri nepredviđenog ponašanja agenata, uključujući dolaženje do odgovora putem "nepredviđenih kanala" i oštećivanje radnog okruženja.

"Nijedan pojedinačni mehanizam ne može da spreči svako nepredviđeno ponašanje agenata i kvarove sistema", navodi se u radu. "Zato jačamo mogućnosti praćenja kako bismo identifikovali probleme u nastajanju i kontinuirano unapređivali DSec kako se modeli budu razvijali."