text size
OpenAI odlaže verziju svog modela Astra, dok uvodi strože zaštitne mere za razvoj veštačke inteligencije (engl. artificial intelligence - AI), upozoravajući na povećane rizike nakon niza nedavnih incidenata u kojima su AI sistemi neovlašćeno izvodili hakerske napade.
Saachi Jain, rukovodilac OpenAI-ja za bezbednosne sisteme, rekao je da model GPT-6.1 Astra, koji je još u razvoju, nije bio dovoljno dobar u pogledu "ostajanja u okviru zadatog obima i ovlašćenja, kao i načina na koji korisniku saopštava kakav je posao obavio".
Odluke OpenAI-ja odražavaju sve izraženiju raspravu o potrebi da se razvoj AI-ja uspori dok se procenjuju opasnosti te tehnologije. Obustava Astre jedna je od konkretnijih mera preduzetih posle niza incidenata u kojima su njegovi modeli pristupali veb-sajtovima trećih strana bez ovlašćenja. U utorak je kompanija koja razvija ChatGPT predstavila ono što naziva "bezbednosnim slučajevima za obuku AI-ja", čiji je cilj dokumentovanje rizika povezanih s novim modelima.
Opširnije
AI industrija moraće da ostvari šest biliona dolara prihoda da opravda ulaganja
Globalna industrija veštačke inteligencije (AI) moraće da ostvaruje godišnje šest biliona dolara prihoda do 2031. godine kako bi opravdala ulaganja u izgradnju data centara širom sveta, navodi konsultantska kompanija Bain & Co.
pre 6 sati
Nvidia predstavila sistem za sprečavanje AI agenata da izmaknu kontroli
Nvidia Corp. predstavlja dvostruki sistem za bezbednost veštačke inteligencije koji je mogao da spreči veliki bezbednosni incident na platformi Hugging Face, koji su izazvali OpenAI-jevi AI modeli.
pre 21 sat
Australijski senat pozvao Altmana na saslušanje
Australijski senat pozvao je direktore OpenAI-ja i Anthropica na saslušanje o širenju njihovog poslovanja u zemlji, nakon što je otkriveno da su AI modeli pristupali podacima na sajtu australijske vlade.
27.09.2026
Humanoidni robot košta 98.000 evra. Koliko košta njegov sat rada?
Humanoidni roboti stižu u fabrike, ali njihova kupovna cena ne govori koliko košta njihov rad. Bez podataka o zastojima, servisiranju i stvarnom broju radnih sati, teško je proceniti da li se ulaganje isplati.
pre 11 sati
Kompanija ih je opisala kao skup najboljih praksi koje bi trebalo pretočiti u okvir pravila. Zaštitne mere trebalo bi da uključe mogućnost viših rukovodilaca da stave veto na određene aktivnosti.
"Naravno, želimo da budemo sigurni da je razvoj naših modela bezbedan, bilo da se odvija unutar kompanije ili nakon što modele ponudimo korisnicima", naveo je Jain u saopštenju. "Ali kada ih pustimo korisnicima, imamo izuzetno visok prag kada je reč o bezbednosti i usklađenosti."
OpenAI je prošle nedelje obustavio obuku svojih najmoćnijih modela nakon što je još jedan AI model pristupio internetu iako je trebalo da bude onemogućen za to. Kompanija je tada saopštila da je odlučila i da ne nastavi obuku tog konkretnog modela, koji je posle dobijanja pristupa internetu poslao upit eksternom četbotu. OpenAI je u ponedeljak saopštio da se model Astra, čije je objavljivanje otkazano, razlikovao od modela opisanog prošle nedelje.
Odvojeno od toga, kompanija se u utorak izvinila zbog toga što su njeni AI modeli pristupili veb-sajtovima australijske vlade i obećala da će formirati novu radnu grupu sa lokalnim stručnjacima za tu zemlju. OpenAI šalje direktora za strategiju Jasona Kwona na sednicu odbora sa lokalnim zakonodavcima o AI-ju početkom oktobra.
OpenAI bi u utorak trebalo da održi svoju godišnju konferenciju za programere u San Francisku - jednodnevni događaj na kojem OpenAI obično predstavlja novi softver i funkcije namenjene zajednici softverskih programera. Izvršni direktor Sam Altman trebalo bi da govori ujutru.
The Wall Street Journal je ranije izvestio o obustavljenom lansiranju GPT-6.1 Astre.
(Ažurirano novim smernicama OpenAI-ja u prvom pasusu.)
.webp){kind=icon}
