OpenAI

Gubimo li kontrolu nad AI-jem i šta podstiče nove strahove

Dok se veštačka inteligencija razvijala od nečega što smo gledali u naučno-fantastičnim filmovima do aplikacije na mobilnim telefonima, tehnološki lideri i pojedini ljudi iz AI industrije upozoravali su da bi ona mogla da izmakne ljudskoj kontroli. Te strahove više nije moguće ignorisati.

Akcije SoftBanka pale posle upozorenja čelnika AI firmi o bezbednosti

Akcije SoftBanka pale su za više od 13 odsto nakon upozorenja čelnika OpenAI-ja i Anthropica o bezbednosnim rizicima AI-ja.

Anthropic i OpenAI žele da uspore AI trku, Wall Street i Trump se bune

Dve kompanije, koje razvijaju najmoćnije AI sisteme na svetu, obećavaju mere za ograničavanje trke u razvoju najnaprednijih AI modela kako bi se bolje razumeli rizici koje ta tehnologija nosi, nakon niza bezbednosnih incidenata.

Altman: OpenAI neće izaći na berzu 2026, bezbednost na prvom mestu

OpenAI ove godine neće izaći na berzu, jer će se usredsrediti na rešavanje pitanja bezbednosti u vezi sa veštačkom inteligencijom, rekao je izvršni direktor te kompanije Sam Altman.

Amodei, Altman i Musk pozivaju na usporavanje razvoja AI modela

Lideri najvećih svetskih kompanija za razvoj veštačke inteligencije (AI) poručili su da je vreme da se uspori razvoj njihovih najnaprednijih i najprofitabilnijih modela, upozoravajući na sve veće rizike koje ta tehnologija nosi.

Altman zaposlenima: OpenAI je spreman da uspori razvoj najnaprednije veštačke inteligencije

Glavni naučnik OpenAI-ja Jakub Pachocki upozorio je na opasnosti veštačke inteligencije i poručio da kompanije treba da "koordinišu usporavanje budućeg razvoja kada je to potrebno", sve dok ne budu uspostavljeni zajednički bezbednosni standardi.

OpenAI predstavlja finansijski alat prilagođen investicionim bankarima

OpenAI predstavlja ChatGPT za finansijske usluge, alat koji kombinuje GPT-6 Astru sa finansijskim podacima kako bi bankarima i analitičarima olakšao istraživanja i izradu finansijskih modela.

Vodeći naučnik OpenAI-ja poziva na 'krajnji oprez' zbog brzine razvoja AI-ja

Vodeći naučnik OpenAI-ja Jakub Pachocki upozorava da razvoj veštačke inteligencije postaje sve teže razumeti i kontrolisati i očekuje da će AI laboratorije dobrovoljno usporavati razvoj.

Silicijumska dolina stvorila je AI. Sad se boji sopstvenog izuma

Tehnološka industrija suočava se sa sve većim nepovjerenjem javnosti dok i neki od njenih najpoznatijih ljudi otvoreno upozoravaju na rizike veštačke inteligencije.

OpenAI predstavio GPT-6 Astra s dodatnim zaštitama

OpenAI uvodi novu generaciju svoje tehnologije, nazvanu GPT-6, za koju navodi da predstavlja važnu prekretnicu u njegovim desetogodišnjim naporima da razvije takozvanu opštu veštačku inteligenciju (AGI).

Prijavljeni prekidi u radu vodećih AI modela OpenAI-ja, Anthropica i SpaceXAI-ja

Kompanije OpenAI, Anthropic PBC i SpaceXAI imale su u četvrtak prekide u radu svojih AI modela, sudeći po prijavama korisnika i stranicama tih kompanija o statusu usluga.

Nvidia će investirati do 105 milijardi dolara u OpenAI data centar

Nvidia će podržati sa čak 105 milijardi dolara ogromni OpenAI data centar u Ohaju, dodatno produbljujući finansijske veze dve ključne kompanije AI buma.

OpenAI spreman da premaši 40 milijardi dolara godišnjeg prihoda

To je otprilike dvostruko više u odnosu na godišnji tempo prihoda na kraju 2025. i dodatno podržava planove kompanije za izlazak na Wall Street.

Modeli OpenAI-ja i Anthropica pali na testu - hakovali sajtove i pokušali da ubace zlonamerni kod

Modeli veštačke inteligencije kompanija OpenAI i Anthropic tokom bezbednosnih testiranja samostalno su hakovali internet stranicu, pokušali da ubace zlonamerni kod u projekat na GitHubu i kreirali lažne identitete kako bi prikrili svoje aktivnosti.

OpenAI-jevi odbegli agenti zapravo su užasni provalnici

Uprkos strahovima od hakerskih napada veštačke inteligencije, stvarni primeri pokazuju da su AI agenti i dalje previše uočljivi i nepouzdani da bi ozbiljnije ugrozili sajber-bezbednost.

Da li AI agenti izmiču kontroli? Otvoreno novo pitanje bezbednosti

Strah da je AI već van ljudske kontrole proteklih dana dobio je novi podstrek kada je OpenAI izvestio da je tokom internog testiranja svojih novih AI modela softver samostalno hakovao svoj put u sisteme druge kompanije za veštačku inteligenciju da bi je napao.

Autor: Nenad Radičević