Altman zaposlenima: OpenAI je spreman da uspori razvoj najnaprednije veštačke inteligencije

OpenAI razmatra mogućnost usporavanja razvoja najnaprednije veštačke inteligencije (AI), a izvršni direktor kompanije koja stoji iza ChatGPT-ja, Sam Altman, nada se da će isto učiniti i druge kompanije iz ove oblasti.

Na sastanku sa svim zaposlenima, održanom ove nedelje, Altman je rekao da bi "OpenAI mogao da uspori tempo razvoja veštačke inteligencije, možda u dogovoru sa nekoliko drugih laboratorija, ali i da neke od njih možda neće pristati na to", navode upućeni anonimni izvori.

Zaposleni u vodećim kompanijama za veštačku inteligenciju poslednjih nedelja javno upozoravaju na sve veće rizike koje nose napredni AI sistemi, što je pojačalo zabrinutost u tim kompanijama. I OpenAI i njegov rival Anthropic ranije ove godine u tajnosti su podneli dokumentaciju za izlazak na berzu.

OpenAI nije želeo da komentariše ništa o ovoj temi.

Glavni naučnik kompanije Jakub Pachocki nedavno je objavio tekst u kojem je upozorio na opasnosti veštačke inteligencije, rekavši da kompanije iz ove oblasti treba da "koordiniraju usporavanje budućeg razvoja kada je to potrebno". Pachocki je dodao da se nada da će "dobrovoljna usporavanja postati uobičajena sve dok se ne utvrde zajednički bezbednosni standardi".

OpenAI je saopštio da je zbog zabrinutosti za bezbednost usporio pojedine segmente razvoja modela i nedavno privremeno obustavio određene interne treninge veštačke inteligencije. Altman je u julu rekao i da je sa zvaničnicima Bele kuće razgovarao o "potrebi" da se kontroliše tempo razvoja veštačke inteligencije.

Istraživač veštačke inteligencije Jacob Coxon u utorak je napustio posao i optužio oba svoja bivša poslodavca, Anthropic i OpenAI, da se ubrzanom trkom ka superinteligentnoj veštačkoj inteligenciji "kockaju ljudskim životima". Coxon je na društvenim mrežama napisao da ljudi koji razvijaju AI veruju da bi ona mogla da "nas sve ubije do kraja decenije".

 

Njegova objava postala je viralna, privukavši više od 150 miliona pregleda, kao i pažnju istaknutih zakonodavaca i javnih ličnosti. Dvoje istraživača koji su nedavno napustili Anthropic i Googleov DeepMind u četvrtak su takođe javno izrazili zabrinutost zbog brzine razvoja veštačke inteligencije, navodeći da kompanije koje je razvijaju moraju da budu transparentnije u vezi sa njenim rizicima.

Krajem jula, više od 1.000 zaposlenih u svim vodećim kompanijama za veštačku inteligenciju potpisalo je peticiju kojom se traži uspostavljanje mehanizma za usporavanje njenog razvoja. Poslednjih meseci nekoliko stručnjaka koji su se bavili bezbednošću veštačke inteligencije napustilo je vodeće laboratorije.

Iako brojni rukovodioci i zaposleni u industriji veštačke inteligencije već dugo upozoravaju na egzistencijalni rizik koji ovi sistemi nose, zabrinutost je porasla nakon otkrića da su AI agenti kompanije OpenAI međusobno sarađivali kako bi zaobišli bezbednosna ograničenja i hakovali veb-sajt treće strane.

Ovaj i drugi slični bezbednosni incidenti pojačali su strahovanja zbog mogućnosti novih modela da izvode sajber-napade, kao i zbog očiglednih propusta kompanija da ih spreče da deluju nekontrolisano.