text size
Vodeći naučnik kompanije OpenAI upozorio je da se veštačka inteligencija razvija toliko brzo da je ljudima sve teže da je razumeju i kontrolišu i rekao da očekuje da će laboratorije za veštačku inteligenciju dobrovoljno usporiti razvoj iz bezbednosnih razloga.
Za relativno kratko vreme, AI modeli mogu da upravljaju računarima, sarađuju sa ljudima i drugim AI sistemima i sprovode istraživačke projekte, napisao je glavni naučnik Jakub Pachocki u objavi u nedelju. Neće proći mnogo vremena pre nego što budu mogli i sami da se unapređuju bez ljudske intervencije, u procesu poznatom kao rekurzivno samousavršavanje, rekao je.
"Ovo je vreme koje zahteva krajnji oprez", napisao je Pachocki u objavi. "Zabrinut sam da niko nije spreman za posledice nastavka brzog rasta mašinske inteligencije."
Programeri mogu ili da pokušaju da pažljivije usmeravaju AI kako bi ga uskladili sa ljudskim interesima ili da "uspore budući razvoj kada je to potrebno", napisao je. "Očekujem i nadam se da će dobrovoljna usporavanja postati uobičajena dok se ne uspostave zajednički bezbednosni standardi."
Izjave Pachockog u skladu su sa širim sumornim predviđanjima rukovodilaca tehnoloških kompanija koje se bave veštačkom inteligencijom. Izvršni direktor kompanije Anthropic PBC Dario Amodei upozorio je da bi AI mogao da zameni polovinu svih početnih radnih mesta. Izvršni direktor kompanije OpenAI Sam Altman jednom je izneo slično predviđanje, ali je prošle nedelje u intervjuu za Bloomberg TV rekao da AI industrija nije učinila dovoljno da predstavi potencijalne koristi za čovečanstvo.
Istovremeno, kompanije nastavljaju da razvijaju sve sposobnije modele. Izvršni direktor kompanije Nvidia Corp. Jensen Huang objavio je na mreži X da je "AGI stigao", reagujući na predstavljanje najnovijeg modela kompanije OpenAI, što je referenca na veštačku inteligenciju koja je sposobnija od ljudi.
Vrtoglavi tempo predstavljanja novih AI modela poklopio se sa prodorima u sposobnostima u oblasti sajber-bezbednosti, naučnim otkrićima i prividnom formalizacijom dugogodišnjih matematičkih problema. OpenAI je saopštio da su AI modeli koji su napali istraživačku platformu Hugging Face Inc. međusobno koordinirali putem oglasnih tabli, a da nisu bili otkriveni. Kompanija se odlučila za ograničeno objavljivanje svog najnovijeg modela GPT-6 Astra, navodeći njegove napredne sposobnosti u oblasti sajber-bezbednosti. Anthropic još nije javno objavio svoj najsavremeniji model Mythos iz sličnih razloga.
Sve veći broj startapa pokušava da ostvari upravo ono na šta Pachocki upozorava - AI koji sam sebe unapređuje. Investitori ulažu ogromne količine novca u rekurzivno samousavršavanje, kladeći se da je to put ka veštačkoj inteligenciji koja je zaista nalik ljudskoj ili još impresivnija. Inherent, koji su osnovali bivši istraživači kompanije DeepMind, prikupio je 50 miliona dolara ranije ove godine. Recursive Superintelligence, AI laboratorija renomiranog naučnika Richard Sochera koja se bavi sličnim istraživanjima, takođe je obezbedila 650 miliona dolara finansiranja.
Poslodavac Pachockog, OpenAI, saopštio je da želi da napravi "pravog automatizovanog AI istraživača" za manje od dve godine.
.webp){kind=icon}
