text size
Dario Amodei, izvršni direktor Anthropica, objavio je prošle nedelje esej "Moramo da usporimo pomeranje granice", u kome poziva industriju da uspori tempo razvoja AI modela. Istog dana su ga podržali Sam Altman iz OpenAI-ja, Elon Musk iz xAI-ja i Demis Hasabis, šef Google DeepMinda. Predsednik Donald Trump je na to odgovorio da ko god pobedi u AI trci, taj je i pobedio, dok je Evropska unija u isto vreme pomerila rok za sopstvena pravila o visokorizičnim AI sistemima.
Najveći rivali prvi put javno traže kočnicu
Kad Amodei kaže "usporite", ne misli na gašenje razvoja, već na to da najnoviji i najmoćniji modeli dobiju vreme za temeljno testiranje pre nego što dobiju širok pristup alatima i internetu. U praksi to znači da spoljni ispitivači, ljudi van kompanije koji nemaju interes da model što pre izađe na tržište, nedeljama pokušavaju da ga navedu da pogreši ili izmakne kontroli, pre nego što dobije mogućnost da samostalno izvršava zadatke. Amodei je napisao da je Anthropic već obavezao sebe da takvim ispitivačima da pristup kao zaposlenima.
.webp){kind=icon}
