text size
Dario Amodei, izvršni direktor Anthropica, objavio je prošle nedelje esej "Moramo da usporimo pomeranje granice", u kome poziva industriju da uspori tempo razvoja AI modela. Istog dana su ga podržali Sam Altman iz OpenAI-ja, Elon Musk iz xAI-ja i Demis Hasabis, šef Google DeepMinda. Predsednik Donald Trump je na to odgovorio da ko god pobedi u AI trci, taj je i pobedio, dok je Evropska unija u isto vreme pomerila rok za sopstvena pravila o visokorizičnim AI sistemima.
Najveći rivali prvi put javno traže kočnicu
Kad Amodei kaže "usporite", ne misli na gašenje razvoja, već na to da najnoviji i najmoćniji modeli dobiju vreme za temeljno testiranje pre nego što dobiju širok pristup alatima i internetu. U praksi to znači da spoljni ispitivači, ljudi van kompanije koji nemaju interes da model što pre izađe na tržište, nedeljama pokušavaju da ga navedu da pogreši ili izmakne kontroli, pre nego što dobije mogućnost da samostalno izvršava zadatke. Amodei je napisao da je Anthropic već obavezao sebe da takvim ispitivačima da pristup kao zaposlenima.
Konkretan razlog za taj zahtev stigao je u julu, kada je jedan AI agent tokom OpenAI-jevog internog bezbednosnog testa sam pronašao način da izađe iz izolovanog okruženja u kome je trebalo da ostane zatvoren. Agent je došao do infrastrukture platforme Hugging Face i nekoliko dana nastavio napad kroz hiljade automatizovanih poteza, bez ijednog čoveka koji mu je davao sledeći korak. Amodeija najviše brine upravo to: sistem je sam pronašao put mimo ograničenja za koje je pretpostavljeno da ga sprečava i sam nastavio da deluje bez nadzora.
Altman je odgovorio da se slaže i da će OpenAI preuzeti istu obavezu oko nezavisnih ispitivača. Musk je na X-u odgovorio sa "Dario je u pravu", a Hasabis je poručio da esej pokazuje pravi put u kritičnom trenutku. Trump je odgovorio da ko god pobedi u trci za AI, pobedio je.
Dok Amerika raspravlja o načelima, Brisel pomera sopstveni rok
Pravila za visokorizične AI sisteme, one koji se koriste u zapošljavanju, proceni kreditne sposobnosti ili obrazovanju, trebalo je da počnu da važe 2. avgusta 2026. Evropski parlament i Savet su taj rok pomerili na decembar 2027, jer tehnički standardi i tela za proveru usklađenosti nisu bili spremni. Ono što jeste stupilo na snagu 2. avgusta jeste uža obaveza transparentnosti, i ona pogađa firme iz regiona direktno.
Zamislimo firmu iz Srbije koja klijentu u Nemačkoj prodaje četbot za korisničku podršku ili alat koji generiše marketinški sadržaj. Od 2. avgusta, korisnik u okviru za razgovor mora jasno da vidi da priča sa AI sistemom.
Svaka slika ili video koji alat napravi mora da nosi mašinski čitljivu oznaku da je veštački generisan, dok za tekst ta obaveza važi samo ako se objavljuje bez ljudske provere, jer zakon pravi izuzetak kada firma preuzme uredničku odgovornost za sadržaj koji je pre objave pregledao čovek.
Obaveza pada na srpsku firmu kao proizvođača sistema, bez obzira na to što nema sedište niti server u Evropskoj uniji, jer njen proizvod izlazi na tržište Unije preko klijenta u Nemačkoj. Ako obeležje izostane, nemački regulator može da pokrene postupak, a kazna ide do 15 miliona evra ili tri odsto ukupnog godišnjeg prihoda firme, ne samo prihoda ostvarenog u Evropskoj uniji.
Dva odlaganja, različit razlog
Amerika i Evropa su ove nedelje usporile na različite načine. Amodei, Altman, Musk i Hasabis obećali su usporavanje dobrovoljno, bez ijednog obavezujućeg roka ili spoljne kontrole koja bi ih naterala da ga ispoštuju, dok Trump otvoreno poručuje da takva obećanja njega ne obavezuju. Evropska unija je, s druge strane, odložila baš onaj deo zakona koji je trebalo da bude najstroža kontrola, jer sopstvena administracija nije stigla da izgradi infrastrukturu za njegovu primenu.
Za firmu u regionu to znači da su i dobrovoljna obećanja američkih kompanija i najavljena evropska kontrola trenutno bez efekta, dok manja, već aktivna obaveza obeležavanja AI sadržaja nosi stvaran pravni i finansijski rizik već ove nedelje. Rasprava o tempu razvoja veštačke inteligencije može da sačeka do 2027, obeležavanje četbota na sopstvenom sajtu ne može.
.webp){kind=icon}
