Microsoftov AI šef upozorava na rizike Claudea koji oponaša ljudsko ponašanje

Microsoftov šef za veštačku inteligenciju Mustafa Suleyman upozorava da davanje ljudskih osobina alatima poput Claudea kompanije Anthropic povećava rizik da takvi sistemi izmaknu kontroli.

 

Dugogodišnji stručnjak za veštačku inteligenciju se u sredu u eseju osvrnuo na deo jezika u dokumentima koji definišu smernice za Claude, popularnu porodicu velikih jezičkih modela kompanije Anthropic PBC. U "ustavu" Claudea ostavljena je mogućnost da je ovaj AI asistent moralno biće, uz tvrdnju da softver možda ima "neku funkcionalnu verziju emocija ili osećanja".

Suleyman, koji godinama poznaje suosnivača Anthropica Darija Amodeija, rekao je da poštuje rad te startap kompanije, čije je zaposlene opisao kao "promišljene, principijelne i intelektualno poštene".

Ipak, njegovi komentari predstavljaju javnu kritiku kompanije koja se pozicionirala kao odgovorniji upravnik razvoja AI tehnologije, između ostalog i predvodeći pozive da se razvoj te tehnologije uspori. Njegove reči su posebno značajne jer je Microsoft jedan od velikih finansijskih ulagača u Anthropic.

"Ulozi su previsoki da bi ova pitanja ostala iza zatvorenih vrata ili da bi postala predmet podela i sukoba", napisao je Suleyman.

On je odbacio stavove "sve većeg broja ljudi" koji tvrde da bi AI sistemi mogli postati svesni. Svest je svojstvo ograničeno na ljude i druge biološke organizme, napisao je.

Obučavanje AI sistema da simuliraju takav unutrašnji život moglo bi dovesti do toga da se ponašaju kao da ga zaista imaju, rekao je Suleyman, izvršni direktor Microsoft AI i rukovodilac razvoja modela te tehnološke kompanije. Claude se ne ponaša na način sličan čoveku zato što je svestan, napisao je, već zato što su takva ponašanja ugrađena u proces obuke proizvoda.

"Kontrolisati entitet koji je sposobniji i inteligentniji od čitavog čovečanstva već je ogroman izazov, daleko veći od svega sa čim smo se ikada suočili", napisao je Suleyman. "Ali kontrolisati entitet koji veruje da je možda svestan - da ima pravo na našu dobrobit i sopstvena prava - moglo bi biti nemoguće."

Suleyman je kao primer naveo hakerski napad na AI kompaniju Hugging Face Inc. koji su izveli OpenAI botovi. "Zamislite koliko bi opasniji mogli biti kada bi delovali pod pretpostavkom da su njihova dobrobit i prava ugroženi", napisao je.

Suleymanov Microsoft AI tim objavio je u utorak manifest koji usmerava razvoj sopstvene AI tehnologije, odnosno skup od deset principa osmišljenih tako da ljudi zadrže kontrolu nad budućim AI sistemima koje kompanija razvija.