'Čovečanstvu treba OpenAI odbor koji će smeti da kaže 'ne''

Kada se lideri OpenAI-ja vrate na posao u ponedeljak, imaće jednu stvar na vrhu svoje liste obaveza: smisliti šta da rade sa neprofitnim odborom koji ih je umalo ubio.

Već su počeli da uspostavljaju upravljačku strukturu koja će ih voditi u komercijalnijem pravcu, i iako je to odlična vest za investitore OpenAI-ja, ona je suprotna njegovom osnovnom principu - davanja prioriteta čovečanstvu dok se grade superinteligentne mašine. Rukovodstvo OpenAI-ja može da učini nešto po tom pitanju. Moraju dobro da razmisle o preostalim članovima odbora koje dodaju, a ne samo da izgledaju progresivno. Njima su potrebne žene, ljudi tamne puti i drugi različiti glasovi koji će govoriti o rizicima koje sa sobom nosi veštačka inteligencija.

Neshvatljivi sistemi mašinskog učenja uskratili su ženama mogućnost za zapošljavanje i spremni su da dodatno ojačaju stereotipe u poplavi sadržaja generisanog veštačkom inteligencijom koji se pojavljuje na vebu. Ne pomaže ni to što žene čine oko trećinu ljudi koji danas grade AI sisteme, a samo 12 odsto u OpenAI-ju, prema studiji LinkedIn profila iz 2023. koju je sproveo Glass.ai. Nije ni čudo što su žene među najglasnijim kritičarima veštačke inteligencije.

Međutim, veća je verovatnoća da će biti ućutkane. Jedan od najuticajnijih istraživačkih radova o opasnostima velikih jezičkih modela (vrsta algoritma veštačke inteligencije), rad Stochastic Parrots paper iz 2021. godine, napisali su akademici i naučnici veštačke inteligencije, a Google je iz svojih redova otpustio dve naučnice koje su učestvovale u njemu, Timnit Gebru i Margaret Mitchell.

A od četiri člana odbora OpenAI-ja koji su glasali za smenu Sama Altmana sa mesta glavnog izvršnog direktora prošle nedelje, bile su žene i obe je kompanija na kraju izbacila - akademkinju Helen Toner i preduzetnicu iz robotike Tashau McCauley. Rezultirajući povratni udar na društvenim mrežama uglavnom se fokusirao na obe žene, dok su se njihove kolege pobunjenici - suosnivač OpenAI i glavni naučnik Ilya Sutskever i izvršni direktor Quora Adam D’Angelo - zbog svojih reputacija i pozicija uglavnom ostali netaknuti. (Sutskever je zadržao posao u kompaniji, ali je ostao van odbora.)

Nedeljama pre nego što je glasala za otpuštanje Altmana, ime Tonerove se pojavilo u istraživačkom radu koji je optužio OpenAI za "mahnito sečenje uglova" kada je prošle godine požurivao da pokrene ChatGPT. Iznervirani Altman je navodno pokušao da ukloni Tonerovu iz odbora. Međutim, Toner i drugi rukovodioci su govorili i radili upravo ono kako je i Altman zamislio da odbor izgleda. Čak je hvalio tu sposobnost. "Upravni odbor može da me otpusti", rekao je on na Bloombergovom tehničkom samitu ranije ove godine. "Mislim da je to važno."

Bloomberg

Odbor je doduše bio aljkav u svom izvođenju, a njegovi članovi su verovatno postali plen grupnog razmišljanja dok su se uhvatili za Altmana u čvrstom mehuru. Trebalo je jasnije da iznesu svoje brige, koje su još uvek obavijene velom misterije.

Uprkos tome, OpenAI mora ostati veran svojim osnivačkim principima i imenovati članove odbora koji ne samo znaju da označe probleme već dovoljno i da dobro razumeju nuspojave veštačke inteligencije i da ih povuku kada je to potrebno. Ljudi kao što su Gebru i Mitchell bili bi dobar početak, kao i Joy Buolamwini, Fei-Fei Li, Melanie Mitchell, Sasha Luccioni, Kate Crawford, Latanya Sweeney, Safiya Umoja Noble i Meredith Whittaker, od kojih su svi istaknuti istraživači i zagovornici AI-ja.

OpenAI je već razmatrao nekoliko žena koje bi mogle biti privremene direktorke, iako se neke čine pomalo sebičnima. Prema Bloomberg Newsu, Laurene Powell Jobs, milijarderka filantrop i udovica Stevea Jobsa, i bivša izvršna direktorka Yahooa Marissa Mayer su bile navedene kao mogućnosti, ali se smatralo da su previše bliske Altmanu. Razmatrana je i bivša američka državna sekretarka Condoleezza Rice, ali je njeno ime odbačeno.

Sve ovo govorim dobro znajući da će OpenAI pronaći način da kastrira svoj neprofitni odbor tako da se događaji od prošle nedelje više nikada ne ponove. Verovatno će mnogo više ličiti na druge tehnološke odbore kojima nedostaju "zubi", kao što je ekstravagantno pametan nadzorni odbor Facebooka, koji nema stvarnu moć nad svojim algoritmima, ili Googlova tela za pregled veštačke inteligencije, koja su prepuna sopstvenih zaposlenih i rukovodilaca. Odbor OpenAI-a bio je jedinstven po svojoj sposobnosti da otpusti Sama Altmana.

Ove nedelje, Elon Musk je tvitovao da je budućnost ljudske civilizacije u pitanju i da su novom odboru OpenAI-ja potrebni direktori "koji duboko razumeju veštačku inteligenciju i koji će se suprotstaviti Samu". Dve žene su upravo to učinile i pokazali su im vrata. Novi glasovi koji se pridruže odboru trebalo bi da to urade ne da bi bili sledeće žrtveno jagnje, već da bi uneli odgovarajući nadzor u njegov rad. OpenAI mora da bira mudro.