Googleov AI tim upozorava: Ne verujte našim HR filterima

Kompanija Google prodaje svoje alate veštačke inteligencije korporativnim klijentima kako bi na taj način brže pretražili ogromne količine prijava za posao i pronađu najperspektivnije kandidate. Međutim, neki od Googleovih timova ne žele da se pri zapošljavanju oslanjaju na te alate.

 

Tim za bezbednost i usklađivanje AGI-ja (engl. Safety and Alignment Team) u okviru Google DeepMinda, koji radi na ublažavanju rizika napredne veštačke inteligencije, podstiče kandidate za otvorene pozicije da uz prijavu popune poseban obrazac kako bi se smanjio rizik da ih interni AI sistemi kompanije automatski eliminišu. To se navodi u dokumentu u koji je Bloomberg imao uvid, i u kojem se navodi da se taj dokument ne deli u javnost.

"Imamo sistem prijava kod kojeg postoji nezanemarljiva verovatnoća da će vaš CV biti pogrešno eliminisan ili da će mu trebati predugo da stigne do nas", navodi se u dokumentu. "Popunjavanje ovog obrasca osigurava da će stvarna osoba iz tima videti vašu prijavu."

Portparol Google DeepMinda rekao je da kompanija želi da "privuče i zaposli najkvalifikovanije talente u Google DeepMindu" i negirao da sistemi kompanije pogrešno eliminišu kandidate. "Ovaj tim je napravio poseban obrazac kako bi zaobišao pregled regrutera i dostavio CV-jeve direktno ljudima u timu. Ipak, nema prečica do zaposlenja", dodao je portparol.

Veštačka inteligencija brzo je postala deo procesa zapošljavanja, zbog čega se neki timovi za ljudske resurse brinu da bi uskoro mogli da ostanu bez posla. Međutim, način na koji se AI koristi može biti netransparentan. Neke kompanije koriste AI modele za rangiranje kandidata, dok druge filtriraju CV-jeve na osnovu ključnih reči.

Googleov Workspace tim, koji kompanijama prodaje popularne proizvode poput Google Drivea, promoviše nove AI funkcije kompanije kao način da se "uštedi vreme HR timova brzim kreiranjem nacrta oglasa za posao, procenom CV-jeva i predviđanjem potreba za zapošljavanjem".

Sistemi za zapošljavanje zasnovani na veštačkoj inteligenciji takođe su na udaru kritika zbog potencijalne diskriminacije kandidata. Istraga Bloomberga otkrila je da je OpenAI-jev ChatGPT pokazivao znake potencijalne pristrasnosti na osnovu imena kandidata. Workday Inc., koji prodaje softver za upravljanje radnim mestom, suočava se sa tužbom u kojoj se navodi da njegovi AI sistemi za zapošljavanje filtriraju kandidate na osnovu rase, starosti i invaliditeta, čime krše zakon. Workday je odbacio optužbe i poručio da odluke o zapošljavanju donose ljudi. Kompanija nije odgovorila na zahtev za komentar.

U međuvremenu, neki kandidati za posao koriste AI u svoju korist kako bi zaobišli filtere ili jednostavno poslali prijave rekordnom brzinom. Tim Google DeepMinda bio je svestan i te mogućnosti, pa je kandidatima poručio da će njihove prijave biti kvalitetnije bez pomoći veštačke inteligencije.

Obrazac osmišljen za zaobilaženje automatskog filtriranja sadrži i upozorenje: "Ovo će čitati stvarna osoba. Ti ljudi se zaista umore od čitanja odgovora koje generišu veliki jezički modeli (LLM), jer svi zvuče veoma slično."

– Uz pomoć Jo Constantz