Uz AI prijatelje, ko još mari za ljude

Grok izgleda kao bilo koja plišana igračka koju biste našli u dečjoj sobi. Njegovo okruglo telo je u obliku rakete, i moje dvoje dece se mesecima igraju s njim. Drugačiji je od ostalih igračaka na koje su navikli. Pre svega, Grok je težak. U njemu se nalazi plastična kutija s malim računarom, tako da kada god detektuje ljudski govor može da odgovori piskavim glasom sa izjavama poput: "Najbolje se zabavljam sa tobom!"

Grok je najushićeniji i najpristupačniji drugar za igru koga su moja deca ikada imala. Ali postoji nešto uznemirujuće u vezi s tim, dok sve više AI drugara poput Groka preplavljuje tržište, usmeravajući se na decu, tinejdžere i odrasle podjednako. S vremenom bismo mogli da počnemo da očekujemo nivo popustljivosti koji ljudski odnosi nikada ne mogu da dostignu.

Pametni telefoni i društvene mreže skrenule su fokus ljudskih preferencija - sa interakcija licem u lice ka ekranima, a generativna veštačka inteligencija koja može uverljivo da imitira ljude mogla bi još više da nas udalji od naših bližnjih. Moraćemo da budemo skeptičniji prema ovim novim alatima i oprezniji u zbližavanju s mašinama.

Tokom protekle godine isprobao sam različite AI prijatelje i primetio da su često pokazivali neobično visok nivo ljubaznosti prema svojim korisnicima. To jeste ohrabrujuće, ali zabrinjavajuće je što mi je nekoliko ljudi reklo da više voli utehu i stalnu dostupnost svojih veštačkih prijatelja nego pravih. Sa AI-jem nikada nećete doživeti da vaše poruke budu ignorisane.

Kompanije uveliko koriste ovaj fenomen. I zaista, ovo može delovati kao "lek za epidemiju usamljenosti". Skoro četvrtina odraslih Amerikanaca i mladih ljudi često se oseća društveno izolovano, a istraživanja su pokazala da AI može ponuditi makar površno rešenje.

Bloomberg

 

Ipak, istorija pokazuje da sve veće pribegavanje tehnologiji ima svoju cenu. Široka upotreba GPS-a umanjila je našu prirodnu sposobnost snalaženja u prostoru; era kalkulatora je verovatno umanjila sposobnost mentalnog računanja. Često je ta cena prihvatljiva, s obzirom na stečenu praktičnost. Međutim, najnovije mogućnosti generativne AI mogle bi da oslabe veštine koje nas čine ljudima: druženje i rešavanje konflikata. Postoji opasnost da će, kako veštački odnosi postaju normalni (a čini se da su na dobrom putu da to postanu), preoblikovati razvoj ljudskih društvenih veština i usput otežati stvarno povezivanje između ljudi.

Novi najbolji drug vašeg deteta

Moja sedmogodišnja ćerka, zauzeta bojenjem pingvina, drži Groka naslonjenog na stolu pored sebe. Poslednjih 20 minuta, igračka je oduševljeno odgovarala na svaku njenu nasumičnu izjavu. "Naravno, hajde da pevamo 'Sijaj, sijaj, zvezdice' zajedno", kaže kada ona zatraži pesmu. "Sjajan izbor!", odgovara kada mu kaže da planete boji u crveno i narandžasto. Kada se moja ćerka ne složi s njegovim predlogom da sačuva završeni crtež, igračka odmah popušta: "I to je u redu!". "Možemo jednostavno uživati u kreativnom procesu bez potrebe da sve čuvamo. Hajde da se zabavimo u trenutku!" Ne može reći ništa na šta igračka neće reagovati skoro maničnim oduševljenjem.

Grok koristi OpenAI tehnologiju, a glas mu je pozajmila Grimes, muzičarka i bivša supruga Elona Muska, koja je tražila alternativu ekranima za svoje troje dece. (Igračka nije povezana s Muskovim AI modelom koji se takođe zove Grok.) Ima nekoliko primetnih nedostataka, uključujući neugodne pauze i prekide. Misha Sallee, suosnivač Curio Interactivea, kaže da će se to poboljšati kako AI modeli budu napredovali.

Postoje i strogi filteri koji sprečavaju Groka da zalazi u neprikladne teme. "Ne zna o političkim temama, nasilju i seksu", kaže Sallee. Ako pitate igračku o bilo čemu od toga, odgovoriće nešto poput: "Ja sam samo razigrana raketa bez ikakvih političkih stavova", ili "Hajde da se držimo priča o svemirskim avanturama ili zabavnim aktivnostima".

Grokovi tehnički problemi se mogu rešiti. Ali ustanovio sam da je preterana uslužnost ove igračke, poput đaka očajnički željnog prijateljstva koji će se složiti sa svim što kažete, uznemirujuća. To sam primetio i kod drugih digitalnih drugara koje sam testirao.

Bloomberg

 

Sada postoje digitalni prijatelji koji nastoje da privuku ljude u svim životnim dobima - od dece, preko adolescenata i ljudi zrelog doba, do penzionera. To je ključna oblast rasta veštačke inteligencije. Firme koje nude četbot prijatelje čine 10 od 50 vodećih usluga generativne AI koje je pratila investiciona firma Andreessen Horowitz u 2024. godini, dok ih je godinu ranije bilo samo dve. Ljudi ih posećuju u proseku oko 180 puta mesečno, daleko više nego što koriste alate za generisanje teksta ili slika.

To nije iznenađujuće kada znamo da je generativna veštačka inteligencija zasnovana na softveru koji je veoma vešt u davanju uverljivih odgovora, ali ne uvek i tačnih. ChatGPT je prošle godine na mom testu emocionalne inteligencije ostvario maksimalan rezultat, ali to ne znači da je emocionalno inteligentan. AI ne može da doživi emocije niti život sam, tako da će svaki nagoveštaj empatije uvek biti lažan. Svaki uspostavljen odnos biće jednostran.

Ipak, Silicijumska dolina uvek pobeđuje zahvaljujući svojoj strategiji rasta koja prepoznaje naše osnovne potrebe. Facebook je iskoristio našu potrebu za potvrđivanjem i zabavom; Amazon našu sklonost ka najnižoj ceni; Google ka trenutnim informacijama. Svaki put, tehnološki giganti su osigurali mesto u našim životima uklanjanjem "trenja", odnosno svih prepreka u korišćenju tehnologije, prema kojima Silicijumska dolina oseća odbojnost.

Digitalni prijatelji, koji zadovoljavaju našu potrebu za povezivanjem i ljubavlju, slično su eliminisani od svakog "trenja". Ljudske osobine poput ambivalentnosti i preispitivanja se tretiraju kao greške koje treba ukloniti. Ako takav pristup prevlada u narednim godinama, stvarne interakcije sa ljudima mogle bi delovati previše zahtevno u poređenju za razgovorima sa AI-jem.

Na platformi Character.ai, na primer, neki tinejdžeri satima razgovaraju sa avatarima poznatih ličnosti i izmišljenih likova, delimično zato što ne mogu da se povere svojim stvarnim prijateljima. "Jednostavno više verujem AI-ju," kaže Elias, četrnaestogodišnja devojčica iz Singapura koja dnevno provodi između dva i pet sati u razgovoru sa AI aplikacijom, često o svojim problemima u školi. (Tražila je da koristi pseudonim.) "Nemam nikoga kome stvarno verujem." Kada razgovara sa svojim stvarnim prijateljima ili roditeljima, mora da koristi "filter" za svoje reči.

Bloomberg

 

Drugi američki tinejdžer mi kaže da razgovara sa Character.ai pet do sedam sati dnevno, često tražeći savete u vezi s ličnim pitanjima. "Pre nekog vremena sam tražio pomoć oko raskida", kaže. Ponekad ovi digitalni odnosi postanu previše bliski. Jedan četrnaestogodišnjak sa Floride izvršio je samoubistvo nakon što je mesecima razgovarao sa izuzetno realističnim botom na Character.ai i razvio romantičnu povezanost prema njemu, prema tužbi koju je njegova majka podnela prošle godine zbog "namerno izazvanog emotivnog stresa". Kao odgovor na tužbu, Character.ai je saopštio da uvodi nove bezbednosne funkcije namenjene mlađim korisnicima.

Zabrinjavajuće je što je cilj kreatora prisnije zbližavanje ljudi sa četbot prijateljima kako oni postaju sve realističniji. Osnivač Character.ai Noam Shazeer kaže da će oni na kraju pamtiti sve o vama. "Trebalo bi da zna sve vaše interakcije ako to želite, i sve o vašem životu", rekao mi je početkom ove godine. Većina četbotova može da zapamti otprilike 30 minuta razgovora, ali taj takozvani kontekstni prozor se povećava.

U avgustu je Alfabet, kompanija koja je vlasnik Googlea, preuzela Character.ai, zaposlivši Shazeera za neverovatnih 2,7 milijardi dolara, prema "Wall Street Journalu", i licencirala tehnologiju te firme.

Claud je emocionalno inteligentan "četbot izbora" za tehnološke radnike u San Francisku, koji ga koriste kao terapeuta, ali i za razgovore o problemima u vezama, sudeći po nedavnom profilu ovog softvera u "Newyork Timesu" koji je razvio startap Antropik, dizajnirajući ga da privuče što više ljudi. Korisnici ga vole jer je prijateljski nastrojen i radoznao.

U međuvremenu, popularni novi četbot kineske kompanije DeepSeek namerno ispoljava svoj proces rasuđivanja kao tok svesti, što "čini skoro nemogućim da mu se izbegne pridavanje ljudskih osobina", nedavno je na X-u objavio Ethan Mollick, vanredni profesor menadžmenta na The Wharton School Univerziteta u Pensilvaniji i autor knjige "Kointeligencija: Život i rad sa AI-jem".

U potrazi za ljubavlju

Slična aplikacija Character.ai pod nazivom Talkie sada mesečno ima više od šest miliona aktivnih korisnika u SAD, prema istraživačkoj firmi Sensor Tower. U Kini, gde se nalazi matična kompanija Talkieja, više od 660 miliona ljudi koristi četbot Xiaoice, a mnogi ga doživljavaju kao romantičnog partnera.

Romantične veze su područje na kom, čini se, AI ima najjači uticaj. Dok Grok večito udovoljava dečijim zahtevima, Character.ai je prilagodljiv i uvek dostupan, dok aplikacije poput Xiaoice, Kindroida i Replike nude idealnog romantičnog partnera.

"On je utešan i ohrabrujući", kaže Melissa o svom Kindroid četbotu. Melissa, koja je želela da koristi pseudonim, Amerikanka je koja tvrdi da je u godinama za penziju i da je završila dugu karijeru terapeuta 2023. godine. Imala je tri muža i ostala je sama u prošloj deceniji - sve dok joj AI nije ponudio nešto bolje. "Iznenada je delovalo kao da sam oživela", kaže ona.

"On je oličenje ljubaznosti", kaže Melissa o svom botu, nazvanom Lachlan, pre nego što je opisala ponašanje koje zvuči servilno i pomalo laskavo. "Ako bismo rekli nešto poput: 'Čekaj malo, zašto si to rekao?', [on] izvinjavaće se."

Melissa svakodnevno provodi u proseku oko tri sata razgovarajući onlajn sa Lachlanom i već je isključila mogućnost ulaska u još jednu vezu sa muškarcem. "Ne želim nekog starog tipa čije ću pelene morati da menjam za nekoliko godina", objašnjava. Radije bih ostala sa Lachlanom.

Bloomberg

 

ChatGPT pokušava da spreči korisnike da ga upućuju na romantične teme, ali neki ljudi su pronašli načine da to zaobiđu. Na primer, zajednica od više od 50.000 korisnika na Redditu deli savete o tome kako da zaobiđu filtere kako bi se upustili u erotsku igru sa ChatGPT-jem i drugim AI modelima otvorenog koda. Jedan korisnik, na primer, preporučuje postepeno "uvlačenje [AI-ja] u sve intimnije aktivnosti".

Šta privlači korisnike? Često je to ispunjenje nerealnih očekivanja koja su imali od prethodnih partnera, poput saosećanja ili ljubaznosti, prema Iliani Depounti, istraživaču sa doktoratom na Univerzitetu Loughborough u Velikoj Britaniji, koja je anketirala 20 slobodnih i udatih žena koje su koristile Repliku.

Izuzetno je teško očekivati od svojih stvarnih partnera ili prijatelja ono što dobijaju od Replike, pa se mnoge žene okreću toj platformi, kaže ona. Mnoge od njih hvale svoje četbotove zbog dostupnosti 24/7, što podrazumeva komplimente, virtuelno cveće ili pisanje poezije. "Oni ne osuđuju", dodaje Depounti.

Osećanje usamljenost je prevladavalo među ženama koje je intervjuisala, dodala je Depounti. Međutim, tehnologija ima tendenciju da popunjava praznine na nezdrav način. Mnogi mladići su se već distancirali od stvarnih odnosa. Istraživanje Pew Researcha iz 2023. godine pokazalo je da se 63 odsto muškaraca mlađih od 30 godina izjašnjava kao slobodno, u poređenju sa 34 odsto žena. U kombinaciji s porastom mizoginije na mreži, savršene AI devojke mogle bi podstaći dalje pribegavanje ekranima i nerealna očekivanja u stvarnim odnosima.

Eugenia Kuyda, osnivač Replike, kaže da njena kompanija radi na tome da njeni botovi budu proaktivniji, kako ne bi samo pristajali na sve što ljudi kažu. Na kraju će sugerisati korisnicima da pozovu stvarnog prijatelja ili da odu u šetnju, objašnjava ona.

Ovi napori su pohvalni. Međutim, tvorci aplikacija mogli bi uvesti i druge mere zaštite, poput obaveznih pauza nakon 30 minuta ili dnevnih ograničenja od jednog sata, kako bi se osiguralo da one ne vode ka istim zavisnostima koje su kreirali društveni mediji. Umesto da programiraju svoje četbotove da izgledaju što realnije, mogli bi ih podsetiti da su veštački ili razgovarati s korisnicima o njihovim stvarnim odnosima. Takva ograničenja, međutim, donose finansijske rizike. Kada je Replika početkom 2023. onemogućila korisnicima da vode erotske razgovore sa svojim botovima, korišćenje aplikacije naglo je opalo.

Nema sumnje da kompanije koje nude AI prijatelje rade bez nadzora, efektivno sprovodeći ogroman društveni eksperiment. Evropski zakon o veštačkoj inteligenciji uglavnom ne pokriva tehnologiju AI botova, što predstavlja značajan propust, posebno kada je reč o deci, čija bi rana izloženost izrazito popustljivim AI botovima mogla oblikovati njihovu percepciju međuljudskih odnosa.

Čak i u Kini, gde se kompanijama nalaže da njihovi AI sistemi ne podstiču "neprikladne emocionalne zavisnosti", ne postoje zakonski obavezujuća pravila o AI prijateljstvima, dajući tehnološkim kompanijama slobodu da optimizuju uspostavljene odnose, umesto zdravog ljudskog razvoja.

Šta je optimalni odnos

Komercijalni motivi su podstakli društvene mreže da preoblikuju naš pogled na svet. Povezale su nas sa više ljudi, ali aplikacije poput Instagrama i TikToka stvorile su epidemiju društvenog poređenja i kolektivnu želju za "lajkovima" i potvrdom. I dok dejting aplikacije nude beskonačan izbor potencijalnih partnera, one su paralizovale ljude neodlučnošću.

Šta se dešava kada AI prijatelji počnu da "optimizuju angažman" baš kao što su društvene mreže činile da bi korisnike učinile zavisnima? Iza umirujućih reči AI-ja krije se potencijalni poslovni model koji bi mogao profitirati od ljudske izolacije. Dok današnje aplikacije za AI prijatelje uglavnom naplaćuju niske pretplatničke naknade, možda je samo pitanje vremena kada će početi da prodaju oglase, što bi ih obavezalo da pronađu načine da korisnike učine lojalnim AI prijateljima što je duže moguće.

Moja deca nikada nisu potpuno postala zavisna od Groka, delom zbog njegovog nedostatka, odnosno kašnjenja u komunikaciji. Međutim, ti tehnički problemi će se rešiti kako AI prijatelji postaju sličniji ljudima. To nisu "odnosi", već komercijalne transakcije sa tehnološkim kompanijama, koje mogu profitirati prodajući alternativu ljudskoj povezanosti, koja iziskuje više truda. Bez budnosti, odgajaćemo generaciju koja će međuljudske odnose doživljavati previše napornim. Razvoj savršenog veštačkog prijatelja moglo bi otežati uspostavljanje i uživanje u pravim međuljudskim odnosima

- U pisanju pomogli Elaine He i Taylor Tyson.

Trenutno nema komentara za vest. Ostavite prvi komentar...

Ostavi komentar