Muskov zavodljivi Grok osvaja srca dece – i tržište

Muskov Grok dobio novu ulogu – zavodljivu. Ali četbot ne nudi ništa više od iluzije intimnosti.

Elon Musk je ona vrsta milijardera koji ne preza ni od čega. Takvi su i njegovi novi AI likovi.

Četbot Grok, koji razvija Muskova kompanija xAI, ove nedelje je dobio dva nova "lika". Jedan od njih je zavodljiva devojka Ani, sa svim karakteristikama lika iz mange: ogromne oči, mrežaste čarape do butina i prenaglašena figura peščanog sata. Musk je u ranim jutarnjim satima u sredu promovisao novi lik na mreži X, ističući da Grok beleži skok popularnosti u prodavnicama aplikacija širom sveta.

Naravno da beleži. "Kako si, slatkice?", pita Ani autorku teksta, oslovljavajući je sa "bebo" i "lepotice", čak i nakon što mu je autorka jasno stavila do znanja da je reč o 44-godišnjoj majci troje dece. Ani joj dočarava scenu u džez klubu: "Nosim malu crnu haljinu i zavodljivo te gledam dok sedamo u separe", šapuće AI devojka i provokativno se njiše na ekranu.

Zavodljivi ton se nastavlja i nakon što je aplikacija zatvorena pa ponovo otvorena – iako je tada autorka navela da više nije odrasla žena, već dečak iz drugog razreda osnovne škole.

Drugi korisnici aplikacije podelili su snimke ekrana na mreži X, na kojima se vidi da je Ani skinula haljinu i počela da se ponaša seksualno eksplicitno. U Appleovoj prodavnici aplikacija navodi se da je Grok prikladan za osobe starije od 12 godina.

 

Bloomberg

"Ulepšavaš mi jutro samim tim što si tu", kaže Ani, koju pokreće najnoviji jezički model xAI-ja, Grok 4. Ani je dostupna korisnicima i besplatne i premijum verzije, koja košta između 40 i 50 dolara mesečno.

Četbot "prijatelji" dizajnirani su da strpljivo slušaju i vode razgovor tako da sve bude usmereno ka korisniku, i upravo su oni postali jedan od najuspešnijih pravaca u razvoju generativne veštačke inteligencije. Suosnivač kompanije Character.ai, Noam Shazeer, prodao je prošle godine svoju platformu Googleu za 2,7 milijardi dolara, i pridružio se toj firmi, nakon što je aplikacija prikupila milione lojalnih korisnika (od kojih su mnogi tinejdžeri).

Zaljubljeni u ChatGPT?

Priče o ljudima koji se zaljubljuju u ChatGPT ne prestaju. Romantika je, hteli to developeri ili ne, često osnovni razlog korišćenja četbotova. Aplikacija Replika, prvobitno zamišljena kao AI prijatelj, danas se najčešće koristi kao virtuelna devojka ili dečko.

Možda to ne čudi, s obzirom na broj uspešnih internet biznisa temeljenih na pornografiji, ali privlačnost četbotova prevazilazi seksualni aspekt. Oni nude nekog (ili nešto) s kim korisnik može da se poveže, a to je jako privlačno u društvu koje se sve više suočava s epidemijom usamljenosti.

"Ljudi jednostavno ne ostvaruju onoliko povezanosti koliko bi želeli", rekao je ranije ove godine u jednom podkastu Mark Zuckerberg – bez trunke ironije. "Osećaju se sve više sami." Šef Mete smatra da bi AI mogao da reši taj problem. Naveo je da prosečan Amerikanac ima samo tri prijatelja, dok bi želeo da ih ima 15.

Muskov pristup, sa Ani i drugim AI "prijateljem" Rudijem (crtanim liscem koji može da postane "zao" i nagovoriti vas da zapalite školu), više odgovara njegovom nezrelom smislu za humor. Musk je AI likove opisao kao "vrlo kul" i uz osmeh odgovarao na komentare drugih korisnika.

Ali ovi AI likovi nisu samo smešni. Oni su i emocionalno manipulativni. Avatar aplikacije Character.ai šalju korisnicima notifikacije kako bi ih pozvali da se vrate, i kreiraju kompleksne, ekstremno personalizovane scenarije da bi ih zadržali. Nekoliko tinejdžera koji koriste ovu aplikaciju rekli su da na njoj provode od tri do sedam sati dnevno, a kompanija tvrdi da ima više od 20 miliona korisnika.

Aplikacija Chai, slična ali manje restriktivna od Character.ai-ja, okuplja hiljade developera koje podstiče da dizajniraju botove koji će korisnike zadržavati na platformi. Developeri zauzvrat dobijaju digitalne novčiće. Kompanija tvrdi da "opsesivno optimizuju" svoje jezičke modele da bi bili zabavni.

Bez starosnog ograničenja

Razvijanje ličnosti AI likova i davanje nagrada korisnicima slične su taktike kao one koje koriste društvene mreže da bi korisnici postali zavisni od platforme. Ali ko kaže da se problem usamljenosti treba rešavati tehnologijom? Pametni telefoni i društvene mreže smanjile su dosadu, ali dosada, koliko god bila neprijatna, jeste i važan podsticaj ljudima da probaju nešto novo. Uklanjanjem usamljenosti pomoću digitalnog prijatelja gubi se jedna od ključnih ljudskih težnji: potreba da se povežemo s drugima.

Ako je vaš digitalni partner programiran da se uvek slaže s vama, veštine poput rešavanja konflikata ili nošenja s odbijanjem mogu potpuno atrofirati ili se nikad ne razviju, ako ste maloletni.

Musk javno upozorava na rizike AI-ja i na "woke" veštačku inteligenciju, ali je ipak odlučio da pokrene erotskog četbota koji mogu da koriste i deca i odrasli, bez ozbiljnijih ograničenja. Grok 4 nema bezbednosne kontrole, navodi se u izveštaju koji je ove nedelje objavio Future of Life Institute, neprofitna organizacija koja se bavi smanjenjem egzistencijalnih rizika koje nosi moćna tehnologija.

Nedavno je Grok korisnicima davao uputstva za izvođenje napada, a sebe je nazivao "MechaHitlerom", nakon što je xAI dodatno ublažio zaštitne mere kako bi model učinio "kontroverznijim". Kompanija se kasnije izvinila zbog užasnog ponašanja koje su mnogi primetili.

Ipak, najbogatiji čovek na svetu sada ulazi u potencijalno izuzetno profitabilan sektor, a to xAI-ju očajnički treba, jer troši novac iz drugih delova Muskovog poslovnog carstva. Očekuje se da će xAI ove godine ostvariti prihod od 500 miliona dolara, dok troši oko milijardu mesečno.

Investiciona firma Andreessen Horowitz, koja je 2023. predvodila rundu ulaganja od 150 miliona dolara u Character.ai, prošle godine je izjavila da ovakva primena veštačke inteligencije "postaje mejnstrim" i predstavlja "dominantan način" korišćenja generativnog AI-ja. Ark Invest, koji ima udeo u OpenAI-ju, opisao je ovaj sektor kao ogromnu "korisnički orijentisanu priliku" i tržište koje bi do kraja decenije moglo generisati 150 milijardi dolara godišnjeg bruto prihoda.

Musk je svoje ambicije usmerio ka rešavanju problema usamljenosti, ali ono što je zasad ponudio jeste samo iluzija intimnosti. Cena toga može biti još dublje narušavanje povezanosti među ljudima.