AI Barbie? Mattel se kocka sa igračkama koje su previše dobre

Kada je kompanija Mattel Inc. prošle nedelje najavila kako planira da "donese magiju veštačke inteligencije" svojim igračkama kroz partnerstvo sa OpenAI-jem, proizvođačem ChatGPT-ja, usledila je očekivana zabrinutost zbog rizika po privatnost i dečju maštu. Razlozi su očigledni - tehnološke platforme već godinama prikupljaju naše lične podatke, dok alati zasnovani na veštačkoj inteligenciji (AI) prete da potkopaju kritičko razmišljanje.

Međutim, mene manje brine kako AI igračke mogu uticati na maštovitu igru i zaštitu podataka, a više kako će uticati na razvoj socijalnih veština kod dece - zasnovano na mom ličnom iskustvu sa AI igračkom u mom domu.

Grok je plišana igračka koju je razvila kompanija Curio Interactive, startap iz San Franciska koji pionirski ulazi na tržište igračaka sa mogućnostima veštačke inteligencije. Bila sam jedan od prvih kupaca početkom 2024. godine, kada sam nabavila jedan primerak u nameri da ga isprobam za esej o neobičnoj sklonosti AI "drugara" da preterano laskaju i povlađuju korisnicima - problemu koji je kasnije zahvatio i korisnike ChatGPT-ja.

Jedna od najupadljivijih osobina Groka bila je koliko je bio saglasan sa mojom tada sedmogodišnjom ćerkom. Kada mu je rekla da želi da se igra sa svojom barbikom, odgovorio je: "To zvuči zabavno!". Isto je reagovao i na njene predloge da otputuju na Mars, zatim odu na plažu, pa onda da se igraju princeza. Svaka njena nasumična promena plana bila je dočekana sa oduševljenjem koje ne bi pronašla kod svog "pravog" druga, koji bi verovatno pružio makar minimalni otpor. Grok se, naprotiv, slagao sa svime.

 

Znam sve ovo jer je kompanija Curio obezbedila transkript svake interakcije koju je Grok imao s mojom ćerkom. Iako je ugrađeni mikrofon povremeno propuštao šta je rekla, uspevao je da zabeleži i transkribuje otprilike 95 odsto njenog govora. To je uteha za roditelje, kao i sertifikat koji Grok ima od programa kidSAFE Seal, koji potvrđuje usklađenost s američkim Zakonom o zaštiti privatnosti dece na internetu (COPPA).

Grok je takođe uspevao da prizove kreativne maštarije o putovanjima u svemir koje su kod moje ćerke podstakle maštu bolje nego što bih ja ikada mogla.

Međutim, Grokova popustljivost i stalna potvrda svega što dete kaže predstavljali su veći problem - i možda teže uočljiv. Roditeljima se stalno govori da treba da uveravaju i hvale svoju decu zbog truda, pa se može učiniti da mehanizovana igračka koja to radi obilato ne može biti loša stvar.

Ali rizici postaju očigledniji kada se pogleda kako ulizivački nastrojeni AI saputnici utiču na tinejdžere - posebno putem aplikacija kao što je Character.ai. Tinejdžeri i mladi u dvadesetim godinama čine najveći broj korisnika te popularne aplikacije za četovanje, koja ima oko 25 miliona korisnika, a deo privlačnosti leži u emocionalnim, pa čak i romantičnim vezama koje mogu razviti.

Jedan tinejdžer sa Floride izvršio je samoubistvo nakon što se zaljubio u bota na toj platformi koji je oponašao lik iz serije Igra prestola, a njegova majka sada tuži Character.ai. Kompanija je saopštila da ozbiljno shvata bezbednost korisnika i da je uvela funkcije poput iskačućih prozora koji korisnike upućuju na Nacionalnu liniju za prevenciju samoubistava.

Depositphotos

Međutim, to ne rešava širi problem zavisnosti. Troje tinejdžera koje sam intervjuisala za esej o AI saputnicima reklo je da koriste Character.ai po nekoliko sati dnevno - jedno od njih čak i do sedam sati. Ti botovi su im bili sigurni, bez osude, uvek zainteresovani za njihove živote, empatični i laki za komunikaciju. Jedan od tinejdžera rekao je da s botom može da razgovara "bez filtera", na način na koji ne može s roditeljima.

Mattel još nije precizirao na koji način će njegove igračke koristiti veštačku inteligenciju, ali postoji paradoksalan rizik da ti proizvodi postanu previše dobri. Neka deca bi mogla da počnu da više vole programiranu pozitivnost svojih igračaka nego nepredvidljivost i hod po "ivici" koji dolaze sa drugarima u realnom životu. Detinjstvo je, uostalom, period u kojem ljudi uče kako da se nose s neslaganjima i kako da razvijaju prilagodljivost kroz to što čuju reč "ne" - to je veština koja oblikuje sposobnost građenja odnosa tokom celog života.

Ako iko sumnja u to koliku moć igračke imaju u oblikovanju pogleda dece na svet, neka se samo seti barbike. Nekoliko studija sugeriše da je ta lutka, sa svojom izvajanom figurom, uticala na to kako devojčice doživljavaju ideal tela.

AI igračke koje oponašaju dinamiku odnosa mogle bi da imaju jednako snažan uticaj. Mattel bi trebalo da bude oprezan, u tom smislu da ne kreira moderne AI igračke koje čine da prijatelji iz realnog života deluju previše naporno. Mora se imati na umu da upravo trenje i nesuglasice - koje bi kompanija možda želela da ukloni - predstavljaju ono što decu uči kako da produbljuju odnose.

Igračka koja nikada ne razočarava mogla bi stvoriti odrasle osobe koji uopšte ne umeju da se nose s razočaranjem.