.webp){kind=icon}
"Sissy se zapetljala!" Panični plač petogodišnjeg dečaka odjeknuo je hodnikom trosobne kuće porodice Arroyo u Milvokiju. Bio je februar 2021, a on se pre spavanja igrao sa svojom devetogodišnjom sestrom Arriani. Njihova majka je bila na času proučavanja Biblije, a njihov je otac bio u svojoj podrumskoj radionici, gde nije čuo zvukove iz kuće. Dečak je gledao kako se Arriani penje na policu s igračkama, omotava metalni povodac za psa oko vrata i kači kopču za šarku na vratima ormara. Arriani je visila pola metra od tla, udarajući se i očajnički grebući po vratu.
Nekoliko dana kasnije, nakon što je Arriani sahranjena u haljini princeze, sa tijarom, sa sveže nalakiranim noktima, dečak je ispričao roditeljima šta se dogodilo. Igrali su igru, rekao je, kao što su videli na TikToku.
Fotografija Arriani u porodičnoj kući / Bloomberg
Igra je imala ime: blackout challenge. Deca širom sveta gušila su se kućnim predmetima sve dok se nisu onesvestila, snimajući adrenalin koji su dobili dok su dolazili svesti, a zatim postavljali video-snimke na društvenu mrežu. To je moderna inkarnacija izazova gušenja koji postoje decenijama, samo što ih sada snažni algoritmi društvenih medija isporučuju deci i dopiru do onih koji su premali da u potpunosti shvate rizik.
Nije bilo medijskog izveštavanja o smrti devojčice, a prošli su meseci dok TikTok o tome nije saznao. Kompanija je bila svesna da deca koja nisu dovoljno stara da imaju profile u njenoj aplikaciji umiru radeći taj izazov. Nedeljama pre toga TikTokov tim za poverenje i sigurnost, koji radi na zaštiti korisnika i ugleda, počeo je istraživati sličan incident u Palermu na Siciliji. Desetogodišnja devojčica Antonella Sicomero pronađena je kako visi na vešalici sa pojasom kućnog ogrtača oko vrata. Antonellini roditelji rekli su lokalnim medijima da je umrla igrajući "ekstremnu igru na TikToku". Kancelarija tužioca u Palermu otvorila je istragu, a italijanski nadzornik privatnosti naredio je društvenoj mreži da ukloni svakog korisnika u zemlji za koga nije mogao potvrditi da je stariji od 13 godina, navodeći da se ne pridržava vlastitog pravila da predtinejdžere drži dalje od aplikacije.
Mala grupa ljudi iz Poverenja i sigurnosti provela je dane pregledajući svaki isečak koji je Antonella nedavno pogledala, rekla su dva člana tima koji su videli sažetak internog izveštaja o njenoj smrti i zatražili anonimnost jer nisu bili ovlašćeni da razgovaraju s medijima. Bilo je puno videa. U izveštaju stoji da je Antonella, čija je škola zatvorena zbog kovida, bila na aplikaciji čak 10 sati dnevno. Grupa je takođe saznala da je, kao i mnoga deca njene starosti, Antonella tvrdila da je starija od 13 godina kada je kreirala nalog.
Tim je izvestio da nije pronašao dokaze da je TikTokov algoritam preporučio izazov Antonelli. To je bilo olakšanje višim rukovodiocima, kažu članovi tima. Napravljena je strategija upravljanja kriznim situacijama kako bi se TikTok udaljio od tragedije, prikazujući je kao problem cele industrije. Kompanija je rekla novinarima da izazov "nikada nije bio trend" na platformi i rekli su da su korisnici za njega saznali "iz izvora koji nisu TikTok".
Šta Tiktok radi da zaštiti decu? / Bloomberg
TikTok je nastavio s istom porukom, uključujući i nedavnu izjavu za Bloomberg Businessweek, budući da su deca koja su umrla premlada da bi bila na društvenim mrežama. Izazov je povezan je sa smrću najmanje 15 dece u dobi od 12 godina ili mlađe u poslednjih 18 meseci, prema podacima koje je Businessweek prikupio iz novinskih izveštaja, sudskih spisa i intervjua s članovima porodice. Tada je umrlo i najmanje petoro dece od 13 do 14 godina. Novinski naslovi nakon smrti često su izdvajali TikTok, ali policijske uprave odbile su zahteve zakona o slobodi informacija da vide izveštaje o incidentima koji bi mogla pomoći u dokazivanju o kojoj je platformi reč, ako uopšte postoji.
U vreme smrti Arriani, rukovodioci su pokušavali smisliti kako bi bolje otkrili i izbacili decu koja su lagala o godinama. Ne postoje efikasni mehanizmi za blokiranje maloletnih korisnika s platformi društvenih medija, što je problem koji ih muči otkako su izmišljeni. U 2021. TikTok se susreo s najmanje dva softvera za procenu godina prema licu, koji može razlikovati dete od tinejdžera sa relativnom tačnošću, prema ljudima upoznatim s razgovorima. Ovi programi za mašinsko učenje skeniraju lica tražeći tragove o godinama osobe, a firme kažu da sistemi rade bez identifikovanja pojedinaca ili prikupljanja bilo kakvih podataka, što bi pak moglo izazvati zabrinutost zbog privatnosti.
Uprkos tome, jedan od ljudi koji su upoznati s pregovorima kaže da je izvršni direktor TikToka poništio ugovore. Kompaniju, u vlasništvu ByteDance Ltd. sa sedištem u Pekingu, regulatori i političari širom sveta optuživali su da je alat za nadzor kineske vlade i bila je suočena s mogućom zabranom u SAD, koja se još uvek razmatra. Izvršna osoba, kaže sagovornik, bojala se da bi korišćenje biometrijskih podataka moglo podstaći sumnje da Kina špijunira decu korisnike. Druge platforme društvenih medija, uključujući Twitter, Instagram i aplikaciju za deljenje fotografija BeReal, od tada su se udružile s ovim pružaocima softvera za procenu starosti.
Sve mlađa deca koriste društvene mreže / Bloomberg
TikTok je odbio da komentariše sastanke i pitanje zašto nije usvojio tehnologiju. Kaže da uklanja naloge maloletne dece i uklonio ih je 41 milion samo u prvoj polovini ove godine. Ali sa više od milijardu korisnika širom sveta, kažu bivši zaposleni, zadatak je beskrajan - samo pitajte bilo kojeg mladog zavisnika o TikToku hoće li ih brisanje naloga zadržati izvan platforme duže od nekoliko minuta.
Američki zakon zabranjuje društvenim mrežama prikupljanje podataka o deci mlađoj od 13 godina, a TikTok kaže da je u skladu s pravilima. Deca mlađa od tog uzrasta koja se pokušaju registrovati za nalog u SAD preusmeravaju se na verziju aplikacije u kojoj mogu gledati odabrani sadržaj bez profila ili prikazivanja oglasa. Ali TikTok diktira kulturu mladih, to je najpopularnija aplikacija u SAD, koristi je gotovo 70 odsto tinejdžera od 13 do 17 godina, prema jednoj anketi, i firma je svesna da deca često lažu o uzrastu kako bi dobila verziju za odrasle. I premda TikTok ne otkriva podatke o godinama svojih korisnika, interni podaci koji su procurili u "New York Times" pokazali su da je 2020. godine čak jedna trećina bila mlađa od 14 godina.
To je osetljivo pitanje za kompaniju, koja kaže zaposlenima da "govore o mladima, ali ne o deci", prema internom dokumentu s porukama koji je pregledao Businessweek. TikTok je kažnjen jer je pustio decu u svoju aplikaciju, a regulatori širom sveta istražuju njegove mere provere godina. Takođe se suočava s tužbama za nezakonitu smrt u SAD, navodeći da je njegov algoritam poslao izazov deci od osam godina.
Provera koja je u toku dobrodošla je vest za neke od dvadeset sadašnjih i bivših radnika Povereništva sigurnosti koji su intervjuisani za ovaj članak. Kažu da bi kompanija mogla učiniti više kako bi sprečila decu da koriste aplikaciju. "PR linija u TikToku je da nam je sigurnost korisnika broj jedan prioritet", kaže bivši rukovodilac poverenja i sigurnosti sa sedištem u Kaliforniji koji je zamolio da ostane anoniman dok je razgovarao o internim pitanjima. "To nije istina. Rast je broj jedan prioritet. Biti broj jedan aplikacija na svetu je broj jedan prioritet. Zarađivati više novca je broj jedan prioritet."
TikTok aplikacija odnosi svake godine sve više mladih života / Bloomberg
Kada je ByteDance potrošio oko 800 miliona dolara za spajanje TikToka s aplikacijom za sinhronizaciju čitanja s usana Musical.ly 2018. godine, dobio je više od samo 200 miliona novih korisnika. Takođe, nasledio je istragu američke Savezne komisije za trgovinu o praksi Musical.ly da pušta malu decu u svoju aplikaciju. Musical.ly se godinama oglušivao o američki zakon, pozdravljajući one mlađe od 13 godina koji su bili isključeni s konkurentskih platformi i istovremeno kršeći zakon o zaštiti privatnosti dece na internetu, koji nastoji zaštititi predtinejdžere od oglašivača.
Suosnivač Musical.ly i suizvršni direktor Alex Zhu priznao je na konferenciji TechCrunch 2016. da su mnogi od najpopularnijih korisnika aplikacije bili maloletni. No, rekao je da je to u skladu sa zakonom jer su deca imala pristanak roditelja. Nije imalo smisla postavljati granicu, rekao je Zhu; kad bi Musical.ly pitao za datum rođenja, deca bi samo lagala. Iako je to možda bilo iskreno priznanje, FTC je 2019. ByteDance kaznio 5,7 miliona dolara, što je u to vreme bila najveća nagodba o privatnosti dece u istoriji SAD. (Kazna jedva da je oštetila firmu koja se sada procenjuje na 300 milijardi dolara, a ubrzo ju je zasenila kazna od 170 miliona dolara zbog povrede privatnosti dece protiv YouTubea i Googlea u vlasništvu Alphabet Inc.)
Zhu na TechCrunch Disrupt Londonu 2016. / Bloomberg
Na istoj konferenciji 2016, Zhu je rekao da ono što razlikuje Musical.ly od ostalih aplikacija za zabavu su svakodnevni izazovi. Kompanija je svaki dan promovirala novi, obično generišući više od milion video-zapisa. Kad je Musical.ly apsorbovan u TikTok, s njim su došli i izazovi.
Ti su izazovi imali odjeka među tinejdžerima koji su ostali kod kuće tokom prvog talasa kovida. Razvili su se iz koreografisanih plesnih rutina u trendove porodičnog povezivanja, poput prikazivanja četiri generacije u jednom videu ili oblačenja kućnih ljubimaca. U 2020. TikTok preuzimanja skočila su za 75 odsto. Kako bi pojačali talas, predstavnici firme obratili su se uticajnim osobama kako bi ih podstakli da isprobaju različite izazove.
Kad su neki postali opasni, poput onih s decom koja su se penjala na naslagane sanduke za mleko, pijuckala Benadryl ili uništavala školsku imovinu, TikTok je uspostavio "spektar štete" kako bi pomogao svojim moderatorima da odluče šta bi moglo ostati gore, a što bi trebalo maknuti, prema Eric Hanu, čelniku firme za SAD sigurnosti. Izazov s cimetom, u kojem su korisnici pojeli kašičicu praha, mogao je dovesti do manjih oštećenja pluća, ali se smatralo da nije verovatno da će izazvati katastrofalne štete, pa je tim za poverenje i sigurnost priložio upozorenje sadržaju i ostavio ga. Morali su rešiti druga goruća pitanja, uključujući integritet izbora, borbu protiv govora mržnje i suočavanje s pretnjom Trumpove administracije da će zabraniti TikTok zbog zabrinutosti za nacionalnu sigurnost.
Izazovi se prebacuju preko platformi, pretvarajući se u nove iteracije s različitim hashtagovima / Bloomberg
Usred tog haosa i eksplozivnog rasta aplikacije, izazovi su postajali sve riskantniji. U izazovu razbijanja lobanja, dvoje bi ljudi prevarilo trećeg da skoči između njih, a zatim bi spotakli skakača u vazduhu, što je rezultiralo izveštajima o potresima i oštećenjima mozga. Izazov utičnice, koji uključuje ispuštanje novčića na zupce delimično uključenog punjača za telefon doveo je do toga da su studenti optuženi za uništavanje imovine. Vatreni izazov, u kojem su klinci polivali predmete akcelerantom i palili ih, ponekad je završavao opekotinama trećeg stepena. A izazov zamračenja (blackout) bio je smrtonosan.
Čini se da su američki zdravstveni zvaničnici proučavali smrtne slučajeve povezane s igrama gušenja samo u godinama pre procvata društvenih medija. Izveštaj koje je Centar za kontrolu i prevenciju bolesti objavio 2008. pokazalo je da je 82 dece u dobi od šest do 19 godina umrlo igrajući igru gušenja između 1995. i 2007, godine kada je prvi iPhone pušten u prodaju. Vlada od tada nije objavila drugu studiju o tom pitanju, ali povremeni izveštaji sugerišu da su društveni mediji pojačali problem.
Judy Rogg postala je zagovornica nastojeći podići svest o izazovu gušenja nakon što je njen 12-godišnji sin Erik umro igrajući igricu 2010, mnogo pre nego što je TikTok stvoren. Rogg je pokrenula neprofitnu organizaciju pod nazivom Erik's Cause, koja pomaže u obuci škola o tome kako se nositi s rizicima na internetu i prikuplja statističke podatke o smrtima povezanim s igrama gušenja. Otkrila je da je od 2018. umrlo najmanje 33 dece mlađe od 13 godina. "Postao je popularniji na društvenim mrežama", kaže Rogg. "Apsolutno je eksplodirao."
Izazovi se prebacuju preko platformi, pretvarajući se u nove iteracije s različitim hashtagovima i šifrovanim rečima dok korisnici zaobilaze sigurnosna ograničenja. Izazov zamračenja ima mnogo naziva, od očiglednije "igre gušenja" i "izazova padanja u nesvest", do suptilnijeg "flatliner" i zbunjujućeg "svemirskog majmuna". Deca pogrešno pišu reči kako bi izbegla otkrivanje, poput "space monkee" ili "blackout tr1ck". Video-zapisi s nekim od ovih naslova danas postoje na TikToku, prikazujući decu kako duboko dišu i guraju jedno drugo u prsa dok se ne onesveste ili guše jedno drugo rukama. Možete videti kako deca privremeno gube svest, a zatim se probude smejući se. Jedan natpis kaže: "Najluđi osećaj ikada".
TikTok oglašava kako "trendovi počinju kod njih" / Bloomberg
Više od 70 odsto dece u SAD ima mobilni do svoje 12. godine, a polovina dece od osam do 11 godina u Ujedinjenom Kraljevstvu svakodnevno gleda TikTok sadržaj, prema anketama u obe zemlje. TikTok obučava svoje timove za moderiranje da traže maloletne korisnike i oslanja se na tekstualnu analitiku za otkrivanje ključnih reči kao što je napisan broj godina u biografiji. Mahsau Cullinane, portparolka kompanije, odbila je da otkrije više detalja kako bi izbegla podučavanje dece kako da zaobiđu zaštitne mere. Istakla je da je TikTok 2020. godine izdao alat koji roditeljima omogućuje praćenje aktivnosti deteta na aplikaciji.
Globalna armija od oko 40.000 moderatora odgovorna je za pregled videa na TikToku, od kojih tri četvrtine rade po ugovoru. Svaki pogleda oko 1.000 videa dnevno, a potrebno im je oko 20 sekundi za pregled svakog od njih, prema bivšim zaposlenima. Kažu da sistem nije usmeren na pronalaženje maloletnih korisnika. Postovi se filtriraju do moderatora pomoću softvera veštačke inteligencije koji skenira svaki preneseni video, 10 milijardi samo u prvom kvartalu ove godine, i automatski uklanja sve što bi kršilo smernice zajednice, poput golotinje ili nasilja. Ako softver nije siguran, šalje materijal čoveku na procenu. Svaki video-zapis koji ima više od oko 3.000 pregleda (broj se razlikuje od zemlje do zemlje) takođe se šalje moderatoru, čime se osigurava da najpopularniji sadržaj dobije ljudski pregled. Ipak, deca mlađa od 13 verovatno neće objavljivati sadržaj koji krši smernice ili koji će dopreti do toliko pogleda.
Moderatori TikToka možda aktivno traže naloge maloletnih korisnika, ali nikad nisu uklonili naloge Arriani Arroyo, gde je objavljivala videe za svojih 260 pratilaca. Nije skrivala svoj identitet: njena profilna fotografija bila je slika njenog devetogodišnjeg lica. U svojim videima ona pleše, smeje se i igra sa svojim bratom. Njena zadnja objava imala je 457 pregleda.
Moderatori TikToka možda aktivno traže račune maloletnih korisnika, ali nikad nisu uklonili nalog Arriani Arroyo / Bloomberg
"Ovo su poslednje stvari koje je nosila", kaže Christal Arroyo, uzimajući pidžamu iz komode svoje kćeri. Nežno je razmotala vrh, otkrivajući razderotinu na mestu na kojem su je bolničari otvorili. "Ne volim ih gledati", kaže ona presavijajući odeću. "Dođem ih pomirisati." Kiša zapljuskuje prozor, a munja osvetljava Arrianinu spavaću sobu. Arroyo ništa ne primećuje. Ima zatvorene oči, udiše miris svoje kćeri.
Arriani je voljela šljokice, lak za nokte i haljine vilinskih princeza. Skupljala je školjke i pisala popise obaveza u svoj dnevnik: "peri zube, biraj odeću, friziraj se i šminkaj, zabavi se!" Omiljena pesma bila joj je Girl on Fire Alicie Keys, a pevala ju je tokom jutarnje rutine. Htela je iPhone kad je napunila osam, "kao svako dete u Americi", kaže njena majka. Omiljena aplikacija bila joj je TikTok. Kad je pandemija zatvorila njenu školu 2020, Arriani je postala "opsednuta" time, kaže Arroyo.
Arriani i njen brat provodili su sate baveći se plesnim trendovima i viralnim izazovima. Neki su bili nevini, poput držanja vode u ustima dok se ne počnete kikotati ili jedenja samo crvene hrane tokom 24 sata. Igrali su se zajedno one noći kad je umrla. "Ljudi su me pitali: 'Gde su bili roditelji?' ", kaže njen otac, Eddie Arroyo. "Pa bio sam kod kuće taj dan, taj trenutak i nisam ništa čuo". Njegov sin je sišao u podrum, gde je rezao izolaciju, da mu kaže da se Arriani zapetljala. "Pratio sam ga da vidim šta nije u redu, i tu sam je pronašao", kaže, pokazujući prema spavaćoj sobi svog sina. Povodac za pse kojim se obesila bio je namenjen psiću kog je porodica nameravala da kupi. "Nije mogla disati, nije mogla vrisnuti", kaže Eddie.
Neki bi se roditelji spakovali i otišli, progonjeni sećanjem. Porodica Arroyos je odlučila ostati u kući u kojoj je Arriani umrla jer je tu i živela. Njene Juicy Couture Ugg čizme ukrašene draguljima nalaze se pokraj kreveta; njena ružičasta maska za spavanje Trnove Ružice visi sa kreveta. Hteli su je sahraniti na groblju preko puta, čije se imanje vidi kroz njene svetlucave zavese. Ali podižući petero dece uz Eddiejevu platu vozača kamiona, a Christal je studentkinja prava, nisu mogli priuštiti parcelu. Umesto toga, Arriani je sahranjena na groblju udaljenom sedam minuta vožnje.
Nakon sahrane, Arroyosi su pitali Arrianine prijatelje koju je igru igrala kad je umrla. Tada su prvi put čuli reči "blackout challenge".
Porodica Arroyo na grobu svoje kćeri / Bloomberg
Čitali su novinske izveštaje dok je sve više dece umiralo. Joshua Haileyesus pronađen je u Coloradu dva meseca kasnije s omčom oko vrata; njegov otac, Zeryihun, rekao je da je umro pokušavajući TikTokov izazov blackout. U junu je umrlo još troje dece, što je takođe rezultiralo novinskim naslovima o izazovu zamračenja: Nate Squires, 13; LaTerius Smith Jr, 9; i James Boyd-Gergely, 14, u Australiji. U julu je Lalani Walton (8) pronađena obešena u svojoj spavaćoj sobi. U septembru je Hayden Robert Craig (10) pronađen kako visi na stablu u svom dvorištu u Džordžiji.
Policija nijednu od ovih smrti nije javno povezala s TikTokom. Drugi smrtni slučajevi možda su ostali neprijavljeni, prema Roggu, osnivaču Erik's Cause. "Nažalost, mnoge od tih smrti pogrešno su klasifikovane kao samoubistva", kaže ona. Jedini način da se dokaže da je dete učestovalo u izazovu ili da se otkrije koja je platforma u pitanju je da službenici provedu psihološku obdukciju, istragu detetove internet mreže i prijateljskih grupa kako bi rekonstruisali šta su možda mislili, ili narede forenzičku analizu njihovih uređaja kako bi se utvrdilo šta su gledali onlajn.
Policajci u Tenesiju, gde je Lalani Walton umrla, učinili su upravo to. Prema tužbi koju su podneli njeni roditelji, policija je rekla da je analiza telefona pokazala da je provela sate gledajući video-zapise izazova zamračenja na TikToku dan pre smrti. Nakon što je telo Haydena Roberta Craiga pronađeno, policajac je primetio njegov iPad u blizini, prema izveštaju o incidentu u koje je imao uvid Businessweek. Na ekranu se prikazao TikTok crnog ekrana s krvavim emotikonom noža.
Članovi TikTokovog azijsko-pacifičkog savetodavnog veća za bezbednost, koje se sastoji od spoljnih stručnjaka, izrazili su zabrinutost zbog toga što je izazov zamračenja povezan sa smrtnim slučajevima i u njihovoj regiji. Linh Phuong Nguyen, vijetnamski stručnjak za sigurnost dece na internetu koji je u veću, kaže da je nekoliko dece umrlo pokušavajući izazov u Kambodži, na Filipinima i u Vijetnamu. Jedna, iz Ho Chi Minh Cityja, imala je samo pet godina. Iskoristila je komad šifona da se obesi o krevet na sprat nakon što je gledala izazov na YouTubeu. (Portparolka YouTubea kaže da platforma uklanja video-zapise izazova zamračenja i zabranjuje "svaku aktivnost koja sprečava disanje ili može dovesti do gušenja.")
Neki u veću predložili su TikToku i drugim platformama društvenih medija da izgrade savez kako bi sprečili širenje opasnih izazova, kažu ljudi upoznati s privatnim sastancima. Ali TikTok je imao nekoliko prijatelja u Silicijskoj dolini. Prema Washington Postu, jedan potencijalni saveznik, Meta Platforms Inc, angažovao je istraživače 2021. da podmetnu vesti o tome kako TikTok širi opasne izazove koji zapravo potiču sa Facebooka. Meta nije porekla kampanju klevetanja kako bi okrenula javnost protiv svog najvećeg rivala, na čijem kopiranju formata i algoritma je istovremeno radila.
Deca su prisutna na svim društvenim mrežama / Bloomberg
Cullinane, portparolka TikToka, kaže da kompanija shvata "neverovatno ozbiljno svaku prijavu navodnog opasnog čina ili izazova". Nakon svake smrti i naslova, TikTok je odredio radnu grupu da to istraži. Ipak, upućeni kažu da su ti upiti osmišljeni kako bi se odbacila krivica. Svaki put kad je naslov izazova zamračenja povezan s TikTokom, tim koji je zadužen za slučaj pronašao je dokaze da su umrla deca koristila više platformi društvenih medija i zaključio da nema načina da se dokaže koja ih je aplikacija uputila na izazov. U nekim slučajevima tim uopšte nije mogao potvrditi postojanje TikTok naloga.
Nakon smrti Antonelle Sicomero 2021. i zabrane nepotvrđenih TikTok naloga u Italiji, firma je pristala da ponovo proveri starost 12,5 miliona korisnika u zemlji, što je završilo brisanjem pola miliona naloga. TikTok je takođe rekao svojim regionalnim upravnicima da pripaze na bilo kakav sadržaj izazova zamračenja na njihovim tržištima, uklonio je video-zapise koji promovišu takav sadržaj i ukinuo krajnjim korisnicima mogućnost da ga traže u aplikaciji. TikTok je odbio otkriti koliko je video-zapisa uklonjeno, ali Cullinane kaže da firma nikada nije pronašla nikakve dokaze o trendu izazova na platformi. Ona ukazuje na anketu koju je naručila te godine koja pokazuje da je samo 0,3 odsto tinejdžera reklo da je učestvovalo u izazovu koji su smatrali "stvarno opasnim". Globalno istraživanje takođe je pokazalo da je dva odsto reklo da je učestvovalo u izazovima koje su smatrali "rizičnim i opasnim".
Uprkos merama koje je TikTok preduzeo, smrtni slučajevi su se nastavili događati. Prošlog decembra, 10-godišnja Nylah Anderson obesila se kod kuće u predgrađu Filadelfije. Nakon njene smrti, njena majka, Tawainna Anderson, pronašla je na mobilnom telefonu snimke Nylah i njene sestrične kako igraju igru gušenja i prijavila je policiji.
Policajac je u izveštaju o incidentu napisao da mu je rođak rekao "to je bio izazov davljenja koji su videli na TikToku i YouTubeu". Prema tužbi za nezakonitu smrt protiv TikToka i ByteDancea koju je Nylahina majka podnela saveznom sudu u Pensilvaniji, forenzička analiza telefona pokazala je da joj je TikTok poslao video koji ju je podstakao da stavi torbicu na vešalicu u ormaru i visi dok se ne onesvesti. "Firma je nedvosmisleno znala da se smrtonosni izazov zamračenja širio njihovom aplikacijom i da je njihov algoritam posebno hranio izazov zamračenja deci, uključujući i one koji su umrli", stoji u tužbi.
U julu je Centar za zaštitu žrtava društvenih medija u Sijetlu podneo drugu tužbu, u ime roditelja Arriani Arroyo i Lalani Walton. Centar, koji je 2021. godine osnovao Matthew Bergman, advokat za odgovornost za proizvode, pokrenuo je više od 40 tužbi protiv TikToka, Mete, Snapchata i YouTubea zbog navodne štete mentalnom zdravlju, zavisnosti od društvenih medija i nezakonite smrti. Bergman, koji je proveo svoju karijeru tužeći proizvođače azbesta, kaže da je svoju pažnju usmerio na društvene medije prošle godine kada je čuo da je uzbunjivačica Mete Frances Haugen objavila dokumenta koja opisuju načine na koje Facebook šteti tinejdžerima. Ove platforme "eksperimentišu s našom decom i stavljaju profit ispred ljudi", kaže Bergman.
U tužbi koju su podnele porodice Arroyo i Walton navodi se da je TikTok odgovoran za njihovu smrt jer je njegov algoritam preporučio devojkama izazov. U avgustu je slučaj izmenjen kako bi se dodala još jedna tužiteljica, baka i zakonska starateljka Zaidena Baldwina (11), koji je ranije ovog leta pronađen kako visi iza šupe u Novom Meksiku. Rekao je svojoj starijoj sestri da je video video-zapise izazova zamračenja na TikToku i da želi isprobati, stoji u tužbi. Slučaj je u toku, a TikTok nije dostavio odgovor.
"Poslednja stvar na svetu koju te kompanije žele učiniti je stati pred porotu i objasniti im zašto su im profiti važniji od života" / Bloomberg
"Poslednja stvar na svetu koju te kompanije žele učiniti je stati pred porotu i objasniti im zašto su im profiti važniji od života", kaže Bergman. "Upotrebiće svaku moguću pravnu lukavštinu kako bi izbegli taj obračun, a mi ćemo se boriti koliko god možemo da ih pozovemo na odgovornost." U septembru je pokrenuta treća tužba protiv TikToka nakon što je 13-godišnji dečak umro pokušavajući izazov, takođe u Novom Meksiku.
Cullinane kaže da saoseća s porodicama, ali da ne može komentarisati sudski spor koji je u toku. U julu je firma podnela zahtev za odbacivanje tužbe Nylah Anderson, tvrdeći da "nema zakonsku obavezu zaštite od prikazivanja opasnih aktivnosti trećih strana". TikTok je u zahtevu tvrdio da je zaštićen odeljkom 230 Zakona o pristojnosti komunikacija, koji kaže da se tehnološke platforme ne mogu smatrati odgovornim za sadržaj objavljen na njihovim stranicama. U oktobru je sudija odbacio slučaj, slažući se da TikTok ne može biti tužen čak i ako je preporučio izazov Nylahu.
Vrhovni sud možda ima nešto za reći o tom pitanju. U oktobru je pristao saslušati nepovezani slučaj o opsegu odredbe o imunitetu iz Odeljka 230. Njegova odluka bi mogla dopustiti nastavak tužbi za izazivanje zamračenja, ili ih izbrisati.
Christal Arroyo i njen sin / Bloomberg
Platforme društvenih medija su pod sve većim pritiskom zakonodavaca da učine više na zaštiti dece. U septembru je guverner Kalifornije Gavin Newsom potpisao zakon o privatnosti na internetu, modeliran prema britanskom zakonu o dizajnu primerenom godinama, koji prisiljava tehnološke firme da daju prednost interesima dece u odnosu na komercijalne. Kalifornijski kodeks, koji bi trebalo da stupi na snagu 2024, zahteva od firmi da procene doba deteta korisnika "s razumnim nivoom sigurnosti". Savezni zakon, koji takođe ima deo o proveri uzrasta, ovog leta je izašao iz odbora Senata uz dvostranačku podršku. Taj zakon, Zakon o sigurnosti dece na internetu, zahteva od Nacionalnog instituta za standarde i tehnologiju da provede godinu dana proučavajući kako platforme mogu tačno potvrditi doba dok istovremeno štite privatnost maloletnika.
To je oduvek bio čin balansiranja za tehnološke kompanije: sigurnost nasuprot privatnosti. Ako koriste tehnologiju prepoznavanja lica ili traže od korisnika identifikaciju koju je izdala vlada, poput vozačke dozvole ili pasoša, kritikuju ih zbog kršenja prava na privatnost i gomilanja ličnih podataka. Ako samo traže od korisnika da unesu datum rođenja, napadaju ih da ne čine dovoljno kako bi zaštitili decu koja lažu o godinama. A sve radnje koje uvodi provera godina suprotne su poruci sadržanoj u internom dokumentu TikToka koji je pregledao Businessweek: "Naš krajnji cilj je povećati dnevno aktivne korisnike."
Nadolazeći regulatorni pritisak stavio je pitanje osiguranja uzrasta u prvi plan, što je dovelo do toga da su neke od najvećih platformi društvenih medija u proteklih 18 meseci angažovale firme treće strane za procenu dobi. Za razliku od tehnologije prepoznavanja lica, koja nastoji identifikovati osobu, softver za procenu ne zadržava, deli ili ponovno koristi podatke, prema Julie Dawson, glavnoj službenici za politiku i regulativu u firmi za digitalni identitet Yoti doo Yoti, koja se nalazi u Londonu i radi s Instagramom u vlasništvu Mete; njihov softver je proučio stotine hiljada lica, a programiran je da rastavlja sliku u piksele, analizira uzorke i procenjuje koliko osoba ima godina.
Prošle godine je Yoti demonstrirao tehnologiju TikToku na privatnim sastancima, kaže Dawson, dodajući: "Do sada se nisu odlučili na to." TikTok se takođe sastao s Hiveom iz San Francisca koja radi s Twitterom i Redditom, prema trojici ljudi koji poznaju materiju. Te rasprave, koje su počele početkom 2021, takođe nisu dale nikakav rezultat.
Dawson kaže da je TikTok bio "prilično zabrinut" zbog mogućnosti dopuštanja prizaocu softvera treće strane da koristi njegove biometrijske podatke. Tog februara ByteDance je pristao da plati 92 miliona dolara za nagodbu kolektivne tužbe koju su u Ilinoisu pokrenuli korisnici koji su kompaniju optužili za korišćenje slika lica bez njihovog pristanka za ciljano oglašavanje. TikTok je osporio optužbe, ali je četiri meseca kasnije promenio politiku privatnosti da bi aplikaciji dao izričito dopuštenje za prikupljanje "otisaka lica i glasa" svojih korisnika. U oktobru su njeni rukovodioci ispitani u Kongresu o tome kako planiraju koristiti te podatke. Izbegli su pitanje, ali su rekli da TikTok prikuplja manje podataka od drugih društvenih medija.
"Nikome nije novost da firme prolaze kroz proces ograničenja starosti, ali ga ne sprovode prestrogo." / Bloomberg
Problem je, kaže Michael Rich, pedijatar i direktor Digital Wellness Laba u Bostonskoj dečjoj bolnici, u tome što "te firme ne vide svoje korisnike kao klijente koje treba uslužiti, vide ih kao proizvod koji prodaju." Platforme ne sprovode ozbiljna ograničenja jer to nije u njihovom najboljem interesu, ističe. "Nikome nije novost da prolaze kroz proces ograničenja starosti, ali ga ne sprovode prestrogo."
Marc Berkman, izvršni direktor Organizacije za sigurnost društvenih medija, grupe za zaštitu potrošača, kaže da TikTok šteti deci jer ne koristi softver treće strane za procenu uzrasta. "Zaštita koju imaju nije odgovarajuća", kaže Berkman, čija grupa nudi obrazovne savete o tome kako zaštititi decu na internetu. “Oni imaju spremna ta rešenja. Mogli su ih primeniti gotovo odmah. Odlučili su da neće. To služi poslovnom interesu, a ne sigurnosnom interesu."
U oktobru su se dogodila još dva smrtna slučaja. Archie Battersbee, 12-godišnjak iz Eseksa u Engleskoj, preminuo je nakon što je proveo mesece na aparatima za održavanje života. Pronađen je bez svesti s omčom oko vrata. Njegova je majka rekla novinarima da je pokušavao izazov zamračenja, iako patolog nije pronašao dokaze koji bi to potvrdili. Takođe u avgustu, Leon Brown, 14, pronađen je obešen u svom domu u Škotskoj. Lokalne vesti kažu da su njegovi prijatelji rekli njegovoj majci da je video izazov zamračenja na TikToku i da ga je pokušavao izvesti u video pozivu.
"Moje pitanje za TikTok," kaže Christal Arroyo, "je šta ćete učiniti da promenite platformu? Jer u ovom trenutku to nije sigurno ni za koga, a definitivno nije sigurno ni za jedno dete." Arroyo kaže da je njena sreća umrla s Arriani. "Aplikacija za društvene mreže", razmišlja ona zbunjenim tonom. "Nikad nisam razmišljala o tome da bi zbog njih mogla izgubiti ćerku."
"Aplikacija za društvene mreže", razmišlja Arroyo zbunjenim tonom. "Nikad nisam razmišljala o tome da bi zbog njih mogla izgubiti ćerku." / Bloomberg
U videu snimljenom mobilnim telefonom nekoliko nedelja pre nego što je umrla, Arriani sedi na zadnjem sedištu automobila svojih roditelja, obučena u ružičasti top sa plavim cvetovima. Njena tamna kosa je začešljana unazad. Jednom rukom drži telefon, a kamera je toliko blizu da se vidi da je nedavno izgubila jedan mlečni zub. "Ne obaziri se na to što drugi ljudi govore o tebi", kaže Arriani. "Budi samouveren i budi strastven jer svako na ovom svetu je lep." Šalje poljubac u kameru i pokazuje znak mira. "Dakle, ćao", kaže ona, smešeći se.
Businessweek je video poslao Hiveu, jednoj od softverskih kompanija koje su se susrele s TikTokom. Njegov model mašinskog učenja razbio je isečak na okvire i skenirao svaku sliku kako bi došao do procene starosti za Arriani.
"Tehnologija za ovo definitivno postoji", kaže izvršni direktor Kevin Guo. "Ali možda te platforme ne razumeju opseg ovog problema."
Hiveovom skeneru trebalo je tri sekunde da proceni da Arriani ima 10 godina. Umrla je tri meseca pre svog 10. rođendana.
