Sve više aplikacija koje uz pomoć AI-ja razgolićuju žene

Aplikacije koje koriste veštačku inteligenciju (engl. artificial intelligence - AI) za skidanje žena na fotografijama beleže veliki rast popularnosti, tvrde istraživači. Samo u septembru je 24 miliona ljudi posetilo veb-stranice posvećene skidanju, prema analizi kompanije koja istražuje društvene mreže Graphika.

Mnoge od ovih usluga za skidanje ili takozvanu nudifikaciju koriste popularne društvene mreže u svrhu marketinga, prema navodima Graphike. Na primer, od početka 2023. godine broj linkova koji reklamiraju ove aplikacije povećao se za više od 2.400 odsto na društvenim mrežama, uključujući X i Reddit, tvrde istraživači. Usluge koriste AI kako bi rekreirale sliku tako da osoba na njoj bude gola. Većina ovih usluga to radi samo na ženama.

Ove aplikacije deo su zabrinjavajuće tendencije razvoja i distribucije nepristojnih sadržaja bez saglasnosti, zbog napretka AI-ja, poznatog kao dipfejk pornografija. Njeno širenje nailazi na ozbiljne pravne i etičke prepreke, budući da se fotografije često uzimaju s društvenih mreža i distribuiraju bez saglasnosti, kontrole ili znanja subjekta.

Jedna fotografija objavljena na X-u koja reklamira aplikaciju za skidanje sugeriše da korisnici mogu da kreiraju takve slike i zatim ih pošalju osobi čija je fotografija "digitalno skinuta", podstičući uznemiravanje. Jedna od aplikacija, s druge strane, plaća za sponzorisani sadržaj na Googleovom YouTubeu i pojavi se prva u pretrazi ključne reči - "nudifikacija".

Portparol Googlea je rekao da kompanija ne dozvoljava oglase koji sadrže seksualno eksplicitan sadržaj. "Pregledali smo ove oglase i uklanjamo one koji krše našu politiku."

Ni X ni Reddit nisu odgovorili na zahteve za komentar.

Depositphotos

Nepristojni sadržaji koji se stvaraju bez pristanka javnih ličnosti odavno su kletva interneta, ali stručnjaci za privatnost postaju zabrinuti da je napredak u tehnologiji AI-ja učinio softvere za dipfejk lakšim i efikasnijim.

"Primećujemo sve više ovakvih stvari koje rade obični ljudi s običnim ciljevima", rekla je Eva Galperin, direktorka za sajber-bezbednost u Electronic Frontier Foundationu. "Vidite to kod srednjoškolaca i studenata na fakultetu."

Mnoge žrtve nikada ne saznaju za slike, ali čak i oni koji saznaju mogu imati problema s pokretanjem istrage pravosudnih organa ili pronalaženjem sredstava za pokretanje pravnih postupaka, rekla je Galperin.

 

U Sjedinjenim Američkim Državama trenutno ne postoji federalni zakon koji zabranjuje stvaranje dipfejk pornografije, iako američka vlada zabranjuje generisanje ovakvih slika maloletnika. U novembru je jedan dečiji psihijatar iz Severne Karoline osuđen na 40 godina zatvora zbog korišćenja aplikacija za skidanje na fotografijama svojih pacijenata, što je prvi takav sudski postupak pod zakonom koji zabranjuje stvaranje dipfejk materijala sa seksualnim zlostavljanjem dece.

TikTok je blokirao ključnu reč "skidanje", popularni pojam povezan s ovim uslugama, upozoravajući svakoga ko traži tu reč da ona "može biti povezana s ponašanjem ili sadržajem koji krši smernice", prema navodima aplikacije. Predstavnik TikToka odbio je da da dodatne informacije. Meta Platforms Inc. je takođe počela da blokira ključne reči povezane s pretragom aplikacija za skidanje. Njihov portparol je odbio da komentariše situaciju.