Cenzura: kako to radi Microsoft u Kini

Pogled iznutra na to kako  pretraživač Bing cenzuriše sadržaj u Kini, gde većina glavnih američkih internet usluga nije dostupna. 

U proleće 2021. godine, tik pred 32. godišnjicu masakra na Trgu Tjenanmen, korisnici Microsoftovog pretraživača Bing u SAD i Evropi primetili su nešto čudno. Bing je prestao da prikazuje poznate fotografije čoveka ispred tenka, demonstranta koji je sam blokirao kolonu oklopnih vozila tokom prodemokratskih demonstracija 1989. godine. „Nema rezultata za ‘čovek ispred tenka’”, objavio je pretraživač kao odgovor na traženi pojam. „Proverite pravopis ili isprobajte druge ključne reči.” 

Upitan tada o tom problemu, portparol kompanije Microsoft je okrivio „slučajnu ljudsku grešku”. Prema rečima troje ljudi upoznatih sa ovom temom, potpuno objašnjenje, koje do sada nikada nije javno objavljeno, bilo je da je kompanija Microsoft slučajno primenila crnu listu koju koristi za kinesku verziju Binga na ceo svet, pružajući tako neplanirani uvid u način na koji to funkcioniše sa Pekingom, kako bi kineskim korisnicima pružili prečišćen prikaz na internetu. 

Američke internet kompanije se dugo bore sa komplikacijama poslovanja u Kini. Nakon što su napravile značajne kompromise oko pitanja kao što je cenzura kako bi zadržale pristup ogromnom kineskom tržištu, kompanije Google i Yahoo! tamo su prestale da upravljaju sopstvenim pretraživačima; dok Facebook, Snapchat i X (bivši Twitter) nisu dostupni. 

Nasuprot tome, Microsoft je nastavio da pruža lokalnu verziju Binga od 2009. godine u skladu sa zahtevima cenzure u Pekinga. Suosnivač Bill Gates je dugo zagovarao blisku saradnju sa Kinom kako bi podstakao inovacije u zdravstvu i nauci - i odbacio je zabrinutosti u vezi sa cenzurom i uticajem te zemlje na tehnologiju. Gates se povukao iz Upravnog odbora kompanije Microsoft 2020. godine, ali je nastavio da posećuje kineske lidere; sastao se sa predsednikom Xi Jinpingom u junu 2023. godine, što je bio prvi Xijev susret sa stranim preduzetnikom unazad nekoliko godina. Tokom sastanka, Xi je opisao Gatesa kao svog „starog prijatelja”.  

Gates i Xi u Pekingu 2023. godine. Pang Xinglei/Xinhua/Redux

Satya Nadella, izvršni direktor kompanije Microsoft poslednjih deset godina, saglasan je sa Gatesovim mišljenjem o korisnosti pružanja internet usluga čak i kada to znači saradnju sa autoritarnim vladama. Nadella i drugi rukovodioci su takođe umanjivali značaj poslovanja kompanije Microsoft u Kini. Predsednik Brad Smith je rekao da je 2020. godine ta zemlja činila samo 1,8 posto udela u globalnoj prodaji kompanije Microsoft. 

Čak i ako Kina čini mali udeo u prihodu kompanije Microsoft, Bing ukazuje na stvarne znakove napretka tamo. Prestigao je kompaniju Baidu, ukupnog tržišnog lidera, kao najboljeg pretraživača za stone računare tokom petomesečnog perioda 2023. godine i ponovo u januaru ove godine, prema alatu za praćenje podataka StatCounter.  

StatCounter

Microsoft je uspostavio partnerstva sa desetinama hiljada kineskih kompanija u sektoru maloprodaje, proizvodnje, zdravstvene zaštite, automobila i energetike. Microsoft je u članku na kineskom jeziku na svom veb-sajtu 2022. godine saopštio da ima „simbiotski odnos” sa kineskim partnerima i da lokalno poslovanje vidi kao način da zaposli talente i dobije poslove kojima inače ne bi imao pristup. Yang Hou, predsednik kompanije Microsoft za Kinu, u septembru 2022. godine objavio je planove za povećanje ukupnog broja zaposlenih kompanije u zemlji na više od 10.000. „Microsoft će nastaviti da jača svoje poverenje i odlučnost da se razvija u Kini”, kaže on. 

Liu Pengyu, portparol kineske ambasade u Vašingtonu izjavio je u saopštenju da je kineski internet „besplatan, otvoren i uređen” i da pozdravlja poslovanje stranih kompanija u toj zemlji. „Međutim, kompanije sa stranim ulaganjima u Kini treba da se pridržavaju kineskih zakona i propisa, poštuju interese, kulturu i tradiciju opšte javnosti i preuzmu odgovarajuću društvenu odgovornost”, napisao je. 

Poštovanje takvih smernica je uvek predstavljalo rizik od neželjene reakcije u SAD, a rast tenzija između SAD i Kine, posebno oko veštačke inteligencije, mogao bi da pojača pritisak. 

Kritičari su godinama tvrdili da je poslovanje kompanije u Kini u suprotnosti sa njenom deklarisanom posvećenošću ljudskim pravima i demokratiji. „To je uznemiravajuće, to je nečuveno”, kaže Yaqiu Wang, direktor istraživanja za Kinu, Hongkong i Tajvan u američkom tink-tenku Freedom House. „Microsoft je jedna od najvećih kompanija na svetu, izuzetno je profitabilna i tvrdi da podržava demokratiju i ljudska prava. Ali  njeno poslovanje u Kini pokazuje  suprotno.” 

Microsoft osporava to stanovište. „Bing je najmanje cenzurisani pretraživač u Kini i često je tamo jedini dostupni izvor za velike količine informacija, čak i kada moramo da uklonimo određene rezultate prema kineskom zakonu”, izjavio je Frank Shaw, glavni direktor za komunikacije kompanije Microsoft u saopštenju poslatom e-poštom. „Mi cenzurišemo rezultat samo ako zaključimo da nas pravni poredak u užem smislu na to obavezuje, i redovno  odbijamo da to učinimo kada smatramo da nalog  nije u skladu sa pravilnim tumačenjem kineskih pravila. Alternativa je da napustimo tržište, što bi samo služilo odsecanju ljudi od informacija koje inače imaju putem Binga.” Kompanija nije dala odgovore na listu pitanja o određenim tačkama u ovom članku. 

Više od desetak sadašnjih i bivših zaposlenih u kompaniji Microsoft prvi put je u intervjuima pružilo unutrašnji uvid u tehnološki sofisticirani sistem cenzure koji je kompanija kreirala u Kini i koji je usmeren na sve širu crnu listu hiljada veb-sajtova, reči i fraza. Svi su tražili da ostanu anonimni jer nisu imali ovlašćenje da dele informacije sa medijima. 

Zabranjene fraze, koje obuhvataju pretraživanja na engleskom i kineskom jeziku na kineskoj verziji Binga, cn.bing.com, uključuju one koje se odnose na „ljudska prava”, „klimatske promene u Kini” i „Nobelovu nagradu za mir”, prema rečima zaposlenih i analizi Bloomberg Businessweeka. Na crnoj listi se takođe nalaze termini kao što su „korupcija Komunističke partije”, reference na „masakr na Trgu Tjenanmen”, „čovek ispred tenka”, „Dalaj Lama”, pokojni kineski aktivista za ljudska prava i dobitnik Nobelove nagrade za mir Liu Xiaobo i „demokratija”. Korisnike koji pretražuju cenzurisani sadržaj dočekuje obaveštenje da su „rezultati uklonjeni kao odgovor na obaveštenje o zahtevima lokalnog zakona”. 

AP Photo (5), Getty Images (1)

U Kini Bing čisti zapadne veb-sajtove sa vestima i Wikipediju. Pretraživanja povezana sa navodnim zlostavljanjima etničke manjine Ujgura u kineskom regionu Sinkjang daju rezultate koji nemaju detalje o kršenju ljudskih prava i koncentracionim logorima; umesto toga, rezultati su sastavljeni od izveštaja državnih medija koji negiraju zloupotrebe i optužuju zapadne vlade za vođenje „rata dezinformacijama protiv Kine”. Tu su takođe i linkovi do turističkih vodiča za taj region. Pretraživanje mnogih drugih fraza sa crne liste daje rezultate sa veb-sajtova kineske vlade ili državnih medija, koji su stavljeni na „belu listu”, što znači da nikada nisu blokirani u rezultatima, tvrde zaposleni. I, naravno, rezultati pretraživanja o cenzuri kineske vlade i kako je zaobići i sami su cenzurisani. 

Bing je u Kini počeo da radi 1. juna 2009. godine. To je bilo neposredno pre 20. godišnjice dešavanja na Trgu Tjenanmen, a kineska vlada je, ne gubeći vreme da pokaže kompaniji Microsoft koliko je spremna da bude agresivna, iznenada blokirala pristup pretraživaču. To je izazvalo paniku u kineskom timu kompanije Microsoft, koji su se uplašili da su napravili neku tehničku grešku i pokušavali da shvate šta je pošlo po zlu. „Kasnije je postalo vrlo jasno da smo bili ugašeni na nivou mreže”, priseća se jedan rukovodilac koji je bio uključen u upravljanje kvarom. „Saobraćaj do naše usluge je upravo nestao.” 

Nakon niza poziva vođenih između zastupnika kompanije Microsoft i zvaničnika kineske vlade, ograničenja su ukinuta naredne nedelje i Bing Kina se vratio na mrežu. Nije jasno da li je kompanija Microsoft napravila neke posebne ustupke. 

Baš dok se Microsoft navikao na rad u ovakvim uslovima, Google je odustao. Ta kompanija je upravljala svojim pretraživačem u Kini od 2006. godine , a radnici sve do višeg rukovodstva su bili uznemireni jer je broj tema na crnoj listi porastao sa stotina na hiljade. Nakon napada na njenu infrastrukturu u januaru 2010. godine za koji je Google sumnjao da je bio pokušaj napada na kineske disidente koji su koristili njene usluge, kompanija je objavila da prekida poslovanje u zemlji. 

Suosnivač Sergey Brin je rekao u intervjuu u to vreme da je kompanija želela da zauzme stav protiv cenzure i založi za „slobodu političkog disidenstva, a to je ključno pitanje za nas”. Rekao je da se Google prvobitno nadao da će „pomoći da se slobode na internetu unaprede”, ali dogodilo se suprotno. Gates je kritikovao odluku kompanije Google iz 2010. godine, rekavši da su napori kineske internet cenzure veoma ograničeni i da bi izgradnja uspešnog interneta tamo imala pozitivan efekat. Kasnije, Google je planirao da ponovo ponudi cenzurisani pretraživač u Kini, ali odustao je od te ideje 2018.godine, kada su predlozi postali javni. 

„Mislim da je to vrlo racionalna odluka. Da li je to prava stvar za slobodu govora i šta god, drugo je pitanje” 

Poslovna strategija kompanije Microsoft je bila da sa Bingom prikaže bolje rezultate pretraživanja sa manje reklama od lokalnih konkurenata, kažu zaposleni. Velika prilika se ukazala, kažu oni, 2016. godine, kada je smrt studenta povezana sa eksperimentalnim lečenjem raka koje je Baidu promovisao na svom pretraživaču. Regulatori su naložili pretraživaču Baidu da ukloni oglase za sumnjive medicinske tretmane i da jasnije odredi koji su rezultati pretraživanja bili oglasi. Skandal je doveo do povećanja broja korisnika Binga, prema rečima zaposlenih u kompaniji Microsoft. Baidu se nedavno suočio sa kritikama zbog promovisanja sličnih oglasa, ali je saopštio da radi na čišćenju oglasa na svojoj platformi. 

Ponekad zvaničnici kineske vlade kažu kompaniji Microsoft da su određene teme zabranjene, obično u kontaktu sa njenim advokatima. Oni čak mogu da odrede šta treba ukloniti, prema rečima zaposlenih u kompaniji Microsoft. 

Međutim, efikasnije je da Microsoft deluje samostalno. S vremenom je kompanija razvila sposobnost predviđanja kada će Peking reagovati na određene vrste sadržaja. U izveštaju objavljenom u aprilu 2023. godine, istraživači Citizen Lab Univerziteta u Torontu su analizirali oko 500.000 cenzurisanih ključnih reči i imena na pretraživačima u Kini. Ustanovili su da Bing u celini ima manje cenzure od Baidua, ali je i agresivniji kada je reč o ograničavanju pristupa političkim i verskim sadržajima . 

Takva autocenzura je čisto poslovna odluka, kažu bivši zaposleni u kompaniji Microsoft. „Ako pretražujete ‘6.4.’, kako su ljudi nazivali masakr na Tjenanmenu, jednostavno ne bismo prikazali ništa”, kaže bivši rukovodilac koji je bio uključen u Bing baš u vreme njegovog pokretanja. „To je relativno laka poslovna odluka: samo provući kroz filter i biti bezbedan. Mislim da je to vrlo racionalna odluka. Da li je to prava stvar za slobodu govora i šta god, drugo je pitanje.” 

Kada Bingov korisnik u Kini danas unese pojam za pretraživanje, zahtev se usmerava preko servera koji se nalaze u Kini i primenjuju filter koji garantuje isključivanje cenzurisanih informacija iz rezultata. To je sličan proces onom koji Microsoft i Google koriste za usklađivanje sa zakonima u različitim zemljama koji se odnose na dečju pornografiju ili autorska prava. Razlika je u sadržaju koji se blokira. 

Ova tehnologija cenzure je počela da se oslanja na sisteme mašinskog učenja koji analiziraju tekst, slike i metapodatke, koji skeniraju veb-sajtove kako bi utvrdili da li oni možda krše lokalne zakone ili propise, prema rečima zaposlenih. Softver će generisati ocenu za svaku stranicu kako bi se odredila njena osetljivost, kažu zaposleni. 

Pretraga cenzurisanog sadržaja u Kini 

AP Photo (5), Getty Images (1)

Microsoft navodi da ne koristi automatizaciju za prepoznavanje novog sadržaja za blokiranje. Recenzenti koji su stručnjaci za lokalno područje prave stvarnu crnu listu dodavanjem ili uklanjanjem sadržaja i takođe proveravaju sadržaj koji je označio automatizovani sistem. U Kini se time bavi mali tim inženjera sastavljen većinom od kineskih državljana. (Većina zaposlenih u kineskim kancelarijama kompanije Microsoft su lokalni zaposleni.) Posao cenzure se smatra vrlo osetljivim i strogo se čuva u okviru kompanije, prema rečima zaposlenih. 

„Lista tema se menja tokom vremena”, priseća se jedan bivši inženjer koji je radio za Bing u Kini. „Postoje osetljive teme. Danas su pretrage za ‘Winnie-the-Pooh’ cenzurisane jer se Winnie-the-Pooh koristi kao pogrdna referenca za Xi Jinpinga. Pre sadašnje administracije, to bi bilo u redu. A mi treba da znamo takve stvari.” 

Bez obzira na specifičnosti ove evolucije, promene na crnoj listi je gotovo neizbežno čine sve dužom. Četvoro bivših zaposlenih u kompaniji Microsoft koji su radili za Bing kažu da su nezavisno jedno od drugog i tokom perioda od osam godina izražavali zabrinutost menadžerima i kolegama zbog sve većeg obima cenzure. Dvoje zaposlenih kažu da su ukazivali na saopštenje same kompanije Microsoft o dužnostima u pogledu ljudskih prava, u kom stoji da je kompanija posvećena pomaganju ljudima da koriste tehnologiju „za odbranu i promovisanje demokratije, dobrog upravljanja i vladavine prava”, kao i zaštiti i promovisanju „slobode mišljenja, izražavanja, udruživanja, mirnog okupljanja i drugih ljudskih prava”. 

Zaposleni koji su izrazili zabrinutost kažu da im je rečeno da kompanija mora poštovati kineske zakone da bi tamo poslovala. U odgovoru na kritike iznutra i spolja o svom radu u toj zemlji, kaže dvoje zaposlenih, rukovodioci kompanije Microsoft su ukazivali na saopštenje kompanije u pogledu ljudskih prava objavljeno 2012. godine, koje je uključivalo standardno obrazloženje koje daje bilo koja američka tehnološka kompanija koja posluje u zemljama sa autoritarnim vladama. „Kompanija može najefikasnije poštovati ljudska prava našim prisustvom u zemljama koje predstavljaju značajne rizike za ljudska prava, a ne odsustvom”, navodi se. 

Microsoft je više puta odbijao vladinu cenzuru. Kompanija je 2013. godine prestala da blokira ljude da šalju određene reči u kineskoj verziji svoje usluge za razmenu poruka Skype. Vlasti  su je zabranile 2017. godine. Microsoft je 2021. godine ugasio svoju kinesku verziju LinkedIna; grupe za ljudska prava su tvrdile da je često cenzurisao sadržaj koji je kritikovao kinesku vladu i blokirao profile nekih novinara. 

Kompanija nije pokazala sklonost ka preduzimanju sličnih koraka sa Bingom. Zaposleni sugerišu da bi to moglo biti zbog toga koliko je čvrsto integrisan u druge proizvode. Bing je, na primer, ugrađen u početni meni sistema Windows i predstavlja podrazumevani pretraživač u pregledaču Microsoft Edge koji je već instaliran na Windows računarima. Windows je instaliran 300 do 500 miliona puta u Kini, prema rečima zaposlenih; Microsoft čak nudi posebno izdanje sistema Windows za kinesku vladu. 

Drugi faktor je važnost kineskog tehničkog talenta za istraživanje i razvoj kompanije Microsoft, prema rečima zaposlenih. To je posebno slučaj sa Bingom, kažu oni, jer veliki deo posla na platformi za pretraživanje vode kineski timovi koji zapošljavaju hiljade ljudi, stvarajući najveći inostrani razvojni tim kompanije Microsoft. Ovi kineski inženjeri imaju ključnu ulogu u održavanju i razvoju Bingove globalne platforme za pretraživanje. Oni takođe zauzimaju jedinstvenu i kontradiktornu poziciju u kompaniji s obzirom na to da rade na funkcijama koje su zabranjene u Kini, ali su dostupne na drugim mestima - kao što je Bingov alat Copilot koji pokreće veštačka inteligencija, a koji je delimično razvijen pomoću OpenAI GPT-4. 

Učešće kineskih radnika u naprednim projektima veštačke inteligencije stavlja kompaniju Microsoft u novu ranjivu poziciju. Njen pristup je oduvek bio da je tehnološki razvoj globalni poduhvat, gde programeri treba da imaju slobodu da rade izvan nacionalnih granica. 

Geopolitika povećava pritisak na taj okvir jer i Peking i Vašington manevrišu u svojoj trci za razvojem strateški ključne veštačke inteligencije. U januaru je New York Times izveštavao da su američki zvaničnici vodili razgovor sa kompanijom Microsoft o tome da li kompanija treba da nastavi da upravlja laboratorijom veštačke inteligencije u Kini. Kompanija je saopštila da ima zaštitne mere u laboratoriji, ali da ne postoji garancija koja može unedogled zadovoljiti zabrinutosti Vašingtona. Kreatori američke politike u celom političkom spektru su kritični prema kineskoj istoriji u pogledu ljudskih prava, a za rastuću grupu tvrde linije gotovo svaka interakcija sa kineskim subjektima predstavlja pretnju po američku nacionalnu bezbednost. 

U javnim komentarima u Davosu, u Švajcarskoj, u januaru ove godine Nadella je poslovanje kompanije u Kini opisao kao način za unapređenje američkih interesa, rekavši da oni na neki način preusmeravaju kinesku stručnost ka stvaranju američke tehnologije. „Takođe želimo da iskoristimo ljudski kapital širom sveta kako bismo mogli da doprinesemo onom što je u suštini američka intelektualna svojina na kraju krajeva”, rekao je. „Kada pogledam dokumenta o mašinskom učenju, na mandarinskom je jednako puno napisano kao i na engleskom jeziku.” 

On je poslovanje  kompanije u Kini opisao i kao način da se poveća otvorenost. „Istorija nas uči, barem kako ja to vidim, da je najgora greška koju bilo koja civilizacija, bilo koje društvo, može da napravi  da se nekako zatvori od znanja koje se stvara na nekom drugom mestu.” 

Nadella se u ovim komentarima nije direktno osvrnuo na Bingovu lokalnu cenzuru, a kritičari primećuju da kineski primer već služi kao model drugim vladama koje žele da izuzmu  svoje stanovništvo od politički neprijatnih informacija. Na primer, Indija je kopirala neke elemente kineske internet politike. Rusija je zatražila od kompanije Microsoft da ukloni hiljade delova sadržaja, među kojima su linkovi do opozicionih političkih i novinarskih veb-sajtova, sa platformi kao što je Bing, a kompanija je to često ispunjavala, prema rečima zaposlenih. 

Microsoft tvrdi da kada uklanja sadržaj u Kini, to ne čini za ostatak sveta. Ali kao što je pokazao incident sa „čovekom ispred tenka” iz 2021. godine, neliberalna upotreba tehnologije može prodreti preko granica. Istraživači iz laboratorije Citizen Lab su u maju 2022. godine otkrili da je Bingova funkcija „autosugestije” cenzurisala politički osetljiva kineska imena i teme za ljude koji koriste njegov pretraživač na međunarodnom nivou, između ostalog i u SAD i Kanadi. „Čini se neizbežnim da ako cenzurišete jednu demografsku grupu svojih korisnika”, kaže Jeffrey Knockel, viši naučni saradnik u laboratoriji Citizen Lab, „ne možete istovremeno omogućiti slobodu govora drugoj”.