Od kulturnog nasleđa do algoritamske periferije

Mali jezici danas vode borbu za opstanak, koja nije dramatična, ali istorijska svakako može da bude. To je algoritamska borba koja je suptilna i koju ne vidimo, jer se vodi daleko od očiju javnosti – u korporacijama i njihovim računarskim sistemima.  Svet ubrzano razvija velike jezičke modele i u toj brzini jezici poput srpskog, hrvatskog, makedonskog i slovenačkog lako mogu da ostanu na margini digitalne budućnosti: nedovoljno zastupljeni u podacima, nevidljivi u tehnologiji i samim tim manje prisutni u svakodnevnom digitalnom životu. 

 

 

Zašto je ovo važno u svetu u kom svi govorimo engleski? Jezik nije samo alat za sporazumevanje. U njega su utkani i sačuvani humor, mentalitet, lokalne fraze, način na koji volimo, psujemo, tugujemo i pišemo priče. Ako veliki LLM modeli razumeju samo  dominantne jezike, pitanje opstanka malih nije samo tehnološko, već i kulturološko i ekonomsko. Ko će sutra razvijati AI proizvode za male zajednice? Ko će zarađivati na digitalnim uslugama, medijima i znanju? Hoće li poslovi budućnosti ostati rezervisani samo za nekoliko velikih globalnih kompanija koje kontrolišu modele, infrastrukture i podatke? 

Ne smemo ostati samo korisnici tuđe tehnologije, moramo biti kreatori 

Zato nije slučajno što Srbija pokušava da zauzme svoje mesto na globalnoj AI mapi. Mihailo Jovanović, direktor Kancelarije za IT i eUpravu, najavio je saradnju sa francuskom kompanijom Mistral AI u razvijanju velikog jezičkog modela prilagođenog srpskom jeziku. 

"Srpskim jezikom govori relativno mali broj ljudi. Veliki alati poput OpenAI-jevog ChatGPT-ja i drugih mogu da komuniciraju na srpskom, ali čim počnete da koristite ćirilicu, jekavicu ili različite dijalekte, vidi se da ne funkcionišu dovoljno dobro. Ti modeli koriste podatke dostupne na internetu, ali nisu dovoljno trenirani na sadržajima na srpskom jeziku. Ako ih mi ne prilagodimo, verovatno to neće učiniti niko."  

Njegova poslednja rečenica možda i najbolje opisuje suštinu cele AI trke malih jezika. Dakle, nije dovoljno da AI pomalo razume srpski, jer u AI ekonomiji budućnosti, jezik više nije samo pitanje identiteta, već i pitanje tržišta. Ali zašto onda u igru ulazi francuska kompanija Mistral? 

"Odabrali smo Mistral AI, francuski model, jer Srbija ima značajnu saradnju sa francuskom vladom. Treći superkompjuter, koji bi trebalo da stigne početkom naredne godine, razvija se upravo u toj saradnji i zasniva se na Nvidijinim čipovima. Formirali smo tim koji će Mistralov model prilagoditi srpskom jeziku", ističe Jovanović i dodaje da današnji ChatGPT ima široko, ali ne i duboko znanje srpskog jezika. "Zato naš model mora biti posebno prilagođen oblastima kao što su pravo, zdravstvo i obrazovanje. Advokati bi mogli da ga koriste za pravne analize, lekari za medicinsku terminologiju, a škole i fakulteti za obrazovne sadržaje." A sve to bi, kaže on, doprinelo privrednom rastu, jer bi kompanije ubrzale procedure, smanjile troškove i unapredile poslovanje.  

Da li je uopšte moguće naučiti velike modele malim jezicima bez gubitaka i kompromisa? 

Istraživač Ilija Bogunović, docent za veštačku inteligenciju i mašinsko učenje na Univerzitetskom koledžu u Londonu, objašnjava da se taj problem danas najčešće rešava tzv. fajntjuningom postojećih LLM modela, ali upozorava i na to da u razvoju veštačke inteligencije nema besplatnog ručka: "Model ima konačan broj parametara, pa kada ga naučite novom jeziku, on u nekoj meri zaboravlja engleski. To je suštinski trade-off i pitanje je šta zapravo želimo da postignemo. Pravac koji ja vidim kao najperspektivniji su takozvani meta-LLM-ovi, modeli dizajnirani tako da se uz relativno brz post-training mogu prilagoditi novom jeziku. Recept bi bio: (1) dobar meta-LLM kao osnova, plus (2) kvalitetni podaci niskoresursnog jezika za supervised fine-tuning. Ključ je u kvalitetu podataka. Za regionalne jezike, to je realno izvodljivo", smatra Bogunović. 

Međutim, problem malih jezika nije samo tehnički, već duboko kulturološki, jer veliki modeli danas uglavnom optimizuju odgovore prema prosečnom korisniku, dok su jezičke i kulturne specifičnosti često izgubljene u procesu. On smatra da upravo tu nastaje granica današnje AI lokalizacije. Da bi modeli zaista razumeli lokalni kontekst, nije dovoljno da smo poznaju gramatiku i vokabular, već bi trebalo da razumeju heterogenost društva, različite kulturne obrasce, humor, istorijski kontekst i način komunikacije. Ali postavlja se pitanje postoji li način da se pluralizam ljudskih vrednosti uključi direktno u strukturu modela. "Jedan pravac su Mixture of Experts (MoE) arhitekture, gde različiti ‘eksperti’ unutar istog modela mogu naučiti različite vrednosti ili stilove. Ali kako tačno usmeravati (steer) takav model, kada da pozove kog eksperta i kako da kombinuje izlaze u slučaju pluralizma, to je i dalje otvoreno algoritamsko pitanje. Iskreno, ne postoji jasan recept; ovo je jedna od aktivnih oblasti istraživanja", smatra Bogunović i ističe da je teško napraviti univerzalan model koji bi razumeo podjednako sve jezike, kulture i sisteme vrednosti. 

Bloomberg Adria

"Čovek ne može istovremeno da bude najbolji hirurg, matematičar i pesnik, i sa modelima je tako. Uvek radimo sa konačnim brojem parametara, što znači da je svaki ‘univerzalan’ model nužno kompromis. Vidim dva pristupa. Prvi je da pluralizam ugradimo u jedan model, što neminovno znači trade-off-ove po svim dimenzijama. Drugi, koji meni izgleda perspektivnije, jeste pluralizam kroz ekosistem specijalizovanih modela, različiti modeli za različite kontekste, jezike i domene. Suština pluralizma možda nije u jednom modelu koji ‘razume sve’, već u zdravom ekosistemu modela koji se razlikuju", naglašava Bogunović. 

U toj trci otvoreni modeli i dostupni "datasetovi" mogli bi da igraju ključnu ulogu za male jezike. Bez otvorenih alata, samo nekoliko najvećih tehnoloških kompanija imaće resurse da razvija ozbiljne AI sisteme, dok će male zajednice ostati tehnološki zavisne, upozorava Bogunović, dodajući da je skeptičan i prema ideji državne regulative. 

"Trenutna globalna podela jeste takva da SAD i Kina inoviraju, a EU donosi zakone, takav je osećaj danas. Sam AI Act kakav jeste ne sadrži posebne odredbe o zaštiti jezičkih i kulturnih manjina. Težište pažnje  je na klasifikaciji rizika i transparentnosti modela opšte namene. Za stvarnu zaštitu malih jezika značajnije su druge stvari, programi finansiranja, otvoreni podaci, akademska infrastruktura, izgradnja institucija, nego sam AI Act.  

Drugim rečima, zakon može da postavi okvir, ali pravi posao se dešava u laboratorijama i institutima." Upravo zbog toga smatra da budućnost malih jezika neće zavisiti od velikih državnih strategija, već od specijalizovanih timova, istraživačkih centara i startapova koji će razvijati modele za konkretne zajednice i jezike, kada je u pitanju AI scena u Srbiji, naglašava Bogunović i dodaje: "Indikativno je da na najvećim i najprestižnijim AI konferencijama (NeurIPS, ICLR, ICML) srećem srpsku dijasporu koja radi van zemlje, ali skoro nikako one koji rade unutar Srbije."  

Zašto su biblioteke danas važnije nego ikada? 

Problem malih jezika u velikim LLM-ovima nije samo u arhitekturi modela, već i u onome na čemu ih učimo, ističe dr Vasilije Milnović, rukovodilac Centra za nauku univerzitetske biblioteke "Svetozar Marković" u Beogradu. AI model ne usvaja jezik kao čovek, kroz pravila, školu i kulturu, već kroz ogromne količine podataka iz kojih prepoznaje obrasce, stilove, značenja i upravo tu mali jezici ulaze u neravnopravan položaj. 

"Razvoj domaćeg LLM modela za srpski jezik nije pitanje tehnološkog prestiža, već digitalnog suvereniteta", naglašava Milnović i dodaje da se pojam "digitalni suverenitet" danas često koristi u tehnološkom i političkom kontekstu, ali kada govorimo o jeziku i kulturi, on zapravo znači sposobnost jednog društva da ostane vidljivo i autonomno u digitalnom svetu.  

"U prošlosti su države gradile kulturni suverenitet na obrazovanju, institucijama kulture i kulturnim politikama i uticajima. Danas se veliki deo informacija, komunikacije, pa i kulturne građe nalazi na digitalnim platformama i AI sistemima. To znači da ako jezik određene kulture nije dovoljno prisutan u tim sistemima, onda ta kultura postaje zavisna od tuđih modela i tuđeg kulturnog prioriteta. AI modeli postaju novi posrednici u obrazovanju, informisanju i svakodnevnoj komunikaciji. Ako nemate sposobnost da utičete na te sisteme u svom jeziku, onda dugoročno gubite kontrolu nad sopstvenim kulturnim zaveštanjem i bivate, u izvesnom smislu, kolonizovani. Naravno, digitalni suverenitet ne znači izolaciju. Niko danas ne može samostalno da razvija kompletnu AI infrastrukturu nezavisno od sveta. Ali suština jeste u tome da se poštuje domaće znanje, lokalni podaci, da se radi u skladu sa nacionalnom strategijom i da se globalne tehnologije prilagode lokalnom kulturnom prostoru. Zbog toga bi u budućnosti ministarstva kulture, nauke i prosvete mnogo više trebalo da sarađuju sa bibliotekama, univerzitetima i institutima. To važi čak i za AI kompanije. Jer pitanje očuvanja jezika više nije samo pitanje knjiga i kurikuluma, već toga kako će nas razumeti mašine koje će oblikovati digitalni svet u vremenu ispred nas." 

Srpski jezik, kao jezik sa relativno malim brojem govornika i ograničenim digitalnim korpusom, u velikim sistemima gotovo uvek ostaje periferno zastupljen, smatra Milnović. To ima nekoliko posledica. Prva je kvalitet: modeli često slabije razumeju nijanse srpskog jezika, padeže, dijalekte, administrativni i pravni jezik, a naročito književni, kao i kulturni kontekst. Drugo je, kako ističe, ako se oslanjamo isključivo na globalne platforme, onda ključna digitalna infrastruktura jednog društva ostaje van njegove kontrole - od jezika i obrazovanja, do medija i javne uprave. 

"Saradnja Srbije sa Mistral AI-jem je važna, ali ne znači ništa ukoliko se ne vodi računa o samom jeziku. Evropski pristup razvoju AI-ja generalno insistira na otvorenijim modelima, transparentnosti i većoj jezičkoj raznovrsnosti, što je za male jezike od ogromnog značaja. Međutim, ukoliko se taj AI ne trenira na izuzetno dobrim digitalnim kolekcijama, onda preti opasnost (a već imamo takve primere) da se sve pretvori u ‘regionalni bućkuriš’, bez jasne diverzifikacije na jezike i uvek sa političkim ‘repovima’.  

Bloomberg Mercury

Na duže staze, jezici koji ne budu dovoljno prisutni u budućim AI sistemima mogli bi da postanu digitalno nevidljivi, a to znači da će i njihova kultura, književnost i zaveštanje biti nevidljivo", smatra Milnović i ističe da su biblioteke danas važnije nego što su ikada bile. Prema njegovim rečima, u vreme AI-ja podaci ostaju osnovna sirovina iz koje modeli "uče" jezik, kulturu i društvene obrasce. Nekada su biblioteke čuvale knjige da bi znanje preživelo kroz vekove, danas institucije kulture, arhivi i biblioteke imaju dodatnu odgovornost da obezbede da jedan jezik bude prisutan i vidljiv u digitalnom prostoru budućnosti. LLM modeli ne razumeju jezik apstraktno - oni ga uče iz ogromnih količina tekstova. Ako određeni jezik nema dovoljno kvalitetno digitalizovanih knjiga, novina, naučnih radova, arhivske građe ili savremene komunikacije, onda će i njegovo prisustvo u AI sistemima biti ograničeno. 

"Zbog toga digitalizacija kulturnog nasleđa danas postaje mnogo više od pitanja prezervacije i arhiviranja. Ona postaje osnov tehnološke reprezentacije jednog naroda. Tu biblioteke dobijaju novu, izuzetno važnu ulogu. One više nisu samo mesta čuvanja fizičkog znanja, već postaju ključni čuvari podataka - institucije koje obezbeđuju kvalitetne, proverene i jezički relevantne korpuse za buduće AI sisteme. To je posebno važno za jezike poput srpskog, gde količina dostupnog digitalnog sadržaja ne može da se poredi sa engleskim ili kineskim. No, suština je u kvalitetu", ističe dr Milnović i dodaje da ako AI modele treniraju isključivo sadržaji sa društvenih mreža ili komercijalnih platformi, onda dobijamo osiromašen i često agresivan ili trivijalan jezički model. Institucije kulture mogu da ponude nešto sasvim drugo: književni jezik, istorijski kontinuitet, terminološku preciznost, dijalekatsku raznovrsnost i kulturni kontekst. 

On navodi da veliki jezički modeli funkcionišu na principu statističke dominantnosti: što je neki jezik prisutniji u podacima, to ga model preciznije razume i reprodukuje, te da je engleski, u tom smislu, praktično matični jezik savremene veštačke inteligencije, dok jezici našeg regiona ulaze sa znatno manje podataka, pa ih veliki modeli gledaju kao skup sličnih jezika, zbog čega redovno dolazi do mešanja. AI teži proseku, a svaki prosek znači i brisanje specifičnosti. Ako milioni ljudi svakodnevno koriste modele koji favorizuju neutralni, internacionalni stil izražavanja, s vremenom će doći do jezičke homogenizacije. To je naročito opasno po srpski jezik, koji je istorijski veoma bogat varijacijama. AI zato trenutno u svim oblicima zvuči tačno, ali sterilno i neprirodno. Međutim, tehnologija ne mora nužno da vodi ka gubitku raznolikosti. Naprotiv, uz kvalitetne lokalne korpuse i pažljivo trenirane modele, AI nam može pomoći očuvanju jezičkog bogatstva." 

Milnović kaže da Univerzitetska biblioteka ima kolekciju "Pretraživa". U njoj se nalazi blizu dva miliona digitalizovanih stranica istorijskih novina. Između ostalog, tu se nalaze i digitalizovani književni časopisi. To znači da je kvalitet jezika u toj kolekciji visok, što je dobra kolekcija za trening veštačke inteligencije. Potom, kolekcija nastala u okviru COST Akcije "Udaljeno čitanje", koju je Univerzitetska biblioteka radila zajedno sa Društvom za jezičke resurse i tehnologije - gde su digitalizovani, korigovani i anotirani srpski romani iz perioda 1840 - 1920. godine. Ta kolekcija je proglašena za jednu od najboljih u kontekstu evropskih kolekcija. Tu je i velik broj digitalizovanih disertacija i naučnih radova - opet dobar jezik.  

"Slične kolekcije iz drugih institucija su idealna građa za trening AI-ja. Dakle, veliki jezici imaju milijarde dostupnih rečenica iz knjiga, sa interneta, naučnih baza i medija, dok kod srpskog jezika mnogo toga još nije digitalizovano (što je u mnogim zemljama već završen proces), a naročito nije sistematski obrađeno za AI upotrebu. Srbija zapravo poseduje vredne resurse, ali poseban problem je činjenica da su naši resursi generalno fragmentarizovani, nestandardizovani i nepripremljeni za treniranje AI modela. To je veliki infrastrukturni posao, kojim mora rukovoditi domaća struka, a ne pojedinačni ili međunarodni interesi."  

Dakle, AI je i velika šansa i ozbiljan rizik, a ishod zavisi isključivo od nas, podvlači Milnović. "S jedne strane, AI dozvoljava prvi put da i mali jezici dobiju sofisticirane digitalne alate koji su ranije bili rezervisani isključivo za velike jezike. To automatski, u našem kontekstu, znači i kvalitetnije pretraživanje na srpskom, mogućnost pravljenja pametnih obrazovnih sistema, automatsko prevođenje, lakšu digitalizaciju književnosti, arhiva i kulturnog nasleđa. U tom smislu, ovo je šansa da srpski jezik i srpsko kulturno zaveštanje postanu mnogo vidljiviji u globalnoj areni. No, moramo se brže prilagođavati. Na primer, ako učenici i studenti budu mogli da koriste u budućnosti inteligentne sisteme koji rade na dobrom srpskom jeziku, onda srpski jezik postaje jezik znanja i tehnologije, a ne samo lokalno komunikativno sredstvo." 

Međutim, postoji i druga strana procesa, upozorava Milnović. "Ukoliko se ne radi na pravi način, srpski kulturni prostor može biti kolonizovan dominantnijim jezičkim kulturama i tako marginalizovan. Ljudi prirodno koriste alate koji bolje funkcionišu, pa postoji opasnost da sav lokalni kulturni korpus pređe na velike ili dominantnije jezike, jer su AI sistemi na njima jednostavno kvalitetniji. Zato je razvoj AI-ja za srpski jezik pitanje kulturne strategije, a ne tehnologije, a bojim se da to nama još uvek nedostaje. Na kraju, najvažnije je razumeti da jezici danas više ne opstaju samo u knjigama i školama. Oni opstaju i u algoritmima, pretragama i podacima na kojima se treniraju buduće inteligentne tehnologije." 

Realna potražnja za lokalnim AI rešenjima postoji 

Dok istraživači i institucije upozoravaju da mali jezici mogu postati digitalno nevidljivi, praksa pokazuje da razvoj lokalnih AI sistema nije samo teorija. U Srbiji već postoje kompanije koje godinama razvijaju takve sisteme. Jedna od njih je Alfanum iz Novog Sada, koja razvija govorne tehnologije za srpski i srodne jezike, a čija su rešenja zasnovana na veštačkoj inteligenciji i ekspertizi razvojnog tima i obuhvataju vrhunske sisteme za sintezu govora (Text To Speech - TTS) i prepoznavanje govora (Automatic Speech Recognition - ASR). Alfanum se slaže sa prethodna dva sagovornika da je najveći izazov, pored arhitekture modela, zapravo kvalitet adekvatnih podataka za obuku, a kako se bavi govornim tehnologijama, to se pre svega odnosi na podatke iz posebno anotiranih govornih korpusa, koji obuhvataju intonaciju, ritam govora i stručnu terminologiju. Kažu da srpski jezik donosi dodatu složenost, jer ima bogatu morfologiju, relativno slobodan red reči u rečenici, dva pisma i veoma složen akcenatski sistem. 

Tehnologije za prepoznavanje i sintezu govora na srpskom jeziku danas imaju široku primenu u sistemima za diktiranje, automatsku transkripciju i govorne automate, poručuju iz kompanije koja je razvila nekoliko značajnih rešenja u ovoj oblasti. Među najvažnijim sistemima za diktiranje izdvajaju se MEDICTA, namenjena automatskoj transkripciji medicinskih nalaza uz podršku za medicinsku terminologiju na latinskom jeziku, kao i IURISDICTA, sistem prilagođen diktiranju pravnih dokumenata. Ova rešenja implementirana su u brojnim institucijama, uključujući Institut za onkologiju Vojvodine, Institut za plućne bolesti Vojvodine, PIO fond Republike Srbije, Vojnomedicinsku akademiju i Institut za kardiovaskularne bolesti "Dedinje". 

Zа transkripciju govora opšte namene razvijen je sistem TRANSCRIPTA, koji omogućava transkripciju sastanaka, radio i televizijskih emisija, sednica i drugih audio-zapisa uz visoku tačnost i mogućnost razdvajanja govornika. Ovaj sistem koristi se, između ostalog, u Ministarstvu odbrane Republike Srbije, NIS-u, Radio-televiziji Vojvodine i drugim državnim institucijama. Tehnologije prepoznavanja govora primenjuju se i u pozivnim centrima, gde korisnici putem govorne komunikacije mogu dobiti informacije i izvršiti određene akcije. S druge strane, sinteza govora koristi se u informacionim sistemima, poput sistema Železnice Srbije, kao i u pozivnim centrima državnih institucija. Posebno značajnu primenu ima ozvučavanje internet prezentacija i sajtova institucija kao što su Vlada Republike Srbije, eUprava Republike Srbije, Radio-televizija Srbije i drugih medijskih i državnih organizacija. Značajan doprinos, ističu iz Alfanuma, predstavlja i sistem anReader, namenjen slepim i slabovidim osobama za samostalno korišćenje računara, koji je odobren kao zvanično pomagalo Republičkog fonda za zdravstveno osiguranje i instaliran na više od 1.000 računara korisnika. Pored navedenog, tehnologije sinteze i prepoznavanja govora koriste se i za automatsko kreiranje multimedijalnih nastavnih materijala, generisanje audio-knjiga, aplikacije zabavnog karaktera i sisteme za taksi službe, ističu u kompaniji.  

Dakle, postoji realna potražnja za lokalnim AI rešenjima, no u svetu gde veliki sistemi gutaju male, postavlja se pitanje postoje li poslovni, pa čak i kulturni benefiti ulaganja u AI tehnologije koje podržavaju male jezike? Iz Alfanuma kažu da ulaganje u AI za male jezike donosi opipljive poslovne koristi, ali i šire kulturne efekte koji dugoročno jačaju ekosistem. Kvalitetan sistem govornih tehnologija za svaki jezik čini niz proizvoda usluga pristupačnijim široj populaciji, posebno starijim i digitalno manje pismenim korisnicima. Unapređenje korisničkog iskustva doprinosi i većoj lojalnosti korisnika, uz svest o očuvanju vlastitog jezika i lokalnog identiteta. 

"Na ovaj način i mali jezici postaju ravnopravan deo globalnog AI prostora u eri sveopšte digitalizacije. Dakle, ulaganje u AI tehnologije koje podržavaju male jezike nije samo tehničko pitanje, već strateška investicija u tržište i identitet - istovremeno donosi profit i čuva jezičku raznolikost. Jer veliki jezički modeli mogu da rade bez lokalnih resursa, ali samo do određene granice. Iako na prvi pogled obezbeđuju osnovne funkcionalnosti poput generisanja, interpretacije i prevođenja teksta, ovi modeli samo do određene mere razumeju kulturni i stvarni kontekst komunikacije. Zbog toga se, primera radi, u generisanom tekstu gube prirodnost izraza, lokalne reference i finije nijanse značenja koje su autentičnim govornicima intuitivne, te čak i kada je on gramatički i pravopisno ispravan, izlaz često deluje generički." 

Kada je reč o razvoju nacionalnog jezičkog modela, iz Alfanuma smatraju da bi u ovoj infrastrukturi država i javne institucije trebalo da obezbede finansiranje i stateški okvir, kao i pristup javnim podacima, a da akademska zajednica treba da pruži stručno znanje u razvoju resursa i evaluaciji kvaliteta, dok privatna preduzeća treba da obezbede podršku razvoju sistema i njihovoj brzoj integraciji u realne proizvode. S tim što bi država i javne institucije trebalo da pruže i aktivno podsticanje upotrebe razvijenih sistema u javnom sektoru.  

Borba neprestana 

Borba malih jezika mora biti neprestana, i to ne samo za kulturni opstanak, već i za svoje mesto u digitalnoj budućnosti koju oblikuje veštačka inteligencija. U svetu u kome algoritmi sve više određuju način na koji učimo, komuniciramo i stvaramo, pitanje jezika postaje pitanje moći, vidljivosti i prava na sopstveni identitet. Ako srpski i drugi mali jezici ostanu van razvoja savremenih AI sistema, rizik nije samo tehnološko zaostajanje, već i postepeno nestajanje lokalnih specifičnosti, kulturnih obrazaca i znanja iz digitalnog prostora. Zato razvoj domaćih AI modela nije luksuz niti pitanje prestiža, već pokušaj da mali jezici ostanu živi i ravnopravni u svetu kojim će sve više upravljati mašine. A ključ uspeha bi morao biti u saradnji države, akademske zajednice, kulturnih institucija i privatnog sektora. Mogu li svi ovi elementi naći zajednički jezik?