Harry Potter je postao magični alat za istraživanje AI

Više od dve decenije nakon što je J. K. Rowling upoznala svet sa univerzumom magičnih stvorenja, zabranjenih šuma i čarobnjaka tinejdžera, Harry Potter je ponovo u centru pažnje, mada u potpuno drugačijoj sferi: istraživanju veštačke inteligencije.

Sve veći broj istraživača koristi popularne knjige o Harryju Potteru za eksperimentisanje sa tehnologijom generativne veštačke inteligencije, a kao razlog navode trajni uticaj knjiga na popularnu kulturu i širok vokabular i složene igre reči na njenim stranicama. Lista studija i akademskih radova u kojima se pominje Harry Potter nudi pregled najsavremenijih istraživanja veštačke inteligencije, a radovi pokušavaju da odgovore na neka od najtežih pitanja sa kojima se tehnologija suočava.

U nedavnom primeru kome je možda posvećeno najviše pažnje, Harry, Hermione i Ron likovi su u radu "Ko je Harry Potter?", koji baca svetlo na novu tehniku koja pomaže velikim jezičkim modelima da selektivno zaborave informacije. To je važno pitanje za industriju, pošto su veliki jezički modeli, modeli koji pokreću AI četbotove, izgrađeni na ogromnim količinama podataka sa veba koji uključuju materijal koji je zaštićen autorskim pravima i drugi problematičan sadržaj. To je dovelo do tužbi i javnih kritika nekih kompanija koje se bave veštačkom inteligencijom.

Autori rada, istraživači Microsofta Mark Russinovich i Ronen Eldan, naveli su da su dokazali da se AI modeli mogu menjati ili uređivati kako bi se uklonilo bilo kakvo saznanje o postojanju knjiga o Harryju Potteru, uključujući likove i zaplete, a da pritom AI sistem ne izgubi ukupnu sposobnost odlučivanja i analitike.

Dvojac je rekao da su odabrali knjige jer su opštepoznate. "Verovali smo da će tako ljudima u istraživačkoj zajednici biti lakše da procene model i da sami potvrde da je određeni sadržaj zaista zaboravljen", rekao je Russinovich, glavni tehnološki direktor kompanije Microsoft Azure. "Skoro svako može da smisli upit za model koji bi mogao da testira da li on 'zna' za knjige ili ne. Čak i ljudi koji nisu čitali knjige znaju nešto o radnji i likovima."

Bloomberg

U drugoj studiji, istraživači sa Univerziteta Vašington u Sijetlu, Univerziteta Kalifornije u Berkliju i Allen instituta za veštačku inteligenciju, razvili su novi jezički model Silo, koji može da ukloni podatke kako bi smanjio pravne rizike. Međutim, performansa modela znatno opada ako se model obučava samo na tekstovima niskog rizika poput knjiga koje nemaju autorska prava ili vladinih dokumenata, rekli su u radu objavljenom ranije ove godine.

Da bi dublje istražili problem, istraživači su koristili knjige o Harryju Potteru da vide da li pojedinačni delovi teksta utiču na performanse AI sistema. Napravili su dva seta podataka, to jest kolekcije veb lokacija i dokumenata. Prvi je uključivao sve objavljene knjige osim prve knjige o Harryju Potteru; druga je uključivala sve knjige osim druge i tako dalje. "Kada se knjige o Harryju Potteru uklone iz skladišta podataka, zbunjenost (prim. prev. zbunjenost ili engl. perplexity je metrika evaluacije koja meri kvalitet jezičkih modela) poraste", rekli su istraživači, komentarišući na meru tačnosti AI modela.

Studije veštačke inteligencije citiraju Harryja Pottera najmanje deceniju, ali je to postalo sve češće kada su se akademici i tehnolozi fokusirali na AI alate koji mogu da obrađuju i reaguju na prirodni jezik sa relevantnim odgovorima. "Harryja Pottera obilje scena, dijaloga, emocionalnih trenutaka čini veoma relevantnim za specifičnu oblast obrade prirodnog jezika", rekla je Leila Wehbe, istraživač Carnegie Mellona, koja je vodila mnogo eksperimenata 2014. prikupljajući podatke sa magnetne rezonance mozga ljudi koji čitaju priče o Harryju Potteru kako bi bolje razumeli jezičke mehanizme.

Bloomberg

Na arXivu, repozitorijumu naučnih istraživanja otvorenog pristupa, nedavni radovi uključuju "Mašinsko učenje razvoja napitaka u Hogvortsu", "Veliki jezički modeli upoznaju Harryja Pottera" i "Otkrivanje čini u fantastičnoj književnosti pomoću veštačke inteligencije zasnovane na Transformer arhitekturi".

Čak i kada nije u centru istraživanja, Harry Potter je omiljena književna referenca za istraživače. Jedna studija je, na primer, koristila radove Rowling da testira inteligenciju sistema veštačke inteligencije poput onih koji su pokrenuli četbot ChatGPT, što je tema koja je izazvala mnogo žara u nedavnim debatama. Terrence Sejnowski, koji rukovodi laboratorijom računarske neurobiologije na Institutu za biološke studije Salk, tvrdio je u radu da četbotovi samo odražavaju inteligenciju i pristrasnosti svojih korisnika, poput Ogledala žudnje u prvoj knjizi o Harryju Potteru, ogledalu koje pokazuje najdublje lične želje onoga ko se gleda u ogledalo.

"Harry Potter je popularan među mlađim istraživačima", rekao je Wehbe. "Oni bi ih čitali kao deca ili adolescenti, pa bi im pali na pamet kada bi birali pisani ili govorni tekst."