AI vapi za energetski efikasnim rešenjima: da li su ovi čipovi ključ?

Da biste razumeli ključni razlog zašto veštačka inteligencija zahteva toliko energije, zamislite kompjuterski čip koji služi kao ogranak lokalne biblioteke i AI algoritam kao istraživača sa privilegijama za "pozajmljivanje".

Svaki put kada su algoritmu potrebni podaci, on odlazi u biblioteku, poznatu kao memorijski čip, proverava podatke i prenosi ih na drugi čip, poznat kao procesor, da izvrši svoju funkciju. Budući da AI zahteva ogromne količine podataka, to bi značilo transportovanje milijardi knjiga između ova dva čipa, što je proces koji troši mnogo struje.

Najmanje jednu deceniju, istraživači su pokušavali da uštede energiju izgradnjom čipova koji bi mogli da obrađuju podatke tamo gde su pohranjeni.

"Umesto da donosite knjigu iz biblioteke kući, idete u biblioteku da obavite svoj posao", kaže Philip Wong, profesor Univerziteta Stanford, inače vrhunski stručnjak za memorijske čipove koji je, takođe, konsultant kompanije Taiwan Semiconductor Manufacturing Co.

Ovaj proces, koji se često naziva računarstvo u memoriji (engl. in-memory computing), suočio se sa tehničkim izazovima i tek sada ide dalje od početnih faza istraživanja. Dodatno, s obzirom na to da korišćenje električne energije, u svrhu veštačke inteligencije, postavlja ozbiljna pitanja o njenoj ekonomskoj održivosti i uticaju na životnu sredinu, tehnike koje bi veštačku inteligenciju mogle učiniti energetski efikasnijom - mogle bi se isplatiti.

To je dovelo do toga da se o računarstvu u memoriji govori s ushićenjem, ali je istovremeno postalo i predmet šire geopolitičke prepirke o poluprovodnicima.

Bloomberg

Aramco odustao od SAD: okreće se Kini?

Glavni proizvođači čipova kao što su TSMC, Intel i Samsung trenutno istražuju upravo računarstvo u memoriji.

Intel Corp. proizveo je i neke od čipova za sprovođenje istraživanja, kaže Ram Krishnamurthy, viši glavni inženjer u Intel Labsu, istraživačkom ogranku kompanije, mada je odbio da komentariše kako bi računarstvo u memoriji moglo da se uklopi u Intelovu liniju proizvoda.

Pojedinci, kao što su izvršni direktor OpenAI-ja Sam Altman, zatim kompanije poput Microsofta i vladini entiteti iz Kine, Saudijske Arabije i drugih zemalja, uložili su u startapove koji rade na ovoj tehnologiji.

U novembru prošle godine, panel američke vlade koji razmatra strane investicije sa implikacijama na nacionalnu bezbednost, primorao je fond rizičnog kapitala saudijske energetske kompanije Aramco da odustane od Rain AI-ja, startapa sa sedištem u San Francisku, fokusiranog na računarstvo u memoriji.

Jedinice rizičnog kapitala Aramcoa sada traže druge kompanije koje rade na računarstvu u memoriji van SAD, sa aktivnim izviđanjem u Kini, rekli su izvori upoznati sa tim pitanjem, koji su tražili da ostanu anonimni.

Kina naročito pokazuje sve veće interesovanje za tehnologiju. Nekoliko tamošnjih startapova, kao što su PIM Chip, Houmo.AI i WITmem, prikupljaju novac od istaknutih investitora, navodi PitchBook, koji prati podatke o investicijama.

Naveen Verma, profesor na Univerzitetu Princeton, koji je i suosnivač EnCharge AI-ja, startapa koji radi na računarstvu u memoriji, kaže da je često pozivan da govori o ovoj temi u kineskim kompanijama i na univerzitetima.

"Oni agresivno pokušavaju da shvate kako da grade sisteme – računarske sisteme u memoriji i napredne sisteme uopšte", kaže on. Verma dalje ističe da nije bio u Kini nekoliko godina i da je u Aziji govorio samo o svom akademskom radu, a ne o tehnologiji EnCharge AI-ja.

Da li je ova tehnologija budućnost AI računarstva

Još uvek je daleko od izvesnog da će ova tehnologija, vezana za čipove, postati značajan deo budućnosti AI računarstva. U prošlosti, računarski čipovi u memoriji bili su osetljivi na faktore okoline, kao što su promene temperature, koje bi uzrokovale kompjuterske greške.

Startapovi rade na različitim pristupima kako bi poboljšali taj faktor, ali su tehnike i dalje nove. Prelazak na modernije vrste čipova je skup, a kupci često oklevaju da to učine, osim ako nisu uvereni u značajna poboljšanja; shodno tome, startapovi će morati da se potrude da ubede kupce da su koristi (nove tehnologije) vredne rizika.

Zasada, početnici u računarstvu u memoriji ne rade na najtežem delu računarstva sa veštačkom inteligencijom: obuci novih modela. Ovim procesom, u kojem algoritmi ispituju petabajtove podataka da bi sakupili obrasce koje koriste za izgradnju svojih sistema, uglavnom upravljaju vrhunski čipovi koje su dizajnirale kompanije kao što je Nvidia Corp.

Američka kompanija radi na sopstvenim strategijama za poboljšanje energetske efikasnosti, među kojima su smanjenje veličine svojih tranzistora i poboljšanje načina na koji čipovi međusobno komuniciraju.

S druge strane, umesto da budu direktno upućeni na Nvidiju, startapovi koji prave računarske čipove u memoriji nameravaju da izgrade svoje poslovne modele, na osnovu korišćenja postojećih modela za primanje upita i izbacivanje sadržaja.

U domenu veštačke inteligencije, zaključivanje na osnovu obrade novih podataka nije tako komplikovano kao sama obuka, ali se dešava u velikim razmerama, što znači da bi moglo postojati dobro tržište za čipove dizajnirane specijalno za to da proces učine efikasnijim.

Intenzivna potrošnja energije glavnog proizvoda kompanije Nvidia, čipa za grafičku obradu, čini ga relativno neefikasnim izborom za zaključivanje u AI-ju, kaže Sid Sheth, osnivač i izvršni direktor d-Matrixa, startapa za čipove iz Silicijumske doline, koji je prikupio 160 miliona dolara od investitora kao što su Microsoft Corp. i Temasek Holdings Pte iz Singapura.

Sheth kaže da je privlačenje investitora bilo izazovno, sve dok nije počeo bum veštačke inteligencije. "Prva polovina 2023. bila je uspešna za sve zbog ChatGPT-ja", rekao je on.

Inače, kompanija d-Matrix planira da ove godine proda svoje prve čipove i dostigne masovnu proizvodnju 2025. godine.

Kompanije koje se bave računarstvom u memoriji još uvek pronalaze najbolje načine za upotrebu svojih proizvoda. Recimo, jedan startap računarstva u memoriji, Axelera sa sedištem u Holandiji, cilja na "computer-vision" aplikacije u automobilima i data centrima. S druge strane, pristalice Mythica iz Teksasa vide računarstvo u memoriji kao idealno za aplikacije vezane za sigurnosne kamere, koje podržava veštačka inteligencija.

Sve u svemu, enormna upotreba energije za potrebe veštačke inteligencije alarmira, i tiče se svih koji pokušavaju da tehnologiju učine efikasnijom, kaže Victor Zhirnov, glavni naučnik u Semiconductor Research Corp.

"Veštačkoj inteligenciji su očajnički potrebna energetski efikasna rešenja. U suprotnom, vrlo brzo će samu sebe ubiti", kaže on.