Brzi razvoj i masovna implementacija umjetne inteligencije (AI) donijeli su nam nevjerojatne mogućnosti, ali uz njih dolazi i ozbiljan ekološki i ekonomski izazov: ogromna potrošnja električne energije. Kako modeli postaju kompleksniji, a zahtjevi korisnika rastu, potreba za energetski učinkovitijim rješenjima postaje kritična. U tom kontekstu, istraživači iz tvrtke BitEnergy AI predstavili su inovativnu metodu koja obećava drastično smanjenje energetskog otiska AI sustava bez značajnog gubitka u kvaliteti rada.
Sadržaj...
Problem energetskog rasipanja u modernoj umjetnoj inteligenciji
Suvremeni veliki jezični modeli i sustavi za obradu podataka oslanjaju se na milijarde matematičkih operacija u sekundi. Većina tih izračuna koristi tzv. brojeve s pomičnim zarezom (floating-point numbers), koji omogućuju iznimnu preciznost pri radu s vrlo malim ili vrlo velikim vrijednostima. Iako je ta preciznost ključna za točnost AI odgovora, ona je izuzetno zahtjevna za hardver i troši velike količine energije.
Razmjere problema su zapanjujuće. Procjenjuje se da samo jedan popularni AI alat, poput ChatGPT-a, dnevno troši oko 564 megavatsata energije, što je ekvivalent potrošnji približno 18.000 prosječnih kućanstava. Ako se trend nastavi, analitičari iz Centra za alternativne financije u Cambridgeu predviđaju da bi industrija umjetne inteligencije do 2027. godine mogla trošiti između 85 i 134 teravatsata godišnje. Ovakvi brojevi stvaraju pritisak na energetsku mrežu i povećavaju emisije štetnih plinova, što prisiljuje tehnološke gigante i istraživače na traženje alternativa.
Što je L-Mul i kako zapravo funkcionira?
Rješenje koje nudi BitEnergy AI naziva se Množenje linearne složenosti, u engleskom jeziku poznato kao Linear-Complexity Multiplication (L-Mul). Suština ove metode leži u zamjeni energetski intenzivnih operacija množenja s pomičnim zarezom jednostavnijim operacijama zbrajanja cjelobrojnih brojeva (integers).
U računalnoj arhitekturi, zbrajanje cijelih brojeva zahtijeva znatno manje koraka i manje električne energije od složenog množenja. L-Mul algoritam koristi aproksimaciju, odnosno približavanje složenih izračuna jednostavnijim oblicima, čime se postiže ogromna ušteda energije uz minimalan utjecaj na krajnji rezultat. Rezultati testiranja pokazuju sljedeće uštede:
- Do 95% smanjenja potrošnje energije kod množenja tenzora.
- Do 80% smanjenja potrošnje energije kod skalarnih umnožaka.
Utjecaj na performanse i kompatibilnost s modelima
Najveća briga kod uvođenja ovakvih optimizacija je potencijalni pad točnosti. Međutim, istraživanja pokazuju da je kompromis u ovom slučaju zanemariv. Testovi provedeni na različitim zadacima, uključujući računalni vid i obradu prirodnog jezika, pokazali su smanjenje performansi od svega 0,07 posto. To znači da korisnik u praksi uopće neće primijetiti razliku u kvaliteti odgovora ili brzini rada.
Posebno obećavajuće je primijeniti L-Mul na modele temeljene na transformatorima (poput GPT-a), jer se algoritam može integrirati u mehanizam pažnje (attention mechanism), koji je jedna od najzahtjevnijih komponenti ovih sustava. Testovi na popularnim otvorenim modelima kao što su Llama i Mistral pokazali su da u određenim slučajevima točnost čak može biti poboljšana.
Izazovi u implementaciji i budućnost hardvera
Unatoč ogromnom potencijalu, L-Mul se ne može primijeniti “preko noći” na postojećim računalima. Glavni problem je taj što je suvremeni hardver, uključujući GPU-ove koje proizvodi Nvidia, optimiziran za tradicionalne izračune s pomičnim zarezom. Da bi se prednosti L-Mul metode u potpunosti iskoristile, potreban je specijalizirani hardver i novi API-ji za programiranje.
Postoji i tržišni aspekt ovog izazova. Tvrtke koje trenutno dominiraju tržištem AI čipova imaju snažan financijski interes u prodaji trenutne generacije hardvera. Stoga bi otpor prema usvajanju novih, energetski učinkovitijih standarda mogao usporiti implementaciju, iako je razvoj novih čipova već u planu.
Zaključak
Metoda L-Mul predstavlja značajan korak prema održivijoj umjetnoj inteligenciji. Smanjenje potrošnje energije za čak 95% uz gotovo neprimjetan pad performansi moglo bi omogućiti AI sustavima da rastu bez ugrožavanja energetskih resursa planeta. Iako put do masovne primjene zahtijeva razvoj novog hardvera, potencijalna korist za okoliš i ekonomiju je prevelika da bi se ignorirala.
Često postavljana pitanja (FAQ)
1. Hoće li AI modeli postati manje pametni ako se koristi L-Mul?
Ne, testovi pokazuju da je pad performansi minimalan (oko 0,07%), što je praktički neprimjetno za krajnjeg korisnika.
2. Mogu li odmah koristiti ovu tehnologiju na svom računalu?
Trenutno ne. L-Mul zahtijeva specijalizirani hardver koji još uvijek nije u širokoj distribuciji.
3. Koji modeli najviše profitiraju od ove metode?
Najviše profitiraju modeli temeljeni na transformatorima, kao što su GPT, Llama i Mistral, zbog optimizacije njihovog mehanizma pažnje.
