Čujemo mnogo opravdanih zabrinutosti u vezi s novim valom generativne umjetne inteligencije, od ljudskih poslova koje bi mogla zamijeniti do njezinog potencijala za stvaranje dezinformacija. Ali jedno područje koje se često zanemaruje je sama količina energije koju ti sustavi koriste. U ne tako dalekoj budućnosti, tehnologija bi mogla trošiti istu količinu električne energije kao cijela država.
Alex de Vries, istraživač na Vrije Universiteit Amsterdam, autor je knjige ‘Rastući energetski otisak umjetne inteligencije’, koja ispituje utjecaj AI sustava na okoliš.
De Vries napominje da se faza obuke za velike jezične modele često smatra energetski najintenzivnijom, te je stoga bila u središtu istraživanja održivosti u umjetnoj inteligenciji.
Nakon obuke, modeli se postavljaju u proizvodno okruženje i započinje faza zaključivanja. U slučaju ChatGPT-a, to uključuje generiranje odgovora uživo na korisničke upite. Malo je istraživanja otišlo u fazu zaključivanja, ali De Vries vjeruje da postoje naznake da bi to razdoblje moglo značajno pridonijeti troškovima životnog ciklusa AI modela.
Prema istraživačkoj tvrtki SemiAnalysis, OpenAI je zahtijevao 3.617 Nvidia HGX A100 poslužitelja, s ukupno 28.936 GPU-a, za podršku ChatGPT-u, što implicira potrebu za energijom od 564 MWh dnevno. Za usporedbu, procijenjenih 1.287 MWh korišteno je u fazi obuke GPT-3, tako da su energetski zahtjevi faze zaključivanja bili znatno veći.
Google, koji je izvijestio da je 60% potrošnje energije povezane s umjetnom inteligencijom od 2019. do 2021. proizašlo iz zaključaka, integrira značajke umjetne inteligencije u svoju tražilicu. Još u veljači, predsjednik Alphabeta John Hennessy rekao je da razmjena jednog korisnika s uslugom pretraživanja pokretanom umjetnom inteligencijom “vjerojatno košta deset puta više od standardnog pretraživanja ključnih riječi”.
SemiAnalysis procjenjuje da bi implementacija umjetne inteligencije slične ChatGPT-u u svako pojedino Google pretraživanje zahtijevalo 512.821 A100 HGX poslužitelja, ukupno 4.102.568 GPU-a. Uz potražnju za energijom od 6,5 kW po poslužitelju, to bi se pretvorilo u dnevnu potrošnju električne energije od 80 GWh i godišnju potrošnju od 29,2 TWh, otprilike istu količinu koju svake godine koristi cijela Irska!
Ipak, malo je vjerojatno da će se takav scenarij dogoditi u skorije vrijeme, ne samo zato što Nvidia nema proizvodni kapacitet za isporuku više od pola milijuna HGX poslužitelja nego jer bi Google koštalo 100 milijardi dolara da ih kupi.
