Datacentra vreten een hoop energie, onder meer voor koeling (afb: Google)

Steeds meer van ons leven wordt opgehangen aan computers en we doen met zijn allen net of die elektronen hun werk gratis doen. Dat is natuurlijk allerminst het geval en het voorval van de cryptomunten als bitcoin met hun blokketens waarvoor veel gerekend moet worden maakte duidelijk dat het energieverbruik daarbij nogal in de papieren loopt. Iets soortgelijks geldt voor kunstmatige intelligentie. Volgens recente schattingen kan de koolstofvoetafdruk  van het leerproces van een ki-systeem zoveel energie kosten dat bij het opwekken daarvan 284 ton kooldioxide ontstaat. Dat zou net zo veel zijn als een gemiddelde auto in zijn hele ‘leven’ uitstoot.
Emma Strubell van de universiteit van Massachusetts en haar collega’s hebben eens uitgerekend hoeveel energie het kost om vier grote neurale netwerken hun leerproces te laten doormaken. Van dit soort ki-systemen wordt veel verwacht. Zo werkt Google Translate er mee en kunnen daarmee berichten op nepnieuws doorzocht worden. Tegenwoordig lijkt het wel of overal in de wetenschap en aanverwante gebieden ki wordt gebruikt.
Deze ki-systemen hebben het vermogen te leren, maar daarvoor moeten ze eerst massa gegevens verwerken. Strubell: “Om zoiets ingewikkelds als taal te leren moeten de modellen heel groot zijn.” Om een taal te leren krijgt een ki-systeem al gauw miljarden artikelen te verstouwen.
Om de milieuinvloed van dergelijke systemen te berekenen, gingen de onderzoekers aan de slag met vier ki-systemen: Transformer, ELMo, BERT en GPT-2 (een dag elk) en berekenden het totale energieverbruik. De koolstofvoetafdruk werd dan geschat op basis van de gemiddelde kooldioxideuitstoot die daarbij in de VS voor dat verbruik wordt gegenereerd.

Gis en mis

Vooral de techniek om door proberen aan de weet te komen hoe iets in elkaar steekt (gis en mis) bleek erg energie- en tijdintensief. Een leerproces voor Transformer zonder die benadering duurt 84 uur maar met 270 000. Zo’n leerproces wordt verdeeld over tientallen processoren en neemt maanden in beslag. De ondoelmatigheid van die systemen zou komen doordat er toegewerkt wordt naar bepaalde specifieke taken zoals vertalen, stelt Strubell.

Amazon en Google bieden diensten aan om ki-systemen in te werken. Om een duidelijker beeld te hebben van de milieulast zou bekend moeten zijn waar die bedrijven hun energie vandaan halen, zeggen de onderzoekers. Volgens Strubell komen die energiebronnen voor Amazon overeen met die voor een gemiddelde Amerikaan. Amazon zou hevig investeren in duurzame energieopwekking, maar het bedrijf wilde verder geen commentaar leveren. Google zou langdurige overeenkomsten hebben met bedrijven die duurzame energie leveren.
Dat zal allemaal best, maar die duurzame energie die voor ki-systemen wordt gebruikt kan niet voor andere zaken worden benut. De vraag is dan of duurzame energie voor ki-systemen het probleem uit de wereld helpt. Je moet je dan afvragen of je zoveel energie moet gebruiken voor dergelijke systemen. Natuurlijk helpt het als de ki-algoritmes slimmer (en dus energiezuiniger) in elkaar worden gestoken, maar hoe je het wendt of keert het blijft altijd extra naast de energie voor huishoudens, de maakindustrie, voor vervoer en voor blokketensystemen. Het onderzoek zal in juli in Florence worden gepresenteerd op een congres voor computerlinguïstiek.

Bron: New Scientist