Door de manier te veranderen waarop grote taalmodellen hun berekeningen uitvoeren, zijn onderzoekers van BitEnergy AI erin geslaagd het energieverbruik van kunstmatige intelligentie tot 95% te verminderen zonder prestatieverlies. Ze hebben hun bevindingen voorlopig gestald in het niet beoordeelde ArXiv.
Kunstmatige intelligentie vreet energie. Er zijn mensen die een energiecrisis voorspellen die binnen een jaar of twee wordt veroorzaakt door massaal gebruik van ki. BitEnergy-onderzoekers denken een oplossing te hebben gevonden: L-Mul.
L-Mul pakt het energieprobleem rechtstreeks aan door opnieuw te bedenken hoe ki-modellen berekeningen verwerken. In plaats van complexe drijvende-komma-sommen te maken benadert L-Mul deze bewerkingen met behulp van gehele optellingen. Dus in plaats van bijvoorbeeld 123,45 te vermenigvuldigen met 67,89, verdeelt L-Mul het in gemakkelijkere stapjes met behulp van optelling. Dit maakt de berekeningen sneller en verbruikt minder energie, terwijl de nauwkeurigheid (nagenoeg) behouden blijft.

Nauwkeurig

Volgens de onderzoekers leidt deze benadering zonder aanvullend leerfase tot een verlies van slechts 0,07% aan nauwkeurigheid voor redeneertaken in natuurlijke taal en van 0,12% voor visuele taken. Een prestatieverschil dat met een paar aanpassingen volledig verdwijnt.
Om met behulp van dat algoritmme het energieverbruik van grote taalmodellen te verminderen, moet dat voor een optimale werking op de apparatuur worden geïntegreerd. Als dat eenmaal gebeurd is, stellen de onderzoekers gaat het energieverbruik, afhankelijk van de toepassing, met ten minste 80% naar beneden.

BitEnergy AI zegt dat het aan een apparaatoplossing werkt en programmeer-API’s (codes die het mogelijk maken om programma’s te laten samenwerken) zal ontwikkelen voor modelontwerp op hoog niveau. Ze hopen ook de energiekosten van datacentra, robots en vele andere apparaten te verlagen. Ik(=as) wacht in spanning af.

Bronnen: Futura-Sciences, decrypt.co