In het project CONVOLVE bedachten onderzoekers manieren om krachtige AI-chips te ontwikkelen die complexe berekeningen lokaal uitvoeren. Dit heet edge-computing en maakt datacenters straks mogelijk (deels) overbodig.
“We wilden een efficiënte chip ontwerpen en bouwen voor zogenaamde edge-computing”, legt hoofdonderzoeker Manil Dev Gomony uit. “Dit betekent dat een gebruiker die aan AI een vraag stelt, het model lokaal kan uitvoeren, op zijn apparaat aan de ‘rand’ van de cloud, in plaats van dit commando naar een extern datacenter ergens op aarde te sturen en een antwoord te ontvangen dat de halve wereld is overgegaan.”
“De chips die tegenwoordig in cloud-datacenters worden gebruikt, zijn groot en worden extreem heet. Ze zijn daardoor veel te groot om in een laptop, smartphone of domotica-apparaat te passen. Bovendien vereisen deze datacenters krachtige ventilatoren en koelwater, wat een zware druk legt op lokale gemeenschappen en ecosystemen. Als we berekeningen juist dichter bij de gebruiker (on-device) uitvoeren, verbruiken we aanzienlijk minder energie dan wanneer alle verzoeken naar deze centrale supercomputers in de cloud moeten worden gestuurd.”
Gomony: “Binnen CONVOLVE gebruikten we een cross-layer ontwerpbenadering. Dat betekent dat het team in plaats van het AI-algoritme, de processorarchitectuur, het geheugensysteem en de schakelingen los van elkaar te ontwikkelen, deze lagen samen heeft geoptimaliseerd. (…) Dit stelde ons in staat om verschillende belangrijke aspecten van de eigenschappen van de chip (zoals nauwkeurigheid, programmeerbaarheid, verwerkingssnelheid, siliciumoppervlak en energieverbruik) vanaf het begin van het ontwerpproces in balans te brengen.”
Lees het hele bericht op de site van de Technische Universiteit.
