Neurale netwerken zijn krachtig, maar erg vraatzuchtig. Ingenieurs van het Massachusetts Institute of Technology (MIT) zijn erin geslaagd een nieuwe chip te ontwikkelen die het stroomverbruik van het neurale netwerk met 95% verlaagt, waardoor ze in theorie zelfs op mobiele apparaten met batterijen kunnen werken. Smartphones worden tegenwoordig slimmer en slimmer en bieden meer AI-gestuurde services zoals virtuele assistenten en realtime vertalingen. Maar meestal verwerken neurale netwerken gegevens voor deze services in de cloud en verzenden smartphones alleen gegevens heen en weer.
Dit is niet ideaal omdat het een dik communicatiekanaal vereist en ervan uitgaat dat gevoelige gegevens buiten het bereik van de gebruiker worden verzonden en opgeslagen. Maar de enorme hoeveelheden energie die nodig zijn om neurale netwerken van stroom te voorzien die worden aangedreven door GPU's, kunnen niet worden geleverd in een apparaat dat wordt aangedreven door een kleine batterij.
MIT-ingenieurs hebben een chip ontwikkeld die dit stroomverbruik met 95% kan verminderen. De chip vermindert drastisch de noodzaak om gegevens heen en weer te sturen tussen het geheugen van de chip en de processors.
Neurale netwerken bestaan uit duizenden onderling verbonden kunstmatige neuronen die in lagen zijn gerangschikt. Elk neuron ontvangt input van verschillende neuronen in de onderliggende laag, en als de gecombineerde input een bepaalde drempel overschrijdt, stuurt het het resultaat naar verschillende neuronen erboven. De sterkte van de verbinding tussen neuronen wordt bepaald door het gewicht dat tijdens het trainingsproces tot stand komt.
Dit betekent dat de chip voor elk neuron de invoer voor een specifieke verbinding en het gewicht van de verbinding uit het geheugen moet halen, ze moet vermenigvuldigen, het resultaat moet opslaan en vervolgens het proces voor elke invoer moet herhalen. Veel data reizen hier en daar, en er gaat veel energie verloren.
De nieuwe MIT-chip elimineert dit door alle ingangen parallel in het geheugen te berekenen met behulp van analoge schakelingen. Dit vermindert aanzienlijk de hoeveelheid gegevens die moet worden ingehaald en resulteert in aanzienlijke energiebesparingen.
Deze benadering vereist dat het gewicht van de verbindingen binair is, niet een bereik, maar eerder theoretisch werk heeft aangetoond dat dit de nauwkeurigheid niet erg zal beïnvloeden, en de wetenschappers ontdekten dat de resultaten van de chip 2-3% verschilden van de gebruikelijke versie van het neurale netwerk. op een standaardcomputer.
Dit is niet de eerste keer dat wetenschappers chips hebben gemaakt die processen in het geheugen verwerken, waardoor het stroomverbruik van een neuraal netwerk wordt verminderd, maar dit is de eerste keer dat deze benadering wordt gebruikt om een krachtig neuraal netwerk te exploiteren dat bekend staat om zijn beeldverwerking.
Promotie video:
"De resultaten laten indrukwekkende specificaties zien voor de energiezuinige implementatie van rollende operaties binnen een geheugenarray", zegt Dario Gil, vice-president kunstmatige intelligentie bij IBM.
"Dit opent zeker mogelijkheden voor het gebruik van meer geavanceerde convolutionele neurale netwerken om in de toekomst afbeeldingen en video's op het internet der dingen te classificeren."
En dat is niet alleen interessant voor R & D-groepen. De wens om AI op apparaten zoals smartphones, huishoudelijke apparaten en allerlei IoT-apparaten toe te passen, drijft velen in Silicon Valley naar chips met een laag stroomverbruik.
Apple heeft zijn Neural Engine al in de iPhone X geïntegreerd om bijvoorbeeld gezichtsherkenningstechnologie van stroom te voorzien, en het gerucht gaat dat Amazon zijn eigen AI-chips ontwikkelt voor de volgende generatie digitale Echo-assistenten.
Ook grote bedrijven en chipfabrikanten vertrouwen steeds meer op machine learning, wat hen dwingt hun apparaten nog energiezuiniger te maken. Eerder dit jaar introduceerde ARM twee nieuwe chips: de Arm Machine Learning-processor, die algemene AI-taken afhandelt van vertaling tot gezichtsherkenning, en de Arm Object Detection-processor, die bijvoorbeeld gezichten detecteert in afbeeldingen.
De nieuwste mobiele chip van Qualcomm, de Snapdragon 845, heeft een GPU en is zwaar AI-gestuurd. Het bedrijf onthulde ook de Snapdragon 820E, die zou moeten werken in drones, robots en industriële apparaten.
Vooruitkijkend, ontwikkelen IBM en Intel neuromorfische chips met een architectuur die is geïnspireerd door het menselijk brein en een ongelooflijke energie-efficiëntie. Dit zou in theorie TrueNorth (IBM) en Loihi (Intel) in staat kunnen stellen om krachtige machine learning uit te voeren met slechts een fractie van de kracht van conventionele chips, maar deze projecten zijn nog steeds zeer experimenteel.
Het zal erg moeilijk zijn om de chips die neurale netwerken tot leven brengen te forceren om batterijvermogen te sparen. Maar met het huidige innovatietempo lijkt dit "zeer moeilijke" redelijk haalbaar.
Ilya Khel
