Contents
De huidige neuromorfische computerarchitectuur is in staat om in realtime te leren en te classificeren, wat leidt tot een nieuw pad van kunstmatige intelligentie. Naarmate de technologie vordert, komen nieuwe manieren om sequentieel geheugen, voorspelling en uiteindelijk bewustzijn te ondersteunen binnen ons bereik. Neuromorfische architectuur is de meest veelbelovende technologie die beschikbaar is en overwint veel beperkingen van de huidige AI-ontwikkelingsinspanningen.
De huidige AI-architecturen zijn beperkt
Deep learning-systemen leren niet per se, zoals mensen leren, maar worden getraind. Training is belangrijk en voldoende in veel toepassingen, maar het is niet effectief bij het verwerken van de hoeveelheid gegevens die een zinvolle impact op de samenleving zullen hebben. (Er wordt gezegd dat de huidige neurale netwerken zich op het intelligentieniveau van een honingbij bevinden, maar dit wordt als een enorme overdrijving beschouwd.)
De huidige conventionele methode van diep leren is gebaseerd op convolutionele neurale netwerken (CNN's) die worden getraind door middel van repetitieve sequenties. Dit is in sommige opzichten vergelijkbaar met opeenvolgende benadering, maar met een dalende gradiënt terwijl het van laag naar laag achteruit gaat. CNN's kunnen relatief eenvoudige processen goed uitvoeren, zoals het classificeren van objecten in stilstaande of bewegende beelden, en zijn nauwkeurig bevonden tot 70 tot 80%. Deze methodologie maakt gebruik van elementaire wiskunde, en veel daarvan: miljoenen MAC's, meerdere accumulatiebewerkingen en waarschijnlijkheidsberekeningen per afbeelding.
Zelfs een kleine CNN vereist maar liefst 530 miljoen berekeningen om een enkele afbeelding te classificeren. Dit maakt de verwerkingskracht veeleisend, zelfs op high-end chips zoals GPU's of speciale wiskundechips zoals de Google Coral edge TPU. Met de hoeveelheid berekeningen verhoogt dit de latentie, en het gebied en de kracht van het systeem vanwege de omvang van het geheugen dat nodig is voor dit grotere aantal berekeningen.
CNN's leren niet in realtime
Wat nog belangrijker is, ze leren niet gaandeweg, en blijven niet leren nadat ze zijn getraind zoals een biologisch brein dat doet. Dit is belangrijk omdat CNN's voor de gek kunnen worden gehouden, bijvoorbeeld door de introductie van een patroon in de pixelkaart van een afbeelding, zoals een patch op een kledingstuk, waardoor de resultaten binnen een standaarddeviatie kunnen vallen, waardoor de nauwkeurigheid afneemt.
Deep learning op CNN's geeft ons de mogelijkheid om functies te identificeren, maar niet een context van wat die functies betekenen. Een gezicht wordt bijvoorbeeld geclassificeerd als een gezicht, zelfs als de positie van de neus, mond en ogen niet op hun plaats is of een vliegtuig dat op het punt staat tegen een gebouw te crashen, kan worden geclassificeerd als een vliegtuig dat bij de terminal is geparkeerd.
De enige manier waarop CNN's het biologische brein weerspiegelen, is de overgang van eenvoudige functie-identificatie naar meer complexe functieherkenning, omdat gegevens door een opeenvolging van lagen worden gevoerd. Dit is niet anders dan hoe we eerst eenvoudige gerechten moeten leren koken, voordat we overgaan op meer uitgebreide driegangenmaaltijden. Toch heeft Deep Learning veel tekortkomingen in structuur, organisatie, leermethoden en inefficiëntie om echt intelligente systemen te realiseren, ongeacht hoeveel meer lagen, resterende verbindingen en recursie er worden toegevoegd.
Neuromorphic computing en SNN's
Neuromorphic computing-architectuur daarentegen is gebaseerd op het combineren van het beste van de laatste generatie functies, ofwel getraind door deep learning of geëxtraheerd uit een dataset, in een op gebeurtenissen gebaseerd Spiking Neural Network (SNN). Het is minder kunstmatig omdat het meer is afgeleid van de manier waarop een biologisch brein werkt. Dit zorgt voor een intelligentere verwerking omdat het wordt gebruikt om systemen te creëren die nieuwe oplossingen bieden voor voorheen onoplosbare problemen.
Maar laten we een back-up maken. Wat is een piek? Simpel gezegd, het is een korte uitbarsting van elektrische energie die tussen neurale cellen wordt gestuurd. Het biologische brein vertrouwt op nauwkeurige timing van deze uitbarstingen, inclusief de sequenties en intervallen tussen pieken. De intensiteit van pieken en de locatie waar pieken optreden bevatten allemaal informatie, en de synapsen slaan deze informatie op in een chemische handtekening, een geheugen. Deze herinneringen opgeslagen in de synapsen zorgen ervoor dat het neuron leert. Wanneer er een piek optreedt, wordt het geheugen opgeroepen en wordt leren ingeschakeld.
Constant leren, gevormd door een omgeving, is intelligentie
In tegenstelling tot CNN's, kunnen Spiking Neural Networks (SNN's) met elke nieuwe uitbarsting van informatie blijven leren nadat ze zijn getraind. Precisietiming, die volledig verloren gaat in CNN's, wordt gehandhaafd en benut in SNN's. Bovendien blinkt het uit in het verwerken van patronen en het matchen ervan met volgende datastromen waar spiking neurale modellen in uitblinken. Dit vermindert de vermenigvuldiging en waarschijnlijkheidsberekeningen van de CNN's aanzienlijk, waarbij leren autonoom plaatsvindt van niet-gelabelde gegevens, in slechts 3-5 herhalingen, zelfs in extreem “luidruchtige”, ongeordende gegevens.
Een andere belangrijke onderscheidende factor in spike-gebaseerd leren is een aanzienlijke energie-efficiëntie. In SNN's wordt alleen relevante informatie als een piek geïdentificeerd. Dus als een document tien pagina's lang is en negen blanco, neemt de machine niet de moeite om wiskundige berekeningen uit te voeren op de negen blanco pagina's, maar alleen op de ene pagina die er toe doet. Met deze onderscheidende factor verminderen SNN's de latentie en het geheugen, waardoor het vermogen verder wordt verlaagd, waardoor je een systeem kunt bouwen dat meer op een brein lijkt dan op een machine.
De AI-revolutie
De revolutie komt eraan en neuromorfische architectuur zal de samenleving in staat stellen te profiteren van kunstmatige intelligentie op verschillende gebieden, van medische diagnostiek, energiewinning, transportefficiëntie, geavanceerde verwerking aan de rand en nog veel meer.
<Dit is nog maar het begin. Dit is onze missie.
Rob Telson
Vice-president van World Wide Sales, BrainChip
