Contents
Tijdens de AI Hardware Summit van dit jaar liet Mythic voor het eerst zien dat analoge compute werkt, met demo's van state-of-the-art diepe neurale netwerken die draaien op onze analoge AI-processor. En dit is nog maar het begin! Er is veel om over te praten over onze unieke technologie, onze producten en de geweldige dingen die we voor onze klanten gaan mogelijk maken. Vandaag wil ik de grondgedachte bespreken voor het ontwikkelen van deze unieke technologie, en de enorme obstakels die we moesten overwinnen om analoog computergebruik te realiseren.
OpenPose Body25 draait met ultralage latentie in het analoge domein voor AR/VR-applicaties.
Een verhaal van twee technologieën
Flash-geheugen heeft een enorme impact gehad in de elektronica-industrie. De ongelooflijke dichtheid van flash-geheugen, het kleine formaat in vergelijking met harde schijven en het vermogen om informatie vast te houden zonder dat er stroom wordt toegepast, is de afgelopen twee decennia een cruciale drijfveer geweest voor de belangrijkste producten. De lage snelheid en het hoge stroomverbruik in vergelijking met andere geheugentechnologieën hebben het gebruik ervan echter beperkt voor alleen lange opslag en hebben het naar de commodity-status geduwd.
Analoge compute is al tientallen jaren onderzocht. De rekensnelheden en energie-efficiëntie in vergelijking met digitaal zijn al lange tijd veelbelovend. Maar zelfs afgezien van de ongelofelijke moeilijkheid om deze technologie te ontwikkelen, was een van de grootste belemmeringen van analoge compute de grootte, met als gevolg dat de chips en systemen veel te groot en te duur waren.
Dit is het geheim: als je flashgeheugen en analoge rekenkracht combineert, krijg je een som die veel groter is dan de afzonderlijke delen, wat resulteert in een ongelooflijke dichtheid (20x lagere kosten en single-chip-vormfactor), ultralaag stroomverbruik (10x vergeleken met digitaal) en hoge prestaties die de compute van $ 700 GPU-systemen evenaren. Dit is de unieke technologie die Mythic jarenlang heeft geperfectioneerd en nu heeft gedemonstreerd, en het zet de toon voor AI-computing voor de komende decennia.
Onze single-chip oplossing met een draagvermogen van 113M en 35 TOPS in een M.2-vormfactor.
De hardware-uitdagingen die we moesten overwinnen
Analoge rekenkracht moet in een digitale wereld leven. AI-systemen maken verbinding met sensoren en processors die digitaal zijn. Digitaal stelt ons ook in staat om een aanpasbare processorarchitectuur te hebben die snel kan worden herhaald en die toekomstbestendig is naarmate neurale netwerken evolueren. Voor een processor die 35 biljoen bewerkingen per seconde uitvoert in het analoge domein, was het verhuizen van en naar het digitale domein een enorme uitdaging toen we net begonnen. We hebben meer dan 27.000 . nodiganaloog-naar-digitaal (ADC's) en digitaal-naar-analoog (DAC's)-converters, wat 500 tot 1000x meer is dan u doorgaans ziet in een analoog product. We moesten onze ADC's zo ontwerpen dat ze kleiner waren dan iedereen voor mogelijk had gehouden, zodat ze op een enkele chip konden passen, en we moesten ook 8 bits precisie halen bij hoge snelheden en extreem laag vermogen. Als laatste moesten we uitzoeken hoe we al deze ADC's snel konden testen in een productieomgeving.
Een veelgestelde vraag die we krijgen, is hoe we analoge rekenkracht hebben ontworpen om bestand te zijn tegen productievariaties en veranderende omgevingsomstandigheden? Een sterk punt van digitaal is dat het een brede tolerantie heeft voor dit soort dingen. De halfgeleiderindustrie heeft veel goed begrepen technieken voor robuust analoog ontwerp, maar niet op de schaal die we nodig hadden. Onze belangrijkste innovaties gaan over het toepassen van deze bekende technieken op tienduizenden analoge apparaten op de chip in plaats van tientallen.
ResNet-50 op onze prototype analoge AI-processor. De productieversie ondersteunt 900-1000 fps en INT8-nauwkeurigheid bij 3W.
Meer binnenkort
Mythic heeft een team van wereldklasse samengesteld dat gedurende vele jaren heeft geïnnoveerd om analoge rekenkracht te realiseren. We hebben talloze branche-experts gehad die ons vertelden dat het nooit zal werken, maar we hebben ook adviseurs, partners, klanten en investeerders gehad die ons onderweg aanmoedigden. We hebben de top van de berg nog niet helemaal gehaald, maar we zijn wel heel ver omhoog gekomen en soms is het gewoon de moeite waard om achterom te kijken en het uitzicht te bewonderen. Analoge rekenkracht is er, en het ziet er goed uit!
Bekijk de video hieronder voor meer details en blijf op de hoogte voor meer nieuws in de komende maanden!
Mike Henry
Mede-oprichter en CEO, Mythic
