AI-verbeteringen die de alomtegenwoordigheid van autonome voertuigen stimuleren

Vooruitgang in edge computing moet innoveren voor autonome voertuigen om hun potentieel te realiseren Grote aantallen sensoren, enorme hoeveelheden gegevens, steeds toenemende rekenkracht, realtime werking en beveiligingsproblemen die nodig zijn voor autonome voertuigen, drijven de kern van de berekening van de cloud naar de rand van het netwerk. Autonome voertuigen zijn voortdurend bezig met het detecteren en verzenden van gegevens over de toestand van de weg, de locatie en de omliggende voertuigen. Zelfrijdende auto's genereren ongeveer 1 GB aan data per seconde – het is onpraktisch om zelfs maar een fractie van de terabytes aan gegevens voor analyse naar een […]

TensorFlow versnellen op NVIDIA A100 GPU’s

De NVIDIA A100, gebaseerd op de NVIDIA Ampere GPU-architectuur, biedt een reeks opwindende nieuwe functies: Tensor van de derde generatie Cores, Multi-Instance GPU (MIG) en derde generatie NVLink. Ampere Tensor Cores introduceren een nieuwe wiskundige modus speciaal voor AI-training: de TensorFloat-32 (TF32). TF32 is ontworpen om de verwerking van FP32-gegevenstypen, die vaak worden gebruikt in DL-workloads, te versnellen. Op NVIDIA A100 Tensor Cores is de doorvoer van wiskundige bewerkingen die in TF32-indeling worden uitgevoerd tot 10x meer dan die van FP32 op de eerdere Volta-generatie V100 GPU, wat resulteert in tot 5,7x hogere prestaties voor DL-workloads. Elke maand geeft NVIDIA […]

Maximaliseer CPU-inferentieprestaties met verbeterde threads en geheugenbeheer in Intel-distributie van OpenVINO Toolkit

De populariteit van modellen voor convolutionele neurale netwerken (CNN) en de alomtegenwoordigheid van CPU’s betekent dat betere inferentieprestaties aanzienlijke voordelen kunnen opleveren voor een groter aantal gebruikers dan ooit tevoren. Aangezien multi-coreprocessors de norm worden, is efficiënte threading vereist om parallellisme te benutten. Deze blogpost behandelt recente ontwikkelingen in de Intel® Distribution of OpenVINO™-toolkit threading-ondersteuning en bijbehorende prestatieverbeteringen. De Intel Distribution of OpenVINO-toolkit (een ontwikkelaarstoolsuite voor high-performance deep learning op Intel®-architectuur) biedt een multi-threading-model dat draagbaar is en vrij is van low-level details. Het is niet nodig voor gebruikers om expliciet (bijvoorbeeld inferentie) threads te starten en te stoppen, of […]

De mondelinge geschiedenis van AI

We kunnen niet luisteren naar Newton die ons door de vroege dagen van de natuurkunde leidt, of naar Darwin die praat over de oorsprong van zijn 'Origins of Species'-werk. We kunnen echter horen over de beginjaren van kunstmatige intelligentie (AI) van een van de makers ervan, Yann LeCun. Yann is een vooraanstaand professor aan de NYU, de Chief AI Scientist bij Facebook, en een winnaar van de Association for Computing Machinery A.M. Turing Award, algemeen beschouwd als de “Nobelprijs voor Computing”, die hem samen met collega-winnaars Geoffrey werd uitgereikt. Hinton, een pionier in kunstmatige neurale netwerken, die momenteel zijn tijd […]

Ready for Air: Welkom bij een nieuwe dageraad voor luchtautonomie

Opteran maakt robuuste, snelle, GPS-vrije, verifieerbare autonomie voor antennesystemen mogelijk, met een voorheen onvoorstelbaar formaat, gewicht (~30g ), stroomkosten (~ 3 W) en hardwarekosten bij gebruik van 2D-camera's voor consumenten Vandaag delen we graag een eerste blik op onze ready for air-oplossing, waarbij de Opteran Development Kit (ODK) is geïntegreerd in onze nieuwe Green Hornet luchtdrone platform. Gisteren hebben we in het Science Museum in Londen onze aanpak voor het eerst voorgesteld aan een publiek van technologen, academici en investeerders terwijl we toewerken naar de volledige onthulling van het platform in het voorjaar van 2022. Waarom presenteren we ons op […]

Is dat uw stand-byvermogen?

Syntiant heeft onlangs zijn NDP120 in de MLPerf Tiny-categorie ingediend voor het spotten van trefwoorden en onze interne metingen koppelden onze oplossing aan ongeveer 60 uJ/inferenties met een latentie van 6 ms. Ter vergelijking: de enige andere gepubliceerde MCU-gebaseerde benchmark kwam uit op meer dan 7300 uJ/inferentie, bijna 120x meer energie voor hetzelfde netwerk. Wederom zien we hoe onze strategie om aangepaste neurale te bouwen beslissingsprocessors werpen hun vruchten af ​​in extreem lage energie om neurale workloads aan de rand uit te voeren. De overstap naar Syntiant Core 2 met de NDP120-silicium geeft ons nog meer van de lagen en […]

Edge AI – dezelfde taal spreken

Woorden kunnen meerdere betekenissen hebben. Als gevolg hiervan begrijpen mensen die betrokken zijn bij aangrenzende gebieden van de technologische industrie elkaar vaak verkeerd, zelfs als ze dezelfde termen gebruiken. Elke groep heeft zijn eigen referentiekader, geschiedenis en technische domeinexpertise. Vooral gebieden van technologische cross-overs en convergentie zijn vaak beladen met categoriefouten, gebrekkige aannames – of gewoon slechte communicatie. Er is een aanzienlijk risico dat dit gebeurt op het gebied van Edge AI. Ten minste vier verschillende groepen interpreteren die term op zeer verschillende manieren. Veel professionals in de cloud- en netwerkwereld hebben bijvoorbeeld geen idee wat er kan worden bereikt […]

Opteran's reis naar complete natuurlijke intelligentie voor machines

Deze blogpost is oorspronkelijk gepubliceerd door Opteran Technologies. Het is hier herdrukt met toestemming van Opteran Technologies. De opstartjaren – hoe Opteran de juiste technologische basis legt voor succes Het is nu een aantal maanden geleden dat ik als voorzitter bij Opteran ben gekomen en het was spannend om de technologie onder de knie te krijgen en het team te ontmoeten. Het deed me denken aan de opstartjaren toen we Movidius oprichtten (sinds de overname door Intel) en enkele van de belangrijkste lessen die we snel moesten leren toen we het bedrijf opschaalden. In dit vroege stadium moet een start-up […]

Stroomlijn uw Intel-distributie van OpenVINO Toolkit-ontwikkeling met Deep Learning Workbench

In 2018 lanceerde Intel de Intel® Distribution of OpenVINO™ toolkit. Sindsdien is het op grote schaal toegepast door partners en ontwikkelaars om AI-aangedreven applicaties in verschillende industrieën te implementeren, van zelfkassakiosken tot medische beeldvorming naar industriële robotica. De populariteit van de toolkit is te danken aan het gemak van integratie met en gestroomlijnde implementatie-ervaring op Intel®-architectuurplatforms om de prestaties van deep learning-inferentie te verbeteren. Bij het ontwerpen van de toolkit waren twee van onze belangrijkste doelstellingen voor ontwikkelaarservaring gebruiksgemak en een gestroomlijnde out-of-the-box-ervaring. Om te beginnen hebben gebruikers de mogelijkheid om hun eerste sample binnen enkele minuten na installatie uit […]

Groter is niet altijd beter: gebruik maken van parallellisme in neurale netwerkhardware

Bij het overwegen van hardwareplatforms voor het uitvoeren van hoogwaardige NN's (Neural Networks), bepalen ontwerpers van autosystemen vaak de totale rekenkracht door simpelweg de vereisten van elke NN bij elkaar op te tellen. De aanpak leidt echter meestal tot de vraag naar één grote NN-accelerator. Door rekening te houden met de taakparallelle aard van de NN-inferenties binnen automobielsoftware, kan een veel flexibelere benadering, waarbij meerdere kernen worden gebruikt, superieure resultaten opleveren met veel grotere schaalbaarheid en energie-efficiëntie. Deel 1: Kijken “onder de hood” van AI-workloads Bij het ontwerpen van een hardwareplatform dat de AI-workloads van geautomatiseerd rijden kan uitvoeren, moet […]

Synaptics en Visidon-samenwerking brengt volledige AI-enabled Smart Screen Technology-oplossingen voor consumententoepassingen

Deze blogpost is oorspronkelijk gepubliceerd op de website van Visidon. Het is hier herdrukt met toestemming van Visidon. Eenvoudig gezegd, een slim scherm is een batterijgevoed apparaat met aanraakscherm dat verbinding maakt, deelt en communiceert met andere apparaten. Het staat ook bekend als een draadloze monitor en wordt gebruikt voor activiteiten waarbij weinig of geen toetsenbordbetrokkenheid nodig is. Het is een relatief goedkope en eenvoudige manier om webapps te verbinden, videoconferentiegesprekken te voeren en een werkruimte te delen met ingebouwde Wi-Fi-connectiviteit. Slimme schermen zijn een opwindend innovatieplatform geworden voor consumenten-, industriële en zakelijke clientcomputing. Ze begonnen aan populariteit te winnen […]

Always-On Voice maakt contentbeheer naadloos en intuïtief

Deze blogpost is oorspronkelijk gepubliceerd op Synaptics’ website. Het is hier herdrukt met toestemming van Synaptics. Afstandsbedieningen zijn over het algemeen praktische, utilitaire apparaten geweest met de welverdiende reputatie dat ze het moeilijkst te vinden zijn wanneer ze het meest nodig zijn. Dat hoeft niet zo te zijn in een tijdperk waarin gebruikers spraak gebruiken om apparaten thuis, onderweg, in de auto of op het werk te bedienen. Ingeschakeld door always-on voice (AOV)-mogelijkheden, kunnen afstandsbedieningen in plaats daarvan een krachtig commandocentrum worden om de inhoud te zoeken, selecteren en beheren, opdrachten uit te voeren met minimale latentie, en stembiometrie in […]

The Syntiant Journey en de doordringende NDP

Syntiant's ultra-low-power AI-verwerking maakt altijd-aan spraakbediening mogelijk voor bijna elk apparaat op batterij, via oordopjes naar laptops Rond de tijd dat Syntiant in 2017 werd opgericht, had onze mede-oprichter en CEO Kurt Busch een gloeilampmoment. Terwijl hij zijn jongste kind met zijn iPad zag praten, zag hij een enorme kans om kunstmatige intelligentie (AI) en machine learning (ML)-innovatie te stimuleren in spraakgestuurde systemen en de manier waarop ze werken te transformeren. Flash forward naar januari 2021, en Syntiant heeft twee AI-chips op de markt gebracht, meer dan 10 miljoen eenheden verzonden, zijn technologie laten certificeren op Amazon Alexa en geëerd […]

Versnellen van innovatie in low-power AI-toepassingen met Lattice FPGA's

Volgens ABI Research zal de AI-inferentiecapaciteit op het apparaat tegen 2024 60% van alle apparaten bereiken. Dit onderstreept de hoge snelheid van AI-innovatie die de afgelopen jaren heeft plaatsgevonden en waarvoor ingenieurs flexibele ontwerpmodellen moesten bedenken bij de overgang van de cloud naar de edge. De trend wordt gedreven door vooruitgang op het gebied van ultralage latentie, beveiliging, bandbreedtebeperkingen en privacy. Lattice FPGA's en softwareoplossingen helpen toekomstige modellen met bestaand silicium te versnellen. In deze blog worden use-cases voor Lattice FPGA's en softwareoplossingen in computer vision en edge AI-technologieontwerp onderzocht. Waarom FPGA's het beste werken voor edge computing en AI-applicaties […]

Introductie van de EON Tuner: Edge Impulse’s nieuwe AutoML-tool voor embedded machine learning

Vandaag zijn we verheugd om de lancering aan te kondigen van Edge Impulse’s nieuwe auto machine learning tool, de EON Tuner! De EON Tuner helpt u bij het vinden en selecteren van het beste embedded machine learning-model voor uw toepassing binnen de beperkingen van uw doelapparaat. De EON Tuner analyseert uw invoergegevens, mogelijke signaalverwerkingsblokken en neurale netwerkarchitecturen – en geeft u een overzicht van mogelijke modelarchitecturen die passen bij de latentie- en geheugenvereisten van uw gekozen apparaat. Benieuwd om de EON Tuner in actie te zien? In dit of dit openbare project kun je de resultaten van de EON Tuner […]

Hoe neurale architecturen gebruik maken van duty cycling voor enorme efficiëntie

In onze laatste blogpost gaven we modelbouwers inzicht in de essentiële prestatiestatistieken van edge-silicium. In deze blogpost laten we zien hoe modelbouwers de echte kracht en doorvoerprestaties van edge neural accelerators kunnen gebruiken om de beste taakprestaties te krijgen. Onderzoekers op het gebied van machine learning zijn bekend met de spanning tussen precisie en herinneren(het vermogen om gebeurtenissen correct te identificeren, terwijl ze de gebeurtenissen detecteren wanneer ze verschijnen). Het gezamenlijk optimaliseren van een model om goed te presteren met deze beide maatregelen is een veelvoorkomende modelleringstaak, maar modelimplementaties op batterijen voegen inferentie-energie toe als een ander attribuut in spanning […]

De LEC-2290: een Edge AI-apparaat voor preventie van verkeersovertredingen

In dichtbevolkte stedelijke omgevingen waar de verkeersstroom zwaar is, het bijhouden van de verkeersleiding en het handhaven van de verkeersveiligheid op kruispunten met de zwaarste het verkeer is vaak lastig omdat het gedrag van voertuigen en voetgangers grillig en onvoorspelbaar is, om nog maar te zwijgen van het feit dat niet iedereen altijd geneigd is om de verkeersregels te volgen. Probleem Verkeer overtredingen zoals ongepaste afslagen, te hard rijden, middenberm en rijden door rood licht zijn dagelijkse gebeurtenissen, wat leidt tot nog ernstigere overtredingen, toenemende verkeersopstoppingen en een toenemend aantal vermijdbare ongevallen. Een stadsbestuur kwam naar Lanner op zoek naar […]

Geavanceerde detectiemodellen

In veel computer vision-toepassingen zijn detectie-algoritmen het 'brood en boter', of het nu gaat om het detecteren van gezichten, mensen, voertuigen of andere objecten. Als u een computer vision-toepassing ontwikkelt, bent u waarschijnlijk bekend met enkele van de moderne detectie-algoritmen zoals single shot detector (SSD) of YOLO (You Only Look Once). Hoewel deze algoritmen voor veel toepassingen vrij goed werken, leveren de ultramoderne detectiemodellen een toename in prestaties, nauwkeurigheid en functionaliteit. Als embedded ontwikkelaar moet je primaire taak voor het gebruik van een detectie-algoritme het verzamelen en labelen van de trainingsgegevens voor het model zijn (hoewel je misschien een goede […]