Contents
Volgens ABI Research zal de AI-inferentiecapaciteit op het apparaat tegen 2024 60% van alle apparaten bereiken. Dit onderstreept de hoge snelheid van AI-innovatie die de afgelopen jaren heeft plaatsgevonden en waarvoor ingenieurs flexibele ontwerpmodellen moesten bedenken bij de overgang van de cloud naar de edge. De trend wordt gedreven door vooruitgang op het gebied van ultralage latentie, beveiliging, bandbreedtebeperkingen en privacy.
Lattice FPGA's en softwareoplossingen helpen toekomstige modellen met bestaand silicium te versnellen. In deze blog worden use-cases voor Lattice FPGA's en softwareoplossingen in computer vision en edge AI-technologieontwerp onderzocht.
Waarom FPGA's het beste werken voor edge computing en AI-applicaties
FPGA's zijn ideaal voor edge verwerking en AI-toepassingen vanwege hun inherente flexibiliteit en aanpasbaarheid.
Een FPGA is een parallelle rekenmachine die in staat is om op een lagere klokfrequentie te werken, wat zich direct vertaalt in een lager vermogen, en ze bevatten flexibele bronnen die zich door een weefsel verspreiden. Deze bronnen omvatten DSP's, geheugens, programmeerbare logische apparaten die verspreid en onderling verbonden zijn – die in veel opzichten lijken op enkele van de nieuwe ASIC's die zijn gebouwd voor AI-doeleinden. In tegenstelling tot ASIC's en andere processors, zorgt de flexibiliteit van FPGA's echter voor continue verbeteringen aan bestaande use-cases binnen systemen en de mogelijkheid om geheel nieuwe use-cases binnen systemen te introduceren zonder dat alle nieuwe hardware nodig is.
Wanneer we FPGA-ontwerpcycli vergelijken met ASIC-ontwerpcycli, zien we dat een systeemontwerper een FPGA kan gebruiken om meerdere keren te herhalen, nieuwe gevallen te introduceren en snel op de markt te komen. Een systeemontwerper die een ASIC gebruikt, zou echter moeten wachten tot iteraties van die ASIC hetzelfde prestatieniveau hebben bereikt, wat de time-to-market vertraagt en over het algemeen minder efficiënt is wanneer aanpassingsvermogen vereist is.
Een demo op de Embedded Vision Summit van dit jaar toonde ons Lattice CertusPro™-NX-apparaat dat de mogelijkheid illustreert om meerdere AI-engines parallel te laten draaien, gelijktijdige threads uit te voeren die de algehele latentie van het systeem verminderen en snellere FPS te produceren in een volledige systeemimplementatie.
Systeemontwerpers helpen bij het versnellen van AI-applicaties
In de tweede helft van mijn presentatie heb ik enige tijd besteed aan het geven van een overzicht van hoe Lattice systeemontwerpers, die vaak softwareontwikkelaars en geen FPGA-experts zijn, helpt met onze verscheidenheid aan softwareoplossingen, waaronder de Lattice sensAI™-oplossingenstack. Lattice sensAI is een verzameling tools, hardware, acceleratie-IP's, softwaretools, voorbeeldreferentieontwerpen en demo's, aangepaste ontwerpservices. en end-to-end-oplossingen die we hebben gebouwd om AI-toepassingen in specifieke eindmarkten mogelijk te maken.
Binnen de sensAI-stack bevindt zich onze softwaretool Lattice sensAI Studio die systeemontwerpers kunnen gebruiken om hun use-cases binnen enkele uren te verifiëren, niet dagen of weken. De sensAI-studio stelt systeemontwerpers in staat om ofwel een van onze modellen die in onze modeldierentuin bestaan, ofwel hun eigen model in te brengen, door middel van transfer learning te gaan, te evalueren hoe goed het model is getraind, gegevens vast te leggen en te labelen, het model te configureren en te testen, en vervolgens compileren voor een specifiek apparaat om het op een bord te plaatsen.
Tijdens het Q&A-gedeelte van mijn presentatie vertelde ik hoe een van onze agrarische klanten bij Lattice een AI-systeem kon bouwen om bessen in het veld te detecteren met behulp van sensAI studio. Dit voorbeeld heeft laten zien hoe tools zoals sensAI studio echt belangrijk zijn voor alledaagse systeemontwerpers die iets willen bouwen voor een verscheidenheid aan gebruikssituaties die niet zoveel ervaring hebben als het gaat om het ontwikkelen van AI-applicaties.
Next-Gen Smart PC-ervaringen inschakelen
Pc-gebruikers zijn steeds vaker op zoek naar slimme en bewuste apparaten die ook beveiliging bieden om uw privacy te beschermen. Bovendien zijn ze op zoek naar geweldige samenwerkingsmogelijkheden zoals audio en video tijdens conferentiegesprekken. Systeemontwerpers voor notebooks worden uitgedaagd met alle verschillende vormfactoren die ze op de markt willen introduceren en dat brengt systeemuitdagingen met zich mee; hoe verplaats je al deze gegevens door de camera naar de rest van het systeem?
Lattice's op AI gebaseerde oplossingen die ik tijdens de presentatie heb laten zien, helpen bij het oplossen van de problemen van systeemontwerpers op dit gebied, zodat nieuwe vormfactoren kunnen worden geïntroduceerd, inclusief aanwezigheidsdetectie, detectie van toeschouwers en gezichtskaders voor videogesprekken. Onze oplossingen helpen ook om aandachtsregistratie mogelijk te maken om tot 28% extra levensduur van de batterij te leveren op basis van een 45% van de tijd die wordt afgeleid tijdens het gebruik.
Meer informatie over hoe onze softwaretools helpen bij het verwerken van energiezuinige FPGA's AI/ML edge-mogelijkheden, download onze whitepaper. U kunt ook contact met ons opnemen via [email protected] met al uw vragen over onze tools en FPGA's.
Hussein Osman
Segment Marketing Director, Lattice Semiconductor
