AIMET ondersteunt nu AdaRound- en RNN-kwantisering, plus een nieuw GitHub open source-project met code van prominente Qualcomm AI Research-papers

De afgelopen jaren hebben we onze samenwerkingsinspanningen uitgebreid door open-source GitHub-projecten te starten om state-of-the-art technieken van Qualcomm AI Research te delen. In mei 2020 heeft Qualcomm Innovation Center (QuIC) de AI Model Efficiency Toolkit (AIMET) op GitHub open source gemaakt om een ​​eenvoudige bibliotheekplug-in te bieden die AI-ontwikkelaars kunnen gebruiken voor state-of-the-art kwantisatie- en compressietechnieken. In januari 2021 droeg QuIC een verzameling populaire, vooraf getrainde modellen bij aan GitHub in de vorm van AIMET Model Zoo, geoptimaliseerd voor 8-bit inferentie. Samen met de modellen biedt AIMET Model Zoo het recept voor het kwantiseren van populaire 32-bits drijvende-kommamodellen (FP32) naar 8-bits integer (INT8)-modellen met weinig nauwkeurigheidsverlies.

Nieuwe kwantiseringstechnieken toegevoegd aan AIMET

We blijven actief bijdragen aan AIMET en delen graag het nieuws dat er ondersteuning is toegevoegd voor Adaptive Rounding (AdaRound) om 4-bits kwantisering te bereiken zonder veel nauwkeurigheid op te offeren, evenals ondersteuning voor de kwantisering van terugkerende neurale netwerken ( RNN's), waardoor AIMET's vermogen wordt uitgebreid om netwerken te targeten die typisch tijdelijk dynamisch gedrag aanpakken, zoals spraakherkenning.

Nieuw open source-project met broncode van prominente kranten

Vandaag ben ik ook verheugd om aan te kondigen dat we onze open samenwerking vergroten door de nieuwe Qualcomm AI Research GitHub-pagina te introduceren. Op academische AI-conferenties, zoals NeurIPS, ICLR en CVPR, zijn nieuwe papers een primaire manier om innovatief en impactvol AI-onderzoek bij te dragen aan de rest van de gemeenschap. Door deze nieuwe ontdekkingen te delen met AI-onderzoekers en technici kunnen we samenwerken, voortbouwen op het werk van anderen en de AI-industrie vooruit helpen. Nu zal deze nieuwe GitHub-pagina deze inspanningen uitbreiden door broncode op te nemen die is gekoppeld aan enkele belangrijke artikelen van Qualcomm AI Research. We hopen dat het verstrekken van de code andere onderzoekers en ontwikkelaars in staat zal stellen er gemakkelijk bovenop te bouwen, ons onderzoek te bevorderen en tot nieuwe innovaties te leiden. Onze eerste bijdrage bevat code van 4 papers, waaronder drie geaccepteerde papers van CVPR 2021:

  • FrameExit: Conditional Early Exiting for Efficient Video Recognition (CVPR 2021 mondeling)
  • InverseForm : A Loss Function for Structured Boundary-Aware Segmentation (CVPR 2021 oraal)
  • Skip-Convolutions for Efficient Video Processing (CVPR 2021)
  • Probabilistische Numerieke Convolutional Neural Networks (ICLR 2021)< /li>

Dit is nog maar het begin voor de Qualcomm AI Research GitHub-pagina en we zullen regelmatig code van toekomstige AI-papers blijven publiceren. We zijn ook van plan meer van onze datasets beschikbaar te stellen aan de AI-gemeenschap via deze GitHub, zoals we in het verleden hebben gedaan met Qualcomm Keyword Speech Dataset en QAST: A Dataset of Tensor Programs Execution Times (die eerder werden vrijgegeven via het Qualcomm Developer Network ). Ik hoop dat ons onderzoek uw interesse wekt en ik kijk ernaar uit om te zien hoe de AI-gemeenschap voortbouwt op ons werk.

Dr. Joseph Soriaga
Senior Director of Technology, Qualcomm Technologies

0

Geef een reactie