Mit seiner Initiative „Smart Embedded Vision“ will Microchip Technology dem wachsenden Bedarf an energieeffizienten Inferenzsystemen in Edge-Anwendungen Rechnung tragen, indem es Software-Entwicklern die Implementierung ihrer Algorithmen in Polar-Fire-FPGAs erleichtert. Das Software-Entwicklungskit (SDK; Software Development Kit) Vector-Blox Accelerator ist in diesem Bereich eine Ergänzung des Angebots und soll Entwicklern helfen, die Polar-Fire-FPGAs zu nutzen, um flexible, Overlay-basierte neuronale Netzwerkanwendungen zu erstellen, ohne einen FPGA-Tool-Flow erlernen zu müssen.

Polar-Fire-FPGAs bieten mathematische Blöcke mit 25 Prozent höherer Kapazität, die bis zu 1,5 TOPS liefern können.

Polar-Fire-FPGAs bieten mathematische Blöcke mit 25 Prozent höherer Kapazität, die bis zu 1,5 TOPS liefern können. Microchip

Für Inferenzfunktionen am Netzwerkrand weisen Polar-Fire-FPGAs einen um bis zu 50 Prozent geringeren Stromverbrauch als andere FPGAs auf und bieten mathematische Blöcke mit 25 Prozent höherer Kapazität, die bis zu 1,5 TOPS (Tera Operations Per Second) liefern können. Durch ihre reprogrammierbare Natur sowie die Fähigkeit, Funktionen auf einem einzigen Chip zu integrieren, ergeben sich mit FPGAs auch bessere Anpassungs- und Differenzierungsmöglichkeiten. Das IP für die Polar-Fire-FPGAs für neuronale Netze ist in verschiedenen Größen erhältlich, um in Anwendungen den Kompromissen zwischen Leistungsfähigkeit, Stromverbrauch und Chipgröße gerecht zu werden. So lassen sich Lösungen auch in kompakte 11 mm2 große Gehäuse implementieren.

Das Toolkit kann Modelle im Tensorflow- und ONNX-Format (Open Neural Network Exchange) ausführen, was Framework-Interoperabilität gewährleistet. ONNX unterstützt viele Frameworks wie Caffe2, MXNet, PyTorch und MATLAB. Im Gegensatz zu anderen FPGA-Lösungen wird das Vector-Blox-Accelerator-SDK auf den Betriebssystemen Linux und Windows unterstützt und enthält einen bitgenauen Simulator, mit dem sich die Genauigkeit der Hardware in der Softwareumgebung überprüfen lässt. Das im Kit enthaltene IP (Intellectual Property) für neuronale Netze bietet auch die Möglichkeit, verschiedene Netzwerkmodelle zur Laufzeit zu laden.

FPGAs eignen sich für Edge-KI-Anwendungen, zum Beispiel Inferenzfunktionen in Stromverbrauch-reduzierten Rechenumgebungen, da sie mehr GOPS (Giga Operations per Second) mit höherer Energieeffizienz ausführen können als eine CPU (Central Processing Unit ) oder GPU (Graphics Processing Unit). Sie erfordern jedoch Kenntnisse rund um das Hardware-Design. Das Vector-Blox-Accelerator-SDK ermöglicht Entwicklern das Codieren in C/C++ und das Programmieren energieeffizienter neuronaler Netze, ohne dass Erfahrung im FPGA-Design erforderlich ist.