Performance-Schub für KI-Inferenzen im Low-Power-Bereich

Intel hat die Leistung seiner Low-Power-Prozessoren mit Codenamen Amston Lake nochmals um 49 Prozent bei Singlethread-Anwendungen und um 61 Prozent bei Multithread-Anwendungen gesteigert. Eine Leistungssteigerung, die bei gestiegener Taktrate und Core-Anzahl zwar im Rahmen der Erwartungen liegt, aber bei gleichbleibendem Power-Budget immense Fortschritte ermöglicht. Ein echter Durchbruch für Embedded- und Edge-Computer ist allerdings die bis zu 9,83-fache Leistungssteigerung der neuen Intel-Core- und Intel-Atom-Prozessoren bei der Bildklassifikation. Eine derart hohe KI-Leistung war bisher nur Systemen mit deutlich höherer TDP (Thermal Design Power) vorbehalten.

Mit der Vereinheitlichung der zugrundeliegenden Mikro-Architektur (Codename Gracemont) für die E-Cores aller Intel-Client-Prozessor-Designs – vom kleinsten Intel Atom bis zum leistungsstärksten Intel Core i9 – sind die x86-Innovationen wie VNNI für künstliche Intelligenz nun auch im Low-Power-Segment bis 15 W verfügbar. Damit dringen nun auch Small Form Faktor Designs auf Basis von SMARC-Modulen in Performanceregionen vor, die bisher ausschließlich größeren Footprints wie COM Express oder COM-HPC vorbehalten waren.

Intelligentere Systeme entwickeln

Hochleistungsfähige KI-Inferenzlogik kann so in vielen innovativen, energiesparenden und robusten industriellen Anwendungen eingesetzt werden, in denen KI-basierte Intelligenz auch dringend benötigt wird: Schließlich ist die Objektdetektion und -erkennung bei Pick & Place- sowie Test- und Messaufgaben in der industriellen Fertigung auf dem Vormarsch. Bei letzterem ersetzen visionsbasierte Lösungen aufwendige mechanische Verfahren und tragen so zur Kostensenkung in der Qualitätssicherung bei. Auch bei kollaborierenden Robotern und Autonomous Guided Vehicles (AGVs) sowie Servicerobotern fallen Bildverarbeitungsaufgaben an. Für eine hohe Betriebssicherheit sowie effiziente Routenplanung und Navigation muss schließlich die Umgebung in Echtzeit umfassend und präzise wahrgenommen werden.

Auch in der Medizintechnik, z. B. bei mobilen Ultraschallgeräten, trägt eine leistungsfähige Bildsegmentierung zur automatisierten Erkennung von Anomalien und damit zur Beschleunigung der Befundung bei. In Vision-Systemen für Überwachungs- und Sicherheitsaufgaben in Smart Cities hilft eine gesteigerte Performance der Bildklassifikation nicht nur bei der schnelleren Detektion bewegter Objekte. Je leistungsfähiger die Bilderkennung schließlich ist, desto differenzierter können Objekte nach zahlreichen Kriterien klassifiziert werden. Dies kommt natürlich auch POS-Anwendungen zugute, wie z. B. vollautomatischen visionsbasierten Kassenterminals, die Kassensysteme mit Barcode-Scannern ersetzen und damit Personalkosten einsparen. All diese und zahlreiche weitere Applikationen wie In-Vehicle-Systeme für die Bau-, Land- und Forstwirtschaft oder auch klassische HMIs profitieren enorm von diesem KI-Performance-Schub, den die scheckkartengroßen SMARC-Module nun liefern.

Umfassendes x86-Ecosystem für Inferenzlogik

Die Leistungssteigerung der Hardware kann sehr schnell in reale Anwendungen umgesetzt werden. Entwickler von Lösungen auf Basis höherer Leistungsklassen beschäftigen sich schließlich bereits seit Jahren mit dem Lösungsangebot rund um die KI-Inferenzlogik von Intel. Die Portierung solcher Inferenzlogik auf einen besonders kleinen Footprint mit geringem Stromverbrauch und einer Auslegung für den industriellen Temperaturbereich von -40 °C bis +85 °C ist mit deutlich geringerem Softwareentwicklungsaufwand verbunden als bisher. Schließlich sind die bis zu acht Efficient Cores der CPU und die bis zu 32 Execution Units der Intel Gen 12 UHD GPU identisch mit den Prozessoren höherer Leistungsklassen auf Basis der Gracemont-Mikroarchitektur und unterstützen ebenfalls die INT8-Deep-Learning-Inferenzverarbeitung.

Auch die weiteren KI-Technologien wie die optimierten Intel-AVX2- (Advanced Vector Extensions 2) und Intel-VNNI (Vector Neural Network Instructions) -Befehlssätze können einheitlich genutzt werden. Darüber hinaus steht ein komplettes Ökosystem von Kerneln für Library-Entwickler und Libraries für Spezialisten auf Datenebene bis hin zu Toolkits wie OpenVino für Applikationsentwickler zur Verfügung. So kommen Entwickler von Low-Power-Anwendungen durch die Harmonisierung der zugrundeliegenden Prozessor-Mikroarchitektur deutlich schneller zum Ziel. Schnelle KI-Inferenzlogik ist aber nicht der einzige Vorteil der neuen SMARC-Module.

Acht Cores erweitern die Virtualisierungsoptionen

Die neuen SMARC-Module auf Basis des neuen Intel-Core-i3-Prozessors sowie der Intel-Atom-x7000RE-Prozessorserie (Codename Amston Lake) bieten im Vergleich zur Vorgängergeneration bis zu acht Cores und damit doppelt so viele Prozessorkerne bei gleicher Leistungsaufnahme. Die damit verbundene Leistungssteigerung kann somit in bestehende Designs integriert werden, ohne dass das Systemdesign hinsichtlich der Auslegung der Kühlung überarbeitet werden muss. Auch dies beschleunigt die Integration dieser neuen Leistungsgeneration und damit die Einführung von KI in industrielle Anwendungen, die im 24/7-Betrieb laufen und dafür ein besonders robustes Design erfordern. Attraktiv sind die acht Kerne auch für die Virtualisierungstechnologien.

Die Vorteile der Virtualisierung sind vielfältig:

• Sie bietet erhebliche Vorteile für die Cybersicherheit (Stichwort Cyber Resilience Act), indem sie sie das Risiko systemübergreifender Sicherheitsverletzungen verringert. Kommunikationsgateways, Steuerungen und Benutzeroberflächen lassen sich in eigenständigen, voneinander unabhängigen Instanzen betreiben, was ihre Widerstandsfähigkeit gegen Cyber-Bedrohungen erhöht.
• Durch die Konsolidierung mehrerer Systeme auf einer einzigen physischen Hardware können Unternehmen außerdem Hardwarekosten einsparen und die Effizienz steigern.
• Gleichzeitig wird die Komplexität der Codebasis minimiert und die Skalierbarkeit und Portabilität von Anwendungen verbessert, indem man statt einer monolithischen Software die einzelnen Aufgaben granular auf individuelle Softwareprodukte aufgeteilt und in eigenständigen virtuellen Maschinen betreibt.

Im Bereich des industriellen Internet der Dinge (Industrial Internet of Things, IIoT) ermöglicht die Virtualisierung auch die Einrichtung dedizierter virtueller Maschinen für Wartungszwecke, was die Systemverfügbarkeit erhöht und Aktualisierungen vereinfacht. Außerdem können Entwickler in einer kontrollierten und reproduzierbaren Umgebung arbeiten, was die Softwareentwicklung beschleunigt und die Qualität der Endprodukte verbessert.

SMARC-Module mit Hypervisor-on-Module

Congatec ist der einzige Anbieter, der einen Hypervisor in die Firmware von SMARC-Modulen integriert. Die Virtualization-Ready-Eigenschaft dieser neuen SMARC-Module erleichtert Entwicklern die Implementierung von virtuellen Maschinen erheblich. Zudem lassen sich Lösungen deutlich zuverlässiger, kostengünstiger und langlebiger gestalten und damit die Total Cost of Ownership (TCO) senken. Ein weiterer Vorteil für industrielle Anwendungen ist die Echtzeitfähigkeit des integrierten Hypervisors.

Der Einsatz dieser Hypervisor-on-Module-Technologie empfiehlt sich jedoch nicht nur, wenn Echtzeit auf einem konsolidierten System erfüllt werden muss oder die Echtzeitintegration des Systems über Intel Time Coordinated Computing (Intel TCC) und Time-Sensitive Networking (TSN) erfüllt werden soll. Vielmehr können Entwickler mit diesem Hypervisor alle benötigten Funktionen abdecken – also auch solche, die keine Echtzeit benötigen. Im Vergleich zur Containerisierung wird zudem eine deutlich höhere Cybersicherheit erreicht, da alle virtuellen Maschinen völlig separierte Safety-Islands darstellen und nicht unter einem gemeinsamen Host-OS betrieben werden.

Congatec bietet das SMARC-Modul conga-SA8 auch in einer applikationsfertigen aReady.COM-Version an. Kunden können es individuell konfiguriert, beispielsweise mit ctrlX OS von Bosch Rexroth und virtuellen Maschinen für Aufgaben wie Echtzeitsteuerung, HMI, KI, IIoT-Datenaustausch, Firewall sowie Wartungs-/Managementfunktionen, applikationsfertig beziehen. Die neuen SMARC-Module unterstützen auch zahlreiche Varianten von Microsoft Windows.

Ein solch umfassendes Ökosystem erleichtert die Entwicklung neuer, stromsparender Embedded- und Edge-Computing-Systemlösungen auf der Basis von KI-Inferenzlogik und Virtualisierungstechnologien enorm. Schließlich stehen viele der benötigten Funktionen bereits anwendungsbereit zur Verfügung, sodass sich die Entwickler auf die Entwicklung ihrer spezifischen Lösung konzentrieren können. (neu)