Edge AI: Echtzeit-Datenverarbeitung und Automatisierung der Zukunft

Von intelligenten Heimassistenten (z. B. Alexa, Google und Siri) bis hin zu fortschrittlichen Fahrerassistenzsystemen (ADAS), die den Fahrer benachrichtigen, wenn er seine Fahrspur verlässt, verlässt sich die Welt auf Edge AI (KI am Netzwerkrand), um Echtzeitverarbeitung für diese zunehmend verbreiteten und wichtigen Geräte bereitzustellen. Edge AI nutzt künstliche Intelligenz direkt in einem Gerät, das in der Nähe der Datenquelle rechnet, und nicht in einem externen Rechenzentrum mit Cloud Computing. Edge AI bietet geringere Latenzzeiten, schnellere Verarbeitung, einen geringeren Bedarf an ständiger Internetverbindung und kann Bedenken hinsichtlich des Datenschutzes verringern. Diese Technologie stellt einen bedeutenden Wandel in der Art und Weise dar, wie Daten verarbeitet werden, und da die Nachfrage nach Echtzeit-Intelligenz steigt, ist Edge AI gut positioniert, um ihren starken Einfluss in vielen Branchen fortzusetzen.

Der größte Wert von Edge AI liegt in der Geschwindigkeit, die sie für kritische Anwendungen bieten kann. Im Gegensatz zur KI in der Cloud oder im Rechenzentrum sendet Edge AI keine Daten über Netzwerkverbindungen und hofft auf eine angemessene Antwortzeit. Vielmehr führt Edge AI die Berechnungen lokal durch (oft auf einem Echtzeit-Betriebssystem), was sich durch zeitnahe Antworten auszeichnet. Für Situationen wie die maschinelle Bildverarbeitung an einer Fertigungsstraße, bei der ein Produkt innerhalb einer Sekunde umgelenkt werden kann, ist Edge AI bestens gerüstet. Genauso wenig möchten Sie, dass die Signale Ihres Autos von den Reaktionszeiten des Netzes oder der Server in der Cloud abhängen.

Viele Echtzeit-Aktivitäten führen dazu, dass der Bedarf an Edge AI steigt. Anwendungen wie intelligente Haushaltsassistenten, ADAS, Patientenüberwachung und vorausschauende Wartung sind bemerkenswerte Einsatzmöglichkeiten dieser Technologie. Ob schnelle Antworten auf Fragen zum Haushalt, Benachrichtigungen über ein Abweichen von der Fahrspur in einem Fahrzeug oder ein Blutzuckermesswert, der an ein Smartphone gesendet wird - Edge AI bietet schnelle Antworten und minimiert gleichzeitig die Bedenken hinsichtlich des Datenschutzes.

Wir haben gesehen, dass Edge AI in der Lieferkette gut funktioniert, vor allem in der Lagerhaltung und in Fabriken, und das schon seit geraumer Zeit. In den letzten zehn Jahren hat die Technologie auch in der Transportbranche ein beträchtliches Wachstum erfahren, z. B. bei Lieferdrohnen, die unter Bedingungen wie Wolken navigieren. Edge AI leistet auch Großartiges für das Ingenieurwesen, insbesondere in der Medizintechnik, einem wichtigen Bereich des Fortschritts. So können beispielsweise Teams, die Herzschrittmacher und andere Herzgeräte entwickeln, den Ärzten Werkzeuge an die Hand geben, mit denen sie nach abnormalen Herzrhythmen suchen können, während sie gleichzeitig die Geräte proaktiv so programmieren können, dass sie Hinweise darauf geben, wann ein weiterer medizinischer Eingriff erforderlich ist. Die Medizintechnik wird ihre Nutzung von KI weiter ausbauen und weitere Fähigkeiten entwickeln.

Da immer mehr Systeme des täglichen Lebens ein gewisses Maß an Interaktion mit maschinellem Lernen (ML) aufweisen, ist das Verständnis dieser neuen Welt für alle, die in der Forschung und Entwicklung beschäftigt sind, von entscheidender Bedeutung, um die Zukunft der Benutzerinteraktionen zu planen.

Die größte Chance für Edge AI ist ML, das Muster auf der Grundlage eines statistischen Algorithmus abgleicht. Die Muster könnten die Anwesenheit eines Menschen erkennen, dass jemand gerade ein „Weckwort“ (z. B. „Alexa“ oder „Hey Siri“) für einen Smart-Home-Assistenten gesprochen hat, oder dass ein Motor zu wackeln beginnt. Für den Smart-Home-Assistenten sind Weckwörter Modelle, die direkt am Gerät laufen und Ihre Stimme nicht an die Cloud senden müssen. Sie wecken das Gerät auf und teilen ihm mit, dass es Zeit ist, weitere Befehle zu erwarten.

Es gibt mehrere Möglichkeiten, ein ML-Modell zu erstellen: entweder mit einer integrierten Entwicklungsumgebung (wie TensorFlow oder PyTorch) oder mit einer SaaS-Plattform (wie Edge Impulse). Die meiste „Arbeit“ bei der Erstellung eines guten ML-Modells besteht darin, einen repräsentativen Datensatz zu erstellen und diesen gut zu kennzeichnen.

Das derzeit beliebteste ML-Modell für Edge AI ist ein überwachtes Modell, d. h. eine Art von Training auf der Grundlage von gekennzeichneten und markierten Beispieldaten, bei dem die Ausgabe ein bekannter Wert ist, der auf Korrektheit überprüft werden kann, so wie ein Tutor, der die Arbeit während des Trainings überprüft und korrigiert. Diese Art von Training wird in der Regel bei Anwendungen wie Klassifizierung oder Datenregression eingesetzt. Überwachtes Training kann nützlich und hochpräzise sein, aber es hängt stark von dem markierten Datensatz ab und ist möglicherweise nicht in der Lage, neue Eingaben zu verarbeiten.

DigiKey ist gut positioniert, um KI-Implementierungen zu unterstützen, da diese im Allgemeinen auf Mikrocontrollern, FPGAs und Einplatinencomputern (SBCs) laufen. DigiKey arbeitet mit führenden Anbietern zusammen, um mehrere Generationen von Hardware bereitzustellen, die ML-Modelle am Netzwerkrand ausführen. In diesem Jahr wurden einige großartige neue Hardwareprodukte vorgestellt, darunter die MCX-N-Serie von NXP und bald werden wir auch die Serie STM32MP25 von ST Microelectronics anbieten.

In den vergangenen Jahren waren Entwicklungsboards aus der Maker-Community für die Ausführung von Edge AI sehr beliebt, darunter das Edge-Entwicklungsboard Apollo3 Blue von SparkFun, das EdgeBadge von AdaFruit, das Nano 33 BLE Sense Rev 2 von Arduino und die Raspberry-Pi-Modelle 4 oder 5.

Neuronale Prozessoren (NPUs) sind in der KI auf dem Vormarsch. NPUs sind spezialisierte ICs, die die Verarbeitung von ML- und KI-Anwendungen auf der Grundlage neuronaler Netze beschleunigen sollen. Dabei handelt es sich um Strukturen, die auf dem menschlichen Gehirn mit vielen miteinander verbundenen Schichten und Knoten, den Neuronen, basieren, die Informationen verarbeiten und weiterleiten. Es gibt eine neue Generation von NPUs mit speziellen mathematischen Prozessoren, darunter die MCX-N-Serie von NXP und der MAX78000 von ADI.

Es gibt auch KI-Beschleuniger für Edge-Geräte, ein Bereich, der erst noch definiert werden muss. Zu den ersten namhaften Unternehmen gehören Google Coral und Hailo.

Hochgeschwindigkeitskameras mit ML-Modellen werden schon seit geraumer Zeit in Lieferketten eingesetzt. Sie werden z. B. eingesetzt, um zu entscheiden, wohin Produkte in einem Lager geschickt werden sollen, oder um fehlerhafte Produkte in einer Produktionslinie zu finden. Wir beobachten, dass Anbieter kostengünstige KI-Module für die Bildverarbeitung entwickeln, die ML-Modelle zur Erkennung von Objekten oder Personen einsetzen können.   

Obwohl für die Ausführung eines ML-Modells ein eingebettetes System erforderlich ist, wird es immer mehr Produkte geben, die als KI-fähige elektronische Komponenten auf den Markt kommen. Dazu gehören auch KI-fähige Sensoren, die auch als ML-Sensoren bezeichnet werden. Während die meisten Sensoren durch das Hinzufügen eines ML-Modells nicht effizienter werden, gibt es einige wenige Sensortypen, die durch ML-Training wesentlich effizienter arbeiten können:

• Kamerasensoren, für die ML-Modelle entwickelt werden können, um Objekte und Personen im Bild zu verfolgen
• Trägheitsmesseinheiten, Beschleunigungsmesser und Bewegungssensoren zur Erfassung von Aktivitätsprofilen
  

Auf einigen KI-Sensoren ist ein ML-Modell vorinstalliert, das sofort einsatzbereit ist. Zum Beispiel das SparkFun-Evaluierungsboard zur Erkennung von Menschen ist vorprogrammiert, um Gesichter zu erkennen und Informationen über die QWiiC-I2C-Schnittstelle zurückzugeben. Einige KI-Sensoren, wie Nicla Vision von Arduino oder die OpenMV Cam H7 von Seeed Technology, sind offener und benötigen ein trainiertes ML-Modell für das, wonach sie suchen (Defekte, Objekte usw.).

Durch die Verwendung neuronaler Netze zur Bereitstellung von Rechenalgorithmen ist es möglich, Objekte und Personen zu erkennen und zu verfolgen, während sie sich in das Sichtfeld des Kamerasensors bewegen.

Da sich viele Branchen weiterentwickeln und bei der Datenverarbeitung immer stärker auf Technologie angewiesen sind, wird sich Edge AI immer weiter durchsetzen. Durch die schnellere und sicherere Datenverarbeitung auf Geräteebene wird die Innovation im Bereich von Edge AI tiefgreifend sein. Zu den Bereichen, die sich nach Meinung von DigiKey nach in naher Zukunft ausweiten werden, gehören:

• Dedizierte Prozessorlogik für die Berechnung der Arithmetik neuronaler Netze.
• Fortschritte bei Alternativen mit geringerem Energieverbrauch im Vergleich zum hohen Energieverbrauch des Cloud Computing.
• Mehr integrierte/modulare Optionen wie KI-Bildverarbeitungskomponenten, die integrierte Sensoren zusammen mit eingebetteter Hardware enthalten werden.

Da sich ML-Trainingsmethoden, Hardware und Software weiterentwickeln, ist Edge AI gut positioniert, um exponentiell zu wachsen und viele Branchen zu unterstützen. DigiKey hat sich vorgenommen, den Edge-AI-Trends immer einen Schritt voraus zu sein und unterstützt Ingenieure, Designer, Konstrukteure und Beschaffungsexperten auf der ganzen Welt mit einer Fülle von Lösungen, reibungslosen Interaktionen, Tools und Bildungsressourcen, um ihre Arbeit effizienter zu gestalten. (na)