Microcontroller sind klein, leistungsfähig und zugleich kostengünstig und energieeffizient. Durch Konzepte wie TinyML eignen sie sich tatsächlich auf für KI-Anwendunge, insbesondere in der Industrie. (Bild: Adobe Stock / Stanisic Vladimir)

Microcontroller sind klein, leistungsfähig und zugleich kostengünstig und energieeffizient. Durch Konzepte wie TinyML eignen sie sich tatsächlich auf für KI-Anwendunge, insbesondere in der Industrie. (Bild: Adobe Stock / Stanisic Vladimir)

Für was steht TinyML?

TinyML ist die Abkürzung für Tiny (winziges) Machine Learning. Machine Learning, ein Teilbereich von Künstlicher Intelligenz, wurde klassischer Weise auf leistungsstarken Computern und Servern ausgeführt, da diese über die erforderliche Rechenleistung und Speicherkapazität verfügten.

Mit dem Aufkommen des Internet of Things (IoT) und der Miniaturisierung von elektronischen Komponenten stieg das Interesse an der Integration von Machine-Learning-Funktionen in eingebettete Geräte wie Mikrocontroller, Sensoren und andere IoT-Geräte. Dies führte zur Entstehung des Konzepts des Tiny Machine Learning.

Ist TinyML ein definierter Standard?

Tiny Machine Learning (TinyML) ist kein spezifischer Standard, sondern eher eine Herangehensweise an die Implementierung von Machine-Learning-Modellen auf eingebetteten Geräten. Es gibt jedoch verschiedene Initiativen und Organisationen, die sich mit TinyML befassen und Standards entwickeln oder fördern, um die Entwicklung und Interoperabilität von TinyML-Modellen zu erleichtern. Ein Beispiel für solch eine Initiative ist die TinyML Foundation, die sich zum Ziel gesetzt hat, die Adoption von TinyML zu beschleunigen. Die Stiftung arbeitet eng mit Unternehmen, Forschungsinstituten und der Entwickler-Community zusammen, um Methoden, Richtlinien und Tools für TinyML zu entwickeln und zu teilen.

Infineon kauft TinyML-Spezialisten Imagimob

Der Halbleiter-Hersteller Infineon Technologies hat Mitte Mai 2023 die Übernahme des in Stockholm ansässigen Start-ups Imagimob AB bekannt gegeben. Imagimob ist ein Plattformanbieter für Machine-Learning-Lösungen für Edge-Geräte und eines der führenden Unternehmen im Bereich TinyML. Das schwedische Unternehmen bietet eine End-to-End-Toolchain für maschinelles Lernen an. Diese ist flexibel, einfach zu bedienen und legt den Schwerpunkt auf die Bereitstellung von ML-Modellen in Produktionsqualität. Infineon erwirbt 100 % der Anteile an dem Unternehmen. Über die Höhe des Investments wurde Stillschweigen vereinbart.

Auf welcher Hardware kann TinyML ausgeführt werden?

  • Beliebte Mikrocontrollerplattformen für TinyML sind beispielsweise Arduino, Raspberry Pi Pico, ESP32 und STM32.
  • Sensoren, wie beispielsweise Beschleunigungsmesser, Gyroskope, Temperatursensoren und optische Sensoren, können auch über TinyML verfügen. Sie ermöglichen es, kontinuierlich Daten zu erfassen und vor Ort zu analysieren, um Echtzeit-Entscheidungen zu treffen.
  • System-on-Chip-Plattformen (SoC) integrieren mehrere Komponenten wie Prozessoren, Speicher, drahtlose Kommunikation und Peripheriegeräte auf einem einzigen Chip. Beispiele für SoC-Plattformen, die für TinyML verwendet werden können, sind der Nvidia Jetson Nano, der Raspberry Pi mit integrierter KI-Funktion und der Google Coral Edge TPU.
  • Edge-Geräte sind Embedded-Systeme, die in der Nähe der Datenerfassungsquelle platziert werden, um eine schnelle und lokale Analyse zu ermöglichen. Sie können mit TinyML-Funktionen ausgestattet sein und werden oft in industriellen Anwendungen eingesetzt.

Was ist an Software für TinyML-Anwendungen notwendig?

Für die Entwicklung und Ausführung von TinyML-Anwendungen gibt es spezialisierte Tools und Frameworks wie:

  • Edge Impulse: Die Plattform bietet Tools für das Training, die Validierung und die Bereitstellung von TinyML-Modellen auf Mikrocontrollern. Die Plattform unterstützt verschiedene Hardwareplattformen und bietet auch eine Integration mit Cloud-Diensten.
  • TensorFlow Lite for Microcontrollers basiert auf der von Google entwickelten KI-Bibliothek TensorFlow, kombiniert mit einer Erweiterung, die speziell für die Implementierung von TinyML auf Mikrocontrollern entwickelt wurde.
  • ARM CMSIS-NN: ARM Cortex-M-Prozessoren sind weit verbreitet in Mikrocontrollern und eingebetteten Geräten. Das ARM Cortex Microcontroller Software Interface Standard (CMSIS), das bei Github verfügbar ist, enthält eine spezielle Neural Network (NN)-Bibliothek für die Ausführung von TinyML-Modellen auf Cortex-M-Prozessoren.

Warum ist TinyML für die Industrie besonders wichtig?

Dafür gibt es mehrere Gründe:

  • Echtzeit-Analyse: TinyML ermöglicht es, Machine-Learning-Modelle direkt auf den Embedded-Systemen der Industrie wie etwa Edge-Devices direkt an der Maschine oder Anlage auszuführen. Dadurch können Echtzeit-Analysen und Entscheidungen vor Ort getroffen werden, ohne auf eine Verbindung zu Cloud- oder Serverressourcen angewiesen zu sein. Dies führt zu schnelleren Reaktionszeiten und ermöglicht eine sofortige Fehlererkennung und -behebung.
  • Geringe Latenzzeiten: Durch die Ausführung von Machine-Learning-Modellen auf maschinennahen Systemen können Latenzzeiten reduziert werden. Dies ist besonders wichtig für Echtzeit-Anwendungen, bei denen schnelle Reaktionen erforderlich sind, wie beispielsweise die Überwachung von Produktionsprozessen und Qualitätskontrolle.
  • Datensicherheit und Datenschutz: TinyML ermöglicht die Verarbeitung von Daten direkt auf den Geräten, ohne dass die Daten an externe Server oder Cloud-Dienste gesendet werden müssen. Dies verbessert die Datensicherheit und schützt vertrauliche Informationen vor potenziellen Sicherheitslücken und Datenschutzverletzungen.
  • Kosteneffizienz: Durch die Verlagerung der Rechenleistung auf die Geräte selbst und die Reduzierung der Abhängigkeit von teuren Cloud-Ressourcen können Kosten eingespart werden. Die Verwendung von TinyML ermöglicht die Implementierung von Machine-Learning-Funktionen auf kostengünstigen Mikrocontrollern und senkt die Infrastrukturkosten.
  • Robuste Leistung: TinyML-Modelle können aufgrund ihrer geringen Größe und Energieeffizienz auf den eingebetteten Geräten effizient ausgeführt werden. Sie sind robust gegenüber Netzwerkunterbrechungen oder Verzögerungen, die bei einer cloudbasierten Verarbeitung auftreten können. Dies gewährleistet eine zuverlässige Leistung und minimiert Ausfallzeiten.
  • Lokale Entscheidungsfindung: Mit TinyML können Entscheidungen vor Ort getroffen werden, ohne dass eine Verbindung zu externen Ressourcen erforderlich ist. Dies ermöglicht eine autonome und unabhängige Funktion der Industriegeräte, was besonders in Umgebungen mit begrenzter oder intermittierender Konnektivität von Vorteil ist.

Welche Machine-Learning-Modelle können mit TinyML ausgeführt werden?

Zu den Machine-Learning-Modellen, die mit TinyML auf eingebetteten Geräten ausgeführt werden können, gehören lineare Modelle, Entscheidungsbäume, Support-Vector-Machines (SVM), künstliche neuronale Netze (ANN) und andere Modelle, die speziell für die Ressourcenbeschränkungen von TinyML entwickelt wurden.

Wie trainiert man TinyML-Modelle mit begrenzten Ressourcen?

Das Training von TinyML-Modellen mit begrenzten Ressourcen erfordert spezielle Techniken wie Quantisierung, Komprimierung, Pruning (Beschneidung) und effiziente Algorithmen. Diese Techniken zielen darauf ab, die Modellgröße zu reduzieren, die Berechnungseffizienz zu verbessern und den Speicherbedarf zu minimieren, um den Anforderungen eingebetteter Geräte gerecht zu werden.

Für welche Anwendungen in der Industrie wird TinyML eingesetzt?

  • Zustandsüberwachung: Durch die KI-basierte Analyse von Sensor- und Betriebsdaten in Echtzeit können Anomalien erkannt werden, um Wartungsmaßnahmen rechtzeitig durchzuführen und ungeplante Ausfallzeiten zu minimieren.
  • Qualitätskontrolle: Durch die Verarbeitung von Sensordaten in Echtzeit können Defekte oder Abweichungen von den Produktionsstandards erkannt werden. Dies ermöglicht eine schnelle Rückmeldung und ermöglicht es, Qualitätsprobleme frühzeitig zu erkennen und zu beheben.
  • Predictive Maintenance: Durch den Einsatz von TinyML können Prognosemodelle auf eingebetteten Geräten implementiert werden, um den Zustand von Maschinen und Anlagen vorherzusagen. Durch die kontinuierliche Überwachung von Sensordaten können Anomalien erkannt und Wartungsbedarfe frühzeitig vorhergesagt werden, um ungeplante Ausfallzeiten zu reduzieren und die Effizienz der Wartungsmaßnahmen zu verbessern.
  • Energieoptimierung: TinyML kann auch zur Optimierung des Energieverbrauchs in der Industrie eingesetzt werden. Durch die Analyse von Energieverbrauchsdaten können Muster und Trends erkannt werden, um Energieeffizienzmaßnahmen zu identifizieren und umzusetzen.
  • Robotik und Automation: TinyML kann in Robotik- und Automatisierungssystemen eingesetzt werden, um intelligente Entscheidungen vor Ort zu treffen. Dies ermöglicht es Robotern und automatisierten Systemen, ihre Umgebung zu erkennen, zu navigieren und Aufgaben effizient auszuführen, ohne auf eine externe Datenverbindung angewiesen zu sein.

Was ChatGPT über TinyML denkt:

Im übrigen ist auch ChatGPT selbst der Ansicht, dass für die Industrie TinyML wichtiger ist. Auf eine entsprechende Frage schreibt ChatGPT als Antwort:

"Während ChatGPT ein leistungsfähiges Modell für natürliche Sprachverarbeitung ist, ist TinyML speziell auf die Anforderungen der Industrie zugeschnitten. Es ermöglicht die direkte Integration von Machine-Learning-Funktionen in eingebettete Geräte, was in industriellen Umgebungen von großem Nutzen ist."

In Kürze: TinyML

  • TinyML steht für Tiny Machine Learning und bezeichnet die Implementierung von Machine-Learning-Funktionen auf Embedded-Systemen wie Mikrocontrollern, Sensoren und IoT-Geräten.
  • Das Framework ermöglicht Echtzeit-Analysen und lokale Entscheidungsfindung, ohne auf Cloud-Ressourcen angewiesen zu sein. Es verbessert die Datensicherheit, reduziert Latenzzeiten und senkt Kosten.
  • TinyML wird in der Industrie für Zustandsüberwachung, Qualitätskontrolle, Predictive Maintenance, Energieoptimierung, Robotik und Automation eingesetzt.

Der Autor: Peter Koller

Peter Koller
(Bild: Anna McMaster)

Gelernter Politik-Journalist, heute News-Junkie, Robotik-Afficionado und Nerd-Versteher. Chefredakteur des Automatisierungsmagazins IEE. Peter Koller liebt den Technik-Journalismus, weil es das einzige Themengebiet ist, wo wirklich ständig neue Dinge passieren. Treibstoff: Milchschaum mit Koffein.

Sie möchten gerne weiterlesen?