So lassen sich robuste KI-Plattformen schnell entwickeln

Methoden der künstlichen Intelligenz (KI) wie Deep-Learning (DL) -Algorithmen finden ihren Einsatz in vielen Bereichen – zum Beispiel in der Produktion bei visuellen Qualitätsmaßnahmen. DL basiert auf neuronalen Netzen, die eigenständig aus Daten lernen. Ein Anwendungsbereich ist zum Beispiel die Bilderkennung. Im Zuge der Qualitätssicherung (QS) führt der Algorithmus eine Oberflächenanalyse aus, prüft auf Kratzer und Dellen und kontrolliert, ob alle Bestandteile einer Baugruppe vorhanden sind. Immer öfter werden im Fabrikumfeld KI-Funktionen in Edge-Geräte vor Ort verlagert, statt sie direkt in der Cloud abzubilden – das hat vor allem Sicherheits- und Leistungsgründe.

Wie Qualität in Echtzeit erfasst wird

Bisher sind solche Szenarien rund um QS oder Predictive Maintenance allerdings eher in Leuchtturmprojekten zu finden als in der Breite. Das liegt vor allem in zwei Dingen begründet: Einerseits in der Herausforderung, dass Data Scientists das Fachwissen der Mitarbeiter vor Ort erfassen und in die Algorithmen aufnehmen müssen. Zum anderen gibt es in der Praxis bisher kaum an die Anforderungen der Industrie ausgerichtete Elektronik, die sich einfach in IoT-Anwendungen einbinden lässt und in puncto Leistung und Kosten überzeugt. Speziell bei der Bilderkennung gilt es, möglichst viele Bilder (Frames) pro Sekunde zu verarbeiten. Während Kamerasysteme rund 400 Frames pro Sekunde erzeugen, verarbeiten herkömmliche Prozessoren lediglich einen Bruchteil dessen. Erst entsprechende Beschleunigerchips beziehungsweise -karten erreichen höhere Verarbeitungsgrade. Ein Beispiel ist die Coral Edge Tensor Processing Acceleration Unit (TPU) mit bis zu 4 TOPS (trillion operations per second) von Google, zudem gibt es Produkte von Intel und Nvidia.

Auf die Geschwindigkeit der Bildverarbeitung kommt es insbesondere dort an, wo die Qualität in Echtzeit zu erfassen ist. Um beispielsweise Fehler an einem Objekt zu entdecken, müssen KI-Algorithmen mindestens zehn Bilder auswerten, während es auf dem Fließband weiterbefördert wird. Hieraus resultiert eine Geschwindigkeit von bis zu 30 oder mehr Bildern pro Sekunde. Langsamere Systeme würden die Produktionsabläufe drosseln.

Schnelle, kompakte und für hohe Temperaturen ausgelegte KI-Plattform

Aus dem Grund hat Kontron eine kompakte KI-Plattform entwickelt. Sie besteht aus einem M.2-Modul mit Googles Coral-Beschleuniger für das Software-Ökosystem „TensorFlow Lite“. Es ist auf einem 2,5-Zoll Pico-ITX Single-Board-Computer (SBC) mit einem i.MX8M-Prozessor von NXP untergebracht. Hiermit sind je nach Kamera bis zu 100 Frames pro Sekunde möglich. Beim Entwickeln der Plattform lag der Fokus darauf, ein robustes und für die Industrie taugliches Produkt zu schaffen. Das Ergebnis ist eine Temperaturfestigkeit von -40 bis +85 °C – gleichzeitig ist die Plattform mechanisch sehr belastbar. Im ersten Quartal 2021 wurde zudem ein Box-PC vorgestellt, der auf dem Coral-M.2-Modul und Intels Atom-Prozessor basiert.

Um noch detaillierter auf individuelle Anforderungen einzugehen, verwendet Kontrons KI-Plattform einen aktuellen Linux-Yocto-Kernel: ein Garant für aktuelle Sicherheitsfeatures. Ein wichtiger Baustein des Yocto-Projekts ist das Open-Embedded-Build-System. Es ermöglicht Entwicklern, je nach Umfeld eine individuelle Linux-Distribution zu gestalten.

Als Gateway-Plattform bietet die i.MX8M-basierte Anwendung mehrere USB-Schnittstellen und leistungsfähige Ports, um zum Beispiel Kameras für die visuelle Inspektion anzuschließen. Der SBC mit integrierter Beschleunigerkarte ist eine kostengünstige Alternative bei kleinem Formfaktor, um Gateways aufzusetzen: Der Kostenfaktor spielt bei Machine Learning (ML) -Algorithmen eine wesentliche Rolle. Hierbei fällt der Aufpreis für eine Beschleunigung vergleichsweise gering aus. Grob geschätzt gibt es für zehn Prozent Aufpreis des CPU-Boards die zehnfache Leistung. In vielen Anwendungen ist das ein erheblicher Sprung, um Objekte schneller zu erfassen und somit die Produktionsabläufe zu optimieren.

Die TPU unterstützt kleine und Low-Power-Anwendungen von 2 bis 4 TOPS pro Watt. Vor allem bei Umgebungstemperaturen von 50 °C und mehr ist die niedrige Leistungsaufnahme entscheidend. Das betrifft zum Beispiel die Inspektion von Metallguss, denn dort sollten Geräte einem möglichst hohen Temperaturbereich widerstehen. Grundsätzlich haben USB-Kameras zudem eine begrenzte Kabellänge, daher muss sich die Rechnerplattform in räumlicher Nähe befinden. Perspektivisch könnten Anwender die Kameras ebenso mit Power over Ethernet (PoE) verbinden, sodass sie höhere Distanzen ohne Kabel überbrücken können. Zusätzlich tragen verlustleistungsarme Anwendungen zur Nachhaltigkeit bei.

So verringern vortrainierte Modelle den Aufwand

Insbesondere aufgrund der breiten Software-Basis fiel die Wahl auf Googles Coral-Beschleuniger. Bei KI-Bilderkennungsalgorithmen wäre es für einzelne Unternehmen zu aufwendig, alles neu zu entwickeln. TensorFlow Lite gehört derzeit zu den wichtigsten Open-Source-Plattformen für KI. Deren Algorithmen basieren auf riesigen Datenmengen, wie sie lediglich den großen Technik-Konzernen offenstehen. So profitieren Unternehmen von vortrainierten neuronalen Netzen und können auf ihnen aufbauen. Hiermit ist es einfacher, die Algorithmen mit den individuellen, eigenen Daten für den jeweiligen Anwendungszweck zu trainieren.

Sämtliche Anwendungen von Tensorflow Lite auf „coral.ai“ lassen sich direkt in die Kontron-KI-Plattform implementieren. So können Nutzer einfach Anwendungen mit neuronalen Netzen und Deep Learning entwickeln – zum Beispiel zur Objekterkennung oder QS von Objekten. Zum Einstieg helfen außerdem gut dokumentierte Beispiele: Ohne großen Aufwand können Anwender so direkt mit der Testphase starten. Ergebnisse aus abgeschlossenen Projekten zeigen, dass auf Basis bestehender Algorithmen vergleichsweise schnell erste Erfolge zu erzielen sind.

Treiber für KI-Projekte in der Produktion sind meist eine Verbesserung von Produktivität und Qualität. So können Unternehmen Prozesse teilweise oder ganz mit KI ersetzen. Zum Beispiel bei Fertigungsprozessen, bei denen Mitarbeiter mit bloßem Auge erkennen müssen, ob eine Lackierung innerhalb der Parameter liegt oder nicht. Kleine Fehler sind dabei akzeptabel. Ebenso gilt das für das Beurteilen von Schweißnähten oder Gussprozessen, die oft Kanten und Einschlüsse zur Folge haben. Hier muss die Software lernen, den Spielraum zwischen akzeptabel und inakzeptabel anhand entsprechender Bilder zu interpretieren. Entsprechende Systeme erzielen eine recht hohe Genauigkeit. Jedoch könnten Mitarbeiter Ausschuss, der in den Randbereichen der Skala liegt, anschließend noch einmal gesondert inspizieren. Laufen die Bewertungsprozesse automatisiert ab, lässt sich das Personal zielgerichteter einsetzen und Fehler vermeiden, die zum Beispiel aufgrund übermüdeter Mitarbeiter entstehen. Zugleich sind die Fachkräfte für anspruchsvollere Aufgaben verfügbar.

Ein Einsatz der KI-Plattform ist außerdem im Bereich Predictive Maintenance möglich. So können Betriebe Verschleißobjekte wie Roboter-Schweißzangen im Blick behalten und Stillstände der Produktion aufgrund langer Ausfallzeiten vermeiden. Ebenso lassen sich durch die Analyse von Temperatur- oder Frequenzprofilen von Werkzeugmaschinen und Turbinen Ausfällen vermeiden. Auch können KI-Anwendungen beim Herstellen von Elektronik unterstützen. Sie können beispielsweise prüfen, ob Komponenten fehlerfrei gelötet und Steckverbindungen korrekt ausgeführt sind.

Warum Data Scientists die Zukunft gehört 

Zur Vorarbeit für komplexe Projekte gehören das Sammeln und Labeln möglichst vieler Bilder. In der Regel sind mehrere tausend Bilder nötig, die entsprechend zu klassifizieren sind. Auf dieser Basis lernt der Algorithmus – er kann somit bewerten, wie gut oder schlecht beispielsweise die Qualität eines Objekts ist. Kontrons Data Scientists beraten beim Implementieren – wichtig gerade für kleine und mittlere Unternehmen, die über keine eigenen Spezialisten verfügen.

Die Anforderungen in den Unternehmen sind unterschiedlich – vom Branding der Produkte und einfachen Adaptionen bis hin zu individuell entwickelten Rechnerplattformen. Hierfür lassen sich Computer-on-Modules (COMs), Motherboards oder SBCs kombinieren und KI-Module integrieren. Als weiterer Schritt ist die Integration der Plattformen in Systeme wie Box-PCs, Human Machine Interfaces (HMIs) oder Rackserver möglich. Hinzu kommt ein Trend, der sich in den letzten Jahren immer deutlicher herauskristallisiert hat: Der Softwareanteil in Projekten nimmt stetig zu. Elektronik-Anbieter müssen deshalb mit ihren Kunden ebenso bei den Themen KI-Software, Hybrid Cloud und Big Data auf Augenhöhe reden können. Viel Optimierungspotenzial ist lediglich über Zusammenspiel aus Hard- und Software zu realisieren.