Bei dem AI-In-A-Box-Modul führt ein universeller Arm-Cortex-A-class Mikroprozessor führt alle KI-Operationen aus, und das ohne Rückgriff auf ein Rechenzentrum. (Bild: Useful Sensors)
Das AI-In-A-Box-Modul beantwortet Fragen und löst Probleme in ähnlicher Weise wie die bekannten KI-Werkzeuge, die auf dem Large Language Model (LLM) aufbauen. Dank der Techniken zur Komprimierung und Beschleunigung enthält dieses Modul die LLM-Datei lokal. Ein universeller Arm-Cortex-A-class Mikroprozessor führt alle KI-Operationen aus, er kann gesprochene Fragen oder Befehle in natürlicher Sprache ohne Rückgriff auf ein Rechenzentrum verstehen und sofort darauf reagieren.
Ohne Internetzugang sind keine Bedenken zum Datenschutz nötig
Das Modul ist eine einbaufertige Software- und Hardware-Plattform für Entwickler, die ihre Elektronikprodukte mit einer intuitiven Benutzerschnittstelle mit natürlicher Sprache ausstatten wollen. Da die Software lokal ausgeführt wird, muss der Benutzer keinen Account registrieren oder ein System konfigurieren. Ohne Verbindung zum Internet räumt das AI-In-A-Box-Modul die Bedenken der Anwender zum Datenschutz, zum Abhören oder zur Abhängigkeit von Cloud-Diensten Dritter aus, die bei konventionellen LLM-basierten KI-Produkten und Dienstleistungen immer wieder auftreten.
Es hat die Vorteile der KI – ein Weg, um Geräte im Haushalt zu steuern, Fragen zu beantworten oder einfach mit einem Avatar in natürlicher Sprache zu reden – ohne dass Sie Ihre Gespräche oder anderen Daten mit einem Big-Tech-Unternehmen oder einem Cloud-Dienstleister teilen müssen. Zu Hause bleibt jedes Gespräch mit der Box innerhalb der eigenen vier Wände des Benutzers.
Weitere Fähigkeiten des Moduls
Andere Fähigkeiten des Moduls sind Untertitel von Gesprächen in der Umgebung in Echtzeit – ein großer Vorteil für Benutzer mit Hörproblemen. Weitere Upgrades in der Entwicklung werden die Fähigkeiten sein, zwischen Englisch und anderen Sprachen zu übersetzen und die Box als Spracheingabegerät (Speech-to-Text) zu verwenden.
Die lokal im AI-In-A-Box-Modul gespeicherte komprimierte LLM-Datei und die übrige Betriebssoftware werden als Open-Source-Software unter einer GPL v3 Lizenz bereitgestellt.
