TinyML wird das Machine Learning auf eingebetteten Systemen revolutionieren

Maschinelles Lernen (ML) und künstliche Intelligenz (KI) sind in verschiedenen Bereichen unverzichtbar geworden, angetrieben durch den Bedarf an wertvollen Erkenntnissen aus Nutzerdaten. Ursprünglich auf Webserver und Cloud-Infrastrukturen beschränkt, ermöglichte das Aufkommen von Smartphones ML auf Edge-Geräten. Googles TensorFlow Lite (TF Lite) Projekt erweiterte das Machine-Learning-Konzept weiter und begründete das Feld des Tiny Machine Learning (TinyML).

Was ist TinyML?

TinyML bezieht sich auf die Anwendung von ML- und Deep-Learning-Modellen auf eingebettete Systeme mit geringen Rechenressourcen, wie Mikrocontroller und digitale Signalprozessoren. Diese Systeme haben einen extrem niedrigen Stromverbrauch, begrenzten RAM und Flash-Speicher und arbeiten mit hoher Latenz. TF Lite ist derzeit das primäre Framework für TinyML und bietet Unterstützung für Mikrocontroller, eingebettetes Linux, Android und iOS-Plattformen. TinyML-Modelle sind klein in der Größe, typischerweise einige Kilobyte, und führen spezifische kognitive Aufgaben innerhalb des Geräts aus.

Wie TinyML funktioniert

TF Lite, ein Deep-Learning-Framework, das rekurrente neuronale Netze nutzt, erfasst Daten von Sensoren, die an Mikrocontroller angeschlossen sind. Diese Daten werden an eine Cloud-Plattform zum Trainieren des Modells gesendet. Nach dem Offline-Batch-Training wird das trainierte Modell zurück auf das eingebettete System portiert. Das Modell verbraucht dann Echtzeitdaten von Sensoren und wendet ML-Techniken an, um Inferenzen abzuleiten. TinyML-Modelle undergo rigoroser Validierung, um langfristige Relevanz ohne häufiges Retraining zu gewährleisten.

Vorteile von TinyML

TinyML bietet mehrere Vorteile für Edge-Geräte und IoT-Anwendungen:

1. Geringer Platzbedarf: TinyML-Modelle sind kompakt, was sie leicht auf Mikrocontroller und stromsparende Geräte übertragbar macht.

2. Niedriger Stromverbrauch: TinyML-Anwendungen verbrauchen idealerweise weniger als 1 Milliwatt Leistung, was einen langfristigen Betrieb ohne Aufladen oder Batteriewechsel ermöglicht.

3. Geringe Latenz: Inferenzen werden lokal abgeleitet, wodurch die Übertragung von Daten in die Cloud entfällt. Dies reduziert die Netzwerklatenz und minimiert die Abhängigkeit von externen Servern.

4. Geringe Bandbreite: TinyML-Anwendungen sind nicht auf einen kontinuierlichen Datenaustausch mit einem Server oder der Cloud angewiesen, sodass sie auch bei begrenzter oder keiner Internetverbindung funktionieren können.

5. Datenschutz: TinyML-Anwendungen führen ML-Aufgaben lokal aus, wodurch die Übertragung oder Speicherung sensibler Nutzerdaten extern entfällt.

6. Geringe Kosten: TinyML ist für 32-Bit-Mikrocontroller und DSPs konzipiert, die kostengünstige Lösungen für den skalierbaren Einsatz von ML-Anwendungen darstellen.

Erste Schritte mit TinyML

Um mit TinyML unter Verwendung von TF Lite zu beginnen, benötigt man ein unterstütztes Mikrocontroller-Board und einen Computer oder Laptop zum Entwerfen von ML-Modellen. TF Lite unterstützt verschiedene Boards wie das Arduino Nano 33 BLE Sense, das STM32F746 Discovery Kit und das Espressif ESP32-DevKitC. Programmierwerkzeuge, die spezifisch für jede Hardwareplattform sind und die TF Lite-Bibliothek nutzen, erleichtern den Aufbau, das Training und das Portieren von Modellen. Der Open-Source-Charakter von TF Lite ermöglicht Modifikationen ohne Lizenzgebühren.

TF Lite for Microcontrollers unterstützt eine Teilmenge von ML-Operationen. Die Bibliothek bietet Beispielmodelle für Bildklassifizierung, Objekterkennung, Spracherkennung und mehr. Diese Modelle dienen als Ausgangspunkte für das Lernen und Entwickeln von TinyML-Anwendungen.

Anwendungen von TinyML

Obwohl sich TinyML noch in den Anfängen befindet, hat es praktische Anwendungen in verschiedenen Bereichen gefunden:

1. Industrielle Automatisierung: Vorausschauende Wartung, Maschinenoptimierung und Fehlererkennung in der Fertigung.

2. Landwirtschaft: Erkennung von Krankheiten und Schädlingen bei Pflanzen, Automatisierung in der Landwirtschaft.

3. Gesundheitswesen: Früherkennung von Krankheiten, Fitnessgeräte und medizinische Ausrüstung.

4. Einzelhandel: Inventarverwaltung, Analyse von Kundenpräferenzen.

5. Transportwesen: Verkehrsüberwachung, Unfallerkennung.

6. Strafverfolgung: Erkennung illegaler Aktivitäten, Sicherheit von Geldautomaten.

7. Erhaltung des Meereslebens: Echtzeitüberwachung zum Schutz von Walen und Meereslebewesen.

Die Zukunft von TinyML

Mit seinem geringen Platzbedarf, dem niedrigen Stromverbrauch und der reduzierten Abhängigkeit von der Cloud hat TinyML enormes Potenzial bei der Implementierung von Narrow AI auf Edge-Geräten. Da die IoT-Branche und domänenspezifische Felder ML zunehmend übernehmen, wird TinyML eine wichtige Rolle bei der Verbesserung von Datenschutz und Sicherheit spielen. Während andere Frameworks wie uTensor und ARM’s CMSIS-NN in der Entwicklung sind, bleibt TF Lite die erste Wahl. Community-Unterstützung und Zusammenarbeit mit Chipdesignern werden dazu beitragen, TinyML in den Mainstream zu bringen.

TinyML repräsentiert die Verschmelzung von eingebetteten Systemen und ML und bietet Lösungen für Herausforderungen, denen die IoT-Branche und ML-Experten gegenüberstehen. Mit seiner geringen Größe, dem niedrigen Stromverbrauch und der reduzierten Latenz hat TinyML das Potenzial, das Design von eingebetteten Systemen und Robotern zu transformieren. Da die Hardwareunterstützung und Programmierwerkzeuge expandieren, wird TinyML wahrscheinlich an Bedeutung im Bereich des Machine Learnings und der KI gewinnen.