Künstliche Intelligenz (KI) revolutioniert unseren Alltag, doch ausgeführt wird KI immer noch vorrangig in Rechenzentren. Langsam wandert die Ausführung auf unsere persönlichen Endgeräte wie Smartphone oder Fernseher mit großen Vorteilen in Bezug auf Reaktionszeit, Energieverbrauch und Sicherheit. Der nächste Schritt wird der selbstverständliche Einsatz von KI auf kabellosen Sensorknoten (engl. Wireless Sensor Node, WSN), die unsere technische Infrastruktur wie z.B. Windkraftanlagen oder Brücken überwachen. In der Zustandsüberwachung erkennen intelligente Algorithmen Abweichungen vom Normalzustand, lange bevor diese nach außen hin sichtbar werden. Die zentrale Herausforderung ist ein minimaler Energieverbrauch der Sensorknoten, damit diese auch in unzugänglichen Orten lange betrieben werden können. Allerdings werden Algorithmen des maschinellen Lernens hauptsächlich auf und für leistungsfähige Computer entwickelt. Die Abschätzung der Ausführungszeit und des Energieverbrauchs eines einzelnen Algorithmus auf einem Mikrocontroller ist meist eine zeitintensive Arbeit. Entwickler:innen von Zustandsüberwachungs-systemen müssen aber viele verschiedene Algorithmusvarianten auf verschiedenen Rechnerplattformen testen. Deshalb schrecken besonders kleinere Firmen vor dem technischen Aufwand und Risiko zurück – entsprechende Produkte bleiben vorrangig eine Domäne großer Firmen mit beträchtlichen Entwicklungsbudgets. Diese Situation benachteiligt die KMU-lastige österreichische Wirtschaft, aber auch aufstrebende Technologien, die noch keine etablierten Märkte besitzen.
Die Lösung
Die Materials Center Leoben Forschung GmbH hat eine vollautomatisierte Entwicklungsumgebung geschaffen, die KI-Modelle in einem standardisierten Format (ONNX) automatisch in optimierte Programme für ausgewählte Mikrocontroller übersetzt, bzw. testet ob diese erfolgreich übersetzt werden können. Im Erfolgsfall wird der Algorithmus automatisch auf einem Testsystem ausgeführt und sein Energieverbrauch gemessen.
Die Lösung des MCLs basiert auf drei Grundbausteinen: Ein intelligenter Übersetzer (Compiler) optimiert selbsttätig KI-Modelle für Mikrocontroller. Dann werden automatisch alle möglichen Aufteilungen des Algorithmus zwischen Sensorknoten und Basisstation evaluiert. Schließlich wird der tatsächliche Stromverbrauch verschiedener Algorithmen auf einem Energiemesssystem ohne manuellen Eingriff ermittelt. Dies ermöglicht den effizienten Vergleich und die Bewertung von hunderten von KI-Algorithmen inklusive vieler Varianten. Technisch nutzt die Lösung moderne Compiler-Technologie (MLIR) und unterstützt gängige Entwicklungswerkzeuge und -boards. Besonders innovativ: Das System kann Algorithmen in Einzelteile zerlegen und intelligent zwischen Sensorknoten und Basisstation aufteilen – ähnlich wie ein Logistiksystem Pakete auf verschiedene LKWs verteilt, um Transportkosten zu minimieren.
Wirkungen und Effekte
Die Lösung macht die Evaluierung von KI auf kleinsten Prozessoren wirtschaftlich vertretbar. Die ökologischen Auswirkungen sind beträchtlich: Intelligente Sensorknoten ermöglichen vorausschauende Wartung von Industrieanlagen und Infrastruktur. Fehler werden erkannt, bevor sie zu Ausfällen führen, Ressourcen werden geschont und die Lebensdauer von Anlagen verlängert. Entwickler:innen von Zustandsüberwachungs-systemen können dadurch aktiv ihre Position in einem globalen Markt mit erwarteten Wachstumsraten von 10% behaupten und ausbauen.
Projektkoordination (Story)
Dr. Manfred Mücke
Group Leader Embedded Computing
Materials Center Leoben Forschung GmbH
T +43 (0) 3842 45922-610
manfred.muecke(at)mcl.at
IC-MPPE / COMET-Zentrum
Materials Center Leoben Forschung GmbH
Vordernberger Straße 12
8700 Leoben
T +43 (0) 3842 45922-0
mclburo(at)mcl.at
www.mcl.at
Projektpartner
- eologix sensor technology flexco, Graz, Österreich
- Know Center Research GmbH, Graz, Österreich