Mobile-Menu

Technische Informatik Künstliche Intelligenz im Miniaturformat für Kleinstgeräte

Von TU Graz 3 min Lesedauer

Anbieter zum Thema

Technische Universität Graz
FAULHABER Austria GmbH
Fastems Systems GmbH
Schneider Electric GmbH

Forschende der TU Graz, von Pro2Future und der Uni St. Gallen haben Methoden entwickelt, mit denen IoT-Geräte mit minimalem Speicher KI-Modelle ausführen können – etwa um Störungen bei der Positionsbestimmung zu korrigieren.

Mit einigen Tricks laufen KI-Modelle auch auf ressourcenschwachen Geräten.(Bild: Helmut Lunghammer)
Mit einigen Tricks laufen KI-Modelle auch auf ressourcenschwachen Geräten.
(Bild: Helmut Lunghammer)

Künstliche Intelligenz gilt als rechen- und energieintensiv – eine Herausforderung für das Internet der Dinge, wo kleine, eingebettete Sensoren mit begrenzter Rechenleistung, wenig Speicher und kleinen Batterien auskommen müssen. Ein Forschungsteam des Comet-K1-Zentrums Pro2Future, der TU Graz und der Universität St. Gallen hat im Projekt E-Minds Wege gefunden, wie KI auf kleinsten Geräten lokal und effizient ausgeführt werden kann – ohne auf externe Rechenleistung angewiesen zu sein. So ist es etwa gelungen, auf einem Ultrabreitband-Lokalisierungsgerät mit nur 4 Kilobyte Speicher spezialisierte KI-Modelle laufen zu lassen, die Störquellen aus Ortungsdaten herausrechnen.

Einige Tricks angewendet

„Natürlich laufen keine Large Language Models auf diesen Kleingeräten, sondern Modelle mit ganz spezifischen Aufgaben, beispielsweise um Entfernungen abschätzen zu können“, sagt Michael Krisper, Leiter des Projekts bei Pro2Future und Wissenschafter am Institut für Technische Informatik der TU Graz. „Aber auch diese Modelle muss man erst einmal klein genug bekommen. Das benötigt einige Tricks und genau mit solchen Tricks haben wir uns im Rahmen des Projekts beschäftigt.“

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte