KI-Inferenz an der Edge
Leistungsstarke Intel-Core-i-Prozessoren für energieeffiziente SMARC-Module

Ein Gastbeitrag von Florian Drittenthaler, Produkt Line Manager bei Congatec 6 min Lesedauer

Anbieter zum Thema

„Inferenz“ ist die Fähigkeit eines trainierten Modells, basierend auf Echtzeitdaten logische Entscheidungen zu treffen. Ein Computer mit integriertem Inferenzbeschleuniger verkürzt nicht nur die Reaktionszeiten, sondern bietet mehr Autonomie und Sicherheit.

Intels Core-i-basierende SMARC-Module: sie bieten 9,83-fache Leistungssteigerung bei der Bildklassifizierung und ermöglichen schnellere, präzisere KI-Erkenntnisse für die nächste Generation intelligenter, vernetzter Systeme.(Bild:  Congatec)
Intels Core-i-basierende SMARC-Module: sie bieten 9,83-fache Leistungssteigerung bei der Bildklassifizierung und ermöglichen schnellere, präzisere KI-Erkenntnisse für die nächste Generation intelligenter, vernetzter Systeme.
(Bild: Congatec)

Seit dem Durchbruch künstlicher neuronaler Netze vor über zehn Jahren durchdringt künstliche Intelligenz (KI) mittlerweile fast alle Bereiche des Lebens und Arbeitens – von Computer Vision über Robotik bis hin zu großen Sprachmodellen (Large Language Models, LLM), die verschiedenste Aufgaben vereinfachen. Ein SMARC-Modul (Smart Mobility ARChitecture) ist ein kompaktes, energieeffizientes Computer-on-Module, das speziell für Embedded-Edge-Systeme konzipiert wurde. Der kleine Formfaktor, die Skalierbarkeit sowie die Unterstützung fortschrittlicher KI- und Virtualisierungstechnologien machen SMARC-Module ideal für industrielle, medizinische und IoT-Anwendungen, die Energieeffizienz bei robuster Leistung erfordern.

Die deutlich verbesserten Core-i-Prozessoren von Intel ermöglichen nun neue Durchbrüche beim stromsparenden Rechnen in SMARC-Computer-on-Modules. Die neuen „Amston Lake“-Atom-x7000RE-Chips liefern bei gleichbleibendem Stromverbrauch überragende Funktionalität und erreichen Leistungssteigerungen von bis zu 49 Prozent bei Single-Thread- und 61 Prozent bei Multi-Thread-Anwendungen. Noch beeindruckender ist die 9,83-fache Leistungssteigerung bei der Bildklassifizierung, die echte KI-Inferenzfunktionen auf Edge- und Embedded-Computern wie SMARC-Modulen ermöglicht. In den Amston-Lake-Prozessoren implementiert Intel nun die standardisierte „Gracemont“-Mikroarchitektur für seine Efficient-Cores (E-Cores). Dies ermöglicht die Integration anspruchsvoller KI-Funktionen des x86-Ecosystems, wie Vector Neural Network Instructions (VNNI), in stromsparende Systeme mit bis zu 15 W – eine Leistung, die bisher Systemen mit deutlich höherem Energiebedarf vorbehalten war.