KI-Starterset mit NXPs Neural Processing Unit
Damit Entwickler schneller zu ihren individuellen KI-basierten Embedded-Vision-Lösungen kommen, bieten sich vorkonfigurierte Embedded-Vision-Baukästen an. Congatec hat eine Lösungsplattform zusammen mit Basler auf Basis des NXP i.MX 8 Plus Prozessors entwickelt, der eine integrierte Neural Processing Unit (NPU) hat.
Das Smarc 2.1 Modul Conga-SMX8-Plus bringt die neuromorphe Intelligenz ans Edge bei nur 6W TDP. (Bild: congatec AG)
Entwickler von KI-basierten Anwendungen setzen auf kompakte und vorkonfigurierte Embedded-Vision-Baukästen, die bewährte Hardware und Software der KI energieeffizient kombinieren. Aktuell sind Lösungen gefragt, die vor allem auf das Edge Computing abgestimmt sind. Für KI-basierte Systeme liegt hier der neuralgische Punkt, um in Echtzeit aus Bildinformationen fundierte Entscheidungen zu treffen. Der Umweg über eine cloudbasierte Analyse ist dagegen nicht nur zeitaufwändiger, sondern auch von einer kontinuierlichen Verfügbarkeit des Netzes abhängig. Am Edge ist man jedoch immer am Ort des Geschehens und kann in Sekundenbruchteilen autark visuelle Bilddaten erfassen und auswerten.
NPU für Embedded Vision
Damit am Edge jedoch eine Computerleistung erbracht werden kann, die für Deep Learning und Maschinelles Lernen benötigt wird, ist ein neuromorpher Prozessor (NPU, Neural Processing Unit) unabdingbar. Eine NPU eignet sich insbesondere für die Analyse von Bildern und Mustern und wird dadurch zur zentralen Recheneinheit für ein KI-basiertes Embedded-Vision-System. Neuromorphe Prozessoren können ereignisgesteuert arbeiten und benötigen nur gelegentlich Energie, wodurch NPUs selbst bei hoher Rechen- und Grafikleistung nur wenige Watt an Leistung benötigen. Gleichwohl können solche Low-Power NPUs eine Leistung mehrerer TOPS erzielen und genügen damit den Anforderungen, die Entwickler beim Edge-Computing für ihre Embedded-Systeme haben.
