Ein zentraler Innovationsbaustein von NASE ist die Integration agentischer KI. Ein Sprachmodell übernimmt die Interaktion mit den Nutzenden, erfasst Anforderungen wie Zielgenauigkeit, Laufzeit oder Energieverbrauch und konfiguriert daraufhin eigenständig den Suchprozess. Das System entscheidet selbst, welche Modellarchitekturen geeignet sind, ruft externe Werkzeuge auf, bewertet Zwischenergebnisse und optimiert iterativ. Entwickler definieren somit lediglich das ‚Was‘ – also die Zielkriterien-, während das System das ‚Wie‘ eigenständig erarbeitet.
Hardwareoptimierte Modelle in Wochen
Diese Automatisierung reduziert die Entwicklungszeit deutlich: Statt mehrerer Monate können optimierte Modelle innerhalb weniger Wochen bereitgestellt werden. Gleichzeitig steigt die Modellqualität, da die Suche systematisch und datengetrieben erfolgt – im Gegensatz zu manuellen Designprozessen, die oft auf Erfahrungswerten beruhen. Ein entscheidender Faktor für die Leistungsfähigkeit von NASE ist der ‚Hardware in the Loop-Ansatz‘, welcher von der Rheinland-Pfälzischen TU Kaiserslautern-Landau speziell entwickelt wurde. Gerade im Embedded-Bereich ist die tatsächliche Performance eines Modells schwer vorherzusagen. Deshalb werden die generierten Modelle direkt auf realer Hardware ausgeführt und vermessen. Die gewonnenen Messdaten fließen unmittelbar zurück in den Optimierungsprozess. Die Rheinland-Pfälzische TU Kaiserslautern-Landau stellt dafür eine Infrastruktur bereit, die verschiedene Hardwareplattformen automatisiert evaluieren kann. So entstehen Modelle, die nicht nur theoretisch effizient sind, sondern ihre Leistungsfähigkeit bereits unter realen Bedingungen nachweisen.
Von Embedded Vision bis Qualitätskontrolle
Die Anwendungsfelder für diesen Ansatz sind vielfältig. Gerade im Bereich Computer Vision bietet NASE große Vorteile: Bislang wurde oft auf überdimensionierte und damit teure Hardwarekomponenten zurückgegriffen, weil die Seite der Modelloptimierung unzureichend ist. Dies führt zu unnötig hohen Kosten und Energieverbrauch. Durch hardwareoptimierte KI-Modelle kann man günstigere Hardware bei gleichbleibender Modellgenauigkeit und -geschwindigkeit nutzen.Bei unbemannten Luftfahrtsystemen (Unmanned Aerial Vehicle: Drohnen, etc.), Robotik oder industriellen Assistenzsystemen ist Effizienz entscheidend. Hier müssen Modelle nicht nur präzise, sondern auch leichtgewichtig und energieeffizient sein, da eine Auslagerung der Datenverarbeitung in die Cloud oft nicht möglich ist. Auch im Security und Asset Management, z.B. in der Logistik, ist die lokale und robuste Datenverarbeitung ein Muss aufgrund von hohen Anforderungen an die Informationssicherheit. Je lokaler die Information gehalten und verarbeitet werden, desto weniger Potenzial gibt es für Datenleaks und Angriffe.
Im medizinischen Umfeld, z.B. bei bildgebenden Verfahren, spielt neben der Effizienz auch der Schutz sensibler Daten eine zentrale Rolle. Externe Cloud-Anbindungen werden häufig als Risiko betrachtet, sodass lokale KI-Lösungen bevorzugt werden. Gleichzeitig müssen diese Systeme höchste Anforderungen an Genauigkeit erfüllen. In der Qualitätskontrolle wiederum ist Geschwindigkeit ein entscheidender Faktor. Kamerabasierte Prüfprozesse dürfen nicht zum Engpass in der Produktion führen. Die lokale, hoch performante Auswertung von Bilddaten ist daher essenziell, um hohe Taktzeiten zu gewährleisten.
Architektur auf die Plattform zugeschnitten
Für all diese Anwendungsfälle öffnet intelligente Modelloptimierung die Türen zu preiswerten, robusteren und vor allem skalierbaren Lösungen. KI kann effizient in Produkte integriert werden, bei denen die wirtschaftlichen Hürden bisher zu hoch waren. Modelloptimierung ist allerdings ein sehr breites und herausforderndes Feld. Diese Technologien transparent und leicht verständlich an Entwicklungsteams weiterzugeben ist der Fokus des Fraunhofer ITWM. Die Vision dahinter: Anwender formulieren lediglich die Randbedingungen ihrer Anwendung, während intelligente Designassistenzsysteme die vollständige Modellentwicklung übernehmen. Mit solchen Ansätzen wird deutlich, wohin sich Embedded AI entwickelt: hin zu stärker automatisierten, intelligent unterstützten Entwicklungsprozessen. Agentische Systeme wie NASE könnten dabei eine Schlüsselrolle spielen, um die steigende Nachfrage nach leistungsfähiger und effizienter KI in Industrie und Alltag zu bedienen.
www.itwm.fraunhofer.de
