Beschleunigtes Deep Learning für die Bildverarbeitung

DL Toolkit

Beschleunigtes Deep Learning für die Bildverarbeitung

Eine wichtige Rolle beim Beschleunigen von Deep Learning für die Bildverarbeitung spielt das Intel OpenVino Toolkit, ein spezielles Werkzeug für Deep-Learning-Frameworks wie TensorFlow, MXNet und Caffe.

(Bild: Intel Corporation)

(Bild: Intel Corporation)

OpenVino beschleunigt Deep Learning-Inferenz sowie Workloads für die Bildverarbeitung und optimiert diese MV-Anwendungen auf verschiedenen Intel-Plattformen, inklusive Hardware-Beschleunigern für Kameras oder anderer Geräte am Netzwerkrand. Die trainierten Deep Learning Modelle können auf verschiedener Hardware mit Intel-Architektur optimiert und untereinander verglichen werden, bevor über die beste Konfiguration entschieden wird. Dadurch können Nutzer leistungsfähige Anwendungen für Bildverarbeitung und optische Messtechnik mit KI-Funktionen schneller auf den Markt bringen. Das Toolkit umfasst das Intel Deep Learning Deployment Toolkit mit einem Model Optimizer, einer Inference Engine, optimierten Bibliotheken und Funktionen für OpenCV und OpenVX sowie die webbasierte grafische Umgebung Deep Learning Workbench. Die einzelnen Komponenten erfüllen folgende Funktionen:

Deep Learning Deployment Toolkit: Mit diesem Toolkit können Entwickler trainierte Deep-Learning-Modelle über eine API mit einer C++- oder Python-Inference Engine und integrierter Anwendungslogik bereitstellen. Wichtigste Bestandteile sind ein Model Optimizer und eine Inference Engine. Der Model Optimizer ist ein Kommandozeilen-Tool auf Basis von Python und läuft unter den Betriebssystemen Windows, Linux und MacOS. Damit werden DL-Modelle importiert und für die optimale Ausführung mit der Inference Engine vorbereitet. Der Model Optimizer konvertiert und optimiert Modelle, die in gängigen Frameworks wie Caffe, TensorFlow, MXNet, Kaldi und ONNX trainiert wurden. Er führt Analysen durch und passt die Modelle für die optimale Ausführung auf verschiedenen Endgeräten an. Dadurch ermöglicht er die Bereitstellung der Algorithmen für die verschiedenen Hardware-Plattformen von Intel. Wurde die Anwendung beispielsweise ursprünglich für eine Kamera mit einer Intel Movidius VPU (Vision Processing Unit) entwickelt und soll später auf einem Intel FPGA in einem Server neu eingesetzt werden, bereitet der OpenVino Model Optimizer den Code entsprechend für die verschiedenen Plattformen auf. Das spart Zeit und Entwicklungsressourcen. Die Inference Engine stellt Inferenz-Lösungen über eine gemeinsame API auf der gewünschten Plattform bereit, sprich Prozessor (CPU), Grafikprozessor (GPU), VPU oder FPGA. So ist es auch möglich, verschiedene Schichten auf verschiedener Hardware auszuführen, z.B. CPU und GPU, sowie Workloads etwa für die Analyse von Graphen, Scheduling oder Modellkomprimierung zu optimieren.

Open CV und OpenVX: Das Toolkit bietet optimierte Bibliotheken und Funktionen für OpenCV und OpenVX. OpenCV ist eine freie Programmbibliothek mit Algorithmen für die Bildverarbeitung und maschinelles Sehen für die Programmiersprachen C, C++, Python und Java. OpenVX ist ein offener Standard für die plattformübergreifende Beschleunigung von Machine Vision-Anwendungen.

Deep Learning Workbench: Diese webbasierte grafische Umgebung ermöglicht es Anwendern, die Simulation der Leistung von Deep Learning-Modellen und Datensätzen auf verschiedenen Konfigurationen der Intel Architektur (CPU, GPU, VPU) zu visualisieren. Sie bietet wichtige Metriken wie Latenz, Durchsatz und Leistungszähler für jede Schicht des ausgewählten neuronalen Netzes. Damit lassen sich Inferenz-Experimente so konfigurieren, dass sie optimale Leistung liefern. n @Kontakt_FA:www.intel.de

Ausgabe:
www.intel.de

Das könnte Sie auch Interessieren

Anzeige

Vorfreude auf Control 2022

Vorfreude auf Control 2022

Vom 03. bis 06. Mai 2022 wird die 34. Control – Internationale Fachmesse für Qualitätssicherung – in Stuttgart stattfinden.

EMVA Webinar mit Continental Teves

EMVA Webinar mit Continental Teves

Das nächste EMVA Spotlight Webinar findet am Donnerstag, den 9. Dezember, ab 16:00 Uhr (CET) statt. Nuria Garrido López (Continental Teves AG) wird über ‚Änderungen und Lösungen für die optische End-of-Line-Inspektion in der Automobilindustrie‘ sprechen.

EMVA Young Professional Award 2022

EMVA Young Professional Award 2022

Der EMVA Young Professional Award wird auf der 20. EMVA Business Conference 2022 vergeben, die vom 12. bis 14. Mai in Brüssel, Belgien, stattfindet.

Video: EMVA Vision Pitches – Robot Vision

Video: EMVA Vision Pitches – Robot Vision

Teil der inVISION Days 2021 Konferenz waren die EMVA Vision Pitches, bei der sich interessante Unternehmen aus der Bildverarbeitung mit einem kurzen zehn-Minuten-Pitch vorgestellt haben.

Neues Beiratsmitglied für TriEye

Neues Beiratsmitglied für TriEye

Das israelische Startup-Unternehmen TriEye hat Hans Rijns (Bild), eine Führungskraft aus der Halbleiterbranche mit über 25 Jahren internationaler Erfahrung in den Bereichen F&E-Management, Innovation und Geschäftsstrategie, in seinen Beirat aufgenommen.

Vision-Branche auf starkem Kurs

Vision-Branche auf starkem Kurs

Mehr als 1,5 Jahre nach dem Ausbruch der Corona-Pandemie befindet sich der Industrial Technology Index nach einer Stabilisierung auf einem anhaltend hohen Niveau.

Lattice übernimmt Miramterix

Lattice übernimmt Miramterix

Lattice Semiconductor hat Mirametrix, Inc. übernommen, ein Softwareunternehmen, das sich auf fortschrittliche KI-Lösungen für Computer-Vision-Anwendungen spezialisiert hat.

Bild: Alteia
Bild: Alteia
15 Millionen Euro Finanzierung für Alteia

15 Millionen Euro Finanzierung für Alteia

Die Europäische Investitionsbank (EIB) und das in Toulouse ansässige Startup Alteia, das sich auf die Entwicklung von Software für künstliche Intelligenz spezialisiert hat, haben die Unterzeichnung einer Finanzierungsvereinbarung über 15Mio.€ bekannt gegeben.

Micro-Epsilon erweitert Vertriebsteam

Micro-Epsilon erweitert Vertriebsteam

Micro-Epsilon hat sein Vertriebsteam verstärkt. Seit Oktober unterstützen Marcus Gluth (Bild) in den Bereichen Weg- und Abstandssensoren, berührungslose IR-Temperatursensoren sowie Farbsensoren und Jens Höppner im Bereich 3D-Sensoren und Laser-Scanner den Außendienst des Unternehmens.

Anzeige

Anzeige

Anzeige

Anzeige

Anzeige

Anzeige