GPU Direct – Besser als Zero Copy
Zero Copy minimiert die CPU- und Speicherbandbreitennutzung, indem nur einmal in den Speicher geschrieben wird, aber wir können diese Übertragung ganz vermeiden, indem wir direkt in die GPU schreiben (GPU Direct). Es macht in vielen Highend-Anwendungen Sinn, Daten direkt an die GPU zur Verarbeitung zu senden und dann die ergebnisorientierten Daten mit geringerer Bandbreite an die CPU und Speicher für die Benutzer- oder Systeminteraktion zu übergeben. Emergent unterstützt seit über vier Jahren GPU Direct mit Nvidia GPUs unter Windows und Linux in verschiedenen Anwendungen. Nvidia RTXA6000/5000/4000, Orin und Xavier werden bereits in zahlreichen Anwendungen mit Emergent-Kameras eingesetzt. Leider erlaubt Nvidia/Mellanox ein GPU Direct unter Windows nur ausgewählten Partnern, wie z.B. Emergent. Allerdings ist auch Linux eine Option für RDMA mit GPU Direct für alle, wobei in 80% aller Machine Vision Anwendungen aktuell Windows eingesetzt wird.
Integrierte Schnittstellen- und Verarbeitungskarten
Zero Copy ist großartig und GPU Direct verbessert dies nochmals. Das ultimative Ziel ist es, wenn wir die Daten von den Kameras empfangen und auf einer Karte verarbeiten könnten. In diesem Fall werden CPU, Speicher und alle Serverressourcen überhaupt nicht genutzt. Emergent unterstützt AMD/Xilinx Alveo-Karten genau hierfür und setzt in mehreren Hochleistungsanwendungen auf diese Technologie. Die Firma arbeitet auch eng mit Nvidia zusammen, um Bluefield NIC-Unterstützung zu ermöglichen. Man kann sich Bluefield als die Verschmelzung von Nvidia NICs mit Nvidia GPUs vorstellen. In beiden Fällen kann der Computer ein einfacher PC sein, der hauptsächlich Strom für die ausgewählte Karte bereitstellt.
Multicast
Obwohl nicht von allen Anwendungen genutzt, setzen viele der größten Implementierungen von Emergent auf das Multicast-Feature des Ethernet-Standards. Punkt-zu-Punkt-Protokolle wie TCP und RDMA unterstützen von Natur aus kein Multicasting. RDMA hat zwar andere Betriebsmodi, die im Wesentlichen dessen Flusskontrolle und Paketneuübertragungsfunktion entfernen – dies entspricht jedoch dem aktuellen GVSP-Standard. Zwei Hauptvorteile des Multicasting sind Redundanz und verteilte Verarbeitung. Redundanz ermöglicht es kritischen Systemen, schnell auf Ausfälle zu reagieren, um Ausfallzeiten zu vermeiden. Bei größeren Systemen können Switche und Backup-Server eingerichtet werden, um die Kamerastreams zu übernehmen, wenn ein Server ein Problem hat. Verteilte Verarbeitung wird immer wichtiger, je mehr und schnellere Kameras eingesetzt werden und hängt stark von der Art der erforderlichen Verarbeitung ab.
The big Picture
Viele Kamerahersteller konzentrieren sich darauf, die Datenübertragung von der Kamera zum Empfänger zu ermöglichen. Sobald die Sensordaten im Systemspeicher angekommen sind, überlassen sie es dem Integrator oder Kunden, diese Daten zu verarbeiten. In einigen Anwendungen reichen Systemspeicher und CPU aus, insbesondere wenn eine Nachbearbeitung möglich ist. In anderen, insbesondere wenn mehrere 10GigE, 25GigE oder 100GigE Streams verwendet werden, erfordert die Echtzeitverarbeitung den Einsatz von Offload-Technologien zu leistungsfähigeren Verarbeitungsknoten. In den Konzepten und Vorschlägen für alternative Schnittstellen- oder Protokollmethoden wird dies bisher leider nur selten angesprochen. Wir müssen allerdings das große ganze Bild sehen. In den letzten 15 Jahren hat Emergent Vorarbeit geleistet und 10GigE, 25GigE und 100GigE Flächen- und Zeilenkameras entwickelt und ein Ökosystem geschaffen, das die zuverlässigsten Highspeed-Bildverarbeitungsanwendungen unterstützt.
