Geht es bei der optischen Inspektion um identische und eindeutig identi-fizierbare Merkmale, ist das maschinelle Sehen, wie es sich in der Industrie etabliert hat, hervorragend ­geeignet. Je mehr Unschärfen es gibt, desto höher ist jedoch die Fehlerquote. Und geht es um die Erkennung von Varianten oder gänzlich anderen Objekten, muss die Software mit relativ hohem Aufwand neu programmiert werden. Beide Schwachstellen lassen sich mit dem Einsatz von Deep-Learning-Methoden umgehen. 

Die Basis für Deep-Learning-Methoden sind riesige Datenmengen und künstliche neuronale Netze. Mit Hilfe unzähliger Bilder und deren Labeling als Gut- oder Schlechtbilder wird das System trainiert; es ‚lernt‘ aufgrund der Algorithmen und der künstlichen neuronalen Netze, welche Objekte den Vorgaben entsprechen, also gut sind, und welche nicht. Im Einsatz lernt das System stetig weiter und die Erkennungsquote verbessert sich ­kontinuierlich.
Nach einer kurzen Trainingsphase kann das System auch mit Objekt-Varianten oder anderen Objekten umgehen und nicht nur die Qualität inspizierter Teile beurteilen, sondern Objekte auch zuverlässig klassifizieren. Hierfür muss die Software riesige Datenmengen verarbeiten können. Das heißt, es sind hochperformante Prozessoren oder – je nach Anwendungsfall – auch Grafikkarten nötig. Einige Unter­nehmen lagern diese Prozesse in Cloud Services aus.

Häufig lässt es sich jedoch nicht vermeiden, das Processing nahe an der Applikation auszuführen, wenn es um Themen wie Latenz, Bandbreite oder Security geht.
GPU-basierte Lösungen haben den Nachteil, dass sie sehr viel Energie verbrauchen. Cloud-basierte Lösungen gehen mit Latenzzeiten und schwankenden Bandbreiten einher, sodass sich (harte) Echtzeit in der Regel nicht sicherstellen lässt. Zudem müssen Sicherheitsfragen geklärt werden, um Datenspionage oder -manipulation zu verhindern.

An der Edge einsetzbar

Die ‚Movidius Myriad X‘ von Intel verfügt über eine ­neuronale Recheneinheit, die anspruchsvolle Deep-Learning-Berechnungen (Inferenzen) beschleunigt, ohne dabei viel Energie aufzunehmen.

© Intel

Intel bietet nun mit der aktuellen Gene­ration der Vision Processing Unit (VPU) ‚Movidius Myriad X‘ (MA2485) eine Alternative, die an der Edge einsetzbar ist und die für Industrieprozesse nötige Echtzeit-Fähigkeit und Sicherheit gewährleistet. Die VPU ist mit einer neuronalen Recheneinheit ausgestattet, die ausschließlich der Beschleunigung der anspruchsvollen Deep-Learning-Berechnungen (Inferenzen) dient, ohne dabei viel Energie aufzunehmen. Dadurch liefert die ‚Myriad-X‘-Architektur eine Rechenleistung von 1 TOPS – das sind eine Billion Operationen pro Sekunde. Die Gesamtleistung kann bis über 4 TOPS reichen. Da die Recheneinheit speziell auf das Schlussfolgern (Inference) ausgelegt ist, muss für das Training der Modelle weiterhin auf klassische Lösungen gesetzt werden.

Neben dieser neuronalen Recheneinheit sorgt eine Reihe weiterer Kompo-nenten dafür, dass die VPUs auch bei kontinuierlich hohen Arbeitslasten durch Deep-Learning-Prozesse enorm schnell arbeitet: Mit mehreren in C progra-mmierbaren 128-bit-VLIW (Very Long Instruction Word)-Vektor-Prozessoren lassen sich mehrere Anwendungs-Pipelines für die Bildverarbeitung und -erkennung parallel bearbeiten. Eine Suite mit über 20 Hardwarebeschleu-nigern sorgt beispielsweise dafür, den Optical-Flow oder die Stereo-Tiefe zu regeln, ohne zusätzliche Last zu erzeugen. 
Der 2,5 Mbyte große On-Chip-Speicher verfügt über frei zugängliche intelligente Speicherstrukturen, die den Datenfluss auf dem Chip minimieren: Mit einer Bandbreite von 450 Gbyte/s wird sowohl die Zugriffszeit reduziert als auch der Energieverbrauch auf unter 3 W gesenkt. ­Zusätzlich stehen 4 Gbyte LPDDR4-Speicher zur Verfügung. 

Auf Grundlage der geringen Package ­Größe von 71 mm2 und einer Höhe von 1 mm der VPU bieten die Hersteller Aaeon, Advantech, IEI oder Intel Steckkarten mit einer oder mehreren ‚Myriad X‘-VPUs als MiniPCIe-, M.2- oder als PCIe-Variante an, die alle über den ­Distributor Rutronik verfügbar sind. Durch die breite ­Auswahl an unterschiedlichen Formfaktoren und die Skalierbarkeit bei bestimmten Karten lässt sich eine Fülle von Anforderungen im Bereich ­Vision Computing erfüllen.

Toolkit für maßgeschneiderte Modelle

Florian Schmäh ist Product Sales Manager Boards bei Rutronik Elektronische ­Bauelemente in Ispringen.

© Rutronik

Passend zur VPU bietet Intel das Software-Toolkit ­‚OpenVino‘ an, das die Entwicklung, die Installation sowie die Ausführung von Deep-Learning-Modellen für sämtliche Bilderkennungslösungen und Computer-Vision-Anwendungen ­erleichtert und beschleunigt. Mit dem Python basierenden Deep-Learning-Model-Optimizer lassen sich die trainierten­ Modelle importieren, konvertieren und auf die jeweilige Hardware optimieren und so die Leistung des genutzten Systems steigern. ‚OpenVino‘ unterstützt Intels VPU-, CPU-, iGPU- und FPGA-Lösungen.

Anschließend werden die importierten und optimierten Deep-Learning-Modelle an die Deep-Learning-Inference-Engine API übergeben. Damit lassen sie sich auf unterschiedliche ­Plattformen übertragen. Samples zum Beispiel zur Sprach- oder Bilderkennung erleichtern den ­Einstieg zusätzlich.