Die Einsatzgebiete für Künstliche Intelligenz in der Industrie sind vielfältig. So können etwa Roboter in der Kombination mit Kamerasystemen und Radar zur Datenerfassung als selbstständig arbeitende Transport- und Logistiksysteme wichtige Aufgaben im Warenfluss übernehmen – überall dort, wo Güter physisch transportiert werden müssen. Dabei spielen Künstliche Intelligenz sowie Methoden des Maschinellen Lernens und des Deep Learning eine entscheidende Rolle. 

Kameras und Sensoren erfassen in Echtzeit Daten in der Umgebung eines Roboters; eine KI-Lösung wertet diese sofort aus und berechnet dann die präzise Geschwindigkeit und den Fahrweg des Roboters. Letztlich ist es dabei egal, ob dieser in der industriellen, automobilen oder pharmazeutischen Fertigung zum Einsatz kommt. Er ist immer auf KI, genauer gesagt maschinelles Lernen, angewiesen. Im Kern geht es in solchen Roboter-Szenarien darum, Daten zu erfassen, sie zu interpretieren und automatisch Entscheidungen zu treffen. Durch eine intelligente Datenanalyse können KI-Applikationen in der Fertigung Aussagen über den Zustand von Maschinen treffen, Unregelmäßigkeiten oder außergewöhnliche Ereignisse frühzeitig erkennen und so die vorausschauende Wartung deutlich verbessern. Auch in der Qualitätskontrolle kommen bereits erste KI-Lösungen zum Einsatz, um Mängel-Ursachen im Produktionsprozess zu finden. In anderen Fällen unterstützen Lösungen die Qualitätskontrolle und Fehlerdiagnose bei der Endabnahme, zum Beispiel durch automatisch arbeitende Kamerasysteme, die jeden Millimeter einer Maschine akribisch erfassen. 

Weitere Anwendungsszenarien für KI, maschinelles Lernen und Deep Learning finden sich etwa in der Halbleiterfertigung, bei der Kosten, Qualität und Time-to-Market entscheidend sind. Siliziumwafer durchlaufen bei der abschließenden Qualitätskontrolle einen Prozess, der Fehler erkennt und Änderungen in der Fertigung ermöglicht. In der Vergangenheit war dieser Testprozess mühsam und fehlerhaft – jedes Produktionsergebnis wurde mit dem menschlichen Auge untersucht. Die Anwendung von Software-Algorithmen zur Fehlersuche auf Millionen von hochauflösenden digitalen Bildern der Wafer ermöglicht es, Fehler früher, schneller und mit höherer Genauigkeit zu erkennen.

Schnell einsatzfähige KI-Lösungen

Bis vor Kurzem noch mussten Fertigungsunternehmen die für KI-Projekte benötigte Hard- und Software als einzelne Komponenten beschaffen und anschließend sehr aufwendig und langwierig zusammenführen, konfigurieren und optimal aufeinander abstimmen. Inzwischen gibt es eigens validierte und in kurzer Zeit einsatzfähige Paketlösungen – einschließlich der jeweils erforderlichen Rechen-, Speicher- und Netzwerk-Kapazitäten sowie der passenden KI-Frameworks und Bibliotheken für maschinelles Lernen und Deep Learning. So können etwa Deep-Learning-Lösungen für ein automatisiertes Qualitätsmanagement in der Fertigungsindustrie aus Lösungen von Servern und Nvidia-Grafikprozessoren bestehen. 

Die EMC-PowerEdge-C6420-Server von Dell eignen sich für High Performance Computing und KI direkt an den Maschinen. Sie bieten maximale Dichte, Skalierbarkeit und Energie-Effizienz pro Einheit auf einer modularen 2HE/8S-Plattform.

© Dell EMC

Ein mögliches Anwendungsszenarium ist eine erweiterte vorausschauende Wartung, die Montagefehler frühzeitig erkennt. Zum Einsatz kommen hier etwa HPC-Server wie der ‚Dell EMC PowerEdge C4140‘, dessen integrierte Nvidia-Tesla-Grafikprozessoren und Intel-Xeon-Scalable-Prozessoren sich speziell für komplexe Anwendungsszenarien des maschinellen Lernens und Deep Learning in der Bildverarbeitung eignen. 

Beim Deep Learning wird ein neuronales Netzwerk trainiert, indem es Daten von Sensoren oder Kameras als Input erhält. Damit lernt das neuronale Netzwerk beispielsweise Bilder mit einer sehr geringen Fehlerquote korrekt zu erkennen. Dazu ist eine Vielzahl arithmetischer Operationen erforderlich. In einem Prozessor oder einer GPU (Graphics Processing Unit) wird jede arithmetische Operation auf einer ALU (Arithmetic Logic Unit) ausgeführt. In der Menge der Operationen gibt es einige, die mehr genutzt werden als andere. Wenn solche Operationen auf allgemeinen ALUs nicht schnell genug sind, bauen Lieferanten spezielle ALUs für einen bestimmten Vorgang. Nvidia etwa hat Tensor Cores eingeführt, die solche Vorgänge wesentlich effizienter erledigen können als allgemeine ALUs. 

Es gibt weitere spezifische Funktionen, durch die GPUs sich für Deep Learning eignen, indem etwa viele kleine und im Vergleich zu ALUs langsame Rechenkerne genutzt werden. Obwohl jeder einzelne Kern langsamer ist als eine CPU, wird durch die parallele Verarbeitung eine hohe Geschwindigkeit erzielt. Ein weiteres Merkmal ist der GPU-Speicher mit hoher Bandbreite, der sich hervorragend für das Streaming von Daten eignet. Die Latenz ist viel höher als die einer einzigen CPU, aber auch hier wird die Performance durch die Parallelität der Streams besser, wenn die Bandbreite höher ist.

Vielfältige Anknüpfungspunkte und Ideen für Projekte können Fertigungsunternehmen durch eine Analyse und Auswertung der Arbeit des Nvidia Deep Learning Institute erhalten, in dem auch Dell EMC mitwirkt. Interessant sind zum Beispiel Use Cases, bei denen es um Wahrnehmung geht. Wissenschaftler erforschen hier unter anderem Weiterentwicklungen von Fabrikrobotern und deren Interaktion mit menschlichen Kollegen. Darüber hinaus arbeiten die beteiligten Unternehmen an Innovationen in den Schnittmengen von High Performance Computing, Künstlicher Intelligenz und Data Analytics.

Flash-Speicher für KI

Um die Deep-Learning-Lösungen mit den erforderlichen großen Datenmengen zu versorgen, benötigen Fertigungsunternehmen beispielsweise All-Flash-Scale-out-NAS-Storage-Lösungen. Diese stellen Speicherkapazitäten für den Aufbau von Data Lakes bereit und bieten damit die Basis zur Durchführung umfangreicher Analysen – beispielsweise mit dem Hadoop Distributed File System (HDFS). Hadoop ist eine kosteneffiziente Lösung für das Speichern und Verarbeiten von Big Data, insbesondere von semistrukturierten und unstrukturierten Daten, die aus unterschiedlichen Quellen wie Dokumenten, Videos sowie Bildern aller Art stammen. 

Eine von Dell EMC und Nvidia entwickelte Deep-Learning-Lösung basiert auf PowerEdge-Servern von Dell EMC sowie Nvidia-Tesla-V100-Grafikprozessoren mit Tensor-Recheneinheiten.

© Dell EMC

Die Stärke von Hadoop ist die Verwendung von ‚Schema on Read‘. Bei einem Data Warehouse muss man in der Regel wissen, wie die Tabellen aussehen, bevor sie geladen werden. Hadoop ist in der Lage, Daten aus beliebigen Quellen oder Typen zu beziehen; erst danach finden Anwender heraus, wie sie die Daten organisieren wollen. Unternehmen nutzen deshalb Hadoop als kosteneffizientes ‚Lager‘ für alle Arten von Daten. Diese Art der Speicherung wird oft auch als Hadoop Data Lake bezeichnet. Allerdings ist die Hadoop Map Reduce Engine zur parallelen Verarbeitung großer Datenmengen nicht für iterative Verarbeitung geeignet, wie sie Data Analytics oft erfordert. Daher eignet sich Hadoop am besten für die Batch-Verarbeitung. 

Die Storage-Systeme bieten darüber hinaus den parallelen, hochperformanten Zugriff auf alle Daten im Speichersystem, der für Applikationen im Bereich des Maschinellen Lernens und von Deep Learning bedeutsam ist. Eine wichtige Rolle spielt dies etwa beim Einsatz von KI-Frameworks wie TensorFlow oder Caffe. 

Auch für Maschinelles Lernen auf Basis von Hadoop gibt es in absehbarer Zeit einsatzfähige Lösungen. Sie basieren auf Servern mit skalierbarer Storage-Leistung und umfassen Data-Science- und Framework-Optimierung zur schnellen Inbetriebnahme. Das ermöglicht die Erweiterung bestehender Hadoop-Umgebungen für Maschinelles Lernen. Für schnelle und sichere Self-Service-Datenerfassung im Unternehmen können zum Beispiel die Cloudera Data Science Workbench sowie für Big Data und Maschinelles Lernen die Open Source Unified Data Analytics Engine Apache Spark zum Einsatz kommen.

Autor: 
Fisnik Kraja ist Solution Consultant High Performance Computing und Machine Learning bei Dell EMC.

Wichtige Tools für Deep Learning

Beim Aufbau und der Implementierung von KI-Lösungen können Anwendern folgende Frameworks und Bibliotheken helfen: 

• BigDL: eine verteilte Deep-Learning-Bibliothek für Apache Spark, die auf Spark- oder Hadoop-Clustern läuft. Dabei handelt es sich um eine eine optimierte Bibliothek mit Funktionen, die sehr effizient auf dem Rechnerkern ausgeführt werden. Die Library stammt von Intel, sodass diese Operationen für den Betrieb auf Intel-CPUs optimiert sind.
• Caffe: ein Deep-Learning-Framework, das vom Berkeley Vision and Learning Center (BVLC) entwickelt wurde; Caffe eignet sich beispielsweise für Deep Learning und Bilderkennung. Dabei können Entwickler schnell mit vorhandenen Modellen starten.
• Intel MKL-DNN (Math Kernel Library for Deep Learning Networks): eine Open-Source-Performance-Library zur Beschleunigung von Deep-Learning-Frameworks auf Intel-Architekturen.
• Intel MLSL (Machine Learning Scaling Library): eine Bibliothek, die eine effiziente Implementierung von Kommunikationsmustern ermöglicht.
• Intel Neon: ein auf Python basierendes und für Intel optimiertes Deep Learning Framework für neuronale Netzwerke wie AlexNet, Visual Geometry Group (VGG) und GoogLeNet; Neon arbeitet hervorragend mit Intel MKL (Math Kernel Library) zusammen. Die Library bietet CPU-optimierte Implementierungen und nutzt die Vektorisierungs- und Parallelisierungsfunktionen der Intel-Architektur. 
• Nvidia cuBLAS Bibliothek: eine GPU-beschleunigte Implementierung des Standards BLAS (Basic Linear Algebra Subroutines). Mit den cuBLAS-APIs können Entwickler ihre Applikationen beschleunigen, indem sie rechenintensive Operationen auf einer einzelne GPU implementieren oder den Workload auf mehrere GPUs verteilen. 
• Nvidia cuDNN (CUDA Deep Neural Network Library): eine GPU-beschleunigte Bibliothek für Deep Neural Netzworks. cuDNN arbeitet mit Deep Learning Frameworks wie Caffe, Caffe2, Chainer, Keras, Matlab, MxNet, TensorFlow und PyTorch zusammen. 
• Nvidia NCCL (Collective Communication Library): bietet Routinen, die für eine hohe Bandbreite über PCIe und NVLink optimiert sind.
• TensorFlow: eine Softwarebibliothek zur numerischen Berechnung, die dafür Datenflussgraphen benutzt.