Warum ist es beim Arbeiten mit Künstlicher Intelligenz (KI) so wichtig, den Workflow als Ganzes im Auge zu behalten?

Johanna Pingel: Ingenieure, die mit Künstlicher Intelligenz arbeiten, konzentrieren sich oft in erster Linie auf das KI-Modell. Allerdings bestimmt der Workflow als Ganzes, ob man mit KI erfolgreich ist. KI-Modelle brauchen zum Training gelabelte Daten; darum ist es enorm wichtig, dass der Workflow auch die Bereinigung, die Aufbereitung und das Labeling der Daten umfasst.

Johanna Pingel beschäftigt sich als Produkt Manager bei Mathworks mit Künstlicher Intelligenz und hat sich in diesem Zuge auf Deep Learning und Computer Vision spezialisiert.

© MathWorks

Außerdem bietet ein KI-Modell einen Mehrwert, wenn es in Produktionssystemen eingesetzt oder in ein Embedded System integriert wird. Aber: Das KI-Modell allein ist in der Regel nicht das komplette System, vielmehr wird es in ein größeres System integriert und muss perfekt mit diesem zusammenarbeiten. Daher ist es hilfreich, den Gesamtzusammenhang zu verstehen und zu wissen, wie sämtliche Komponenten ineinandergreifen. Für die Entwicklung KI-gestützter Systeme müssen Simulationen, Tests und die Bereitstellung als Teil des Workflows verstanden werden. Man muss dabei bedenken, dass die Bereitstellung etwa auf Edge- oder eingebetteten Geräten, aber auch auf Enterprise-Systemen und in der Cloud erfolgen kann.

Von Anfang an sämtliche Schritte im Hinterkopf zu behalten, ist daher von großem Vorteil. Wenn etwa Anforderungen später in der Entwicklung überraschend geändert werden, ist es viel schwieriger, die Richtung zu ändern.

Welche Hauptaspekte sind bei den einzelnen Schritten des Workflows zu beachten? Wie schaffen es Ingenieure beispielsweise, Vertrauen in ein Modell aufzubauen?

Pingel: Der Workflow einer KI-Entwicklung besteht aus vier Schritten. Sich auf alle vier Schritte zu konzentrieren, hilft Ingenieuren bei der Entwicklung eines kompletten, KI-gestützten Systems.

Am Anfang steht die Datenaufbereitung: KI-Modelle brauchen große Datenmengen, um zu lernen und Prognosen zu treffen. Diese Daten müssen bereinigt sein und in einem Format vorliegen, mit dem das Modell arbeiten kann. Sämtliche Daten so zu importieren und aufzubereiten, dass man ein hochgenaues Modell erhält, ist darum oft zeitaufwändig. Das Wichtigste bei diesem Schritt ist, Apps zum Daten-Labeling einzusetzen, die diese zeitraubende Vorverarbeitung – auch von Signal- und Bilddaten – maßgeblich beschleunigen.

Der zweite Schritt ist die Modellierung der KI: Das Herzstück einer KI ist das Modell und die Auswahl an Modelltypen ist groß. Software wie Matlab bietet die Möglichkeit, unterschiedliche Modelle zu importieren und zu testen. So lässt sich feststellen, welches Modell optimal für eine bestimmte Anwendung geeignet ist. Modellierungs-Apps ermöglichen automatisiertes Training sowie unterstützende Visualisierungen. Zu den verfügbaren Modellen zählen unter anderem solche für Machine Learning, Deep Learning und Reinforcement Learning.

An dritter Stelle stehen Simulationen und Tests. Dass ein Modell in sämtlichen denkbaren Szenarien korrekt arbeitet, ist die zentrale Forderung an ein KI-System, wenn es erfolgreich sein soll. All diese Szenarien simuliert und alle Anwendungsfälle getestet zu haben, ist ein wichtiger Meilenstein, mit dem man sicherstellen kann, ein exakt arbeitendes System aufgebaut zu haben und bereit für die letzte Phase zu sein.

Und zu guter Letzt die Bereitstellung: Da sich KI in immer mehr Anwendungsfelder ausbreitet, werden auch die
Anforderungen an die Bereitstellung vielschichtiger. Deshalb ist es wichtig, dass die Bereitstellung auf unterschiedlichsten Systemen erfolgen kann: von Edge-Systemen über die Cloud bis hin zu GPUs und MCUs.

Ein komplett funktionsfähiges System hat man dann, wenn sämtliche, wahrscheinlich vom Modell anzutreffenden Anwendungsfälle erfolgreich simuliert, getestet und verifiziert wurden. Tools wie Simulink helfen bei der Verifizierung, ob ein Modell unter allen erwarteten Anwendungsfällen wunschgemäß arbeitet. So lässt sich vermeiden, ein Modell kostspielig von Grund auf überarbeiten zu müssen.

Welches sind die typischen He­rausforderungen, mit denen Ingenieure beim Arbeiten mit KI über den Workflow hinweg konfrontiert werden?

Pingel: KI hat ihre ganz eigenen Herausforderungen. Typische Fragen sind, was ich tun kann, wenn ich nicht genügend Daten habe, welches Modell sich für welche Anwendung eignen und welche Plattform bei der Bereitstellung des Modells helfen kann.

KI braucht große Datenmengen, um erfolgreiche Modelle zu generieren. Mit Matlab beispielsweise lassen sich Datenbestände durch Simulationen vergrößern. Bei Anwendungen für Predictive Maintenance etwa kann es ein Problem sein, Daten zu selten vorkommenden Ereignissen oder zu Fehlern zu sammeln, die die Maschine zerstören würden. Das macht es schwierig, eine KI mit ausreichend Daten auf diese Fehler zu trainieren. Mit Tools wie Simulink sowie Simscape, das zum Entwurf und zur Simulation physikalischer Systeme eingesetzt wird, lassen sich beispielsweis realistische Pumpenmodelle erstellen. Simuliert man damit unterschiedlichste Fehlerszenarien, kann man die erhaltenen Daten zum Training des KI-Modells nutzen.

Außerdem gibt es in den Software-Tools eine ganze Reihe vortrainierter Modelle, die man in kurzer Zeit so trainieren kann, dass sie für eine neue, individuelle Lösung geeignet sind. Ingenieure können also flexibel unterschiedliche Lösungen ausprobieren und feststellen, welche am besten für ihre Anwendung geeignet ist.

Meine Empfehlung bei der Wahl der passenden Plattform ist, sich auf die Systemanforderungen zu konzentrieren und nicht auf eine spezielle Plattform. Wichtig ist, dass das Modell flexibel ist, sowie exportiert und auf unterschiedlichen Systemen ausgeführt werden kann. Zudem muss man darauf vertrauen können, dass man den Programmcode für die jeweilige Plattform erzeugen kann, ohne dabei Fehler einzuschleppen.

Die generell am häufigsten gestellte Frage allerdings ist: Wo fange ich an? Dafür empfehle ich immer, sich zuerst die grundlegenden Kernkonzepte anzueignen und sich danach auf die jeweilige Anwendung zu konzentrieren. Fangen Sie mit Referenzbeispielen an, um festzustellen, wie KI in eine bestimmte Anwendung hineinpasst. Am wichtigsten ist, sich bewusst zu machen, dass Ingenieure keine Datenwissenschaftler sein müssen, um etwa Deep-Learning-Anwendungen zu entwickeln. Sie verfügen bereits über das zum Erfolg nötige grundsätzliche Wissen über ihr Projekt und die Daten. Um den Einstieg zu erleichtern, bietet wir außerdem kostenlose Tutorials für das Deep Learning, Machine Learning und weitere spezifischere Themen.

Best Practices für Ingenieure

Welche Best Practices sollten Ingenieure beachten, um den Workflow als Ganzes im Blick zu behalten, wenn sie KI in Anwendungen und Projekte integrieren? Woher weiß ein Ingenieur beispielsweise, ob Machine Learning oder Deep Learning sinnvoller wäre?

Pingel: Seien Sie einfach ein Ingenieur und denken Sie wie ein Ingenieur: Man muss kein Datenwissenschaftler sein, um Deep Learning und Machine Learning erfolgreich zu nutzen. Ingenieure besitzen bereits die Fertigkeiten für ein erfolgreiches Arbeiten mit KI.

Des Weiteren gilt: Verwenden Sie domänenspezifische Tools, mit denen Sie zügig arbeiten und Ihre Daten interpretieren können. Tools mit Funktionen, die etwa speziell für die Signalverarbeitung, Wireless-Anwendungen, die Verarbeitung von Bilddaten oder auch für Textanwendungen entwickelt wurden. Nutzen Sie Apps, die ihnen die manuelle Programmierung abnehmen. Neben Labeling-Apps, die die Vorverarbeitung der Eingabedaten beschleunigen, können Sie KI-Modelle mit Apps wie dem Classification Learner und Deep Network Designer rasch erstellen, trainieren und testen. Beginnen Sie mit vorgefertigten Modellen, die von Experten aus der KI-Community aufgebaut wurden, damit Sie nicht bei ‚Null‘ anfangen müssen.

Johanna Pingel bechäftigt sich als Produkt Manager bei Mathworks mit Künstlicher Intelligenz und hat sich in diesem Zuge auf Deep Learning und Computer Vision spezialisiert.

© MathWorks

Machine Learning und Deep Learning sind die Kern- oder Schlüsseltechnologien im Herzen von KI. Auch wenn es etliche hilfreiche Tipps gibt, was bei der Wahl zwischen Machine Learning oder Deep Learning beachtet werden sollte, gilt: Wenn Sie große Datenmengen haben, aber nur begrenzte Erfahrung mit der Auswahl, welche Merkmale diese Daten am besten repräsentieren, bietet sich Deep Learning an, da es die relevantesten Merkmale der Daten automatisch erlernt. Wenn Ihre Datenbestände kleiner sind, Sie ‚Feature Engineering‘, sprich: eine Merkmalsgewinnung, vornehmen und daher die besten Merkmale für Ihren Algorithmus auswählen möchten, können Sie sich stattdessen auf Machine Learning und konventionelle Klassifikationsverfahren wie Support Vector Machine oder Entscheidungsbäume konzentrieren.

Machine-Learning-Methoden sind von ihrer Natur her meist einfacher ‚erklärbar#, daher entscheiden sich viele Ingenieure für diese Verfahren, weil sie genau wissen wollen, wie das Modell zu einer Entscheidung gelangt ist. Deep Learning kann äußerst präzise, dafür aber weniger intuitive „Blackbox“-Resultate liefern.

Bei der Integration von KI sollte man idealerweise sowohl Zugang zu Machine-Learning- als auch zu Deep-Learning-Methoden haben. So kann man ausprobieren, welche optimal für die eigene Anwendung geeignet sind.

Welche Tools unterstützen Ingenieure über den gesamten Workflow hinweg, vom Prototypen bis zur Produktion?

Pingel: Ingenieure sollten nicht unnötig Zeit mit der Programmierung verbringen, wenn sie sich auf wichtigere Dinge wie die Beschaffung von Daten, die Entwicklung von Modellen und das Testen der Genauigkeit konzentrieren wollen. Apps können helfen, rasch Tausende von Bespieldaten aufzubereiten oder mit Point-and-Click-Tools Modellarchitekturen aufzubauen. Außerdem ist es wichtig, Modelle so aufzubauen und zu testen, dass sie im Zusammenspiel mit sämtlichen anderen Komponenten des Systems funktionieren. Simulations-Tools wie Simulink helfen dabei, die Einzelteile miteinander zu verbinden und stellen sicher, dass das KI-Modell in einem System tut, was es soll.

Ein weiterer Punkt ist Interoperabilität. Beim Aufbau von Modellen hilft es, vom Fachwissen der breiteren KI-Community zu profitieren. Für die Erstellung eines exakten und robusten Modells ist es entscheidend, vorhandene Modelle plattformunabhängig aus unterschiedlichsten Quellen importieren und exportieren zu können.

Was sollte man bei der Verwendung von KI in Sicherheitsanwendungen beachten?

Pingel: KI-Modelle in sicherheitsrelevanten Anwendungen mit internen oder externen regulatorischen Auflagen einzusetzen, stößt auf wachsendes Interesse. Auch wenn für jede Branche unterschiedliche Anforderungen gelten, ist der Nachweis eines auf Robustheit zielenden Trainings sowie von Fairness und Glaubwürdigkeit immer wichtig. Sicherheit ist das Kernanliegen in einer Reihe interessanter Bereiche:

Es gibt einen großen Bereich laufender Forschung im Bereich der Verifikation und Validierung, der Erklärbarkeit weiter zu fassen versucht als nur schlichtes Vertrauen und den Nachweis, dass ein Modell unter bestimmten Bedingungen funktioniert. Man konzentriert sich dort auch auf Modelle, die in sicherheitskritischen Anwendungen mit vorgeschriebenen Mindeststandards eingesetzt werden. Branchen wie die Automobil-, Luftfahrt- und Raumfahrtindustrie definieren selbst, wie eine Sicherheitszertifizierung von KI für ihre spezifischen Anwendungen auszusehen hat. Konventionelle Konzepte, die durch KI ersetzt oder ergänzt werden, müssen die gleichen Standards erfüllen. Sie werden nur dann erfolgreich sein, wenn die Ausgaben der Modelle überprüfbar sind und interpretierbare Ergebnisse vorweisen.

Ein weiterer wichtiger Faktor der ‚Erklärbaren KI‘ ist, dass die Ausgabe des Systems identisch mit den Erwartungen einer Person sein muss. Das ist etwas, woran Ingenieure von Anfang an denken müssen: Wie teile ich dem Endanwender meine Ergebnisse mit? Transparenz ist hier das Stichwort.

Robotik-Anwendungen sind ideal für den Einsatz von Künstlicher Intelligenz. Einer der Megatrends ist die Zusammenarbeit zwischen Mensch und Roboter. Wie wird in diesem Anwendungsbeispiel während der Entwicklung von KI-Algorithmen dem menschlichen Faktor Rechnung getragen?

Pingel: Wenn man sich den KI-Workflow insbesondere unter dem Aspekt der Zusammenarbeit von Mensch und Roboter ansieht, sind zwei Faktoren zu nennen:

Ein hierfür relevanter Trend im Bereich der KI ist Erklärbarkeit, oder die Fähigkeit, mit KI arbeitenden Menschen verständlich zu machen, wie Machine-Learning-Modelle zu Vorhersagen gelangen. Erklärbarkeit ist zwar für sämtliche KI-Anwendungen notwendig, aber für die Interaktion zwischen Mensch und Roboter ist sie unverzichtbar. Menschen müssen verstehen können, warum ein Roboter bestimmte Entscheidungen trifft. Das erleichtert die Interaktion.

Der zweite Faktor betrifft die menschliche Sicherheit: Wenn Menschen sich in nächster Nähe zu Robotern aufhalten, ist es wesentlich, dass Sicherheit vor allem andern steht. In vielen Bereichen der Robotik können unterschiedlichste Datenquellen wie Radar oder Lidar neben herkömmlichen RGB-Kameras eingesetzt werden, damit Maschinen die Anwesenheit von Menschen unter allen Bedingungen und unabhängig von den Lichtverhältnissen erkennen können. Dadurch lässt sich sicherstellen, dass der Aufenthalt in einem bestimmten Abstand zu Robotern für Menschen ungefährlich ist.