KI sichtbar machen: Glaskasten statt Blackbox

Transparente KI schafft Vertrauen

Einer der Hauptvorteile erklärbarer KI-Lösungen liegt in der erhöhten Transparenz. In kostenintensiven Bereichen wie der Qualitätskontrolle oder der vorausschauenden Wartung ist es entscheidend, die Grundlage von KI-Entscheidungen nachvollziehen zu können. Wenn beispielsweise ein KI-System in einer Produktionslinie einen Fehler meldet, ist es sinnvoll, dass Techniker den Kontext verstehen. Erklärbare KI kann dabei detaillierte Informationen liefern, etwa welche Sensordaten den Ausschlag für diese Empfehlung gegeben oder welche Muster im Produktionsprozess zu der Fehlermeldung geführt haben. Diese Transparenz hat mehrere positive Effekte:

• Erhöhtes Vertrauen: Wenn Anwender und Entscheider verstehen, wie KI-Systeme zu ihren Schlussfolgerungen kommen, steigt das Ver- trauen in die Technologie.
• Bessere Fehleranalyse: Fehlfunktionen oder Fehlentscheidungen des KI-Systems lassen sich leichter identifizieren und beheben.
• Compliance: Eine explizite Verpflichtung zur Verwendung von erklärbarer KI fehlt im EU AI Act. Unternehmen können mit diesen Methoden jedoch gesetzliche Anforderungen effizient und nachvollziehbar erfüllen. Das ist gerade für Hochrisiko-Anwendungen relevant sowie für den Nachweis nachvollziehbarer Erklärungen in Streitfällen oder bei Audits.
• Ethische Verantwortung: Transparente KI-Systeme ermöglichen es, potenzielle Verzerrungen oder unfaire Entscheidungen zu erkennen und zu korrigieren.

Erklärbarkeitsmethoden ermöglichen es, Schwachstellen im Trainingsdatensatz gezielt zu identifizieren und zu beheben. Konkret bedeutet das eine effizientere Weiterentwicklung: Da die Entscheidungsprozesse mithilfe von XAI transparent sind, ist es bedeutend leichter, KI an neue Szenarien und neue aktualisierte Daten anzupassen, etwa an veränderte Produktionsprozesse.

Praxisbeispiel: Erklärbare KI in der Predictive Maintenance

Ein anschauliches Beispiel ist die vorausschauende Wartung von Industrieanlagen: Ein KI-System prognostiziert, dass eine kritische Komponente in Kürze ausfallen wird. Dann liefert ein erklärbares Modell neben dieser Vorhersage detaillierte Informationen über den Kontext und die Faktoren, die zu dieser Prognose geführt haben; zum Beispiel ungewöhnliche Vibrationsmuster in Kombination mit erhöhten Temperaturen und spezifischen Lastzyklen.

Diese Informationen ermöglichen es Wartungstechnikern, die Dringlichkeit der Wartung besser einzuschätzen und gezielt nach den identifizierten Problemen zu suchen. Zusätzlich hilft diese Art von Nachvollziehbarkeit, zukünftig präventive Maßnahmen für ähnliche Komponenten zu ergreifen und das Wartungsprotokoll basierend auf den gewonnenen Erkenntnissen zu optimieren.

Damit auch Nicht-Experten die Ergebnisse und Erklärungen nachvollziehen können, hilft eine grafische Aufbereitung. Heatmaps erklären etwa Bildklassifikationen, Bildsegmentierungen und Objekterkennung bei einer optischen Qualitätskontrolle, Balkendiagramme zeigen die Bedeutung bestimmter Merkmale für den Lernprozess von auf tabellarischen Sensordaten trainierten Modellen auf, und interaktive Dashboards ermöglichen nutzerfreundliche Erklärungen des Modellverhaltens.

Um das Verhalten komplexer KI-Modelle nachvollziehbar zu machen, kommen dabei verschiedene XAI-Methoden zum Einsatz:

• Counterfactual Explanations zeigen, welche minimalen Änderungen zu einer anderen Entscheidung geführt hätten.
• Feature Importance bewertet den Einfluss einzelner Merkmale auf die Modellentscheidung.
• LIME (Local Interpretable Model-agnostic Explanations) ersetzt komplexe durch einfache, lokal verständliche Modelle.
• SHAP (SHapley Additive exPlanations) quantifiziert den relativen Beitrag jedes Merkmals zur Vorhersage.
• Grad-CAM (Gradient Class Activation Mapping) nutzt Gradienten im neuronalen Netzwerk, um eine Heatmap zu erstellen, die die Relevanz der unterschiedlichen Merkmale abbildet.
• LRP (Layer-Wise Relevance Propagation): Berechnet die Bedeutung einzelner Merkmale, indem das neuronale Netzwerk schichtweise das Vorhersageverhalten rückpropagiert.
• Intrinsisch erklärbare Modelle (Explainable by Design): Verwenden klar nachvollziehbare Algorithmen, zum Beispiel Entscheidungsbäume oder lineare Modelle.

In der Praxis können intrinsisch erklärbare Modelle etwa zur Auswertung von Sensordaten zum Einsatz kommen. Dafür verwenden sie klare, festgelegte Werte als Grundlage. Während bei den Blackbox-Modellen schwer nachvollziehbare gewichtete Korrelationen zu den Entscheidungen führen, dienen bei den Whitebox-Modellen klare Input-Werte als Leitplanken. Dadurch lässt sich direkt nachvollziehen, warum ein bestimmtes Ergebnis zustande kam; etwa wegen eines überschrittenen Schwellenwerts oder dem Erfüllen bestimmter Bedingungen. 

Die Zukunft gehört erklärbarer KI

Erklärbare KI-Lösungen werden in Zukunft zum Standard in der industriellen Automatisierung werden. Sie ermöglichen eine bessere Kontrolle, einfachere Optimierung und höhere Akzeptanz von KI-Systemen. Zudem positionieren sich Unternehmen, die jetzt auf erklärbare Modelle setzen, als Vorreiter und können das volle Potenzial von KI in der Automatisierung ausschöpfen. Um das zu ermöglichen, stehen diverse Schritte an - wie auf der folgenden Seite beschrieben.

• Investition in Weiterbildung: Aufbau von Kompetenzen im Bereich erklärbarer KI und deren Implementierung.
• Überprüfung bestehender Systeme: Analyse, welche aktuellen KI-Anwendungen von mehr Transparenz profitieren können.
• Strategische Planung: Entwicklung einer Roadmap für die schrittweise Integration erklärbarer KI-Lösungen in bestehende Automatisierungsprozesse.
• Förderung einer Kultur der Transparenz: Aufklärung aller Stakeholder über die Bedeutung und Vorteile erklärbarer KI.

Dr.-Ing. Kira Vinogradova, Advanced Consultant für Artificial Intelligence (AI), Computer Vision, GenAI bei Telekom MMS © Telekom MMS

Setzen Unternehmen auf erklärbare KI-Lösungen, erhalten sie damit effizientere und zuverlässigere Automatisierungssysteme. Im zweiten Schritt schaffen sie eine Grundlage für verantwortungsvolle und nutzerfreundliche KI-Anwendungen in der Industrie. Dies wird langfristig zu einer höheren Akzeptanz von KI-Technologien führen und neue Innovations- potenziale erschließen. Je nachdem, mit welchem Ziel die Unternehmen XAI verwenden, profitieren unterschiedliche Zielgruppen: XAI hilft etwa durch die Nachvollziehbarkeit der Entscheidungen, das Vertrauen von Wartungspersonal aufzubauen oder zurückzugewinnen. Produktionsleiter können sich mehr Kontrolle über KI-Systeme verschaffen und deren Risiken und Grenzen besser einschätzen. Data Scientists schaffen mit XAI Einblicke in den Datensatz sowie in den Lernprozess und verbessern so die Qualität der KI-Entscheidungen. Und von der besseren Qualität der KI profitieren schließlich alle Beteiligten.