Der Begriff der KI hat sich über die Jahrzehnte seit dem Erstauftreten sehr gewandelt. Wo früher eine geschickte Verschachtelung von ‚if-then-else‘-Statements bereits als KI galt, werden heute Mechanismen wie Machine Learning (ML) oder Knowledge-Graphen verstanden. Verschiedene Gremien haben sich mit dem Thema einer KI-Definition auseinandergesetzt, doch mit einer praktischen Beschreibung überrascht die Wikipedia mit einem interessanten Ansatz: „Meist bezeichnet künstliche Intelligenz den Versuch, bestimmte Entscheidungsstrukturen des Menschen nachzubilden, indem zum Beispiel ein Computer so gebaut und programmiert wird, dass er relativ eigenständig Probleme bearbeiten kann. Oftmals wird damit aber auch eine nachgeahmte Intelligenz bezeichnet, wobei durch meist einfache Algorithmen ein ‚intelligentes Verhalten‘ simuliert werden soll.“

Festzustellen ist, dass es sich im Jahre 2021 bei angewandter Künstlicher Intelligenz immer noch um einen Versuch handelt, bestimmte Entscheidungsstrukturen nachzubilden, und im konkreten Anwendungsfall sogar nur eine Nachahmung von intelligentem Verhalten sein könnte. Diese Vorzeichen sind für einen Einsatz im sicherheitstechnischen Umfeld (Sicherheit steht in der Folge für das englische Safety und nicht für Security, also Informationssicherheit) eher ungünstig, da dort evidenzbasiert die risikominimierenden Eigenschaften zu bewerten sind. Somit stellt sich beim erstmaligen Einsatz von KI in Sicherheitsapplikationen – wie in anderen Bereichen bei Verwendung neuer Technologie auch – zuerst die Frage nach der Verhältnismäßigkeit.

Bekannte strukturierte Szenarien für Sicherheitsapplikationen mit KI zu erschließen, wäre der nächste logische Schritt im Rahmen der evolutionären Entwicklung von Technologie. Als Beispiel ist die Objekterkennung bei Fahrzeugen zu nennen.

© Siemens

Diese Überlegungen bedeuten zunächst Stabilität für bestehende Lösungen. Damit erhöht sich allerdings der Druck auf Lösungsansätze mit KI für aktuelle komplexere Problemstellungen.

Während es für Sicherheitsfunktionen bisher in der Regel ausreichend war, Schaltzustände, Ströme oder Spannungen auszuwerten, stehen nun Fragen zur Erkennung von verschiedenen Hindernissen im Raum oder gar deren Charakterisierung. Die Zunahme dieser systematischen Komplexität geht einher mit der Verwendung von Sensoren, wie CCD-Kameras, die bisher nicht sicherheitsgerichtet eingesetzt wurden. Diese erschwerte Aufgabenstellung soll mit KI bewältigt werden, wobei selbst einfache KI-Applikationen eine Herausforderung bei der Nachweisführung zur Sicherheit darstellen. Der Einsatz von KI für einfache Anwendungen, etwa einer Auswertung von sicheren elektronischen Signalen, ist aber hinsichtlich des Marktes und der Forschung weniger attraktiv, auch wenn dies zur Erarbeitung von geeigneten Methoden anfangs angezeigt wäre

Im Rahmen der Normung werden daher mögliche Vorgehensweisen diskutiert und sollen im technischen Bericht (ISO/IEC TR 5469 der JTC 1/SC 42/WG 3) beschrieben werden.

Klassifikation von KI für Sicherheitsaufgaben

KI-Klassifizierung entsprechend den derzeitigen Normungsprojekten.

© Siemens

Ausgangpunkt der Betrachtungen bleibt die Risikoanalyse, welche angemessen auf die Gegebenheiten in verschiedenen Einsatzbereichen angewandt werden kann. Zusammen mit der vorgeschlagenen Klassifizierung zum sicherheitstechnischen Kontext der KI können gezielt Empfehlungen hinsichtlich der Evaluation zugeordnet werden.

Die KI-Klassifizierung stellt den Kontext des Einsatzes von KI-Methoden/Techniken bezogen auf das E/E/PE-System (electrical and/or electronic and/or programmable electronic system; nach IEC 61508) dar, und zeigt die Bereiche auf, für welche KI nach bestehenden Regeln der Technik begutachtungsfähig ist, oder in denen noch Kriterien und Anforderungen zu erarbeiten sind.

Die Anwendungslevel A bis D sollen bei der Zuordnung von Anforderungen zum jeweiligen Einsatzzweck helfen:

• Die Anwendungslevel C und D verwenden bestehende Sicherheitskonzepte zur Risikoreduktion. Künstliche Intelligenz spielt hier noch keine Rolle.
• Der Anwendungslevel B bezeichnet den Einsatz von KI im Rahmen der Entwicklung von Safety Systemen.
• Anwendungslevel A steht für den direkten Einsatz von KI in einer Sicherheitsfunktion. Die angefügten Kennzahlen ‚1‘ und ‚2‘ bezeichnen die Entscheidungshoheit der KI, wobei zum Beispiel ‚A1‘ für den direkten Einsatz im sicherheitsrelevanten Hauptkanal und ‚A2‘ für einen indirekten Einsatz, etwa im Rahmen von Diagnosen, steht.

Die KI-Klassen sind nicht technologiebezogen zu sehen, das heißt, bestimmte Techniken wie neuronale Netze oder Machine Learning gehören nicht automatisch in eine bestimmte Klasse:

KI Klasse I bezieht sich beispielsweise auf bestehende klassische Verfahren, ein sicheres ‚intelligentes System‘ zu entwickeln, zum Beispiel nach IEC 61508. Dabei ist der zugrundeliegende Code und dessen Wirkung vollständig nachvollziehbar und für den Entwickler verständlich.

Bei KI Klasse II handelt es sich nun um ein System, welches sich KI-Methoden/Techniken bedient, die nicht in allen Punkten zu vom Menschen nachvollziehbaren Ergebnissen führt, aber es trotzdem durch erweiterte Maßnahmen möglich ist, angemessene Kriterien und Anforderungen zu erfüllen. Diese Kriterien sind noch zu erarbeiten.

Die KI Klasse III liegt außerhalb der Möglichkeiten der Klasse II und ist letztlich nur bei Systemen des Anwendungslevel D einsetzbar, die sich hinsichtlich der Sicherheit nicht auf die KI verlassen müssen. 

Der Mensch als intelligente Instanz

Holger Laible ist Senior - Expert bei Siemens.

© Siemens

Die Tabelle oben zeigt, dass es durchaus angemessen sein kann, zur Bewertung bestimmter Applikationen bestehende Normen wie die IEC 61508 zu verwenden. Und zwar immer dann, wenn es sich um eher klassische Verfahren von simulierter Intelligenz (KI Klasse I) handelt. Denn was ein Mensch als intelligentes Verhalten eines Systems ansieht, unterliegt ohnehin der Subjektivität und stellt auch die anfangs diskutierte Schwierigkeit bei der Definition von KI dar.

Diese Klassifizierung der KI-Applikationen kann im Rahmen der Risikoanalyse helfen geeignete Räume für den KI-Einsatz, auch im sicherheitstechnischen Zusammenhang, zu eröffnen, wobei der bestehende Stand der Technik berücksichtigt wird. Herausfordernd wird die Erarbeitung konkreter Anforderungen sein, um die KI Klasse II mit geeigneten Methoden für bestimmte KI-Technologien ausreichend sicherheitstechnisch bewerten zu können.

Abschließend bleibt festzuhalten, dass bei allen Betrachtungen zu KI der Mensch als intelligente Instanz relevant ist, sowohl bei der Definition des Einsatzes und der Auswahl der zugrundeliegenden Daten, als auch bei der Ausarbeitung des KI-Algorithmus selbst. Wäre dies nicht mehr der Fall, wäre der Mensch auch für die weitere Evolution irrelevant geworden. Soweit ist die Entwicklung der KI allerdings noch nicht absehbar, jedoch sind die Auswirkungen der menschlichen Entscheidungen im Rahmen der Entwicklung und des Betriebs der KI deutlich weitreichender, als dies in der Breite wahrgenommen wird.