Siemens

KI-Klassifikation für Safety

25. Juni 2021, 10:00 Uhr | Andrea Gillhuber

Fortsetzung des Artikels von Teil 1

Klassifikation von KI für Sicherheitsaufgaben

Ausgangpunkt der Betrachtungen bleibt die Risikoanalyse, welche angemessen auf die Gegebenheiten in verschiedenen Einsatzbereichen angewandt werden kann. Zusammen mit der vorgeschlagenen Klassifizierung zum sicherheitstechnischen Kontext der KI können gezielt Empfehlungen hinsichtlich der Evaluation zugeordnet werden.

Die KI-Klassifizierung stellt den Kontext des Einsatzes von KI-Methoden/Techniken bezogen auf das E/E/PE-System (electrical and/or electronic and/or programmable electronic system; nach IEC 61508) dar, und zeigt die Bereiche auf, für welche KI nach bestehenden Regeln der Technik begutachtungsfähig ist, oder in denen noch Kriterien und Anforderungen zu erarbeiten sind.

Die Anwendungslevel A bis D sollen bei der Zuordnung von Anforderungen zum jeweiligen Einsatzzweck helfen:

Die Anwendungslevel C und D verwenden bestehende Sicherheitskonzepte zur Risikoreduktion. Künstliche Intelligenz spielt hier noch keine Rolle.
Der Anwendungslevel B bezeichnet den Einsatz von KI im Rahmen der Entwicklung von Safety Systemen.
Anwendungslevel A steht für den direkten Einsatz von KI in einer Sicherheitsfunktion. Die angefügten Kennzahlen ‚1‘ und ‚2‘ bezeichnen die Entscheidungshoheit der KI, wobei zum Beispiel ‚A1‘ für den direkten Einsatz im sicherheitsrelevanten Hauptkanal und ‚A2‘ für einen indirekten Einsatz, etwa im Rahmen von Diagnosen, steht.

Die KI-Klassen sind nicht technologiebezogen zu sehen, das heißt, bestimmte Techniken wie neuronale Netze oder Machine Learning gehören nicht automatisch in eine bestimmte Klasse:

KI Klasse I bezieht sich beispielsweise auf bestehende klassische Verfahren, ein sicheres ‚intelligentes System‘ zu entwickeln, zum Beispiel nach IEC 61508. Dabei ist der zugrundeliegende Code und dessen Wirkung vollständig nachvollziehbar und für den Entwickler verständlich.

Bei KI Klasse II handelt es sich nun um ein System, welches sich KI-Methoden/Techniken bedient, die nicht in allen Punkten zu vom Menschen nachvollziehbaren Ergebnissen führt, aber es trotzdem durch erweiterte Maßnahmen möglich ist, angemessene Kriterien und Anforderungen zu erfüllen. Diese Kriterien sind noch zu erarbeiten.

Die KI Klasse III liegt außerhalb der Möglichkeiten der Klasse II und ist letztlich nur bei Systemen des Anwendungslevel D einsetzbar, die sich hinsichtlich der Sicherheit nicht auf die KI verlassen müssen.

Der Mensch als intelligente Instanz

Die Tabelle oben zeigt, dass es durchaus angemessen sein kann, zur Bewertung bestimmter Applikationen bestehende Normen wie die IEC 61508 zu verwenden. Und zwar immer dann, wenn es sich um eher klassische Verfahren von simulierter Intelligenz (KI Klasse I) handelt. Denn was ein Mensch als intelligentes Verhalten eines Systems ansieht, unterliegt ohnehin der Subjektivität und stellt auch die anfangs diskutierte Schwierigkeit bei der Definition von KI dar.

Diese Klassifizierung der KI-Applikationen kann im Rahmen der Risikoanalyse helfen geeignete Räume für den KI-Einsatz, auch im sicherheitstechnischen Zusammenhang, zu eröffnen, wobei der bestehende Stand der Technik berücksichtigt wird. Herausfordernd wird die Erarbeitung konkreter Anforderungen sein, um die KI Klasse II mit geeigneten Methoden für bestimmte KI-Technologien ausreichend sicherheitstechnisch bewerten zu können.

Abschließend bleibt festzuhalten, dass bei allen Betrachtungen zu KI der Mensch als intelligente Instanz relevant ist, sowohl bei der Definition des Einsatzes und der Auswahl der zugrundeliegenden Daten, als auch bei der Ausarbeitung des KI-Algorithmus selbst. Wäre dies nicht mehr der Fall, wäre der Mensch auch für die weitere Evolution irrelevant geworden. Soweit ist die Entwicklung der KI allerdings noch nicht absehbar, jedoch sind die Auswirkungen der menschlichen Entscheidungen im Rahmen der Entwicklung und des Betriebs der KI deutlich weitreichender, als dies in der Breite wahrgenommen wird.