Siemens

KI-Klassifikation für Safety

25. Juni 2021, 10:00 Uhr | Andrea Gillhuber

Künstliche Intelligenz gilt als Lösungsansatz für aktuelle Herausforderungen in verschiedensten Lebensbereichen. Die Politik fördert KI, möchte aber die Technikfolgen abschätzen und ggf. regulieren. Nachfolgend wird der Einsatz von KI für Sicherheitsaufgaben betrachtet.

Der Begriff der KI hat sich über die Jahrzehnte seit dem Erstauftreten sehr gewandelt. Wo früher eine geschickte Verschachtelung von ‚if-then-else‘-Statements bereits als KI galt, werden heute Mechanismen wie Machine Learning (ML) oder Knowledge-Graphen verstanden. Verschiedene Gremien haben sich mit dem Thema einer KI-Definition auseinandergesetzt, doch mit einer praktischen Beschreibung überrascht die Wikipedia mit einem interessanten Ansatz: „Meist bezeichnet künstliche Intelligenz den Versuch, bestimmte Entscheidungsstrukturen des Menschen nachzubilden, indem zum Beispiel ein Computer so gebaut und programmiert wird, dass er relativ eigenständig Probleme bearbeiten kann. Oftmals wird damit aber auch eine nachgeahmte Intelligenz bezeichnet, wobei durch meist einfache Algorithmen ein ‚intelligentes Verhalten‘ simuliert werden soll.“

Festzustellen ist, dass es sich im Jahre 2021 bei angewandter Künstlicher Intelligenz immer noch um einen Versuch handelt, bestimmte Entscheidungsstrukturen nachzubilden, und im konkreten Anwendungsfall sogar nur eine Nachahmung von intelligentem Verhalten sein könnte. Diese Vorzeichen sind für einen Einsatz im sicherheitstechnischen Umfeld (Sicherheit steht in der Folge für das englische Safety und nicht für Security, also Informationssicherheit) eher ungünstig, da dort evidenzbasiert die risikominimierenden Eigenschaften zu bewerten sind. Somit stellt sich beim erstmaligen Einsatz von KI in Sicherheitsapplikationen – wie in anderen Bereichen bei Verwendung neuer Technologie auch – zuerst die Frage nach der Verhältnismäßigkeit.

Diese Überlegungen bedeuten zunächst Stabilität für bestehende Lösungen. Damit erhöht sich allerdings der Druck auf Lösungsansätze mit KI für aktuelle komplexere Problemstellungen.

Während es für Sicherheitsfunktionen bisher in der Regel ausreichend war, Schaltzustände, Ströme oder Spannungen auszuwerten, stehen nun Fragen zur Erkennung von verschiedenen Hindernissen im Raum oder gar deren Charakterisierung. Die Zunahme dieser systematischen Komplexität geht einher mit der Verwendung von Sensoren, wie CCD-Kameras, die bisher nicht sicherheitsgerichtet eingesetzt wurden. Diese erschwerte Aufgabenstellung soll mit KI bewältigt werden, wobei selbst einfache KI-Applikationen eine Herausforderung bei der Nachweisführung zur Sicherheit darstellen. Der Einsatz von KI für einfache Anwendungen, etwa einer Auswertung von sicheren elektronischen Signalen, ist aber hinsichtlich des Marktes und der Forschung weniger attraktiv, auch wenn dies zur Erarbeitung von geeigneten Methoden anfangs angezeigt wäre

Im Rahmen der Normung werden daher mögliche Vorgehensweisen diskutiert und sollen im technischen Bericht (ISO/IEC TR 5469 der JTC 1/SC 42/WG 3) beschrieben werden.