Mobile Roboter mit aktiv gesteuerter Stabilität, zweibeinige (humanoide), vierbeinige oder auf Rädern balancierende Roboter werden zu einem zunehmend relevanten Thema im Bereich der Automatisierung. Es gibt bereits funktionsfähige Prototypen und Kleinserien einzelner Hersteller, ein breiter industrieller Einsatz dürfte jedoch noch einige Jahre entfernt sein. Eine der größten Hürden ist, dass für Roboter dieser Art noch keine spezifischen Sicherheitsnormen verabschiedet wurden. Der Druck seitens der Industrie ist hoch, um den Anschluss an die schnelle Innovation in Fernost nicht zu verpassen.

Sichere Bewegung auf zwei Beinen – eine technische Herausforderung

Humanoide Roboter sind dem menschlichen Körperbau nachempfunden; sie stehen auf zwei Beinen, was bereits eine erhebliche Herausforderung für Ingenieure darstellt. Den menschlichen Gleichgewichtssinn bei einem Roboter technisch umzusetzen, ist komplex. Der humanoide Bewegungsapparat ist KI-gesteuert, und hier wurden in den letzten Jahren deutliche Fortschritte erzielt. Neben einer zuverlässigen Bewegung auf zwei Beinen ist die Betriebssicherheit oder funktionale Sicherheit die Voraussetzung für den industriellen Einsatz in größerem Maßstab.

Die bestehenden Sicherheitsnormen für Industrieroboter und fahrerlose Roboter berücksichtigen jedoch nicht die Anforderungen humanoider Roboter. Anders als statische oder festmontierte sowie mobile Roboter sind Humanoide nicht statisch stabil, wenn die Stromzufuhr abgeschaltet wird. Dies bedeutet, der zweibeinige Roboter kann umfallen, was je nach Gewicht und Kinetik eine Gefahr für Menschen in der Produktionsumgebung darstellt. Ein herkömmliches Not-Aus wie bei 6-Achs-Industrierobotern oder Cobots ist bei humanoiden Robotern nicht in gleicher Weise umsetzbar, was einen anderen Sicherheitsansatz erfordert. Ohne Sicherheitszertifizierung ist eine Abnahme für den Prototypeneinsatz derzeit nur für den Behind-the-Workcell-Betrieb, also getrennt von Menschen hinter einem Schutzgitter, möglich.

Neue Sicherheitsnormen schaffen einen Rahmen

Neue Sicherheitsnormen sollen einen Standard etablieren, der wesentliche Safety-Funktionen in der humanoiden Robotik definiert. Kommende Normen und technische Spezifikationen wie ISO 25785 (zunächst ISO 25785-1) und ISO/IEC TS 22440 (zunächst ISO/IEC TS 22440-1) sind erforderlich, um die Sicherheit messbar und belegbar zu machen. Die beiden ISO-Normen befinden sich bereits in der Ausarbeitung.

Da humanoide Roboter in vielfältigen Umgebungen interagieren, müssen sie mit Menschen und anderen Maschinen in der Arbeitsumgebung sowie mit unvorhergesehenen Situationen sicher umgehen. Im Fokus stehen die Sicherheit für Endanwender und klare Normen für den künftigen Einsatz in Industrieumgebungen. Bei funktionaler Sicherheit für KI-basierte Robotik-Applikationen betrifft dies Aktuatoren, die künftige Sicherheitsanforderungen erfüllen müssen. Dies gilt insbesondere für die Safe-Stop-Funktion, die beteiligten Servoantriebe und das Steuerungssystem, das Sicherheitsfunktionen auslöst. Die gesamte Safety Chain von Anfang bis Ende, von Input bis Output, muss im finalen Stadium zertifiziert sein.

Die Erkennung, Klassifizierung und Reduzierung von Risiken umfasst den gesamten Lebenszyklus. Ein Beispiel aus dem Bereich des autonomen Fahrens zeigt, dass es vor einem Jahrzehnt noch keine E-Scooter im Straßenverkehr gab. Eine KI, die vor zehn Jahren entwickelt wurde und sich zunächst bewährt hat, würde diese neuen Verkehrsteilnehmer nicht erkennen, weil sie darauf nicht ausgelegt war. Beim KI-Lebenszyklusmanagement adressiert die Norm mehrere Fehlerkategorien: fehlerhafte Modellerstellung, mangelhafte Eingangsdaten, unzureichende Modellleistung sowie Fehler in der Überwachungskomponente. Zu den besonders praxisrelevanten Eingangsfehlern zählen ‚Data Drift‘ und ‚Concept Drift‘, also die dauerhafte Verschiebung der Eingabeverteilung oder der Beziehung zwischen Eingabe- und Ausgabevariablen weg von der Trainingsverteilung.

ISO 25785-1 regelt die Entwicklung DSIMRs

ISO 25785-1 wird Anforderungen für dynamisch stabile industrielle mobile Roboter (DSIMRs) definieren. Die geplanten Hauptbestandteile des Entwurfs sind Anwendungsbereich, Risikobeurteilung, Konstruktion und Risikominderung, Steuerungen und Betriebsarten, Verifizierung und Validierung sowie Benutzerinformationen und Kennzeichnung.

Der künftige Standard soll für Roboter in industriellen Umgebungen gelten, zu denen die Öffentlichkeit keinen Zugang hat. Basierend auf ISO 12100 sollen umfassende Gefahren-identifikationen durchgeführt werden. Bei DSIMRs ist dabei ein besonderer Fokus auf den physischen Grenzen des Roboters, den verschiedenen Fortbewegungsarten und vor allem auf den Gefahren vorgesehen, die durch den Verlust der Stabilität, sowohl behebbar als auch unkontrollierbar, entstehen können. Der Entwurf sieht Anforderungen an Materialien, mechanische Festigkeit und den Umgang mit gefährlichen Energiequellen wie Batterien vor. Eine zentrale geplante Forderung ist, dass der Roboter mindestens einen statisch stabilen Zustand sicher einnehmen und halten kann, definiert als Zustand ohne aktive Steuerung und bei abgeschalteter Antriebsenergie innerhalb der spezifizierten Betriebsumgebung (SOE). Als Beispiele werden Konfigurationen wie Sitzen oder Liegen auf dem Boden genannt.

Darüber hinaus sind spezifische Anforderungen für den Automatik-, Halbautomatik- (inklusive Teleoperation) und Wartungsmodus vorgesehen. DSIMRs sollen über Schutzhaltefunktionen (Protective Stops) verfügen, die alle gefährlichen Bewegungen stoppen und in einem überwachten statisch stabilen Zustand resultieren, wobei "überwacht" bedeutet, dass das System das Erreichen dieses Zustands aktiv verifiziert. Not-Halt-Systeme sind grundsätzlich als Anforderung vorgesehen; eine Ausnahme gilt nur, wenn sie das Risiko nachweislich nicht verringern würden, etwa weil eine plötzliche Abschaltung beim DSIMR selbst eine Gefährdung durch Sturz darstellen kann. Der Entwurf verlangt zudem detaillierte Betriebsanleitungen, Typenschilder und Warnhinweise hinsichtlich der SOE.

Da dynamisch stabile Roboter besonders sturzgefährdet sind, legt der Entwurf großen Wert auf die Erkennung und Bewältigung sogenannter Negativhindernisse wie abfallende Kanten, Bodenöffnungen, Treppen oder Verladerampen. Der Roboter soll solche Hindernisse erkennen können und andernfalls automatisch in einen sicheren Schutzhalt übergehen. Wenn sich Menschen und Roboter den Arbeitsraum teilen, soll die Sicherheit entweder durch Geschwindigkeits- und Abstandsüberwachung oder durch Begrenzung der Kontaktkräfte und -drücke gewährleistet werden. Ein Stromausfall soll laut Entwurf nicht zu einer gefährlichen Situation führen dürfen.

Der Schwerpunkt des Entwurfs liegt klar auf der physischen Sicherheitstechnik des Roboters. Zum Umgang mit KI-basierten Steuerungssystemen enthält der aktuelle Arbeitsstand lediglich eine Verweisklausel: Setzt ein Hersteller KI für sicherheitsrelevante Steuerungsfunktionen ein, sollen die Anforderungen der ISO/IEC TS 22440-Reihe angewendet werden.

ISO/IEC TS 22440-1 für KI-gestützte funktionale Sicherheit

Die ISO/IEC TS 22440-1 stellt den ersten Teil einer neuen Normenreihe dar, die sich auf die Schnittstelle zwischen KI und funktionaler Sicherheit konzentriert. Ihr Hauptzweck ist es, die Lücke zwischen traditionellen Praktiken der funktionalen Sicherheit und den spezifischen Herausforderungen durch KI-Technologien zu schließen. Im Gegensatz zu herkömmlicher Software haben KI-Modelle inhärent dynamische Entscheidungsprozesse und sind mit kontinuierlichen Pro-blemen wie Leistungsabfall oder zeitlichen Veränderungen der Daten- oder Konzeptbasis (Model Drift) konfrontiert.

Konkret behandelt diese technische Spezifikation physische Sicherheit, die Harmonisierung mit bestehenden Normen und den KI-Anwendungsbereich. Sie definiert Sicherheitsanforderungen, um potenzielle physische Schäden beim Einsatz von KI in sicherheitskritischen Anwendungen zu vermeiden. Die Norm baut normativ auf etablierten Normen der funk-tionalen Sicherheit auf: Der IEC 61508-Lebenszyklus bildet die verpflichtende Grundlage (Basis) für die KI-Sicherheitsanforderungen, während ISO 26262 und weitere branchenspezifische Normen gleichwertig angewendet werden können. Die ISO/IEC TS 22440-1 ergänzt diese Normen um KI-spezifische Methoden, ersetzt sie jedoch nicht.

Ein zentrales Element der Norm ist das Klassifizierungsschema für KI-Softwarekomponenten. Es unterscheidet nach dem Application Usage Level (AUL): Von AUL-A1 (KI-Komponente direkt sicherheitsrelevant, Ausfall kann zu Gefährdung führen) über AUL-B (Einsatz als Entwicklungswerkzeug) bis hin zu AUL-D (kein sicherheitsrelevanter Einfluss). Ergänzend definiert die Software Technology Class (SWTC) den Transparenzgrad der KI-Implementierung, von vollständig nachvollziehbarem Code (SWTC-I) über maschinell entwickelte Modelle wie Deep Learning (SWTC-II) bis zu nicht klassifizierbaren Technologien (SWTC-III). Diese Einstufung bestimmt, welche Anforderungen an Entwicklung, Validierung und Überwachung gelten.

Die Norm verknüpft das KI-Sicherheitsniveau direkt mit den bekannten Safety Integrity Levels (SIL) aus IEC 61508: Aus der Risikobeurteilung wird ein erforderlicher Risk Reduction Factor (RRF) abgeleitet, der einem SIL- oder AI Performance (AIP)-Niveau entspricht. Daraus folgt das erforderliche AI Systematic Capability (AI-SC)-Level (Stufen 1 bis 3), das wiederum festlegt, welche Fehlermitigationsmaßnahmen verbindlich umzusetzen sind. Dieser durchgängige Nachweis – von der Gefährdungsanalyse bis zur Validierung – schafft erstmals eine quantifizierbare Grundlage für die Zertifizierung KI-basierter Sicherheitsfunktionen

Herausforderungen, Chancen und Perspektiven

Neue Normen bringen Herausforderungen bei der technischen Umsetzung und zugleich Chancen, indem sie für Hersteller die Zulassung und damit den Marktzugang erleichtern. Risikominimierung und standardisierte Sicherheitsansätze erhöhen das Vertrauen in neue Technologien und reduzieren Haftungsrisiken. Harmonisierte Spezifikationen fördern die Kompatibilität von Komponenten, Integrationen und Plattformen verschiedener Hersteller.

Klar definierte Sicherheitsanforderungen sind auch ein Treiber für die Entwicklung, KI-basierte Sicherheitsfunktionen umzusetzen, die vor nicht allzu langer Zeit noch nicht möglich waren. Normen, Spezifikationen und Standards sollen KI-Innovationen nicht ausbremsen, sondern strukturieren, um den Weg für einen breiten Einsatz von DSIMRs in der Industrie zu ebnen. Transparente und strukturierte Sicherheitsprozesse schaffen Vertrauen in der Industrie und ermöglichen Innovationen, ohne die Arbeitssicherheit zu beeinträchtigen. Durch die Anpassung der Entwicklung an einen künftig anerkannten Standard wird die Zertifizierung voraussichtlich schneller erfolgen. Perspektivisch könnten humanoide Roboter ein ähnliches Wachstum erzielen wie zuletzt der Markt für AGVs (Automated Guided Vehicles) und AMRs (Autonomous Mobile Robots).