BSI
Methodischer Leitfaden zur Datenqualität in KI-Systemen
Das BSI hat mit QUAIDAL einen Katalog zur Qualitätssicherung von Trainingsdaten in KI-Anwendungen veröffentlicht, der bei der Einhaltung regulatorischer Vorgaben wie der europäischen KI-Verordnung unterstützt.
Die europäische KI-Verordnung definiert Qualitätsanforderungen an KI-Trainingsdaten, die Aspekte wie Relevanz, Fehlerfreiheit und Vollständigkeit abdecken. Die Dokumentenreihe „QUAIDAL – Qualitycriteria for AI Trainingsdata in AI Lifecycle“ des Bundesamts für Sicherheit in der Informationstechnik (BSI) verfolgt das Ziel, diese abstrakten Qualitätsanforderungen in konkrete Bausteine, Maßnahmen und Metriken & Methoden zu überführen. Sie soll bei der Einhaltung regulatorischer Vorgaben unterstützen und die technische Nachvollziehbarkeit im Entwicklungsprozess von KI-Systemen erhöhen.
BSI-Präsidentin Claudia Plattner: „Wir müssen sicherstellen, dass Anwendungen mit Künstlicher Intelligenz hohen Qualitätsanforderungen entsprechen. Nur so können wir vertrauenswürdige KI herstellen und nutzen. Das BSI bietet mit diesem Katalog eine ganz konkrete Hilfestellung, die an der Basis ansetzt.“
QUAIDAL richtet sich insbesondere an Anbieter von Hochrisiko-KI-Systemen, für welche die KI-Verordnung detaillierte Anforderungen hinsichtlich Dokumentation, Datenmanagement und kontinuierlicher Qualitätssicherung definiert. Darüber hinaus lässt sich dieses modulare Konzept zukünftig flexibel erweitern, um neue technologische Entwicklungen zu berücksichtigen.
Der Entwurf des Leitfadens steht ab sofort auf der Webseite des BSI sowie in zwei maschinenlesbaren GitHub Repositories zur Verfügung.
Das könnte Sie auch interessieren
Industrielle Cybersicherheit im deutschsprachigen Raum
Länder in Westeuropa zählen im internationalen Vergleich weiterhin zu den vergleichsweise sichereren Regionen im Bereich industrieller Cybersicherheit. Dennoch sind Computer zur industriellen Steuerung (ICS) auch im deutschsprachigen Raum nach wie...
mehr...Interview mit Thierry Bieber, HMS...
IT/OT-Resilienz im Maschinenbau
Vom sicheren Firmware-Update bis zur Netzsegmentierung: Thierry Bieber von HMS Industrial Networks erklärt im Gespräch, wie Maschinenbauer ihre IT/OT-Resilienz verbessern, welche Rolle Standards spielen und warum eine klare Architektur für...
mehr...Warum IT/OT-Grenzen neu gedacht werden müssen
Smart Factories verbinden Produktionsanlagen, Steuerungen und IT-Systeme über gemeinsame Netzwerke – eine Entwicklung, die die Effizienz zwar steigert, aber auch zusätzliche Angriffsflächen schafft. Um diese Risiken zu beherrschen, müssen...
mehr...Fünf unbequeme Wahrheiten über OT‑Security
Firewalls kaufen kann jeder. OT-Security machen die wenigsten wirklich. Timmi Hopf, Business Development Manager OT Cybersecurity bei Axians, benennt in seinem Kommentar fünf unbequeme Wahrheiten aus der Praxis und erklärt, warum der erste Schritt...
mehr...Einsparpotentiale erkennen
Mit dem 'Kaspersky OT Cybersecurity Savings Calculator' können Industrieunternehmen die potenziellen Kosten unzureichender OT-Sicherheit (Operational Technology) quantifizieren.
mehr...Sicherheitsportfolio erweitert
Die Firma Adlon entwickelt ihr Security Operations Center weiter und ergänzt das bestehende Managed SOC für Microsoft 365-Umgebungen (basierend auf Managed XDR) um ein weiteres Modul: 'Managed SOC Advanced'.
mehr...Predictive Maintenance ohne Hype
Predictive Maintenance ist zu einem Hype-Thema geworden und gilt als maßgeblich in der digitalen Transformation der Industrie. Wann sie sich wirklich lohnt, erläutert Tim Brexendorf, Geschäftsführer von Videc Data Engineering, in einem Expertipp.
mehr...So entspricht Software der EU-Verordnung
Neue gesetzliche Vorgaben zur Cybersicherheit betreffen nahezu alle Anbieter digitaler Produkte im EU-Markt. Die Cyberresilienz-Verordnung definiert verbindliche Standards und Meldepflichten. Dieser Beitrag gibt einen strukturierten Überblick über...
mehr...Zunehmende Cyberangriffe auf den Fertigungssektor
Ein Bericht von Check Point Exposure Management zur Bedrohungslage in der Fertigungsindustrie zeigt eine drastische Zunahme von Ransomware, Angriffen auf die Lieferkette und OT-bezogenen Cybervorfällen. Mit der zunehmenden Verbreitung intelligenter...
mehr...