Abwehr KI-basierter Angriffe auf das Internet

Künstliche Intelligenz ist ideal, um riesige Datenmengen zu sammeln, sie zu analysieren und auf Grundlage der gewonnenen Erkenntnisse zu reagieren. Diese Vorteile nutzen Angreifer aus, um IT-Systeme zu bedrohen. KI wird somit zunehmend zu einem zentralen Bestandteil der Cybersicherheit. Angreifer können mithilfe hochentwickelter KI-Technologien nicht mehr nur gezielt nach einzelnen, bekannten Schwachstellen suchen, sondern die Angriffsoberfläche von IT-Infrastrukturen automatisiert erkunden. Dabei variiert die KI bisherige Angriffstechniken und entwickelt Möglichkeiten, um die automatisierten Schutzmechanismen zu umgehen, die auf bekannten Signaturen oder Mustern basieren.

Das Verbundprojekt AI.Auto-Immune hat das Ziel, das Internet und seine Dienste vor KI-basierten Angriffen zu schützen. Die Wissenschaftlerinnen und Wissenschaftler werden an neuen Methoden arbeiten, um mithilfe von KI-Algorithmen Kommunikationsdaten und Netzwerkflüsse im Internet auszuwerten und so Schwachstellen zu finden. Die intelligente Analyse der Netzwerkdienste hilft, frühzeitig Muster und sich entwickelnde neue Bedrohungen zu erkennen und die Sicherheitsmaßnahmen entsprechend anzupassen. So können Gefahrenstellen automatisiert vorhergesagt und dafür Schutzempfehlungen abgegeben werden, indem die KI beispielsweise Lagebilder von Angriffspunkten für bestimmte Netzbereiche wie interne Firmennetze oder kritische Infrastrukturen generiert.
Matthias Wählisch, Professor für Distributed and Networked Systems an der TU Dresden und Verbundkoordinator, freut sich über die Projektbewilligung: „Die Stärkung der Sicherheit global verteilter und vernetzter Systeme ist enorm wichtig und wird uns dauerhaft begleiten. Den Wettlauf mit den Angreifern können wir nur gewinnen, wenn wir einerseits die Grenzen KI-basierter Angriffe verstehen, andererseits KI nutzen, um flexibler und schneller auf neu entstehende Bedrohungen zu reagieren." Sein Team wird sich gemeinsam mit den Wissenschaftlern der Professur für Maschinelles Lernen für Computer Vision unter Leitung von Björn Andres den Themen ‚Internet-Messungen und Clustering-Verfahren zur Absicherung von Internet-Diensten‘ widmen. Dabei geht es insbesondre darum, auffällige Muster in Kommunikationsdiensten auch dann zu erkennen, wenn diese bisher unbekannt sind.

AI.Auto-Immune wird durch das Forschungsrahmenprogramm der Bundesregierung zur IT-Sicherheit ‚Digital. Sicher. Souverän.‘ in der Maßnahme ‚Sichere Zukunftstechnologien in einer hypervernetzten Welt: Künstliche Intelligenz‘ gefördert.