An dem Projekt beteiligt waren das Robotics Innovation Center des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) GmbH und die Arbeitsgruppe Robotik der Universität Bremen – beide unter der Leitung von Prof. Frank Kirchner. Anwendungen für die Ergebnisse sind im Weltall ebenso denkbar wie in Produktionshallen oder bei der Rehabilitation von Schlaganfallpatienten. Die Raumfahrt-Agentur des Deutschen Zentrums für Luft- und Raumfahrt (DLR) förderte das Projekt mit Mitteln des Bundesministeriums für Wirtschaft und Energie (BMWi) über fünf Jahre mit rund 3,7 Mio. Euro. Neurowissenschaftler, Informatiker, Mathematiker, Physiker und Ingenieure arbeiteten in IMMI gemeinsam an einer intelligenten Mensch-Maschine-Schnittstelle, die nicht nur die intuitive und effektive Steuerung eines oder mehrerer Roboter ermöglicht, sondern auch sich selbstständig an Änderungen des mentalen Zustands des Nutzers und an wechselnde Benutzer anpassen kann.

Im Gegensatz zu klassischen Brain-Computer-Interfaces beruht das entwickelte System auf der passiven Beobachtung des Bedieners durch Embedded Brain Reading. Dafür trägt der Bediener eine mit Elektroden bestückte Kappe, die es dem System mittels Elektroenzephalografie (EEG) ermöglicht, die Gehirnaktivität zu messen und spezifische Änderungen von Gehirnströmen zu interpretieren. Diese Änderungen erlauben zum Beispiel Aussagen über den Stand der Verarbeitung von präsentierter Information, über die Absichten des Bedieners oder über dessen kognitive Auslastung. Die Schnittstelle erhält dadurch wichtige Informationen, um den Menschen proaktiv in kritischen Situationen zu unterstützen oder die Effektivität der Steuerung anwenderspezifisch zu steigern. Hat der Bediener beispielsweise eine vom Roboter gesendete Warnmeldung übersehen, so weist ihn das System erneut darauf hin; ist der Anwender kognitiv überfordert, so wird seine Belastung reduziert.

Um die Handlungsabsicht und Aufgabenauslastung des Bedieners präzise einschätzen zu können, setzen die Forscherinnen und Forscher zusätzlich zum EEG auf Elektromyografie (EMG) zur Messung der Muskelaktivität und auf Eye-Tracking, das die Blickrichtung registriert. Auf diese Weise entsteht ein umfassendes Bild des kognitiven Zustands des Anwenders. Die Schnittstelle lernt aus diesen Daten und darauffolgenden Handlungen, welche Sequenzen in den Hirnströmen eine Wahrnehmung oder Aktion bedeuten. Auf diese Weise kann sich das System in Echtzeit an wechselnde Zustände des Benutzers und sogar automatisch an neue Benutzer anpassen.

Neue Hardware-Komponenten und Software-Frameworks

Die Vielzahl komplizierter mathematischer Verfahren, die beim echtzeitfähigen und adaptiven Brain Reading zur Anwendung kommt, erfordert eine besonders große Rechenleistung. Gleichzeitig soll der Bediener möglichst mobil sein und sich frei bewegen können, was den Einsatz großer Rechner ausschließt. Aus diesen Gründen wurde in IMMI ein kompaktes Brain-Reading-System entwickelt, das eine normale CPU mit einem FPGA auf einer 7 x 10 cm großen Elektronikplatine kombiniert. FPGAs ermöglichen parallele Verarbeitungsoperationen und können daher große Datenmengen in kurzer Zeit verarbeiten. Das entwickelte System lässt sich entweder eigenständig mobil oder zur Optimierung von Embedded Brain Reading in ein technisches System eingebettet nutzen.

Die Software-Frameworks »pySPACE« und »reSPACE« wurden im Projekt eigens für die Verarbeitung großer Datenmengen entwickelt. Die Open-Source-Software »pySPACE« erlaubt eine einfache Konfiguration und parallele Ausführung komplexer Vergleiche sowie die Optimierung und Visualisierung von über 200 verschiedenen Verarbeitungs- und Auswertungs-Methoden. Über eine automatisch erzeugte Hochleistungsschnittstelle kann »pySPACE« auf »reSPACE« zugreifen und dadurch zeitkritische Verarbeitungsschritte in den FPGA-Baustein auslagern. Mit Hilfe von »reSPACE« können anwendungsspezifische Hardware-Beschleuniger die Verarbeitung der Daten effizient und in Echtzeit durchführen.

Neben Anwendungen in der Raumfahrt sollen die in IMMI entwickelten Techniken auch in der medizinischen Rehabilitation eingesetzt werden. Im kürzlich gestarteten Projekt »RECUPERA-Reha« arbeiten Wissenschaftlerinnen und Wissenschaftler des DFKI an Methoden zum Aufbau eines mobilen Ganzkörper-Exoskeletts, das durch die Vorhersage von Bewegungsabsichten auf Basis der in IMMI entwickelten Techniken Schlaganfall-Patienten bei der Rehabilitation unterstützen soll.