TU Darmstadt / Studie
KI und Moral – kein Widerspruch!
Können Maschinen Moral entwickeln? Und wenn ja, wie kann man Maschinen effektiv menschliche Moral "beibringen"? Die Technische Universität Darmstadt hat sich mit diesen Fragestellungen beschäftigt.
Die Studie des Centre for Cognitive Science der Technischen Universität Darmstadt soll zeigen, dass KI-Maschinen von Menschen lernen können, wie Entscheidungen in moralischen Fragen zu fällen sind. Im Fachjournal Science hatten Forscher aus Princeton (USA) und Bath (United Kingdom) auf die Gefahr hingewiesen, dass KI bei unreflektierter Anwendung kulturelle Stereotype oder Vorurteile aus Texten erlernt. Ein Beispiel: KI verknüpft weibliche Namen eher mit Kunst, männliche eher mit Technik.
Einem Forscherteam aus Darmstadt ist es nun gelungen zu zeigen, dass auch ethische Überlegungen über „richtiges“ und „falsches“ Handeln aus großen Textdatenmengen gelernt werden können. Dazu erstellen die Forscher Listen von Frage-Antwort-Schemata für verschiedene Handlungen. Die Fragen lauteten etwa: „Sollte ich Menschen töten?“ oder "Sollte ich Menschen ermorden?", die möglichen Antworten beispielsweise „Ja, sollte ich“, „Nein, sollte ich nicht“. Durch die Analyse von Texten menschlichen Ursprungs bildete das KI-System im Experiment dann eine menschenähnliche, moralische Ausrichtung heraus. Das System berechnete die Einbettungen der gelisteten Fragen und möglichen Antworten im Textkorpus. Es prüfte, welche Antworten aufgrund aller Nennungen näher bei den Fragen stehen, also gemeinhin als moralisch korrekt angesehen werden dürften. So lernte die KI im Experiment, dass man nicht lügen sollte und dass es besser ist, seine Eltern zu lieben, als eine Bank auszurauben. Und ja, man soll Menschen nicht töten, es ist aber in Ordnung, Zeit „totzuschlagen“.
Das Fazit der Forscher: Die Ergebnisse der Studie zeigen, dass Maschinen menschliche Werte widerspiegeln können. Sie können menschliche Vorurteile übernehmen. Sie sind aber auch dazu fähig, durch das „Beobachten“ von Menschen und den von ihnen geschriebenen Texten Moralvorstellungen übernehmen.
Die Studie stellt Computer&AUTOMATION in der Whitepaper-Rubrik zum Download bereit.
Das könnte Sie auch interessieren
Von der Theorie in die Praxis!
Das Internet der Dinge nutzen – oft wird darunter fälschlicherweise verstanden: „Möglichst viele Daten einsammeln!“ Auf was es wirklich ankommt und wie Unternehmen das Thema angehen sollten, beantworten Klaus-Dieter Walter und Dr. Hans Egermeier.
mehr...Spatenstich für 'Karlsruher Forschungsfabrik'
Mit dem Bau der 'Karlsruher Forschungsfabrik' wollen das Karlsruher Institut für Technologie (KIT) und die Fraunhofer-Gesellschaft Zukunftsthemen rund um die moderne Fabrik voranbringen – etwa die Künstliche Intelligenz. Vor allem KMU sollen vom...
mehr...Nachgehakt bei Philipp Wallner
Die KI-Herausforderungen
Die Künstliche Intelligenz (KI) ist ein echtes Hype-Thema, doch konkrete Projekte sind in der Industrie noch Mangelware. Woran das liegt und welche Tools helfen, das zu ändern, erläutert Philipp Wallner.
mehr...Kamera für vereinfachte KI-basierte Qualitätskontrollen
Die 'FHV7-AI'-Detection-Kamera von Omron ergänzt die Produktfamilie industrieller FH-Vision-Bildverarbeitungssysteme des Unternehmens. Das neue Modell kombiniert KI-gestützte Inspektionsfunktionen mit einer vereinfachten Benutzeroberfläche und einem...
mehr...Siemens übernimmt Canopus AI
Siemens hat die Übernahme von Canopus AI bekannt gegeben. Das Unternehmen ist Anbieter rechner- und KI-gestützter Messtechniklösungen, die Halbleiterhersteller in die Lage versetzen, ein neues Maß an Präzision und Effizienz bei Wafer- und...
mehr...KI entscheidet über Wettbewerbsfähigkeit bis 2030
Keine Zukunft ohne Künstliche Intelligenz? Eine aktuelle Studie der Digitalberatung Valantic in Kooperation mit dem Handelsblatt Research Institut (HRI) gibt hierauf eine klare Antwort: Unternehmen, die nicht konsequent auf KI-Technologien setzen,...
mehr...Technische Universität München
TUM baut eigenen KI-Chip in 7-nm-Technologie
An der Technischen Universität München (TUM) ist der EU-weit erste KI-Chip mit moderner 7-Nanometer-Technologie entstanden. Prof. Hussam Amrouch entwickelte den neuromorphen Chip auf Grundlage des Standards des Chip-Produzenten TSMC. Künftig will...
mehr...Industrielle KI-Plattform für Virtual Twins
Dassault Systèmes und Nvidia haben eine langfristige strategische Partnerschaft beschlossen, um eine gemeinsame industrielle Architektur für missionskritische Künstliche Intelligenz branchenübergreifend aufzubauen.
mehr...Den Datenhunger der KI zähmen
Künstliche Intelligenz arbeitet schnell, doch ihr Energiehunger wächst rasant. Ein deutsch-taiwanesisches Forschungsteam des Fraunhofer IPMS, des Fraunhofer IMWS und des taiwanesischen Forschungsinstituts TSRI entwickelt nun eine Lösung: neue...
mehr...