Sicherheit & Ethik verhaltensbasierter KI

Welche Risiken ergeben sich aus der Interaktion zwischen Menschen und intelligenten Maschinen, und wie können sie gemildert werden? 

Wir interagieren heutzutage zunehmend mit Maschinen, die durch künstliche Intelligenz gesteuert werden. Sogar in Kinderspielzeugen ist KI implementiert. KI treibt Heimassistenten wie Amazons Alexa an, die zunehmend das Leben ihrer über 100 Millionen Nutzer*innen steuern. KI übernimmt auch zunehmend Aufgaben im Namen des Menschen, von der Preisfestsetzung auf Online-Verkaufsplattformen bis hin zur Vernehmung von Verdächtigen.  

Die wichtigsten Fragen, mit denen sich das Forschungsthema Sicherheit & Ethik verhaltensbasierter KI befasst, sind: Könnten Maschinen schwarze Schafe sein und menschliches Verhalten korrumpieren? Wie sollten wir KI-Systeme gestalten, um ethische Risiken und Sicherheitsrisiken zu vermeiden? Und wie schätzen Menschen auf der ganzen Welt diese Risiken ein?

Beispielprojekte

Delegation an KI

Beeinflusst die Delegation von Entscheidungen an KI-Agenten unehrliches Verhalten und die Ausführung unethischer Handlungen – und wie lässt sich dieses Risiko verringern?

Angst vor KI im Kulturvergleich

Wie stark fürchten Menschen in verschiedenen Ländern, dass KI folgenreiche Rollen übernimmt, die bislang Menschen vorbehalten waren?

Konsumentenpsychologie und KI

Wie lässt sich menschliches Vertrauen in KI so kalibrieren, dass wir ihr weder zu viel noch zu wenig vertrauen?

Moral Machine

Wie beeinflussen moralische Dilemmata bei der Entwicklung autonomer Fahrzeuge das Vertrauen der Öffentlichkeit in fahrerlose Autos und die Wahrnehmung menschlicher Kontrolle über KI-Entscheidungen?

Weitere Themenschwerpunkte