Kooperative künstliche Intelligenz

Welche Mechanismen ermöglichen eine erfolgreiche Kooperation zwischen Mensch und Maschine sowie eine durch Maschinen vermittelte Kooperation zwischen Menschen?

Nullsummen-Interaktionen wie Brett- und Computerspiele haben in der Forschung zur künstlichen Intelligenz (KI) großes Interesse auf sich gezogen, nachdem KI die menschliche Leistung darin übertroffen hat. Ein großer Teil des menschlichen Soziallebens besteht jedoch aus Nicht-Nullsummen-Interaktionen, die Kooperation und Koordination beinhalten. Im Laufe seiner Evolutionsgeschichte hing der Erfolg der menschlichen Spezies maßgeblich von ihrer einzigartigen Fähigkeit zur Kooperation ab. Der Einsatz von KI-Agenten als Kooperationspartner im sozialen Leben birgt immenses Potenzial, stellt uns aber auch vor die Herausforderung, KI-Systeme mit Fähigkeiten auszustatten, die eine Kooperation mit Menschen ermöglichen. Solche optimistischen Vorstellungen reichen zurück bis zu frühen Denkern wie Norbert Wiener, der sich eine Symbiose von Mensch und Maschine vorstellte.

Dieses Forschungsthema befasst sich daher mit kooperativen Mensch-Maschine-Interaktionen, kurz: mit kooperativer KI.

Die Entwicklung und Messung zentraler Konzepte kooperativer KI stützt sich auf die Erforschung maschinellen Verhaltens. So zeigen aktuelle Verhaltensstudien, dass dynamische Algorithmen des bestärkenden Lernens (Reinforcement Learning) in verschiedenen ökonomischen Spielen eine Kooperation mit Menschen aufbauen und aufrechterhalten können. In unterschiedlichen Disziplinen wie der Verhaltensökonomie, der Mensch-Computer-Interaktion und der Psychologie wächst das Interesse an Situationen, in denen Menschen und Maschinen kooperieren können.

Beispielprojekte

Auswirkungen des frühen Kontakts mit LLM-basierten Chatbots

Wie beeinflusst die zunehmende Zugänglichkeit von KI, etwa durch die Verbreitung von ChatGPT, die Einstellung der Öffentlichkeit gegenüber KI?

Partnerwahl in hybriden Mensch-KI-Kollektiven

Wann und wie werden Maschinen beginnen, andere Menschen als unsere Vertrauenspartner zu verdrängen?

Topologien des Mensch-Maschine-Lernens

Stören adversariale Vorhersagesysteme die kollektive Koordination von Menschen, oder fördern sie neue Formen adaptiver und kultureller Komplexität?

Mensch-Maschine-Kooperation

Wie lassen sich Algorithmen des maschinellen Lernens so gestalten, dass sie mit Menschen und anderen Maschinen auf einem Niveau kooperieren, das mit menschlicher Kooperation vergleichbar ist?

Soziale Präferenzen gegenüber Maschinen und Menschen

Die Bereitschaft von Menschen, mit Maschinen zu kooperieren, hängt stark davon ab, wie die Auszahlungen für die Maschine umgesetzt werden.

Weitere Themenschwerpunkte