Kooperative künstliche Intelligenz
Welche Mechanismen erleichtern die erfolgreiche Zusammenarbeit zwischen Mensch und Maschine sowie eine von Maschinen vermittelte menschliche Zusammenarbeit?
Nullsummen-Interaktionen, wie Brett- und Computerspiele, stoßen in der Forschung zur künstlichen Intelligenz (KI) auf großes Interesse, da KI die menschliche Leistung darin übertrifft. Der Großteil der menschlichen sozialen Interaktionen sind jedoch keine Nullsummen-Interaktionen, sondern erfordern Kooperation und Koordination. Der Erfolg der menschlichen Spezies hing in ihrer gesamten evolutionären Vergangenheit weitgehend von ihrer einzigartigen Fähigkeit zur Kooperation ab. Der Einsatz von KI-Agenten als Kooperationspartner im sozialen Leben birgt deshalb immenses Potenzial, stellt uns aber auch vor die Herausforderung, KI-Systeme mit kompatiblen Fähigkeiten zur Zusammenarbeit mit Menschen auszustatten. Solche optimistischen Ansichten gehen zurück auf frühe Denker wie Norbert Wiener, der eine Symbiose zwischen Mensch und Maschine für vorstellbar hielt.
Dieses Forschungsthema befasst sich daher mit kooperativen Mensch-Maschine-Interaktionen, kurz: mit kooperativer KI.
Die Entwicklung von Schlüsselkonzepten der kooperativen KI und ihrer Messbarkeit beruht auf der Erforschung des Verhaltens von Maschinen. Aktuelle Verhaltensstudien zeigen, dass Algorithmen mit dynamischem Verstärkungslernen (engl.: dynamic reinforcement learning algorithms) eine Zusammenarbeit mit Menschen in unterschiedlichen ökonomischen Spielszenarien aufbauen und aufrechterhalten können. In verschiedenen Disziplinen wie der Verhaltensökonomie, der Mensch-Computer-Interaktion und der Psychologie wächst das Interesse an Szenarien, in denen Menschen und Maschinen kooperieren können. In einer kürzlich erschienenen Erhebung des Forschungsstands wurden dazu mehr als 160 verhaltenswissenschaftliche Studien gezählt. Bei näherer Betrachtung dieser Studien wird jedoch ein grundlegender Dissens hinsichtlich eines zentralen methodischen Merkmals deutlich: Wie sollen die Gewinnausschüttungen für die Maschine gestaltet werden?
