"Maschinen perfektionieren zunehmend ihre Interaktionsfähigkeit mit uns"
Die wichtigsten Fragen und Antworten zu The Face Game
Ihr neues multidisziplinäres Projekt, The Face Game, zielt darauf ab, das Zusammenspiel von Menschen und künstlicher Intelligenz (KI) besser zu verstehen. Iyad Rahwan vom Max-Planck-Institut für Bildungsforschung, Jean-Francois Bonnefon von der Toulouse School of Economics und Aythami Morales Moreno von der Universidad Autonoma de Madrid sprechen über die Motivation für ihr Projekt, die Herausforderungen, mit denen sie konfrontiert sind und die drängendsten Fragen zur rasanten Entwicklung von KI.
Sie haben kürzlich das groß angelegte Online-Experiment The Face Game gestartet. Worum geht es?
Jean-Francois Bonnefon: Wir wollen mit The Face Game herausfinden, wie künstliche Intelligenzen entscheiden, wie sie den Menschen gegenüber auftreten – genauer gesagt, welches menschliche Gesicht sie sich geben, abhängig von dem Ziel, das sie verfolgen und den Menschen, mit denen sie interagieren.
Iyad Rahwan: Maschinen perfektionieren zunehmend ihre Interaktionsfähigkeiten mit uns. Der bemerkenswerte Aufstieg von Chatbots wie ChatGPT zeigt, dass sich Maschinen jetzt fließend in mit uns unterhalten können. Die nächste Herausforderung für Maschinen wird die nonverbale Kommunikation sein. Wir Menschen kommunizieren miteinander auch nonverbal – angefangen von unserer Kleidung, bis hin zu unserer Mimik und Körpersprache. Bei The Face Game geht es um den „ersten Eindruck“, den die KI bei der Interaktion mit uns vermitteln möchte.
Was ist die Motivation für dieses Projekt? Was ist neu daran?
Jean-Francois Bonnefon: Profilbilder, auf denen menschliche Gesichter zu sehen sind, sind allgegenwärtig im Internet und spielen eine entscheidende Rolle bei der Entstehung des ersten Eindrucks, den wir auf andere Menschen machen. Wir alle spielen mit unserem Aussehen und entscheiden, welchen Eindruck wir bei anderen hinterlassen möchten. Künstliche Intelligenzen beobachten uns bei diesem Spiel und werden dabei lernen, welches Gesicht, welchen Eindruck bei dem ein oder anderen hinterlässt. Dadurch werden sie lernen, sich je nach Ziel oder den Personen, mit denen sie interagieren, selbst ein menschliches Gesicht zu geben. Wir müssen verstehen, wie sie dies erreichen und welche Auswirkungen es hat. Gleichzeitig gibt es zunehmende Bedenken hinsichtlich der Fähigkeit von KI, uns durch personalisierte Kommunikationsstrategien zu manipulieren und dass sie versuchen könnte, sich selbst menschliche Züge zu geben, um unser Misstrauen gegenüber Maschinen zu umgehen. The Face Game agiert an der Schnittstelle dieser Bedenken.
Welche Herausforderungen begegnen Ihnen?
Jean-Francois Bonnefon: Eine der Herausforderungen besteht darin, dass die KI in The Face Game lernen muss, sich selbst ein Gesicht zu geben, um ihre Ziele in der Interaktion mit bestimmten Personen zu erreichen. Dafür benötigen wir eine große Anzahl von Menschen, die dieses Spiel miteinander spielen, damit die KI ausreichend Beobachtungen machen kann. Es handelt sich also nicht nur um technische Herausforderungen, sondern auch um logistische. Wir brauchen eine vielfältige Teilnehmergruppe aus verschiedenen Teilen der Welt, um sicherzustellen, dass unsere Ergebnisse nicht nur auf europäischen Gesichtern basieren. Dementsprechend mussten wir dafür sorgen, dass das Experiment Spaß macht und lohnenswert für die Teilnehmenden ist. Gleichzeitig versuchen wir, es weltweit bekannt zu machen! Da wir unsere Daten nach Abschluss des Projekts allen Forschenden zur Verfügung stellen werden, hoffen wir, dass die wissenschaftliche Community uns bei der Verbreitung helfen wird, um einen Datensatz zu schaffen, von dem alle profitieren. Der Schutz der Privatsphäre der Nutzer*innen ist dabei sehr wichtig. Gemäß den Vorschriften der Datenschutz-Grundverordnung (DSGVO) und dem Health Insurance Portability and Accountability Act (HIPAA) werden sensible Daten wie Bilder von Gesichtern nicht weitergegeben. Informationen, die zu Forschungszwecken weitergegeben werden, werden vollständig anonymisiert.
Aythami Morales: Was die Entwicklung von KI im Projekt angeht, so streben wir, wie von Jean-Francois bereits erwähnt, an, dass das Projekt globale Auswirkungen hat. Dafür müssen wir eine KI entwickeln, die sich an verschiedene kulturelle Kontexte weltweit anpassen kann. Im Projekt untersuchen wir den Einsatz neuer generativer Modelle von Bildern und das auf verantwortungsvolle Weise. Wir analysieren verschiedene Strategien des maschinellen Lernens und deren Einfluss auf das Verhalten von Menschen. Ein zentrales Anliegen des Projekts besteht darin, die Entwicklung verantwortungsvoller KI voranzutreiben und Methoden zu entwickeln, die eine sichere Integration von KI in unsere Gesellschaft ermöglichen.
Welche Technologie steckt hinter The Face Game?
Aythami Morales Moreno: Die KI in The Face Game basiert auf neuronalen Netzen, die darauf trainiert wurden, Vorhersagen zu treffen, die ihren Gewinn in jedem Spiel maximieren. Die neuronalen Netze wurden aufgrund ihrer hervorragenden Leistung bei überwachten Lernaufgaben (supervised learning) und ihrer weit verbreiteten Verwendung in den meisten KI-Technologien ausgewählt. Obwohl wir speziell für The Face Game trainierte neuronale Netze verwendet haben, betrachten wir die verwendeten Modelle als gute Beispiele für automatische Entscheidungsfindungssysteme, die mit Algorithmen des maschinellen Lernens trainiert wurden.
Was sind Ihrer Meinung nach die drängendsten Fragen für Forscher*innen im Hinblick auf die rasante Entwicklung der KI?
Iyad Rahwan: Auf diese Frage gibt es keine einfache Antwort. Aber es gibt zwei große Herausforderungen. Auf der einen Seite gibt es kurz- und mittelfristige Fragen dazu, inwiefern KI die menschliche Gesellschaft beeinträchtigen wird – angefangen bei der Ersetzung von Aufgaben, die heute von menschlichen Arbeitskräften ausgeführt werden, über die Beschleunigung der Verbreitung von Fake News bis hin zur Bekräftigung von Stereotypen in Unternehmen und im öffentlichen Sektor.
Auf der anderen Seite stehen Fragen zu längerfristigen existenziellen Risiken. Fragen, die sich darum drehen, ob Maschinen möglicherweise kompetenter als Menschen in allen Bereichen werden und dadurch in einen existenziellen Konflikt mit uns geraten.
Es ist möglich, sowohl den kurz- als auch den langfristigen Herausforderungen Aufmerksamkeit zu schenken, da sie sich nicht gegenseitig ausschließen. Gleichzeitig ist wichtig zu anzuerkennen, dass KI enorme Möglichkeiten bietet, unser Leben zu verbessern. Diese reichen von einem besseren Zugang zu hochwertiger Gesundheitsversorgung und Bildung bis hin zur Beschleunigung wissenschaftlicher und medizinischer Fortschritte.
Aythami Morales: KI hat das Potenzial, unsere Gesellschaft in vielen Bereichen wie Gesundheit, Nachhaltigkeit oder Wirtschaft zu verändern, aber sie birgt auch Risiken. In sehr kurzer Zeit hat diese Technologie den Weg aus den Laboren in unsere Gesellschaft gefunden. Es ist daher notwendig, neue Vorschriften, Verfahren und Technologien zu entwickeln, die eine sichere Integration der KI in unser tägliches Leben gewährleisten. Genau wie bei der Entwicklung eines neuen Automodells ist die Sicherheit entscheidend, und dementsprechend sollten die Sicherheit und die Rechte der Bürger*innen bei neuen KI-basierten Entwicklungen im Vordergrund stehen.
In einem viel beachteten Artikel in der Fachzeitschrift Nature haben Sie eine wissenschaftliche Forschungsagenda zum Thema maschinelles Verhalten (Machine Behavior) formuliert. Könnten Sie bitte erläutern, wie diese Agenda aussieht und warum sie notwendig ist?
Iyad Rahwan: Die in unserem Nature-Artikel skizzierte Forschungsagenda zu Machine Behavior zielt darauf ab, Systeme der künstlichen Intelligenz (KI) und des Maschinellen Lernens (ML) als Agenten mit beobachtbarem Verhalten wissenschaftlich zu untersuchen. Unser Ansatz betrachtet diese Systeme wie Organismen in einem Ökosystem, deren Verhalten analysiert und verstanden werden kann.
Angesichts des zunehmenden Einflusses von KI und ML auf die Gesellschaft halten wir es für unerlässlich, nicht nur ihre technischen Grundlagen zu verstehen, sondern auch ihr Verhalten, ihre Interaktionen und ihre Auswirkungen in der realen Welt. Die Agenda erfordert einen interdisziplinären Ansatz, der Erkenntnisse aus der Informatik, der Psychologie, der Soziologie und der Ökonomie kombiniert, um zu untersuchen, wie sich diese Systeme unter verschiedenen Bedingungen verhalten, mit Menschen und anderen Maschinen interagieren und ihre Umgebung beeinflussen.
Diese Forschung ist aus mehreren Gründen von entscheidender Bedeutung. Erstens befasst sie sich mit der zunehmenden Autonomie und Komplexität dieser Systeme, die oft zu unvorhersehbarem und folgenreichem Verhalten führen. Zweitens erkennt sie den tiefgreifenden Einfluss, den diese Systeme auf menschliche Entscheidungen, soziale Dynamiken und gesellschaftliche Strukturen haben können. Und schließlich wird erkannt, dass diese Systeme auf komplexe Weise miteinander und mit ihrer Umgebung interagieren können, was potenziell zu neu entstehenden Phänomenen führen kann, die sich nicht ohne Weiteres aus dem Verhalten der einzelnen Systeme vorhersagen lassen.
Durch die Anwendung des Machine Behavior Frameworks möchten wir ein tieferes, differenzierteres Verständnis der Rolle von KI und ML in der Gesellschaft fördern. Dieses Wissen kann zu einer besseren Gestaltung, Regulierung und Steuerung dieser Systeme führen und sicherstellen, dass sie ethisch und nutzbringend eingesetzt werden. Dies ist nicht nur eine technische, sondern auch eine sozial- und verhaltenswissenschaftliche Herausforderung, die es erfordert, die Kluft zwischen den Disziplinen zu überbrücken, um die von KI durchdrungene Zukunft vollständig zu verstehen und zu steuern.
Zu den Personen:
Iyad Rahwan ist geschäftsführender Direktor des Max-Planck-Instituts für Bildungsforschung in Berlin, wo er den Forschungsbereich für Mensch und Maschine gegründet hat und leitet. Er ist Honorarprofessor für Elektrotechnik und Informatik an der Technischen Universität Berlin. Bis Juni 2020 war er außerordentlicher Professor für Medienkunst und -wissenschaften am Massachusetts Institute of Technology (MIT). Rahwan hat einen Doktortitel von der University of Melbourne, Australien.
Jean-François Bonnefon ist Forschungsdirektor an der Toulouse School of Economics und Inhaber des Lehrstuhls für Moralische KI am Institut für Künstliche und Natürliche Intelligenz in Toulouse. Er betreibt Verhaltensforschung im Bereich der Maschinenethik und der Mensch-Maschinen-Kooperation.
Aythami Morales ist außerordentlicher Professor an der Universidad Autonoma de Madrid und Mitglied der Forschungsgruppe BiDA-Lab. Er forscht über Anwendungen des maschinellen Lernens mit besonderem Interesse an verantwortungsvoller KI.
