"Die Herausforderungen, die die Revolution der Informationstechnologie mit sich bringt, sind nicht mehr nur Probleme der Informatik"
Fragen an Iyad Rahwan, einen der weltweit wichtigsten Experten für künstliche Intelligenz
Iyad Rahwan wurde vom Tagesspiegel zu einem der 100 einflussreichsten Wissenschaftler*innen in Berlin 2023 gekürt. Der syrisch-australische Informatiker und Direktor des Forschungsbereichs Mensch und Maschine am Max-Planck-Institut für Bildungsforschung untersucht, wie intelligente Maschinen die Menschheit beeinflussen. Im Interview spricht er über seine Forschung, Chatbots als Sparringspartner und wie Kunst zur KI-Forschung beitragen kann.
Was ist der Schwerpunkt Ihres Forschungsbereichs Mensch und Maschine?
Iyad Rahwan: Bei uns geht es um das Verständnis und die Gestaltung der Auswirkungen neuer Technologien. Diese Technologien, wie digitale Medien und künstliche Intelligenz (KI), können unsere Gesellschaft nachhaltig verändern – zum Guten wie zum Schlechten. Wir forschen interdisziplinär, um zu verstehen und zu gestalten, wie diese neuen Technologien beeinflussen, wie wir leben und arbeiten. Aber auch umgekehrt: Wir wollen wissen wie unser menschliches Verhalten die Entwicklung der KI beeinflusst. Ich bin überzeugt, dass wir nur auf der Grundlage wissenschaftlicher Erkenntnisse in der Lage sein werden, dies zu kontrollieren, Vorteile zu nutzen und Schaden zu minimieren.
Ihre Forschung hat einen futuristischen Ansatz. Wie gehen Sie dabei vor?
Rahwan: Wir arbeiten unter anderem mit dem Konzept der Science Fiction Sciences (SFS). Science Fiction ermöglicht es uns, Welten zu entwerfen, die durch wissenschaftliche und technologische Fortschritte geprägt sind. So können wir untersuchen, wie diese das menschliche Verhalten beeinflussen könnten. Wir simulieren also diese Zukunftsszenarien mit Hilfe von SFS, um Hypothesen über die menschlichen Reaktionen auf künftige Technologien aufzustellen. Unser Projekt "Blurry Faces", das von der Black Mirror-Episode "Arkangel" inspiriert wurde, untersucht beispielsweise die Auswirkungen von depersonalisierenden Filtern auf prosoziales Verhalten.
Sie verfolgen einen breiten und interdisziplinären Ansatz. Wie tragen Sie dem Rechnung?
Rahwan: Die Herausforderungen, die die Revolution der Informationstechnologie mit sich bringt, sind nicht mehr nur Probleme der Informatik. Unser Forschungsbereich ist daher weder eine traditionelle Informatikabteilung noch sind wir ein verhaltenswissenschaftlicher Bereich. Stattdessen bringen wir Expert*innen aus verschiedenen Bereichen zusammen, z. B. aus der angewandten Mathematik, der Informatik, der Wirtschaft, der Politikwissenschaft, der Psychologie und der Physik. Darüber hinaus arbeiten wir mit Fachleuten aus den Medien, der Kunst und den Geisteswissenschaften zusammen, wie der Filmwissenschaft, Philosophie, Science Fiction und der bildende Kunst.
Aber nicht nur Interdisziplinarität ist notwendig. In Anbetracht der hohen Volatilität neuer Technologien ist unser Forschungsbereich ein wenig wie ein Startup-Inkubator aufgebaut. Da diese nicht wissen, wie der Markt reagieren wird, brauchen sie die Flexibilität, verschiedene Ideen auszuprobieren. Dies erfordert ein gleichberechtigtes Umfeld, aber auch die Autorität, Dinge im Falle von Versagen schnell fallen zu lassen.
KI-Werkzeuge entwickeln sich rasant weiter und werden für viele zu einem festen Bestandteil des täglichen Lebens. Worin liegt Ihrer Meinung nach das Potenzial dieser Entwicklung?
Rahwan: Ich bin überzeugt, dass der verantwortungsvolle Einsatz neuer Technologien unser Leben erheblich verbessern kann. Künstliche Intelligenz bietet enorme Möglichkeiten, von der Verbesserung des Zugangs zu hochwertiger Gesundheitsversorgung und Bildung bis hin zur Beschleunigung des wissenschaftlichen und medizinischen Fortschritts. Die Digitalisierung kann auch zur Verbesserung der Lebensumstände beitragen, indem sie zum Beispiel Kindern, die in Armut leben, qualitativ hochwertige, personalisierte Nachhilfelehrer zur Verfügung stellt, wie das ChatGPT-gestützte "Khanmigo", das kürzlich von der Khan Academy angekündigt wurde.
Auf der anderen Seite gab es zahlreiche Warnungen vor den möglichen Folgen dieser KI-Entwicklung. Wie bewerten Sie diese Bedenken angesichts Ihrer Forschung?
Rahwan: Auf diese Frage gibt es keine einfache Antwort. Auf der einen Seite stellen sich kurz- und mittelfristige Fragen dazu, inwiefern KI die menschliche Gesellschaft verändern wird – angefangen bei der Übernahme von Aufgaben, die heute von menschlichen Arbeitskräften ausgeführt werden, über die beschleunigte Verbreitung von Fake News bis hin zur Bekräftigung von Stereotypen in Unternehmen und im öffentlichen Sektor. Auf der anderen Seite stehen Fragen zu längerfristigen, grundlegenen Risiken. Fragen, die sich darum drehen, ob Maschinen möglicherweise kompetenter als Menschen in allen Bereichen werden und dadurch in einen existenziellen Konflikt mit uns geraten.
Diese Bedenken müssen ernst genommen werden, auch weil wirtschaftliche und politische Interessen dahinter stehen. Wir müssen diese Phänomene sorgfältig erforschen und auf der Grundlage der Ergebnisse einen gesellschaftlichen Konsens schaffen.
Wie integrieren Sie persönlich KI in Ihr tägliches Leben?
Rahwan: Wir alle nutzen KI tagtäglich. Nehmen Sie das Beispiel der Text-to-Speech-Systeme, wenn Sie Ihr Smartphone bitten, eine Seite vorzulesen. Das ist KI. Wir nennen es nicht mehr KI, weil wir es als so selbstverständlich ansehen. Aber in der Vergangenheit war dies eine echte Herausforderung für KI. Andere Beispiele sind Navigationstechnologien wie Google Maps oder soziale Medien, in denen KI Ihre Inhalte personalisiert. Im Moment verwende ich KI intensiv für Brainstorming. Fortschrittliche Chatbots wie ChatGPT sind inzwischen so leistungsfähig, dass man mit ihrer Hilfe problemlos eine Party organisieren oder sogar ein Problem bei der Arbeit besprechen kann. Wenn ich ein wissenschaftliches Paper einreichen oder einen Meinungsartikel schreiben will, benutze ich den Chatbot als Sparringspartner und bitte die KI, als sehr skeptische Person zu agieren, um alle Schwächen der Argumente aufzuzeigen und sogar einige Gegenargumente zu liefern. Das hilft mir wirklich, meine Gedanken zu sortieren.
Ihr Forschungsbereich wurde 2019 am Max-Planck-Institut für Bildungsforschung eingerichtet, und Sie sind mit Ihrer Familie nach Deutschland gezogen. Können Sie uns über diese Erfahrung berichten?
Rahwan: Die Max-Planck-Gesellschaft ist eine wirklich einzigartige Institution, die ihren Forscher*innen vertraut und deren Strukturen uns eine wissenschaftliche Freiheit bietet, die es wahrscheinlich nicht noch einmal gibt. Das ermöglicht es uns, die großen Fragen langfristig anzugehen. Dieser Aspekt hat mich aus wissenschaftlicher Sicht gereizt..
Außerdem lebe ich sehr gerne in Berlin. Ich habe immer in Großstädten gelebt und fühle mich in kosmopolitischen Städten mit Menschen, die von überall her kommen und verschiedene Sprachen sprechen, wohl. Berlin ist eine so pulsierende, vielfältige Stadt, und jeder kann seine Nische finden.
Sie haben auf internationaler Ebene gearbeitet und geforscht, auch an renommierten Einrichtungen wie dem Massachusetts Institute of Technology (MIT). Was kann sich die deutsche Wissenschaftsgemeinschaft vom Ausland abschauen?
Rahwan: Deutschlands umfangreiche Forschungsförderung und das öffentliche Vertrauen in die Wissenschaft sind klare Stärken. Die philanthropische Unterstützung der Forschung kann jedoch noch verbessert werden. Vermögende Menschen, die die Wissenschaft unterstützen, spielen in den USA eine wichtige Rolle – zum Beispiel in der Krebsforschung oder bei der Erforschung der Auswirkungen von Digitalisierung auf die Demokratie. Ein weiterer Punkt, von dem die deutsche Wissenschaftslandschaft im internationalen Kontext lernen kann, ist das Branding. Wissenschaftseinrichtungen in anderen Ländern investieren in ihr Image und ziehen so international Spitzenkräfte an. Deutschland hat eine herausragende Wissenschaft, und könnte so seine Bekanntheit noch steigern.
Sie sind nicht nur ein angesehener Wissenschaftler, sondern auch Künstler. In Ihren Comics und Gemälden explorieren Sie KI. Wie bereichert diese künstlerische Perspektive Ihre Forschung?
Rahwan: Ich bin von Kunst fasziniert. Sie bietet eine einzigartige Möglichkeit, Emotionen und Aspekte unserer Welt zu erforschen, die die Wissenschaft allein nicht erfassen kann. Ich betrachte sie als Ergänzung zur Wissenschaft, um die Welt zu beschreiben und zu verstehen und nutze sie, um über wissenschaftliche Fragen und Szenarien nachzudenken. In meinen Cartoons stelle ich Situationen dar, in denen unsere Interaktion mit Maschinen zu absurden Ergebnissen führt, und untersuche, ob dies auch in der realen Welt geschehen kann. Auf diese Weise inspirieren meine Comics auch wissenschaftliche Fragen und Projekte. Mit meinen Ölgemälde möchte ich zeigen, dass Maschinen auch Emotionen wie Angst, Faszination oder Empathie hervorrufen können. Wenn Maschinen besser in der Lage sind, Emotionen zu zeigen, werden wir Empathie für sie empfinden. Indem wir ihnen mithilfe der Kunst ein Gesicht geben, können wir heute schon darüber nachdenken, ob wir uns auf diese Beziehungen einlassen wollen.
Iyad Rahwan ist Direktor des Max-Planck-Instituts für Bildungsforschung in Berlin, wo er den Forschungsbereich für Mensch und Maschine gegründet hat und leitet. Er ist Honorarprofessor für Elektrotechnik und Informatik an der Technischen Universität Berlin. Bis Juni 2020 war er außerordentlicher Professor für Medienkunst und -wissenschaften am Massachusetts Institute of Technology (MIT). Rahwan hat einen Doktortitel von der University of Melbourne, Australien. Er ist außerdem Cartoonist und Künstler. Mit seiner Kunst will er aufklären und eine Diskussion über die gesellschaftlichen Auswirkungen der künstlichen Intelligenz anregen.
