Neuer Direktor: Iyad Rahwan erforscht die gesellschaftlichen Herausforderungen der Digitalisierung

Das Zusammenspiel von Mensch und Maschine

Algorithmen treten immer öfter als Akteure auf, die unser Zusammenleben verändern. Wie gehen Individuen und ganze Gesellschaften mit ihnen um? Wie kann ein Gemeinwesen die Entwicklung des Zusammenspiels von Mensch und Maschine im Zeitalter der Digitalisierung werteorientiert organisieren? Wie lassen sich die Möglichkeiten der künstlichen Intelligenz und des maschinellen Lernens zum Wohle des/r Einzelnen und der Gemeinschaft nutzen? Wie sind Bildungs- und Arbeitsprozesse im Kontext virtueller Institutionen zu gestalten? An diesen Fragen arbeitet der neue Forschungsbereich „Mensch und Maschine“ am Max-Planck-Institut für Bildungsforschung in Berlin. Direktor des neuen Bereichs ist Iyad Rahwan, der die letzten vier Jahre ein Labor am Massachusetts Institute of Technology (MIT) in Cambridge (USA) leitete.

Algorithmen treffen täglich Millionen von Entscheidungen, die sich auf unser Leben auswirken. Sie legen fest, welche Nachrichten wir in sozialen Medien zu sehen bekommen. Sie wählen aus, welche Produkte uns im Internet angeboten werden. Sie analysieren unsere Gewohnheiten und passen ihre Angebote entsprechend an.

Algorithmen können Vorlieben und Verhaltensweisen nicht nur vorhersagen, sondern auch verändern – und dies, ohne dass wir es merken. In vielen Fällen, wie bei Produktempfehlungen – „wer dieses Produkt kaufte, interessierte sich auch für jenes“ – mag dies harmlos und sogar praktisch sein. Doch wenn Algorithmen den Ausschlag dazu geben, wem ein Job angeboten, ein Visum ausgestellt oder eine Gefängnisstrafe zuerkannt wird, dann werden sie zu mächtigen gesellschaftlichen Institutionen, die das Leben einzelner beeinflussen und das gesellschaftliche Miteinander neu ordnen.

„Mich interessiert, wie Maschinen, egal wie intelligent sie sind, für uns arbeiten können, ohne uns zu manipulieren oder anderweitig zu schaden“, sagt Iyad Rahwan, Direktor des Forschungsbereichs „Mensch und Maschine“ am Max-Planck-Institut für Bildungsforschung. „Um dies zu erforschen, bedarf es des Dialogs meiner Heimatdisziplin, der Informatik, mit den Sozial- und Verhaltenswissenschaften.“

Das bekannteste Beispiel der bisherigen Arbeiten von Iyad Rahwan betrifft moralische Dilemmata im Umgang mit autonom fahrenden Fahrzeugen. Im Zentrum steht dabei die Frage, wie ein autonom fahrendes Auto in einer Gefahrensituation reagieren soll. Sollte der Algorithmus zum Beispiel so programmiert werden, dass eher ein Kind gefährdet wird, das bei Rot über die Straße geht, als der Fahrer des Fahrzeugs? Fragen wie diese ziehen psychologische, politische und soziologische Überlegungen nach sich. Wer definiert die Werte, nach denen der Algorithmus des Autos entscheidet – der Fahrer, der Autohersteller oder die Gesellschaft?

„Wir haben uns über die Entscheidung unseres Kollegen, vom MIT an unser Institut zu wechseln, sehr gefreut“, sagt Ulman Lindenberger, Geschäftsführender Direktor des Max-Planck-Instituts für Bildungsforschung. „Die Digitalisierung stellt die einzelne Person und die Gesellschaft vor veränderte Entwicklungsaufgaben. Die Forschung von Iyad Rahwan schafft die Voraussetzungen dafür, dass sie gemeistert werden können.“

„Informationstechnologien können zur Wohlfahrt und zum Wohlstand der Gesellschaft beitragen. Sie können aber auch das Entscheidungsvermögen kompromittieren und Handlungsspielräume einschränken – möglicherweise mit katastrophalen Folgen. Deswegen sollten wir die Regeln des Umgangs mit Algorithmen diskutieren und aushandeln“, sagt Iyad Rahwan. „Wir befinden uns auf der Suche nach einem neuen Sozialvertrag, der die Wirkungen der Digitalisierung berücksichtigt.“

Weitere Informationen
Iyad Rahwan studierte Informatik an der UAE University in Abu Dhabi sowie Informationstechnologie an der Swinburne University und der University of Melbourne, wo er 2005 promovierte. Im Anschluss war er erst als Dozent, dann als Senior Dozent für Informatik an der British University in Dubai beschäftigt. 2010 wechselte er als Associate Professor für Computer- und Informationswissenschaft an das Masdar Institute of Science and Technology in Abu Dhabi. Seit September 2015 war er als Associate Professor am Media Lab des Massachusetts Institute of Technology (MIT) in Cambridge tätig.