Sample Project: Moral Machine
Das Moral Machine-Experiment ist eine Online-Umfrage, die darauf angelegt ist, herauszufinden, wie Menschen verschiedene ethische Dilemmata im Zusammenhang mit autonomen Fahrzeugen einstufen.
Die Einführung selbstfahrender autonomer Fahrzeuge (englisch: Autonomous Vehicle, kurz: AV) verspricht, die Zahl der Verkehrsunfälle drastisch zu reduzieren. Bei einigen unvermeidlichen Unfällen werden AVs jedoch potenzielle Risiken abwägen müssen, z. B. das Risiko für die Fußgänger*innen auf der Straße im Verhältnis zum Risiko für die Insassen des Fahrzeugs. Selbst wenn diese „moralischen Dilemmata“ selten sind, stellt die Programmierung von Algorithmen, die diese Entscheidungen treffen, eine Herausforderung dar, da die Vorstellung, dass künstliche Intelligenz ohne menschliche Aufsicht Entscheidungen über Leben und Tod trifft, Unbehagen hervorruft. Experimentelle Ethik kann Herstellern und Regulierungsbehörden dabei helfen, die psychologischen Herausforderungen nachzuvollziehen, die das Vertrauen in fahrerlose Autos untergraben können, sowie unsere Fähigkeit, ihr Verhalten zu kontrollieren. Dies könnte für die breite Einführung des autonomen Verkehrs eine notwendige Voraussetzung sein.
Interaktive Webseite: Moral Machine web site
Publikationen
J.-F. Bonnefon, A. Shariff, I. Rahwan (2020). The moral psychology of AI and the ethical opt-out problem. In S. M. Liao (ed.) Ethics of Artificial Intelligence. Oxford University Press, Oxford, UK.
[Free preprint, Full book by Oxford University Press]
E. Awad, S. Dsouza, R. Kim, J. Schulz, J. Henrich, A. Shariff, J.-F. Bonnefon, I. Rahwan (2020). Reply to: Life and death decisions of autonomous vehicles. Nature. 579, pagesE3–E5
[paper, free read-only version] [Selected media: Cosmo]
E. Awad, S. Dsouza, J.-F. Bonnefon, A. Shariff, I. Rahwan (2020). Crowdsourcing moral machines. Communications of the ACM, March 2020, Vol. 63 No. 3, Pages 48-55.
[paper]
E. Awad, S. Dsouza, A. Shariff, I. Rahwan, J.-F. Bonnefon (2020). Universals and variations in moral decisions made in 42 countries by 70,000 participants. Proceedings of the National Academy of Sciences.
[paper] [Selected media: Daily Mail, Vox, Der Spiegel]
E. Awad, S. Dsouza, R. Kim, J. Schulz, J. Henrich, A. Shariff, J.-F. Bonnefon, I. Rahwan (2018). The Moral Machine experiment. Nature. 562(7729)
[Free view-only version; data and code] [Video: Nature summary] [Story behind the paper] [Selected media: The New Yorker, Washington Post, The Economist, BBC, Nature News, Fast Company, Motherboard / Vice, Business Insider, The Guardian, Scientific American, WIRED, The Verge, Spiegel, Le Monde, Prospect, The Atlantic]
J. F. Bonnefon, A. Shariff, I. Rahwan, (2019). The trolley, the bull bar, and why engineers should care about the ethics of autonomous cars. Proceedings of the IEEE, 107, 502-504.
R. Kim, M. Kleiman-Weiner, A. Abeliuk, E. Awad, S. Dsouza, J. Tenenbaum, I. Rahwan (2018). A Computational Model of Commonsense Moral Decision Making. In Proc. AAAI / ACM Conference on Artificial Intelligence, Ethics and Society (AIES).
R. Noothigattu, S. S. Gaikwad, E. Awad, S. Dsouza, I. Rahwan, P. Ravikumar, A. D. Procaccia (2018). A Voting-Based System for Ethical Decision Making. Proc. 32nd AAAI Conference on Artificial Intelligence (forthcoming)
[Free pre-print] [Selected Media: The Outline, France 24, IB Times, Bloomberg]
J. F. Bonnefon, A. Shariff, I. Rahwan (2016). The Social Dilemma of Autonomous Vehicles. Science. 352(6293):1573-1576.
[Free pre-print] [Selected Media: New York Times (1), New York Times (2), Washington Post (1), Wall Street Journal, Time, Independent (1), Guardian, CBS News, LA Times, Forbes, Newsweek, CBC (Canada), ABC (Australia),Le Monde (FR), El Pais (ES), Science, Scientific American, New Scientist, PBS NOVA Next, PBS, Wired, Huffington Post, MIT News,Independent (2), Washington Post (2), Washington Post (3), BBC World Service (live interview), Huffington Post (live interview), New York Magazine, Popular Science, MIT Technology Review, MIT Spectrum, The Atlantic]
Media
