Moral Machine
Wie beeinflussen moralische Dilemmata bei der Entwicklung autonomer Fahrzeuge das Vertrauen der Öffentlichkeit in fahrerlose Autos und die Wahrnehmung menschlicher Kontrolle über KI-Entscheidungen?
Die Einführung selbstfahrender, autonomer Fahrzeuge verspricht, die Zahl der Verkehrsunfälle drastisch zu senken. Bei manchen unvermeidbaren Unfällen werden autonome Fahrzeuge jedoch Risiken gegeneinander abwägen müssen – etwa das Risiko für Menschen auf der Straße gegenüber dem Risiko für die Insassen des Fahrzeugs. Auch wenn solche „moralischen Dilemmata“ selten sind, ist es schwierig, Algorithmen für derartige Entscheidungen festzulegen, denn vielen Menschen ist die Vorstellung unbehaglich, dass künstliche Intelligenz ohne menschliche Aufsicht über Leben und Tod entscheidet. Die experimentelle Ethik kann Herstellern und Regulierungsbehörden helfen, die psychologischen Hürden zu verstehen, die das Vertrauen in fahrerlose Autos und unsere Fähigkeit, ihr Verhalten zu kontrollieren, untergraben können. Dies könnte eine notwendige Voraussetzung für die breite Einführung autonomer Mobilität sein.
Interaktive Webseite: Moral Machine web site
Zentrale Publikationen
Bonnefon, J.-F., Shariff, A., & Rahwan, I. (2020). The moral psychology of AI and the ethical opt-out problem. In S. M. Liao (Ed.), Ethics of artificial intelligence (pp. 109–126). Oxford University Press.
Awad, E., Dsouza, S., Kim, R., Schulz, J., Henrich, J., Shariff, A., Bonnefon, J.-F., & Rahwan, I. (2020). Reply to: Life and death decisions of autonomous vehicles. Nature, 579(7797), E3–E5. https://doi.org/10.1038/s41586-020-1988-3 [Selected media: Cosmos]
Awad, E., Dsouza, S., Bonnefon, J.-F., Shariff, A., & Rahwan, I. (2020). Crowdsourcing moral machines. Communications of the ACM, 63(3), 48–55. https://doi.org/10.1145/3339904
Awad, E., Dsouza, S., Shariff, A., Rahwan, I., & Bonnefon, J.-F. (2020). Universals and variations in moral decisions made in 42 countries by 70,000 participants. Proceedings of the National Academy of Sciences, 117(5), 2332–2337. https://doi.org/10.1073/pnas.1911517117
[Selected media: Daily Mail, Vox, Der Spiegel]
Bonnefon, J.-F., Shariff, A., & Rahwan, I. (2019). The trolley, the bull bar, and why engineers should care about the ethics of autonomous cars. Proceedings of the IEEE, 107(3), 502–504. https://doi.org/10.1109/JPROC.2019.2897447
Awad, E., Dsouza, S., Kim, R., Schulz, J., Henrich, J., Shariff, A., Bonnefon, J.-F., & Rahwan, I. (2018). The Moral Machine experiment. Nature, 563(7729), 59–64. https://doi.org/10.1038/s41586-018-0637-6
[Free view-only version, Data & code] [Video: Nature summary] [Story behind the paper] [Selected media: The New Yorker, Washington Post, The Economist, BBC, Nature News, Fast Company, Motherboard / Vice, Business Insider, The Guardian, Scientific American, WIRED, The Verge, Spiegel, Le Monde, Prospect, The Atlantic]
Kim, R., Kleiman-Weiner, M., Abeliuk, A., Awad, E., Dsouza, S., Tenenbaum, J. B., & Rahwan, I. (2018). A computational model of commonsense moral decision making. In Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society (pp. 197–203). Association for Computing Machinery. https://doi.org/10.1145/3278721.3278770
Noothigattu, R., Gaikwad, S. S., Awad, E., Dsouza, S., Rahwan, I., Ravikumar, P., & Procaccia, A. D. (2018). A voting-based system for ethical decision making. Proceedings of the AAAI Conference on Artificial Intelligence, 32(1), 1587–1594. https://doi.org/10.1609/aaai.v32i1.11512 [Selected media: The Outline, France 24, IB Times, Bloomberg]
Bonnefon, J.-F., Shariff, A., & Rahwan, I. (2016). The social dilemma of autonomous vehicles. Science, 352(6293), 1573–1576. https://doi.org/10.1126/science.aaf2654
[Selected media: New York Times (1), New York Times (2), Washington Post (1), Wall Street Journal, Time, Independent (1), Guardian, CBS News, LA Times, Forbes, Newsweek, CBC (Canada), ABC (Australia), Le Monde (FR), El País (ES), Science, Scientific American, New Scientist, PBS NOVA Next, PBS, Wired, Huffington Post, MIT News, Independent (2), Washington Post (2), Washington Post (3), BBC World Service (live interview), Huffington Post (live interview), New York Magazine, Popular Science, MIT Technology Review, MIT Spectrum, The Atlantic]
Media
