Leitlinie 1: Maschinenverhalten

Um das Verhalten von Maschinen zu verstehen, einschließlich der menschlichen Wahrnehmung von und Reaktion auf dieses Verhalten, bedarf es Konzepte und Methoden aus der Verhaltensforschung.

Der zentrale Fokus des Forschungsbereichs liegt auf dem Konzept des Maschinenverhaltens. Wir sind an zwei Aspekten interessiert: (a) Wie verhalten sich intelligente Maschinen und zu welchen Ergebnissen führt die Interaktion zwischen Maschinen und Menschen? (b) Wie nehmen Menschen das Verhalten von Maschinen wahr und wie beeinflusst diese Wahrnehmung ihre Erwartungen und ihr Urteil über die Handlungen der Maschinen und ihr eigenes Verhalten? Die Eckpunkte des sich im Entstehen befindenden Konzeptes des Maschinenverhaltens wurden in diesem Artikel umrissen.

Trotz grundlegender Unterschiede zwischen Maschinen und biologischen Organismen lassen wir uns von  Tinbergens Vier Fragen  aus der Biologie inspirieren. Der Ansatz hilft uns, die verschiedenen Arten von Fragen zusammenzufassen, die man sich zum Verhalten von Maschinen stellen könnte. Maschinen verfügen über Mechanismen, die ein bestimmtes Verhalten hervorrufen, durchlaufen eine Entwicklung, bei der Umweltinformationen in das Verhalten integriert werden, verursachen funktionale Konsequenzen, die dazu führen, dass bestimmte Maschinen in bestimmten Umgebungen mehr oder weniger häufig vorkommen, und verkörpern eine Evolutionsgeschichte, durch die vergangene Umgebungen und menschliche Entscheidungen das Verhalten von Maschinen weiterhin beeinflussen. Diese vier Analyseebenen sind in der rechts stehenden Tabelle zusammengefasst.

Zu den grundlegenden Fragen im Zusammenhang mit dem Verhalten von Maschinen gehören die Entstehung von Mensch-Maschine-Kooperationen, potenziellen sozialen Dilemmata und moralischen Gefahren, die sich aus der Interaktion zwischen Mensch und Maschine ergeben können, die potenzielle Rolle von Maschinen als soziale Katalysatoren und die Auswirkungen von KI auf die menschliche Kultur.

Publikationen

• Bonnefon, J.-F., Shariff, A., & Rahwan, I. (2016). The social dilemma of autonomous vehicles. Science, 352(6293), 1573–1576. https://doi.org/10.1126/science.aaf2654
• Crandall, J. W., Oudah, M., Tennom, Ishowo-Oloko, F., Abdallah, S., Bonnefon, J. F., Cebrian, M., Shariff, A., Goodrich, M. A., & Rahwan, I. (2018). Cooperating with machines. Nature Communications, 9(1), 1–12. https://doi.org/10.1038/s41467-017-02597-8
• Köbis, N., Bonnefon, J.-F., & Rahwan, I. (2021). Bad machines corrupt good morals. Nature Human Behaviour, 5(6), 679–685. https://doi.org/10.1038/s41562-021-01128-2
• Rahwan, I., Cebrian, M., Obradovich, N., Bongard, J., Bonnefon, J.-F., Breazeal, C., Crandall, J. W., Christakis, N. A., Couzin, I. D., Jackson, M. O., Jennings, N. R., Kamar, E., Kloumann, I. M., Larochelle, H., Lazer, D., McElreath, R., Mislove, A., Parkes, D. C., Pentland, A. S., Roberts, M. E., Shariff, A., Tenenbaum, J. B., & Wellman, M. (2019). Machine behaviour. Nature, 568(7753), 477–486. https://doi.org/10.1038/s41586-019-1138-y
• Rahwan, I., Crandall, J. W., & Bonnefon, J.-F. (2020). Intelligent machines as social catalysts. Proceedings of the National Academy of Sciences of the United States of America, 117(14), 7555–7557. https://doi.org/10.1073/pnas.2002744117