KI, Arbeitswelt & Governance

Wie werden wir mittels KI steuern und wie durch KI gesteuert werden? 

Unternehmen und Behörden werden oft mit Maschinen verglichen, wobei die einzelnen Arbeitnehmer*innen und Bürokrat*innen lediglich Rädchen im Getriebe sind. In Zukunft könnten jedoch sowohl Unternehmen als auch Regierungen im wahrsten Sinne des Wortes maschinengesteuert sein. KI-Algorithmen, die auf Grundlage ständig wachsender Datenmengen arbeiten, bieten die Möglichkeit, viele Entscheidungen zu automatisieren – von der Einstellung und Entlassung von Mitarbeiter*innen bis hin zur Zuteilung staatlicher Sozialleistungen.

Die algorithmenbasierte Entscheidungsfindung in Behörden und Unternehmen bietet immenses Potenzial für raschere, wirtschaftlich effizientere Ergebnisse. Sie hat auch den Vorteil, gesellschaftlich gewünschte Ergebnisse zu erzielen, die andernfalls durch menschliche Fehler und Verzerrungen erschwert werden. Gleichzeitig bergen algorithmische Entscheidungsfindungssysteme aber auch die Gefahr, bestehende Problemlagen zu verfestigen. Nehmen wir zum Beispiel ein KI-System, das darauf trainiert ist, Lebensläufe zu bewerten, um Bewerber*innen schneller auszuwählen. Wenn dieses System auf Basis voreingenommener Daten trainiert wird, würde es diese Vorurteile einfach reproduzieren, anstatt die besten Kandidat*innen für die Stelle auszuwählen.

Eine weitere Frage, die sich bei solchen Systemen stellt, ist, wie sich die Gesellschaft auf die Zielsetzung einigt, für die der Algorithmus optimiert wird. Wirtschaftliche und soziale Ziele stehen sich oft entgegen und werden je nach Überzeugung und politischer Ideologie unterschiedlich priorisiert. Dies macht einen Mechanismus erforderlich, mit dem solche Wertekonflikte erkannt und anschließend gelöst werden können, um annehmbare Ergebnisse zu erzielen.

Dieses Forschungsthema befasst sich mit den Chancen und Risiken, die sich ergeben, wenn KI-Systeme im Bereich der Gouvernance eingesetzt werden, sei es im politischen oder im wirtschaftlichen Kontext.

 

Beispielprojekte

Frühere Studien über die Einstellung der Menschen zum algorithmischen Management ergaben widersprüchliche Ergebnisse. Feldexperimente auf Crowdsourcing-Plattformen könnten jedoch die methodischen Grenzen dieser Studien überwinden.
Wir brauchen einen konzeptionellen Rahmen für die Gestaltung neuer Governance-Architekturen für sozialen Systeme aus Mensch und Maschine.
Wir zeigen, dass die Art und Weise, wie wir über KI-generierte Kunst sprechen, Auswirkungen darauf hat, wie Anerkennung und Verantwortung den menschlichen Akteur*innen zugewiesen werden.
Hier berichten wir über ein randomisiertes Experiment, bei dem die Auswirkung von Medienmanipulationen auf die Fähigkeit von mehr als 15 000 Personen untersucht wurde, maschinell manipulierte Medien zu erkennen.

Weitere Themenschwerpunkte

Zur Redakteursansicht