KI, Arbeitswelt & Governance

Wie werden wir mittels KI steuern und wie durch KI gesteuert werden?

Unternehmen und Behörden werden oft mit Maschinen verglichen, wobei die einzelnen Arbeitnehmer*innen und Bürokrat*innen lediglich Rädchen im Getriebe sind. In Zukunft könnten jedoch sowohl Unternehmen als auch Regierungen im wahrsten Sinne des Wortes maschinengesteuert sein. KI-Algorithmen, die auf Grundlage ständig wachsender Datenmengen arbeiten, bieten die Möglichkeit, viele Entscheidungen zu automatisieren – von der Einstellung und Entlassung von Mitarbeiter*innen bis hin zur Zuteilung staatlicher Sozialleistungen.

Die algorithmenbasierte Entscheidungsfindung in Behörden und Unternehmen bietet immenses Potenzial für raschere, wirtschaftlich effizientere Ergebnisse. Sie hat auch den Vorteil, gesellschaftlich gewünschte Ergebnisse zu erzielen, die andernfalls durch menschliche Fehler und Verzerrungen erschwert werden. Gleichzeitig bergen algorithmische Entscheidungsfindungssysteme aber auch die Gefahr, bestehende Problemlagen zu verfestigen. Nehmen wir zum Beispiel ein KI-System, das darauf trainiert ist, Lebensläufe zu bewerten, um Bewerber*innen schneller auszuwählen. Wenn dieses System auf Basis voreingenommener Daten trainiert wird, würde es diese Vorurteile einfach reproduzieren, anstatt die besten Kandidat*innen für die Stelle auszuwählen.

Eine weitere Frage, die sich bei solchen Systemen stellt, ist, wie sich die Gesellschaft auf die Zielsetzung einigt, für die der Algorithmus optimiert wird. Wirtschaftliche und soziale Ziele stehen sich oft entgegen und werden je nach Überzeugung und politischer Ideologie unterschiedlich priorisiert. Dies macht einen Mechanismus erforderlich, mit dem solche Wertekonflikte erkannt und anschließend gelöst werden können, um annehmbare Ergebnisse zu erzielen.

Dieses Forschungsthema befasst sich mit den Chancen und Risiken, die sich ergeben, wenn KI-Systeme im Bereich der Gouvernance eingesetzt werden, sei es im politischen oder im wirtschaftlichen Kontext.