Brave new online world

Social media shapes our debates, elections, and perceptions. While some are calling for stricter rules, others want fewer regulations. An interdisciplinary group is examining how the EU regulates the digital public sphere and calling for greater promotion of diversity.

April 14, 2025

Red, black, and gray human figures stand on a white platform, connected by threads.

Please note: This page is currently only available in German.

Auf den Punkt gebracht

Mächtige Plattformen: Der digitale öffentliche Raum und die Kommunikation darin werden von Plattformen wie Google, Youtube, X und Tiktok beherrscht. Der Digital Service Act und weitere EU-Gesetze regeln verschiedene Aspekte der digitalen Welt wie etwa den Datenschutz oder den Schutz von Urheberrechten.
Neue Regeln für den digitalen Raum: Eine interdisziplinäre Max-Planck-Gruppe analysiert die aktuellen Strukturen und Regelungen des digitalen öffentlichen Raums und beschäftigt sich dabei auch mit der Machtverteilung.
Bedarf an mehr Vielfalt: Vor allem bei sozialen Medien besteht ein Bedarf an mehr Vielfalt sowie dezentralen und demokratisch organisierten Plattformen, damit die Macht gewinnorientierter Akteure reduziert werden kann.

Text: Michaela Hutterer

Seit über 150 Jahren gibt es ihn, diesen kleinen Ort im Freien, der allein der Debatte gehört. Gut erreichbar mit U-Bahn und Bus im nordöstlichen Teil des Londoner Hyde Parks, bietet Speaker’s Corner einen geschützten Raum für Diskussionen aller Art, ob religiös oder politisch, einzig das Königshaus sei als Thema tabu, so heißt es. Meist sonntags treffen hier Menschen aufeinander, die in der Öffentlichkeit Debatten suchen, führen oder aber einfach nur mal vorbeischauen und weitergehen. Das unterscheidet sich nicht wesentlich von den Räumen, die wir über unsere Handys, Tablets oder Rechner betreten. Mit Facebook, X, Instagram, Tiktok oder anderen sozialen Medien haben sich in den Nullerjahren Räume für den gegenseitigen Austausch gebildet, die supranational, allgegenwärtig, immer erreichbar sind – hierzulande offiziell für alle ab 13 Jahren.

Was wir kommentieren, was wir teilen, was wir behaupten, was wir richtigstellen - alles ist bedeutsam, nichts verpufft in den sozialen Medien, wo Plattformen via Technik unsere Debatten steuern können. Unsere Verweildauer im Digitalen ist längst eine Währung und unser Konsum Kern eines Geschäftsmodells für wenige Tech-Unternehmen und ihre Eigentümer. Im Zeitalter der Aufmerksamkeitsökonomie bieten sie den Zugang zu diesem digitalen öffentlichen Raum und setzen die Regeln.

„Dass sich digitale öffentliche Räume nahezu ausschließlich in privater Hand befinden, stellt Politik, Gesellschaft und Recht vor enorme Herausforderungen“, erklärt Erik Tuchtfeld vom Max-Planck-Institut für ausländisches öffentliches Recht und Völkerrecht in Heidelberg. „Im physischen öffentlichen Raum ist der Staat verpflichtet, die für den politischen Diskurs zentralen Grundrechte wie Meinungs- und Versammlungsfreiheit zu schützen und zu gewährleisten.“ Im Digitalen haben sich indes Strukturen entwickelt, in denen der Staat auf den Schutz von Grund- und Menschenrechten nur mittelbar einwirken kann und dennoch versucht, Betreiber in die Pflicht zu nehmen.

EU-Digitalgesetze: zu lasch oder zu streng?

Für die Mitgliedstaaten der Europäischen Union gilt seit einem Jahr der Digital Services Act (DSA), der von manchen als „Grundgesetz für das Internet“ verstanden wird. Das Gesetz ist jedoch nicht unumstritten: Während einige sich strengere Verantwortung für die großen Plattformen gewünscht hätten, beklagen andere, dass die verstärkten Löschverpflichtungen „Zensur“ im Internet begünstigen. „Einzelheiten klärt dieses EU-Gesetz, aber nicht die grundlegende Frage zur Struktur des digitalen öffentlichen Raumes“, so Tuchtfeld. Wie viel Staat, wie viel Kontrolle, wie viel Marktmacht und welche Debattenkultur wollen Europäerinnen und Europäer im digitalen Raum?

Diese Fragen zu beantworten ist Tuchtfeld ein Anliegen. Der Antrag auf eine Forschungsgruppe mit diesem Ziel wurde nicht nur vom Direktor an seinem Institut, dem Europa- und Völkerrechtler Armin von Bogdandy, unterstützt, sondern auch von zwei weiteren Direktoren: dem Wettbewerbsrechtler Josef Drexl vom Max-Planck-Institut für Innovation und Wettbewerb sowie dem Sozialwissenschaftler und Informatiker Iyad Rahwan vom Max-Planck-Institut für Bildungsforschung. Der Antrag hatte Erfolg.

humanet 3

Rethinking digital public spaces for democracy

Public spaces are important for democracy as they allow us to speak, build relationships, and exchange opinions. But the rise of global social media platforms has led to digital public spaces which are highly personalized, algorithmically moderated, and increasingly influenced by generative AI content. Do these technologies foster discourse, or do they just create noise that distracts? In this video, Erik Tuchtfeld, leader of the humanet3 research group, shares his insights.

In der Forschungsgruppe „Humanet3“ denken und arbeiten mittlerweile vier Forschende interdisziplinär. Sie klären: Was passiert gerade technisch und gesellschaftlich, wie reagiert das Recht darauf, welchen Effekt hat es, und wenn es nicht geregelt ist, welche Regelung wäre sinnvoll? Sie analysieren Ist-Zustände, erkennen Missstände, finden Regelungslücken, bewerten die Konzentration von Macht und notieren deren Vakuum und überlegen Lösungen. „Jeder bringt seine Expertise ein: zum einen aus dem öffentlichen Recht, um über Grundrechte nachzudenken sowie über die Aufgaben und Ziele von Gesetzgebung und staatlicher Aufsicht.“ Zum anderen brauche es das Wettbewerbsrecht, das sich originär mit privater Macht und Märkten beschäftigt. „Und wir nutzen computergestützte sozialwissenschaftliche Erkenntnisse, um besser zu verstehen, wie aktuelle Entwicklungen von künstlicher Intelligenz den digitalen Raum verändern“, sagt Tuchtfeld. Die Gruppe beschäftigt sich also mit nichts Geringerem als der Neugestaltung digitaler öffentlicher Räume.

Kaum Mitspracherechte der Nutzenden

Doch vor der Neukonzeption kommt die Analyse des Ist-Zustands: Welche Phänomene begegnen Nutzenden, welche Regeln gelten für den digitalen Raum? „Nach der E-Commerce-Richtlinie im Jahr 2000 war es gesetzgeberisch für 15 Jahre recht ruhig, mit der Datenschutz-Grundverordnung im Jahr 2016 startete dann jedoch eine Welle an Reformen“, so Tuchtfeld und verweist auf mindestens acht verschiedene EU-Gesetze, die die EU seit 2016 zur Gestaltung des digitalen öffentlichen Raumes erlassen hat. Sie reichen vom Datenschutzrecht über das Urheberrecht bis hin zur Plattformregulierung und bilden das Regelwerk für die digitale Welt – je nachdem, welcher Aspekt reguliert werden soll. „Die EU verfolgt den Ansatz, die digitale Transformation menschenzentriert zu gestalten“, sagt der Wissenschaftler und verweist auf die Europäische Erklärung zu den digitalen Rechten und Grundsätzen für die digitale Dekade, eine politische Absichtserklärung, die im Dezember 2022 verabschiedet wurde. Der Fokus liege darauf, die Gesellschaft und ihre Mitglieder im digitalen öffentlichen Raum zu schützen.

Tuchtfeld analysiert die Form und die Prinzipien der europäischen Regulierung: „Die EU gestaltet grundsätzlich die Architektur des digitalen öffentlichen Raums, aber sie stabilisiert indirekt auch die Macht privater Akteure als Gestalter des öffentlichen Raums. Sie schafft dabei mehr Freiheit für die Nutzenden, beispielsweise müssen die Plattformen transparenter werden und mehr Vielfalt gewährleisten. Die Union übt aber auch mittels der Plattformen Kontrolle über die Nutzenden aus. So verpflichtet das Unionsrecht die Plattformen zum Beispiel, die Inhalte der Nutzenden auf bestimmte Merkmale hin zu überwachen, bei Gesetzesverstößen zu löschen oder einzelne Rechtsverstöße durch Uploadfilter von vornherein zu verhindern.“ Der Graubereich in Debatten, der als „awful, but lawful“ gerade noch erlaubt ist, aber die Debattenkultur gerade bei politischen Themen in negativer Weise prägt, liegt im Regelungsbereich der Plattformen. „Wenige mächtige Einzelpersonen, etwa Elon Musk als Eigentümer von X und Mark Zuckerberg mit Facebook und Instagram, entscheiden einseitig – und in Teilen willkürlich – über unsere digitalen öffentlichen Räume“, moniert Tuchtfeld. Ein Mitspracherecht für die Nutzenden: Fehlanzeige. Diese mangelnde Legitimation bei gleichzeitiger Machtkonzentration ist ein Hauptproblem für die Gestaltung digitaler öffentlicher Räume. „Wir brauchen Strukturen der demokratischen Selbstverwaltung durch die Nutzenden, die gesetzliche Regeln konkretisieren und eigene Spielräume haben, gleichzeitig aber staatsfern organisiert sind“, sagt Tuchtfeld. In Deutschland kenne man diese unter anderem von den Rundfunkräten, aber auch von berufsständischen Kammern, bei denen die Mitglieder abstimmen.

Mehr Wettbewerb allein reicht nicht

Einen anderen Aspekt dabei untersucht Germán Johannsen vom Max-Planck-Institut für Innovation und Wettbewerb in München. Als Wettbewerbsrechtler beobachtet er die Machtverhältnisse im Ökosystem der sozialen Medien und kennt die Forderungen nach Zerschlagung von Big-Tech, nach mehr oder weniger Regulierungen. Er setzt an einem anderen Punkt an und prüft, ob sich aus dem europäischen Wettbewerbsrecht nicht ein anderer Ansatzpunkt für eine Regulierung ergibt. Stichwort: Verteilungsgerechtigkeit. „Eine Gesellschaft, in der niemand übermäßige wirtschaftliche Macht besitzt, stellt sicher, dass kein privater Akteur etwa die politische Agenda einer Nation kontrollieren kann“, sagt Johannsen und sieht vor allem die Notwendigkeit für mehr Alternativen für Social-Media-Nutzende.

Braucht es also einfach neue Anbieter? Johannsen ist kritisch. „Um zu vermeiden, dass die aktuellen Technologiegiganten durch andere große, zentralisierte Unternehmen ersetzt werden, sollten wir Anreize für die Entstehung dezentraler Governance-Modelle im Ökosystem der sozialen Medien schaffen.“ Ein Beispiel ist etwa das dezentralisierte Microblogging-Netzwerk Mastodon. Es ist jedoch von grundlegender Bedeutung, über einen Regulierungsrahmen zu verfügen, der effektiv gleiche Wettbewerbsbedingungen gewährleistet. Entscheidend ist die Interoperabilität zwischen Plattformen, um den Austausch von Daten zu ermöglichen, die jeder Social-Media-Nutzende bei der ersten Registrierung gewährt und der Anbieter bei jedem Besuch sammelt: Freundschaften, Likes, Kommentare, Interessen oder anderes. „Einige große Plattformen kontrollieren nicht nur die Märkte für bestimmte Produkte, sondern auch Daten, einzelne Medien, teilweise sogar die Telekommunikationsinfrastruktur. Zudem sind sie Protagonisten im Wettlauf um die generative künstliche Intelligenz.“

Johannsen sieht die größte Schwierigkeit darin, etablierte neoliberale Überzeugungen zu überwinden, die das Wettbewerbsrecht und die Wirtschaftspolitik prägen. Im EU-Wettbewerbsrecht gilt die Konzentration von Macht als solche nicht als zwingend schlecht, sondern lediglich ihr Missbrauch. „Kommt es zum Machtmissbrauch, haben sich die Instrumente des Rechts als langsam und ineffektiv erwiesen“, sagt der Experte. Für ihn begrenzen zwar neue EU-Gesetze, wie der Digital Markets Act und der Digital Services Act, die Macht der großen Plattformen, stellen aber keinen Paradigmenwechsel dar, der die Bedeutung digitaler öffentlicher Räume für Meinungsäußerungen und öffentliche Debatte ernst nimmt. Auch regulierte Plattformen haben nach wie vor erhebliche Möglichkeiten, den öffentlichen Diskurs und die Agenda des Gesetzgebers zu beeinflussen und die Forschung daran zu behindern. In dieser Hinsicht seien weitere Untersuchungen nötig.

Kombinierte Welten - alte Problem

Noch grundsätzlicher blickt Anna Sophia Tiedeke, Rechtswissenschaftlerin am Max-Planck-Institut für ausländisches öffentliches Recht und Völkerrecht, auf den digitalen Raum und fragt: „Stellt uns die digitale Transformation tatsächlich vor völlig neue Herausforderungen?” Nach ihrer Analyse erleben wir in Diskussionen über die adäquate Regulierung der digitalen Öffentlichkeit häufig lediglich eine Neuauflage von bereits geführten und ausdifferenzierten Debatten aus der analogen Welt. Unter dem Einfluss der aktuell tatsächlichen oder der zumindest gefühlten Bedrohung für demokratiefördernde Diskursräume würden Lösungen herbeigewünscht. Dabei setze man sich zu wenig mit der Frage auseinander, ob vermeintliche Lösungen tatsächlich helfen (können), dem Problem zu begegnen.

Ein Beispiel dafür sieht Tiedeke darin, dass sich die Debatte wieder Ideen wie der Habermas’schen „Theorie der idealen Sprechsituation“ zuwendet. Diese gilt für eine deliberative Demokratie als Idealbild, nach dem Sprechende von allen strukturellen Zwängen und Vorprägungen befreit rationale Argumente austauschen können. Hier werde laut Tiedeke ein Zustand heraufbeschworen, der in der Realität unmöglich zu erreichen sein wird und deshalb nur eine Scheinlösung darstellt, auch und gerade für digitale öffentliche Räume.

Denn wir leben längst in einer Welt, in der der analoge und der digitale Raum eng verflochten sind. Wer sich in der physischen Welt bewegt, nutzt Google Maps, um ans Ziel kommen, Sharing-Plattformen ermöglichen eine andere Form der Mobilität und der Nutzung öffentlicher Räume. Selbst die Speaker im Hyde Park lassen ihre Debatten filmen und stellen sie auf Youtube und anderswo für ein breiteres Publikum zur Diskussion ein und erweitern so die Möglichkeiten der physischen Öffentlichkeit – räumlich wie zeitlich. „Beide Räume sind ineinander verschränkt, sodass auch Lösungen diese Verschränkungen, die Architektur und Bedingungen des Zugangs und der Beteiligung berücksichtigen müssen“, sagt Tiedeke. Sie untersucht grundlegende Fragen des Zusammenspiels von Institutionen, wie etwa Staaten, internationalen Organisationen, Plattformunternehmen und privaten Selbstregulierungsgremien wie Metas Oversight Board, und ihren Regelsystemen in der digitalen Öffentlichkeit. Sie befasst sich damit, wie sich beispielsweise internationale Menschenrechtsstandards in diesem Zusammenspiel verändern und welche Auswirkungen das hat: nicht nur auf unser Verständnis von Öffentlichkeit, sondern auch auf unser Selbstverständnis als derjenigen, die sich in diesen Räumen bewegen.

Zeit für neue Modelle und Initiativen

Auch Gruppenmitglied Chaewon Yun vom Max-Planck-Institut für Bildungsforschung in Berlin widmet sich dem digitalen öffentlichen Raum. Sie forscht zu künstlicher Intelligenz (KI) unter dem Aspekt der Mensch-Technik-Interaktion. Yun kombiniert sozialwissenschaftliche Fragestellungen mit computergestützten Methoden (Computational Social Science): Mittels empirischer Methoden wie Online-Experimenten, dem Einsatz von KI zur Bearbeitung von natürlicher Sprache oder Netzwerkanalysen für EU-Rechtsakte untersucht sie, welche Bedeutung der Mensch in der digitalen Transformation hat – und was es für die digitale Transformation, insbesondere für die Entwicklung künstlicher Intelligenz, bedeutet, menschenzentriert zu sein. „Zwar ist in politischen Erklärungen und sogar dem AI Act oft die Rede von ‚menschenzentrierter künstlicher Intelligenz‘, die konkrete Bedeutung des Konzepts ist jedoch unscharf und umstritten“, sagt Yun.

Yun hat mehrere Jahre KI für einen Technikhersteller entwickelt und weiß um die Bedeutung von KI für die Debatte in sozialen Medien, die sich durch die Nutzung und Wirkung von Algorithmen, die Kuratierung von Inhalten, den Einsatz von Chatbots und generativer KI verändert hat. Nicht wenige sehen in der zunehmenden Verrohung der digitalen Kommunikation ein strukturelles und systemisches Risiko, das von vorneherein für das Miteinander im digitalen öffentlichen Raum besteht, wenn private Akteure via Technik den Diskurs steuern können.

Ideen und Erkenntnisse tauschte das Max-Planck-Team auf einem Workshop Mitte Februar mit Wissenschaftlern wie Praktikern aus. Fest steht: Regulierung allein ist nicht alles. Zwar nutzt die EU-Kommission ihre rechtlichen Möglichkeiten, um die Rechtsverstöße zu ahnden. Mehrere Bußgeldverfahren gegen Meta, X und Tiktok wegen Gefährdung Jugendlicher, Duldung illegaler Inhalte und Eingriffe in die Integrität von Wahlen nach dem Digital Services Act laufen. Mit ersten Ergebnissen ist erst in ein bis zwei Jahre zu rechnen. „Es handelt sich dabei eher um ein Pflaster für ein kaputtes System“, sagt Erik Tuchtfeld. Was es brauche, sei mehr Vielfalt an digitalen öffentlichen Orten – beispielsweise über alternative Plattformen, deren technische und organisatorische Struktur Machtkonzentration verhindere, etwa durch Dezentralität und Interoperabilität. Beispiele liefert das Fediverse: Auf Mastodon tauschen sich Forschende und Wissenschaftsinteressierte aus, auch Bluesky etabliert sich zunehmend.

Max Planck Institute for Comparative Public Law and International Law, 2025

New ideas for a digital public space

How much state and market power can the digital public space in which we move every day tolerate? The Humanet3 group, led by Erik Tuchtfeld, is looking for answers.

Crack oder Graubrot?

„Das Momentum für neue Modelle und Initiativen war noch nie so hoch wie jetzt“, findet Erik Tuchtfeld. „Viele Menschen sind unzufrieden, wie es auf den kommerziellen Plattformen läuft, und dennoch werden sie genutzt.“ Das mag auch an der Größe und Bedienungsfreundlichkeit liegen. Viele Alternativen kommen weniger schillernd und mit weniger technischen Möglichkeiten daher. Es erinnert ein wenig an das gute, gesunde Vollkornbrot, das neben einem Croissant auf dem Frühstückstisch wartet und die Ernährungsvernunft anspricht. Ohne Zweifel ist sein Nährwert besser – gerade für den täglichen Verzehr. „Der Vergleich hinkt etwas“, bemerkt Tuchtfeld. „Es gibt nicht wenige, die in diesen speziellen Croissants eher süchtig und krank machendes Crack sehen.“ Schon um der Gesundheit der öffentlichen Debatte und der Demokratie willen sollte es mehr Vielfalt im digitalen Raum geben.

Der Text erschien zuerst in der MaxPlanckForschung Ausgabe 1/2025 und wurde als Onlineversion überarbeitet.