Der Deutsche Ethikrat mischt die Social-Media-Debatte auf. Dem vielfach geforderten Verbot für Minderjährige verpassen die Expert*innen eine Abfuhr – und warnen eindringlich vor den Gefahren von Alterskontrollen. Die Analyse.

Der Deutsche Ethikrat hat Empfehlungen zum Schutz von Kindern und Jugendlichen im Netz vorgelegt. Die Expert*innen sprechen sich ausdrücklich gegen ein Social-Media-Verbot für Minderjährige nach australischem Vorbild aus. Stattdessen sollen Plattformen digitale Räume sicherer gestalten. Bei Alterskontrollen zieht der Ethikrat strenge Linien: Er lehnt Verfahren ab, bei denen Daten das Gerät von Nutzer*innen verlassen.

Hintergrund ist die internationale Debatte um Kinder- und Jugendschutz im Netz. Spitzenpolitiker*innen in Bund, Ländern und der EU fordern ein Social-Media-Verbot für Minderjährige, darunter EU-Kommissionspräsidentin Ursula von der Leyen (CDU). Bundestagspräsidentin Julia Klöckner (CDU) hatte den Ethikrat um Stellungnahme gebeten.

Der Ethikrat ist laut Gesetz unabhängig. Die 26 Mitglieder sollen demnach „naturwissenschaftliche, medizinische, theologische, philosophische, ethische, soziale, ökonomische und rechtliche Belange in besonderer Weise repräsentieren“ und ein „plurales Meinungsspektrum“ vertreten. Berufen werden sie nach Vorschlägen von Bundesregierung und Bundestag für vier Jahre. Mitautorin und Sprecherin der neuen Stellungnahme ist Judith Simon, Professorin an der Universität Hamburg zur Ethik in der Informationstechnologie.

Das 50-seitige Papier des Ethikrats ist der bisher sorgfältigste und ausführlichste Beitrag zur Debatte in Deutschland. Maßstab sei das Kindeswohl im Sinne der UN-Kinderrechtskonvention, schreiben die Expert*innen. Differenziert gehen sie auf die Grundrechte junger Menschen ein und warnen vor den Folgen von Alterskontrollen. Am Ende geben sie politische Empfehlungen. Der Überblick.

Klares „Nein“ zum Social-Media-Verbot

Soll für Social Media ein gesetzliches Mindestalter eingeführt werden? Um diese Frage kreist die Debatte seit Monaten. „Der Ethikrat beantwortet sie mit nein“, sagt der Vorsitzende des Ethikrats Helmut Frister. Dafür nennt der Ethikrat vier Gründe.

• Erstens: Das Problem liegt nicht pauschal bei sozialen Medien, wie aus dem Papier hervorgeht, sondern bei konkreten Merkmalen „wie zum Beispiel Endlos-Feeds“. Statt junge Menschen auszusperren sollen unter anderem schädliche Funktionen verboten werden.
• Zweitens: Das Alter allein sagt zu wenig aus. Kinder gleicher Altersgruppen würden sich „in ihrem Reifegrad“ mitunter deutlich voneinander unterscheiden, schreiben die Expert*innen.
• Drittens: Nicht nur auf sozialen Medien gibt es Risiken, sondern auch bei vielen anderen digitalen Diensten. Konkret nennt der Ethikrat etwa Messenger, Spiele, Streaming-Plattformen, Chatbots und Bildgeneratoren. Zudem könnten junge Menschen ein Verbot einfach umgehen, wie erste Erfahrungen aus Australien zeigen würden.
• Viertens: Ein Mindestalter würde Teilhabe, Entwicklung und Medienkompetenz junger Menschen beeinträchtigen. Mit sozialen Medien würden sie unter anderem Freundschaften pflegen, „emotionale Unterstützung und Zugehörigkeit erleben“. Hinzu kommt, dass Eltern laut Grundgesetz das Recht haben, selbst über die Erziehung zu entscheiden – also auch darüber, wann sie ihrem Kind welche digitalen Angebote zutrauen. Ein Mindestalter würde „auf unverhältnismäßige Art und Weise in das Recht der Eltern eingreifen“.

Besser regeln, besser durchsetzen

Der Ethikrat belässt es nicht beim Nein zum Social-Media-Verbot, sondern beschreibt Alternativen. Eine zentrale Rolle spielen strenge Regeln für Online-Dienste. „Anbieter müssen für Minderjährige zugängliche digitale Räume so gestalten, dass Kinder und Jugendliche effektiver geschützt werden als bisher“, schreibt der Ethikrat. Konkreter Vorschlag:

Zu exzessiver Nutzung anreizende Funktionen digitaler Angebote sollten generell verboten werden.

So sollen Anbieter auf „süchtig machende Funktionen“ verzichten, auf „algorithmisch gesteuerte Feeds oder Empfehlungssysteme“; auf Profiling und Tracking. Es brauche zudem Blockier- und Meldefunktionen sowie sichere Voreinstellungen, etwa wer wen kontaktieren kann. Einen Rechtsrahmen dafür gibt es schon, vor allem das EU-Gesetz über digitale Dienste (DSA). Erste DSA-Verfahren, etwa gegen TikTok, laufen gerade an. Der Ethikrat rät, unter anderem den DSA „konsequent“ auszuschöpfen.

Jenseits des DSA sieht der Ethikrat Schutzlücken, und zwar bei Angeboten, die nicht unter die im Gesetz definierten digitalen Dienste fallen. Als Beispiel nennt der Ethikrat generative KI, dazu gehören etwa Chatbots wie ChatGPT, Bild- und Videogeneratoren. Zwar gebe es dafür die KI-Verordnung, dort würden aber Vorgaben zum Jugendschutz fehlen.

Schließen lassen sich solche Lücken etwa mit dem von der EU-Kommission geplanten Gesetz über digitale Fairness (Digital Fairness Act, DFA). Mehrfach verweist auch der Ethikrat darauf. Das Besondere am DFA: Er nimmt nicht Minderjährige in den Blick, sondern alle. Passend dazu halten die Expert*innen fest: Digitale Angebote sollten „für alle Menschen so gestaltet werden, dass sie systemische Risiken minimieren“. Denn die zugrunde liegenden Geschäftsmodelle könnten nicht nur Kindern und Jugendlichen schaden.

Eltern stärken

Eine zentrale Rolle in den Empfehlungen des Ethikrats spielen Eltern. Einfach ausgedrückt sollen nicht etwa flächendeckende Alterskontrollen verhindern, dass junge Menschen eine potenziell schädliche Plattformen nutzen, sondern: Mama und Papa oder andere Erziehungsberechtigte. Der Ethikrat verschiebt damit den Fokus von technischer Kontrollinfrastruktur zu menschlicher Fürsorge.

„Der Zugang zu digitalen Angeboten sollte auf einer ersten Stufe durch die Eltern geregelt werden“, schreiben die Expert*innen. Sie seien zuständig für das „Ausbalancieren“ von Schutz, Teilhabe und Befähigung. „Die Eltern haben dabei einen Gestaltungsspielraum, der erst überschritten ist, wenn das Kindeswohl konkret gefährdet wird.“

Der Ethikrat erkennt an, dass Eltern damit keine leichte Aufgabe haben. „Selbst bei vorhandenen Ressourcen gibt es sicherlich Eltern, die – um Zeit und vor allem Nerven zu sparen – den Weg des geringsten Widerstands gehen und die digitalen Aktivitäten ihrer Kinder nicht oder nur unzureichend kontrollieren.“ Mehrere Maßnahmen sollen Eltern deshalb stärken:

• Bessere digitale Werkzeuge. Eltern sollen mit passenden Kontroll-Werkzeugen „den Zugang zu Apps, Funktionen und Inhalten sowie die Gesamtnutzungszeit einfach, sicher und passgenau beschränken können“, und zwar „mit überschaubarem Aufwand“.
• Mehr Unterstützung. Es brauche „eindringliche Aufklärung“, auch für „technisch wenig versierte Eltern“. Und wenn Eltern es nicht selbst schaffen, könne etwa die Familienhilfe „Digitalpat*innen“ vermitteln.
• Bessere Altersempfehlungen. Welches digitale Angebot ist für Kinder geeignet? Eltern sollten sich hier nicht auf die Altersangaben der Anbieter verlassen müssen. Anerkannte Organisationen wie die Freiwillige Selbstkontrolle könnten vermehrt Angebote bewerten.

Strenge Linien für Alterskontrollen

Ausführlich geht der Ethikrat auf Probleme und Gefahren von Alterskontrollen ein. Sie sind ein zentraler Aspekt der Debatte, denn wer ein Social-Media-Verbot fordert, will das in der Regel mit strengen Alterskontrollen durchsetzen. Die EU-Kommission schafft mit der geplanten Alterskontroll-App („Mini-Wallet“) gerade die Infrastruktur für EU-weite Alterskontrollen im Netz.

Der Deutsche Ethikrat tritt hier auf die Bremse. Die Mini-Wallet habe „Schwächen in Bezug auf Sicherheit, Datenschutz und Effektivität“, schreiben die Expert*innen. Sie sei „abzulehnen“. Das ist eine Klatsche für die EU-Kommission, die mit der Mini-Wallet einen „Goldstandard“ für sichere und datensparsame Alterskontrollen setzen wollte.

Die Kritik der Expert*innen an Alterskontrollen ist jedoch grundlegender. „Einer Forderung nach perfekter Wirksamkeit würde kein System genügen“, schreiben sie. Zugleich könne es „ein falsches Gefühl der Sicherheit erzeugen“, wenn man ignoriert, wie leicht sich Alterskontrollen umgehen lassen. Genau das tun Befürworter*innen von Alterskontrollen jedoch immer wieder, wenn sie die Systeme als wirksam und robust beschreiben.

„Mit der verpflichtenden Nutzung von Altersbestimmungstechnologien ist zudem die Sorge verbunden, dass dies ein weiterer Schritt auf dem Weg zum Ende eines frei zugänglichen, offenen Internets wäre“, schreibt der Ethikrat weiter. Die Expert*innen warnen ausdrücklich vor „Missbrauch und Zensur“:

Die Technologien sind Instrumente zur Unterscheidung und unterschiedlichen Behandlung von Nutzergruppen. Als solche können sie auch zweckentfremdet werden, und zwar sowohl zur Beschränkung des Zugangs für weitere Gruppen als auch des Zugangs zu anderen Inhalten, zum Beispiel zu Materialien zur sexuellen Aufklärung oder gar zu solchen, die politisch unerwünscht sind. Aufgrund dieser breiten Einsatzmöglichkeiten kann nicht ausgeschlossen werden, dass die Altersbestimmungstechnologien als Zensurinstrument missbraucht werden.

Eine der wichtigsten Methoden für Alterskontrollen basiert auf Papieren, die das Alter belegen, etwa ein Ausweis. Das setzt jedoch Dokumente voraus „über die bestimmte Gruppen gegebenenfalls nicht verfügen“, mahnt der Ethikrat. Eine weitere wichtige Methode sind Schätzungen. Hierfür scannt eine Software etwa das Gesicht oder das Verhalten einer Person auf einer Plattform. Dabei warnt der Ethikrat vor „systematischen Verzerrungen in zwei Richtungen“. Einfach ausgedrückt kann eine solche Software Erwachsene zu Unrecht aussperren – oder junge Menschen zu Unrecht durchlassen.

Nicht zuletzt würden viele Methoden der Alterskontrolle die Privatsphäre gefährden. „Viele Ansätze erfordern die Preisgabe sensibler Daten und/oder das Auslesen von Nutzungsdaten und Inhalten durch die Anbieter. Von besonderer Sensibilität sind hier biometrische Daten“, schreibt der Ethikrat.

Der Pudding wird uns auf die Füße fallen

Das Fazit: Der Ethikrat spricht sich „gegen den Einsatz von Technologien zur Altersableitung oder Altersschätzung aus, bei denen Daten das Endgerät der Nutzerinnen und Nutzer verlassen“.

Diese Empfehlung beißt sich mit der aktuellen Praxis in Deutschland. Regelmäßig bewertet die Kommission für Jugendmedienschutz (KJM) Systeme zur Alterskontrolle als „positiv“, bei denen Nutzer*innen ihre Daten einem externen Anbieter anvertrauen müssen. Das heißt: Anbieter in Deutschland nutzen derzeit Alterskontrollen, von denen der Ethikrat abrät.

„Verpflichtende“ Alterskontrollen dennoch möglich

Spielraum für Alterskontrollen im Netz sieht der Ethikrat dennoch. Zwar sollten Kontrollen durch Eltern der Standard sein. Aber: „Alterskontrollverfahren auf Geräteebene können ergänzend eingesetzt werden.“ Diese Kontrollen könnten „je nach Einsatzgebiet“ sogar „verpflichtend“ sein.

Der Ethikrat zählt nicht genau auf, wovor solche Alterskontrollen schützen sollen. Mindestens geht es um Inhalte, die Minderjährigen „bereits nach dem Strafgesetzbuch“ nicht zugänglich gemacht werden dürfen, also unter anderem Pornos.

Ablaufen könnten die Alterskontrollen nach Auffassung des Ethikrats per „Altersschätzung durch die Kamera“ oder per „Verifikation mit offiziellen Dokumenten“. An dieser Stelle wirken die Empfehlungen allerdings nicht schlüssig: Beide Verfahren hatte der Ethikrat zuvor kritisiert. Bei Altersschätzung drohen „systematische Verzerrungen in zwei Richtungen“; Verifikation mit Dokumenten schließt Menschen aus, die solche Dokumente nicht haben. Es fehlt die Abwägung, warum die Expert*innen solche Nachteile dennoch in Kauf nehmen würden. Auch auf die Gefahr von „Missbrauch und Zensur“ gehen sie hier nicht näher ein.

Jedenfalls müssten sensible Daten auf dem Gerät bleiben. Das Gerät dürfe nur das relevante Alterssignal übermitteln. Der Ethikrat fordert hierfür „konkrete technische Anforderungen“ per Gesetz. Der Verweis auf Prinzipien wie Datenschutz sei „zu abstrakt“.

Eine Empfehlung unter Vorbehalt spricht der Ethikrat für die geplante digitale Brieftasche der EU („EUDI-Wallet“) aus, mit der Menschen in der EU künftig unter anderem ihr Alter nachweisen sollen. Die Bedingung: Die Brieftasche müsse die Vorgaben der eIDAS‑2.0‑Verordnung „vollständig“ erfüllen. Hinter der Abkürzung steckt das Gesetz, das der Brieftasche zugrunde liegt.

Mehr Kontext zu dem Vorbehalt liefert der Ethikrat nicht, allerdings rüttelt die EU-Kommission derzeit am Schutzniveau der EUDI-Wallet. Kritiker*innen fürchten um die Privatsphäre. Ein weiterer Fallstrick: Die digitale Brieftasche darf laut Gesetz nur „freiwillig“ sein, es muss also Alternativen geben. Bloß, welche? Der vom Ethikrat gesteckte Spielraum ist eng.

Wendet sich das Blatt?

Die Bundesregierung hatte im April mitgeteilt, noch keine gemeinsame Position zum Social-Media-Verbot zu haben. Die Empfehlungen des Ethikrats fallen in eine Zeit, in der die breite Kritik an Social-Media-Verbot und Alterskontrollen anscheinend auch bei der Bundesregierung verfängt:

• Mitte Mai hatte Bundeskanzler Friedrich Merz (CDU) nach anfänglichen Sympathien für das Konzept ausdrücklich „Nein“ zu einem Social-Media-Verbot gesagt.
• Wenig später hatte sich Innenminister Alexander Dobrindt (CSU) kritisch geäußert, und damit die Position seines Parteichefs Markus Söder gestützt.
• Familienministerin Karin Prien (CDU) wollte im Mai nicht von einem „Verbot“ sprechen und hielt sich im Gespräch mit Interessierten alle Optionen offen.
• Digitalminister Karsten Wildberger (CDU) konnte dem australischen Modell im Dezember noch „eine Menge abgewinnen“ – sagte jedoch vor wenigen Tagen, ein Social-Media-Verbot für Minderjährige sei „besser als nichts“, während Schutz „innerhalb“ des Designs von Plattformen „am nachhaltigsten“ sei.

All das heißt jedoch nicht, dass sich das Blatt wendet. Denn Forderungen nach einem Social-Media-Verbot für Minderjährige gibt es EU-weit. Die jüngsten Äußerungen von Unions-Politiker*innen zeigen: Zumindest in Deutschland wachsen die Bedenken.

Der Ethikrat hat dafür Argumente geliefert. In Kürze sollen zwei weitere Expert*innen-Gremien auf Deutschland- und EU-Ebene wissenschaftlich fundierte Empfehlungen vorlegen, zuerst das deutsche Gremium am 24. Juni.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Weltweit drängen Regierungen auf Alterskontrollen im Netz. Robust, anonym und zugänglich sollen sie sein. Während die Debatte um das Für und Wider kreist, geht das Wichtigste vergessen: Keine Technologie kann diese Ansprüche erfüllen. Eine Intervention.

Unmögliche Dinge haben eine magische Anziehungskraft. Kein Tier der Welt kann gleichermaßen Eier, Wolle, Milch und Fleisch liefern, trotzdem lebt die eierlegende Wollmilchsau zumindest in unserer Fantasie. Einen festen Platz im kulturellen Gedächtnis hat auch die Katze aus der Vorstellung des Physikers Erwin Schrödinger, die sowohl tot als auch lebendig ist. Und dann gibt es noch den Kreis, den man gerne quadrieren; den Pudding, den man an die Wand nageln will.

Ein Konzept kann noch so widersprüchlich sein, in unserer Vorstellung kann es schlüssig und sinnvoll erscheinen. Genau so verhält es sich mit jenen Alterskontrollen im Netz, die Politiker*innen auf höchster Ebene fordern, seit Australien ein Social-Media-Verbot für unter 16-Jährige eingeführt hat. Diese Alterskontrollen sollen nämlich mehrere Eigenschaften zugleich erfüllen, die sich nicht miteinander kombinieren lassen.

• Einerseits sollen Alterskontrollen im Netz sehr streng sein. Kinder und Jugendliche sollen sie möglichst nicht umgehen können. Eine derzeit weit verbreitete Abfrage wie „Bist du erwachsen?“ genügt demnach nicht. Die Kontrollen sollen deshalb genau, wirksam, zuverlässig und robust sein.
• Andererseits sollen Alterskontrollen im Netz sehr mild sein. Menschen sollen von den Kontrollen nicht benachteiligt werden; ihre Grundrechte auf Datenschutz und Privatsphäre sollen nicht leiden. Die Kontrollen sollen deshalb zugänglich, anonym und datensparsam sein. Sie sollen außerdem nicht diskriminieren und Teilhabe ermöglichen, zwei weitere Grundrechte.

Diese und weitere Ansprüche an Alterskontrollen fallen immer wieder in der Debatte. Sie tauchen etwa in den Leitlinien zur Umsetzung des Gesetzes über Digitale Dienste (DSA) für Minderjährige auf, im Forderungspapier wichtiger Politiker*innen der SPD, in einem Gesetzentwurf der Grünen im Bundestag, im Parteitagsbeschluss der CDU in einem Papier vom Europäischen Datenschutzausschuss oder in einer Einigung der G7-Staaten. Die Ansprüche klingen vielversprechend und glaubhaft, gerade wenn Politiker*innen auf höchster Ebene sie beharrlich wiederholen.

Das Problem: Alles auf einmal geht nicht. Alterskontrollen sind entweder zu mild oder zu streng. Es gibt keine Lösung, die Vorteile beider Ansätze in sich vereint. Warum das so ist, machen drei Beispiele anschaulich.

Erstens: Bist du denn schon alt genug?

☝️ Anspruch: Zuverlässige Alterskontrollen brauchen Belege, dass ein Mensch tatsächlich erwachsen ist.

🔍 Realitäts-Check: Die aktuell in der EU geplante Lösung, um das Alter von Menschen im Netz zu prüfen, ist die Alterskontroll-App. Sie soll einer Website verraten, ob ein Mensch eine Altersschwelle überschreitet oder nicht. Die App basiert auf Ausweispapieren oder anderen Dokumenten. Menschen brauchen für die App außerdem ein Smartphone, Stand aktuell mit iOS oder Google-basiertem Android. Das bedeutet Handyzwang und den Zwang, die Betriebssysteme von US-Konzernen zu nutzen. All das sind Hürden.

Es gibt allein in Deutschland nach Schätzungen Hunderttausende Menschen ohne Aufenthaltstitel. Es ist unklar, ob sie Papiere haben, die mit einer EU-Ausweis-App kompatibel wären; oft misstrauen sie Behörden. Hinzu kommen Menschen, die ihre Ausweispapiere schlicht nicht digital scannen wollen oder kein (geeignetes) Handy haben.

Eine weitere Option der Altersüberprüfung sind KI-basierte Gesichtsscans. Dann würde eine Software das Alter einer Person schätzen. Diese Technologie ist nicht nur ein tiefer Eingriff in die Privatsphäre, sie macht auch Fehler. Sie kann etwa Menschen benachteiligen, die jünger aussehen, als sie sind. Oder deren Gesicht nicht so aussieht wie die Gesichter, für die die Software optimiert wurde, beispielsweise wegen einer Verletzung oder Behinderung. Und auch hier gibt es technische Hürden: Menschen brauchen eine Handykamera, die funktioniert.

Solche Hürden sind niedrig für Menschen mit bestimmen Privilegien, aber sie sind hoch für Menschen, denen solche Privilegien fehlen. Das kann marginalisierte Gruppen weiter benachteiligen. Wer die Hürden nicht überwinden kann oder will, muss auf digitale Teilhabe verzichten.

📌 Zwischenfazit: Sollen Alterskontrollen ernsthaft zuverlässig sein, könnten sie nicht für alle zugänglich sein. Sie müssten Teilhabe einschränken und diskriminieren – was Befürworter*innen ausdrücklich nicht wollen.

Zweitens: Bist du’s wirklich?

☝️ Anspruch: Robuste Alterskontrollen verlangen, dass Menschen den Altersnachweis nicht von jemandem klauen.

🔍 Realitäts-Check: Diesen Anspruch können datensparsame Lösungen wie die Alterskontroll-App der EU nicht überzeugend erfüllen. Gegenüber einer altersbeschränkten Website soll die App nur weitergeben, ob jemand eine Altersschwelle überschritten hat, mehr nicht. Das ist wichtig zum Schutz der Privatsphäre, im besten Fall läuft das sogar anonym.

Eine Website kann dann allerdings nicht prüfen, ob eine Person ihren Nachweis geklaut hat – etwa, weil sie das Handy von jemand anderem benutzt.

Eindämmen ließe sich der Nachweis-Klau nur mit weniger Privatsphäre. Man müsste Nachweis und Nutzer*in enger verknüpfen. Eine Option: Wer eine beschränkte Website öffnen will, müsste dafür in Echtzeit das eigene Gesicht scannen lassen. Eine Software könnte das Alter abschätzen, oder das Gesicht mit einem Ausweisdokument abgleichen, aus dem das Alter hervorgeht. Eine andere Option wäre ein passwortgeschützter Account, wo der geprüfte Altersnachweis hinterlegt ist. Dann könnten Website-Betreiber allerdings aus den Aktivitäten einer Person Profile bilden.

📌 Zwischenfazit: Sollen Altersschranken ernsthaft robust sein, ginge das nur mit Einbußen bei der Privatsphäre – was Befürworter*innen ausdrücklich nicht wollen.

Drittens: Bleib da, wo ich dich sehen kann!

☝️ Anspruch: Wirksame Alterskontrollen verlangen, dass Menschen die beschränkten Inhalte nicht einfach über einen Umweg abrufen.

🔍 Realitäts-Check: Hier kippt das Vorhaben ins Absurde. Junge Menschen müssen Alterskontrollen gar nicht erst austricksen, sie können sie einfach vermeiden. Das hat mit der Architektur des Internets zu tun. Alterskontrollen sind wie ein eisernes Tor auf einem Pfad, der in einen Wald führt. Man muss dieses Tor nicht aufkriegen – man kann einfach den ausgetretenen Pfad verlassen und irgendwo zwischen den Bäumen in den Wald spazieren.

Mit VPN-Diensten oder dem Tor-Browser lassen sich altersbeschränkte Websites ohne Schranken besuchen. Der Internetverkehr fließt dann über Server an einen anderen Ort, etwa ein anderes Land ohne Alterskontrollen. Im Mai hat eine Analyse vom Wissenschaftlichen Dienst des Europäischen Parlaments Aufsehen erregt. Im Rahmen einer Abwägung bezeichneten die Autor*innen VPN-Dienste auch als Lücke im Jugendschutz, die geschlossen werden müsse („A loophole that needs closing“).

VPN-Dienste verbieten? Für Grundrechte wie Datenschutz und Privatsphäre wäre das katastrophal. Es würde die Demokratie untergraben. Denn VPN-Dienste oder auch das Tor-Netzwerk sind wichtige Werkzeuge digitaler Selbstverteidigung. Sie schützen unter anderem Journalist*innen, Whistleblower*innen, Oppositionelle, Dissident*innen. Autoritäre Regierungen wie Russland, Iran oder Nordkorea gehen dagegen vor – also Regime, die es als Bedrohung ansehen, wenn sich Menschen frei und anonym Informationen beschaffen und kommunizieren können.

📌 Zwischenfazit: Sollen Alterskontrollen ernsthaft wirksam sein, müsste man auch Werkzeuge wie VPN-Dienste einschränken, die für Grundrechte im Netz essentiell sind – was in einer Demokratie nicht wünschenswert sein kann.

Fazit: Die Rechnung geht nicht auf

Alterskontrollen, die alle Ansprüche erfüllen: Das erscheint nur schlüssig, wenn man nicht genau hinschaut. Wer ohne Abstriche strenge und zugleich milde Alterskontrollen verspricht, kennt sich nicht aus oder ist nicht aufrichtig.

• Die CDU verlangt in ihrem Parteitagsbeschluss: „ein effektives und technisch belastbares Altersverifikationssystem“. Die Verifikation habe „datensparsam, sicher und unter Wahrung europäischer Datenschutzstandards zu erfolgen.“ Das klappt nicht.
• Wichtige SPD-Politiker*innen rund um Justizministerin Stefanie Hubig fordern: „eine verpflichtende, wirksame und datensparsame Altersverifizierung“. Das klappt nicht.
• Die Grünen wollen „eine rechtssichere, verlässliche, diskriminierungsfreie, datensparsame und grundrechtsschonende Lösung.“ Das klappt nicht.
• Der Europäische Datenschutzausschuss verlangt von Alterskontrollen: Zugänglichkeit, Zuverlässigkeit, Robustheit und „datenschutzfreundlichste verfügbare Methoden“. Das klappt nicht.
• Die DSA-Leitlinien der EU-Kommission zum Schutz von Minderjährigen wollen Alterskontrollen bewerten nach: Genauigkeit, Zuverlässigkeit, Robustheit, Nicht-Intrusivität und Nichtdiskriminierung. Das klappt nicht.
• Die G7-Staaten wollen „robuste, zuverlässige und Privatsphäre wahrende Lösungen zur Altersüberprüfung“. Das klappt nicht.

Eine realistische Debatte ist nur möglich, wenn sich die Beteiligten ehrlich machen und klar benennen, was klappt und was nicht. Nur so können sich Abgeordnete, Diplomat*innen, Forschende, Wähler*innen und alle anderen Interessierten eine Meinung bilden und informierte Entscheidungen treffen.

Welche Nachteile wollen wir als Gesellschaft in Kauf nehmen, wenn wir Alterskontrollen mild oder streng gestalten? Befürworter*innen von Alterskontrollen sind darauf eine Antwort schuldig. Denn es gibt keine Option ohne Nachteile:

• Entweder die Alterskontrollen – oder besser: Altersschranken sind mild, dann brauchen junge Menschen viele andere Schutzmaßnahmen. Dafür bietet das Gesetz über digitale Dienste eine Menge Werkzeuge, etwa Vorschriften gegen manipulative Designs und suchtfördernde Mechanismen. Kombinieren ließe sich das mit klugen und offenen Jugendschutz-Werkzeugen.
• Oder aber die Alterskontrollen sind streng, dann gefährden sie die Grundrechte aller. Schlimmstenfalls droht ein Netz nach Vorbild autoritärer Regime.

Warnung von Forscher*innen verhallt

Strenge Alterskontrollen für alle – umgesetzt mit einer staatlich verordneten Ausweis-App – legen den Grundstein für ein umfassenden Kontroll-Apparat. Selbst wenn das System mit hohen Datenschutz-Standards startet, gibt es keine Garantie, dass das so bleibt. Es bräuchte nur ein technisches und ein juristisches Update, um einen datensparsamen Kontroll-Apparat in einen gefährlichen Überwachungsapparat zu verwandeln.

In einem solchen Fall könnte die einmal ausgerollte App plötzlich doch Klarnamen oder feste Kennungen übertragen und damit die Anonymität im Netz untergraben. Eine menschenfeindliche Regierung könnte mithilfe der App neben Minderjährigen weitere gesellschaftliche Gruppen aus digitalen Räumen drängen – etwa sortiert nach Geburtsort im In- oder Ausland. Technologisch wäre so etwas kein Problem.

Eine dringende Warnung gab es im März von mehr als 400 internationalen Forscher*innen aus IT-Sicherheit und Datenschutz in einem offenen Brief. Die Einführung von Alterskontrollen ohne weitere Forschung sei „gefährlich und gesellschaftlich nicht hinnehmbar“, schrieben die Expert*innen aus 29 Ländern. Es fehle ein klares Verständnis dafür, was diese Kontrollen anrichten können, für „Sicherheit, Privatsphäre, Gleichberechtigung“ und die „Autonomie“ aller Menschen.

Die Warnung ist offenbar verhallt. Selbst das vom Familienministerium einberufene Expert*innen-Gremium hat die Gefahren von Alterskontrollen in einem 128-seitigen Zwischenbericht zum Forschungsstand nicht beachtet.

Am 24. Juni soll das deutsche Expert*innen-Gremium Empfehlungen vorlegen, wenig später ein Gremium auf EU-Ebene. Bis September könnte die EU-Kommission einen Gesetzentwurf vorlegen. Längst hat Ursula von der Leyen klargemacht, dass sie ein Social-Media-Verbot für Minderjährige befürwortet – was unweigerlich mit Alterskontrollen einhergehen würde. Die Kommissionspräsidentin greift förmlich nach dem Hammer, um den Pudding an die Wand zu nageln. Auf die Füße fallen würde er uns allen.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Auf der Suche nach Minderjährigen will Meta Nutzer*innen auf Facebook und Instagram umfassend durchleuchten. Der Konzern will sogar die Knochenstruktur von Menschen auf Fotos auswerten. Wie gefährlich ist das? Die Analyse.

Instagram und Facebook wollen ihre Nutzer*innen künftig noch genauer unter die Lupe nehmen. Eine als KI bezeichnete Software soll unter anderem Texte in Posts und Kurzbios kontrollieren und Objekte in Fotos und Videos scannen. Die Software soll sogar die Körpergröße und Knochenstruktur abgebildeter Personen auswerten. Das Ziel dieser Art von Rasterfahndung sind Minderjährige.

Schätzt die Software eine Person für verdächtig jung ein, soll sie ihr Alter nachweisen. Junge Menschen unter 18 Jahre sollen die Plattformen nur im Jugendschutz-Modus nutzen; Kinder unter 13 Jahre dürfen keinen Account haben.

Wer also künftig auf Instagram Fotos vom Kindergeburtstag postet oder über Schulnoten spricht, könnte Probleme bekommen. Die Software könnte das als Hinweis werten, dass man noch nicht erwachsen ist. Diese beiden Beispiele kommen aus der Pressemitteilung von Meta.

Die neue KI-Überwachung startet Instagram demnach jetzt in der EU und in Brasilien. Zuvor lief sie bereits in den USA, Australien, Kanada und dem Vereinigten Königreich. Auf Facebook rollt Meta die Überwachung zunächst in den USA aus; im Juni soll sie für EU und Vereinigtes Königreich folgen.

Hier kommen die fünf wichtigsten Fragen und Antworten zu Metas neuen Alterskontrollen.

• 1. Bergen Metas Alterskontrollen Gefahren?
• 2. Warum macht Meta das?
• 3. Ist das neu?
• 4. Darf Meta das?
• 5. Was passiert als nächstes?

1. Bergen Metas Alterskontrollen Gefahren?

Ein Fachbegriff für die von Meta geplanten Alterskontrollen ist Inferenz, einfacher ausgedrückt: schlussfolgern. Inferenz-Methoden kombinieren mehrere Anhaltspunkte, um das Alter einer Person zu schätzen. Dabei können Dinge schiefgehen – besonders wenn ein Tech-Konzern sogar Fotos und Videos mit sogenannter KI durchsuchen will.

• Datenmaximierung: In der EU verankert die Datenschutz-Grundverordnung (DSGVO) den Grundsatz der Datenminimierung. Das heißt im Fall von Meta: Der Konzern soll nicht mehr Daten sammeln und verarbeiten als nötig. Auf Datenminimierung pocht auch die EU-Kommission in ihren Leitlinien, die beschreiben, wie Online-Dienste Minderjährige schützen sollen; Grundlage is das Gesetzes über digitale Dienste (DSA). Passend dazu fordern in der aktuellen Debatte um Altersgrenzen und Social-Media-Verbote Politiker*innen durch die Bank weg, Alterskontrollen sollen datensparsam ein. Was Meta plant, ist jedoch das Gegenteil: Der Konzern will Daten nicht minimieren, sondern maximieren. Er will „mit KI-Technologie komplette Profile analysieren“.
• Kontrollverlust: Meta listet nicht vollständig auf, was die Software auf der Suche nach Minderjährigen alles einbezieht. Hinweise auf Geburtstage oder Schulnoten sind nur Beispiele; ebenso die Knochenstruktur von Menschen in Fotos und Videos. Nutzer*innen können deshalb nicht wissen, welche der Dinge, die sie posten, möglicherweise problematisch sein könnten. Sie wissen auch nicht, was genau mit den aus der Analyse gewonnenen Erkenntnissen passiert. Meta ist ein Datenschlucker; in der Vergangenheit hatte der Konzern mehrfach Datenschutz-Skandale. Die autoritäre US-Regierung hat potenziell Zugriff auf Daten von Meta-Nutzer*innen in der EU. Daraus folgt: Menschen auf Instagram und Facebook können kaum kontrollieren, was mit ihren Daten geschieht.
• Fehleinschätzungen: Inferenz-Methoden setzen auf Hinweise, aber Hinweise sind keine Fakten. Die Software könnte Menschen zu Unrecht als minderjährig einstufen. In der Folge müssten sie potenziell invasive Alterskontrollen überwinden; etwa auf Basis von Ausweisen oder biometrischen Gesichtsscans. Eventuell geraten manche Gruppen besonders oft in Verdacht, noch nicht erwachsen zu sein. Etwa Menschen, die sich aufgrund von Sprachschwierigkeiten nur sehr einfach ausdrücken. Oder eher kleine, schmale Menschen, deren Körper eine Software als jugendlich einstufen würde.
• Gesellschaftsbild: Die Maßnahme steht für einen radikalen gesellschaftlichen Wandel im Umgang mit Risiken. Auf der Suche nach Minderjährigen werden praktisch alle Nutzer*innen zu Verdächtigen – und all ihre Uploads zu potenziellem Beweismaterial. Die Überwachung wichtiger Schauplätze der digitalen Öffentlichkeit wird zunehmend lückenlos. Lange Zeit wurden KI-gestützte Überwachungsmethoden vor allem diskutiert, um schwere Verbrechen aufzuklären. Jetzt sollen sie sogar Kinder aufspüren. Es geht um junge Menschen, die neugierig sind und Regeln brechen, nicht um Schwerverbrecher*innen. Das normalisiert permanente Überwachung, selbst im Alltag.
• Function Creep ist die schrittweise Ausweitung einer Technologie über die ursprünglich beschriebenen Zwecke hinaus. Konkretes Beispiel: Schon jetzt nutzt die rassistische Trump-Regierung ein Arsenal an Überwachungstechnologie auf der Jagd nach Migrant*innen, um sie zu deportieren. Theoretisch könnte Meta die Systeme zur Suche nach Minderjährigen auch zur Suche nach Migrant*innen oder anderen vulnerablen Gruppen einsetzen. Entsprechende Gesetze könnten Konzerne dazu verpflichten, wenn die Infrastruktur erst einmal da ist.

2. Warum macht Meta das?

Meta reagiert mit den neuen Alterskontrollen wahrscheinlich auf die weltweite Debatte um Jugendschutz im Netz und Social-Media-Verbote. Jüngst hat etwa die EU-Kommission festgestellt, dass Meta nicht genug tut, um unter 13-Jährige von Facebook und Instagram fernzuhalten. Das ist ein möglicher Verstoß gegen den DSA; am Ende können Geldbußen drohen.

Die neuen Alterskontrollen könnte der Meta-Konzern als Argument dafür nutzen, dass er sich nun an die Regeln hält. Generell bieten Inferenz-Methoden mehrere Anreize für kommerzielle Online-Plattformen.

• Plattformen wollen ihre Nutzer*innen nicht abschrecken; immerhin ist deren Aufmerksamkeit die wichtigste Geldquelle. Während etwa Ausweiskontrollen für alle eine sichtbare Hürden sind, laufen Inferenz-Methoden zunächst unscheinbar im Hintergrund.
• Inferenz-Methoden basieren auf Wahrscheinlichkeiten. Plattformen können genau steuern, ab welcher Schwelle eines Verdachts die Software Alarm schlägt und von Nutzer*innen eine Altersverifikation verlangt. Auf diese Weise könnte ein Konzern stets optimieren, wie streng die Kontrollen ausfallen – auch mit Blick auf möglichst geringe finanzielle Einbußen.
• Die Systeme hinter Inferenz-Methoden können für Außenstehende komplex und intransparent sein. Kommerzielle Online-Plattformen sprechen gerne davon, dass sie ihre Systeme kontinuierlich verbessern. Das gibt ihnen viel Spielraum, etwaige Fehler zu relativieren mit Verweis auf eine überholte Version der Systeme, etwa gegenüber Aufsichtsbehörden.

3. Ist das neu?

Inferenz-Methoden zur Alterskontrolle auf Online-Plattformen gibt es schon länger. Selbst Meta schreibt, dass sie ihre Systeme lediglich weiter „stärken“. Auch beispielsweise TikTok, ChatGPT, die Google-Suche oder YouTube suchen im Hintergrund nach Hinweisen darauf, ob Nutzer*innen zu jung sein könnten.

Neu ist allerdings die beschriebene Tiefe der Eingriffe – bis hin zur Analyse von Objekten und Knochenstruktur in Bildern und Videos. Wie zur Beschwichtigung betont Meta in der Pressemitteilung: „Das ist keine Gesichtserkennung.“ Die Software identifiziere keine Personen. Das kann technisch korrekt sein, macht die Eingriffe aber nicht unbedenklich.

4. Darf Meta das?

Vielleicht nicht. Die Datenschutzjuristin Kleanthi Sardeli verfolgt die Neuerungen bei Meta jedenfalls mit Skepsis. Sie arbeitet für die spendenfinanzierte NGO noyb („none of your business“) mit Sitz in Wien. Auf Anfrage von netzpolitik.org geht sie darauf ein, dass biometrische Daten wie Knochenstruktur und Körpergröße in der DSGVO einem strengeren Schutz unterliegen.

Knochenstruktur und Körpergröße können als Gesundheitsdaten angesehen werden, die denselben Schutz wie biometrische Daten genießen. Diese dürfen nur in Ausnahmefällen und auf Grundlage spezifischer Rechtsgrundlagen verarbeitet werden. Dazu gehört unter anderem die Einwilligung. In Metas Datenschutzerklärung wird dieser spezifische Einsatzbereich bisher nicht erwähnt, und als Rechtsgrundlage wird lediglich das berechtigte Interesse genannt – was für den Einsatz dieser neuen KI-Technologie eindeutig nicht ausreichend wäre.

Nähere Einschätzungen seien schwierig, schreibt Sardeli. Dafür seien Metas Informationen zu zurückhaltend. „Es wird auch nicht näher erläutert, wie Metas KI-Modelle auf die Alterserkennung trainiert werden – und ob Inhalte auf Meta-Plattformen verwendet werden, um diese KI-Funktionen weiter zu trainieren.“

Scharfe Kritik an Meta kommt von der deutschen Europa-Abgeordneten Alexandra Geese (Grüne), Stellvertretende Vorsitzende im Ausschuss für Binnenmarkt und Verbraucherschutz. Auf Anfrage von netzpolitik.org schreibt sie:

Was Meta hier plant, ist nichts weniger als der nächste Tabubruch: Die systematische Auswertung von Körpermerkmalen wie Knochenstruktur zur Altersbestimmung ist ein massiver Eingriff in hochsensible personenbezogene Daten.

Geese verweist auf eine Regel im DSA, die besagt: Online-Plattformen sind „nicht verpflichtet, zusätzliche personenbezogene Daten zu verarbeiten, um festzustellen, ob der Nutzer minderjährig ist“. Meta tut es dennoch. Statt mehr Schutz reagiere Meta mit mehr Überwachung. „Wer glaubt, man könne Kinderschutz mit biometrischer Massenanalyse erreichen, opfert Grundrechte auf dem Altar eines kaputten Geschäftsmodells.“

5. Was passiert als nächstes?

Die EU-Kommission dürfte sich für das laufende DSA-Verfahren genau anschauen, ob Meta mit den neuen Alterskontrollen die gesetzlichen Vorgaben erfüllt. Einerseits könnte Meta auf diese Weise tatsächlich mehr Minderjährige finden – andererseits könnte die Kommission die datenhungrigen Maßnahmen als unverhältnismäßig einstufen.

Parallel diskutieren Expert*innen gerade auf Deutschland- und EU-Ebene über Maßnahmen für Kinder- und Jugendschutz im Netz. Spitzenpolitiker*innen fordern vehement Social-Media-Verbote und (datensparsame) Alterskontrollen, während Fachleute aus unter anderem Medienpädagogik, Kinderschutz oder IT-Sicherheit vor beidem warnen. Im Sommer sollen die von EU-Kommission und Bundesregierung einberufenen Expert*innen ihre Empfehlungen vorlegen.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der französische Präsident Emmanuel Macron schwört die EU auf Alterskontrollen ein. Dafür liegt er unter anderem Kommissionspräsidentin von der Leyen und Bundeskanzler Merz in den Ohren. Mit steigendem Tempo steuert die EU auf eine Ausweispflicht im Netz zu.

Viele Spitzenpolitiker*innen wollen gerade Alterskontrollen und ein Social-Media-Verbot für Minderjährige. Der französische Präsident Emmanuel Macron will es ganz besonders. Medienwirksam treibt er das Vorhaben europaweit voran und versucht, andere Mitgliedstaaten auf Linie zu bringen.

Am gestrigen Donnerstag hat Macron zu einer Videokonferenz geladen. Dabei waren EU-Kommissionspräsidentin Ursula von der Leyen (CDU), Bundeskanzler Friedrich Merz (CDU), die italienische Ministerpräsidentin Giorgia Meloni und weitere hochrangige Vertreter*innen von EU-Mitgliedstaaten. Das Ziel: koordiniert vorgehen.

Auf Twitter-Nachfolger X sprach Macron von einer „Bewegung“. Ein von ihm veröffentlichter Videoclip zeigt eine Aufnahme des Bildschirms mit den zugeschalteten Gästen, darunter Bundeskanzler Merz. „Hier sind rund ein Dutzend Staaten vertreten“, so ein Schriftzug im Videoclip.

Über die Teilnahme des Kanzlers ist die französische Regierung offenbar besonders stolz. Im Vorfeld sagte ein Élysée-Sprecher, das sende ein „Signal“. Im Vergleich zu Frankreich ist die Position der Bundesregierung in Sachen Social-Media-Verbot nämlich noch verhalten.

Den Stein ins Rollen gebracht hatte im Dezember 2025 das Social-Media-Verbot für unter 16-Jährige in Australien. Dort dürfen große Plattformen wie TikTok, Instagram oder YouTube jungen Menschen keine Accounts mehr erlauben. Dafür sollen sie das Alter von Nutzer*innen prüfen. Nun drängen mehrere EU-Mitgliedstaaten auf ein ähnliches Modell.

Rechtssicher möglich wäre das jedoch nur mit einer EU-weiten Regelung. Deshalb erhöhen die Befürworter*innen Woche für Woche den Druck auf die EU-Kommission. Staats- und Regierungsschef*innen, etwa aus Spanien und Deutschland, stellen Forderungen auf oder schreiben der Kommissionspräsidentin dringliche Briefe. Mitgliedstaaten wie Frankreich und Griechenland bringen bereits nationale Gesetze auf den Weg. EU-Parlament und Rat beziehen Position.

Die gestrige Videokonferenz ist also nur der (bisherige) Gipfel der Bemühungen.

Ausweispflicht im Netz? Das droht konkret

Der an den Tag gelegte Eifer könnte den Eindruck erwecken, Europa müsse auf eine plötzliche Katastrophe reagieren. Das ist aber nicht der Fall: Es gibt keine Hinweise, dass soziale Medien aktuell schädlicher wären als beispielsweise vor fünf Jahren. Die Forschungslage über gesundheitliche Gefahren sozialer Medien für Minderjährige ist nach wie vor unklar; Warnungen aus der Wissenschaft sind in der Gesamtschau eher vorsichtig.

Anders sieht jedoch das Bild aus, dass Spitzenpolitiker*innen zeichnen. Ursula von der Leyen hatte diese Woche die neue EU-Alterskontroll-App in ihrer Rede sogar mit der Einführung der Covid-App verglichen. Als wären soziale Medien eine Pandemie, die Europa überrollt und dabei vor allem Kinder und Jugendliche infiziert. Worauf genau steuert Europa da gerade zu?

Das in eine künstliche Drohkulisse gerahmte Vorhaben lässt sich auf vier Module herunterbrechen.

• Erstens geht es um ein EU-weites einheitliches Mindestalter für soziale Medien – ähnlich wie für einen Auto-Führerschein. Es könnte irgendwo zwischen 12 und 16 Jahren liegen. Frankreich will es bei 15 Jahren ansetzen. Schon jetzt geben Plattformen in ihren Nutzungsbedingungen ein Mindestalter vor: etwa 13 Jahre bei TikTok oder 16 Jahre bei YouTube. Für ein EU-weites Mindestalter allein wären die rechtlichen Hürden eher gering.
• Zweitens geht es um die Verpflichtung, dass Plattformen dieses Mindestalter mit strengen Alterskontrollen sichern müssen, etwa auf Basis von Ausweisdokumenten. Eine solche Pflicht gibt es bereits für Pornoseiten, die nur ab 18 Jahren erlaubt sind. Für soziale Medien dagegen gilt das Gesetz über digitale Dienste (DSA), das strenge Alterskontrollen nur als eine von mehreren Optionen vorsieht. Möchte die EU also soziale Medien zu solchen Alterskontrollen verpflichten, müsste der DSA angepasst werden.
• Drittens geht es um die wirksame Durchsetzung einer möglichen Pflicht zu strengen Alterskontrollen. Das Beispiel von Pornoseiten zeigt: Nur weil eine strenge Pflicht de jure gilt, heißt es noch lange nicht, dass Websites sich auch de facto daran halten. Eigentlich dürfte es in der EU keine frei zugänglichen Pornoseiten geben. Seit Jahren laufen dazu Rechtsstreitigkeiten. Social-Media-Seiten sind jedoch weniger rebellisch als Pornoseiten. Sie könnten sich entsprechenden Gesetzen beugen – in Australien tun sie es auch, zumindest widerwillig.
• Viertens geht es um einheitliche Methoden für strenge Alterskontrollen. Die EU hat hierfür jüngst eine Alterskontroll-App vorgestellt, die EU-weit ausgerollt werden soll. Später soll sie in der neuen digitalen Brieftasche (EUDI-Wallet) aufgehen. Nutzer*innen sollen in der App etwa ein Ausweisdokument hinterlegen, das ihr Alter verrät. Die App soll dann lediglich weitergeben, ob eine Person eine bestimmte Altersschwelle überschritten hat. Rund um die App gibt es jedoch mehrere technische Unklarheiten und falsche Versprechungen.

Sobald alle vier Module wie Zahnräder ineinandergreifen, könnte ein mächtiger Kontrollapparat entstehen, der das Internet, wie wir es bisher kennen, umkrempelt. In diesem Szenario wäre es zwar weiterhin möglich, Alterskontrollen mit Tricks zu umgehen – etwa mit einem VPN-Dienst. Dennoch ist davon auszugehen, dass ein Großteil der Nutzer*innen lieber den offiziell gewünschten Weg geht und sich künftig mit einer Ausweis-App durchs Netz bewegt.

Zwei Updates könnten den Überwachungs-Apparat scharfstellen

Für Anonymität im Netz ist das eine Gefahr. Aktuell setzt die Alterskontroll-App der EU auf Pseudonyme, auch wenn die EU-Kommission versucht, die Kontrollen als „komplett anonym“ zu verkaufen. Technische Systeme lassen sich allerdings mühelos verändern. Vom Kontrollapparat zum Apparat für Massenüberwachung wäre es – theoretisch – kein allzu großer Schritt mehr. Dafür bräuchte es nur zwei Updates:

• Ein technisches Update könnte die App von Pseudonymen auf Klarnamen umstellen.
• Ein juristisches Update müsste dafür die entsprechende Rechtsgrundlage schaffen.

Mit der Begründung, Kinder und Jugendliche zu schützen, erschaffen Emmanuel Macron, Ursula von der Leyen und weitere Befürworter*innen von Alterskontrollen also gerade eine neue Infrastruktur, um alle Menschen im Netz umfassend zu kontrollieren. Und diese Infrastruktur wäre nur zwei Updates davon entfernt, Anonymität im Netz weitgehend abzuschaffen.

Weiter wäre es mit diesem Kontrollapparat möglich, bestimmte Personengruppen systematisch aus digitalen Räumen auszuschließen, etwa weil sie eine bestimmte Altersgrenze nicht überschreiten oder weil sie keine erforderlichen Papiere besitzen. – Wie weit ist dieses Szenario entfernt?

Erste Hürde: Die Alterskontroll-App ist nicht fertig

Rund um Alterskontrollen gibt es eine auffällige Diskrepanz zwischen dem, was Befürworter*innen sagen, und dem, was der Fall ist. So hat Kommissionspräsidentin von der Leyen die Alterskontroll-App diese Woche für „technisch fertig“ erklärt. In einem nachgelagerten Pressebriefing betonte ein Pressesprecher mit gepresster Stimme, die App sei „fertig!“. Ein hochrangiger EU-Beamter sprach im selben Pressebriefing von einem „Goldstandard“.

Der Blick in den Code und die Spezifikationen zeigt jedoch: Die App ist nicht fertig. Einiges ist noch nicht abschließend geklärt. So braucht es je nach Nationalstaat und unterstützten Altersnachweisen eigene Umsetzungen der App. Dabei gibt es viele Spielräume, die am Ende mehr oder weniger Privatsphäre versprechen. IT-Sicherheitsexperten warnen bereits vor Lücken.

Deutschland wiederum will die Alterskontroll-App gar nicht erst einführen, wie jüngst ein Sprecher des Digitalministeriums gegenüber der Süddeutschen Zeitung (SZ) erklärte. Offenbar liegt der Fokus in Deutschland auf der digitalen Brieftasche.

Aus der Bundesagentur für Sprunginnovationen heißt es laut SZ: Die technischen Standards der Alterskontroll-App würden von jenen aus der Verordnung für die digitale Brieftasche abweichen, „ohne, dass dadurch ein Mehrwert entsteht“. Das deutet darauf hin: Der angebliche „Goldstandard“ könnte zum Rohrkrepierer werden.

Zweite Hürde: Der DSA steht im Weg

Weiter ist noch nicht entschieden, ob und inwiefern die EU-Kommission bereit wäre, Social-Media-Plattformen zu strengen Alterskontrollen zu verpflichten. Dafür müsste sie nämlich den DSA anfassen. Gibt es dafür einen politischen Willen? In ihren Äußerungen zur Videokonferenz mit Macron, von der Leyen und weiteren Spitzenpolitiker*innen hielt sich die EU-Kommission offenbar bewusst alle Türen auf.

Ursula von der Leyen schrieb auf Twitter-Nachfolger X: „Mit dem DSA haben wir EU-weite Regeln.“ Eltern sollten sich keine Sorgen machen. Das deutet darauf hin: Nein, es kommen keine neuen Gesetze, die über den DSA hinausgehen.

Am selben Tag allerdings sagte ein Kommissionssprecher dem Fachmedium Mlex: „Natürlich erwarten wir von Online-Plattformen, einschließlich sozialer Medien, dass sie angemessene Verfahren zur Altersverifikation haben, wenn für ihre Dienste Altersbeschränkungen gelten.“ Das wiederum deutet in eine andere Richtung: Die EU-Kommission könnte versuchen, bei der Durchsetzung des DSA auf strenge Altersverifikation zu pochen. Plattformen allerdings könnten sich dann rechtlich dagegen wehren und auf den Spielräumen beharren, die ihnen laut DSA zustehen.

Aktuell muss die EU-Kommission über das französische Social-Media-Verbot bis 15 Jahre entscheiden, und zwar im sogenannten Notifizierungsverfahren. Hier soll sich klären, ob das geplante nationale Gesetz mit EU-Recht vereinbar ist. Das könnte eng werden: In zwei Gutachten hatten die Wissenschaftlichen Dienste des Bundestags keine Spielräume für nationale Alleingänge bei diesem Thema gesehen.

Die Wissenschaftlichen Dienste arbeiten laut Selbstbeschreibung parteipolitisch neutral und sachlich objektiv. Als die französische Regierung jüngst in einem Pressebriefing auf deren juristisch fundierte Einschätzung angesprochen wurde, wollte sie davon nichts wissen. Ein Sprecher weigerte sich, zu kommentieren, was „irgendein“ deutsches Gremium sage.

Wissenschaft und Zivilgesellschaft im Abseits

Ähnlich wie die EU-Kommission hält sich Deutschland noch alle Türen auf. Zwar haben bereits Kanzler, Vizekanzler, die CDU und wichtige SPD-Politiker*innen Position bezogen – für ein Social-Media-Verbot für Minderjährige plus Alterskontrollen. Die CSU dagegen ist skeptisch. Und die Bundesregierung teilte jüngst mit, sie habe sich noch nicht festgelegt.

Mit zunehmender Ungeduld schielen die Befürworter*innen des Modells auf zwei Expert*innen-Kommissionen; eine auf Deutschland- und eine auf EU-Ebene. Dort sollen Fachleute bis spätestens Sommer Handlungsempfehlungen für Jugendschutz im Netz vorlegen. Ihnen dürfte allerdings bewusst sein, dass Politiker*innen auf höchster Ebene gerade Entscheidungen vorwegnehmen. Wie groß ist wohl das Interesse der Forschenden, den Staats- und Regierungschef*innen mit möglicherweise abweichenden Positionen in die Parade zu fahren?

Keinerlei politisches Gehör findet derweil eine breite interdisziplinäre Palette an Kritiker*innen aus den Bereichen Kinderschutz, Pädagogik und Wohlfahrt, aus Elternverbänden, aus Datenschutz und IT-Sicherheit bis hin zur Kirchen-Organisationen. Viele lehnen sowohl ein pauschales Social-Media-Verbot für Minderjährige ab als auch strenge Alterskontrollen für alle. Kinder und Jugendliche mit ihren Interessen und Bedürfnissen kommen in der politischen Debatte – wenn überhaupt – nur am Rande vor.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Bundesregierung weiß nicht, ob ein Social-Media-Verbot für Minderjährige wissenschaftlich ratsam wäre. Sie weiß auch nicht, ob der Eingriff in Grundrechte verhältnismäßig wäre – oder ob sie das Verbot überhaupt will. Das zeigt die Antwort auf eine Kleine Anfrage der Linken.

Deutsche Spitzenpolitiker*innen fordern seit Monaten ein Social-Media-Verbot für Minderjährige. Entsprechende Vorstöße gab es unter anderem vom Bundes- und Vizekanzler, vom Bundespräsidenten und von der Justiz- und Familienministerin. Höher ließe sich ein geplantes Vorhaben kaum aufhängen. Nun zeigt allerdings die Antwort der Bundesregierung auf eine Kleine Anfrage der Linken: Offenbar stehen die vielfachen Forderungen auf wackligen Füßen.

Fragen zur Forschungslage oder zur Abwägung von Grundrechten kann die Bundesregierung demnach nicht beantworten. Auch gebe es noch keine gemeinsame Position: „Der Meinungsbildungsprozess innerhalb der Bundesregierung ist noch nicht abgeschlossen“, heißt es in der Antwort auf die Fragen von Heidi Reichinnek und weiteren Abgeordneten, die wir hier veröffentlichen.

Wissenschaftliche Grundlage: Keine

Zu mehreren Anlässen hatte sich Bundesfamilienministerin Karin Prien (CDU) bereits für ein Social-Media-Verbot stark gemacht und dabei auf wissenschaftliche Erkenntnisse verwiesen. Die Linken-Abgeordneten wollten es genauer wissen: „Auf welche wissenschaftlichen Erkenntnisse stützt die Ministerin ihre jeweiligen Positionen?“

Auf diese Frage ging die Bundesregierung jedoch nicht näher ein. Wohl aber auf eine ähnliche Frage – nämlich die, welche Studien belegen, dass Social-Media-Verbote positive Auswirkungen auf das Wohlbefinden junger Menschen hätten. Die Antwort: „Nach Kenntnis der Bundesregierung liegen entsprechende belastbare Studien noch nicht vor.“

Das passt unter anderem zum Befund der Gelehrtengesellschaft Leopoldina. In einem Diskussionspapier vom August 2025 nannten die Expert*innen die Forschungslage zu den Auswirkungen sozialer Medien „unbefriedigend“. Die Frage, wie soziale Medien auf das Gehirn einwirken, sei „bislang noch kaum neurowissenschaftlich untersucht“.

Dennoch plädierte die Leopoldina für Vorsicht statt Nachsicht. Sie forderte ein Social-Media-Verbot, stützte sich dabei aber nicht auf die Forschungslage, sondern auf das „Vorsorgeprinzip“ als „ethischen Standard zum Umgang mit Unsicherheit“.

Abwägung von Grundrechten: „Dauert noch“

Ein Social-Media-Verbot für junge Menschen bis zu einer gewissen Altersgrenze greift in mehrere Grundrechte ein, dazu gehören vor allem Teilhabe und Information, aber auch die Religionsfreiheit.

Gesetze dürfen zwar in Grundrechte eingreifen, allerdings müssen sie unter anderem verhältnismäßig sein. Ob ein Social-Media-Verbot verhältnismäßig wäre, hat die Bundesregierung allerdings noch nicht geprüft, wie aus der Antwort hervorgeht. Die Prüfung „dauert noch an“.

Zweifel an der Verhältnismäßigkeit gibt es bereits, etwa von der Bundesdatenschutzbeauftragten Louisa Specht-Riemenschneider, die in einer Stellungnahme für den Thüringer Landtag Ende letzten Jahres schrieb: „Keinesfalls sollte undifferenziert für jedes soziale Medium in Gänze eine bestimmte Altersgrenze festgelegt werden.“ Kinder und Jugendliche hätten ein Recht auf soziale Teilhabe.

Beeinflussung der Expert*innen-Kommission: ¯\_(ツ)_/¯

Bis Sommer 2026 soll eine vom Familienministerium einberufene Expert*innen-Kommission Antworten zum „Kinder- und Jugendschutz in der digitalen Welt“ ausarbeiten, parallel zu einer ähnlichen Kommission auf EU-Ebene. Die wiederholten Forderungen von Spitzenpolitiker*innen nach einem Social-Media-Verbot sind an den deutschen Expert*innen jedoch nicht spurlos vorbeigegangen. Mitte März meldete sich die Co-Vorsitzende der Kommission, Nadine Schön (CDU), zu Wort und warnte:

Ich rate der Politik dringend, uns in Ruhe arbeiten zu lassen.

„Wie wird sichergestellt, dass die Expertenkommission nach den Äußerungen einiger Kabinettsmitglieder weiterhin ergebnisoffen tagt?“, wollten die Linken-Abgeordneten wissen. Die Bundesregierung antwortet knapp: „Die Expertenkommission ist unabhängig und arbeitet ergebnisoffen und evidenzbasiert.“

Minderjährige einbeziehen: Wenig

Minderjährige sitzen nicht in der Expert*innen-Kommission, sollen jedoch gehört werden, wie die Bundesregierung erklärt. Dafür solle es „bundesweit“ sechs Workshops geben. Bei den ersten beiden haben demnach zusammengerechnet 25 Kinder und Jugendliche teilgenommen.

Sollten die verbliebenen vier Workshops ähnlich frequentiert sein, hätte die Bundesregierung letztlich mit rund 75 jungen Menschen gesprochen. In Deutschland leben mehr als 10 Millionen unter 14-Jährige; quantitative Umfragen arbeiten oft mit mindestens 1.000 Befragten.

Einblicke in die Arbeit der Expert*innen-Kommission gibt es bislang keine. Nicht einmal die Liste der geladenen Sachverständigen ist öffentlich. Im Sommer erwartet die Bundesregierung die „Handlungsempfehlungen“ der Fachleute; sie sollen dann auf der Website des Familienministeriums veröffentlicht werden.

Vereinbarkeit mit EU-Recht: Punktuell

Weiter gingen die Linken-Abgeordneten auf die Vereinbarkeit eines deutschen Social-Media-Verbots mit dem EU-Recht ein. Die Wissenschaftlichen Dienste des Bundestags haben inzwischen in zwei separaten Gutachten dargelegt, dass sie dafür keine Spielräume sehen, weil EU-Recht Vorrang hat.

Die Bundesregierung antwortet ausweichend mit einem Verweis auf eine ganz bestimmte Regelung:

Die Leitlinien nach Art. 28 Absatz 4 Digital Services Act sehen in Ziffer 37 lit. d vor, dass ein nationales Mindestalter möglich ist.

Diese Regelung gibt es wirklich; sie steht in den Leitlinien der EU-Kommission zur Umsetzung des Gesetzes über digitale Dienste (DSA) für Minderjährige. Allerdings gibt die Regelung Mitgliedstaaten nicht automatisch grünes Licht für das Modell, das wichtige Politiker*innen seit Monaten fordern – also nationale Social-Media-Verbote mit Alterskontrollen nach australischem Vorbild. Dafür gibt es mehrere Gründe.

• Zunächst sind die Leitlinien rechtlich nicht bindend. Die Kommission hat sie verfasst, um klarzumachen, wie sie als Aufsichtsbehörde die korrekte Umsetzung des DSA auslegen möchte.
• Zudem sind die Leitlinien selbst widersprüchlich mit Blick auf Alterskontrollen. Einerseits empfehlen sie strenge Alterskontrollen als möglicherweise notwendige Maßnahme, um Minderjährige vor potenziell schädlichen Inhalten zu schützen. Andererseits schränken sie diese Empfehlung durch zahlreiche Bedingungen ein. Je nach Auslegung bleibt also wenig Spielraum für regelkonforme Alterskontrollen.
• Nicht zuletzt ist der Knackpunkt eines Social-Media-Verbots nach australischem Modell nicht das reine Mindestalter, sondern dessen Durchsetzung, und zwar durch flächendeckende Alterskontrollen, etwa auf Basis von Ausweispapieren oder biometrischen Gesichtsscans. Allerdings gilt nach wie vor, dass einzelne EU-Mitgliedstaaten Plattformen keine zusätzlichen Pflichten auferlegen dürfen, die über den DSA hinausgehen. Das nennt man Anwendungsvorrang.

Der DSA nennt Alterskontrollen lediglich als eine von mehreren Optionen, um Minderjährige im Netz vor Risiken zu schützen. Ohne strenge Alterskontrollen könnte ein nationales Mindestalter jedoch Gefahr laufen, symbolisch zu bleiben. Denn schon jetzt schreiben die Nutzungsbedingungen großer Social-Media-Plattformen Altersgrenzen zwischen 13 und 16 Jahren vor.

In ihrer jüngsten Analyse sehen die Jurist*innen der Wissenschaftliche Dienste das Vorhaben schon vorm Europäischen Gerichtshof landen:

Abschließend könnte über die Frage verbleibender Regelungsspielräume der Mitgliedstaaten im Bereich des Verbots bzw. der Beschränkung von Social-Media-Plattformen nur der EuGH entscheiden.

Reichinnek warnt vor „kopflosen Verboten“

Linken-Fraktionsvorsitzende Heidi Reichinnek kritisiert das Vorpreschen von Kabinettsmitgliedern in Sachen Social-Media-Verbot – während die Expert*innen-Kommission noch arbeitet. „Die Regierung führt das Konzept einer solcher Kommission komplett ad absurdum, wenn doch sowieso schon klar ist, dass das Ziel ein Social-Media-Verbot für junge Menschen ist“, erklärt sie in einem Statement gegenüber netzpolitik.org.

Die Verbote seien „kopflos“, so Reichinnek weiter; die Debatte lenke von den eigentlichen Aufgaben der Bundesregierung ab: „klare Vorgaben und Strafen für Digitalkonzerne, die Sucht fördern und Hass im Netz keinen Riegel vorschieben sowie eine bessere Ausstattung von Angeboten für Kinder und Jugendliche, die sie dabei unterstützen, einen aufgeklärten Umgang mit Medien zu lernen und ihnen bei Problemen zu helfen.“

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Ein Verbot sozialer Medien löst nicht die fundamentalen Probleme von Jugendlichen. Die Debatte ist vielmehr Ausdruck einer sozio-ökonomischen Krise – und könnte den Befürwortern an der Wahlurne sogar schaden.

Auf dem Marktplatz eines beschaulichen Dorfes in Bayern traf sich die Dorfjugend früher zum Trinken. Die Zusammenkünfte sorgten für großes Aufsehen. Es kam zu Vandalismus und Ruhestörung. Irgendwann wurde der Marktplatz in der Wahrnehmung der Bewohner selbst zum bösen Ort. Das „Treffen in Gruppen“ wurde verboten, die Jugendlichen wichen auf einen Asphaltstreifen unweit der Grundschule aus. Dort musste eine alte Garage als Graffiti-Wand herhalten.

Selbstverständlich war es nicht der Marktplatz selbst, der die Jugendlichen zu Alkoholkonsum und Aggression getrieben hat. Er war vielmehr eine Plattform, auf der die Symptome tiefsitzender Krisen sichtbar wurden: Spannungen in der Familie, fehlende Perspektiven und Freiräume. Ganz ähnlich verhält es sich bei den sozialen Medien. Wer glaubt, dass ein Verbot die Lebensumstände von Jugendlichen grundlegend verbessert, lenkt dabei von ihren eigentlichen Problemen ab.

Zwischen Besorgnis und moralischer Panik

Ende März fuhr die AfD bei den Landtagswahlen in Rheinland-Pfalz ihr bisher bestes Ergebnis in einem westdeutschen Bundesland ein. Besonders hohe Zustimmung bekommt die Partei bei 18- bis 24-jährigen Männern. Selbstverständlich suchen Politiker aller anderen Parteien und die Medien nach Gründen. Und auch wenn es bei der Debatte um ein Social-Media-Verbot vorrangig darum geht, die psychische Gesundheit von Jugendlichen zu schützen, haben CDU und SPD mutmaßlich wenig dagegen, zusätzlich die Reichweite ihrer rechten Konkurrenz einzuschränken.

Dahinter steht die Annahme, dass sich junge Wähler wegen sozialer Medien nach rechts orientieren. Das mag in Teilen stimmen – es schreibt den rechten Medienmachern und ihren Formaten aber mehr Bedeutung zu, als sie tatsächlich haben.

Gewiss, rechte US-amerikanische Stimmen und ihre Shows in den sozialen Medien dienen faden Nachahmern in Deutschland als Vorbilder. Ihr Einfluss wird spätestens dann sichtbar, wenn sich kleine Brüder und Cousins Gedanken über die Form ihrer Kieferknochen machen oder sich fragen, ob sie ein Alpha-, Beta- oder Sigma-Male in der „sozio-sexuellen Hierarchie“ sind. Gruselgeschichten über die „Manosphere“ und „Looksmaxxer“ im deutschen Feuilleton sowie der Bestseller „Generation Angst“ von Jonathan Haidt befeuern die moralische Panik um den Nachwuchs.

Soziale Medien zeigen, was ohnehin da ist

Zwar stellen soziale Medien ein Einfallstor für politische Begriffe und Bilder dar, was aber nicht heißt, dass Jugendliche durch ein Verbot gänzlich davon abgeschottet werden könnten. Und wer politischem Content ausgesetzt ist, muss diesen nicht zwangsläufig verinnerlichen. Extreme, radikale und verstörende Inhalte teilen Jugendliche auf Schulhöfen, seit es Mobiltelefone gibt.

Viele der frauenfeindlichen Sprüche, rechten Parolen, Witze, Nazi-Verharmlosungen und -Verherrlichungen, die mir heute auf meinem Recherche-Account bei Instagram in den Feed gespült werden, kenne ich noch aus der Zeit vor den sozialen Medien. Wer in einfachen Verhältnissen auf dem Land aufgewachsen ist, dürfte ähnliche Erfahrungen gemacht haben. In gehobenen Kreisen wird es, man denke nur an die Männer der Generation Epstein, wohl kaum anders gewesen sein.

Für mehr Medienkompetenz

Fest steht allerdings auch, dass die sozialen Medien verharmlosende, diskriminierende, menschenverachtende Inhalte verstärken. Das ist kein Einzelfall, sondern die digitale Form eines Systems, das zügelloses Wachstum und vermeintliche Innovation über Qualität und Menschenwohl stellt. Mit technischem Fortschritt wachsen dementsprechend auch der Einfluss und das Schadenspotenzial der Plattformen. Die Tech-Unternehmen haben nicht vorrangig das Wohlergehen ihrer Nutzer im Sinn. Im Gegenteil, um deren Aufmerksamkeit und Zeit zu binden, schaden sie ihnen regelrecht.

Für eine strengere Regulierung gibt es längst die rechtlichen Voraussetzungen. Nur werden sie bisher nicht in vollem Umfang und konsequent angewendet. Daher bräuchte es dringend mehr Vermittlung von Medienkompetenz in Schulen. Zu meiner Schulzeit gab es weder eine pädagogische Vorbereitung auf die sozialen Medien noch eine Konfrontation mit den (Un-)Möglichkeiten des Internets. Es waren die Schüler selbst, die erste, wenig beachtete Impulse gaben.

Laut einer Umfrage des DIW Berlin stimmen rund 94 Prozent der Befragten der Aussage zu, dass Kinder und Jugendliche besser in Medienkompetenz geschult werden sollten, um soziale Medien sicher nutzen zu können. Der Zuspruch dafür ist damit deutlich größer als für ein weitreichendes Social-Media-Verbot bis 16 Jahre. Ebenso will eine Mehrheit von Eltern und Jugendlichen soziale Medien nur einschränken, statt sie für bestimmte Altersgruppen zu verbieten.

Die Probleme liegen woanders

Wenn Parteien ein Verbot für Jugendliche durchsetzen wollen und zugleich die Verantwortung für ihre Misere tragen, schwächen sie sich am Ende selbst. Die Folgen dürften sich auch an der Wahlurne bemerkbar machen. Statt die Symptome mit den falschen Mitteln zu bekämpfen, sollten sich Politiker und Journalisten daher fragen, wie sie sich dem eigentlichen Problem widmen können.

Die US-amerikanische Entwicklungspsychologin Candice L. Odgers untersucht seit rund 20 Jahren, wie sich psychische Erkrankungen bei Kindern entwickeln. Sie hat nach eigener Aussage wiederholt keine überzeugenden Belege dafür gefunden, dass digitale Technologien ein wesentlicher Treiber von Depressionen oder anderen psychischen Beschwerden im Jugendalter sind.

Viele andere Forschende kommen zu ähnlichen Ergebnissen. Entgegen der allgemeinen Annahme schlussfolgert eine aktuelle Studie, dass soziale Medien zu den am wenigsten einflussreichen Faktoren für die psychische Gesundheit von Jugendlichen zählen. Eine deutlich wichtigere Rolle spielen dabei frühe Erfahrungen mit Gewalt oder Diskriminierung sowie Krisen in Schule und Familie.

Düstere Vergangenheit, düstere Zukunft

Während meiner steinigen Schullaufbahn – sie liegt noch nicht allzu lange zurück – hieß es seitens der Lehrer: Ihr werdet keine Jobs finden. Die rasante Entwicklung der sogenannten künstlichen Intelligenz dürfte die Unsicherheit heute noch um ein Vielfaches verstärken. Daneben kommen für junge Menschen schlechte Aussichten auf bezahlbaren Wohnraum, Partnerschaft oder gar eine lebenswerte Umwelt dazu.

Wer unter solchen Bedingungen auf die eigene Zukunft blickt, ist vermutlich anfälliger für Erzählungen von alter Stärke, Ordnung und Hierarchie. Und wenn die Parteien der „Mitte“ es nicht schaffen, auf diese Probleme eine Antwort zu geben, gewinnen jene, die in Zeiten der Krise Stärke und Selbstbestimmung versprechen. Auch wenn diese Versprechen auf Augenwischerei und Opportunismus beruhen.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

In Los Angeles stehen Meta und Google vor Gericht, in der EU muss TikTok nachschärfen. In beiden Fällen geht es um ihr süchtig machendes Design. Das verweist auf einen besseren Weg im Kinder- und Jugendschutz: Ursachenbekämpfung statt Verbote. Ein Kommentar.

„Ich male mir die Welt, so wie sie mir gefällt.“ – Das gelingt den Plattformbetreibern hinter Instagram, Youtube, Snapchat oder TikTok bisher ganz gut. Das in Los Angeles eröffnete Verfahren könnte an diesem Prinzip jedoch rütteln und zeigen, dass es etwas anderes als ein Verbot für Jugendliche braucht, um die negativen Effekte sozialer Medien zu reduzieren.

Die 20-jährige Hauptklägerin will Meta und Google für ihr süchtig machendes Design zur Verantwortung ziehen. Vor Gericht gibt sie an, seit über zehn Jahren von sozialen Medien abhängig zu sein – einem Effekt, dem sich die Unternehmen laut interner Dokumente bewusst waren. Und wenn man ehrlich ist: Es ist ein Effekt, den die kommerziellen Plattformen wollen, damit sich die Aufenthaltszeit auf Plattformen verlängert, sie mehr Werbung an die Nutzer*innen abspielen und so mehr Gewinne einfahren können.

Wenn in den USA eine Person vor Gericht geht, deren Generation bisher am frühesten in der digitalen Welt aufgewachsen ist, führt das unweigerlich zu der Frage, wie für diese und nachfolgende Generationen eine bessere und andere Version von sozialen Medien aussehen könnte. Denn ob mit dem Verfahren letztlich ein Präzedenzfall geschaffen werden kann oder nicht – der Prozess stärkt eine andere Stoßrichtung als das derzeit heiß diskutierte Social-Media-Verbot.

Ein Verbot ist die falsche Antwort

Von einem Verbot sozialer Medien für junge Menschen werden viele negative Effekte erwartet: Für Minderheiten oder vulnerable Gruppen fällt ein Kanal zur Vernetzung und Gemeinschaftsbildung weg, ebenso ein Kanal zur Information, Menschen ohne Papiere könnten ganz ausgeschlossen sein und auf Kinder und Jugendliche entfallen die Folgen je nach Familiensituation und Wohnort ungleich.

Diese Nebeneffekte müssten weniger ins Gewicht fallen, wenn unterm Strich auf den Plattformen und ohne Verbot das ursprüngliche Ziel erreicht werden würde: Schutz von Kindern und Jugendlichen vor digitalem Missbrauch, vor Mobbing sowie übermäßigem Konsum und Sucht.

Ein Blick nach Australien zeigt, dass Verbote einerseits löchrig bleiben und andererseits große Risiken für Privatsphäre und Datenschutz bergen. Wie die australische Regierung erwartet hatte, finden Jugendliche einfach Schlupflöcher, das Verbot zu umgehen. Sie ändern ihren Standort über VPN-Verbindungen, legen sich neue Accounts an, wechseln auf nicht betroffene Apps oder nutzen Accounts von älteren Personen. Mit KI-generierten Bildern, Ausweisen von Älteren oder durch einfaches Stirnrunzeln bestehen sie Altersabfragen, die jetzt zur Architektur von Plattformen dazugehören.

Sollte die australische Regierung an diesen Stellen nachschärfen, bleiben Alterskontrollen aus datenschutzrechtlicher Perspektive trotzdem bedenklich. Ein vorab durchgeführtes Gutachten verzeichnet massive Bedenken, wie erhobene Daten gesammelt und an Behörden weitergegeben werden könnten. Das ist der eine Fall. Der andere Fall ist auch datenschutzrechtlich problematisch, wenn personenbezogene Daten aus Alterskontrollen an Drittanbieter weitergegeben werden, wie der Fall von Discord deutlicht.

Plattformen in die Pflicht nehmen statt Probleme in die Zukunft verlagern

Der Medienrechtler Stephan Dreyer erwartet, dass ein EU-Verbot den Jugendschutz auf sozialen Plattformen verschlechtern würde, wie er gegenüber netzpolitik.org darlegte.

Dazu kommt: Soziale Medien sind allgegenwärtiger Teil des Lebens auf der ganzen Welt. Haben Jugendliche die magische Grenze von 16 Jahren überschritten, sind sie zusammen mit den Älteren weiterhin endlosen Feeds, manipulativem Design, personalisierten Empfehlungssystemen und Dopamin-Kicks ausgesetzt. Statt „Cybergrooming“ heißt die Gefahr dann „digitale Gewalt“, wie der Grok-Skandal gerade deutlich vor Augen geführt hat.

Und warum eigentlich nur Jugendliche? Sind nicht auch gestandene Mittvierziger dem suchtmachenden Design der Plattformen verfallen und geraten nicht auch Boomerinnen in den Strudel, der sie in den verschwörungsideologischen Kaninchenbau zieht? Werden nicht uns allen polarisierende Inhalte von intransparenten Algorithmen gezeigt, damit wir möglichst lange mit den Plattformen interagieren und sie uns mit personalisierter Werbung zuballern können.

Bessere Plattformen für alle

Ein Verbot für Jugendliche macht die Plattformen nicht besser. Anstatt Plattformen zur Umsetzung von Alterskontrollen zu zwingen und junge Menschen auszuschließen, müssen die Plattformen zu einer anderen Architektur verpflichtet werden. Fairness by Design und by Default nennt sich der Ansatz, der digitale Plattformen dazu verpflichtet, ihre Webseiten und Apps nutzerfreundlich und manipulationsfrei zu gestalten. Die EU ist gegenüber TikTok einen Schritt gegangen, aber die Liste an manipulativen Techniken ist lang.

Ein Verbot ist letztlich eine platte und hilflose Maßnahme. Es erinnert an überforderte Eltern, die den Kindern das Handy wegnehmen, weil sie nicht weiterwissen. Dabei könnten auch die Verbotsbefürworter*innen beim Ansatz Fairness by Design auf ihre Kosten kommen. Er wäre einer von mehreren Ansätzen, die Plattformen nachhaltig zu verändern. Und es gibt Gesetzgebungen wie das Digitale-Dienste-Gesetz oder wie das geplante Gesetz für digitale Fairness, mit denen man Plattformen verändern kann.

Die Politik muss sich nur trauen – und nicht weiter vor der Lobby der Tech-Riesen einknicken.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.