Ähnlich wie in Propagandafilmen wird heute daran geforscht, wie sich Werbebotschaften gut in KI-Suchen integrieren lassen. Mit Blick auf Google stellt sich die Frage, ob es da nicht einen harten Schnitt braucht.

Für das Verständnis der heutigen Degitalisierung hilft es, einmal etwa 100 Jahre in die Vergangenheit zu schauen. In den 1920er-Jahren war der Film speziell in Russland bzw. der Ende 1922 gegründeten Sowjetunion eine ganz neue Art, die Bevölkerung zu prägen und zu beeinflussen. Regisseure wie Sergei Eisenstein oder Dsiga Wertow nutzen für die Propaganda im Sinne des Kommunismus im Film auch Methoden der Montage, also des Filmschnitts.

Eisenstein und Wertow brachten eindrucksvolle Filme hervor wie Panzerkreuzer Potemkin, Oktober oder Der Mann mit der Kamera. Propagandistische geprägte Filme, die die Errungenschaften der damals noch jungen Sowjetunion einerseits mittels opulenter Bilder, aber auch entsprechend sorgsam aneinandergereihten Filmsequenzen zum Ausdruck brachten.

1921 führte ein gewisser Lew Wladimirowitsch Kuleschow Experimente des Filmschnitts durch, bei denen er den an sich neutral erscheinenden Gesichtsausdruck eines Schauspielers mit unterschiedlichen Zwischensequenzen kombinierte. Als Kuleschow die Zuschauenden dann befragte, was der Schauspieler in diesem Moment zum Ausdruck brachte, zeigte sich, dass sich die Bedeutung sehr stark veränderte, je nachdem, welche Sequenzen miteinander kombiniert wurden. Derselbe, eigentlich neutrale Gesichtsausdruck wurde in Kombination mit einer Zwischensequenz von einer Speise als Hunger interpretiert, in Kombination mit einer Zwischensequenz, die eine Frau zeigte, als Begierde oder Zuneigung.

Dieser Effekt wurde in der Filmtheorie fortan als Kuleschow-Effekt bezeichnet und bezeichnet die Fähigkeit des Gehirns, zwei aufeinanderfolgende, eigentlich unzusammenhängende Bilder zu einer neuen Bedeutung zu verknüpfen. Getrennte Einzelteile in einem neuen Ganzen können also eine ganz andere Bedeutung haben, so schien es damals schon.

Der Kuleschow-Effekt wurde in den Jahren darauf immer wieder wissenschaftlich untersucht. Je nach Studiendesign belegten die meisten Studien, wenn auch nicht alle, dass ein gewisser Effekt der Beeinflussung, speziell emotional, ausgenutzt werden kann.

Informationstorwächter

Harter Sprung ins Jahr 2026. Film ist nicht mehr die interessanteste Form der Informationsvermittlung und Ziel des Versuches einer möglichen Einflussnahme. Inzwischen gibt es sogenannte künstliche Intelligenz, im Speziellen generative KI in Form von Chatbots und damit in Zusammenhang stehende Anwendungen.

Es scheint zumindest aus Sicht von Unternehmen weiter logisch, dass dialogische Mechaniken von Chatbots überall Anwendung finden müssen, um im Trend zu bleiben. Also auch, dass ein scheinbar so banales Problem wie das Finden von Informationen über eine Suchmaschine wie Google oder Bing auch so schnell wie möglich mit möglichst viel KI und „Informationsagenten“ angereichert werden muss.

Zur Hausmesse I/O verkündete Google Mitte Mai folglich einen KI Modus für die Suche, eines der Kernprodukte des Unternehmens. Größte Änderung: Die zehn blauen Links, die – wenn auch mit leichten Abwandlungen – immer Kern der Google-Suche waren, sind verschwunden. Stattdessen eine Eingabemaske für einen Chatbot, der dynamisch aus der Anfrage verschiedene Widgets befüllt, und „Informationsagenten“, die rund um die Uhr das Web überwachen können. Dazu agentisches Coding, „persönliche Intelligenz“ und so weiter und so fort.

Wie der Designer Matthias Ott als Reaktion auf die Ankündigung bereits schrieb, ist der radikale Produktwandel aus Sicht von Google durchaus bemerkenswert. Schließlich war Googles eigentliches Kernversprechen immer, eine schnörkellose Suchmaschine zu sein, die schnell Inhalte findet. Kurze Suche und schon bist du auf der richtigen Webseite. So zumindest seit den ersten Versionen von Google ab 1997. Mit der Zeit kamen zwar zunehmend weitere Zusatzfunktionen dazu, am Ende war Google aber immer noch eine Liste von Links, teils mit Werbung und Widgets angereichert, aber immer sehr darauf fokussiert, Absprungpunkt zu anderen Angeboten zu sein.

Googles neue KI-Suche hingegen ist vollkommen anders: Sie hält User mehr oder weniger vollständig in Googles Anwendung und extrahiert Informationen von anderen Webseiten, um sie dann in der Suchanwendung immer tiefer zu integrieren. Andere Webseiten besuchen? Eigentlich gar nicht mehr notwendig. Quellen von Informationen? Nur noch sehr dezent im Hintergrund.

Nun muss der Vollständigkeit halber erwähnt werden, dass Google schon länger zentraler Informationstorwächter für den Zugang zu Informationen war. Der Marktanteil der Google-Suche in Deutschland war über die letzten Jahre konstant bei 80 bis weit über 90 Prozent. Der Zugang zu Informationen im Internet lief schon länger nicht vollständig neutral, sondern eher durch eine bestimmte Vorauswahl geprägt ab. Methoden der Suchmaschinenoptimierung haben historisch gesehen oftmals Inhalte in der Suche Googles bevorzugt, die nicht unbedingt inhaltlich besser geeignet waren, sondern trickreicher Inhalte präsentiert haben. Googles PageRank-Algorithmus trug mit Netzwerkeffekten ebenso dazu bei, dass sich optimierte Webseiten gegenseitig nach oben zogen.

Experimente der Beeinflussung

Eigentlich ist Googles besonders immersiver KI-Modus aber nun eine Gefahr für das eigene Geschäftsmodell. Unternehmen konnten bisher mit Google Ads beziehungsweise ehemals AdWords auf eine möglichst gute Platzierung zu bestimmten Suchbegriffen bieten und zahlen dafür entsprechende Provisionen.

Klassische Suchergebnisse mit Seiten, bei denen sich Unternehmen eine bessere Position kaufen können, treten aber jetzt in den Hintergrund. Wer sollte aber noch für einen Klick auf eine Webseite zahlen, wenn es den gar nicht mehr braucht? Das bedeutet auch, dass mit dem neuen Informationsmedium „Chatbot“ auch neue Formen der Werbeplatzierung gefunden werden müssen für das Zeitalter von Large-Language-Modellen.

Ähnlich wie sowjetische Filmregisseure in den 1920ern, die Methoden zur Ausgestaltung des Mediums Film im propagandistischen Sinne suchten, wird nun auch im Kontext von LLMs an Methoden geforscht, wie eine bestimmte Botschaft von zahlenden Werbekunden gut integriert werden kann. Werbeanzeigen im Zeitalter der KI-Suche sehen dabei noch nahtloser integriert aus als bisher. Googles eigenes Vermarktungsmodell von Auktionen für Werbeplätze könnte dabei zu einer sehr paradoxen Situation führen, dass Nutzende der Suche für dieselbe Suche ganz unterschiedliche Produkte und Anbieter untergejubelt bekommen, je nachdem, wie die Werbeauktion gerade ausging – in Echtzeit. Darüber hinaus ist es auch fraglich, ob die Grenzen von Werbung und echten Inhalten innerhalb der KI-Suche überhaupt noch so klar definierbar sind, wenn alles eine „Wall of Text“ in einer Konversation wird.

Im letzten Jahrhundert gab es Techniken der Montage im Film, die eine gewisse dramaturgische und emotional beabsichtigte Wirkung bezwecken sollten, etwa die Assoziation von politischen Gegnern mit negativen Gefühlen wie den Zaren bei Panzerkreuzer Potemkin. Leider sind die möglichen Einflussnahmen im KI-Zeitalter noch vielschichtiger. KI-Suchen montieren in Kombination mit Werbung ganz individuell auf bestimmte Zielgruppen spezialisiert ganz neue Zwischensequenzen in die Suche nach Informationen. Dabei wird – ähnlich wie bei Kuleschow – etwas ganz Neues, das weitaus mehr ist als die einzelnen Teile.

Suchen nach eher mit Freiheit assoziierten Begriffen? Vielleicht platziert sich da eine bestimmte politische Partei oder ihr nahestehende Organisationen mit in den Werbeauktionen. Suche nach dem neutral betrachtet besten Produkt? Gar nicht so einfach, wenn bestimmte Produkte schon mundfertig mit allen Vorteilen aufbereitet werden.

Googles Marktmacht und Reichweite werden hier zu einem differenziert einstellbaren, global skalierbaren Beeinflussungsinstrument, dem sich zu entziehen einen Aufwand bedeuten wird, den sich eher nur digital sehr mündige Bürger*innen werden gönnen können.

Grenzen der Verantwortungsdiffusion

Bisher schien Google sich nicht wirklich um die Konsequenzen seiner KI-Funktionen zu scheren.

Doch Folgen von mehr KI in Suchmaschinen gibt es bereits: Googles KI-Zusammenfassungen „Übersicht mit KI“ zu Suchbegriffen, die in gewisser Weise bereits eine Art Mini-KI-Modus auf der herkömmlichen Google-Suchseite waren, hatten durch die Extraktion von fremden Inhalten auf anderen Seiten bereits Auswirkungen auf die Besuche auf beispielsweise Seiten von Medienhäusern. Zero-Klick-Suchen haben in der letzten Zeit stark zugenommen. Kleine und unabhängige Publikationen oder Blogs verlieren an Traffic, und das könnte letztendlich zu einer verringerten Medien- und Meinungsvielfalt führen, wie AlgorithmWatch inzwischen genauer untersucht und was auch auf der letzten re:publica diskutiert wurde. Aspekte, die zumindest gerade in Diskussion und unter Beobachtung stehen.

An der bisherigen Verantwortungsdiffusion der Folgen von Googles KI-Gebaren im Umgang mit dem Informationszugang vieler, die immer noch mit der Fußnote „KI-Antworten können Fehler enthalten“ versehen wird, wurde aber in dieser Woche zumindest teilweise gerüttelt. Das Landgericht München I urteilte in einem Eilverfahren, dass Google in der „Übersicht mit KI“ nicht weiterhin unwahre Tatsachenbehauptungen über zwei Münchner Verlage verbreiten kann.

Bemerkenswert ist auch die Begründung des Gerichts: Aus Sicht durchschnittlicher Nutzer wirke die Übersicht mit KI wie eine direkte Information von Google, weil hier aus Inhalten Dritter ein zusammenhängender Fließtext erzeugt wird. Die bisherige, eher eingeschränkte Haftung von Suchmaschinen für Drittinhalte sei daher auf dieses generative Format nicht übertragbar, urteilte die Kammer. Weiter führt das Gericht aus, dass in der „Übersicht mit KI“ Äußerungen enthalten sind, die in den Suchergebnissen gar nicht getroffen werden. Schlecht für halluzinierende LLMs.

Damit könne sich Google hier nicht aus der Verantwortung für Falschaussagen stehlen. Wie sich das Urteil weiterentwickeln wird, wenn das Verfahren durch weitere Instanzen getragen wird, muss sich noch zeigen.

Es stimmt aber zumindest gelinde optimistisch, weil immerhin erkannt wird, dass die Konsequenzen und Intentionen einer Neukomposition von Inhalten im 21. Jahrhundert wieder neu betrachtet und ausgehandelt werden müssen. Die Frage ist aber, ob es hier nicht doch eher einen harten Schnitt braucht. Ähnlich wie bei Kuleschow erkennen wir also allmählich, dass Informationsverarbeitung in dieser Zeit mittels KI etwas ganz Neues erschaffen kann, was eigentlich gar nicht in den ursprünglichen Inhalten enthalten ist. Und dabei muss es sich nicht nur um Halluzinationen einer KI handeln.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Hinter den Kulissen des kommerziellen Fußballs prägen zunehmend Tracking und der Einsatz künstlicher Intelligenz das Spiel – auch bei der diesjährigen Fußball-WM. Die Grundlage dafür liefern Datenarbeiter:innen, deren Beitrag zu den digitalen Wertschöpfungsketten verborgen bleibt.

Die Fußball-WM 2026 der Männer, die heute beginnt, gilt als das Turnier der Sportgeschichte, das bislang am stärksten von Daten getrieben ist. Zu den eingesetzten Werkzeugen gehören KI-gestützte Abseitserkennung, mit Sensoren bestückte Bälle, 3D-Scans der insgesamt 1.248 Spieler sowie KI-Assistenten für jede Nationalmannschaft. Und auch im sonstigen Fußballgeschehen spielen Echtzeit-Tracking, datenbasierte Rekrutierungsmodelle und taktische Dashboards eine wachsende Rolle.

Die Diskussion über diese Technologien beschränkt sich jedoch meist auf die Abseitslinie, den Videobeweis oder Live-Statistiken. Kaum jemand fragt danach, wer unter welchen Bedingungen die dafür notwendigen Daten erzeugt. Dabei stehen hinter jedem einzelnen dieser Datenpunkte unsichtbare Arbeiter:innen.

Die stille Daten-Revolution

Sogenannte künstliche Intelligenz ist auf Daten angewiesen und damit auf menschliche Arbeit, die diese Daten erstellt und prüft. Und der Fußball ist von dieser Arbeit schon weit länger abhängig, als der aktuelle KI-Hype es vermuten lässt.

Bereits 2012 kaufte der FC Arsenal, einer der großen englischen Klubs, eine kleine Datenanalyse-Firma, die er daraufhin in eine interne Abteilung für Datenwissenschaft umwandelte. Die detaillierten Videoanalysen dieser Firma haben Datenarbeiter:innen in Kambodscha und Laos erstellt. Sie bilden nur einer der äußeren Schichten jener Arbeitskräfte, die sich von der Öffentlichkeit weitgehend unbeachtet seit über zehn Jahren rund um das Spielfeld bilden.

Dem Fußballspiel am nächsten stehen die vereinsinternen Tech-Arbeiter:innen. Die Analyst:innen und Data Scientists stellen die Klubs direkt an. Sie arbeiten eng mit den Trainerstäben zusammen.

Die Vereine organisieren deren Arbeit recht unterschiedlich. Die Abteilungen tragen jeweils verschiedene Namen, sind an unterschiedlichen Stellen der Vereine angesiedelt, die Verträge der Fachleute variieren und sie sind mal promovierte Physiker:innen, mal Mathematiker:innen oder auch Menschen, die Vereine aus großen Technologiekonzernen abgeworben haben. Und oftmals halten die Klubs ihre internen Strukturen geheim.

Auch in Deutschland prägt die Datennutzung das moderne Scouting, also die Suche nach talentiertem Nachwuchs, immer stärker. Einer Studie aus dem Jahr 2023 zufolge nutzte etwa jeder zehnte Profiklub ein solches Datenscouting. Heute dürfte dieser Anteil deutlich höher sein.

Millionen Datenpunkte in jedem Spiel

Hinter den Kulissen erfolgt die Auswertung dann wie in einem datengetriebenen Unternehmen: Bei einem Bundesligisten werden Millionen Datenpunkte während eines Spiels erfasst, dann in einer skalierbaren Snowflake-Architektur gespeichert, über Datenpipelines aufbereitet und in Echtzeit analysiert.

Jenseits der Klubs gibt es unterschiedliche Datenanbieter. Einige von ihnen erheben die offiziellen Ereignisdaten, also das strukturierte Protokoll jeder Aktion am Ball. Sie halten auch die Rechte, diese Daten an Medien und Wettanbieter weiterzugeben.

Andere Anbieter haben sich auf das Tracking spezialisiert. Dafür nutzen sie Kameras in den Stadien, die die Position jedes einzelnen Spielers festhalten. Eine der bekanntesten deutschen Firmen auf dem Markt ist Impect, die von ehemaligen Profi-Spielern in Köln gegründet wurde. Impect hat eine eigene Kennzahl namens „Packing“ eingeführt, die seit der Europameisterschaft 2016 in Umlauf ist. Sie bezieht mehrere Spieleigenschaften eines Fußballspielers ein und beschreibt so seine Effizienz auf dem Feld. Auf Impects Daten setzt inzwischen auch die deutsche Nationalmannschaft.

Das Ökosystem des Trackings und der Prognosen

All diese Firmen bewegen sich in einem größeren Ökosystem. Es gibt Hersteller tragbarer Sensoren, die erfassen, wie viel und intensiv sich Spieler:innen bewegen; Videoplattformen, die Spiele aufzeichnen und verschlagworten; Scouting-Datenbanken, die die Klubs bei der Suche nach dem nächsten Neuzugang helfen; Beratungsfirmen, die Spielerleistungen aus Daten modellieren; Unternehmen, die der Wettindustrie entstammen und Prognosen verkaufen; Systeme zum Athletenmanagement, die das Verletzungsrisiko einzelner Spieler vorhersagen sollen.

In all diesen Unternehmen sind die Menschen, die die Arbeit verrichten, meist fest angestellt, oft durch Vertraulichkeitsvereinbarungen gebunden und an wenigen Standorten konzentriert.

In den vergangenen Jahren ist das Marktumfeld enger geworden. Die Branche hat sich konsolidiert – durch Übernahmewellen, Private-Equity-Kapital und Geld von den Finanzmärkten. Heute kontrolliert eine kleine Zahl von Unternehmen die Daten, von denen die Mehrheit der Klubs abhängt.

Unsichtbare Arbeiter:innen hinter den Tribünen

Noch weiter weg von der Öffentlichkeit arbeiten die Datenarbeiter:innen, die annotieren, was auf dem Platz geschieht. Sie schauen die Spiele und übersetzen – im Wettlauf mit der Live-Übertragung – jeden Pass, jeden Zweikampf und jeden Torschuss in strukturierte Daten.

Diese Arbeit konzentriert sich in Städten mit niedrigeren Löhnen. Über hundert Beschäftigte annotieren Spiele aus einem einzigen Büro im ukrainischen Ternopil; eine ähnlich große Belegschaft tut dies in Kairo. Ein großer Teil der Live-Daten erheben Menschen, die von Spiel zu Spiel angeheuert und pro Einsatz bezahlt werden.

Impect, dessen Daten die deutsche Nationalmannschaft nutzt, lässt die Spiele seit Jahren von einem Team in der philippinischen Hauptstadt Manila, einem Niedriglohnstandort, in Daten übersetzen. Seit Herbst vergangenen Jahres gehört die Firma einem australischen Konzern.

In seinem Buch „Expected Goals“ beschreibt der britische Journalist Rory Smith, wie neue Datenarbeiter:innen in Manila das Handwerk an einem einzigen Spiel erlernen: dem 7:1, mit dem Deutschland Brasilien im Halbfinale der WM 2014 zerlegte. Obwohl die brasilianische Mannschaft häufiger aufs gegnerische Tor schoss und mehr Ballkontakte als die deutsche Mannschaft hatte, verlor es das Spiel haushoch.

An diesem Widerspruch erlernen die Datenarbeiter:innen, welche weiteren Faktoren sie berücksichtigen müssen, wenn sie Spiele anschauen und Daten annotieren.

Geografische Ungleichheiten

Das Beispiel Manila zeigt exemplarisch, dass die Wertschöpfungskette auch geografisch ungleich verteilt ist. Die hochwertige Analyse konzentriert sich in einer Handvoll reicher Zentren. Die Annotation ballt sich derweil in Städten Osteuropas, Afrikas und Südostasiens.

Doch es wäre voreilig, die Ligen im globalen Süden als rückständig zu betrachten. Der brasilianische Fußball etwa baut eigene Strukturen auf, in denen Firmen in Echtzeit Spiele für ihre Kunden auswerten und sich die Klubs gegenseitig Analyst:innen abwerben.

Investoren, die mehrere Klubs in verschiedenen Ländern besitzen, lassen zunehmend Daten und Personal wie Spieler intern zirkulieren. So teilen sich etwa RB Leipzig und das brasilianische Red Bull Bragantino Scouting-Werkzeuge und Fußballspieler im Red-Bull-Netzwerk.

Die Magie des Fußballs bleibt

Die mehrschichtige, verborgene Arbeit hinter den Tribünen prägt, wie die Vereine heute den Fußball steuern und wie wir ihn sehen: die Grafiken der Übertragung, die Siegwahrscheinlichkeit in Prozent auf dem Bildschirm, die Entscheidungen über Spielzeit und Taktik, der Neuzugang, den ein Klub verpflichtet.

Die diesjährige Weltmeisterschaft wird die Datenauswertung und den KI-Einsatz auf die größtmögliche Bühne hieven. Hunderte Millionen Menschen werden die Spiele verfolgen und die eingeblendeten Zahlen kommentieren.

Die Arbeiter:innen, die der Live-Übertragung hinterherjagen und in Daten übertragen, die Anbieter, die diese Daten an Dritte verkaufen, die Analyst:innen, die Berichte schreiben und mit den Trainerstäben verhandeln – sie alle werden nicht auf dem Bildschirm auftauchen. Und doch gäbe es dieses ganze Spektakel ohne sie nicht.

Forschende, Journalist:innen und auch die Fans sollten diese Arbeitskräfte ernstnehmen und ihren Beitrag zum Sport verstehen: wer diese Menschen sind, wo sie arbeiten, wie viel sie verdienen und welche Mitsprache sie bei den Technologien haben, von denen sie abhängen.

Trotz alledem ergibt sich der Fußball – anders als etwa der Baseball – nie ganz den Zahlen. Er bleibt magisch und unvorhersehbar. Wir, die das Spiel lieben, wissen das nur zu gut.

Rafael Grohmann ist Assistant Professor für Medienwissenschaft an der University of Toronto, Leiter des Forschungslabors DigiLabour und Visiting Research Fellow am Zentrum für Medien‑, Kommunikations- und Informationsforschung (ZeMKI) der Universität Bremen. In dem Forschungsprojekt „Tech-Arbeiter:innen im Fußball“ (Tech Workers in Football), gefördert vom Creative Labour and Critical Futures der University of Toronto, analysiert der Sozial- und Medienwissenschaftler die Arbeitskräfte hinter den Datenwertschöpfungsketten des Fußballs.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Ein neuer UN-Report warnt vor dem wachsenden Energie- und Wasserverbrauch von Rechenzentren aufgrund des KI-Booms. Doch statt auf die Verantwortung von Tech-Konzernen zu pochen, gibt er Tipps für Nutzer:innen, wie sie ihr Verhalten ändern könnten. Eine vertane Chance, kritisieren Forscher:innen.

Ein neu veröffentlichter Report des „UNU Institute for Water, Environment and Health“ untersucht die Umweltkosten des KI-Booms. Er beziffert dabei nicht nur CO₂-Bilanz, sondern auch den Wasser- und Flächenverbrauch der Rechenzentren – also der Infrastruktur hinter weiten Teilen unseres digitalen Alltags.

Die Eckzahlen des UN-Berichts: Rechenzentren hätten im Jahr 2025 weltweit rund 448 Terawattstunden Strom verbraucht. KI-Workloads machten dabei bereits rund 20 Prozent ihres Stromverbrauchs aus. Würden die Rechenzentren als ein Land gelten, wäre es der elftgrößte Stromverbraucher der Welt. Bis zum Jahr 2030 könnte der KI-Anteil ihres Stromverbrauchs auf 40 Prozent steigen. Als Land betrachtet wären Rechenzentren dann mit einem Stromverbrauch von über 945 Terawattstunden der sechstgrößte Stromverbraucher der Welt.

Der Wasser-Fußabdruck der Rechenzentren wird für das Jahr 2030 auf 9,3 Billionen Liter prognostiziert. Dies sei genug, um den jährlichen Wasserbedarf aller 1,3 Milliarden Einwohner:innen in Subsahara-Afrika ein ganzes Jahr lang zu decken. Der mit dem Stromverbrauch verbundene Flächen-Fußabdruck für das Jahr 2030 werde ferner über 14.500 km² betragen, was etwa der doppelten Größe des Großraums Jakarta entspricht, in dem über 32 Millionen Menschen leben.

Den CO₂-Ausstoß der Rechenzentren beziffert die Studie für das Jahr 2025 auf 189 Millionen Tonnen und projiziert ihn für das Jahr 2030 auf 399 Millionen Tonnen. Der größte Teil des Energiebedarfs entfalle mit 80 bis 90 Prozent nicht auf das Training der Modelle (wie beispielsweise ChatGPT, Claude und DeepSeek), sondern auf die Inferenz – also auf den alltäglichen Betrieb mit milliardenfachen Anfragen der Nutzer:innen.

Veraltete Daten, fehlende Vergleiche

Das Science Media Center Germany hat insgesamt acht Forschende um eine wissenschaftliche Bewertung des UN-Reports gebeten. Die Expert:innen sehen darin einen hilfreichen Einstieg in ein relevantes Thema. Zugleich kritisieren sie den Report als oberflächlich, methodisch schwer nachvollziehbar, stellenweise undifferenziert und verkürzt. Er vernachlässige Vergleiche mit anderen Sektoren und konzentriere sich bei Lösungsvorschlägen auf das individuelle Nutzungsverhalten.

„Insgesamt stehe ich dem Bericht kritisch gegenüber. Es ist aktuell sehr wichtig, verlässliche und belastbare Zahlen zum Ressourcenverbrauch von künstlicher Intelligenz zu veröffentlichen, um die Fülle an Informationen richtig einzuordnen“, sagt David Kappel von der Universität Bielefeld. „Leider wird der Bericht diesem Anspruch nicht gerecht: Er ist teilweise schwer nachvollziehbar, beruht auf alten Daten oder stellt diese nicht im angemessenen Kontext dar.“

Der Bericht betone den Flächenverbrauch der erneuerbaren Energien, blende jenen der fossilen Energieträger aber weitgehend aus. „Die Rolle der Fotovoltaik wird gar nicht diskutiert. Obwohl sie bei den meisten Kennzahlen sehr gut abschneidet und in den vergangenen Jahren besonders stark gewachsen ist“, so Kappel. Auch arbeite der Bericht mit veralteten Energiemix-Zahlen von 2015.

Die für das Jahr 2030 projizierte Verdopplung des CO₂-Ausstoßes aufgrund der Rechenzentren beruhe grundsätzlich auf nachvollziehbaren Daten der Internationalen Energieagentur, sagt Jens Gröger vom Verein Öko-Institut. Einzelne akademische Fallstudien seien aber ungeeignet, um den Stromverbrauch einer KI-Textantwort oder eines KI-Bildes auf die milliardenfache tägliche Nutzung hochzurechnen. Die KI-Anbieter selbst arbeiten in dieser Hinsicht sehr intransparent und veröffentlichen kaum Daten, so Gröger.

Big-Tech erklärt das Problem zur Lösung

Auch die Berechnungen zum Wasserverbrauch sehen drei Hydrolog:innen kritisch. „Leider wird aus dem Bericht nicht ersichtlich, woher die Daten für die Abschätzung des Wasserfußabdrucks stammen“, sagt Martina Flörke von der Ruhr-Universität Bochum. Ferner werde nicht zwischen verbrauchtem und gebrauchtem Wasser unterschieden, sagen auch Petra Döll von der Goethe-Universität Frankfurt und Thorsten Wagener von der Universität Potsdam. Die Begriffe seien nicht synonym zu verwenden, weil entnommenes Wasser wieder unmittelbar zur Verfügung steht, verbrauchtes Wasser hingegen nicht.

Auch der wiederkehrende Vergleich mit dem Wasserbedarf in Subsahara-Afrika sei wenig aussagekräftig. Besser wäre ein Vergleich mit industriellen Wassernutzern an dem Standort, wo der Wasserverbrauch tatsächlich entsteht, so Wagener. Auch Flörke sagt: „Der Bericht übt Vergleiche mit Trinkwasserbedarfen in Subsahara-Afrika, wobei ein globaler Wasserverbrauch verwendet wird. Dies ist nicht zielführend und wird den Ausbau digitaler Infrastrukturen und Rechenzentren in Afrika nicht stoppen.“

Einsparungspotenzial ist Machtfrage

Der wohl schärfste Einwand der Forscher:innen gilt aber der Stoßrichtung der Einsparungspotenziale. So sagt Gröger: „Die von diesem Boom profitierenden Tech-Unternehmen – insbesondere Amazon, Google, Meta und Microsoft – werden in der Studie nicht genannt. Es werden auch keine Vorschläge gemacht, wie deren Macht eingeschränkt und sie zur Verantwortung gezogen werden können.“ Stattdessen werde Software-Entwickler:innen und Konsument:innen Tipps gegeben, um ihren individuellen Umweltfußabdruck zu reduzieren, so Gröger. „Nachdem die Studie die dramatischen Probleme genannt hat, die durch den KI-Ausbau entstehen, hätte ich erwartet, dass wesentlich offensivere Lösungsvorschläge gemacht werden.“

Auch Wolfgang Maaß von der Universität des Saarlandes meint: „Das individuelle Nutzungsverhalten wie Länge der Anfrage, Modellwahl und Ausgabeformat hat messbare Auswirkungen auf den Energieverbrauch einer einzelnen Anfrage. Als gesellschaftliches Einsparpotenzial ist es aber gering.“

Die Forschenden selbst legen unterschiedliche Lösungsvorschläge vor: Routing-Systeme, die einfache KI-Anfragen automatisch auf kleinere Modelle umleiten, seien technisch ausgereift und würden vereinzelt bereits eingesetzt, sagt Maaß. Ein unterschätztes Problem sei die Informationsasymmetrie: Tech-Unternehmen hätten im Gegensatz zu den Kommunen, mit denen sie über Genehmigung und Ansiedlung der Rechenzentren verhandeln, oft spezialisierte Verhandlungsteams. Dies führe zur Unterbewertung der Knappheit von insbesondere Land, Wasser und Netzanschlusskapazitäten, weshalb es standardisierte Bewertungsrahmen auf Bundesebene brauche.

Die richtige Intervention laut Maaß sei die Internalisierung externer Kosten durch die CO₂-Bepreisung von Rechenzentren-Strom. Der KI-Energieverbrauch wachse zwar, die globalen Treibhausgasemissionen von Rechenzentren (1,5 Prozent Anteil) seien jedoch mit Sektoren wie Landwirtschaft und Schwertransport ins Verhältnis zu setzen (jeweils mehr als 10 Prozent Anteil). Dekarbonisierung sei dort dringender.

Tilmann Rabl vom Hasso-Plattner-Institut plädiert für gesetzliche Interventionen: „Ohne Regulierung wird aufgrund der hohen Investitionen in KI keine Verringerung des Stromverbrauchs möglich sein.“ Der UN-Report bringe nicht zum Ausdruck, dass die aktuellen Entwicklungen „stark durch Interessen von Investoren“ sowie die industrielle und kommerzielle KI-Nutzung getrieben werden.

„Der Verbrauch von Endbenutzerinnen und Endbenutzern ist gesteuert vom Angebot der Internetkonzerne, die sich in einem Wettrüsten untereinander befinden“, so Rabl. Kleinere Modelle und angepasste Nutzung von KI seien Aufgabe der Softwarehersteller und Internetkonzerne. „Die haben aufgrund ihrer bestehenden Geschäftsmodelle allerdings kein Interesse daran. Das größte Einsparungspotenzial ist die Reduzierung von KI-Anwendungen und IT generell.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der Meta-Konzern hat mit seinem KI-Support eine deftige Sicherheitslücke aufgemacht. Angreifer konnten fremde Instagram-Accounts übernehmen, ohne Zugriff auf die originale Mailadresse des Kontos zu haben.

Einfacher geht’s kaum: Hacker:innen haben den KI-gestützten Support-Chatbot von Meta genutzt, um sich Zugang zu Profilen auf der Plattform Instagram zu verschaffen, berichtet das Online-Medium 404. Betroffen von dem Angriff waren unter anderem das White-House-Profil von Barack Obama und ein Account eines ranghohen Offiziers der US Space Force. Auch ganz normale Nutzer:innen waren von Account-Übernahmen betroffen.

Meta hat die Sicherheitslücke mittlerweile bestätigt und nach eigenen Angaben behoben. Es ist nicht bekannt, wie viele Accounts mit dieser Methode übernommen wurden.

In einem Video, das in sozialen Medien kursierte, wird klar, wie simpel der Angriff funktionierte. Der Angreifer täuschte mit einem VPN vor, aus der Region des Ziel-Accounts zu stammen und nutzte dann die „Passwort vergessen“-Funktion. Danach gab er dem Meta-Chatbot eine neue Mailadresse für den fremden Account und forderte den Bot auf, mit dieser zu kommunizieren. An diese Adresse schickte Meta dann fahrlässigerweise einen Verifikationscode, mit dem der Angreifer den anvisierten Instagram-Account übernehmen konnte.

Zu keinem Zeitpunkt musste der Angreifer Zugriff auf die echte Mailadresse des Accounts haben. Die Nutzung der originalen Mailadresse soll grundlegend vor Accountübernahmen schützen, da sich Angreifer in der Regel Zugriff auf diese Adressen verschaffen müssen. Hilfreich gegen Account-Übernahmen ist auch die Aktivierung einer weiter gehenden 2‑Faktor-Authentifizierung.

Der Vorfall zeigt einmal mehr, dass so genannte Künstliche Intelligenz nicht nur Sicherheitslücken entdecken, sondern selbst grobe Sicherheitslücken eröffnen kann. Meta hatte den „KI Support Assistenten“ weltweit am Anfang dieses Jahres für Facebook und Instagram eingeführt.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Beweise für positive Klimaauswirkungen durch sogenannte „KI“ sind schwach, während die Klimaschäden klar belegt sind. Ein Bericht von AlgorithmWatch zeigt, dass die Klima-Versprechen nicht eingelöst werden können. Um das zu verschleiern, vermischen die Unternehmen verschiedene KI-Technologien – und klammern die energiehungrige generative KI dabei aus.

Der Ausbau von KI-Rechenzentren führt zu einer steigenden Nachfrage nach fossilen Brennstoffen, denn der Energiehunger von KI-Technologien ist offensichtlich. Die nachweislich negativen Auswirkungen auf das Klima werden von den Technologieunternehmen jedoch heruntergespielt, während sie gleichzeitig in Aussicht stellen, KI könne in der Zukunft helfen, die Probleme des Klimawandels zu bewältigen.

Die Behauptungen von Big Tech beruhen dabei nicht auf glaubwürdigen und belegbaren Daten, sondern auf der Selbstausstellung eines „Blanko-Schecks“, um „die Umwelt unter Verweis auf leere Heilsversprechen weiter zu verschmutzen“.  Zu diesem Ergebnis kommt der neue Bericht von AlgorithmWatch: „Der KI-Klimaschwindel: Hinter den Kulissen des Big-Tech-Greenwashings“. Während die negativen Auswirkungen nachweisbar seien sowie immer weiter zunehmen würden, basierten die Lösungsversprechen hauptsächlich auf Wunschdenken mit geringer Faktenbasis.

Der Bericht untersucht systematisch die Stichhaltigkeit der Behauptung eines angeblichen „Netto-Klimanutzens“ durch KI. Aus insgesamt acht Quellen wurden dafür 154 KI-Klimaversprechen extrahiert. Das Ergebnis: 150 Versprechen (97 Prozent) bezogen sich entweder auf die „herkömmliche“ KI, also insbesondere auf Vorhersagemodelle und Computer-Vision, oder generative KI mit einem nur sehr eng begrenzten Anwendungsbereich. Nur vier Behauptungen (drei Prozent) bezogen sich tatsächlich auf klar definierbare generative KI-Anwendungen für Verbraucher:innen (wie Chatbots), die mit großen öffentlich zugänglichen Datensätzen trainiert wurden. Die Klimaauswirkungen generativer KI werden durch verallgemeinerte „KI-Nachhaltigkeitsbehauptungen“ also gezielt verschleiert, indem grundsätzlich verschiedene Technologien gleichgesetzt werden.

„ ‚KI’ ist ein sehr neuer Begriff, auch wenn einige der Technologien schon sehr alt sind“, sagt der Hauptautor des Berichts, Energie- und Klimaanalyst Ketan Joshi, gegenüber netzpolitik.org. „Daher nutzen sie diese Unvertrautheit aus. Indem sie diese beiden Dinge miteinander vermischen und den Wandel als unvermeidlich darstellen, entziehen sie sich jeglicher Verantwortung, auf die schlechten, verschwenderischen und schädlichen Dinge zu verzichten.“

KI ist nicht gleich KI

Der für das Jahr 2030 prognostizierte Energieverbrauch generativer KI-Anwendungen liegt dabei um das Dreizehnfache höher als der Energieverbrauch herkömmlicher KI. Dennoch werde unterschlagen, dass die Klimaschäden durch KI-Nutzung überwiegend durch eben diese generativen KI-Anwendungen entstehen. Die Analyse fand so kein einziges Beispiel einer generativen Consumer-KI, die nachweislich zu einer Emissionsreduktion geführt hätte.

„Wenn es Nachhaltigkeitsvorteile durch künstliche Intelligenz gibt, dann durch Anwendungen traditioneller KI mit wenig Ressourcenverbrauch. Die großen sprach- und bildgenerierenden Modelle wie ChatGPT […] verbrauchen Unmengen an Strom und Wasser, verursachen CO₂-Emissionen in der Höhe ganzer Länder, bringen aber keinerlei positiven Nutzen für die Umwelt“, sagt Senior Policy Manager bei AlgorithmWatch, Julian Bothe, gegenüber netzpolitik.org.

Ferner stützen sich laut der Analyse des Reports nur 26 Prozent der 154 untersuchten KI-Klimaversprechen auf tatsächlich wissenschaftliche Studien. 36 Prozent führten keinerlei Belege an, während der Rest überwiegend auf die Unternehmensberichte und Unternehmenswebseiten verwies. Hinzu kämen Verweise auf Medien, sonstige Institutionen oder unveröffentlichte Studien.

Viel Behauptung, kaum Beleg

Ein besonders prägnantes Beispiel sei Google: Der Konzern wirbt seit Jahren damit, KI könne bis 2030 fünf bis zehn Prozent der weltweiten Treibhausgasemissionen einsparen. Dies entspräche dem gesamten Jahresausstoß der Europäischen Union. Die Quelle dieser Statistik hält allerdings keiner Überprüfung stand: Diese ist nämlich der Blogbeitrag eines Beratungsunternehmens aus dem Jahr 2021, das diese Einschätzung offenbar aus der eigenen „Kundenerfahrung“ entnommen hatte. Dennoch tauchte die Behauptung noch im April 2025 in einer Policy-Roadmap von Google auf, die auf die EU zielte – und zwar unter dem Verweis auf „Studien“.

Einige der Zahlen stammen jedoch nicht unmittelbar aus der Unternehmens-PR und tragen ein wissenschaftliches Etikett. Eine Analyse des Ökonomen Nicholas Stern, veröffentlicht in einem Nature-Fachjournal, kommt zu dem Schluss, KI werde die weltweiten Emissionen bis 2035 um 36 Prozent senken. Amy Luers, Head of Sustainability Science and Innovation bei Microsoft, beziffert das Einsparpotenzial in einem Kommentar in Nature auf 1,4 Gigatonnen jährlich. Auch der einflussreiche IEA-Bericht „Energy and AI“ vom April 2025, dessen Entwurf unter anderem von Beschäftigten von Amazon, Google, Nvidia, Meta und Microsoft begutachtet wurde, kommt zu dem Ergebnis, dass KI unter bestimmten Bedingungen Netto-Emissionen einsparen könnte. Der AlgorithmWatch-Bericht hält solche Rechnungen jedoch für fragwürdig, weil sie auf schwach begründeten Beispielen aufbauen. „Es hat mich überrascht, solche Behauptungen in Nature zu sehen“, sagt Joshi. Viele wissenschaftliche Publikationen seien beim KI-Thema enthusiastisch und „womöglich nicht im Einklang mit dem, was wir über die Umweltschäden wissen“.

Ein weiteres Beispiel für irreführende Behauptungen sei auch die der Internationalen Energieagentur, dass das Kreuzfahrtunternehmen Carnival Cruise Lines dank KI seinen Treibstoffverbrauch erheblich gesenkt habe, so Joshi gegenüber netzpolitik.org. „Es scheint wahrscheinlich, dass der Verweis auf der Website größtenteils mithilfe von KI generiert wurde – oder dass es sich zumindest um eine schwache Quelle handelt, die keinen Bezug zu den tatsächlichen Berichten des Unternehmens aufweist.“ Dies verdeutliche laut Joshi, wie das Potenzial von KI nicht nur überbewertet wird, sondern auch, wie KI selbst das Informationsumfeld zerstöre.

Neue Form des Greenwashings

Rechenzentren verbrauchten 2024 rund 1,5 Prozent des weltweiten Stroms, bis 2030 erwartet die IEA eine Verdopplung. Die großen Tech-Konzerne verfehlen ihre eigenen Klimaziele und an den Standorten von Meta, OpenAI und xAI entstehen neue Gaskraftwerke. Der Bericht sieht so eine neue Greenwashing-Strategie. Emissionsintensive Industrien versuchen seit jeher ihre angerichteten Schäden kosmetisch „auszugleichen“, beispielsweise mit betrugsanfälligen Klimazertifikaten. Neu sei hingegen, dass unterschiedliche Technologien unter dem Überbegriff „KI“ zusammengefasst werden, um der Verantwortung für den Ausbau energiehungriger generativer KI zu entgehen.

Tatsächlich gibt es laut Bericht keinerlei glaubwürdige Grundlage für die Aussage, die klimafreundlichen Auswirkungen von Künstlicher Intelligenz würden die schädlichen Folgen der Technologie wieder ausgleichen können. Der Bericht behauptet gleichwohl nicht, dass KI keinerlei Klimanutzen haben könne. Unbelegt sei jedoch das Narrativ, KI könne Schäden im Gigatonnen-Bereich ausgleichen. Statt mit vagen Begriffen und schwachen Belegen die Klimaschäden zu verschleiern, läge die Verantwortung, in echte Nachhaltigkeit zu investieren, weiterhin bei den Big-Tech-Konzernen.

„Wenn es Google, Microsoft und Co. ernst wäre mit ihrer Sorge um die Umwelt, würden sie die Auswirkungen ihrer KI-Technologien offenlegen und auch die tatsächlichen Verbräuche der dafür genutzten Rechenzentren transparent veröffentlichen“, findet Bothe. „Tatsächlich passiert das Gegenteil: Die großen Tech-Unternehmen tun alles dafür, um sich sogar der gesetzlich geregelten Veröffentlichungspflichten zu entledigen – und die Regierungen auf EU- und Bundesebene knicken vor den Forderungen der Tech-Giganten ein.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

In seiner Enzyklika erklärt Papst Leo XIV. den Umgang mit KI zur „sozialen Frage“ unserer Zeit. Und auch bei anderen Themen knüpft er an aktuelle netzpolitische Debatten an. Gleichzeitig folgt der Vatikan den eigenen Maximen nicht immer konsequent.

„Nichts ist in der Welt der KI immateriell oder magisch“, stellt Papst Leo XIV. in seiner Enzyklika „Magnifica humanitas“ fest, die er am Pfingstmontag veröffentlichte und die medial einige Wellen geschlagen hat.

Wenn der Papst über „Künstliche Intelligenz“ schreibt, dann will er seine Reflexionen nicht auf das Endprodukt reduziert wissen. Stattdessen lenkt er den Blick auf die gesamte Lieferkette, die zu einer scheinbar mühelos auf dem Bildschirm aufscheinenden Antwort führt. Er spricht von einem „ausgedehnten Netzwerk aus natürlichen Ressourcen, Energieinfrastruktur und vor allem Menschen“.

Und der Papst belässt es nicht bei diesem einen Thema. Vielmehr spannt er mit in knapp 250 Abschnitten einen weiten Bogen über zahlreiche netzpolitische Themen: von Fragen nach digitalem Kolonialismus, Überwachung und algorithmischer Diskriminierung über die Regulierung von multinationalen Digitalkonzernen und der digitalen Allmende bis hin zur brandaktuellen Frage nach Altersgrenzen für Social-Media-Dienste.

Anschlussfähig an progressive Netzpolitik

Eine Enzyklika ist primär ein theologisches Dokument. Der Ansatz ist daher auch ein religiös begründeter.

Die Würde des Menschen gründet nach katholischem Verständnis in der Gottesebenbildlichkeit und ist zentral für die Organisation von Gemeinwesen. Eine gerechte Gesellschaft muss so organisiert sein, dass sie die Würde des Menschen schützt und fördert. Aus dem kirchlichen Verständnis des Menschen entwickelt die katholische Soziallehre Sozialprinzipien, die ethische Leitplanken für gesellschaftliche und politische Institutionen bilden: Personalität, Solidarität, Subsidiarität, Gemeinwohl und Gerechtigkeit sowie integrale Entwicklung, was säkular formuliert ungefähr Nachhaltigkeit bedeutet.

Das ist der Instrumentenkasten, mit dem der Papst aus der Tradition der katholischen Soziallehre argumentiert. Vor allem die Prinzipien der Subsidiarität, der Gerechtigkeit und der Nachhaltigkeit macht er in seiner Enzyklika stark. Damit zeigt er sich nicht nur erstaunlich anschlussfähig an digitalpolitische Diskurse, sondern auch an progressive Netzpolitik.

Drei in der Enzyklika behandelte Bereiche zeigen das besonders deutlich: die kritische Haltung zu Datenkolonialismus, die Problematisierung des Überwachungskapitalismus und ein Plädoyer für die digitale Allmende.

Das „neue Gesicht“ des Kolonialismus

Für den Papst zeigt der Kolonialismus heute ein „neues Gesicht“: „Er beherrscht nicht mehr nur Körper, sondern eignet sich Daten an und verwandelt das persönliche Leben in verwertbare Informationen.“

Das trifft auf den Umgang mit Menschen im globalen Norden zu, umso mehr aber auch auf den globalen Süden. In Regionen „mit geringerer geopolitischer Bedeutung und größerer struktureller Anfälligkeit“ sieht der Papst eine neue Logik der Ausbeutung, die sich nicht nur physischer Rohstoffe bemächtigt, sondern sich auch Gesundheitsdaten, epidemiologische Profile, genetische Karten und demografische Daten einverleibt.

Diese Informationen bezeichnet Leo als „Seltene Erden der Macht“, deren systematische Verknüpfung, Auswertung und Ausbeutung im Kern die Gefahr mit sich bringt, „auszuwählen, wer und was zählt“. Gesundheitsdaten beschreibt er als „strukturellen Hebel für die Zukunft“.

Der päpstliche Lösungsansatz greift den Gedanken der informationellen Selbstbestimmung auf: Es gelte, den Menschen die Daten zurückzugeben, die sie beschreiben, und sie in die Lage zu versetzen, „zu entscheiden, wie diese genutzt werden, von wem und für wen“.

Konkret fordert der Papst Transparenz für die Lieferketten der Digitalwirtschaft, klare Kriterien für eine präventive ethische Überprüfung und Standards für Arbeitnehmer*innen-Schutz.

„Andernfalls wird das digitale Zeitalter nicht postkolonial sein, sondern in einer anderen Form kolonial“, so der Papst.

Wenn der Papst wie das Bundesverfassungsgericht klingt 

Papst Leo XIV. will außerdem die „Freiheit vor Abhängigkeit und Kommerzialisierung schützen“. Er problematisiert, dass Plattformen darauf ausgelegt seien, „die Zeit und Aufmerksamkeit der Nutzer zu binden, indem ihre Schwachstellen ausgenutzt und ihre innere Freiheit geschwächt werden“. Derartige Geschäftsmodelle fasst er als Verzweckung des Menschen auf.

Für eine Regulierung und Begleitung dieser Phänomene schlägt der Papst mehrere Ansätze vor: „Erziehung zu digitaler Zurückhaltung, Schutz von Minderjährigen und Bekämpfung von Modellen, die aus der Verletzlichkeit anderer Nutzen ziehen“.

In der Überwachung und Kommerzialisierung durch Profilbildung sieht der Papst ein weiteres Problem, das mit sozialer Kontrolle einhergeht. „Wenn jede Handlung – Bewegungen, Käufe, Beziehungen, Vorlieben – Spuren hinterlässt, dann entsteht eine neue Macht: jene, Profile zu erstellen, Vorhersagen zu treffen und Verhalten zu beeinflussen, oft ohne dass sich die Menschen dessen voll bewusst sind.“

Das gefährde die Freiheit und diskriminiere vor allem die Schwächsten. Dabei komme es nicht nur auf tatsächliche repressive Maßnahmen an: „Was verstärkt oder unsichtbar gemacht wird, was belohnt oder bestraft wird, prägt letztlich Meinungen und Entscheidungen und führt zu Konformität und Selbstzensur.“

Hier klingt der Papst fast wie das Bundesverfassungsgericht: „Wer unsicher ist, ob abweichende Verhaltensweisen jederzeit notiert und als Information dauerhaft gespeichert, verwendet oder weitergegeben werden, wird versuchen, nicht durch solche Verhaltensweisen aufzufallen“, heißt es im Volkszählungsurteil aus dem Jahr 1983.

Daten als „gemeinsames oder kollektives Gut“

Bisher war der Vatikan eher durch eine restriktive Haltung bei Immaterialgüterrechten bekannt, zumindest, wenn es um Urheberrecht geht: Das Urheberrecht des Staats der Vatikanstadt ist eher beschränkend. Amtliche vatikanische Texte sind nicht gemeinfrei, bei der Digitalisierung von Archiven und Kunstschätzen wird nicht auf Commons und Open Data gesetzt.

Urheberrechte spricht Papst Leo in der Enzyklika zwar nicht direkt an. In Bezug auf Immaterialgüterrechte zeigt er sich aber deutlich Allmende-orientiert. Er greift dazu das theologische Verständnis der Gemeinwohlpflichtigkeit des Eigentums auf und macht es für Immaterialgüter fruchtbar.

„Daten sind das Ergebnis der Beiträge vieler und dürfen nicht an einige Wenige verkauft oder ihnen überlassen werden“, heißt es an einer Stelle, wo sich der Papst dafür ausspricht, Daten teilhabeorientiert als „gemeinsames oder kollektives Gut zu verwalten“.

An anderer Stelle bezeichnet er „Patente, Algorithmen, digitale Plattformen, technologische Infrastrukturen, Daten“ als Güter, die für alle bestimmt sind. „In einem Kontext, in dem der Reichtum der Nationen immer mehr von Wissen und Technologien abhängt, entsteht ein neues Ungleichgewicht, wenn diese Güter ohne angemessene Teilhabe und Zugangsmöglichkeiten in den Händen weniger konzentriert bleiben“, so Leo weiter.

Netzpolitische Kontinuitäten

Dass der amtierende Papst und mit ihm die katholische Kirche sich in dieser Weise netzpolitisch positionieren, ist in weiten Teilen keine Überraschung. Seit mindestens rund 25 Jahren betreibt der Vatikan Netzpolitik.

Die ersten Texte zu Ethik und Kirche im Internet erschienen bereits 2002. Zeittypisch wurde darin vor allem die Chancen für Kommunikation und Vernetzung betont, verbunden mit einem Appell zu gemeinwohlorientierter Entwicklung. Papst Johannes Paul II. (1978–2005) legte großen Wert auf die Nutzung neuer Medien, unter seinem Nachfolger Benedikt XVI. (2005–2013) waren die Botschaften zum katholischen „Welttag der Sozialen Kommunikationsmittel“ durch differenzierte Stellungnahmen zu digitalen Kommunikationsdynamiken geprägt.

In der späteren Phase des Pontifikats von Franziskus (2013–2025) trat KI in den Fokus. Im Jahr 2020 entwickelte die Päpstliche Akademie für das Leben mit dem „Rome Call for AI Ethics“ einen aus christlichen Werten gespeisten, aber durch Kooperationspartner aus der Wirtschaft und anderer Religionen anschlussfähigen KI-Kodex.

Im vergangenen Jahr veröffentlichten das Glaubens- und das Kulturdikasterium, also die römischen Behörden, die für theologische Grundsatzfragen und den Dialog mit der Kultur zuständig sind, die Erklärung „Antiqua et nova“ („Altes und Neues“) über das Verhältnis von Künstlicher Intelligenz und menschlicher Intelligenz, die ersten systematischen Ausführungen zum Umgang mit KI. In diesem Dokument hat die katholische Kirche auch erstmals Datenschutz theologisch hergeleitet und fundiert begründet.

Anschlussfähig an eine säkulare Öffentlichkeit

Mit seiner Enzyklika baut Leo XIV. auf dieser Vorarbeit auf und schreibt die Linien seiner Vorgänger und der Äußerungen aus den Vatikanbehörden fort.

Dass dies nun erstmals in der Form einer Enzyklika geschieht, ist das eigentlich Bedeutende – nicht nur, weil diese Form auch in der säkularen Öffentlichkeit so anschlussfähig ist, dass die Veröffentlichung tagelang weltweit in den Medien präsent war.

Eine Enzyklika ist die feierlichste Form der Ausübung des „ordentlichen Lehramts“ des Papstes. Unfehlbar ist sie nach katholischem Verständnis indes nicht. Aber wer katholisch ist, hat – so will es das Kirchenrecht – das anzuerkennen, was Päpste so vorlegen.

Seit geraumer Zeit wenden sich Päpste mit ihren Enzykliken nicht mehr nur an Katholik*innen, sondern an „alle Menschen guten Willens“ – entsprechend anschlussfähig an globale Diskurse müssen die Lehrschreiben sein. Das gilt insbesondere dann, wenn es wie in diesem Fall um soziale Fragen geht.

Der Umgang mit KI als die „soziale Frage“ unserer Zeit

Mit seiner Enzyklika stellt sich Leo XIV. in die Tradition seiner Vorgänger. Sein Namenspate Leo XIII. (1878–1903) hatte sich 1891 als erster Papst mit einer Sozialenzyklika zu zentralen Fragen des gesellschaftlichen und sozialen Zusammenlebens geäußert. Für Leo XIII. bestand die soziale Frage seiner Zeit in den Auswirkungen der Industrialisierung auf die Welt der Arbeit. Sein Lehrschreiben „Rerum novarum“ kam für die Industrielle Revolution der Mitte des 19. Jahrhunderts allerdings reichlich spät.

Leo XIV. hat den Umgang mit KI in einer seiner ersten Ansprachen als Papst als „soziale Frage“ unserer Zeit bezeichnet. Anders als Leo XIII. schreibt er zu einem Zeitpunkt, in dem die von ihm behandelte gesellschaftliche Umwälzung noch so weit am Anfang steht, dass gesellschaftliche Auswirkungen offen sind und politische Regulierungsinstrumente erst entwickelt werden.

Sozialenzykliken haben das Potenzial, den gesellschaftlichen Kurs zu beeinflussen, vor allem aber, Schwerpunkte in der Kirche zu setzen. Das jüngste Beispiel dafür ist die Umweltenzyklika „Laudato si“, in der sich Papst Franziskus 2015 umfangreich mit Nachhaltigkeit befasst und das Klima und die Umwelt als gemeinschaftliches Gut bezeichnet hat. Die Enzyklika hat Nachhaltigkeit zu einem kirchlichen Kernthema gemacht. Weltweit befassen sich Kirchengemeinden und kirchliche Verbände seither intensiv mit der praktischen Umsetzung.

Positive Resonanz aus Brüssel

Obwohl die Enzyklika von Papst Leo XIV. größtenteils nur den Rahmen vorgibt, kann sie also Wirkungen entfalten. Rückenwind erhält etwa das Projekt der Europäischen Union, Datenkolonialismus und Überwachungskapitalismus durch Regulierung zu gestalten. „Wir können der Vision des Heiligen Vaters Papst Leo XIV. und der Notwendigkeit eines soliden Rechtsrahmens für KI nur zustimmen“, äußerte sich ein Sprecher der Kommission dann auch gegenüber der Katholischen Nachrichten-Agentur.

Mit seiner Enzyklika scheint der Papst somit einen Nerv getroffen zu haben. Die Bewertungen fallen größtenteils positiv aus – auch, weil sich Leo XIV., der vor seiner Wahl zum Papst selbst soziale Medien und insbesondere „X“ nutzte, die alte Twitter-Kulturtechnik des Diss per Nonmention beherrscht. Mal weniger subtil, wenn er darüber klagt, dass sich in der Weltpolitik „religiöser Extremismus und identitätsbasierter Fanatismus […] mit irrationaler Wirtschaftspolitik“ verbünden, mal etwas subtiler, wenn er Herr-der-Ringe-Fans wie Elon Musk und dem Palantir-Gründer Peter Thiel mit einem Zitat von Gandalf Nachhaltigkeit und Bescheidenheit erklärt.

Auch der Vatikan ist mitunter nicht konsequent

Es bleiben aber auch offene Fragen. Denn so klar die ethischen Leitplanken für KI und die Digitalwirtschaft auch sind, so unverständlich ist die Beteiligung von Anthropic-Mitgründer Chris Olah bei der Pressekonferenz zur Vorstellung der Enzyklika.

Zwischen dem Vatikan und Anthropic, die sich selbst eines ethischeren Anspruchs für ihre Produkte rühmen, gibt es seit längerer Zeit einen Austausch. Das Unternehmen mag damit weniger problematisch als andere KI-Hersteller sein. Die in der Enzyklika benannten umfassenden Probleme der Nachhaltigkeit, des Energieverbrauchs und der Umwälzung des Arbeitsmarkts gelten aber pauschal für die Technologie – und damit auch für Anthropic.

Ein Ausreißer ist das allerdings nicht: Das Unternehmen reiht sich damit ein in die Riege von Tech-Konzernen, die mit dem Vatikan in Sachen Digital-Ethik kooperieren – der „Rome Call“ wurde etwa von Microsoft und IBM unterzeichnet. Und in der Vergangenheit gab es ebenfalls klare Aussagen zur Rolle von Krypo-Währungen im Menschenhandel. Zugleich kooperiert die Vatikan-Bibliothek mit einem Blockchain- und NFT-Start-up. Das zeigt: Auch im Vatikan selbst ist die konsequente Umsetzung ethischer Erkenntnisse nicht immer einfach.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der KI-Boom wird mehr und mehr zum Problem für Umwelt und Klima. Expert:innen haben jetzt für das Umweltministerium skizziert, wie eine nachhaltigere Alternative aussehen könnte. Ihr Gutachten vermeidet Kritik am aktuellen Kurs, die Empfehlungen laufen jedoch auf eine drastische Politikwende hinaus.

Wie kann Künstliche Intelligenz ökologisch nachhaltiger und gleichzeitig zum Wettbewerbsvorteil für Deutschland und Europa werden? Das Bundesumweltministerium hat zu dieser Frage in der vergangenen Woche ein Gutachten von fünf Expert:innen veröffentlicht. Ihre klare Botschaft: Beides ist möglich, aber nur mit einem deutlichen Umsteuern in der KI-Politik.

Während die Bundesregierung gerade die Regeln zu Umweltschutz und Energieeffizienz von Rechenzentren lockern will, weil sie sich als Konkurrentin in einem KI-Wettrennen mit den USA und China wähnt, warnt das Gutachten unter anderem: „Regulatorische Änderungen mit eng gefasstem Fokus und kurzfristiger Perspektive können zu langfristigen Problemen führen und dazu, dass die Ziele der Energiewende verfehlt werden.“

Der Energiehunger der Künstlichen Intelligenz

Die Ausgangslage für nachhaltige KI ist aktuell gleich im doppelten Sinne düster: Zum einen ist klar, dass der Energieverbrauch durch Rechenzentren, die für die Entwicklung und den Betrieb sogenannter Künstlicher Intelligenz gebaucht werden, rasant steigt. Nach Schätzungen der Internationalen Energieagentur betrug er in 2024 bereits 415 Terawattstunden, was nur knapp unter dem Stromverbrauch von Frankreich liegt, also der siebtgrößten Volkswirtschaft der Welt (449 Terawattstunden in 2024). Um den Energiehunger der KI zu stillen, setzen die großen KI-Firmen neben erneuerbaren auch massiv auf fossile, umweltschädliche Formen der Energiegewinnung, insbesondere Gas.

Zum anderen ist aufgrund der großen Intransparenz der Branche weitgehend unbekannt, wie viel Strom und Wasser einzelne KI-Modelle oder Rechenzentren genau verbrauchen oder wie viele Treibhausgas-Emissionen sie verursachen. Auch die großen Versprechen, dass KI für nachhaltige Zwecke wie etwa intelligentes Energie-Management genutzt werden könne, warten überwiegend noch auf ihre Einlösung.

Die ausgewiesenen Expert:innen Udit Gupta, Philipp Hacker, Lynn Kaack, Emma Strubell und Aimee van Wynsberghe haben im Auftrag des Umweltministeriums deshalb zahlreiche Vorschläge gemacht, wie die Situation verbessert werden könnte. Sie sagen: KI und Nachhaltigkeit müssten nicht im Widerspruch stehen. Deutschland habe eine gute Ausgangslage, um bei nachhaltiger KI eine globale Führungsrolle einzunehmen.

Spezialisierte KI-Ansätze statt riesiger Modelle

Eine zentrale Empfehlung der interdisziplinären Expert:innen-Gruppe ist ein realistischerer Blick auf die Vor- und Nachteile unterschiedlicher KI-Ansätze.

Derzeit sei die Aufmerksamkeit auf die großen sogenannten General-Purpose-AI-Modelle (GPAI) konzentriert. Der englische Begriff lässt sich am besten als KI-Modelle mit allgemeinem Verwendungszweck übersetzen. Gemeint sind in der Regel generative Modelle wie GPT von OpenAI oder Claude von Anthropic. Diese Modelle sind gerade wegen ihres allgemeinen Problemlösungsanspruchs und der dahinterstehenden Technik des Reasonings, das logisches Schlussfolgern imitiert, besonders energieintensiv.

Klimaschädlich by Design

Daneben gebe es jedoch auch andere vielversprechende Ansätze wie etwa kleinere KI-Modelle, die speziell zur Erfüllung konkreter Aufgaben trainiert werden. Diese seien oft besser zur Erfüllung von Aufgaben in der Industrie geeignet, etwa für Predictive Maintenance oder Bilderkennung für Krebsforschung. Viele Aufgaben erforderten gar nicht die Fähigkeiten von Allzweckmodellen oder profitieren nicht einmal davon.

Je genauer man die Zielaufgabe für ein KI-Modell definieren könne, desto effizienter lasse es sich in der Regel gestalten. Die klare Empfehlung des Gutachtens: „Um den wirtschaftlichen Nutzen von KI zu maximieren und gleichzeitig ihren Ressourcenbedarf zu minimieren, ist es daher von entscheidender Bedeutung, Modelle entsprechend zu spezialisieren oder sie gezielt für bestimmte Aufgaben einzusetzen.“

Der Fokus auf kleinere und spezifische Modelle passe zum deutschen und europäischen KI-Ökosystem, das stärker von kleineren und mittleren Unternehmen als von Tech-Giganten geprägt sei. Solche Modelle müssten durch gezielte Investitionen, Förderungen und Public-Private-Partnerships vorangetrieben werden. Dann könnten sich Nachhaltigkeit und ökonomische Wettbewerbsfähigkeit gegenseitig verstärken.

„Die Zukunft ist offener, als wir denken“, so fasste Jurist Philipp Hacker von der Europa-Universität Viadrina die Hoffnung der Sachverständigen bei einer Vorstellung der Studie in Berlin zusammen. „Es ist nicht alternativlos, dass die GPAI-Modelle gewinnen.“ Die Anbieter der großen Modelle hätten bis heute kein tragfähiges Geschäftsmodell und ihre Modelle würden teilweise immer schlechter, Stichwort „Enshittification“, so Hacker.

Intransparenz als Kernproblem

Ein großes Problem bei einer nachhaltigeren Gestaltung der KI-Ökonomie ist dem Gutachten zufolge die massive Intransparenz der Branche. Weil entsprechende Informationen fehlen, könnten Nutzer:innen heute gar nicht das „am wenigsten problematische Modell“ auswählen, so Computerlinguistin Emma Strubell von der Carnegie Mellon University.

Die Intransparenz sei nicht nur ein Problem für private, sondern auch für betriebliche Anwender:innen, die sich ein Bild von der Effizienz machen müssten. Auflagen für die Umweltberichterstattung müssten deshalb dringend um verpflichtende, standardisierte, unabhängig überprüfte und öffentlich zugängliche Informationen zu den Folgen von KI über den gesamten Lebenszyklus ergänzt werden.

Die KI-Verordnung der EU enthalte hierzu beispielsweise nur rudimentäre Anforderungen, die erweitert werden müssten. Dabei sollten nicht nur Daten zum Energieverbrauch beim Training, sondern auch beim Gebrauch von KI-Modellen einfließen. Ebenso CO₂-Emissionen, die bei der Produktion spezialisierter Hardware wie etwa hochleistungsfähigen Grafikprozessoren entstehen.

Bislang halten KI-Firmen solche Daten unter Verweis auf Geschäftsgeheimnisse unter Verschluss. Das öffentliche Informationsinteresse überwiege hier jedoch, so das Gutachten: „Der dringende Bedarf an Daten für ein wirksames Ressourcenmanagement und den Umweltschutz überwiegt die potenziellen Wettbewerbsnachteile, die mit der Offenlegung von Kennzahlen verbunden sind, die indirekt mit der Modellgröße zusammenhängen.“

Darüber hinaus könnten Anbieter verpflichtet werden, ein „grünes Modell“ ihrer KI-Anwendungen anzubieten, das beispielsweise ohne rechenintensives Reasoning daherkomme, um Energieverschwendung durch unnötige Rechenoperationen zu vermeiden. Auch das staatliche Beschaffungswesen sollte als Hebel genutzt werden, um KI- und Cloud-Anbieter zu fördern, die auf Energieeffizienz, nachhaltige Energiequellen und öffentliche Transparenz setzen.

Regeln für Rechenzentren müssen verschärft werden

Auch Rechenzentren als wichtige KI-Infrastruktur stehen im Fokus des Gutachtens. Bei keiner Industrie steige der Energiebedarf derzeit so rasant an wie bei Rechenzentren, so Udit Gupta von der New Yorker Universität Cornell Tech bei der Vorstellung des Papiers. In bestimmten Regionen führe der Bau-Boom bereits heute zu Problemen mit der Energieversorgung. In Frankfurt am Main etwa gingen bereits 2022 knapp 30 Prozent des Stromverbrauchs auf das Konto von Rechenzentren.

Auch hier gehen dem Gutachten zufolge die aktuellen Berichts- und Transparenzpflichten für Betreiber nicht weit genug. Statt tatsächlicher Verbrauchsmessungen würden sie häufig lediglich Schätzungen basierend auf dem Design ihrer Anlagen übermitteln. Ohne solche Angaben könne der tatsächliche Bedarf an Rechenkapazität nicht realistisch eingeschätzt und der Bau neuer Anlagen volkswirtschaftlich sinnvoll geplant werden. Zahlen aus den Niederlanden hätten erst kürzlich gezeigt, dass Rechenzentren dort vermutlich nur zu einem Drittel ausgelastet seien.

Problematisch seien auch die zentralen Maßeinheiten für die Effizienz von Rechenzentren, der PUE-Wert, kurz für Power Usage Effectiveness, und der WUE-Wert, kurz für Water Usage Effectiveness. Beide Werte, die auch in den Nachhaltigkeitsberichten großer Rechenzentrumsbetreiber wie Amazon, Google oder Microsoft angegeben werden, geben keine Auskunft über den absoluten Verbrauch. Stattdessen sind es relative Effizienzwerte, was dazu führe, dass PUE und WUE sich zwar verbessern würden, der absolute Verbrauch jedoch drastisch steige, weil Einsparungen in immer noch größere Modelle investiert würden. Der PUE-Wert messe zudem nur den Energieverbrauch der Gebäude-Infrastruktur, etwa Kühlsystem und Beleuchtung, nicht den Verbrauch der tatsächlichen Energieinfrastruktur.

Wo sich lokaler Widerstand gegen den KI-Hype formiert

Um hier für Verbesserungen zu sorgen, müssten den Expert:innen zufolge die Transparenz- und Berichtspflichten für Rechenzentren deutlich verschärft werden. Hierzu müsste der DIN-Standard für Rechenzentren ebenso angepasst werden wie die Europäische Energieeffizienz-Richtlinie und das deutsche Energieeffizienzgesetz. Wichtig seien unabhängig auditierte Verbrauchsmessungen, die zudem mindestens in aggregierter Form öffentlich zugänglich sein sollten. Auch bei Rechenzentren müsse der ganze Lebenszyklus ins Reporting einbezogen werden: von den Emissionen, die bei der Herstellung von Servern entstehen, bis zum Elektroschrott, nachdem Hardware aussortiert wird.

Darüber hinaus könnten auch beim Design von Rechenzentren und der Energieversorgung große Fortschritte erzielt werden. So sollten etwa KI-Unternehmen verpflichtet werden, selbst für den Ausbau Erneuerbarer Energien in dem Maße zu sorgen, wie sie Strom verbrauchen. Rechenzentren sollten zudem Teil des Systems der CO₂-Bepreisung sein, damit Betreiber Folgekosten für die Umwelt nicht externalisieren können.

Außerdem sollte der Staat die Entwicklung energieeffizienter Rechenzentren fördern, die auf die Bedürfnisse der deutschen Wirtschaft spezialisiert sind. Auch die Abwärme von Rechenzentren sollte weiterhin verpflichtend genutzt werden müssen, Ausnahmen davon reduziert werden.

Auf Kollisionskurs

Die Liste der Vorschläge der Expert:innen ist noch deutlich länger und zeigt, wie groß die Möglichkeiten wären, KI und Rechenzentren nachhaltiger zu gestalten. Zum aktuellen Kurs der Bundesregierung passen sie jedoch gar nicht. Diese sieht Deutschland und Europa in einem KI-Wettrennen mit den USA und China und setzt deshalb auf den Ausbau von KI-Kapazitäten um jeden Preis.

Getrieben von Wirtschaftsverbänden wie BDI, Bitkom oder Eco hat Digitalminister Karsten Wildberger (CDU) eine neue Rechenzentrumsstrategie erarbeiten lassen, die im März vom Bundeskabinett beschlossen wurde. Sie sieht vor, die Rechenzentrumskapazitäten in Deutschland bis 2030 mindestens zu verdoppeln und die KI-Kapazitäten bis dahin sogar zu vervierfachen. Hierfür sollen Umweltstandards gesenkt, Berichtspflichten gelockert und Planungsverfahren beschleunigt werden.

Wirtschaftministerin Katharina Reiche (CDU) will zudem das deutsche Energieeffizienzgesetz so weit zurückfahren, dass es nur noch den Mindeststandards der entsprechenden EU-Richtlinie entspricht. Dabei haben Journalist:innen von Investigate Europe gerade erst aufgedeckt, wie erfolgreich große Tech-Konzerne gegen weitergehende Transparenzvorgaben in dieser Richtlinie lobbyiert hatten: Die EU-Kommission hat demzufolge bestimmte Abschnitte fast wortgleich von Microsoft kopiert, so dass die ohnehin schon schwammigen Kennzahlen zu Rechenzentren, die an Aufsichtsbehörden übermittelt werden müssen, nicht öffentlich gemacht werden dürfen.

Es ist nun also an Umweltminister Carsten Schneider (SPD), die Vorschläge der von ihm beauftragten Expert:innen in die Debatte mit seinen Kolleg:innen zu bringen. Ob er die KI-Politik auf Klima-Kurs bringen kann, wenn er argumentiert, dass Deutschland und Europa von nachhaltiger KI auch wirtschaftlich profitieren könnten?

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Bevölkerung nimmt Gewalt gegen Politiker:innen zunehmend als Bedrohung für die Demokratie wahr. Zu dieser Einschätzung kommt der aktuelle Weizenbaum-Report zu politischer Partizipation. Auch Hass und Falschinformationen prägen den Alltag im Netz und beeinflussen die Bereitschaft zur Teilnahme an gesellschaftlichen Debatten.

Gewalt gegen Politiker:innen richtet sich gegen die politische Gesinnung und soll vor allem eines bewirken: Menschen einschüchtern. Der aktuelle Weizenbaum Report 2026 greift die gesellschaftliche Wahrnehmung physischer wie verbaler Gewalt auf und fragt, wie sich diese auf die Menschen in einer Demokratie auswirkt.

In Zusammenarbeit mit der Freien Universität Berlin erforscht das Weizenbaum-Institut seit dem Jahr 2019 das gesellschaftliche Verhältnis zu politischer Partizipation. Als Grundlage des aktuellen Reports dienen Befragungen aus dem Jahr 2025. Für die repräsentative Datenerhebung wurden insgesamt 1740 Telefon-Interviews herangezogen. 73 Prozent der Befragten hatten zudem bereits im Vorjahr teilgenommen.

Das Ergebnis: Menschen, die Drohungen und Gewalt gegen Politiker:innen wahrnehmen und die Demokratie deshalb als bedroht sehen, demonstrieren mehr, bauen eher Kontakt zu Politiker:innen auf und beteiligen sich häufiger an Petitionen. Die Wahrnehmung von Gewalt scheint auf diese Weise zunächst nicht mit geringerer politischer Beteiligung der Bevölkerung im Zusammenhang zu stehen, so der Report.

Feld politischer Kandidat:innen dünnt aus

Straftaten gegen Mandatsträger:innen finden laut dem Bericht regelmäßig mediale Aufmerksamkeit und auch die Zahl der gemeldeten Fälle sei 2025 im Vergleich zum Vorjahr um zwölf Prozent gestiegen. 81 Prozent der Befragten halten Gewalt gegen Politiker:innen für verbreitet. Über zwei Drittel der Befragten halten deshalb die Demokratie für bedroht. Dass dies möglicherweise mit höherer politischer Partizipation der teilnehmenden Befragten im Zusammenhang steht, scheint zunächst ein ermutigendes Ergebnis.

Dennoch ist laut Report zu klären, ob der Zusammenhang kausal ist – also ob diese Wahrnehmung der Gefahr tatsächlich mobilisierend wirkt. Eine Möglichkeit ist, dass diese Menschen schlicht politisch aktiver sind, vermutet Katharina Heger, Erstautorin des Weizenbaum-Reports: „Eventuell kommt diese Wahrnehmung also aus dem eigenen Erleben in der Fußgängerzone, auf der Demo oder am Wahlkampfstand, denn bei der vernetzten politischen Beteiligung sehen wir diesen Zusammenhang nicht“.

Zugleich zeigt der Report auch: Wer die Demokratie durch Gewalt bedroht sieht, kann sich eher nicht vorstellen, selbst ein politisches Amt auszuüben. Dies führe im kommunalen Bereich bereits dazu, dass Mandatsträger:innen ihre Ämter aufgeben oder sich zu wenige Kandidat:innen finden, sagt Prof. Dr. Martin Emmer von der FU Berlin: „Grundsätzlich sehen die Menschen die Übernahme eines politischen Amtes ohnehin nicht so sehr als Bürgerpflicht an wie andere Formen politischer Partizipation, deshalb schlagen die Folgen dieser Wahrnehmungen von Drohungen und Gewalt hier besonders deutlich durch. Drohungen und Gewalt gegen Politiker:innen sind also nicht allein deren Problem, sondern eine Bedrohung für die Demokratie insgesamt.“

Bedarf an zivilisiertem Umgang im Netz

Seit 2019 messen die Forschenden die Vorstellung dessen, was gute Bürger:innen tun – etwa zur Wahl gehen oder Gesetze befolgen. Auch diskursive Bürgernormen im Netz werden seither untersucht.

Das Internet hat sich dabei laut Report zur etablierten Informationsquelle für Nachrichten und politische Inhalte entwickelt. Zwei Drittel der Bevölkerung informieren sich regelmäßig online. Auch das Wachstum sozialer Medien scheint nicht abzureißen. 2025 lag der Anteil bei 36 Prozent – fünf Prozentpunkte mehr als im Jahr 2021. Videoplattformen wie YouTube gewinnen laut der Studie an Bedeutung. Hier liegt der Anteil mit 47 Prozent um 6 Prozentpunkte höher als 2021.

Die Bedeutung der Diskurspflege ist dabei laut Studienlage gewachsen: 83 Prozent der Befragten finden es wichtig, sich für einen respektvollen Umgang in Online-Diskussionen einzusetzen. 75 Prozent der Befragten finden es zudem wichtig, gegen Hass und Hetze einzutreten, sowie 71 Prozent, auch auf Falschmeldungen hinzuweisen.

Zwölf Prozent der Befragten berichten zudem, in der Konfrontation mit Hasskommentaren Gegenrede geleistet zu haben. 15 Prozent meldeten diese an die Plattformen. Dabei verhalten sich Altersgruppen unterschiedlich. 53 Prozent der unter 30-Jährigen meldeten Hasskommentare, bei den über 50-Jährigen waren es lediglich 9 Prozent.

Auch bei Falschinformationen steige die Gegenwehr, so die Untersuchung. 32 Prozent der Befragten geben an, den Wahrheitsgehalt von Meldungen zu überprüfen, 25 Prozent warnen andere vor Falschnachrichten und zwölf Prozent geben an, diese an die Plattform zu melden. Analog zu den Hasskommentaren gibt es auch hier einen Kontrast: Unter 30-Jährige prüfen vermeintliche Falschnachrichten auf ihren Wahrheitsgehalt mit 60 Prozent am meisten, die über 50 Jährigen prüfen jedoch nur noch zu 26 Prozent.

Neues Bild bürgerlicher Normen

„Jüngere, die auch im digitalen Raum sozialisiert wurden, haben einen anderen Zugang zu Plattformfunktionen“, sagt Heger. „[Ältere] übertragen vermutlich eher die offline erlernten Formen der Zivilcourage auf den digitalen Raum, etwa die soziale Intervention und direkte Konfrontation, wie sie auch auf der Straße dazwischen gehen würden.“

Der persönliche Einsatz gegen Hasskommentare und Falschinformationen werde also zunehmend als etablierte Form bürgerschaftlichen Engagements verstanden. Menschen treten demnach auch im Netz vermehrt für demokratische Grundwerte ein. Insgesamt zeige sich laut Report, dass die traditionellen Vorstellungen guter Bürger:innenschaft zunehmend mit den Erfahrungen aus dem Netz ergänzt werden.

Das Thema Künstliche Intelligenz könne dabei eine Rolle spielen: Die zunehmende Verbreitung KI-generierter Inhalte – darunter auch sogenannte Deepfakes – kann dazu beitragen, dass Menschen sensibler für Falschinformationen werden, mutmaßt die Studie. Dennoch wirke sich die zunehmende Verbreitung von Falschinformationen bei den audiovisuellen Inhalten besonders negativ aus, sagt Mitautor Christian Strippel, gerade deshalb, „weil wir gewohnt sind, zu glauben, wenn wir etwas ‚mit eigenen Augen‘ gesehen haben.“

Gräben, die bleiben

Wer eine höhere Schulbildung hat, kommentiert und teilt laut Report fast doppelt so häufig wie Menschen mit formal niedrigem Bildungsabschluss. Menschen mit höherer Bildung verfügen demnach über mehr politische Teilhabe im digitalen Raum – also genau dort, wo ein wachsender Teil der öffentlichen Debatte stattfindet. Laut Emmer spielen Bildungsunterschiede im Digitalen so eine deutlich höhere Rolle als bei traditionellen Partizipationsformen: „Besser Gebildete haben besseren Zugang zu relevanten Informationen und können damit online aber auch offline deutlich mehr Einfluss ausüben.“

Zudem zeigt sich ein Geschlechter-Unterschied: Frauen halten sich laut der Studie bei der sichtbaren Beteiligung im Netz zurück. Sie kommentieren und teilen deutlich seltener politische Inhalte, was ihre öffentliche Sichtbarkeit verringert. Beim Teilen von Petitionen sind sie dagegen aktiver.

„Wer selbst postet oder kommentiert, stellt den eigenen Standpunkt in den Mittelpunkt und macht ihn stärker sichtbar. Wir sehen immer wieder, dass Frauen eine geringere politische Selbstwirksamkeit berichten, also dass das Gefühl, sich mit Politik auszukennen und sich wirksam und sinnvoll einbringen zu können, bei Frauen im Durchschnitt geringer ausgeprägt ist als bei Männern“, sagt Heger. Zu diesem Ungleichgewicht trage auch die vorherrschende digitale Diskussionskultur bei: „Frauen, die sich politisch positionieren, insbesondere mit feministischen Standpunkten, werden immer wieder zur Zielscheibe von verbalen Attacken.“

Vertrauen in die Medien

Das Vertrauen in die etablierten Medien fällt dabei geteilt aus: Nur knapp die Hälfte der Befragten gibt an, den etablierten Medien zu vertrauen, wenn es „um wirklich wichtige Dinge“ geht – beispielsweise Umweltprobleme, Gesundheitsgefahren, politische Skandale und Krisen. Etwa ein Fünftel habe dieses Vertrauen nicht, während 29 Prozent sich in dieser Frage ambivalent zeigen.

Ein zwingender Grund zur Beunruhigung sei dies jedoch nicht, denn für eine offene und vielfältige Gesellschaft sei Unzufriedenheit mit Medien normal, so Emmer: „‚Nordkoreanische‘ Zustimmungswerte von 90 Prozent oder mehr würden mich eher misstrauisch machen.“

Gleichzeitig sei indes zu beobachten, dass das Phänomen der Nachrichtenvermeidung zunimmt. „Es gibt eine noch kleine, aber langsam und stetig wachsende Gruppe von Menschen, die sich vollständig von Medien abwenden, was mittelfristig durchaus ein Problem werden kann“, sagt Emmer. „Denn diese Menschen sind dann deutlich leichter durch sogenannte ‚alternative Medien‘ oder Verschwörungserzählungen ansprechbar.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Datenschutzbeauftragte von Nordrhein-Westfalen geht mit der im neuen Polizeigesetz geregelten automatisierten Datenanalyse hart ins Gericht. In ihrem Tätigkeitsbericht bezweifelt sie die Rechtmäßigkeit der Norm, die den Einsatz von Palantir-Software erlaubt. Der NRW-Innenminister Herbert Reul liebäugelt mit Palantir-Alternativen.

Einige Regelungen im neuen Polizeigesetz von Nordrhein-Westfalen durchbrechen den Grundsatz der Zweckbindung. Das schreibt die Datenschutzbeauftragte von Nordrhein-Westfalen, Bettina Gayk, in ihrem am Freitag veröffentlichten 31. Tätigkeitsbericht für 2025. Sie begründet darin ihre „Zweifel an der Verfassungsmäßigkeit“ des Gesetzes. „Trotz mehrfacher Intervention“ wurden ihre Einwände jedoch „im Gesetzgebungsverfahren nicht berücksichtigt“. Viel deutlicher hätte die Datenschutzbeauftragte zur Ignoranz ihrer Expertise durch die Landesregierung nicht werden können.

Nach mehreren Entscheidungen des Bundesverfassungsgerichts in den letzten Jahren musste Nordrhein-Westfalen sein Polizeigesetz anpassen. Auch für die darin geregelte automatisierte Datenanalyse machte Karlsruhe im Februar 2023 neue detaillierte Vorgaben.

Der etwas sperrige Rechtsbegriff „automatisierte Datenanalyse“ beschreibt die übergreifende Auswertung von polizeilichen Datensammlungen, die in NRW mit Hilfe des US-Konzerns Palantir vollzogen wird. Innenminister Herbert Reul (73, CDU) hatte in einem Interview mit dem Merkur im Sommer 2025 erklärt, bei dem Anbieter zunächst bleiben zu wollen. Der Fünf-Jahres-Vertrag mit Palantir wurde dann zwar verlängert, aber nur bis Oktober 2026.

Gayks Kritik bezieht sich auch auf den Konzern, vor allem aber richtet sie sich gegen die rechtlichen Regelungen: Die polizeilichen Befugnisse bei der Datenanalyse in NRW wurden nach dem Palantir-Urteil des Bundesverfassungsgerichts nicht etwa beschnitten, sondern beträchtlich ausgebaut und erlauben nun beispielsweise auch „KI“-Training. Diese erheblich erweiterten Analysebefugnisse im Polizeigesetz (§ 23 Abs. 6) wurden vom Landtag bereits beschlossen.

„Sogar noch einmal verschärft“

Gayk kritisiert in der Pressemitteilung zu ihrem Tätigkeitsbericht, den sie NRW-Landtagspräsident André Kuper (CDU) übergab, den generellen Trend zu „ungezügelter Datennutzung“. Zudem würden Gesetze „teils im Eilverfahren verabschiedet“, so dass der Schutz der Grundrechte „nicht mit der notwendigen Sorgfalt berücksichtigt“ werde.

Beim Polizeigesetz wird Gayk in ihrem Tätigkeitsbericht besonders deutlich. Denn „schon beim ursprünglichen Text des PolG NRW“ wären „gesetzliche Ergänzungen“ notwendig gewesen. Das hätte sie auch in ihrer damaligen Stellungnahme deutlich gemacht. Die Verantwortlichen ignorierten die Expertise ihrer Datenschutzbeauftragten. Gayk schreibt:

Doch die Landesregierung ist darauf nicht nur nicht eingegangen – sie hat im überarbeiteten PolG NRW das Eingriffsgewicht möglicher polizeilicher Datenanalysen sogar noch einmal verschärft. Das hat zur Folge, dass das neue Gesetz erst recht nicht die Anforderungen an eine verfassungskonforme Norm erfüllen dürfte.

Denn nach den neuen Befugnissen dürfen nicht nur „Beziehungen oder Zusammenhänge zwischen Personen, Personengruppierungen, Institutionen, Organisationen, Objekten und Sachen hergestellt werden“, sondern auch „selbstständig arbeitende oder selbstlernende Systeme“ eingesetzt werden. Damit sind kaum eingegrenzte Formen von Software-Auswertungen gemeint, auch mit sogenannter „Künstlicher Intelligenz“. Polizeiliche Daten aus Registern oder Fahndungssystemen können beispielsweise mit Telekommunikationsdaten und vielen weiteren Datenarten verknüpft und automatisiert ausgewertet werden.

All dies hatte Gayk auch „zusätzlich in einer an den Landtag NRW gerichteten Stellungnahme deutlich gemacht“. Doch auch im Landtag fruchteten ihre Argumente nicht: „Keiner dieser Hinweise wurde im Gesetzgebungsverfahren berücksichtigt.“

Die Datenschutzbeauftragte ruft dabei ins Gedächtnis, dass bei der ersten Einführung der Datenanalyse in NRW noch besonders betont worden sei, „dass dieser Eingriff keine große Intensität aufweise – da KI gerade nicht zum Einsatz komme“. Jetzt hingegen sei nicht nur der Einsatz von „KI“ erlaubt, sondern sogar das „KI“-Training.

Im Jahr 2022 wurde im Polizeigesetz die Rechtsgrundlage für die Datenanalyse geschaffen, die in NRW den Namen DAR (Datenbankübergreifende Analyse- und Recherche) trägt und von Palantir schon seit 2019 für mindestens 39 Millionen Euro bereitgestellt wird. Seit dem Bohei um „KI“ wirbt der journalistenfeindliche Konzern mit bizarrer politischer Agenda damit, dass auch seine Software Künstliche Intelligenz beinhalte.

Software-Training

Die neue Regelung zum „KI“-Training enthält die Erlaubnis zur „Entwicklung, Überprüfung, Änderung oder zum Trainieren von IT-Produkten“. Das werfe zusätzliche Probleme auf, wenn die Polizei NRW dazu gespeicherte echte Daten von Menschen verwenden darf. Denn die Norm sehe „so gut wie keine Einschränkungen oder Voraussetzungen vor“, so Gayk. Zwar sollen die in das Training einfließenden Daten grundsätzlich anonymisiert werden. Aber das wurde ausgehebelt durch den Zusatz, dass die Anonymisierung auch unterbleiben kann, wenn sie „voraussichtlich mit einem hohen Aufwand verbunden“ ist.

Die Datenschutzbeauftragte hatte im Gesetzgebungsprozess gefordert, dass keine identifizierenden Informationen in das Software-Training einfließen sollen. Schließlich sei „die KI darauf ausgelegt“, Zusammenhänge zwischen Daten zu erkennen. Die könnten auch dann hergestellt werden, wenn der Name weggelassen würde. „Eine Anonymisierung gestaltet sich damit generell schwierig“, so Gayk.

Doch sie blieb auch mit diesem Einwand ungehört. Die NRW-Datenschützerin senkt nun zum „KI“-Training klar den Daumen:

Insgesamt sind im Gesetz nicht ansatzweise ausreichende Maßnahmen geregelt, um den mit der Nutzung zu Trainingszwecken einhergehenden Risiken […] angemessen zu begegnen.

Umdenken bei Herbert Reul

Neben diesen rechtlichen Bedenken beim „KI“-Training weisen Juristen schon länger auf das Problem, dass durch die Zusammenarbeit mit dem US-Konzern Palantir Polizeidaten in die Vereinigten Staaten abfließen könnten. Auch die NRW-Datenschutzbeauftragte betont in ihrem Bericht, dass sie die Landesregierung darauf hingewiesen hätte, „dass der Programmanbieter der US-amerikanischen Gesetzgebung unterliegt“. Gayk macht deutlich, dass zwei US-Gesetze hier einschlägig wären, nämlich der US CLOUD Act aus dem Jahr 2018 und der US Foreign Intelligence Surveillance Act. Diese böten US-Behörden „weitreichende Möglichkeiten, auf die Daten des Anbieters zuzugreifen“:

Da das Programm den Polizeidatenbestand nahezu vollständig einbezieht, würde dieser Datenbestand dann, wenn er im Zusammenhang mit KI-Training auch dem Programmanbieter zur Verfügung steht, nicht kontrollierbaren Zugriffen der US-Behörden unterliegen.

An dem seit 2017 amtierenden Innenminister Herbert Reul scheinen solche Hinweise nicht mehr gänzlich abzuprallen. Denn dass in NRW weiter mit Palantir zusammengearbeitet wird, ist nicht mehr ausgemacht. Der Widerstand gegen den US-Konzern ist zwischenzeitlich wohl zu deutlich gewachsen.

Reul sucht nun eine neue Analysesoftware für die Polizei, wie die dpa am Wochenende meldete. Denn Mitte Oktober läuft der Vertrag mit Palantir aus. Offenbar hat das vom US-Konzern und auch von deutschen Polizeianwendern gern besungene fast mythische Ansehen der Palantir-Software, der aktuell kein anderer Anbieter im Markt funktional das Wasser reichen kann, einige Kratzer bekommen.

An Gayks Einschätzungen zur Rechtmäßigkeit der gesetzlichen Regelungen zur automatisierten Datenanalyse in NRW ändert ein möglicher neuer Vertragspartner aber nichts. Denn ihre Kritik richtet sich gegen die außerordentlich weitgehenden Befugnisse, nicht nur gegen den Anbieter.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Zur „ersten Bewegungskonferenz gegen Big Tech“ in Berlin kamen 750 Menschen zusammen. Bei „Cables of Resistance“ ging es um Protest, Betriebsräte und Widerstand gegen Rechenzentren. Die vielleicht radikalste Antwort der Aktivist:innen auf die Macht der Tech-Konzerne: Verweigerung.

Was tun gegen Big Tech? Am vergangenen Wochenende kamen in Berlin deutsche und internationale Aktivist:innen, Gewerkschafter:innen, Forscher:innen und Künstler:innen zur Konferenz „Cables of Resistance“ zusammen, um über die Frage zu beraten, die derzeit so viele beschäftigt. Ihre Antwort: radikale Verweigerung, Protest und Widerstand.

Ins Leben gerufen wurde die „erste Bewegungskonferenz gegen Big Tech“ von den Gruppen Berlin vs. Amazon, Tesla den Hahn abdrehen und die Berlin Tech Workers Coalition. Mit ihrem tech- und kapitalismuskritischen Ansatz haben sie offenbar einen Nerv getroffen: Die Tickets waren schnell ausverkauft, mehr als 750 Menschen kamen nach Angaben der Veranstalter:innen in das Tagungshaus am Franz-Mehring-Platz.

Das überwiegend durch Einreichungen aus der Community bestückte Programm war geprägt durch kritische Analyse des Status Quo, internationale Vernetzung und Austausch über politische Strategien. In insgesamt neun Themen-Tracks ging es um Fragen von Stadtpolitik, Nachhaltigkeit, Militarisierung oder Arbeitskämpfe.

„Die Speerspitze der kapitalistischen Akkumulation“

Die Ausgangslage beschreiben viele derzeit als düster. Angesichts der Übermacht der großen Tech-Konzerne kann man schon mal leicht verzweifeln. Ihre wirtschaftliche und politische Dominanz ist konkurrenzlos. Allein die fünf wertvollsten unter ihnen – Nvidia, Apple, Google, Microsoft und Amazon – strichen im letzten Jahr fast 500 Milliarden US-Dollar Gewinn ein. Ihr gemeinsamer Marktwert beträgt derzeit mehr als 18 Billionen US-Dollar – astronomische Zahlen.

Für die Veranstalter:innen steht fest: „Digitale Technologien sind die derzeitige Speerspitze der kapitalistischen Akkumulation und Zerstörung.“ Und: „Das digitale Kapital steht hinter dem Faschismus und ist sein bereitwilliger Handlanger.“ So heißt es im Entwurf für ein Manifest, das die Organisator:innen zu Beginn der Konferenz zur Debatte stellten und das sie im Nachgang weiterentwickeln wollen.

In den Diskussionsrunden war zwar hier und da Skepsis angesichts der vor Superlativen und historischen Referenzen strotzenden Wortwahl zu hören. Doch dass die Tech-Konzerne tief in die großen Krisen unserer Zeit verwickelt sind, das ist hier Konsens. Sie treiben den Klimawandel voran und lassen in kolonialer Manier Arbeitskräfte und Rohstoffe im Globalen Süden ausbeuten. Sie profitieren von Überwachung und Militarisierung. Mit ihren Lobby-Armeen nehmen sie Einfluss auf die Politik, mit ihren Milliarden gestalten sie unsere Städte um. Sie hofieren Donald Trump und normalisieren seine Politik.

Die vielleicht mächtigste Waffe der Tech-Konzerne: Sie bestimmen, wie die Zukunft aussehen soll – nicht nur technisch, sondern auch diskursiv. Dass mehr Innovation, mehr Technologie und allen voran mehr KI immer besser seien, sagen längst nicht mehr nur sie. Auch viele Politiker:innen wiederholen das Mantra vom vermeintlichen digitalen Fortschritt unhinterfragt. Big Tech hat nicht nur das Internet gekapert, sondern auch unsere Vorstellung davon, wie digitale Zukünfte überhaupt aussehen könnten.

Von Arbeitskämpfen bis Perma-Computing

„Big Tech wird unseren Planeten mittel- bis langfristig zerstören“, so fasst Mitorganisatorin Aline Blankertz in einem Pressegespräch die Lage zusammen. Die Konferenz wolle deshalb Menschen zusammenbringen, „die für eine solidarische, selbstbestimmte, klimagerechte Zukunft kämpfen.“

Konkret ging es zum Beispiel um Arbeitskämpfe und die Rolle, die Angestellte von Tech-Konzernen spielen können, um diese zu verändern. Wie kann man solidarisch mit outgesourceten Datenarbeiter:innen hinter KI und Sozialen Medien sein? Wie können Kurierfahrer:innen Betriebsräte und faire Arbeitsbedingungen erkämpfen? Wie können sich Angestellte gegen die Beteiligung ihrer Arbeitgeber an militärischen Produkten wie dem Projekt Nimbus organisieren, mit dem Amazon und Google das israelische Militär und damit auch den Völkermord in Gaza unterstützen?

An anderer Stelle ging es um die globale Ausbeutung durch Tech-Konzerne und die sozial-ökologischen Kosten des KI-Hypes, um autoritäre und antifeministische Netzwerke. Es ging darum, wie man Protest gegen Palantir und Tesla organisiert, aber auch um Alternativen wie Perma-Computing mit Biomasse oder um Plattform-Kollektive im Besitz lateinamerikanischer Tech-Arbeiter:innen.

Rechenzentren als Symbole des KI-Hypes

Ein zentrales, immer wiederkehrendes Thema waren Rechenzentren. Als physische Repräsentation der digitalen Welt und als Symbol für den KI-Hype sind sie in vielen Regionen der Welt bereits zum Kristallisationspunkt des Widerstands gegen Big Tech geworden. Der Protest gegen Rechenzentren dürfte bald auch in Deutschland stärker werden, denn sie nehmen viel Fläche ein, verbrauchen riesige Menge Strom und Wasser und werden gerne in ärmeren und marginalisierten Nachbarschaften gebaut, die dann unter der Lärm- und Umweltbelastung leiden.

In den vielen Vorträgen und Panel-Gesprächen zu dem Thema ging es um Aufklärung, Ansatzpunkte für Veränderungen an gesetzlichen Rahmenbedingungen wie dem Energieeffizienzgesetz, Aktionen des zivilen Ungehorsams und lokale Proteste, die die Ansiedlung von Rechenzentren verhindern.

Worum es nicht ging: Anschläge, Sabotage oder andere Formen eines vermeintlichen Ökoterrorismus.

Dass man das überhaupt klarstellen muss, liegt daran, dass das rechte Krawallmedium Nius die Konferenz offenbar zum Feind auserkoren hat, weil der Quantenphysiker Guido Arnold an einem Panel teilnahm. Im Januar hatten Nius und Spiegel Arnold und sein radikal Tech-kritisches Kollektiv „Capulcu“ mit dünner Begründung als Vordenker der „Vulkangruppe“ dargestellt. Der Vorwurf stützt sich vor allem darauf, dass die Vulkangruppe, die sich unter anderem zum Brandanschlag auf das Berliner Stromnetz Anfang des Jahres bekannte, ähnliche Begriffe nutzt, etwa den von Arnold geprägten Ausdruck des „technologischen Angriffs“.

Auch im Manifest der Konferenz findet sich der Begriff. Nius schickte einen Reporter, der Teilnehmende vor dem Gebäude abpasste und fragte, warum sie an einer Konferenz teilnehmen würden, die mit durchtrennten Kabeln werbe. Die ausbleibenden Antworten der genervten Besucher:innen schnitt Nius zu einem fünfeinhalbminütigen Video zusammen.

Nicht zum ersten Mal griff die Springer-Zeitung Welt die Vorlage von Rechtsaußen auf und titelte: „Wie linke Tech-Gegner in Berlin einen Angriff planen“. Eine Presseakkreditierung hatte Welt nach Angaben der Veranstalter:innen nicht beantragt.

Kann man Big Tech auf den eigenen Plattformen schlagen?

Dabei gibt es durchaus Dinge, die man an der Konferenz kritisieren kann, ohne sich komplett lächerlich zu machen.

Zum Beispiel, dass kein einziger der neun Themenstränge Probleme der demokratischen Öffentlichkeit und von Sozialen Medien zum Thema machte. Die Frage, wie eine tech-kritische Bewegung, die von der Konferenz ausgehen soll, die narrative Hegemonie von Big Tech auf den Plattformen eben dieser Konzerne brechen soll, hätte man hier gut diskutieren können. Auch konkrete Alternativen wie das Fediverse mit seinen Stärken und Schwächen hätten gut auf die Konferenz gepasst. Einige Teilnehmende nahmen die Sache dann einfach selbst in die Hand und hingen Zettel aus, auf denen sie zumindest Mastodon-Handles austauschten.

Zudem waren die einzelnen Sessions teilweise so kurz, dass die ausgegebene Losung „Das ist keine Infoveranstaltung, sondern eine Kampfansage“, sich auf unfreiwillige Art und Weise bestätigte. Ein bisschen mehr Information wäre manchmal schon gut gewesen. Ebenso ein bisschen mehr Raum für Diskussionen über Widersprüchlichkeiten, die es notwendigerweise gibt, wenn unterschiedliche Bewegungen zusammenkommen.

Keine Zeit für Zukunft

Doch wichtiger waren an diesem Wochenende Vernetzung, Inspiration und Motivation. „Wir werden Big Tech nicht weganalysieren“, gab Journalistin Nina Scholz bei ihrem Auftaktvortrag die Richtung vor. Es sollte ums Handeln gehen: Raus aus der Ohnmacht, rein in die Bewegung.

In diesem Sinne hätten es gerne auch noch mehr Programmpunkte zu konkreten Alternativen und positiven Zukunftsentwürfen sein dürfen. Lediglich eine Stunde stand für den Themenblock „Zukunft“ und Ideen wie die Vergesellschaftung von Plattformen, Digital Degrowth oder Hardwareproduktion außerhalb kapitalistischer Verwertungslogik zur Verfügung. Auch davon hätte es gerne noch mehr sein dürfen.

Aber womöglich ist das einfach der Moment, an dem wir gerade stehen: Für Zukunft ist hoffentlich später Zeit, jetzt geht es darum, das Schlimmste zu verhindern. Sich dem Hype zu verweigern, das Fortschrittsversprechen zu hinterfragen, bestimmte Entwicklungen auch ganz abzulehnen und Widerstand zu organisieren – das ist vielleicht nicht die visionärste Antwort auf Big Tech. Aber es könnte genau die Antwort sein, die es jetzt braucht.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der Bau von Rechenzentren boomt, in Deutschland und weltweit. Dadurch werden Strom und Wasser knapp, sagen Aktivist*innen und organisieren lokale Proteste. Auf der Konferenz „Cables of Resistance“ trafen sie sich zur Vernetzung.

„Der Widerstand in Beringen lässt momentan noch zu wünschen übrig“, so beschreiben zwei Aktivist*innen die Stimmung in einem 5.000-Seelen-Dorf im nördlichsten Zipfel der Schweiz, in dem zwei riesige Rechenzentren entstehen sollen. Sie sind zur ersten Konferenz gegen Big Tech in Berlin,  der „Cables of Resistance“-Konferenz angereist, um über den KI-Hype in der Schweiz zu berichten. Die Resignation der Bevölkerung werde weichen, wenn „Wasser und Strom vor der eigenen Haustür in einigen Jahren knapp werden“, prognostizieren sie.

Um das fast fertig gestellte Rechenzentrum in der Nähe von Zürich mit Wasser zu versorgen, müsse das Trinkwasser aus der Nachbargemeinde angezapft werden, berichten die beiden Aktiven von der Initiative „Aufstände der Allmende“. Allein dieses Rechenzentrum in Beringen habe einen Strombedarf von bis zu drei Viertel des Verbrauchs des gesamten Kantons Schaffhausen. In nur wenigen Kilometern Entfernung, in der Nachbargemeine Herblingen, soll nun mutmaßlich das dritte und noch größere Rechenzentrum des Kantons entstehen. Wie der Strombedarf dieser Anlagen gestillt werden soll, sei noch völlig unklar. „Eine Idee, die im Parlament diskutiert wird, ist der Bau neuer Atomkraftwerke“.

Im nahegelegenen Zürich ist die Dichte der Tech-Unternehmen höher als im Silicon Valley. Dass Rechenzentren in der Region aus dem Boden sprießen, liegt laut der Schaffhauser Nachrichten auch daran, dass der Kanton an der wichtigen Verkehrsachse Zürich – Stuttgart liegt. Auch Frankfurt am Main ist nicht weit weg, dort befindet sich einer der weltweit wichtigsten Internetknoten, mit dem sich Daten schnell übertragen lassen.

Kein Ende des Ausbaus in Sicht

In der hessischen Metropole am Main sei das Stromnetz bereits am Limit, erklärt die Journalistin Indra Jungblut, die ebenfalls auf der Konferenz sprach. Bis 2030 sei kein größerer Anschluss an das Stromnetz mehr möglich. Die mehr als 100 Rechenzentren beanspruchen bis zu 40 Prozent des gesamten Strombedarfs der Stadt. In einigen Bezirken stehen die Serverfarmen dicht an dicht nebeneinander und haben massive Auswirkungen auf das Leben in der Stadt. Ihre Konzentration ist hier deutschlandweit am größten. Und trotzdem: „Ein Ende des Ausbaus ist nicht in Sicht“, sagt Jungblut.

Denn Rechenzentren-Entwickler*innen haben sich etwas einfallen lassen. Sie bauen eigene Anlagen zur Stromerzeugung, die sie mit fossilen Brennstoffen betreiben. Ein gut dokumentiertes Beispiel sei die US-amerikanische Firma CyrusOne: für den Betrieb des „FRA7“ Rechenzentrums in Frankfurt hat sie eine eigene Gasturbine gebaut. „Und das ist vermutlich kein Einzellfall“, sagt die Journalistin. Hersteller wie Siemens Energy jedenfalls kommen mit der Produktion neuer Gasturbinen, die vor kurzem noch als Auslaufmodell galten, nicht mehr hinterher.

„Strom wird zu einer knappen Ressource“

Der Region Berlin-Brandenburg drohe ein ähnliches Schicksal wie Frankfurt, warnen die Stadtforscher*innen Niklas Steinke und Fabian Halfar in ihrem Vortrag. Hier sind Dutzende neue Rechenzentren geplant. In Berlin-Lichtenberg entsteht „Bluestar“ der Prea Group, das größte KI-Rechenzentrum der Stadt. Mit 100 Megawatt Anschlussleistung soll es mehr Strom verbrauchen als eine Stadt wie Potsdam. Schon bis 2024 seien in Berlin mehr Netzanschlüsse angefragt worden als das gesamte Berliner Stromnetz übertragen kann, vor allem für große Rechenzentren-Projekten.

Warum kommt Big Tech überhaupt nach Berlin? Großstädte wie Berlin und Frankfurt verfügen über eine Wasser- und Stromnetzinfrastruktur, die mit öffentlichen Geldern gebaut wurde. Die wollen die Tech-Firmen für sich nutzen, sagen die Forscher*innen und nennen das „Infrastukturextraktivismus“. Dieser sei neben dem bereits bekannten Abbau der Rohstoffe in ehemals kolonisierten Regionen und der Sammelwut großer Datenmengen eine neue Manifestation des KI-Hypes. „Im Rechenzentrum-Boom wird Strom zu einer knappen Ressource“, sagt Halfar. Bisher sei die Vergabe großer Netzanschlüsse nicht politisch aufgeladen. Das mache es den Rechenzentren-Betreiber*innen leichter, sich das Stromnetz innerhalb weniger Jahren anzueignen.

Hilfe bekämen sie dabei auch von klassischen Bodenspekulant*innen, die potenziell geeignete Flächen in der Stadt aufkaufen und darauf warten, dass Betreiber*innen von Rechenzentren auf sie zukommen. Denn eine Bewerbung für einen Anschluss zum Hochspannungsnetz setze eine Fläche voraus. „Wir müssen uns dringend darum kümmern, dass das Stromnetz aus der politischen Unsichtbarkeit austritt und eine demokratische Diskussion darüber stattfindet, wofür wir den Strom verwenden wollen“, schlussfolgert Halfar.

Bundesregierung knickt vor Big-Tech-Lobby ein

Die Bundesregierung sei dem globalen Wettrennen um KI-Kapazitäten dem Glauben aufgesessen, dass sich mit Rechenzentren Wohlstand generieren lässt, sagte Julian Bothe, Experte für KI und Nachhaltigkeit bei AlogrithmWatch, in seinem Talk. Bis 2030 will sie die Rechenzentrumskapazitäten im Land mindestens verdoppeln und die Kapazitäten für Künstliche Intelligenz vervierfachen, wie es in der kürzlich vorgestellten Rechenzentrumsstrategie heißt. Dabei habe Deutschland schon jetzt die meisten Rechenzentren im europäischen Vergleich. Laut DataCenterMap sind es aktuell mehr als 500.

Die Pläne der Regierung bringen eine weitgehende Deregulierung zugunsten der Tech-Firmen und zulasten der Gesellschaft und der Umwelt mit sich, kritisiert Bothe. Ein starkes Beispiel hierfür sei die geplante Abschwächung des Energieeffizienzgesetzes. So sollen beispielsweise die bestehenden Transparenzstandards für Verbrauchswerte abgeschafft werden. Das würde den Betreiber*innen erlauben, den konkreten Energieverbrauch und die Energieeffizienz der Rechenzentren vor der Öffentlichkeit geheimzuhalten – mit dem Verweis auf Geschäftsgeheimnisse.

„Anstatt in Zeiten der Energiekrise endlich auf Energieeffizienz zu setzen, droht Wirtschaftsministerin Reiche erneut, vor den Lobby-Bemühungen der Tech-Giganten einzuknicken“, sagte Bothe anlässlich des Positionspapiers zur Gesetzesnovelle, das AlgorithmWatch mit anderen Organisationen vergangene Woche veröffentlicht hat. Die Forderung, Verbrauchswerte als Geschäftsgeheimnisse hinter Verschluss zu halten, komme von Microsoft. Das habe eine Recherche von LobbyControl und Campact ergeben.

Zugang zu sauberem Wasser steht auf dem Spiel

Das geplante Energieeffizienzgesetz müsse gestoppt werden, sagte Bothe. Denn Widerstand gegen schädigende Gesetzesvorhaben auf nationaler Ebene sei wichtig. Genauso notwendig sei aber auch lokaler Protest gegen geplante Rechenzentren vor Ort. Dass Protest wirksam sein kann, zeigt der Fall von Groß-Gerau. Die Stadtverordneten haben dort gegen den Bau des bislang größten Rechenzentrums in der Rhein-Main-Region gestimmt.

Dass Proteste bereits an vielen Orten auf der Welt stattfinden, haben zahlreiche Vorträge auf der Konferenz gezeigt. Immer wieder versuchen lokale Gruppen, die Ansiedlung neuer Rechenzentren zu verhindern. José Renato Laranjeira etwa berichtete vom Kampf der indigenen Anacé-Gemeinschaft in Brasilien. Durch den Bau von Rechenzentren sahen sie einen heiligen Fluss in Gefahr. Der Zugang zu sauberem Wasser stand für sie auf dem Spiel.

Neue Arbeitsplätze und Steuereinnahmen sind Mythen

Welche Erfahrungen Aktivist*innen im Kampf gegen Rechenzentren bereits gesammelt und welche Strategien sich als wirksam erwiesen haben, darum ging es in einem international besetzten Panel. Einerseits sei es wichtig, die lokale Bevölkerung zu involvieren und andererseits die Propaganda der Tech-Konzerne mit Fakten zu kontern, sagte Luis García Valverde von der spanischen Umweltschutz-NGO „Ecologistas en Acción“. Seine Organisation setzt sich gegen die Ansiedlung riesiger Amazon-Rechenzentren in der Region Aragon im Nordosten Spaniens ein, unter anderem mit einer Klage. García Valverde berichtete von Versuchen des Tech-Konzerns die Öffentlichkeit zu beeinflussen: etwa indem Amazon Anzeigen in lokalen Zeitungen schaltet, Fußballclubs in der Region sponsort oder die Namensrechte eines Stadiums kauft.

Auch Hacktivistin Eda von der französischen Organisation „La Quadrature du Net“ setzt auf Aufklärung. Im französischen Marseille habe die Ansiedlung von Rechenzentren etwa die geplante Elektrifizierung des Hafens verhindert. Von der Elektrifizierung würden die Menschen in der Stadt aber massiv profitieren. Wenn Kreuzfahrtschiffe im Hafen über Strom liefen, gäbe es weniger Luftverschmutzung. Genau solche Informationen müssten öffentlich gemacht werden, um die Menschen vor Ort aufzurütteln, sagte Eda.

Zudem müsse man Mythen über neue Arbeitsplätze und Steuereinnahmen entkräften, ergänzte Dylan Murphy von der irischen Gruppe „Not Here Not Anywhere“. Er berichete von der Überlastung des irischen Stromnetzes durch den gigantischen Ausbau der Rechenzentren im Land, der irgendwann sogar zu einem Moratorium, einem Baustopp, geführt habe. „Rechenzentren sind Vampire, die unseren Gemeinschaften Strom, Wasser, Land und Rohstoffe entziehen.“ Als physische Manifestation des KI-Hypes würden sie sich hervorragend für Mobilisierung eignen, pflichtete García Valverde aus Spanien bei. Plötzlich hätten Menschen das abstrakte Thema KI direkt vor der eigenen Haustür.

Ein großes Problem bei der Mobilisierung sei jedoch die Intransparenz der Betreiber*innen und teilweise auch der Gemeinden. Oft sei nicht einmal klar, wer wo genau baue und für wen. Teilweise bauen die großen Tech-Konzerne nicht mehr selbst, sondern mieten Kapazitäten bei Dritten, erzählte García Valverde.

Was tun gegen die KI-Blase?

Um so ein Modell handelt es sich beim ersten Rechenzentrum im Schweizerischen Beringen. Seine Zukunft ist derzeit noch völlig offen. Es wird sich erst in einigen Jahren zeigen, welche Firmen die Fläche im Rechenzentrum mieten wollen und ob die Gemeinde Steuereinnahmen einnehmen wird. Außerdem ist die Frage nach der Abwärmenutzung noch ungelöst: das Rechenzentrum produziert deutlich mehr Abwärme, als ein kleines Dorf wie Beringen sinnvoll nutzen kann. Deshalb ist nun der Bau eines Erdbeckenspeichers – eines künstlichen Sees, der die Abwärme des Rechenzentrums im Sommer speichern soll – für rund 22 Millionen Euro im Gespräch. Platzt die KI-Blase, bleiben die Beringer*innen mit kostspieliger leerstehender Infrastruktur zurück.

Um auf die Situation einzuwirken und die öffentliche Diskussion über den Bau von Rechenzentren anzuregen, organisiert sich laut den Aktivist*innen von „Aufstände der Allmende“ derzeit ein Bündnis rund um die Kampagne „KI kurzschließen“. Vom 2. bis 9. Juli werde es in der Schweiz dazu ein Widerstandscamp geben.

Wie man sich hierzulande engagieren kann, erklärt die Bundestagsabgeordnete Sonja Lemke (die Linke). Sie empfiehlt Aktivist*innen und Bürger*inneninitiativen, auf der kommunalen Ebene anzusetzen, wo die Entscheidungen über den Bau von Rechenzentren getroffen werden: „Geht in die kommunalen Planungsausschüsse, schreibt Mails an eure Abgeordneten und stellt IFG-Anfragen.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Hinter dem Erfolg von Künstlicher Intelligenz und Sozialen Medien stecken ausgebeutete Arbeiter:innen. Bei einem Fachgespräch im Deutschen Bundestag wurde heute diskutiert, wie ihre Lage verbessert werden kann. Die Botschaft der Sachverständigen war klar: Deutschland muss mehr Verantwortung übernehmen.

Im Bundestag wurde heute erstmals über die Arbeitsbedingungen von Datenarbeiter:innen hinter Künstlicher Intelligenz und Sozialen Medien diskutiert. Die Ausschüsse für Digitales und Arbeit hatten zu einem Fachgespräch zum Thema Data Labeling geladen. Die klare Botschaft der drei Sachverständigen: Wenn Deutschland auf KI setzt, dann muss es mehr Verantwortung für die Menschen im Maschinenraum der Technologie übernehmen.

Als Data Labeling oder auch Daten-Annotation bezeichnet man eine Tätigkeit, bei der Menschen zum Beispiel Bildmaterial mit Metadaten versehen, also mit Labels, die den Inhalt beschreiben. Das ist unter anderem für Machine-Learning-Systeme erforderlich, die hinter fast allem stehen, auf dem heute das Label „KI“ klebt. Die Arbeiter:innen sind selten bei den Tech-Konzernen selbst beschäftigt, sondern werden häufig unter ausbeuterischen Bedingungen bei Outsourcing-Firmen oder -Plattformen angestellt.

Seit Jahren bringen Whistleblower:innen, Aktivist:inen, Forscher:innen und Journalist:innen die unsichtbar gemachten Arbeitskräfte in die Öffentlichkeit. Auch wir auf netzpolitik.org berichten kontinuierlich darüber. Die Arbeitsbedingungen in der Branche haben sich aber kaum verbessert, weshalb Erwartungen an die Politik groß sind. Das heutige Fachgespräch, an dem sich Abgeordnete von Union, SPD, Grünen und Linkspartei beteiligten, könnte ein Anfang sein. An konkreten Ideen, wie sich die Lage der Arbeiter:innen verbessern lässt, mangelt es jedenfalls nicht.

„Sie sehen die KI, aber uns sehen Sie nicht“

Die ehemalige Datenarbeiterin Joan Kinyua war virtuell aus der kenianischen Hauptstadt Nairobi zugeschaltet. Sie habe mehr als acht Jahre in der Branche gearbeitet hat, die „Künstlicher Intelligenz dabei hilft, die Welt zu verstehen“. Für unterschiedliche Anbieter habe sie unter anderem Bilder von Straßen mit Metadaten versehen, damit selbstfahrende Autos keine Unfälle bauen. Auch mit Straßenszenen aus Berlin habe sie arbeiten müssen (lest dazu mehr in unserem kürzlich veröffentlichten Interview mit Joan).

Später habe sie auch Bilder mit Gewaltdarstellungen klassifizieren müssen, sogar solche, die Gewalt an Kindern zeigten. Gleichzeitig habe sie selbst Daten für das KI-Training erzeugen sollen, indem sie Bilder ihrer Tochter zur Verfügung stellt.

Ausgeübt habe sie die Tätigkeit meist vom eigenen Computer zuhause, über sogenannte Microwork-Plattformen – „ohne Arbeitsvertrag, Sozialversicherung oder Gesundheitsversorgung“. Oft habe sie stundenlang auf neue Aufträge warten müssen, teilweise bis zu 20 Stunden am Tag auf Stand-By. Immer wieder hätten Auftraggeber:innen ihre Ergebnisse abgelehnt. Den Input hätten sie trotzdem behalten, sie selbst sei leer ausgegangen. So habe es Tage gegeben, an denen sie in fünf Stunden nur zwei Cent verdient habe. Im Schnitt würden Datenarbeiter:innen in Kenia 250 US-Dollar im Monat verdienen, was kaum zum Überleben reiche.

Von ihrer Arbeit habe sie außerdem Panik-Attacken und Angstzustände erhalten. Wie ihr gehe es vielen in der Branche, schildert Kinyua. Als Präsidentin der kenianischen Data Labelers Association vertrete sie inzwischen die Interessen von mehr als tausend Datenarbeiter:innen. Viele von ihnen litten unter posttraumatischen Belastungsstörungen.

„Sie sehen die KI, aber uns sehen Sie nicht“, so beschrieb Joan Kinyua den Abgeordneten ihre Lage. Es sei auch in der Verantwortung des Deutschen Bundestages, das zu ändern und für bessere Bedingungen zu sorgen. Unter anderem schlug die Kenianerin Mindeststandards für Datenarbeiter:innen in Deutschland und weltweit vor. Dazu zählt auch eine Obergrenze für die Arbeit an belastenden Inhalten. Zudem brauche es unabhängige Audits der Anbieter, sowie Register für KI-Arbeiter:innen und ganz grundsätzlich mehr Transparenz über Outsourcing und Lieferketten von Tech-Konzernen.

Milliarden-Profite dank Prekarisierung

Dr. Milagros Miceli von der TU Berlin berichtete von ihren Erkenntnissen aus fast einem Jahrzehnt Forschung zu Datenarbeit. Die von Joan Kinyua geschilderten Arbeitsbedingungen seien „kein Einzelfall, sondern ein konstantes Muster“. Oder genauer gesagt: das Geschäftsmodell einer milliardenschweren Branche.

Der von ihr geprägte Begriff der Datenarbeit umfasse mehr als das Labeling von Daten im engeren Sinne: Auch das Generieren und Sammeln von Daten zähle dazu, in zunehmendem Maße außerdem die Validierung des algorithmischen Outputs und das Korrigieren von Fehlern. Zudem müssten Arbeiter:innen immer wieder so tun, als seien sie eine KI.

Miceli ist eine der Initiator:innen des „Data Workers Inquiry“, in dem Datenarbeiter:innen von ihrer Wirklichkeit berichten. Kürzlich hat das Projekt die Geschichte einer Person veröffentlicht, die sich als AI Girlfriend ausgeben musste, also als Chatbot, der eine Liebesbeziehung mit seinen Nutzer:innen simuliert.

Die unterschiedlichen Formen der Datenarbeit seien essenzieller Bestandteil von KI-Produkten, einer Studie zufolge würde sie 80 Prozent der Entwicklungsarbeit von Künstlicher Intelligenz ausmachen. Miceli ist in ihrer Botschaft deshalb klar: „Ohne Datenarbeit und ohne Menschen wie Joan Kinyua gibt es keine KI“. Tech-Konzerne würden Milliarden damit verdienen „dass sie Arbeiter:innen durch Outsourcing und Plattformisierung prekarisieren und austauschbar machen“. Wenn Deutschland KI fördern wolle, müsse deshalb unbedingt für bessere Arbeitsbedingungen sorgen.

Viele der Arbeiter:inen seien hochqualifiziert, hätten Bachelor-Abschlüsse oder sogar promoviert, berichtet die Forscherin. Dabei sei wichtig, dass die Tätigkeit nicht auf Länder wie Kenia beschränkt ist, sondern auch in Deutschland und Europa viele Menschen in der Branche tätig seien. Wie viele genau, das könne man aufgrund der Intransparenz der Unternehmen nicht sagen.

Probleme bei Gesundheits- und Datenschutz

Bekannt ist, dass mehrere Tech-Konzerne und Outsourcing-Unternehmen in Deutschland große Zentren für die Moderation von Inhalten auf Social-Media-Plattformen unterhalten. Eine Tätigkeit, die die Sachverständigen ebenfalls zum Feld der Datenarbeit zählt und die bereits vor drei Jahren bei einem Fachgespräch im Bundestag Thema war. Julia Kloiber vom Superrr Lab war damals bereits dabei und wies heute erneut darauf hin, dass dabei oft Menschen in vulnerablen Lebenssituationen ausgenutzt würden.

Kloiber empfahl unter anderem besseren Schutz für Menschen, die mit schädlichen Inhalten arbeiten müssen. Bei der Polizei etwa, wo ebenfalls Menschen mit Darstellungen von Kindesmissbrauch arbeiten müssten, gebe es klare Expositionsbegrenzungen. Auch für Datenarbeiter:innen brauche es eine Obergrenze, die die Arbeit mit belastendem Material festlegt. Außerdem brauche es Trauma-Prävention und Zugang zu professioneller psychologischer Unterstützung. Content Moderation als Ausbildungsberuf zu etablieren, könne helfen, Standards für die Branche zu setzen.

Der heute oft fehlende Schutz habe nicht nur schwerwiegende Folgen für die Betroffenen, sondern auch für das Gesundheitssystem, schließlich könnten Menschen ein ganz Leben lang unter posttraumatischen Belastungsstörungen leiden. Manchmal könnten sie deshalb nicht mehr arbeiten. Die dadurch entstehenden Kosten würden von den Tech-Konzernen externalisiert und von der Allgemeinheit aufgefangen.

Kloiber wies zudem auf Datenschutzprobleme beim Outsourcing hin: Nicht nur würden die Datenarbeiter:innen selbst stark überwacht, bei ihnen landeten auch große Mengen personenbezogener Daten und sensibler Inhalte. Erst kürzlich hatten Datenarbeiter:innen als Whistleblower:innen darüber berichtet, dass sie Aufnahmen aus Meta-Brillen bearbeiten müssten und dabei auch Nacktaufnahmen und andere intime Szenen von Nutzer:innen zu Gesicht bekämen.

„Unsere digitale Zukunft darf nicht auf Ausbeutung fußen“

Deutlich wurde bei dem Fachgespräch, dass auch deutsche Firmen davon profitieren, dass sie prekäre Arbeit an Menschen wie Joan Kinyua auslagern. Auch die Auto-Industrie, die Pharma-Branche oder Tech-Unternehmen wie Siemens gehörten zu den Kunden von Outsourcing-Unternehmen im Datenbereich, berichtete etwa Milagros Miceli.

Für Julia Kloiber ist klar, dass Deutschland deshalb auch Verantwortung übernehmen müsse. Eine Untersuchung des Fairwork-Projekt der Universität Oxford und Wissenschaftszentrums Berlin habe die Löhne von vier Outsourcing-Unternehmen untersucht. Nur zwei von ihnen hätten Mindestlohn gezahlt, keines den sogenannten Existenzlohn („Living Wage“), der nicht nur das bloße physische Überleben, sondern auch soziale und kulturelle Teilhabe ermöglicht.

Einen wichtigen Ansatzpunkt sieht die Geschäftsführerin des Superrr Lab deshalb in der Regulierung von Lieferketten. Hier drohe der hohe Standard des erst kürzlich eingeführten und dann schon wieder halb gecancelten deutschen Lieferkettengesetzes abgesenkt zu werden. Die Schwarz-Rote Koalition hatte sich darauf geeinigt, nicht über die – ebenfalls gerade ausgehöhlte – EU-Lieferkettenrichtlinie hinauszugehen.

Bei der Umsetzung der Richtlinie müsse Deutschland sicherzustellen, dass der Geltungsbereich nicht eingeschränkt werde. Die EU-Regeln sollen nur Unternehmen ab 5000 Beschäftigten und einem Umsatz von 1,5 Milliarden Euro gelten. In Deutschland würden dann 95 Prozent der Unternehmen von den Sorgfaltspflichten für ihre Lieferketten entbunden, so Kloiber.

Die Expertin brachte zudem ein Direktanstellungsgebot ins Spiel, wie es erst kürzlich gefeuerte und streikende TikTok-Angestellte in Deutschland gefordert hatten. Ganz grundsätzlich fordert Kloiber eine realistischere Kosten-Nutzen-Rechnung, wenn in Deutschland KI ausgebaut und etwa in der Verwaltung eingesetzt wird. Soziale und auch ökologische Kosten dürften nicht länger ausgeblendet werden: „Unsere digitale Zukunft darf nicht auf Ausbeutung fußen.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der legendäre Urheberrechtsfall „Metall auf Metall“ geht in die letzte Runde. Der Europäische Gerichtshof hat gerade nach weitläufiger Auffassung das Recht auf Remix und Sampling gestärkt. Jetzt muss noch der Bundesgerichtshof final entscheiden.

Der Europäische Gerichtshof hat eine Entscheidung präzisiert, die es ermöglicht, urheberrechtlich geschützte Werke ohne Zustimmung ihrer Rechtsinhaber:innen zu verwenden. Demnach müssen bestimmte Voraussetzungen zutreffen, damit ein Sample als erlaubtes „Pastiche“ gilt.

27 Jahre – so lange streiten sich der Musikproduzent Moses Pelham und die Band Kraftwerk bereits vor Gericht. Recht auf Sampling gegen Urheberrecht. Gestritten wird um einen zwei Sekunden langen Musikschnipsel aus dem Kraftwerk-Song „Metall auf Metall“. Der stammt aus 1977. Rund 20 Jahre später schnitt Pelham aus den zwei Sekunden die Dauerschleife für den Song „Nur mir“ von Sabrina Setlur. Kraftwerk klagte 1999 dagegen.

Das Oberlandesgericht Hamburg, der Bundesgerichtshof, das Bundesverfassungsgericht und der Europäische Gerichtshof – sie alle haben sich im letzten Vierteljahrhundert mit dem Fall beschäftigt. Derweil ist das Samplen gängige Kulturpraxis, nicht nur in HipHop und Techno.

Um eine Rechtsgrundlage zu schaffen, führte die EU 2019 eine „Pastiche-Regel“ ein, die 2021 im deutschen Urheberrecht verankert wurde. Dort heißt es in § 51a Karikatur, Parodie und Pastiche: „Zulässig ist die Vervielfältigung, die Verbreitung und die öffentliche Wiedergabe eines veröffentlichten Werkes zum Zweck der Karikatur, der Parodie und des Pastiches. Die Befugnis nach Satz 1 umfasst die Nutzung einer Abbildung oder sonstigen Vervielfältigung des genutzten Werkes, auch wenn diese selbst durch ein Urheberrecht oder ein verwandtes Schutzrecht geschützt ist.“

Wann ist Pastiche Pastiche?

Nun hat der Europäische Gerichtshof sich zur Tragweite der Ausnahme für „Pastiches“ im Zusammenhang mit dem Sampling geäußert. Demnach sei entscheidend, ob die Neuschöpfung im Zuge des Samplings mit den urheberrechtlich geschützten Werken einen „erkennbaren künstlerischen oder kreativen Dialog“ führe, „gleichzeitig aber wahrnehmbare Unterschiede“ aufweise. Beispielsweise in Form einer offenen Nachahmung des Stils oder kritischer Auseinandersetzung. Auf diese Weise solle ein angemessener Rechts- und Interessenausgleich zwischen Rechteinhaber:innen und der Kunstfreiheit gesichert werden. Eine Nachahmung ohne erkennbare Auseinandersetzung mit dem Original sei demnach kein zulässiges Pastiche.

Nach weitläufiger Interpretation hat der Europäische Gerichtshof damit das Recht auf Remix und Sampling gestärkt – und damit geht der Fall „Metall auf Metall“ in die letzte Runde und zurück an den Bundesgerichtshof in Karlsruhe: Dieser muss nun entscheiden, ob Pelham sich in dem Song von 1997 in einem ausreichenden Dialog mit „Metall auf Metall“ befindet und wahrnehmbare Unterschiede bestehen.

Das Oberlandesgericht Hamburg hatte bereits festgestellt, dass die Rhythmussequenz trotz leichter Abwandlung in „Nur mir“ als Anspielung auf das Original erkennbar bleibe – darauf weist der Europäische Gerichtshof hin. Fraglich ist jetzt, ob der Bundesgerichtshof dieser Auffassung folgen wird.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

KI-Unternehmen kreieren Mythen um sich und ihre Produkte. So entziehen sie sich der Verantwortung für Probleme, die sie selbst geschaffen haben. Und wir lassen es ihnen durchgehen. Mark Twain wäre das wohl nicht passiert.

Es war einmal ein Junge, der hatte etwas ausgefressen, und als Strafe dafür wies ihm seine Tante eine besonders harte Strafe zu: Samstags, wenn die anderen Jungs im Fluss schwimmen durften, sollte er den riesigen Zaun vor dem Haus seiner Tante Polly streichen. Er hat eben missmutig mit der Arbeit begonnen, als sein Kumpel Ben vorbeikommt. Der verspottet ihn wegen der mühseligen Arbeit. Doch unser Junge ist schlau: „Das macht doch keine Mühe, das ist der reine Spaß! Wann kann man schon mal ganz allein solch einen großen Zaun streichen?!“

Da staunt Ben – denn Spaß will jeder haben. Statt Plackerei die reine Freude? Ben bettelt geradezu, mitmachen zu dürfen. Er zahlt sogar dafür. Einen saftigen Apfel. Und er streicht wie ein Verrückter, während unser Held im Schatten liegt. Nach und nach kommen noch mehr Willige, und sie alle geben einiges dafür, den Zaun Tante Pollys streichen zu dürfen. Abends ist unser Freund reich – seine Taschen sind voller kleiner Schätze.

Dieser Einstieg für die heutige Degitalisierung ist ein abgewandeltes Zitat eines Essays von Wolf Lotter aus einer Brand Eins von 2007 mit dem Titel Elementarteilchen [€]. Damals ging es um die Beschreibung der Funktionsweise des Web 2.0. User würden mehr oder weniger freiwillig sogar dafür bezahlen, die Arbeit anderer Leute machen zu dürfen.

Lotter greift einen Vorgang auf, den Mark Twain „Das ruhmreiche Zaunweißen“ nannte, ein lehrreiches Stück aus seinem Romanepos „Tom Sawyer“. Das war 1876. Heute ist 2026, und diesen Prozess, an dem sich im Wesentlichen nichts geändert hat, nennt man Künstliche Intelligenz.

Im Zeitalter der sogenannten Künstlichen Intelligenz ist das aber alles viel besser, oder? Agentische KI macht ja jetzt die Arbeit und wir können die Füße hochlegen, oder? Natürlich nicht. Die Genese heutiger Systeme künstlicher Intelligenz ist leider wieder nur eine andere Art des ruhmreichen Zaunweißens. Immer wieder. In dieser Episode geht es mehr oder weniger um die Schaffung eines Mythos – oder um den Mythos um Anthropics Mythos aus Anlass aktueller Ereignisse.

Militär und Maven

Die Ereignisse, bei denen Menschen freudig und freiwillig die eigentliche Arbeit anderer machen, beginnen im Kontext Anthropic im Januar 2026 mit einem Streit zwischen Anthropic und dem amerikanischen Verteidigungsministerium. Dem vorausgegangen war eine vertragliche Vereinbarung von Googles Gemini für eine neue militärische KI-Plattform mit dem Titel GenAI.mil im Dezember 2025. Im Januar kam es dann zum Bruch von Anthropic und dem Pentagon, wegen der Weigerung Anthropics, seine Technologien für autonome Waffen oder Massenüberwachung freizugeben. Anthropics Technologien wurden dann zum Lieferkettenrisiko seitens des Pentagons erklärt und OpenAI sprang in die Bresche als neuer Technologielieferant.

Das erste ruhmreiche Zaunstreichen im Sinne Anthropics begann dann in der Folge dieser Ereignisse. Abos von OpenAIs ChatGPT wurden massenhaft gekündigt – Hashtag Cancel ChatGPT – und die Öffentlichkeit und Medien schwangen gleich freudig die Pinsel am Zaun mit. Man müsse jetzt gleich Abos bei OpenAI kündigen, forderte etwa der Guardian. Viele ehemalige OpenAI-Kund*innen wanderten ab zu Anthropic.

Das ist am Ende aber leider nur scheinheiliges Zaunstreichen für ein weiteres Big-Tech-Unternehmen, das nur auf eine andere Art problematisch ist. Kriegsführung ist inzwischen an vielen Fronten von KI-Technologie durchzogen, sei es in Gaza, in der Ukraine oder jetzt im Iran. Die Markierung und Auswahl von militärischen Zielen hat sich durch KI stark beschleunigt, es werden mehr Ziele schneller angegriffen und die Kollateralschäden in der Zivilbevölkerung nehmen damit eher zu.

Anthropic für Verantwortungsbewusstsein zu feiern beim Aufzeigen von Grenzen für die militärische Nutzung ist also etwas arg einfältig. Die militärische Initiative des Pentagons namens Maven, die KI mehr und mehr in militärische Operationen einbinden wird, basiert zwar im Kern auf Software von Palantir – Palantir hat aber Schwierigkeiten, Technologie von Anthropic nach dem Disput mit dem Pentagon wieder aus Maven zu entfernen. Weil Anthropics Claude eben schon sehr lange tief mit militärischen Anwendungsfällen verwoben ist und aktiv genutzt wird, etwa wohl auch bei der US-Militäroperation zur Festnahme des venezolanischen Präsidenten Nicolás Maduro.

Kein amerikanisches Big-Tech-Unternehmen kann also wegen seines Pazifismus gefeiert werden. Sie sind alle ähnlich tief in den Bereich des Militärs oder der Geheimdienste verstrickt, behaupten nur mehr oder weniger lautstark, zu den Guten zu gehören. Öffentlichkeit und Medien haben Anthropic aber aktiv geholfen, den eigenen Zaun weiß zu streichen beziehungsweise sich eine weiße Weste nach außen hin zu geben.

Mythos und Marketing

Inmitten dieser Melange aus Hype und verzerrter Außendarstellung kommt nun ein Mythos um ein neues KI-Modell namens Mythos. Das ist im Wesentlichen erst einmal im Kern ein neues Large-Language-Modell, wie so häufig, besser in diversen synthetischen Benchmarks. Aber besonders viel besser in der Fähigkeit, Sicherheitslücken in Software zu finden. Oder um es mit den Worten von Anthropic zu sagen: „strikingly capable at computer security tasks“.

Das Bemerkenswerte ist jetzt, ohne auf die eigentlichen Fähigkeiten eingehen zu müssen, der Hype um diese Ankündigung. IT-Security ist normalerweise ein Feld, in dem es eine konstante Bedrohungslage mit diversen Sicherheitsrisiken gibt, die im täglichen Arbeiten so negativ aufstoßen können. Datenleaks, DDoS-Angriffe, Zero-Day-Exploits, kann alles täglich passieren.

Daher ist es oftmals sinnvoll, nicht in Alarmismus zu verfallen, weil das Bedrohungen nicht weniger bedrohlich macht, sondern eher den Blick auf das Wesentliche verstellt und passende Gegenhandlungen wegen Hektik und Anspannung verlangsamt. Die Kommunikation um Mythos wird aber selbst zu einer Art Mythos erhoben. Da ist dieses mythische neue Sprachmodell, das ab morgen alle Computersysteme unsicher macht – überspitzt gesagt, aber nicht weit entfernt von der medialen Darstellung.

Claudia Plattner, Präsidentin des Bundesamtes für Sicherheit in der Informationstechnik, ließ sich zu einem Endorsement unter öffentlicher Nennung eines noch nicht neutral geprüftem Produkts eines kommerziellen, ausländischen Herstellers hinreißen, das für eine ansonsten eher um Neutralität bemühte Bundesbehörde doch eher selten ist: Das BSI nehme die Ankündigungen von Anthropic sehr ernst und erwarte „Umwälzungen im Umgang mit Sicherheitslücken und in der Schwachstellenlandschaft insgesamt“. Selbst wenn es so ist, tut das Feld der Informationssicherheit auch hier gut daran, nicht wieder den Zaun für andere zu weißen.

Die Kommunikation um die Security-Fähigkeiten von Mythos ist eher Doomsday-Marketing [€] und führt vor allem bei vielen für die IT-Sicherheit Verantwortlichen zum Kampf gegen FUD – Fear, Uncertainty und Doubt sowie eben Untergangsszenarien. Eigentlich gibt es schon länger entsprechend fähige KI-Modelle, die Lücken wie die von Mythos bisher wohl finden können, eventuell nur mit einem etwas spezifischeren Kontext und einem engeren Scope der automatisierten Analyse.

Und nicht jede der von Anthropic präsentierten Lücken ist gleich ein Riesenproblem, wie etwa Red Hat für den Linux-Kernel erklären muss. Die reißerische und mythische Kommunikation von Anthropic selbst blockiert also erst einmal Kapazitäten bei IT-Security-Expert*innen, die wesentlich besser im Absichern von Software und Prozessen zur Absicherung gebraucht werden können. Aber viele Medien pinseln lieber weiter am Zaun mit.

Gesetzt den Fall, der Hype um Mythos ist, sagen wir mal, auch nur zu einem Zehntel berechtigt, dann ist doch die Frage angebracht, wie wir mit der Situation umgehen sollten, damit kein globales IT-Sicherheitsdesaster droht. Auch hier geht vieles leider in Richtung Zaunweißen, weniger in eine faire Kooperation zur Verbesserung der IT-Sicherheit. Dieser Aspekt ist weniger in Technologie begründet, sondern eher in der soziologischen Wirkung von KI auf IT-Security und Programmierung.

Glasswing und Hollowing

Als besonders – aus Eigensicht – verantwortungsbewusstes KI-Unternehmen geht Anthropic mit Mythos ja sorgsam um. Mythos wird aus Sicherheitsgründen erst einmal nicht öffentlich zur Verfügung gestellt. Mit Project Glasswing wolle man Unternehmen und wichtigen Open-Source-Maintainern dabei helfen, durch geregelten Zugang auf Mythos-Systeme durch automatisierte Analysen auf Lücken prüfen und diese somit besser absichern zu können. Auffällig ist bei der Auswahl der Unternehmen ein gewisser Hang zu „America First“, da es sich hauptsächlich um Unternehmen mit Hauptsitz in den USA handelt wie Apple, Google, Nvidia, Broadcom und Microsoft. Indirekt findet hier durch eine Vorauswahl eines Privatunternehmens und der Regierung in den USA ja auch eine gewisse geopolitische Vorentscheidung statt. Sichere Software gibt es in Zukunft auch „America First“?

Wenn Erkenntnisse aus Glasswing auf eine Open-Source-Community treffen, ist aber nicht unbedingt mit Freudenschreien zu rechnen. Der gesamte KI-Hype in der Softwareentwicklung hat vielen Open-Source-Maintainern eher offensiv in die Fresse geschlagen, um das deutlich zu sagen.

Da ist zum Beispiel ein Stellenabbau von 75 Prozent bei dem Start-up hinter dem CSS-Framework Tailwind, auch wegen immer mehr Sprachmodellen, die bisher auskömmliche Zusatzangebote wie Servicedienstleistungen oder Premium-Abos zu Tailwind immer uninteressanter machen. Bug-Bounty-Programme, die kleine finanzielle Belohnungen für gemeldete Sicherheitslücken zahlen, müssen schließen wegen zu viel AI Slop, also schlechten oder sinnfreien Beiträgen. Beispiele dafür sind etwa das Schließen des Internet Bug Bounty oder des Bug-Bounty-Programms hinter curl, dort als Versuch, das „Terror Reporting“ einzudämmen. Dazu musste das größte Code-Repository der Welt, GitHub, jüngst eingestehen, dass die KI-Welle eine Art „Eternal September“ eingeläutet habe, also einer Menge neuer, aber eher ungeeigneter Beiträge auf der Plattform – nicht zuletzt durch die durch GitHub selbst bereitgestellten KI-Assistenten wie GitHub Copilot.

Dazu werden Open-Source-Lizenzen, im Open-Source-Bereich eine oftmals fast schon unantastbare Vereinbarung von Nutzungsbedingungen, aktiv durch sogenannte „Clean Room“-Neuentwicklungen wie bei chardet unterwandert.

Programmier*innen hingegen beginnen im Job durch wachsenden KI-Einsatz immer mehr auszubrennen, wie sich etwa auf Plattformen wie Reddit zunehmend kundtut. Im Arbeitsmarkt, etwa in der Schweiz, deutet sich bei Software-Entwickler*innen eine steigende Arbeitslosigkeit in bestimmten Altersgruppen an. Programmieren als Job durchläuft eine Phase des Hollowing-out – speziell wegen KI.

Genau in diese schwierige Phase, insbesondere für Open-Source-Maintainer, kommt nun also ein gehyptes Modell, das Hunderte neue Sicherheitslücken androht, die unbedingt ganz schnell gepatcht werden müssen. Sicherheit von Open-Source-Projekten ist schon immer eine undankbare Aufgabe, wie auch die in Project Glasswing eingebundene Linux Foundation schreibt. Soll nun dafür irgendwer dankbar sein, wenn eine Technologie erst die Grundlagen der etablierten Zusammenarbeit angreift und dann auch noch eine Flut von neuer Arbeit beschert?

Das ist in etwa so, als würde Tante Pollys Zaun von Tausenden Freiwilligen überrannt werden, die wild durcheinander versuchen, den Zaun zu weißen. Mit der Entspannung und dem Spaß wäre es dann auch für Tom Sawyer vorbei.

Mögliche Verbesserungen durch von KI generierte Patches sind eher schwierig an Open-Source-Maintainer heranzutragen, solange KI-Unternehmen nicht glaubwürdig mit der Open-Source-Community und deren Werten und Zielen übereinkommen. Bisher ist das gehörig gescheitert.

Dennoch stellt sich Anthropic selbst als besonders verantwortungsbewusstes Unternehmen dar, in etwa so, wie OpenAI das schon seit Jahren immer wieder tut.

Milliarden und Verantwortung

OpenAI hat immer wieder in seiner Geschichte die PR-Strategie verfolgt, wie Anthropic es jetzt tut, und auf die Gefahren seiner neuen Produkte selbst hingewiesen – allerdings oft, um selbst einen Mythos um seine Produkte zu erzeugen.

Bei OpenAI war das beim Modell zum Klonen von Stimmen namens Voice Engine schon 2024 der Fall. Zu gefährlich, um es auf den Markt zu bringen, so die Eigenaussage.

Auch 2019 wurde der Release von GPT-2 von OpenAI mit einer „zu gefährlich“-PR-Strategie begleitet. Bemerkenswert ist dabei aus heutiger Zeit weniger das Kommunikationsmuster, sondern das, was im Juni 2019 im Repräsentantenhaus in einem Ausschuss anlässlich der Gefahr von Fake Media und KI von OpenAI-Vertretern zu den Akten gegeben wurde. Auch damals gab es bereits „staged releases“ in Form von kleineren Modellen, denen dann schrittweise größere Modelle folgten. Die Herangehensweise von Anthropic bei Mythos ist also nicht neu.

Interessant ist aber das damalige Eingeständnis, dass es schwer werden dürfte, KI-Technologie kontrollieren zu können.

In Bezug auf Stimm-Klon-Software etwa stellte OpenAI fest:

Viele der Kontrollmöglichkeiten sind weniger technischer Natur, im Gegensatz zu den Systemen, die die Technologie umgeben. (Eine Möglichkeit, sich zum Beispiel gegen Menschen zu schützen, die bei Telemarketing-Betrug KI-synthetisierte Stimmen einsetzen, besteht darin, es Kriminellen einfach schwerer zu machen, Telefonnummern zu fälschen.)

Stimmsynthesierungssoftware können wir natürlich voll funktionsfähig entwickeln, wir können sie jedoch nicht kontrollieren. Aber vielleicht löst mein Problem ja die Telefongesellschaft? – Wie sehr kann man sich aus der Verantwortung stehlen wollen?

Eigentlich sind aus Sicht von KI-Unternehmen die Kontrollmöglichkeiten somit gar nicht innerhalb der Technologie möglich, die sie mit viel Aufwand erschaffen, also vor allem mit viel, viel Geld. Das ist alles nicht möglich trotz in der Genese von KI bereitwillig ignorierten Problemen, die einer Art von Kontrolle unterliegen hätten können, wie etwa digitalem Kolonialismus, immensem Ressourcen- und Energieverbrauch, hoher Machtkonzentration, ungehemmter Datenkonsum, Wegbereitung des Faschismus, Plagiarismus und Desinformation. Alles Probleme, die bei der Schaffung von KI-Technologie ja bislang schweigend akzeptiert oder sogar erst geschaffen wurden. Alles nicht kontrollierbar? Falls aber mal jemand auf nur eines oder zwei dieser Probleme hinweist, wie etwa die Nutzung urheberrechtlich geschützter Inhalte im Falle der britischen Regierung, ist das dann alles zu teuer.

Das Grundproblem bislang jeglicher Technologie auf Basis von KI ist es immer wieder gewesen, die Technologie und die damit verbundenen Macher*innen selbst als unschuldig zu sehen. CEOs von KI-Unternehmen wie Sam Altman von OpenAI oder Dario Amodei von Anthropic tragen die Verantwortung für Multi-Milliarden-Unternehmen, scheren sich aber einen feuchten Kehricht um die Wirkung ihrer Technologien. Sie externalisieren ihre Probleme, internalisieren aber den Gewinn.

Jegliches Commitment zu „Sicherheit“ und „Verantwortung“ ist nicht mehr als ein PR-Stunt, bei dem viele Externe auch noch fleißig den Pinsel schwingen, um den Zaun zu weißen. Für Unternehmen, denen lange Jahre lang schon viel zu viel durchgehen gelassen wurde. Das ist bei Mythos nicht viel anders als bei all den vermeintlich guten, aber letztlich schädlichen „KI-Innovationen“ der Jahre zuvor.

Denn letztlich geht es KI-Unternehmen oft nur um ihr oftmals fragiles Ego. Wir sollten daher alle damit aufhören, ihnen auch noch freudig den Zaun zu weißen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

KI sei verfänglich für faschistische Ideologien und gehe mit autoritären Machtzentren einher. Große Plattformen wie ImmobilienScout24 und Doctolib machen Profit mit Grundbedürfnissen der Menschen. Zwei Aktivist*innen schlagen im Interview konkrete Schritte hin zu einer demokratischen digitalen Teilhabe vor.

Künstliche Intelligenz ist in aller Munde. Ihr wird nachgesagt, nicht nur Arbeitsprozesse zu vereinfachen und zu beschleunigen. Sie soll auch der Wirtschaft zu neuem Aufschwung verhelfen. Doch immer mehr kritische Stimmen greifen in die Debatte ein und beziehen eine klare Haltung gegen diese Technologie. Zwei von ihnen sind die Digitalexpert*innen Aline Blankertz und Malte Engeler.

Anlässlich der Konferenz „Cables of Resistance. Bewegungskonferenz gegen Big Tech“, die am Wochenende in Berlin stattfindet und mögliche Widerstandsstrategien gegen KI und große Plattformen ausloten möchte, haben wir mit ihnen gesprochen. Aline Blankertz ist angewandte Ökonomin und setzt sich für die demokratische Ausgestaltung von Wirtschaft ein, unter anderem im digitalpolitischen Kollektiv „Structural Integrity“. Sie ist an der Organisation der Konferenz beteiligt. Malte Engeler ist Jurist und Mitbegründer des digitalpolitischen Kollektivs.

Im Interview erklären sie, warum sogenannte KI besonders gut verfänglich für autoritäre Politiken ist, wie ihre Sabotage aussehen kann und wie die Gesellschaft wieder mehr demokratische Kontrolle über große Plattformen erreichen kann. Sie plädieren für eine politische Organisierung und die Vergesellschaftung von Plattformen, die solch essenzielle Bereiche der Daseinsvorsorge wie Wohnungssuche oder Arztterminbuchungen strukturieren.

„Künstliche Gebärmutter“ und KI haben den gleichen ideologischen Ursprung

netzpolitik.org: Was ist eigentlich eine „künstliche Gebärmutter“? Im Manifest der Konferenz ist die Rede davon.

Aline Blankertz: Die künstliche Gebärmutter ist eine Figur, die immer mal wieder rund um Elon Musk auftaucht. Dieser Idee des selektiven Pronatalismus liegt zugrunde, dass man stärker steuern möchte, wer Kinder bekommen darf. Die künstliche Gebärmutter ist das Mittel, um sich letztlich vom „weiblichen Körper“ lösen zu können. Es geht darum, aus einer weißen cis-männlichen Perspektive technisch steuern zu können, wohin es mit der Menschheit geht. Mein Verständnis ist, dass es diese künstliche Gebärmütter noch nicht technisch ausgereift gibt. Aber es laufen Forschungsprojekte, die das aktiv vorantreiben. Daneben existieren viele andere transhumanistische Projekte, wie zum Beispiel „Neuralink“, um menschliche Gehirne und Maschinen stärker miteinander zu verbinden.

In Europa ist es subtiler, aber viele dieser Entwicklungen hin zu solchen transhumanistischen Ideen ‒ also wie können Menschen mit technischen Upgrades besser gemacht werden ‒ sehen wir auch hier. Die künstliche Gebärmutter und die Brain-Computer-Interfaces unterscheiden sich zwar von KI, weil sie unmittelbarer auf die Ebene von Hardware und menschlichen Körpern setzen. Doch auch der KI-Diskurs hat den gleichen ideologischen Ursprung und wird technisch von denselben Menschen vorangetrieben.

„Diese Infrastrukturen kann niemand bei sich im Keller haben“

netzpolitik.org: Ist das der Grund warum ihr KI fundamental ablehnt? Und was versteht ihr unter KI genau?

Malte Engeler: Wenn wir von KI reden, dann meinen wir die in der Gesellschaft aktuell sehr präsente Form von KI: große Datenmodelle, die aus vorhandenen Datenquellen zukünftige oder neue Ergebnisse berechnen. Wir meinen maschinelles Lernen, das Menschen dazu nutzen, um neue Texte, Bilder, Videos oder Ton zu erstellen. Die Modelle werden auch in sozialen Situationen eingesetzt, um neue Entscheidungspunkte zu generieren. Zum Beispiel in militärischen Aktionen, in Verwaltungsentscheidungen oder zur Benotung im Bildungswesen. Es geht also um eine Technologie, die auf Basis einer immensen Datenmenge Muster erlernt und neue Ergebnisse mit diesen Mustern produziert. Wir reden hier von ganz großen Modellen.

Dieser Technologie ist inhärent, dass sie besonders für autoritäre und faschistische Kräfte anknüpfbar ist. Das ist also kein technischer Fehler, sondern die Technologie ist schlicht und einfach so gebaut. Dazu gehört, dass diese gigantischen Modelle eine große Zentralisierung mit sich bringen. Die Infrastrukturen, die zum Training und Erhalt der Modelle nötig sind, kann niemand bei sich im Keller haben. Diese riesigen Rechenzentren können eigentlich nur zentralisiert betrieben werden. Politisch anknüpfbar für faschistische Politiken sind diese Infrastrukturen deshalb, weil sie autoritäre Machtzentren stark bevorzugen.

Zum anderen ist da diese Mustererkennung, die immer auf Daten aus der Vergangenheit trainiert wird. Sie überträgt deshalb notwendigerweise diese Vergangenheit in die Zukunft und vereinheitlicht diese Zukunft statistisch auf einen weiß-patriarchal geprägten Mittelwert. Laut diversen Theorien steckt im Kern des Faschismus die Idee, dass es eine Wahrheit, eine tiefes völkisches, echtes Leben in der Gesellschaft gibt, das zum Erblühen gebracht werden soll. Und diese Idee von einer Wiedergeburt der nationalen Stärke findet sich im technischen Prinzip wieder, massenhaft Daten zu sammeln und das vermeintlich Wahre aus diesen Daten wieder extrapolieren zu können.

„Wünschenswert, wenn Menschen KI nicht auch noch freiwillig nutzen“

netzpolitik.org: Ist es aus antifaschistischer Sicht ein Problem, wenn Menschen ihre Suchanfragen nicht mehr in eine klassische Suchmaschine eingeben, sondern zum Beispiel in ChatGPT?

Aline Blankertz: Wir beschäftigen uns vor allem mit der kollektiven Dimension. Es ist nicht die einzelne Suchanfrage bei ChatGPT, die uns dem Faschismus näher bringt. Es sind eben die Zwänge, die an vielen Stellen bestehen. Beispielsweise, dass viele Menschen nun Dinge schneller machen müssen und es deswegen mit KI tun. Dass sie im Wettbewerb mit anderen stehen, um bessere Betriebsergebnisse hervorzubringen.

Es ist wünschenswert, wenn Menschen KI nicht auch noch freiwillig nutzen. Wenn sie es nur unterhaltsam finden, könnten sie sich eine andere Beschäftigung suchen, die weniger klimaschädlich ist und den KI-Hype nicht weiter am Leben hält. Aber das ist nicht das, womit wir antifaschistisch wirken können, indem wir einfach keine KI mehr verwenden.

„KI-Unternehmer*innen werden hierzulande glorifiziert“

netzpolitik.org: Welchen konkreten Schaden seht ihr in Europa und in Deutschland durch KI bereits?

Aline Blankertz: Aktuell läuft die Debatte, dass man in der Verwaltung großflächig KI einsetzen möchte, etwa nach dem Vorbild von DOGE aus den USA. Das wird zwangsläufig dazu führen, dass mehr Menschen diskriminiert werden und dafür wiederum weniger Verantwortung übernommen wird. Das kennen wir beispielsweise aus Amsterdam, wo ein Algorithmus zur Folge hatte, dass vor allem sozial schwachen Familien Betrugsvorwürfe gemacht wurden. Oder aus England, wo Abiturergebnisse während der Corona-Pandemie insbesondere von Schüler*innen aus ärmeren Gegenden abgewertet wurden.

Ein anderer Aspekt ist, dass auch hierzulande KI-Unternehmer*innen als Heilsbringende glorifiziert werden. Ein starkes Beispiel hierfür ist Dieter Schwarz, dem die Schwarz-Gruppe mit Lidl und Kaufland gehört. Neben vielen Rechenzentren baut er so etwas wie eine Privatstadt in Baden-Württemberg auf und wird dafür gefeiert. Die CEOs von SAP und Telekom werden ebenfalls häufig gefragt, was für eine Gesellschaft sie sich wünschen. Ganz so, als ob sie gesellschaftliche Interessen im Blick hätten.

Außerdem beschleunigt KI die gesellschaftliche Spaltung nicht nur im Mediendiskurs, indem plausibel klingende Outputs ohne Anspruch auf Wahrheit eine demokratische Diskussionsbasis untergraben. Sie entwertet schon jetzt Arbeit. Menschen haben Angst, von sogenannter KI ersetzt zu werden, die Gewerkschaften fahren ihre Forderungen zurück. Gleichzeitig erwirtschaften diejenigen, die in Aktien investiert haben, umso mehr Gewinne. Die ökonomische Ungleichheit wächst also noch stärker durch KI.

„In den USA zünden Menschen autonom fahrende Autos an“

netzpolitik.org: Was kann man dagegen tun?

Aline Blankertz: Wir können uns gegen KI wenden. Wir können uns verweigern. Wir können Trainingsdaten vergiften. Man kann auch so etwas wie Sabotage nach dem CIA-Sabotage-Manual betreiben. Es enthält einige inspirierende Ideen aus der Zeit des Zweiten Weltkriegs, wie Menschen den Faschismus verlangsamen können. Man kann Abläufe verringern, verlangsamen und weniger effizient machen. Man kann sich gegen Rechenzentren engagieren.

In den USA gibt es noch weitergehende Aktivitäten. Da zünden Menschen autonom fahrende Autos von Waymo an. Dort gibt es Roboter, die die Gehwege von Obdachlosen freihalten sollen. Menschen attackieren auch diese Roboter.

Um wirklich politisch wirksam sein zu können, müssen wir uns aber organisieren. Da führt kein Weg dran vorbei. Die Dienste im Individuellen zu wechseln reicht nicht. Zu sagen, „ich finde KI doof, reicht auch nicht“. Wir müssen uns politisch zusammenfinden und die Auswirkungen solcher digitalen Technologien stärker als Problem verstehen.

„Vergesellschaftung ist die Antwort“

netzpolitik.org: Auf der Konferenz gebt ihr einen Talk darüber, dass Regulierung und Open-Source-Alternativen nicht ausreichen, um gegen die Macht der Tech-Giganten anzukommen. Stattdessen schlagt ihr vor, große Tech-Plattformen zu vergesellschaften.

Malte Engeler: Aktuell erleben wir eine autoritäre Wende. In Zeiten von Kipppunkten wie diesen ist Abwehrkampf ein ganz wesentlicher Teil. Gegen etwas zu kämpfen ist nicht so motivierend wie für etwas. Ich kann das für mich persönlich ganz klar sagen: Mich motiviert nicht der Hass auf Big Tech. Mich motiviert der Wunsch nach einer besseren Welt. Wir brauchen konkrete Vorstellungen einer Realität, in der diese Technologien, die wir gerade bekämpfen, anders funktionieren. Und wie kommen wir dahin? Wie kann man eine Plattform, die uns jetzt ausbeutet und aus unseren Bedürfnissen Profit schlägt, in etwas Besseres verwandeln?

Die Antwort auf diese Fragen ist Vergesellschaftung: also die Überführung einer privatwirtschaftlich betriebenen kommerziellen Plattform in einen Zustand, in dem sie im Sinne des Gemeinwohls und der Bedürfnisbefriedung der Menschen demokratisch verwaltet wird.

„Mit kleineren Plattformen anfangen“

netzpolitik.org: Welche Plattformen würdet ihr gern vergesellschaften?

Malte Engeler: Sich allein diese Frage zu stellen, ist sehr spannend. Das führt dazu, dass auch linke und progressive Kräfte auf einmal anfangen, darüber nachzudenken: Was ist unsere Vision? Was ist unsere Idee von einer digitalen Wohnungsvermittlung oder von einem Portal, auf dem man sich Arzttermine klicken kann? Was würden wir mit diesen Infrastrukturen machen, wenn sie nicht nach kapitalistischen Prinzipien betrieben werden würden?

Auf der „Cables of Resistance“ gibt es auch einen Talk von der Redscout24-Gruppe, in der Aline und ich beteiligt sind. Das ist ein ganz konkreter Versuch zu zeigen, wie ImmobilienScout24 anders aussehen könnte. Aber das ist nur ein Beispiel von vielen. Doctolib wäre ein anderes.

Die Frage der Vergesellschaftung zwingt uns aber auch dazu, uns zu positionieren, welche Plattformen wir vielleicht gar nicht wollen. Man kann vergesellschaften, um dann nur abzuschalten. KI ist ein Beispiel für eine Technologie, die wir in unserer befreiten Welt nicht haben wollen.

Aline Blankertz: Konkret plädieren wir dafür, mit den kleineren Plattformen wie ImmoScout24 und Doctolib anzufangen. Denn über sie läuft aktuell der Zugang zu für alle Menschen wichtigen Bereichen der Daseinsvorsorge wie Wohnungen und Gesundheitsversorgung. So können wir erst einmal lernen, wie die Umstellung auf Bedürfnisorientierung funktioniert. Mittelfristig können wir dann unseren Blick stärker auf digitale Infrastrukturen wie Rechenzentren und globale Plattformen richten.

Was wir durch Vergesellschaftung gewinnen, ist, dass wir überhaupt wieder gesellschaftlich gestalten können. Im Moment läuft es danach, wie am meisten Geld für die Anteilseignenden herausspringt. Wenn wir an Demokratie glauben, müssen wir auch daran glauben, dass wir gesellschaftliche Infrastrukturen danach gestalten können.

Da kann man sich gut bei „Deutsche Wohnen & Co enteignen“ umsehen, die für ihre Anstalt öffentlichen Rechts ‒ so unsexy das auch klingen mag ‒ sehr detailliert ausbuchstabieren, welche Gruppen wie an Entscheidungsprozessen beteiligt werden sollen. Gleichermaßen wäre das auch bei einer digitalen Wohnungsvermittlungsplattform, die auf die Bedürfnisse von Menschen zugeschnitten ist.

„ImmoScout24 vom Markt verdrängen“

netzpolitik.org: Wie kann eine Bewegung oder ein Zusammenschluss von Bewegungen praktisch an ein Unternehmen wie ImmoScout24 herankommen?

Malte Engeler: Wir sollten nicht vergessen, dass es schon viele Strukturen gibt, die so organisiert sind. Man vergisst, dass wir das Rad nicht neu erfinden müssen. Bibliotheken zum Beispiel sind eine gut funktionierende öffentliche Infrastruktur. Sie haben einen gemeinsamen Datenbestand. Beispielsweise kann ich heute in der Staatsbibliothek Berlin ein Buch aus Heidelberg bestellen und es übermorgen abholen. Das sind auch keine privatwirtschaftlich betriebenen Informationszugangssysteme.

Es gibt verschiedene Wege zum Ziel. In einigen Gemeinden existieren noch kommunale Online-Plattformen zur Wohnungsverwaltung, auf denen sie den eigenen Wohnungsbestand anbieten. Sie stellen ihn nicht auf ImmoScout24 ein. Man könnte also festlegen: Wer Wohnraum hat und vermieten will, muss dafür die Plattform der Gemeinde nutzen. Bei einigen Infrastrukturen der Daseinsvorsorge wie Müllabfuhr oder Wasseranschluss gibt es schon ein ähnliches Prinzip, den sogenannten Anschluss- und Benutzungszwang.

Mit Aktivist*innen aus dem Fediverse, die viel Erfahrung mit dezentralen Strukturen haben, und Menschen, die solche Bibliotheken-Systeme bauen, könnte man ausloten, wie ein deutschlandweiter Katalog aussähe, mit dem man in jeder Kommune auf alle Wohnungen in Deutschland zugreifen kann.

Im Grunde verdrängt man ImmoScout24 auf diese Weise vom Markt und vergesellschaftet es gar nicht. Die Plattform wird so immer unwichtiger. Sie kann dann noch Eigentumswohnungen auf dem Land vermitteln, aber ist aus dem Mietraum raus. Das wäre bereits eine Errungenschaft.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die geplante „Vereinfachung“ der europäischen KI-Verordnung könnte den Schutz von Verbraucher:innen vor der Technologie erheblich schwächen. Ein breites Bündnis von 32 Organisationen warnt insbesondere vor Lücken bei Medizingeräten und Spielzeug.

Die Sorge ist groß, dass die geplante „Vereinfachung“ der europäischen KI-Regeln zu deren Aushöhlung führen könnte. Davor warnt die europäische Verbraucherschutzorganisation BEUC gemeinsam mit 31 anderen Organisationen in einem gemeinsamen Brief an die Verhandler des sogenannten KI-Omnibusses: die EU-Kommission, die zypriotische Ratspräsidentschaft und die Berichterstatter:innen des Europaparlaments Arba Kokalari (EVP) und Michael McNamara (Renew).

Die unterzeichnenden Organisationen vertreten neben Verbraucher:innen und der Zivilgesellschaft auch Ärzt:innen, Krankenhäuser und Gesundheitsdienste, Prüfstellen wie den TÜV sowie die Wissenschaft. Sie befürchten, dass in den aktuellen Trilog-Verhandlungen zwischen EU-Parlament, den EU-Ländern und der Kommission zentrale Elemente der KI-Verordnung zur Diskussion gestellt werden könnten. Die angestrebte Vereinfachung dürfe nicht auf Kosten des Verbraucherschutzes und der Grundrechte gehen, bekräftigt der Brief.

Im Zentrum der Kritik steht eine mögliche Änderung, die das Europäische Parlament in die laufenden Trilog-Verhandlungen einbringt: Bestimmte Sektoren sollen aus dem unmittelbaren Anwendungsbereich der KI-Verordnung ausgenommen werden, darunter Medizintechnik, Funkgeräte, Spielzeug und Maschinen. Abgeordnete und Industrievertreter argumentierten, dass diese Produkte schon unter eigene Sicherheitsvorschriften fallen würden und die Hersteller ansonsten einem doppelten Aufwand ausgesetzt seien.

Zivilgesellschaft warnt vor Lücke

Die Autor:innen des Briefs sehen dies anders: Sie betonen, dass die KI-Verordnung spezifische KI-Risiken reguliere, die in den sektorspezifischen Regeln nicht behandelt würden. Dazu zählen etwa Diskriminierung, Intransparenz und die kontinuierliche Veränderung der Systeme. Durch die Ausnahmen würde eine Regulierungslücke entstehen.

Als Beispiel für die möglichen Nachteile dieser Änderung für Verbraucher:innen nennen sie Medizingeräte. Diese würden zunehmend über KI-Funktionen verfügen, die bei der Diagnose, Behandlung oder Überwachung von Patient:innen zum Einsatz kommen würden. Die derzeitigen sektoralen Regeln für Medizingeräte würden KI-spezifische Risiken aber nicht ausdrücklich berücksichtigen. Ähnliches gelte für Kinderspielzeug.

Die Organisationen bekräftigen darüber hinaus, dass die Regulierung durch diese Änderung komplexer würde statt einfacher. Erstens würde Unsicherheit darüber entstehen, welche KI-Systeme weiterhin der EU-Verordnung unterliegen. Zweitens würde sich die Regulierung zersplittern: Anstatt ein einziges Gesetz für KI zu haben, würden die unterschiedlichen sektoralen Regulierungen gelten. Sollten KI-Risiken dort nachträglich ergänzt werden, müssten womöglich Dutzende Gesetze geändert werden.

Ein fragmentierter und unnötig komplexer Regulierungsrahmen würde nur die Rechtsunsicherheit erhöhen, warnt der Brief: „In einer Zeit, in der die EU bestrebt ist, das Vertrauen in KI zu stärken und ihre technologische Souveränität zu festigen, ist die Wahrung des Vertrauens in einen kohärenten und effektiven Rahmen für die KI-Governance von entscheidender Bedeutung.“

Ergebnis bis Ende April

Beim KI-Omnibus hat die EU bislang ein hohes Tempo vorgelegt. Im November von der EU-Kommission vorgestellt, haben die EU-Länder sowie das Parlament im März ihre jeweiligen Verhandlungspositionen festgezurrt. Ende März fand bereits das erste Trilog-Treffen statt. Aktuell verhandeln die EU-Institutionen in technischen Meetings miteinander, schon am 28. April wollen sie sich auf den finalen Kompromiss einigen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Mit Hilfe von KI-Agenten sollen Einzelpersonen schon bald Unternehmen mit Milliardenbewertung aufbauen. Das klingt verführerisch, weil es einer prometheischen Sehnsucht nach totaler Souveränität schmeichelt. Allerdings wusste schon Franz Kafka, dass Ein-Personen-Unicorns mythische Wesen sind.

Am 18. Februar 1922 notierte Franz Kafka in sein Tagebuch eine Miniatur, die wie so vieles aus seiner Feder auf den ersten Blick komisch wirkt und auf den zweiten unheimlich. Ein Theaterdirektor, der alles von Grund auf selbst schaffen muss – sogar die Schauspieler muss er erst zeugen. Ein Besucher wird nicht vorgelassen, der Direktor sei mit wichtigen Theaterarbeiten beschäftigt. Und was tut er? Er wechselt die Windeln eines künftigen Schauspielers.

Man lacht kurz. Dann hört man auf.

Die totale Kontrolle über den Produktionsprozess kehrt sich in die Selbstauflösung des Produzenten um. Wer alles selbst erschaffen will – Stück, Bühne, Ensemble –, landet zwangsläufig bei der Windel. Wie man aus der wunderbaren Kafka-Biographie von Reiner Stach lernen kann: Ambition und Absurdität sind bei Kafka keine Gegensätze.

Als Schriftsteller war Kafka jemand, der Nacht für Nacht sein ganzes Ensemble allein erschaffen musste, neben dem Bürojob in der Arbeiter-Unfall-Versicherungsanstalt. Er wusste, dass der kreative Absolutismus seinen Preis hat: Man ist bis zum Umfallen beschäftigt. Mit dem, was gerade nötig ist, damit die Sache irgendwann und irgendwie weitergeht. Und dann fällt einem das nächste Problem auf.

Der Gründer als vollständiges Ensemble

Ich kenne diesen Tagebucheintrag aus Nicolas Mahlers Band „Kafka für Boshaft“. Seit Monaten lese ich ihn immer wieder. Konkret: Seit Sam Altman und andere Vordenker der Branche die Prophezeiung ausgaben, dass Einzelpersonen mit Hilfe von KI-Agenten bald Unternehmen mit Milliardenbewertung aufbauen würden. Das Stichwort lautet Ein-Personen-Unicorns. Übersetzt: Der Gründer als vollständiges Ensemble, als Entwickler, Designer, Vertriebler, Buchhalter und Marketingstratege zugleich, verstärkt durch eine Armee von Sprachmodellen, die gehorsam Code generieren und Kunden kontaktieren.

Diese Prophezeiung ist verführerisch, weil sie einer uralten, prometheischen Sehnsucht nach totaler Souveränität und Kontrolle schmeichelt. Kein Team, das koordiniert werden will. Keine menschlichen Eigenheiten, die berücksichtigt werden müssen. Keine lästigen Kollegen, die anderer Meinung sind. Nur man selbst, die Bühne und die Modelle. Das klingt nach Befreiung. Es riecht nach Windel. Kafka, so ist mir beim Lesen aufgefallen, hat sein Stück hundert Jahre zu früh aufgeschrieben.

Denn Kafkas Direktor ist ja nicht deshalb lächerlich, weil sein Vorhaben scheitert – er scheitert im Tagebucheintrag ja gar nicht. Er ist lächerlich, weil die innere Logik seines Ehrgeizes ihn unausweichlich dorthin geführt hat: zur Windel. Wer lückenlose Kontrolle anstrebt, muss die Schauspieler selbst zeugen; wer sie selbst zeugt, muss auch für sie sorgen. Die Allmacht endet im Pflegeheim der eigenen Schöpfung.

Was der Mensch (ver)lernt

Das weist auf einen blinden Fleck hin, der in der aktuellen Euphorie um Solo-Coder und ihre KI-Agenten in den sozialen Medien oft übersehen wird. Nicht die Frage, ob diese Werkzeuge produktiv sind – das sind sie, oft beeindruckend –, sondern die Frage, was der Mensch dahinter dabei lernt oder verlernt. Sprachmodelle produzieren auf Zuruf: Code, Marktanalyse, Pitch-Deck. Aber sie wissen im strengen Sinne gar nichts. Der Direktor hat ein glänzendes Ensemble gezeugt; ob es spielen kann, erfährt er erst, wenn der Vorhang aufgeht.

Nehmen wir den KI-Bühnenbildner: Er kann Ihnen den Unterschied zwischen Preußischblau und Kobalt in drei Absätzen erklären. Aber er scheitert daran, ein Objekt auf der Bühne zu lokalisieren, das nicht dort ist, wo er es erwartet. Die jüngste Forschung zu multimodalen Sprachmodellen zeigt genau das: Selbst die leistungsfähigsten Systeme erzielen beim visuellen Grounding – dem schlichten Auffinden eines Gegenstandes im Bild – erschreckend niedrige Trefferquoten; bei Aufgaben, die das Erkennen von Abwesenheit erfordern, versagen die meisten vollständig. Was Kognitionswissenschaftler das Binding-Problem nennen, ist in der Praxis vernichtend: Das Modell beschreibt, was es zu sehen erwartet. Es sieht nicht. In anderen Worten: Der KI-Bühnenbildner malt aus dem Gedächtnis, nicht aus der wirklichen Anschauung.

Und der Hauptdarsteller? Er kommt manchmal, wenn man ihm richtig zuflüstert („promptet“), auf die richtige Zeile – aber über Wege, die er sich nicht merken kann, weil er sie nicht gegangen ist. Apples Forschungsteam hat das in einer wichtigen Studie nüchtern „The Illusion of Thinking“ genannt: Sogenannte Reasoning-Modelle, die durch verlängerte Denkprozesse besonders zuverlässig wirken sollen, erleiden ab einem bestimmten Komplexitätsniveau einen Genauigkeitskollaps. Bei einfachen Aufgaben übertreffen sie die älteren Modelle nicht einmal. Was bleibt, ist ein Ensemble, das gelegentlich brillant klingt, aber strukturell unzuverlässig ist. Kein Probengedächtnis, keine Replizierbarkeit. Das Paradox setzt sich beim Publikum fort: Studierende, die regelmäßig KI-Assistenten zum Schreiben und Denken nutzen, zeigen messbar schwächere Gedächtnisleistung, geringere kognitive Eigenständigkeit und – besonders ernüchternd – auch dann noch schlechtere Ergebnisse, wenn sie wieder ohne KI arbeiten. MIT-Forscher sprechen von „kognitiver Verschuldung“.

Die Windeln stapeln sich im Fundus.

Wohin eine solche Aufführung führt? Das sieht man am Bild des Hobby-Coders, der zwar engagiert mit Claude Code spielt, sich aber nie die Prinzipien von sauberem Code angeeignet hat. Zweihundert Zeilen, die funktionieren – bis sie es nicht mehr tun. Dann beginnt das Debugging: ein Durchsuchen von generiertem Code, den der Autor nicht mehr versteht, und zunehmend auch nicht das Modell, das beim nächsten Prompt munter darüber hinweg generiert. Laut einer Analyse von 211 Millionen Codezeilen durch GitClear hat sich der sogenannte Code-Churn im KI-Zeitalter verdoppelt, während 45 Prozent des KI-generierten Codes Sicherheitslücken enthält. Dies wird zunehmend von Hackern ausgenutzt. Der Begriff „Vibe Coding“ ist keine zwei Jahre alt und hat bereits eine eigene technische Schuldenkrise produziert, die erst langsam sichtbar wird. Das Theater steht. Die Windeln stapeln sich im Fundus.

Diese Kritik bedeutet nicht, dass die Werkzeuge wertlos wären. Ich selber nutze lokale KI-Modelle gerne und viel, gerade für mühsame Programmieraufgaben. Für technisch versierte Gründer sind KI-Agenten ein Hebel, den frühere Generationen nicht kannten. Manche Windeln nimmt einem das Modell tatsächlich ab. Doch Unicorns heißen nicht umsonst so: mythische Wesen, selten und wunderlich. Ein-Personen-Unicorns wären mythische Wesen zweiter Ordnung. Was manche Influencer in den sozialen Medien als wundersame Programmierprojekte präsentieren, die angeblich an einem Wochenende entstanden sind, sind Ausnahmen aus einer frühen Phase. Alle anderen debuggen noch.

Der Unterschied zwischen Vision und Theater auf dem höchsten Niveau liegt in der Arbeit dazwischen. Nicht in der glamourösen, nicht in der sichtbaren, sondern in der stillen, zeitaufwändigen, ein wenig demütigenden Arbeit, die das Geschehen auf der Bühne am Laufen hält. Ökonomen, die Transformationstechnologien von der Dampfmaschine bis zur Elektrifizierung analysiert haben, nennen das die Komplementaritätsbedingung. Eine Basistechnologie entfaltet ihren Nutzen nicht durch bloße Verfügbarkeit, sondern durch die jahrelange, unsichtbare Reorganisation von Prozessen, Kompetenzen und Institutionen.

Daron Acemoglu hat das für die generative KI konkret beziffert: Selbst unter optimistischen Annahmen dürfte die Technologie das BIP über zehn Jahre um weniger als ein Prozent heben – weil die komplementäre Arbeit, die sie erst produktiv macht, Zeit braucht und konstante Validierung verlangt.

Man wird nicht vorgelassen. Der Direktor ist beschäftigt.

Was er tut? Er wechselt Windeln.

Die KI nimmt einem ein paar davon ab. Vielleicht sogar viele. Aber das Theater baut sie einem nicht.

Anselm Küsters ist Fachbereichsleiter Digitalisierung und Neue Technologien am Centrum für Europäische Politik (cep) in Berlin. Im Sommersemester 2025 und Wintersemester 2025/26 war er zudem Vertretungsprofessor für Digital Humanities an der Universität Stuttgart. Er ist Autor des Buches „Small is beautiful 2.0: Mit digitaler Dezentralisierung zu einer menschlicheren Wirtschaft“, das jüngst im Herder Verlag erschienen ist.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Trotz scharfer Kritik hält die sächsische Regierung am ihrem Vorhaben fest, die Polizei mit erheblich erweiterten Überwachungsbefugnissen auszustatten. Den bisherigen Gesetzesentwurf hat sie nach internen Verhandlungen nur kosmetisch angepasst. Kritiker:innen bezweifeln die Vereinbarkeit mit geltendem EU-Recht und warnen vor dystopischen Verhältnissen.

Die sächsische Polizei soll Bilder im Internet biometrisch auswerten dürfen – zumindest wenn es nach dem Willen der sächsischen Regierung geht. Und das ist lange nicht die einzige massive Befugniserweiterung der Polizei, die die Regierung plant. Auch Verhaltensscanner, verdeckte Kennzeichenerkennung und eine automatisierte Datenanalyse sollen kommen. Lediglich bei zwei problematischen Plänen machte das Innenministerium einen Rückzieher. Unter Zeitdruck muss nun der sächsische Landtag entscheiden.

Geringfügige Änderungen für eine „rechtsstaatlich sehr hohe Qualität“

Am Dienstag beschloss das Kabinett den Gesetzentwurf für das Sächsische Polizeivollzugsdienstgesetz (SächsPVDG). Dieser fällt in Teilen weniger scharf aus als die ursprünglich geplante Novelle. Wenn man den sächsischen Innenminister Armin Schuster (CDU) fragt, sogar ein gutes Stück zurückhaltender. Sein Referentenentwurf aus dem Herbst war auf viel Kritik gestoßen, auch die mitregierende SPD kritisierte einige der geplanten Befugniserweiterungen.

Im Vergleich dazu enthielten die neuen Pläne „sehr viele grundrechtssichernde Bestimmungen“, so Schuster. Er verweist auf Richtervorbehalte, Lösch- und Berichtspflichten. „Für Polizisten ist dieses Gesetz eine Herausforde­rung“, sagte der Innenminister auf einer Pressekonferenz am Dienstag nach der Kabinettssitzung. Der Entwurf habe nun eine „rechtsstaat­lich sehr hohe Qualität“, betonte er.

Tatsächlich gibt es bei den meisten Bestimmungen des Entwurfs, wenn überhaupt, geringfügige Änderun­gen und Konkretisierungen. So ist der präventive Staatstrojaner-Einsatz zur Quellen-Telekommuni­kationsüberwachung nach wie vor enthalten, ebenso Verhaltensscanner, die gesetzlichen Grund­lagen für eine Datenanalyse-Plattform sowie der biometrische Abgleich von Gesichtern und Stim­men mit dem Internet.

Kein Palantir, keine Drohnen gegen Handy-Sünder:innen

Gestrichen wurde vor allem das Filmen in Autos, um Handy-Nutzer:innen am Steuer zu erwi­schen. Diese Vorschrift sollte laut dem ursprünglichen Entwurf sogar mit Drohnen umgesetzt wer­den.

Die sächsische Datenschutzbeauftragte Juliane Hundert hielt das für „offensichtlich verfas­sungswidrig“ und sprach von einer „auf der Hand liegenden Unverhältnismäßigkeit“. Ihrer Empfeh­lung nach einer ersatzlosen Streichung folgte die sächsische Regierung offenbar.

Außerdem setzte die SPD durch, dass Palantir keinen sächsischen Auftrag für eine polizeiliche Da­tenanalyse-Plattform bekommt. Der Verzicht wird vom sächsischen Innenminister bedauert: „Der Vorsprung der Firma Palantir ist mit Händen greifbar“, sagte Schuster. Man führe Gespräche mit anderen Anbietern. Laut Kostenplanung im Entwurf rechnet die Staatsregierung mit einer zentralen Bereitstellung durch den Bund, an der man sich dann finanziell beteiligt.

Das 3-Stufen-Modell der polizeilichen Datenanalyse

Weiterhin enthalten ist die Vorschrift, die ermöglichen soll, dass die Polizei eine Plattform zur automatisierten Datenanalyse nutzt. Inzwischen findet sich im Entwurf dafür ein 3-Stufen-Modell.

Auf der ersten Stufe steht ein einfacher Datenabgleich, bei dem jede:r Polizist:in personenbezogene Daten in den Beständen der Polizei Sachsen suchen kann. Ausgenommen sind Biometrie-Daten, personenbezogene Da­ten von Unbeteiligten aus der Vorgangsbearbeitung sowie Daten aus der Wohnraumüberwachung.

Auf der nächsten Stufe folgt die Befugnis, Daten zur Gewinnung neuer Erkenntnisse automatisiert zusammenzuführen und auszuwerten. Voraussetzung ist ein drohender erheblicher Angriff auf den Staat oder Leib, Leben oder Freiheit einer Person. Für drohende terroristische Straftaten liegt die Gefahrenschwelle niedriger. Anordnen dürfen diese Art der Datenanalyse nur hochrangige Polizist:innen, wie etwa die Präsidentin einer Polizeidi­rektion.

Polizeidaten fürs KI-Training – auch ohne Pseudonymisierung

Nur bei der dritten und letzten Stufe muss die Polizei eine richterliche Erlaubnis einholen. Diese Stufe umfasst den Einsatz von „selbstler­nender KI“ sowie die Bildung von Verhaltensprofilen.

Nach wie vor plant die Staatsregierung, der Polizei auch das Training und Testen von eigenen KI-Anwen­dungen mit echten Polizeidaten zu erlauben. Erlaubt ist außerdem die Weiter­gabe personenbezogener Daten an Drittanbieter, die mit der Polizei zusammenarbeiten.

Vorausset­zung dafür ist, dass die Anonymisierung und Pseudonymisierung sowie die Verarbeitung bei der Polizei „nur mit unverhältnismäßigen Aufwand möglich“ ist. Auch diese Vorschrift wurde, trotz Kritik von der SPD-Fraktion und der Opposition, im Vergleich zum letzten Entwurf aus dem Herbst kaum angepasst.

Gesichtersuche im Netz – im Einklang mit der KI-Verordnung?

Auch der „Klette-Paragraf“, wie ihn Armin Schuster nennt, hat im Gesetzesentwurf weiterhin Bestand. Die RAF-Terro­ristin Daniela Klette war bis zu ihrer Festnahme 2024 mehrere Jahrzehnte untergetaucht. Den­noch fanden zwei Journalisten im Dezember 2023 Hinweise auf Klettes Aufenthaltsort über die Ge­sichtersuchmaschine PimEyes. „Diese Blamage darf so nie wieder passieren“, betonte Schuster in der Pressekonferenz.

Dieser biometrische Abgleich von Gesichtern und Stimmen mit Internetdaten wurde trotz viel Kritik kaum angepasst. Die Polizei soll nun lediglich nach Opfern und potenziellen Täter:innen suchen dürfen.

Doch es gibt Zweifel, ob die von Innenminister Armin Schuster als „Klette-Paragraf“ bezeichnete Vorschrift grundsätzlich mit der KI-Verordung der EU in Einklang zu bringen ist.

Laut einem Gutachten von AlgorithmWatch ist es technisch nicht umsetzbar, frei verfügbare Bilder aus dem Internet für einen Abgleich praktikabel durchsuchbar zu machen, ohne eine Datenbank die­ser Bilder zu erstellen. Das verbietet die KI-Verordnung.

Das sächsische Innenministerium rechtfertigt die Pläne auf Anfrage von netzpolitik.org damit, dass das Gutachten auf die Erstellung einer anlassunabhängigen Datenbank abziele, das vorgeschlagene Gesetz aber „auf den anlassbezogenen Auftragsbereich der Gefahrenabwehr“ fokussiere.

Das Innenministerium schreibt weiter:

Zu OSINT-Recherchen werden sowohl Sachbearbeiter als auch Tools eingesetzt, die sich der grundsätzlichen Datenbankstruktur des Internets bedienen und keine polizeieigene Datenbank für alle Informationen des Internets erstellen. Die Methodik hält sich an die von den Informationsan­bietern gesetzten Grenzen. OSINT-Recherchen sind für einen anlassbe­zogenen Lichtbildvergleich mit Bildern aus dem Internet rechtmäßig unter Wahrung der DSGVO sowie europäischen Datenschutzrichtlinien.

Tatsächlich aber ist es laut KI-Verordnung unerheblich, ob die Polizei selbst eine anlassunabhängige Datenbank mit allen Bildern erstellt oder eine von Drittanbietern nutzt. Konkret verbietet die Verordnung in Ar­tikel 5 (1e) „das Inverkehrbringen, die Inbetriebnahme […] oder die Verwendung von KI-Systemen, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern“.

Videoüberwachung mit Mustererkennung

Auch Verhaltensscanner und Gesichtserkennung in der Videoüberwachung sind weiterhin vorge­sehen. Die Verhaltensscanner sollen Beamt:innen alarmieren, wenn die Software auf den Kamerabildern Bewegungsmuster erkennt, die auf Waffen, gefährliche Gegenstände oder die Begehung einer Straftat hindeuten. Die Beamt:innen sollen dann überprüfen, ob die Software zurecht angeschlagen hat. Sie können daraufhin auch eine auto­matisierte Nachverfolgung des vermeintlich gefährlichen Menschen durch die verschiedenen Kame­ras in die Wege leiten.

Diese Form der Überwachung soll prinzipiell nicht nur an allen Kriminalitätsschwerpunkten möglich sein, sondern etwa auch in Straßenbahnen und Bus­sen, wenn die Polizei annimmt, dass dort künftig Straftaten begangen werden.

Obwohl die SPD-Fraktion sich explizit gegen diese Vorschrift aussprach, ist auch die Möglichkeit eines Live-Gesichtsscans im Gesetzentwurf enthalten. Eingeschränkt wurde hier nur die Menge an Menschen, nach denen die Po­lizei suchen darf, nämlich nach Terrorverdächtigen sowie vermissten Menschen und Opfern von Entführungen und Menschenhandel.

Diese „Echtzeit-biometrische Fernidentifizierung“ muss von Richter:innen angeordnet werden, die auch Umfang und Dauer der Maßnahme absegnen müssen. Obwohl also prinzipiell alle gescannt werden, die durch das Kamerabild laufen, soll die Software nur nach einzelnen Menschen suchen.

Völlig unverändert: Staatstrojaner, Kennzeichenscan und Bodycams

Bei anderen Befugniserweiterungen hat sich nichts verändert.

Der Bodycam-Einsatz in Wohnungen soll weiterhin erlaubt werden. Auch der Einsatz von Staats­trojanern zur Gefahrenabwehr im Rahmen der Quellen-TKÜ soll möglich sein. Der Innenminister wollte zudem die verdeckte Online-Durchsuchung von Computern einführen, hat das aber nicht „durchgekriegt“, wie er bei der Presse­konferenz freimütig zugab. Auch die CDU-Fraktion macht Druck.

Nach wie vor ist das verdeckte automatisierte Scannen von Auto-Kennzeichen geplant. Diese Überwachungsmaßnahme soll in grenznahen Regionen erfolgen. Das Innenministerium begründet die Maßnahme explizit mit der Su­che nach Autodieben und gestohlenen Fahrzeugen. Der verdeckte Scan ist bis zu 30 Kilometer vor der Grenze zu Tschechien oder Polen erlaubt. Das entspricht etwa der Hälfte der Fläche Sach­sens.

Bei den Tasern gibt es einen Kompromiss. SPD- und BSW-Fraktion plädierten auf eine gestaffelte Einführung. Die Staatsregierung schafft nun zwar die Rechts­grundlage, um alle Polizist:innen damit auszustatten. Über die nächsten drei Jahre sollen allerdings nur 120 Stück angeschafft werden. Außerdem ist eine verpflichtende Evaluation im Jahr 2029 vorgesehen.

Minority Report und chinesische Verhältnisse

Auch wenn die Minderheitskoalition den Entwurf im Vergleich zur vorherigen Version in Details verändert hat, bleibt es bei einer massiven Erweiterung der Polizeibefugnisse. Der Dresdener Chaos Computer Club (C3D2) kriti­siert das: „Die Landesregierung will klassische Mittel der Strafverfolgung auf Landesebene einfüh­ren und verschiebt damit die rechtliche Grenze der behördlichen Befugnisse: Gefahrenabwehr ist Sache des Landes, Strafverfolgung des Bundes.“ Als Beispiel nennen sie die Staatstrojaner, deren Einsatz bundesweit durch die Strafprozessordnung geregelt ist.

Der Verein erinnert in seiner Mitteilung an dystopische Welten wie „Minority Report“, in denen Predictive-Policing die Unschuldsvermutung ersetzt. „Sicherheitsbehörden bauen derzeit solche Systeme aus, ungeachtet der juristischen Grenzen und gesellschaftlichen Folgen für die Demokratie und individuelle Freiheiten.“

Der C3D2 warnt insbesondere vor der Einführung ei­ner Plattform zur automatischen Datenanalyse. Diese sei „moderne Rasterfahndung mit Vorhersage­funktion“, so die Sprecherin weiter. „Ob es Palantir wird oder eine andere vergleichbare Lösung, ist letztendlich egal. Solche Systeme funktionieren in der Regel nur, wenn sie an möglichst viele Sensoren und Datenbanken an­geschlossen sind“, heißt es in der Mitteilung. Die Einführung einer solchen Software öffne die Büchse der Pandora.

„Der Chaos Computer Club sieht die Novelle des Sächsischen Polizeigesetzes als einen erneuten Angriff auf die informationelle Selbstbestimmung, die rechtsstaatlich gebotene Gewaltenteilung sowie als Gefahr für eine offene und demokratische Gesellschaft.“

Aus dem Landtag kommt die schärfste Reaktion von der Fraktion Bündnis 90/Die Grünen: „Der massive Einsatz von KI zu Überwachungszwecken, die intelligente Videoüberwachung und die Möglichkeit des Daten­abgriffs aus dem Internet sind keine Lappalien, sondern schwerwiegende Eingriffe in die Bürger­rechte aller Menschen in Sachsen“, sagte der innenpolitische Sprecher der Grünen-Fraktion, Va­lentin Lippmann. Er wiederholte seine Kritik aus dem Herbst, wonach sich der Entwurf eher an chinesischen Überwachungsfantasien orientiere als an dem Grundgesetz.

Grüne und Linke scheiden als Mehrheitsbeschaffer aus

Die Linksfraktion äußerte sich in einer ersten Mitteilung zurückhaltender und verwies darauf, den aktuellen Entwurf noch nicht zu kennen. In der Vergangenheit hatte auch sie die geplanten Befugnisse für die automatisierte Datenanalyse, verdeckte Kennzeichenerkennung und biometrische Suche im Internet zurückgewiesen.

Aufgrund der Mehrheitsverhältnisse im Landtag und die klare Ablehnung der Grünen ist die Positi­on der Linken für die Staatsregierung aber nicht entscheidend. Der schwarz-roten Minder­heitskoalition fehlen zehn Stimmen. AfD (40) und Bündnis Sahra Wagenknecht (15) können den Entwurf durch ihre alleinige Zustimmung über die Ziellinie bringen, Grüne (7) und Linke (6) müssten hingegen gemeinsam mit der Minderheitskoalition votieren.

AfD nicht konstruktiv, BSW sieht noch Änderungsbedarf

Eine Zusammenarbeit mit der AfD haben CDU und SPD in ihrem Koalitionsvertrag ausgeschlossen. Die AfD hat keine Stellungnahme im Konsultationsprozess abgegeben. Als einzig verbleibende Option bleibt der Koalition damit das BSW.

Dessen innenpolitischer Sprecher Bernd Rudolph kündigte Anpassungen im parlamentarischen Ver­fahren an. Besonders bei den Themen automatisierte Datenanalyse, Training von KI-Systemen mit Polizeidaten und Tasern sieht die BSW-Fraktion noch Änderungsbedarf. „Der vorliegende Gesetz-Entwurf enthält sinnvolle Modernisierungen, aber auch gefährliche Überdehnungen.“ Man wolle ein Polizeigesetz, das wirksam schützt, aber nicht überwacht.

Die Uhr tickt

Viel Zeit für Änderungen im Parlament bleibt indes nicht mehr. Wegen eines Urteils des Verfassungsge­richtshofs laufen einige Polizeibefugnisse aus dem aktuellen sächsischen Polizeigesetz bald aus. Grüne und Linke hatten gegen das Gesetz geklagt, der sächsische Verfassungsgerichtshof gab ihnen in Teilen recht und setzte für manche Polizeibefugnisse eine Frist: Bis zum 30. Juni braucht es eine neue Regelung, sonst laufen sie aus.

Den Fraktionen verbleiben damit noch gut vier Monate für den ge­samten parlamentarischen Prozess.

Grüne und Linke kritisie­ren die Regierung für den engen Zeitplan. Selbst Innenminister Schuster räumt ein, dass der Land­tag „jetzt nicht komfortabel“, aber ausreichend Zeit habe. Man habe das durchgerechnet, versicherte Schuster.

Geplant ist, das Gesetz am 24. Juni im Plenum zu beschließen. Damit das alles zeitlich klappt, wurde eine Sondersitzung des Innenausschusses angesetzt. Bereits am 27. März steht die Sachver­ständigenanhörung im Landtag an.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Merz will eine Klarnamenpflicht im Netz. Doch die verschlechtert das Leben vieler Menschen und bedroht gleich mehrere Grundrechte. Der Kanzler wäre gut beraten, die Forderung sofort wieder einzupacken – und stattdessen vor der eigenen Haustüre zu kehren. Ein Kommentar.

Nun hat also die uralte Forderung nach einer Klarnamenpflicht im Netz mit dem Bundeskanzler die höchste Ebene deutscher Politik erreicht. Besser wird die Forderung dadurch nicht. Eine Klarnamenpflicht ist nicht wirkungsvoll, sondern autoritär, falsch und extrem gefährlich für gleich mehrere Grundrechte.

Mit der derzeitigen Debatte um ein Social-Media-Verbot für Jugendliche, die vermutlich mit flächendeckenden Ausweiskontrollen umgesetzt würde,  ergibt sich allerdings gerade ein Möglichkeitsfenster für diese Art der Einschränkung des freien Internets. Dabei ist die Debatte sogar schon soweit entgleist, dass sogar die im Gesetz als freiwillig festgeschriebene digitale Brieftasche der EU von Mitgliedern der Bundesregierung jetzt als Pflicht-Instrument zur Identifizierung gefordert wird.

Dabei ist eine Klarnamenpflicht im Internet und sozialen Netzwerken bislang als Unterdrückungsinstrument von autoritären Ländern wie China bekannt.

Für freie und demokratische Gesellschaften sind Anonymität und Pseudonymität im Internet jedoch unerlässlich. Dafür gibt es zahlreiche Gründe. Und nicht umsonst ist die Anonymität im Netz in Deutschland gesetzlich festgeschrieben.

Klarnamenpflicht verschlechtert das Leben vieler Menschen

Wer eine Klarnamenpflicht im Internet oder sozialen Netzwerken einführen will, verschlechtert das Leben vieler Menschen. Wir haben schon vor Jahren zahlreiche fiktive, aber alltägliche Beispiele aufgeschrieben, die zeigen, dass Pseudonymität und Anonymität dem Schutz der Grundrechte und der freien Entfaltung und Entwicklung von Menschen dienen.

Die Möglichkeit unter einem erfundenen Namen im Internet aufzutreten, ist elementar für die Pressefreiheit, die freie Entfaltung der Persönlichkeit, die Meinungsfreiheit, die Freiheit der Kunst, die informationelle Selbstbestimmung und die Religionsfreiheit. Wir alle brauchen anonyme Orte im Netz. Das trifft nicht nur für marginalisierte Gruppen und Minderheiten zu, aber für diese besonders.

Wir alle brauchen anonyme Orte im Netz

Anonym heißt nicht gewaltvoll

Die Befürworter:innen der Klarnamenpflicht ignorieren die demokratische Notwendigkeit von Anonymität und Pseudonymität. Sie bleiben aber auch den Beweis schuldig, dass diese schwerwiegende Maßnahme überhaupt etwas bringt. Es ist nämlich alles andere als wissenschaftlich gesichert, dass durch eine Klarnamenpflicht der Diskurs befriedet wird.

Die Idee hinter der Forderung ist die Annahme, dass Menschen „mit offenem Visier“ zurückhaltender kommunizieren würden. Dafür gibt es wenig Belege. Im Gegenteil gibt es Studien, die zeigen, dass anonyme Nutzer:innen weniger aggressiv kommunizieren und solche die zeigen, dass Rassisten ganz offen hetzen.

Oftmals spielen Umfeld, Kultur und wirksame Moderation auf den jeweiligen Plattformen die entscheidende Rolle, wie diskutiert wird und wie Nutzer:innen auftreten. Dort wo Nutzer:innen selbst bestimmen können, wen sie aus ihrer Kommunikation ausschließen wollen, wird der Diskurs besser.

Es gibt zahlreiche Beispiele für Orte im Netz, in denen Menschen anonym oder pseudonym, aber vollkommen zivilisiert, achtsam und geregelt miteinander kommunizieren.

Rechtsdurchsetzung statt neuer Einschränkungen

Die Bundesregierung sollte nicht mit diesem gefährlichen Instrument gegen die Bevölkerung vorgehen. Sie sollte stattdessen das EU-Gesetz über digitale Dienste (DSA) gegen Plattformen durchzusetzen und gegen Plattformen vorgehen, wenn diese gegen EU-Gesetze verstoßen.

Man könnte den Kampf gegen Hass und Hetze in Form von gut ausgebildeten Polizeien und Staatsanwaltschaften unterstützen und Möglichkeiten schaffen, gegen strafbare Formen der Kommunikation einfacher und besser vorzugehen.

16 Beispiele, warum Pseudonymität im Netz unverzichtbar ist

Schlüsselfertiges autoritäres Haus für die AfD

Was früher noch eine eher hypothetische Warnung von Bürgerrechtlern war, ist heute leider die neue Realität. Was passiert eigentlich, wenn wir autoritäre Instrumente in einer Demokratie schaffen, die dann in die Hände der Falschen fallen? Genau vor diesem Problem stehen wir.

Die gesichert rechtsextreme AfD ist kurz davor, stärkste Partei zu werden. Eine Klarnamenpflicht würde eine mögliche Absicherung der Macht der AfD unterstützen, wenn die Rechtsradikalen an die Regierung kommen. Man baut den Zerstörern der Demokratie unnötigerweise ein schlüsselfertiges Haus, das die diese gleich beziehen können – anstatt ihnen Steine in den Weg zu legen, wo man nur kann.

Kritik nur noch mit Nummernschild?

Vielleicht sollte Friedrich Merz zunächst bei sich selbst anfangen. Er könnte zum Beispiel noch heute aufhören, auf der Hass- und Hetzplattform X zu posten. Denn dort findet genau der vergiftete Diskurs statt, der nun kritisiert wird – er wird dort durch den Eigentümer Elon Musk sogar noch aufgeheizt und befeuert. Wer als Bundeskanzler so einer toxischen Plattform durch die eigene Anwesenheit Relevanz und Seriosität verleiht, sollte von gepflegten demokratischen Diskursen besser schweigen.

Merz hat zudem wenig verstanden von der demokratischen Wichtigkeit anonymer Kommunikation, wenn er die Klarnamenpflicht auf sich selbst bezieht und aus seiner privilegierten, mächtigen Rolle als Bundeskanzler eine Zwangsoffenlegung der Namen aller Menschen fordert, die „sich sich kritisch mit unserem Land und unserer Gesellschaft auseinandersetzen.“ Kritik nur noch mit Nummernschild, oder wie ist das zu verstehen?

In Merzens Kopf schwirrt vermutlich herum, dass er als Bundeskanzler öfter einmal Gegenstand von Beleidigungen ist. Die kann er allerdings mit der ganzen Macht eines Bundeskanzlers und der Unterstützung des Bundeskriminalamts bekämpfen. Aber Privilegien und die damit verbundene Verantwortung zu verstehen, war offenbar noch nie Sache eines Kanzlers, der Privatflugzeuge fliegt, aber sich zur Mittelschicht zählt.

Merz befeuert selbst die verrohte Debattenkultur

Die ohne Frage schlechter werdende Diskurskultur, die gesellschaftliche Verrohung und das feindliche Klima hängen unmittelbar mit dem Aufstieg der AfD und ihren Narrativen zusammen. Durch permanente Diskursverschiebung und anhaltende Abwertung von Menschen verschieben die Rechtsextremen die Grenzen des Sagbaren und ermutigen Menschen zu hetzen und Grenzen zu überschreiten.

Wenn ein Friedrich Merz selbst von „kleinen Paschas“ über muslimische Jugendliche redet oder davon, dass Geflüchtete einem die Zahnarzttermine wegnehmen, dann ist dies ein Ausdruck eben genau jener Entgrenzung, die wiederum andere motiviert auch entgrenzt zu kommunizieren.

Wer also Hass und Hetze im Netz verringern will, der sollte sich selbst mit Menschenfeindlichkeit und Diskriminierung zurückhalten – und lieber ganz konkret die AfD und ihre Diskurse bekämpfen statt diese in die demokratische Mitte zu heben und zu normalisieren.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.