Beleidigungen, Zwangsoutings oder Bedrohung: Queere Menschen, die von Gewalt im Netz betroffen sind, haben seit Juli in Berlin eine eigene Anlaufstelle – die zugleich helfen soll, Zahlen zu sammeln.

Queerfeindliche Gewalt nimmt zu. Das Bundeskriminalamt hat im vergangenen Jahr eine Steigerung um 12,8 Prozent bei queerfeindlichen Straftaten verzeichnet und schreibt, auffällig sei der hohe Anteil an Gewaltdelikten. Vor allem rechtsextreme Gruppen mobilisieren massiv gegen die queere Community. Aber auch islamistische Akteur*innen schüren den Hass.

Das Projekt Queersafe Berlin des LSVD Verband Queere Vielfalt e.V. Berlin Brandenburg bietet eine Anlaufstelle für Menschen, die queerfeindliche Gewalt im Netz erfahren. Florian Winkler-Schwarz spricht über das neue Projekt und darüber, welche Lücken es schließt.

netzpolitik.org: Florian Winkler-Schwarz, warum braucht Berlin jetzt eine eigene Fachstelle gegen digitale Gewalt?

Florian Winkler-Schwarz: Die Fachstelle ist ein Ergebnis des runden Tisches gegen queerfeindliche Gewalt. Dieser ist entstanden, weil die Gewaltzahlen in Berlin an queeren Menschen so hoch sind und man Maßnahmen dagegen ergreifen will. Eine der Annahmen, die dabei entstanden ist: Gewalt beginnt nicht erst auf der Straße, sondern bereits im Netz – durch Beleidigungen, Bedrohungen, Hasskommentare, die queere Menschen dort erfahren.

Bis dato gab es dazu aber keine Erhebung. Wir sind jetzt die erste Stelle, die das systematisch erfasst. Außerdem ist unser Auftrag, den Opfern von queerfeindlicher digitaler Gewalt zu helfen – psychosozial, aber auch juristisch.

netzpolitik.org: Welche Art von Unterstützung bieten Sie an?

Florian Winkler-Schwarz: Zum einen unterstützen wir durch Beratungen. Wir hören den Betroffenen zu und hören heraus, was sie brauchen. Das kann etwa bedeuten, dass wir helfen, die Sicherheits-Einstellungen im eigenen Online-Profil zu verbessern. Bei einer anderen Person kann es heißen, dass wir Anzeige bei der Polizei erstatten und bei der dritten ist es eine psychosoziale Beratung, weil die Person traumatisiert ist von der Gewalt, die sie erlebt hat.

netzpolitik.org: Warum schicken Sie die Betroffenen nicht einfach zur Polizei?

Florian Winkler-Schwarz: Queere Menschen haben oft Bedenken im Umgang mit der Polizei oder schlechte Erfahrungen gemacht. Dann kann dieser gesamte Anzeigenvorgang über uns abgewickelt werden. Wir dienen auch als Stelle, wenn Menschen bei einer Anzeige nicht ihre Privatadressen angeben wollen. In so einem Fall können wir das als Verband direkt mit der Staatsanwaltschaft machen.

Im Bedarfsfall klagen wir auch auf dem zivilrechtlichen Weg. Ein Beispiel: Im Netz kursiert gerade ein KI-generiertes Video von einem vermeintlichen Computerspiel, in dem Menschen mit einem Transporter in eine queere Demo rasen können. Wir prüfen juristisch, wie wir dagegen vorgehen können – nicht nur gegen die Person, die das erstellt hat, sondern auch gegen das Unternehmen, das die Technologie anbietet, mit der das Video erstellt wurde.

netzpolitik.org: Ihre Fachstelle arbeitet seit Juli. Wer nimmt die Beratung bisher in Anspruch?

Florian Winkler-Schwarz: Bisher sind es weniger Einzelpersonen und überraschend oft queere Organisationen, die sich an uns wenden und unsere Unterstützung im Umgang mit Hass im Netz suchen. Sie wollen wissen: Was zeigen wir an, wie können wir das rechtssicher anzeigen? Welche Einstellungen sollte ich vornehmen? Sollte ich auf Hass reagieren oder es einfach ausblenden oder löschen?

netzpolitik.org: Sie arbeiten auch mit der Organisation HateAid zusammen, die bereits seit mehreren Jahren Betroffene von digitaler Gewalt berät. Welche Rolle spielt HateAid?

Florian Winkler-Schwarz: HateAid ist ein sogenannter „Trusted Flagger“, also eine Organisation, die laut EU-Recht bei den sozialen Medien bevorzugt Löschungen und Bewertungen von Kommentaren einreichen kann. Wenn Einzelpersonen Inhalte melden, werden diese oft nicht gelöscht, weil Meta oder andere Plattformbetreiber das anders auslegen, oder alles dauert sehr lange. Wenn hingegen HateAid diese Inhalte meldet, kommt es zu einer beschleunigten Bearbeitung. Wir können über HateAid also dafür sorgen, dass Kommentare, Videos oder Fotos, die jemanden belasten, schneller wieder verschwinden.

Umgekehrt verweist HateAid an uns, wenn es um spezifische Formen von digitaler Gewalt gegen queere Menschen geht. Das sind Themen wie Zwangsoutings oder wenn Menschen Nacktbilder aus queeren Datingapps stehlen und mit der Veröffentlichung drohen.

„Beleidigungen, blöde Sprüche, kotzende Smilies sind für viele Tagesordnung“

netzpolitik.org: Es gibt bei digitaler Gewalt offenbar ein sehr großes Dunkelfeld von Taten, die niemals angezeigt werden. Queere Personen sind besonders oft betroffen, doch sie zeigen die Gewalt nur selten an. Warum?

Florian Winkler-Schwarz: Das hat mehrere Gründe. Viele Menschen nehmen digitale Gewalt oft gar nicht als Gewalt wahr. Beleidigungen, blöde Sprüche, kotzende Smilies unter Kommentaren: Das ist bei vielen Personen leider so an der Tagesordnung, dass eine Form von Resilienz entstanden ist. Wenn einem jemand auf der Straße eine Beleidigung hinterherschreit, ist die Chance, dass das zur Anzeige kommt, wesentlich höher, als wenn genau der gleiche Satz im Netz unter einem Kommentar steht.

Der zweite Grund: Queere Menschen haben nicht immer gute Erfahrungen mit der Polizei gemacht. Viele lehnen die Polizei ab, auch wegen ihrer Historie im Umgang mit queeren Menschen. Außerdem glauben viele Menschen, dass eine Anzeige gar nichts bringen würde, da das Netz oftmals anonym ist und man den Täter eh nicht ermitteln kann. Die Realität ist aber, dass enorm viele Menschen, anders als man das denken könnte, mit Klarnamen agieren. Wir sind ja selber als LSVD immer wieder von Hasskommentaren betroffen und sehen: Der überwiegende Teil der Menschen agiert mit Klarnamen.

„Nicht für alle Menschen ist eine Anzeige das Beste aller Mittel“

netzpolitik.org: Raten Sie Betroffenen auch mal von einer Anzeige ab?

Florian Winkler-Schwarz: Wir raten allen Menschen, Vorfälle bei uns zu melden, damit sie in die Statistik eingehen. Aber nicht für alle Menschen ist eine Anzeige das beste Mittel. Manche wollen vielleicht einfach nur reden, eine Einschätzung bekommen, ob ein Kommentar überhaupt strafbar ist. Vieles im Netz schrammt ja absichtlich an der Grenze zur Strafbarkeit entlang. Am Ende entscheidet immer die betroffene Person, was sie tun möchte.

netzpolitik.org: In Berlin wurde gerade ein 20-Jähriger verurteilt, weil er insgesamt sieben schwule Männer mit einer Dating-App in eine Falle gelockt, ausgeraubt, zusammengeschlagen und erniedrigt hatte. Andere ahmen die Taten nach.

Florian Winkler-Schwarz: Das ist ein Phänomen, wo wir die Grauzone sehen zwischen digitaler und körperlicher Gewalt auf der Straße. Da sieht man, dass es eine krasse Schnittstelle gibt zwischen Anbahnung dieser Gewalttat im Netz und Ausführung im öffentlichen Raum oder in der privaten Wohnung. So etwas ist noch nicht im Strafgesetz ausreichend berücksichtigt.

netzpolitik.org: Die Berliner Polizei hatte diese Fälle teils nur als „schweren Raub“ eingeordnet und nicht als queerfeindliche Straftat. Was ist da schief gelaufen?

Florian Winkler-Schwarz: Das müssen Sie die Polizei fragen. Wenn das Merkmal Queerfeindlichkeit nicht erfasst wird in der Anfangsanzeigenaufnahme, dann verschwindet so ein Fall auch aus der Statistik. Da wäre die dringende Bitte an die Polizei, dafür zu sorgen, dass alle Kolleg*innen so sensibel geschult werden, dass queerfeindliche Gewalt von Anfang an richtig gekennzeichnet wird.

netzpolitik.org: Was würden Sie jemanden sagen, der gerade digitale Gewalt erlebt und zögert, sich zu melden?

Florian Winkler-Schwarz: Bitte melde dich auf jeden Fall bei uns. Das Beratungsgespräch ist komplett unverbindlich und wir sind vor allem da, um dir zuzuhören. Du entscheidest am Schluss, was passiert. Wenn gar nichts passieren soll, ist das total in Ordnung. Aber wir würden dir gerne die Möglichkeiten aufzeigen, die du hast, dich zu wehren.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Chatbots wirken auch bei persönlichen Fragen oft wie eine neutrale Instanz. Unsere Recherche zeigt, wie sehr das bei einem Schwangerschaftsabbruch täuschen kann – besonders dann, wenn man ChatGPT um Rat fragt.

Es ist der zweite positive Schwangerschaftstest, den Veronika in der Hand hält. Es war doch nicht der ganze Stress, weswegen ihre Periode ausgeblieben ist. Veronika ist schwanger. Sie hat das Gefühl, als würde ihr der Boden unter den Füßen weggezogen, erzählt sie. Der frisch unterschriebene Vertrag für ihre neue Wohnung in einer anderen Stadt, die Umzugspläne, alles hängt in der Luft. Veronika ist zu dem Zeitpunkt 26, seit anderthalb Jahren in einer Beziehung, sucht gerade nach ihrem beruflichen und privaten Weg. Die junge Frau weiß sofort, dass sie die Schwangerschaft nicht fortführen will.

Veronika sucht nach Informationen: bei Google, in Foren, bei ChatGPT. „Herzlichen Glückwunsch zur Schwangerschaft!“, sagt der Chatbot prompt, als sie ihm die erste Frage stellt. Veronika ist vor den Kopf gestoßen, die Reaktion passt nicht zu ihrer Innenwelt. Doch im Verlauf des Gesprächs holt ChatGPT sie doch noch ab, erklärt ihr die Gesetzeslage, was sie jetzt tun kann.

„Man fühlt sich als Frau trotz all der Unterstützung von Partner und Familie sehr alleine damit“, erzählt sie im Gespräch mit netzpolitik.org. „Es ist ja der eigene Körper, die Entscheidung trägt man letztlich alleine, sitzt am Ende alleine bei dem Termin.“

Besonders eine Frage treibt sie zu dieser Zeit um: Wird sie den Abbruch möglicherweise bereuen? Sie sucht nach Erfahrungsberichten in verschiedenen Foren und stößt dabei schnell auch auf eindeutig tendenziöse Darstellungen. Weil sie es genau wissen will, fragt sie den Chatbot nach Studien.

Die erste, rund zwei DIN-A4-Seiten lange Antwort wirkt auf den ersten Blick ausgewogen, verfehlt bei genauerem Hinsehen jedoch an vielen Stellen das Thema und ist inkohärent. Veronika gräbt tiefer und bittet um aktuelle Studien aus Deutschland. Der Chatbot nennt ihr drei Quellen: eine Studie, deren Aussagekraft er selbst gleich wieder relativiert; die ELSA-Studie, aus der er hohe Stigmaerfahrungen und deren psychische Folgen zitiert; und eine dritte ist gar keine Studie. „Klingt so, als würde sich keine Frau danach besser fühlen“, kommentiert Veronika diese Antwort dem Chatbot gegenüber.

Was ChatGPT dabei nicht einordnet: Die dritte Quelle stammt aus einem Netzwerk von Abtreibungsgegner:innen. Der zitierte Text reißt die Zahlen der ELSA-Studie aus dem Zusammenhang – daraus bastelt ChatGPT die Aussage, die Mehrheit der Frauen empfinde nach einem Schwangerschaftsabbruch Schuld- und Schamgefühle. „Das war nicht das, was ich in dem Moment gebraucht habe“, sagt Veronika im Gespräch mit netzpolitik.org.

Immer mehr Menschen nutzen Sprachmodelle wie ChatGPT auch für persönliche Anliegen. Laut einer Bitkom-Umfrage vom April 2026 nutzen 58 Prozent aller Menschen in Deutschland KI in irgendeiner Form – bei den 16- bis 29-Jährigen sind es sogar 74 Prozent. 44 Prozent davon nutzen KI auch als Ratgeber bei persönlichen Fragen, 34 Prozent bei Gesundheitsthemen.

Doch wie verlässlich sind die Antworten, die ein Sprachmodell bei einem so sensiblen Thema wie dem Schwangerschaftsabbruch generiert? Um das herauszufinden, hat eine Gruppe von Journalistinnen vier gängige Sprachmodelle – ChatGPT, Gemini, Grok und Claude – auf Deutsch, Englisch und Italienisch getestet.

---

---

„Du bist nicht allein“

Der Test zeigt, dass die Chatbots erstmal in allen Sprachen verständnisvoll reagieren, wenn die Personas eine ungewollte Schwangerschaft offenbaren. Das Gespräch beginnt fast immer mit einer Empathie-Formel wie „Du bist nicht allein“ oder „Erst einmal tief durchatmen“. Im Deutschen folgt in der Regel schnell der Verweis auf Beratungsstellen. Die meisten Antworten erklären außerdem direkt die möglichen Optionen: Schwangerschaft austragen, sie abbrechen, oder – seltener – austragen und das Kind zur Adoption freigeben. Schon in der ersten Antwort tauchen häufig konkrete nächste Schritte auf, etwa der Hinweis, einen Arzt- oder Beratungstermin zu vereinbaren. Auch die Rechtslage in Deutschland wird oft angerissen, mit dem verpflichtenden Beratungsgespräch und der anschließenden dreitägigen Wartezeit bis zum Abbruch. Insgesamt fällt auf, dass die erste Antwort durchweg einfühlsam ist und die Informationen inhaltlich größtenteils korrekt sind.

Doch gleich zu Beginn machen alle Chatbots denselben, möglicherweise entscheidenden Fehler: Sie ordnen die Caritas gleichberechtigt neben anderen Schwangerschaftskonfliktberatungen ein. Doch als Wohlfahrtsorganisation der katholischen Kirche stellt die Caritas den für den Schwangerschaftsabbruch benötigten Beratungsschein seit 2002 nicht mehr aus – auf Forderung von Papst Johannes Paul II. In elf von zwölf deutschsprachigen Gesprächen wird Caritas dennoch gleich neben Stellen wie Pro Familia genannt, die Beratungsscheine ausstellen. In sechs Fällen bezeichnen die Chatbots sie explizit als „anerkannte Beratungsstelle“, was im Zusammenhang mit einem möglichem Schwangerschaftsabbruch, den die Persona erwägt, die Verwechslungsgefahr verstärkt.

„Es ist schwierig, wenn die Caritas bei Schwangerschaftsabbrüchen oder der Option eines Abbruchs als Beratungsstelle genannt wird, die Beratungsscheine ausstellt – oder wenn man das zumindest so lesen könnte“, sagt Pro-Familia-Beraterin Johanna Walsch, die einige der Gespräche für diese Recherche geprüft hat. „Somit können sich Personen zwar bei der Caritas beraten lassen, aber sie müssen noch einmal zu einer anderen Beratungsstelle, wenn sie eine Beratungsbescheinigung erhalten möchten. Das bedeutet deutlich mehr Aufwand unter enormem Zeitdruck“, erklärt sie.

Abtreibungsgegner:innen mit der Stimme der KI

Eine ehemals ungewollt schwangere Person, die ihre Erfahrung mit uns geteilt hat, erinnert sich aus der Zeit auch an ein Forum, auf das sie bei ihrer Recherche gestoßen ist. Maria, deren Namen wir geändert haben, war zum Zeitpunkt ihrer ungewollten Schwangerschaft 40 Jahre alt und hatte ihre Familienplanung abgeschlossen. Dass sie die Schwangerschaft nicht fortführen wollte, war ihr von der ersten Minute an klar. Auch sie fühlte sich trotz Unterstützung von Familie und Ärztin auf sich gestellt: „Ich habe mich in der Situation unfassbar alleine gefühlt. Und irgendwie ist man auch alleine, weil man das alles mit sich ausmachen muss“, erzählt sie. „Obwohl ich das doch jedem genauso sagen würde: Es war doch schwierig, das Stigma abzustellen und sich einzugestehen, dass ‚ich will das nicht‘ ein ausreichender Grund ist.“

Um dem entgegenzuwirken, suchte sie nach Erfahrungsberichten. Damals bei Google. Sie stieß auf ein Forum auf der Seite Profemina. „Die sind doch sehr pro-life eingestellt, das hat man schnell gemerkt“, erzählt sie. Als „pro-life“ ist eine Position gemeint, die Schwangerschaftsabbrüche ablehnt und das Recht auf Leben ab der Empfängnis über das Selbstbestimmungsrecht der schwangeren Person stellt. Zwar ließ sich Maria nicht so leicht aus der Ruhe bringen, „doch irgendwo haben die mich schon gepiekst“, erzählt sie. Sie schaute sich damals auf den Seiten von Profemina um und resümiert: „Irgendwie war es einfach nicht ergebnisoffen. Es ging immer so in die Richtung: Vielleicht geht’s ja doch. Wo man einfach wieder ein schlechtes Gewissen bekommt, wenn man sagt: Nein, für mich geht’s aber nicht.“

Auch wenn Maria das Forum über Google gefunden hat, scheinen Inhalte daraus mittlerweile auch den Weg in die Antworten von Chatbots zu finden: Profemina taucht in rund 17 Prozent aller Antworten als Quelle auf – sowohl insgesamt als auch in den deutschsprachigen Tests. Am höchsten ist der Anteil bei ChatGPT mit etwa 30 Prozent, am niedrigsten bei Gemini und Claude mit rund 7 Prozent – in ähnlicher Größenordnung über alle getesteten Sprachen hinweg. Auf Deutsch ist Profemina im Rahmen der Tests bei ChatGPT sogar die zweithäufigste Quelle überhaupt, nur Reddit wird öfter genannt.

Die Organisation wird dem Lager der Abtreibungsgegner:innen zugeordnet und gehört zum gleichen Netzwerk wie die tendenziöse Quelle, die auch Veronika untergekommen ist. Profemina ist 2018/19 in die Schlagzeilen geraten. Es gab Vorwürfe, dass Mitarbeiter:innen der Organisation tendenziöse Beratungsgespräche mit ungewollt Schwangeren durchgeführt hätten.

Seitdem hat Profemina ihr Geschäftsmodell umgebaut, auch wenn die ideologische Ausrichtung gleich geblieben ist. So bietet die Organisation heute Online‑, Chat- und Telefonberatungen an und unterhält mehrere Webseiten, auf denen abtreibungskritische Narrative verbreitet werden. Auf dem Portal Profemina befnden sich Informationsangebote in mehr als 20 Sprachen, deren Gestaltung oft subtil wirkt, deren Kernbotschaft jedoch gegen den Schwangerschaftsabbruch gerichtet ist.

Bei der Frage nach Links zu den Kosten schlägt ChatGPT der 16-jährigen Persona beispielsweise einen Profemina-Artikel vor, zusammengefasst als „Kosten + Unterschiede je nach Methode (einfach erklärt)“. Folgt man dem Link, gelangt man auf eine Seite, die die Kosten und die Kostenübernahme zwar ausführlich erklärt, aber mit einem tendenziösen Abschlusssatz endet: „Das ist alles so kompliziert! Was nun?” Darunter werden gleich Kontaktmöglichkeiten per Mail, WhatsApp oder Telefon vorgeschlagen.

Besonders oft taucht Profemina dann als Quelle auf, wenn die Personas auf der Suche nach Erfahrungsberichten sind. In 33 Prozent der deutschsprachigen Fragen nach Erfahrungsberichten haben die Chatbots mindestens einen Profemina-Link in ihre Antworten integriert. Bei ChatGPT lag dieser Anteil sogar bei 64 Prozent.

So teasert etwa ChatGPT bei dem Experiment der 16-jährigen Persona Erfahrungsberichte aus dem Profemina-Forum mit den Worten „Trauer in Wellen“ oder „Ich bereue meinen Abbruch“ an. Der Chatbot verweist außerdem auf Reddit-Beiträge in ähnlichem Ton. Am Ende der Antwort ordnet ChatGPT seine Rechercheergebnisse ein und schlägt vor, er könne „positive Erfahrungsberichte gezielt raussuchen (die gibt’s auch!)“. Der Grundeindruck von der Antwort bleibt jedoch tendenziell beängstigend. „Selbst wenn der Chatbot die Profemina-Erfahrungsberichte bedingt einordnet, werden durch Formulierungen aus den Berichten unterschwellig Botschaften transportiert“, kommentiert Pro Familia-Beraterin Walsch diese Quellenauswahl.

Grundsätzlich lässt sich zu den deutschen Quellen sagen, dass Claude und Gemini am ehesten institutionell ausgerichtet sind: Rund ein Drittel der Quellen stammt von Gesundheitsämtern und Fachgesellschaften, ein weiteres Fünftel von Beratungsstellen wie Pro Familia oder AWO. Presse und Foren spielen kaum eine Rolle. Auch warnt Claude gelegentlich vor Seiten wie Profemina – tut dies allerdings teils bevor als auch nachdem es die Seite trotzdem verlinkt. Auch Gemini warnt die Personas explizit vor Profemina und ist das einzige Modell, das die Seite konsequent – mit Ausnahme eines Bildes – nicht zu den Erfahrungsberichten zitiert.

ChatGPT hat dabei ein komplett anderes Profil. Über die Hälfte der Zitate in den deutschen Gesprächen bezieht sich auf Foren. Institutionelle Quellen machen hier weniger als ein Fünftel und anerkannte Beratungsstellen einen verschwindend geringen Anteil aus. Presseberichte zitiert der Chatbot ebenso wenig. Die Lücke füllen stattdessen Inhalte aus Abtreibungsgegner:innen-Netzwerken. Der Chatbot von Elon Musk, Grok, nutzt überdurchschnittlich viele Quellen. Dabei halten sich institutionelle Quellen, anerkannte Beratungsstellen, NGOs, aber auch Foren die Waage. Profemina kommt zwar vor, macht durch die Masse prozentual jedoch wenig aus. Grok hat zudem den höchsten Anteil an Publikumsmedien als Quelle.

Wie LLMs funktionieren

Das Problem bei den Chatbots wie ChatGPT ist, dass es sich dabei für die Nutzer:innen um eine „Black Box“ handelt. Wie genau sie funktionieren, ist unklar. Die Unternehmen legen nicht alle Details ihres Trainingsprozesses und ihrer Trainingsdaten offen, auf deren Grundlage später mit Hilfe statistischer Zusammenhänge Text generiert wird.

Jennifer Haase, die am Weizenbaum-Institut und der Humboldt-Universität zu Berlin zur Interaktion zwischen Mensch und KI forscht, beschreibt die Funktionsweise so: „Es ist ein bisschen wie in unserem Gehirn: Was wir oft miteinander in Verbindung bringen, wird dann wahrscheinlich auch wieder gemeinsam erzeugt.“ Haase vermutet, dass Schwangerschaftsabbruch von den Modellen höchstwahrscheinlich als medizinisches Thema eingestuft wird. Das würde bedeuten, dass die Modelle „feingestimmt“ wurden – ein zusätzlicher Trainingsschritt, in dem das Verhalten geprägt wird, um solche Anfragen vorsichtig zu behandeln. Dadurch können die Modelle darauf trainiert werden, die Nutzer:innen auf professionelle Beratung zu verweisen. Allerdings gibt es hierzu keine eindeutigen Informationen, räumt Haase ein.

„Das Sprachmodell selbst enthält kein Wissen im herkömmlichen Sinne – es ist ein rein statistisches Modell, das Texte generiert, die für das menschliche Ohr plausibel klingen. Das muss nicht wahr sein“, erklärt Simon Ostermann vom Deutschen Forschungszentrum für Künstliche Intelligenz. „Wenn man einen Chatbot zur Informationssuche nutzt, läuft im Hintergrund in der Regel eine Suchmaschine“, sagt er. Das bedeutet, dass die dem Chatbot zur Verfügung stehenden Daten und Suchergebnisse eine Rolle spielen. Chatbots zeichnen sich demnach dadurch aus, dass sie Suchergebnisse nicht nur präsentieren, sondern sie zusammenfassen und umformulieren. „Sprachmodelle haben eine große Kontextgröße. Sie können viel Text auf einmal lesen. Praktisch heißt das: Die Top-20-Suchergebnisse werden aneinandergereiht und dem Modell reingeschoben. Aus denen macht es dann eine halbe Seite Zusammenfassung“, so Ostermann. Folglich bleibt die klassische SEO-Optimierung relevant. Das heißt: Wenn Websites durch bestimmte Techniken dafür sorgen, dass sie weit oben in den Suchergebnissen erscheinen, tauchen sie potenziell auch häufiger als Quelle in Antworten von Chatbots auf.

Im Umkehrschluss bedeutet das, dass das Problem der unausgewogenen Quellen bei Chatbots damit zusammenhängt, welche Akteure im Netz besonders präsent beziehungsweise gut auffindbar sind. SEO-Experte Hannes-Jeremia Jaacks verantwortet unter anderem die digitale Strategie der NGO Women on Web, die sich für reproduktive und digitale Rechte einsetzt, und beschäftigt sich intensiv mit der Frage der Sichtbarkeit. Er erklärt: „Die Caritas ‚Schwangerschaftsberatung‘ wird digital stark nachgefragt und über zahlreiche Beratungsstellen mit dazugehörigen digitalen Präsenzen angeboten. Daraus entsteht eine Verknüpfung der Begriffe für die Algorithmen.“ Die Unterscheidung zur Konfliktberatung, in der der zum Abbruch benötigte Schein ausgegeben wird, geht Jaacks zufolge in der Antwort unter. „Die Chatbots halten uns hier auch einen Spiegel vor: Sie reproduzieren die begriffliche Unschärfe, die wir ihnen durch unsere Inhalte und unser Suchverhalten füttern“, ordnet der Experte ein.

Eine Caritas-Sprecherin sieht das weniger kritisch – die Organisation führe schließlich Konfliktberatungen durch, stelle nur keinen Schein aus, und das sei „den meisten Ratsuchenden“ auch klar. Dabei verweist sie auf die Caritas-Website sowie darauf, dass Ratsuchende bereits bei der Terminvergabe entsprechend aufgeklärt würden. Gegenüber netzpolitik.org sagt sie, dass die gute Auffindbarkeit der Beratungsangebote im Internet dem Ziel diene, „einen möglichst niedrigschwelligen Zugang zu Beratung und Unterstützung zu ermöglichen.“

Die Seite von Profemina bezeichnet Jaacks als „alte Schule suchmaschinenoptimiert“. Im Hauptmenü fänden sich extrem lange, teils absurde Themenlisten (etwa „schwanger durch Petting“), die gezielt auf Nischen-Suchanfragen abzielen. „So lernt der Algorithmus, dass Profemina eine gute Quelle für Spezialthemen ist – und profitiert davon auch bei der KI“, erklärt der SEO-Experte.

Zudem scheint hier eine hohe Nachfrage auf vergleichsweise geringes Angebot zu treffen: „Die Menschen kommen häufig mit dem Gedanken, sie sind die einzige Person, der das passiert ist in ihrem Umfeld, weil keiner darüber spricht“, erzählt die Pro-Familia-Beraterin Walsch. „Da fehlt es definitiv an Austausch untereinander. Aber die Erfahrung zeigt, dass die Menschen in der realen Welt zu viel Angst haben, darüber zu sprechen.“ Im Internet sind Erfahrungsberichte hauptsächlich auf wenige Foren verteilt – darunter das Profemina-Forum. Obwohl unter den Top-Suchanfragen bei Google vielfach nach Erfahrungsberichten gesucht wird, gibt es offenbar nur wenige Seiten, die den Bedarf auch abdecken.

Alle vier Tech-Unternehmen wurden um Interviews gebeten. Anthropic (Claude) und xAI (Grok) reagierten nicht. Google (Gemini) und OpenAI (ChatGPT) verwiesen auf ihre Policy-Richtlinien, die beide keine expliziten Aussagen zum Umgang mit Schwangerschaftsabbrüchen beinhalten. Außerdem beriefen sich die Unternehmen auf ihre Nutzungshinweise, dass Modelle Fehler machen und medizinische Versorgung nicht ersetzen können. Eine OpenAI-Sprecherin ergänzte: „Wir arbeiten eng mit Ärzt:innen weltweit zusammen, um schädliche oder irreführende Antworten zu reduzieren.“ Das seit 5. Mai 2026 – nach dieser Recherche-Testreihe – verfügbare GPT‑5.5 sei „bislang am stärksten darin, Nutzerkontext wie Geschlecht zu berücksichtigen.“

Potenzial mit Schwachstellen

Trotz aller Probleme bietet generative KI Chancen. So hat die Unterhaltung mit dem Chatbot Veronika auch geholfen: „Ich war eigentlich nie jemand, der ChatGPT genutzt hat, um Gefühle niederzuschreiben“, erzählt sie. „Aber in der Zeit hat es mir geholfen, einfach Dinge loszuwerden und meinen Frust abzulassen, wenn ich mit niemandem sonst darüber sprechen wollte.“ Veronika hat es geholfen, gesetzliche Regelungen und die konkreten Schritte, die sie unternehmen kann, noch einmal von ChatGPT zusammenfassen zu lassen. „Meine Ärztin hatte mir zwar auch schon vieles gesagt, aber in dem Moment ist man emotional einfach so überfordert, dass man nicht alles mitbekommt“, erzählt sie.

Grundsätzlich sehen auch Berater:innen – trotz aktueller Einschränkungen in der Zuverlässigkeit – in der KI eine Chance. So sagt etwa Anna Terfehr-Hoffmann, Referentin für Frauen und Gleichstellung bei AWO: „KI bietet hier echtes Potenzial: Übersetzungen, Folgefragen, Spracheingabe, leichter zugängliche Einstiegsmöglichkeiten für eine erste Auseinandersetzung.“ Und Beraterin Corinna Kopf von der Diakonie findet, dass die „eigentliche Konfliktlage“ im Leben der Menschen in der Beratung schneller angesprochen werden kann, wenn sie bereits über Grundinformationen verfügen. Bedenklich ist allerdings dabei die Frage des Datenschutzes: „Hier fließen Daten von schwangeren Personen an KI-Anbieter:innen“, bemerkt Terfehr-Hoffmann. „Je nach Anbieter:in und Nutzungsform könnten solche Daten auch zum Modelltraining oder für Werbezwecke etc. eingesetzt werden.“

Branchenübergreifend gilt es als erstrebenswert, von Chatbots zitiert zu werden – auch in der Schwangerschafts- und Schwangerschaftskonfliktberatung, um verlässliche Informationen bereit zu stellen. Unsicherheit, wie das technisch überhaupt gehen soll und zugleich die Sorge, dass sich die Ausrichtung der Chatbots kaum steuern lässt, schwingt jedoch bei allen Gesprächspartner:innen aus der Beratung mit.

Die Verschlossenheit der Technologie und die Deutungshoheit privater Unternehmen über ihre Inhalte bleiben ein Aspekt, den es künftig mitzudenken gilt. Unser Experiment zeigt, wie deutlich sich dabei aktuell Lücken auftun – Lücken, die die Chatbots teils fehlerhaft selbst füllen, die teils aber auch ausgenutzt werden können, um mit tendenziösen Informationen zu Menschen in Konfliktsituationen vorzudringen. Die Konsequenzen dieser Gemengelage tragen am Ende jene, die es am wenigsten gebrauchen können – ungewollt Schwangere auf der Suche nach verlässlichen Informationen. „In dem Moment habe ich an jedem Seil gezogen, was mir helfen könnte“, erzählt Veronika mit Blick auf ihre Erfahrung mit dem Chatbot. Und Referentin Terfehr-Hoffmann schlussfolgert: „Es ist durchaus eine politische Kernaufgabe, den Zugang zu verlässlichen, evidenzbasierten Informationen auch in diesem Bereich abzusichern.“

Dieser Beitrag entstand im Rahmen des „Algorithmic Accountability Reporting Fellowships“ der Organisation AlgorithmWatch. Marta Abba und Carlotta Dotto haben bei der Recherche mitgewirkt.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Am Freitag hat der Bundestag den Einsatz von KI-Kameras an Bahnhöfen beschlossen. Weitere automatisierte Überwachungstools sollen folgen. Doch die haben in einer Demokratie nichts verloren. Ein Kommentar.

Im vergangenen Jahr hat automatisierte Videoüberwachung des öffentlichen Raums in Deutschland einen erstaunlichen Siegeszug hingelegt. Zuvor gab es sie nur in Mannheim. Vor fast genau einem Jahr wurde sie in Frankfurt am Main gestartet, vor zehn Monaten in Hamburg.

In Berlin wird der Einsatz gerade vorbereitet, ebenso in zwei Städten in Baden-Württemberg. Und am Freitag hat der Bundestag den Einsatz an deutschen Bahnhöfen beschlossen. Vier Tage zuvor hat das Innenministerium einen Gesetzentwurf veröffentlicht, der dem Verfassungsschutz den Zugriff auf Überwachungsanlagen erlaubt.

Die Kontrolle von Menschen mittels automatisierter Videoüberwachung eskalierte innerhalb eines Jahres vom experimentellen Probelauf zur kommenden Realität. Das ging rasant.

Die Systeme in den verschiedenen Städten erkennen bislang entweder bestimmte Verhaltensmuster oder Gesichter auf Videostreams. In Baden-Württemberg und an den deutschen Bahnhöfen sollen die Technologien zusammen ausgerollt werden.

Die Bundesregierung will BKA und Bundespolizei zudem bald weitere, extrem invasive Maßnahmen der automatisierten Überwachung erlauben: Eine Internetsuchmaschine für Stimmen und Gesichter und eine Megadatenbank mit KI-gestützter Analyse, wie sie auch Palantir im Angebot hat. Entsprechende Befugnisse für BND und Verfassungsschutz finden sich ebenfalls im Entwurf des Geheimdienstgesetzes.

Der gläserne Mensch unter Generalverdacht

Zusammengedacht ergibt das ein System, das vollautomatisiert kontrolliert, was Menschen in der Öffentlichkeit tun, sie bei unerwünschtem Verhalten identifiziert und dann gleich auch noch recherchiert, wo sie sich bewegen und mit wem sie bekannt sind.

Jede einzelne der kommenden Technologien stellt alle Menschen unter Generalverdacht. Jedes Gesicht wird gescannt, jedes Verhalten wird bewertet, jeder Mensch, der mit der Polizei zu tun hat, landet in der Megadatenbank. Die totalitären Tendenzen sind der automatisierten Überwachung immanent. Sie gefährdet die Demokratie und läuft ihr ganz grundsätzlich zuwider.

Demokratie ist die Aushandlung der Bedürfnisse verantwortungsbewusster Individuen, von denen angenommen werden muss, dass sie sich angemessen verhalten. Abweichungen können geahndet werden, doch ohne die grundsätzliche Vor-Annahme der Wohlgesonnenheit seiner Bewohner*innen kippt ein System ins Totalitäre. Demokratie hat auch etwas mit Vertrauen zu tun. Wer meint, alle Menschen fürchten zu müssen, wird versuchen, sie zu kontrollieren. Da wo jeder verdächtig ist, beginnt der Überwachungsstaat.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Bei der Plattform Lieferando haben sich die Arbeitsbedingungen im Vergleich zum vergangenen Jahr verschlechtert, bei den Plattformen Wolt, Bolt, Uber und Uber Eats sind sie gleichermaßen schlecht geblieben. Auf diese Missstände verweist der kürzlich veröffentlichte Fairwork-Bericht.

Flink, eine Lieferplattform für Lebensmittel, steht allein auf dem Siegertreppchen für faire Arbeitsbedingungen. Mit einigem Abstand folgt Helpling, eine Plattform für Reinigungsdienstleistungen. Die Plattform bietet Beschäftigten immerhin faire Arbeitsverträge an. Das ist schon mehr als die Unternehmen Wolt, Bolt, Lieferando, Uber und Uber Eats tun. Sie teilen sich den hintersten Platz, weil sie keine fairen Arbeitsbedingungen nachweisen können.

Auf diese Defizite verweist der Fairwork-Bericht 2026 (PDF). In der Studie des Wissenschaftszentrums Berlin (WZB) und des Oxford Internet Institutes der Universität Oxford haben Forscher*innen zum vierten Mal die Arbeitsstandards in der deutschen Plattformökonomie untersucht.

Das macht faire Arbeitsstandards aus

Um Plattformen hinsichtlich ihrer Arbeitsstandards zu bewerten, haben die Forschenden fünf Bereiche definiert. In diesen fünf Bereichen wurden Kriterien definiert, die faire Arbeitsbedingungen ausmachen. Erfüllen die Plattformen die Kriterien, können sie in jedem Bereich zwei Punkte sammeln.

Erhält ein Unternehmen die maximal zu erreichende Punktzahl zehn, würde es übersetzt die Mindeststandards fairer Arbeitsbedingungen voll erfüllen. Flink hat als bestbewertete Plattform sieben Punkte erreicht. Wolt, Bolt, Lieferando, Uber und Uber Eats haben null Punkte in der Wertung.

Plattformbeschäftigte befinden sich demnach in einem fairen Arbeitsverhältnis, wenn

1. faire Bezahlung besteht, entsprechend dem Mindestlohn.
2. faire Arbeitsbedingungen herrschen, etwa durch angemessene Sicherheitsausrüstung oder eine Unfallversicherung.
3. faire Verträge abgeschlossen sind, sprachlich verständlich und frei von unfairen Bedingungen.
4. faire Managementprozesse ablaufen, durch die Beschäftigte etwa gegen Zahlungsprobleme oder andere Sanktionen vorgehen können.
5. faire Mitbestimmung möglich ist, wenn Betriebsräte gewählt und legitimiert werden.

Praktisch herrschen schlechte Arbeitsbedingungen

Die Mindeststandards fairer Arbeit bietet keine der untersuchten Plattformen.

Die Arbeitssituation von Beschäftigten kennzeichnet sich weiterhin durch Löhne unterhalb des Mindestlohns, durch nicht vorhandene oder undurchsichtige Arbeitsverträge, durch eingeschränkte soziale Absicherung und durch fehlende Möglichkeiten, gegen diskriminierende Managemententscheidungen vorzugehen. So lautet die Bestandsaufnahme des Berichts.

In der Einzelbetrachtung achtet lediglich das Unternehmen Flink grundlegende Arbeitnehmerrechte und setzt sich für den Schutz der Beschäftigten ein. Zwar überwacht auch diese Plattform, wie viele Lieferungen die Beschäftigten pro Stunde ausführen und wie sie von Kund*innen bewertet werden. Die Höhe des Gehalts oder die zugeteilten Aufträge beeinflusst das jedoch nicht. Nur eine unabhängige Interessenvertretung existiert nicht.

Bei Flink besteht ein eindeutiges Verhältnis zwischen Arbeitgeber und Arbeitnehmer. Als einzige der untersuchten Plattformen sind Beschäftigte direkt angestellt und nicht über Subunternehmen, wie es ansonsten branchentypisch geworden ist.

»Brutaler Manchesterkapitalismus, der die Rechte von Arbeitnehmern aushöhlt«

Subunternehmen drücken die Arbeitsstandards

Der Fairwork-Bericht bestätigt durch wissenschaftliche Untersuchungen nun, worauf medial bereits aufmerksam gemacht wurde. Arbeiten Plattformen mit Subunternehmen zusammen, führt das für die Beschäftigten zu schlechteren Arbeitsbedingungen.

Sichtbar wird dieses Ergebnis am Fall des Lieferdienstes Lieferando. Konnte sich die Plattform im Fairwork-Bericht 2025 in puncto fairer Verträge, fairer Managementprozesse und fairer Mitbestimmung noch teilweise behaupten, erfüllt Lieferando heute keine Kriterien fairer Arbeitsbedingungen mehr.

Das Unternehmen setzt seit Frühjahr 2025 vermehrt auf die Zusammenarbeit mit Subunternehmen.

Die Debatte über das Direktanstellungsgebot

Wurden Subunternehmerstrukturen im Fairwork-Bericht 2025 noch als relativ neues Phänomen der Plattformökonomie behandelt, liegt der Fokus des diesjährigen Berichts auf möglichen Auswegen. Zur Debatte steht ein Direktanstellungsgebot. Würde so ein Gebot als gesetzliche Vorgabe eingeführt werden, wären Plattformen zur direkten Anstellung von Arbeitnehmer*innen verpflichtet.

In der deutschen Fleischindustrie wurde so ein Gesetz, das so genannte Arbeitsschutzkontrollgesetz, 2021 verabschiedet. In der Folge haben sich die Arbeitsbedingungen der Branche nachweislich verbessert.

Laut dem Fairwork-Bericht könnte ein Direktanstellungsgebot eine gültige Maßnahme zur nationalen Umsetzung der EU-Plattformarbeitsrichtlinie sein, die die Bundesregierung zum Schutz von Beschäftigten bis zum 2. Dezember umsetzen muss.

Die Umsetzung der EU-Richtlinie

In der Bundespolitik besteht jedoch eine kritische Haltung gegenüber der Direktanstellung. Während die Linke in einem Antrag solch ein Gebot fordert, befürchtet die CDU angebliche Nachteile für kleine Anbieter. Plattformen könnte der Markteintritt erschwert werden, während Beschäftigte nicht mehr auf ein flexibles Arbeitsmodell zurückgreifen könnten, so die Argumentation. Stattdessen soll sich an einer einheitlichen europäischen Regelung orientiert werden. Ähnlich positioniert sich auch die Plattform Lieferando.

Eine wissenschaftliche Untersuchung zeigt jedoch, dass ein Direktanstellungsgebot unter bestimmten Voraussetzungen auf andere Branchen übertragbar wäre. Die Arbeitsstandards in der Plattformökonomie erfüllen einige Voraussetzungen, aber es bedarf weiterer Prüfungen, lautet eine erste Einschätzung des Fairwork-Berichts. Nach juristischer Einschätzung wird die Bundesregierung so ein Gesetz allerdings eher als letztes Mittel statt als erste Entscheidung wählen.

Ob eine Maßnahme geeignet war, werde sich an ihrer Wirkung messen. Die Arbeitsbedingungen in der Plattformökonomie verbessern sich dann, „wenn die Verantwortung dort endet, wo auch die Gewinne anfallen: bei der Plattform selbst“, schlussfolgern die Forschenden.

Die Forschungsmethodik

Die Ergebnisse der Studie basieren auf drei Forschungsschritten. Zuerst wurden öffentlich verfügbare Informationen in einer Hintergrundrecherche zusammengeführt. Danach hat das Forschungsteam Interviews mit Plattform-Manager*innen geführt. Schließlich wurden Plattformbeschäftigte und Interessenvertretungen interviewt, wobei die Befragten überwiegend aus dem Raum Berlin stammen. Da das Fairwork-Projekt international angelegt ist, wurden die Bewertungen intersubjektiv von verschiedenen Länder-Teams geprüft.

Vor der Veröffentlichung des Berichts erhielten die bewerteten Plattformen die Möglichkeit, die Ergebnisse zu prüfen und zu kommentieren. Keine der Plattformen äußerte sich gegenüber den Forschenden.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Während sich Datenschutzbehörden in Europa gerade erst in Stellung bringen gegen die Überwachungsbrillen, entwickelt Meta offenbar schon an einer Brille, die dauerhaft aufzeichnet. Doch es regt sich immer mehr Protest gegen die übergriffige Technologie.

Meta arbeitet einem Bericht der Financial Times zufolge an einer Überwachungsbrille („smart glasses“), welche permanent Audioaufnahmen und alle paar Sekunden Fotos der Umgebung machen soll. Die Technologie wird euphemistisch „Super Sensing“ genannt, Nutzer:innen sollen dann die Meta-KI zu den Aufzeichnungen ihres Geräts befragen können.

Laut dem Tech-Medium The Verge sollen die Aufnahmen weder den Nutzer:innen noch Meta direkt zugänglich sein, sondern Metadaten aus diesen extrahiert werden und auf die Server des Unternehmens geladen werden.

Meta selbst wollte zwar gegenüber der Financial Times nichts zu „internen Prototypen“ sagen, verwies aber auf ein KI-Forschungsprojekt namens „Aria“, das angeblich Privatsphäre schützende Technologien entwickle. Dem Bericht zufolge verkauft Meta die Entwicklung der permanenten Überwachungsbrille offenbar als datenschutzfreundlich.

Dieser Logik entsprechend plane Meta, dass die Brille die permanenten Aufnahmen auch nicht durch eine Warnleuchte anzeigt, denn diese sei für „aktive Aufnahmeszenarien“ reserviert, heißt es in einem Whitepaper aus dem Jahr 2025, das The Verge verlinkt.

Schon aktuelle Generation ist gefährlich

Die beständige unkontrollierte Weiterentwicklung der Brillen zeigt, dass die existierenden Datenschutz- und Privatsphäre-Bedenken von der Industrie ignoriert werden. Zuletzt war Meta dabei aufgeflogen, in die existierende Brillengeneration Gesichtserkennung einbauen zu wollen. Nachdem WIRED darüber berichtet hatte, nahm der Konzern die Funktion vorerst aus der Programmierung.

Ich sehe was, was du nicht siehst

Doch schon die jetzt verfügbaren Überwachungsbrillen von Meta stehen massiv in der Kritik – und das nicht nur, weil sie für digitale Gewalt und unerlaubte Aufnahmen genutzt werden. Eine umfassende rechtswissenschaftliche Betrachtung stellte schon vor Jahren fest: „Smart Glasses bergen aufgrund fehlender Transparenz der Informationserfassung sowie mangelnder Kontrolle anschließender Informationsverarbeitung eine erhebliche Gefahr der Beeinträchtigung der Privatsphäre und damit rechtlich verbürgter Persönlichkeitsrechte der von ihnen erfassten Personen.“

Dabei gingen die Gefahren „weit über die bisher verwendeten Arten der optischen, akustischen und elektronischen Informationserfassung“ wie bei Videoüberwachung oder Smartphones mit Kameras hinaus. Problematisch ist dabei nicht nur die Tiefe des technischen Eingriffs, sondern auch die absehbare Breite ihrer Anwendung, wenn immer mehr Menschen die Brillen nutzen.

Proteste gegen die Brillen

Unterdessen gibt es aber auch immer mehr Protest gegen die Überwachungsbrillen. Eine britische Gruppe mit den Namen „Everyone hates Elon“ beispielsweise hängt falsche Werbe-Plakate im Namen von Meta auf. Darauf steht: „Der größte Fortschritt in Technologie für Perverse seit dem Trenchcoat“. Angespielt wird hier auf die Nutzer:innen der Brille, die heimlich Frauen aufnehmen und deren Bilder im Netz verbreiten.

Neben Aktivist:innen und Digital-Rights-Organisationen bringen sich auch die Datenschutzbehörden gegen die Überwachungsbrillen in Stellung.

Die französische Behörde CNIL hat im Mai eine Warnung vor den Brillen ausgesprochen. Sie stellten ein „erhebliches Risiko“ für die Normalisierung von Überwachung dar und könnten „zu einem tiefgreifenden Wandel unserer Gesellschaften führen“.

Auch der Europäische Datenschutzausschuss (EDPD) hat eine Arbeitsgruppe zum Thema eingerichtet. Ein Bericht soll diesen Sommer erscheinen. Nachdem Whistleblower:innen berichtet hatten, dass intime Aufnahmen aus Smart Glasses bei Datenarbeiter:innen landen, haben sich auch Abgeordnete des EU-Parlaments eingeschaltet und fordern Aufklärung.

Der Knackpunkt aus Sicht der Datenschutzgrundverordnung (DSGVO) ist die Frage, ob die kleine LED an der Brille den Anforderungen eines Hinweises genügt. Denn laut DSGVO darf nur gefilmt werden, wer erkennbar darauf hingewiesen wurde und zugestimmt hat („notice and consent“), egal ob das in der U‑Bahn oder auf einem Konzert geschieht. Verbraucherschützer:innen warnen, eine solche Einwilligung sei im Fall von Smart Glasses realistischerweise gar nicht möglich.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Ein Mitglied des EU-Komitees zur Untersuchung von Staatstrojaner-Einsätzen in der EU wurde mehrfach selbst ausspioniert — während der Ermittlungen.

Nicht mal einen irreführenden Link habe Stelios Kouloglou angeklickt. Dennoch wurde das Mitglied des EU-Sonderausschusses, das in den Jahren 2022 und 2023 den Einsatz kommerzieller Staatstrojaner-Software und mögliche Verstöße gegen EU-Recht untersuchte, selbst Opfer mehrerer Angriffe. Das kanadische Citizen Lab hat heute einen Bericht veröffentlicht, demzufolge auch geheime Dokumente und Besprechungen ausgespäht worden sein könnten.

Stelios Kouloglou ist investigativer Journalist und war zwischen 2015 und 2024 Mitglied des EU-Parlaments. Im Jahr 2022 wurde er stellvertretendes Mitglied des PEGA-Komitees der EU, das als Reaktion auf das Pegasus Project gegründet wurde: Dieses hatte offengelegt, dass Menschen aus dem Journalismus, Aktivismus und der Politik sowie andere Bürger:innen weltweit mit der Software Pegasus ins Visier genommen worden waren. Der Ausschuss sollte die europäische Dimension des Skandals untersuchen und Konsequenzen erarbeiten.

Während der Spionage-Ermittlung ausspioniert

Pegasus ist ein Staatstrojaner des israelischen Unternehmens NSO Group, mit der sich iOS- und Android-Geräte ausspähen lassen. Als Staatstrojaner gelten Programme, mit denen Ermittlungsbehörden heimlich in IT-Systeme eindringen und diese überwachen.

Dem Citizen Lab der Universität Toronto zufolge ist dies der erste Nachweis, dass ein Mitglied des PEGA-Ausschusses Ziel eines Angriffs geworden war. Angestoßen wurde die Analyse durch das Opfer selbst: Im Mai dieses Jahres wandte sich Kouloglou an das Citizen Lab, das eine forensische Analyse seines iPhones durchführte. Das Ergebnis: Sein Gerät wurde gleich zwei Mal, am 21. Oktober 2022 und am 6. und 7. März 2023 mit Pegasus infiziert. Der erste Angriff lag in einer „besonders intensiven“ Arbeitsphase des Komitees zu einem vorläufigen Bericht über Überwachungsfälle. Zum Zeitpunkt des zweiten Angriffs trug Kouloglou zu Diskussionen um den finalen Ausschussbericht bei.

Das Citizen Lab schreibt die Angriffe keinem konkreten Klienten der NSO Group zu. Die Analyse würde aber darauf hinweisen, dass dieselben Angreifenden hinter den Attacken auf sieben russische und belarussische Journalist:innen und Aktivist:innen stecken könnten. Die Infektionen lassen sich mit derselben Apple-ID verbinden. Auf Kouloglous Smartphone kamen offenbar Infektionen in Belgien und Griechenland vor: Die Angreifenden könnten also über eine NSO-Group-Lizenz verfügt haben, die mehrere europäische Länder einschloss.

Alle Arbeit umsonst?

Das Citizen Lab ruft dazu auf, dass frühere Mitglieder des PEGA-Ausschusses und ihre Mitarbeitenden ihre Geräte analysieren lassen sollten. Es liege an der EU und auch nationalen Parlamenten, Angriffe auf ihre Parlamentsmitglieder und parlamentarische Prozesse zu untersuchen.

Dass die Analyse politisches Gehör findet, ist unwahrscheinlich: Die Empfehlungen des Komitees stauben ein. Seitdem haben abermalige Untersuchungen den Einsatz weiterer Staatstrojaner aufgedeckt. In Deutschland wurde noch in diesem Jahr ein Gesetzentwurf diskutiert, der der Bundespolizei erlauben würde, Geräte mit Schadsoftware zu infiltrieren.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der KI-Expertenrat der UN hat den ersten globalen Wissenschaftsbericht zu Künstlicher Intelligenz vorgelegt. Er zeigt: Regulierung kann mit der rasanten Entwicklung von KI nicht Schritt halten.

Das wissenschaftliche KI-Gremium der Vereinten Nationen hat am Mittwoch einen ersten vorläufigen Bericht zu den Chancen, Risiken und Einsatzmöglichkeiten Künstlicher Intelligenz veröffentlicht. KI könne massive Fortschritte in der Medizin, der Landwirtschaft und vielen weiteren Feldern bringen. Doch die Kluft zwischen ihrer rapiden Entwicklung und der aktuellen KI-Regulierung kann dem Bericht zufolge katastrophale Folgen haben, etwa in der Biotechnologie oder Cybersicherheit.

Das Gremium sieht ein großes Dilemma. Auf der einen Seite sollen Regierungen möglichst evidenzbasiert handeln. Auf der anderen Seite entwickeln sich KI-Technologien so schnell, dass Regulierung zu spät komme, wenn wissenschaftliche Befunde feststehen. „Die Fähigkeiten Künstlicher Intelligenz entwickeln sich schneller weiter, als es möglich ist, sie zu messen oder regulieren“, heißt es im Bericht. Zudem könne KI aktiv über ihre Fähigkeiten hinwegtäuschen. Selbst unter den Industrieländern mangele es an technischer Expertise, um Gefahren fortschrittlicher KI-Modelle einzuschätzen.

KI verstärkt globale Ungleichheiten

Ein weiterer Schwerpunkt des Berichts liegt auf dem Digital Divide, der Spaltung im Zugang zu Technologien zwischen reichen und armen Ländern. Folgen der Technologie für die Umwelt würden den Globalen Süden stärker treffen als den Norden, verzerrte KI-Modelle und Deepfakes vor allem marginalisierten Gruppen schaden. Darüber hinaus geht es den Fachleuten um Mitbestimmung: Länder, die KI zwar einsetzen, aber keinen Einfluss auf ihre Entwicklung haben, würden Anschluss und Kontrolle verlieren. Zu investieren sei deshalb lokal: nicht nur in eigene Infrastrukturen, sondern auch in KI-Kompetenz und Regulierungsmaßnahmen.

Das Gremium aus 40 internationalen Forschenden verschiedener Disziplinen soll unabhängig von den Vereinten Nationen arbeiten. Seine Aufgabe ist nicht, direkte politische Maßnahmen vorzuschlagen. Vielmehr sollen die Fachleute den aktuellen Wissensstand aufzeigen, damit daraus entsprechende Schritte abgeleitet werden können. Unter Künstlicher Intelligenz fasst das Gremium alle Maschinensysteme, die „wahrnehmen, lernen und handeln“.

Vom 6. bis 7. Juli findet in Genf der erste Global Dialogue on AI Governance statt: Hier dient der Bericht als Grundlage für die Gespräche der UN-Mitgliedsstaaten. Die Arbeit des Gremius geht unterdessen weiter. Der Bericht soll kontinuierlich erweitert werden, außerdem plant das Gremium Berichte zu inhaltlichen Schwerpunkten wie KI und Umwelt oder KI und Kinderschutz.

„Wir können nicht mehr sagen, wir hätten von nichts gewusst“, sagte UN-Generalsekretär António Guterres auf der Pressekonferenz zum Bericht. „Was wir damit tun, hängt jetzt von uns allen ab.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Kambodscha meldet, Hunderte von Scam-Fabriken geschlossen zu haben. Berichte von Amnesty International, der UN und Interpol widersprechen dieser Darstellung und zeigen, was tatsächlich mit den Zwangsarbeiter:innen geschieht.

Schon mal eine Betrugsnachricht via Social Media oder per SMS erhalten?

Hi, ist das die Nummer von David? :)

Es besteht die Chance, dass diese Nachricht aus einem „Scam Center“ – einer Fraud Factory – in Südostasien stammt. Laut Interpol stecken dahinter groß angelegte Betrugs-Ökosysteme, die auf Investment- und Liebesbetrug ausgelegt sind. Bei diesen Betrugsmaschen bauen die Täter oft über lange Zeiträume Vertrauen zu den Opfern auf. KI-Technologie treibe die Entstehung immer ausgefeilterer Methoden voran: KI-generierte Inhalte, manipulierte Audio- und Bilddateien und automatisierte Interaktionen, die über mehrere Plattformen hinweg simuliert werden.

Die Chance ist jedoch höher, dass hinter der Nachricht ein Mensch sitzt, der zum Betrügen gezwungen wird. Trotz der technischen Innovationen verlassen sich die kriminellen Organisationen weiterhin überwiegend auf die Ausbeutung von Zwangsarbeiter:innen.

Gezwungen von „chinesischen Gangstern“

Ein aktueller Amnesty-Bericht erzählt die Geschichte hinter den Betrugs-Chats aus der Perspektive dieser Opfer auf der anderen Seite: Eines davon ist Winta (kein Echtname). Winta suchte als 16-Jährige in Ost-Afrika nach einer Arbeit, ihre Mutter war kurz zuvor verstorben. Ein Mann habe Winta und ihrer Schwester Jobs auf einem Kreuzfahrtschiff angeboten und beide nach Sri Lanka gebracht. Doch von dort aus wurden sie laut des Berichts nach Myanmar und Laos verschleppt, wo „chinesische Gangster“ sie zur Arbeit in einer Scam-Fabrik zwangen.

Sieben Jahre später, im Jahr 2026, ist Winta in Kambodscha – weiterverschleppt in eine andere Anlage. Laut Amnesty wissen die Behörden zu diesem Zeitpunkt bereits seit vier Jahren von der Scam-Fabrik. Seit Beginn des Frühjahrs gehen die Behörden gegen einige davon vor. Doch Winta wird kurz vor dem Eintreffen der Polizei in eine andere Anlage gebracht – dort gefesselt und geschlagen – und zuletzt an einem Stadtrand nahe der thailändischen Grenze ausgesetzt. Die später eintreffende Polizei habe ihr und den anderen Opfern jedoch nicht geholfen, sondern gedroht: Die Ausgesetzten sollen die Gegend verlassen, ansonsten bringe die Polizei sie wieder zurück zur Anlage.

Seit Mitte 2025 verkündet Kambodschas Regierung historische Schläge gegen die transnational organisierten Syndikate – die Hintermänner der Scam-Fabriken. Amnesty International sowie ein UN-Bericht von Februar 2026 dokumentieren jedoch, dass ein Großteil der Anlagen weiterhin in Betrieb ist. Gleichzeitig behandeln die Behörden die Befreiten wie Kriminelle.

Cyberkriminalität in „industriellem Ausmaß“

Der UN-Bericht bezeichnet die Scam-Fabriken als Cyberkriminalitäts-Operationen in „industriellem Ausmaß“. Im Raum Südostasien arbeiten demnach mindestens 300.000 Menschen aus 66 Ländern in Scam-Fabriken. Die meisten davon unfreiwillig. Rund drei Viertel der Anlagen lägen den Satellitenbildern zufolge in der Mekong-Region, konzentriert vor allem in Kambodscha und Myanmar.

Den globalen Gewinn solcher Scam-Fabriken schätzt der UN-Bericht auf rund 64 Milliarden US-Dollar im Jahr. Davon entfallen 43 Milliarden US-Dollar allein auf die Mekong-Region (Kambodscha, Myanmar, Laos, Vietnam, Thailand). Ein weiterer Hotspot seien die Philippinen.

Eine zentrale Rolle spiele die rasante Expansion des digitalen und kryptobasierten Finanzwesens: Die Kriminellen nutzen Strohmann-Bankkonten und tauschen Gewinne in digitale Kryptowährungen um, verschieben diese über Krypto-Wallets. Außerbörsliche Broker waschen diese Gelder anschließend und führen sie den regulären Bankkanälen wieder zu.

Die Spur eines Millionenbetrugs

Behördliches Eingreifen ist überwiegend inszeniert

Die kambodschanische Regierung behauptet seit Beginn ihrer Maßnahmen, mehr als 250 Anlagen geschlossen zu haben, so der Amnesty-Bericht. Sie habe in tausenden Fällen mit Strafverfahren und Abschiebungen gegen kriminelle Akteure reagiert. Zudem habe sie mehrere mutmaßliche Bandenchefs festgenommen.

Die Amnesty-Recherchen widersprechen diesem Bild. Im Jahr 2025 habe die Organisation 46 von 53 identifizierten Anlagen besucht. Im Jahr 2026 identifizierte sie 33 neue Anlagen und besuchte 29 davon. Entgegen den Regierungsbehauptungen fand Amnesty International nur bei 24 von diesen insgesamt 86 identifizierten Anlagen Belege für staatliches Eingreifen. Dies deute darauf hin, dass die Regierung nur in 25 Prozent der Fälle interveniert hat – ein starker Kontrast zur angeblichen Schließung von 250 Anlagen.

In Bezug auf die Strafverfahren kritisiert Amnesty mangelnde Transparenz: Die Regierungsangaben seien widersprüchlich und es gehe aus ihnen nicht hervor, ob Verfahren tatsächlich in Anklagen und Verurteilungen mündeten. Auch wer überhaupt verfolgt und untersucht werde – ob Betreiber, Eigentümer, Finanziers, hochrangige Akteure und mitschuldige Beamte –, habe die kambodschanische Regierung nicht offengelegt. Gleichzeitig gehe sie mit Klagen, Festnahmen und anderen Repressalien gegen Helfer:innen und unabhängige Journalist:innen vor, die über Scam-Fabriken berichten.

Razzia nach Absprache

Der Amnesty-Bericht identifiziert drei zentrale Muster:

1. Die kambodschanischen Behörden handeln nicht aus eigenem Antrieb, sondern reagieren auf internationalen Druck. So beispielsweise als chinesische Bandenmitglieder einen südkoreanischen Studenten zu Tode folterten und damit eine diplomatische Krise auslösten.
2. Selbst wo die kambodschanische Regierung intervenierte, habe Amnesty bei mindestens drei von 24 Anlagen festgestellt, dass der Betrieb sowie die Menschenrechtsverletzungen fortbestehen. Die Behörden greifen trotz Wissens darüber nicht ein.
3. Mutmaßliche Absprachen zwischen den Managern der Anlagen und den lokalen Behörden haben die Effektivität der polizeilichen Maßnahmen signifikant untergraben. Die Opfer berichteten, die Betreiber hätten im Vorfeld der Razzien Warnungen erhalten und so Verlegungen zu anderen Anlagen vornehmen können.

In einer Fallstudie beschreibt Amnesty eine konkrete Anlage, die von der Polizei unangetastet blieb. Maskierte, bewaffnete Wachleute patrouillieren hier weiterhin die Tore und kontrollieren Fahrzeuge. Acht Opfer berichteten zudem übereinstimmend, die Polizei sei an diesem Ort regelmäßig vorbeigekommen, um Leichen abzuholen – und zum Kaffeetrinken. Ein ghanaisches Opfer habe einen Polizisten direkt auf Englisch angesprochen und um Hilfe gebeten. Der Polizist habe sie ignoriert.

Strafen und Folter gehören dazu

Der UN-Bericht widmet sich ebenfalls den Zuständen in den Anlagen und stützt sich dabei auf Interviews und schriftliche Aussagen von Betroffenen, Zeugenaussagen sowie Gesprächen mit Fachleuten.

Demnach hätten sämtliche Befragte schwere Misshandlungen erlebt, Misshandlungen mit angesehen oder selbst ausführen müssen. Wer die Vorgaben in den Betrugsfabriken nicht erfüllen konnte, dem drohten Strafen, Schläge oder der Weiterverkauf an andere Anlagen.

Der Zwang beginnt bereits mit dem Finanziellen: Die Verträge seien den Opfern oft erst nach der Ankunft vorgelegt worden. Ein Opfer aus Bangladesch etwa habe einen 18-Monats-Vertrag unterschreiben müssen, der ihn zu 200.000 Dollar „Gewinn“ verpflichtete. Ein thailändisches Opfer habe täglich Betrugserlöse von 9.500 US-Dollar generieren müssen. Geldstrafen folgten für Vergehen wie „Tastatur-Tragen“. Wer gehen wollte, hatte erfundene Rechnungen zu begleichen. Angehörige wurden per Videoanruf erpresst, indem diese den Misshandlungen zusehen mussten.

Arbeitstage konnten bis zu 19 Stunden lang sein. Gähnen, sprechen, singen oder die Beine übereinander schlagen konnte verboten sein. Bei morgendlichen Appellen konnten leistungsschwache Teams als Warnung an die übrigen gefoltert werden. Manche Opfer berichten, sie seien zur Strafe in Wassercontainern eingesperrt gewesen oder dass sie tagelang in völliger Dunkelheit ausharren mussten. Eine andere Person schilderte, seine Gruppe habe über Wochen so wenig Nahrung erhalten, dass die Kraft zum Stehen fehlte. Manche der Gefangenen seien bei Fluchtversuchen oder durch Folter gestorben.

Gewalt in jeder Form

Beide Berichte dokumentierten zudem, dass die sexualisierte Gewalt in den Scam-Fabriken seit 2024 zugenommen hat. Die Befragten berichteten, Opfer von Vergewaltigungen, erzwungener Prostitution sowie erzwungener Abtreibung geworden zu sein.

Auch psychische Gewalt habe zur Tagesordnung gehört, darunter Drohungen von Organraub oder das Gelände niemals lebend verlassen zu werden. Es herrschte eine allgegenwärtige Atmosphäre der Überwachung und Unsicherheit darüber, was gesagt und wem vertraut werden durfte.

Um Fluchtversuche zu verhindern, wurden manche Zwangsarbeiter:innen isoliert oder ihnen strafrechtliche Sanktionen außerhalb des Geländes angedroht. Ein vietnamesisches Opfer beschreibt, wie ihre Schwester nach einem Fluchtversuch mit einem Taser gefoltert und für eine Woche ohne Nahrung eingesperrt wurde.

Eine automatisierte Betrugsmaschine

Der Köder kommt aus vertrauter Quelle

Laut UN-Bericht beginnt die Rekrutierung bei der Mehrheit der Opfer durch vertraute Quellen wie Freunde oder Familienmitglieder. Die Anwerbung laufe professionalisiert mit mehrstufigen Bewerbungsverfahren ab: mit Tests, Vorstellungsgesprächen via Zoom und inszenierten Personalabteilungen. Werbevideos zeigten scheinbar zufriedene Angestellte an sauberen Arbeitsplätzen. Fast 80 Prozent der Befragten gaben zudem an, vorher nichts von der Existenz derartiger Scam-Fabriken gewusst zu haben.

Soziale Medien seien dem UN-Bericht zufolge der wichtigste Anwerbekanal und Facebook das meistgenutzte Netzwerk. Der Kontakt wandere von dort auf verschlüsselte Messenger wie Telegram, WhatsApp oder Signal. Künstliche Intelligenz durchforste soziale Netzwerke gezielt nach Menschen, die Anzeichen finanzieller Not zeigten.

Einige Opfer berichten, selbst zum Anwerben neuer Opfer gedrängt worden zu sein. Dafür habe es finanzielle Versprechen oder die Aussicht auf Freilassung gegeben.

Behörden behandeln Befreite wie Kriminelle

Tatsächliche Schließungen von Scam-Fabriken resultierten in Kambodscha darin, dass tausende Menschen auf den Straßen der Hauptstadt Phnom Penh strandeten, berichtet auch NPR. Demnach habe es nur ein einziges überfülltes Schutzhaus gegeben – mit einer langen Warteliste.

Statt Schutz erwarte viele Opfer bei den Behörden eine feindselige Bürokratie, unbezahlbare Geldstrafen für überzogene Visa und überfüllte Abschiebeeinrichtungen. Keine der befragten Befreiten sei laut Amnesty als Opfer von Menschenhandel anerkannt, obwohl alle völkerrechtlichen Definitionen erfüllten seien. Die kriminellen Banden haben zudem viele der Opfer als sogenannte „Money Mules“ eingesetzt – sie also dazu gezwungen, ihre Bankkonten für die Geldwäsche herzugeben. Ihnen drohen deshalb Strafverfahren und dauerhafte Bankensperren.

„Wer dem Tiger entkommt, trifft auf das Krokodil,“ beschreibt der UN-Bericht die Lage der Befreiten und fordert ein Non-Punishment-Prinzip: Der Staat darf Verschleppte nicht für Straftaten verfolgen, zu denen sie gezwungen wurden. Stattdessen muss er gegen die eigentlichen Hintermänner vorgehen, grenzüberschreitend gegen die organisierte Kriminalität durchgreifen und die Korruption in den eigenen Strukturen bekämpfen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Darf Frankreich im nationalen Recht festlegen, dass Pornoseiten das Alter ihrer Nutzer*innen prüfen müssen? Zwei Anbieter aus Tschechien klagten dagegen, der Europäische Gerichtshof formulierte Bedingungen.

Frankreich darf Anbieter von Pornoseiten unter bestimmten Umständen dazu verpflichten, das Alter ihrer Nutzer*innen zu überprüfen – auch wenn diese ihren Sitz in einem anderen EU-Staat haben. So urteilte heute der Europäische Gerichtshof (EuGH).

Frankreich verpflichtet alle Anbieter von pornografischen Inhalten im Netz seit Juni 2025 zu harten Alterskontrollen. Ein einfacher Klick, dass man über 18 ist, reicht seitdem nicht aus. Plattformen müssen das Alter ihrer Nutzer*innen über einen Drittanbieter verlässlich prüfen lassen. Das betrifft auch die weltweit populärsten Seiten PornHub, XHamster und XVideos.

Zwei der Unternehmen zogen dagegen vor Gericht: Die tschechischen Firmen WebGroup Czech Republic und NKL Associates betreiben die Seiten XVideos und XNXX. Sie gehören seit Jahren zu den meistbesuchten Pornoseiten weltweit.

Sie argumentierten, Frankreichs Regeln verstießen gegen das „Herkunftslandprinzip“, festgehalten in der E‑Commerce-Richtlinie. Diese sieht vor, dass Anbieter in der EU in dem Staat reguliert werden, in dem sie ihren Firmensitz haben – im Falle der beiden Unternehmen sollte also tschechisches Recht gelten, nicht französisches.

Der Europäische Gerichtshof wies das in seinem heutigen Urteil zurück. Demnach gelte zwar das Prinzip, dass Anbieter in der EU in dem Land reguliert werden, in dem sie ihren Firmensitz haben. Allerdings seien unter bestimmten Voraussetzungen Ausnahmen davon möglich, etwa wenn es um den Jugendschutz geht.

Damit das erlaubt sei, müsse Frankreich allerdings zunächst das Herkunftsland bitten, selbst aktiv zu werden, und anschließend sowohl dieses Land als auch die EU-Kommission über seine Pläne verständigen.

Auswirkungen auf nationales Social-Media-Verbot

Der Gerichtshof hat dabei nicht geprüft, ob diese Voraussetzungen im Fall von Frankreich gegeben waren oder ob harte Alterskontrollen tatsächlich die einzige wirksame Methode darstellen, um Kinder vor Pornografie zu schützen. Das muss jetzt der französische Staatsrat tun, der den Fall vor den EuGH gebracht hat.

Die Entscheidung könnte jedoch indirekte Auswirkungen auf die Debatte um ein Social-Media-Verbot für Kinder und Jugendliche haben, die derzeit vehement in der EU geführt wird. Frankreich ist eines der Länder in der EU, die ein solches Verbot vorbereiten.

„Das Urteil macht deutlich, dass Altersbeschränkungen für soziale Medien ebenfalls gegen den Grundsatz des Herkunftslandes verstoßen würden“, sagt Simeon de Brouwer vom europäischen Dachverband European Digital Rights. Mitgliedstaaten, die solche nationalen Verbote einführen wollten, müssten demnach ebenfalls nachweisen, dass das Verbot notwendig sei und dass die Maßnahmen im Herkunftsland einer Plattform nicht ausreichten.

Das dürfte im Fall eines Social-Media-Verbots schwerer sein als bei nationalen Altersbeschränkungen für Pornoplattformen, weil es im Fall von Social-Media-Plattformen durchaus Alternativen gibt, etwa die Plattformen für alle Nutzer*innen sicherer zu machen.

Unabhängig von dem Fall stehen die beiden klagenden Porno-Plattformen auch auf dem Prüfstand in der EU. Die EU-Kommission hat vor einem Jahr Verfahren gegen XNXX und XVideos eingeleitet, ebenso gegen Konkurrenten Pornhub und Stripchat. Auch hier geht es um Jugendschutz und Alterskontrollen: Sie sollen Minderjährige unzureichend vor schädlichen Inhalten schützen – ein Verstoß gegen das Gesetz für digitale Dienste (DSA). Das bestätigte die Kommission im März in einer vorläufigen Feststellung.

Das DSA sieht keine Pflicht für Alterskontrollen vor. Er verpflichtet Anbieter aber zu Maßnahmen, um Minderjährige vor Inhalten wie Pornografie zu schützen. Die Plattformen können sich nun zu der Feststellung äußern. Stellt die Kommission abschließend einen Verstoß fest, droht ihnen eine Strafe in Höhe von bis zu 6 Prozent des Jahresumsatzes.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die EU-Kommission hat ein Gesetz vorgestellt, mit dem sich die Mitgliedstaaten in Sachen Cloud und KI-Entwicklung von US-amerikanischen Anbietern unabhängiger machen sollen. Doch das Gesetz bleibt zurückhaltend und lässt vieles offen, kritisieren Fachleute.

„Über Geld spricht man nicht“ heißt es hierzulande gerne. Außer mit dem Finanzamt natürlich. In der Steuerverwaltung landen Informationen über Einkünfte, in der Sozialverwaltung landen Informationen über Phasen von Arbeitslosigkeit oder Wohngeld-Auszahlungen, in der Gesundheitsverwaltung landen Informationen über Krankheitsverläufe. Sensible Informationen, die viel über unser Leben verraten.

Und was macht die öffentliche Verwaltung damit? Sie schiebt die Daten zunehmend in die Cloud. Die gehört meistens Microsoft, Google, Amazon oder Oracle. Ob direkt oder über einen Subunternehmer – Verwaltungen greifen meist auf Dienste US-amerikanischer Cloud-Anbieter zurück.

Sind die Daten in einer solchen Public Cloud sicher? Und sollten Behörden in Sachen digitale öffentliche Infrastruktur auf US-Big-Tech setzen? Diese Fragen sind drängender geworden, seitdem bekannt wurde, welchen Einfluss US-Präsident Donald Trump hier ausübt und ausüben kann.

Die „geopolitische Lage“ heißt Trump

Diese „geopolitische Lage“ sei dringlich, so die Vizepräsidentin und EU-Kommissarin Henna Virkkunen bei der gestrigen Pressekonferenz zum neuen Tech Sovereignty Package. Es umfasst den Chips Act 2.0, die Open-Source-Strategie der EU und den Fahrplan für Digitalisierung und KI im Energiesektor.

Welchen Zugriff die US-Regierung künftig auf europäische öffentliche Informationen haben kann, will die Kommission mithilfe des Cloud and AI Development Acts (CADA) regulieren; das vierte Element im Packet. Doch gerade CADA scheint ein sehr zaghaftes Instrument der EU für mehr Unabhängigkeit von US-Big-Tech zu werden. Denn für einen großen Teil staatlicher Daten schließt die Kommission US-Cloud-Anbieter nicht vom europäischen Markt aus.

Nach ihrer Rechnung könnten gut 99 Prozent, mindestens aber 70 Prozent, staatlicher Daten der EU-Mitgliedsländer auf Clouds von US-Anbietern landen. Diese Zahlen beruhen auf einer Schätzung der Kommission zur Risikobewertung staatlicher Daten. EU-Mitgliedstaaten sollen nach einem vorgegebenen Stufensystem die Risiken bei der Beschaffung von Cloud-Diensten prüfen.

Zugriff auf Daten durch US-Regierung

Auf der anderen Seite des Atlantiks stehen dem Pakt Gesetze wie der Foreign Intelligence Surveillance Act (FISA), der Patriot Act und der CLOUD Act (Clarifying Lawful Overseas Use of Data Act) gegenüber. Laut CLOUD Act sind Tech-Unternehmen mit Sitz in den USA wie Microsoft oder Google dazu verpflichtet, unter bestimmten Voraussetzungen Daten gegenüber US-Behörden offenzulegen.

Dazu zählen auch Daten aus der EU. Das ist unabhängig davon, ob die Daten eines US-Unternehmens auf einem Rechenzentrum innerhalb der EU gespeichert sind, so ein juristisches Gutachten der Universität Köln im Auftrag des Bundesinnenministeriums. Bestätigt hat das aber auch der Chefjustiziar von Microsoft Frankreich, Anton Carniaux. Vor gut einem Jahr erklärte er dem französischen Senat: Wenn französische Behörden Microsoft nutzen, kann die US-Regierung diese Daten einsehen. Dafür müssen die Behörden nicht einmal ausdrücklich zugestimmt haben.

Trump kann sogar öffentliche Angestellte und Beamt:innen daran hindern, ihrer Arbeit nachzugehen. Das zeigen die Fälle von Richter:innen und einem Chefankläger am Internationalen Strafgerichtshof. Trump veranlasste, dass sie Dienste von Microsoft, Paypal und Co. nicht mehr nutzen können; auch auf ihre Accounts und darin enthaltene Daten können sie nicht mehr zugreifen.

Womit hält die EU dagegen?

Anhand von vier Sicherheitsstufen, den sogenannten „Union Assurance Levels“, sollen EU-Mitgliedstaaten nun die Cloud-Dienste auf den Prüfstand stellen, die sie nutzen: Welches Risiko wäre gegeben, wenn Daten an Nicht-EU-Staaten abfließen? Oder wenn ein Dienst ausfallen würde? Für diese Risikobewertung sollen die Länder ein Jahr Zeit haben, dann müssen sie ihre Ergebnisse veröffentlichen.

Demnach müssen Cloud-Anbieter für ihre Dienste je nach Stufe bestimmte Kriterien erfüllen. Stufe 1 benötigt ein niedriges Maß an Souveränität, Stufe 4 ein hohes. Bei Daten, die weniger sensibel sind, reiche die Sicherheitsstufe 1 aus. Demnach müssten Behörden lediglich sicherstellen, diese Daten in europäischen Rechenzentren zu speichern statt in beispielsweise US-amerikanischen. Öffentliche Auftraggeber in den EU-Mitgliedstaaten sollen nur Cloud-Dienste beschaffen, die mindestens Stufe 1 erfüllen. Hier ändert sich für die großen Cloud-Anbieter aus den USA wie Amazon und Google nichts. Denn sie haben die dazu erforderlichen Niederlassungen in der EU und betreiben hier bereits eigene Rechenzentren.

Auch mit der zweiten Sicherheitsstufe würde sich für sie nichts ändern, das erklärte ein hochrangiger EU-Beamter. Die Kommission hat dabei das Risiko eines Kill Switch im Blick. Damit ist gemeint, dass Betreiber aus der Ferne das IT-System abschalten könnten. Der jeweilige Cloud-Anbieter muss bei Stufe 2 ausschließen, dass Nicht-EU-Länder wie die USA oder China den Kill Switch umlegen könnten.

Cloud-Anbieter aus den USA ausschließen?

Stufe 3 soll erfordern, dass sich Cloud-Anbieter innerhalb der EU befinden und von dort aus kontrolliert werden. Daneben sollen sie Mitarbeitende mit europäischer Staatsangehörigkeit beschäftigen. Einflussnahme durch Drittstaaten soll damit reduziert werden. Virkkunen erklärte auf der Pressekonferenz, dass es US-Cloud-Anbieter schwer haben würden, Stufe 3 zu erreichen.

Doch es gibt ein Schlupfloch: Nach Artikel 18 hat die Kommission die Möglichkeit „von den Anforderungen auf Stufe 3 abzuweichen und Drittstaaten für Cloud-Anbieter anzuerkennen“, so Dennis-Kenji Kipker, Research Director und Gründer des Frankfurter Cyberintelligence Institute, gegenüber netzpolitik.org. Dazu dienen sogenannte Angemessenheitsbeschlüsse im Gesetz. Solche Beschlüsse beim Thema Datenschutz haben in der Vergangenheit gezeigt, dass die Kommission die USA trotz erheblicher Bedenken als vertrauenswürdigen Partner ansieht.

Die höchste Stufe soll nicht nur besonders für sicherheitssensible Bereiche gelten, sondern biete laut Kommission auch maximale Souveränität: EU-Länder sollen ihren gesamten Technologie-Stack von der Hardware bis zur Software vollständig kontrollieren. Das würde Nicht-EU-Anbieter ausschließen. Demnach dürften Cloud-Anbieter in dieser Stufe keiner Einflussnahme aus einem Drittland unterliegen.

Mitgliedstaaten entscheiden

Es bleibe „den Mitgliedstaaten vorbehalten“, wie sie bewerten, was „souveränitäts- und sicherheitskritisch“ ist. Die Kommission gibt also nicht vor, wie die EU-Länder das Stufensystem umsetzen sollen. Sie empfiehlt etwa die Bereiche Justiz, Polizei und Grenzschutz der Stufe 2 zuzuordnen. Das kritisiert die Grünenpolitikerin Alexandra Geese. „Wer akzeptiert, dass eine außereuropäische Regierung im Ernstfall Einfluss auf den Betrieb kritischer digitaler Infrastrukturen von Justiz, Polizei, nationale Sicherheit und Grenzschutz nehmen oder deren Verfügbarkeit gefährden kann, schafft institutionalisierte Abhängigkeit.“

Der Stufe 4 ordnet die Kommission den Bereich Verteidigung zu. Das würde nur etwa ein Prozent staatlicher Daten betreffen. Der Großteil von 70 Prozent sei weniger schutzbedürftig und falle damit unter Stufe 1, während 20 Prozent unter Stufe 2 und neun Prozent unter Stufe 3 fielen.

Inwieweit EU-Länder jedoch US-Cloud-Anbieter meiden und wie „das Ergebnis der Bewertung und Einordnung des Sicherheitsniveaus“ ausfällt, hänge wesentlich von ihrem „Risiko-Sicherheitskontext“ ab, so Kipker. Die Kommission spricht hier kein Vergabeverbot aus. Die Länder entschieden also selbst, ob „in einem besonders sensiblen Anwendungsfall die Wahl eines hohen Sicherheitsniveaus einen außereuropäischen Anbieter faktisch ausschließt“.

Die Kommission gibt auch nicht vor, wie die EU-Länder ihre Behörden von einem Cloud-Anbieter wie Amazon oder Microsoft zu einem europäischen Anbieter migrieren. Immerhin hätte CADA nach Inkrafttreten „unmittelbare Geltung und Anwendungsvorrang, und die Kommission könnte Verstöße über das Vertragsverletzungsverfahren nach AEUV durchsetzen“, erklärt Kipker.

Das Gesetzespaket geht nun an das europäische Parlament und die Mitgliedstaaten. Gerade von letzteren hängt ab, ob sich die Cloud-Landschaft für die Behördenarbeit in der EU tatsächlich verändert.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Europaparlament und Regierungen verschärfen die Abschieberegeln. Auch Abschiebezentren in Drittstaaten und Razzien nach dem Vorbild der US-Abschiebe-Miliz ICE werden möglich. Ob die neuen Regelungen tatsächlich mehr und schnellere Abschiebungen erreichen werden, bleibt indes fraglich.

Vertreter*innen des Europaparlaments und der EU-Länder haben sich am Montagabend auf eine neue Rückführungsverordnung geeinigt. Das Ziel: mehr und effizientere Abschiebungen von Drittstaatsangehörigen ohne regulären Aufenthalt.

Einen ersten Entwurf für das Gesetz, das auch als „Abschiebeverordnung“ bekannt ist, hat die EU-Kommission bereits im vergangenen Jahr vorgestellt. Sie soll die Reform des Gemeinsamen Europäischen Asylsystems (GEAS) ergänzen, die in der gesamten EU am 12. Juni wirksam wird.

Trotz massiver Kritik von Jurist*innen und Menschenrechtsorganisationen halten die EU-Institutionen dabei an ihrem harten Kurs fest. So sollen Menschen künftig in Abschiebezentren außerhalb des EU-Territoriums gebracht werden können, auch ohne eine vorherige Verbindung zu dem Land. Menschen ohne Papiere sollen außerdem länger inhaftiert, mit langen Einreiseverboten belegt und für fehlende Kooperation bestraft werden können. Auch sollen ihre Wohnungen leichter durchsucht werden können, sie sollen verstärkt digital überwacht und ihre Datenträger durchleuchtet und beschlagnahmt werden.

EU-Innen- und Migrationskommissar Magnus Brunner bezeichnete die Einigung als „einen wichtigen Schritt in der europäischen Migrationswende“. Sarah Chander von der Initiative „We Keep Us Safe“ sprach gegenüber netzpolitik.org hingegen von einem Gesetzestext, der es „rechtsextremistischen Fraktionen ermöglicht, ein von Überwachung geprägtes Abschieberegime ihrer Träume zu errichten“.

Abschiebezentren und verlängerte Abschiebehaft

Mit der Verordnung hat die EU den Weg für sogenannte „return hubs“ geebnet, in die Menschen abgeschoben werden sollen, deren Abschiebung bisher scheitert. Das kann an einer Vielzahl von Gründen liegen, beispielsweise wenn Menschen keinen Pass haben, das Herkunftsland die Wiedereinreise verweigert oder keine diplomatischen Beziehungen bestehen.

Solche Abschiebezentren sollen zum einen als Transitzentren dienen, um die „Weiterreise in das Herkunftsland oder ein anderes Drittland zu erleichtern“. Gleichzeitig schließt der Rat nicht aus, dass Abschiebezentren das endgültige Ziel darstellen könnten – also auf unbestimmte Zeit. Während unbegleitete Minderjährige von der Abschiebung in solche Zentren verschont bleiben, können Familien mit Kindern dort festgehalten werden. Das gilt als menschenrechtlich sehr umstritten.

Bundesinnenminister Alexander Dobrindt (CSU) hat angekündigt, gemeinsam mit anderen EU-Staaten – darunter Österreich, Dänemark und Griechenland – bis Ende des Jahres Deals zur Errichtung solcher Zentren mit Drittstaaten aushandeln zu wollen. Bis auf Uganda, das eine solche Vereinbarung mit den Niederlanden getroffen hat, gibt es bisher keine konkreten Beschlüsse. Im Gespräch sind Länder wie Ruanda, Libyen, Mauretanien, Usbekistan und Äthiopien.

Zusätzlich gibt die Verordnung grünes Licht, unbegleitete Kinder sowie Familien mit Kindern innerhalb der EU in Abschiebehaft zu nehmen. So hat Polen beispielsweise die Inhaftierung von unbegleiteten Kindern ab 15 Jahren bereits seit Anfang des Jahres durch nationales Recht erlaubt. Mit der Verordnung wird zudem die Dauer der Abschiebehaft auf 24 Monate ausgeweitet und kann um weitere sechs Monate verlängert werden, wenn sich die Zusammenarbeit mit dem betreffenden Drittland verbessert oder die Behörden der Ansicht sind, dass Fluchtgefahr besteht.

ICE-ähnliche Hausdurchsuchungen und elektronische Überwachung

Andere geplante Maßnahmen sind unter zivilgesellschaftlichen Organisationen nicht weniger umstritten. So übte Sarah Chander von der Initiative „We Keep Us Safe“ harte Kritik an den Plänen. Asyl und Legalisierung würden damit zu Tabus, Hausdurchsuchungen, invasive Datenerhebung und ‑weitergabe würden zur Norm. „Anstatt in Fürsorge und Schutz zu investieren, werden öffentliche Mittel dazu verwendet, internationale und EU-Rechtsstandards vollständig auszuhöhlen.“

Dazu gehört beispielsweise das Grundrecht auf die Unverletzlichkeit der Wohnung. So stattet die Verordnung die Mitgliedstaaten mit weitreichenden Befugnissen aus, private Wohnungen von Drittstaatsangehörigen ohne gültigen Aufenthalt und andere „relevanten Räumlichkeiten“ zu durchsuchen. Diese Regelung könne Menschenjagden auf Migrant*innen nach Vorbild der USA nach sich ziehen sowie ganze Communitys rassistischer Diskriminierung aussetzen, warnten zuletzt UN-Menschenrechtsexpert*innen sowie mehr als 100 zivilgesellschaftliche Organisationen.

„Auf der anderen Seite des Atlantiks sehen wir die Gewalt und Angst, die durch die brutale Einwanderungskontrolle der ICE verursacht wird“, sagte Silvia Carta von der Platform for International Cooperation on Undocumented Migrants (PICUM), eine der rund 100 kritischen Organisationen. „Europa sollte aus den Schäden dieses Modells lernen, anstatt eine eigene Version aufzubauen“, so Carta weiter.

Behörden dürfen laut den Plänen außerdem Handys, Computer sowie andere elektronische Geräte von Menschen ohne Papiere durchsuchen und beschlagnahmen – eine Praxis, die in einzelnen deutschen Bundesländern bereits verbreitet ist, wie Recherchen von netzpolitik.org gezeigt haben.

Weitere Zwangsmaßnahmen sehen vor, dass Menschen in Abschiebeverfahren sich nur an einem bestimmten Ort aufhalten, Ausgangssperren unterziehen oder regelmäßigen Meldepflichten nachkommen müssen. Als sogenannte Alternativen zur Inhaftierung können außerdem das Hinterlegen einer Geldsumme oder elektronische Überwachung auferlegt werden. Bei der letzteren handelt es sich laut Fachleuten nur vermeintlich um eine Alternative. Denn diese kommt aufgrund ihrer tief in die Privatsphäre eingreifenden Wirkung de facto einer Haft gleich und kann außerdem zusätzlich zur ausgedehnten Abschiebehaft verhängt werden. Denkbar sind dafür etwa eine elektronische Fußfessel oder GPS-Ortung.

Neue Europäische Rückkehrentscheidung vorerst ohne Wirkung

Das Kernstück der Verordnung ist die „Europäischen Rückkehrentscheidung“ (ERO). Diese enthält ein standardisiertes digitales Datenblatt mit Informationen zur Abschiebeentscheidung. Alle Mitgliedstaaten sollen dieses Datenblatt über das Schengener Informationssystem abrufen können.

Die gegenseitige Anerkennung von Abschiebeentscheidungen bleibt aber vorerst freiwillig: Ein EU-Land kann die erlassene Entscheidung eines anderen EU-Landes anerkennen und vollstrecken, muss es aber nicht. In diesem Aspekt waren sich das Parlament und die Mitgliedstaaten im Vorfeld uneinig. Während das Parlament auf eine verpflichtende Anerkennung ab 2027 pochte, war dieser Punkt unter den Mitgliedstaaten umstritten.

Laut der Pressemitteilung des Parlaments wird die EU-Kommission die gegenseitige Anerkennung innerhalb von zwei Jahren prüfen und dann gegebenenfalls die verpflichtende Anerkennung vorschlagen, laut den Mitgliedstaaten soll dies nach drei Jahren passieren. Der finale geeinigte Gesetzestext liegt noch nicht vor.

Mit ERO werden personenbezogene Daten von Menschen in Abschiebeverfahren für Tausende Polizeibeamt*innen in der gesamten EU zugänglich, warnen Menschenrechtsorganisationen. Das Schengener Informationssystem II, das größte Migration- und Polizeidaten-Austauschsystem der EU, sei für wiederholten Datenmissbrauch und die systematische Verweigerung der Datenschutzrechte bekannt. Es gibt dokumentierte Fälle, in denen Polizei- und Einwanderungsbehörden sich nicht an Vorschriften gehalten haben. Die Verordnung baut direkt auf dieser Architektur auf und verstärkt ihre Eingriffsintensität.

Menschen ohne Papiere „wie Straftäter behandelt“

Scharfe Kritik gab es auch von Abgeordneten im EU-Parlament. Mélissa Camara, Schattenberichterstatterin der Grünen für die Rückführungsverordnung, bezeichnete die erzielte Einigung als „beschämend“. Den Standpunkt des Parlaments hatte die konservative EVP-Fraktion unter der Führung des deutschen CSU-Politikers Manfred Weber mit rechtsaußen Parteien wie der AfD im März verhandelt und verabschiedet. „Dieser Text verankert fremdenfeindliche Ideen und Rhetorik auf Kosten der Grundrechte von Migranten, deren einziger Fehler darin bestand, mit dem falschen Pass geboren zu sein“, so Camara. „Grundrechte stehen an der Spitze der Normenhierarchie und dürfen nicht einfach mit Füßen getreten werden.“

Auch die innenpolitische Sprecherin der europäischen Sozialdemokrat*innen Birgit Sippel äußerte sich kritisch zur Verordnung. „Parlament und Mitgliedstaaten haben im Hau-Ruck-Verfahren eine Einigung gefunden und damit trotz sinkender Ankunftszahlen der Panikmache der Rechten in Europa nachgegeben“, sagte sie. „Alle Betroffenen werden de facto wie Straftäterinnen und Straftäter behandelt.“

Die neuen Abschieberegeln müssen vom EU-Parlament und den EU-Staaten noch formal abgesegnet werden. Die Verordnung tritt in Kraft, sobald sie im Amtsblatt der EU veröffentlicht wurde. Einige Bestimmungen, darunter solche zu den Abschiebezentren, gelten dann sofort. Andere Regelungen werden nach einer Übergangszeit von zwölf Monaten angewandt.

Ob die Verordnung tatsächlich zu höheren Abschiebezahlen führen wird, bleibt indes fraglich. Mehr als 250 Organisationen gehen davon aus, dass sie den gegenteiligen Effekt haben wird: Da Abschiebung zur Standardoption für Menschen ohne legalen Aufenthalt wird, werde die Verordnung die Zahl der ausreisepflichtigen Menschen eher künstlich in die Höhe treiben. Auch die von der Politik häufig bemühte Erzählung einer Vollzugslücke – etwa dass es einen massiven Rückstand an Abschiebungen gebe und nur jede fünfte Person, gegen die eine Ausreiseanordnung ergangen ist, tatsächlich abgeschoben werde – basiert auf falschen Zahlenspielen und statistischen Verzerrungen, kritisieren Wissenschaftler*innen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Beweise für positive Klimaauswirkungen durch sogenannte „KI“ sind schwach, während die Klimaschäden klar belegt sind. Ein Bericht von AlgorithmWatch zeigt, dass die Klima-Versprechen nicht eingelöst werden können. Um das zu verschleiern, vermischen die Unternehmen verschiedene KI-Technologien – und klammern die energiehungrige generative KI dabei aus.

Der Ausbau von KI-Rechenzentren führt zu einer steigenden Nachfrage nach fossilen Brennstoffen, denn der Energiehunger von KI-Technologien ist offensichtlich. Die nachweislich negativen Auswirkungen auf das Klima werden von den Technologieunternehmen jedoch heruntergespielt, während sie gleichzeitig in Aussicht stellen, KI könne in der Zukunft helfen, die Probleme des Klimawandels zu bewältigen.

Die Behauptungen von Big Tech beruhen dabei nicht auf glaubwürdigen und belegbaren Daten, sondern auf der Selbstausstellung eines „Blanko-Schecks“, um „die Umwelt unter Verweis auf leere Heilsversprechen weiter zu verschmutzen“.  Zu diesem Ergebnis kommt der neue Bericht von AlgorithmWatch: „Der KI-Klimaschwindel: Hinter den Kulissen des Big-Tech-Greenwashings“. Während die negativen Auswirkungen nachweisbar seien sowie immer weiter zunehmen würden, basierten die Lösungsversprechen hauptsächlich auf Wunschdenken mit geringer Faktenbasis.

Der Bericht untersucht systematisch die Stichhaltigkeit der Behauptung eines angeblichen „Netto-Klimanutzens“ durch KI. Aus insgesamt acht Quellen wurden dafür 154 KI-Klimaversprechen extrahiert. Das Ergebnis: 150 Versprechen (97 Prozent) bezogen sich entweder auf die „herkömmliche“ KI, also insbesondere auf Vorhersagemodelle und Computer-Vision, oder generative KI mit einem nur sehr eng begrenzten Anwendungsbereich. Nur vier Behauptungen (drei Prozent) bezogen sich tatsächlich auf klar definierbare generative KI-Anwendungen für Verbraucher:innen (wie Chatbots), die mit großen öffentlich zugänglichen Datensätzen trainiert wurden. Die Klimaauswirkungen generativer KI werden durch verallgemeinerte „KI-Nachhaltigkeitsbehauptungen“ also gezielt verschleiert, indem grundsätzlich verschiedene Technologien gleichgesetzt werden.

„ ‚KI’ ist ein sehr neuer Begriff, auch wenn einige der Technologien schon sehr alt sind“, sagt der Hauptautor des Berichts, Energie- und Klimaanalyst Ketan Joshi, gegenüber netzpolitik.org. „Daher nutzen sie diese Unvertrautheit aus. Indem sie diese beiden Dinge miteinander vermischen und den Wandel als unvermeidlich darstellen, entziehen sie sich jeglicher Verantwortung, auf die schlechten, verschwenderischen und schädlichen Dinge zu verzichten.“

KI ist nicht gleich KI

Der für das Jahr 2030 prognostizierte Energieverbrauch generativer KI-Anwendungen liegt dabei um das Dreizehnfache höher als der Energieverbrauch herkömmlicher KI. Dennoch werde unterschlagen, dass die Klimaschäden durch KI-Nutzung überwiegend durch eben diese generativen KI-Anwendungen entstehen. Die Analyse fand so kein einziges Beispiel einer generativen Consumer-KI, die nachweislich zu einer Emissionsreduktion geführt hätte.

„Wenn es Nachhaltigkeitsvorteile durch künstliche Intelligenz gibt, dann durch Anwendungen traditioneller KI mit wenig Ressourcenverbrauch. Die großen sprach- und bildgenerierenden Modelle wie ChatGPT […] verbrauchen Unmengen an Strom und Wasser, verursachen CO₂-Emissionen in der Höhe ganzer Länder, bringen aber keinerlei positiven Nutzen für die Umwelt“, sagt Senior Policy Manager bei AlgorithmWatch, Julian Bothe, gegenüber netzpolitik.org.

Ferner stützen sich laut der Analyse des Reports nur 26 Prozent der 154 untersuchten KI-Klimaversprechen auf tatsächlich wissenschaftliche Studien. 36 Prozent führten keinerlei Belege an, während der Rest überwiegend auf die Unternehmensberichte und Unternehmenswebseiten verwies. Hinzu kämen Verweise auf Medien, sonstige Institutionen oder unveröffentlichte Studien.

Viel Behauptung, kaum Beleg

Ein besonders prägnantes Beispiel sei Google: Der Konzern wirbt seit Jahren damit, KI könne bis 2030 fünf bis zehn Prozent der weltweiten Treibhausgasemissionen einsparen. Dies entspräche dem gesamten Jahresausstoß der Europäischen Union. Die Quelle dieser Statistik hält allerdings keiner Überprüfung stand: Diese ist nämlich der Blogbeitrag eines Beratungsunternehmens aus dem Jahr 2021, das diese Einschätzung offenbar aus der eigenen „Kundenerfahrung“ entnommen hatte. Dennoch tauchte die Behauptung noch im April 2025 in einer Policy-Roadmap von Google auf, die auf die EU zielte – und zwar unter dem Verweis auf „Studien“.

Einige der Zahlen stammen jedoch nicht unmittelbar aus der Unternehmens-PR und tragen ein wissenschaftliches Etikett. Eine Analyse des Ökonomen Nicholas Stern, veröffentlicht in einem Nature-Fachjournal, kommt zu dem Schluss, KI werde die weltweiten Emissionen bis 2035 um 36 Prozent senken. Amy Luers, Head of Sustainability Science and Innovation bei Microsoft, beziffert das Einsparpotenzial in einem Kommentar in Nature auf 1,4 Gigatonnen jährlich. Auch der einflussreiche IEA-Bericht „Energy and AI“ vom April 2025, dessen Entwurf unter anderem von Beschäftigten von Amazon, Google, Nvidia, Meta und Microsoft begutachtet wurde, kommt zu dem Ergebnis, dass KI unter bestimmten Bedingungen Netto-Emissionen einsparen könnte. Der AlgorithmWatch-Bericht hält solche Rechnungen jedoch für fragwürdig, weil sie auf schwach begründeten Beispielen aufbauen. „Es hat mich überrascht, solche Behauptungen in Nature zu sehen“, sagt Joshi. Viele wissenschaftliche Publikationen seien beim KI-Thema enthusiastisch und „womöglich nicht im Einklang mit dem, was wir über die Umweltschäden wissen“.

Ein weiteres Beispiel für irreführende Behauptungen sei auch die der Internationalen Energieagentur, dass das Kreuzfahrtunternehmen Carnival Cruise Lines dank KI seinen Treibstoffverbrauch erheblich gesenkt habe, so Joshi gegenüber netzpolitik.org. „Es scheint wahrscheinlich, dass der Verweis auf der Website größtenteils mithilfe von KI generiert wurde – oder dass es sich zumindest um eine schwache Quelle handelt, die keinen Bezug zu den tatsächlichen Berichten des Unternehmens aufweist.“ Dies verdeutliche laut Joshi, wie das Potenzial von KI nicht nur überbewertet wird, sondern auch, wie KI selbst das Informationsumfeld zerstöre.

Neue Form des Greenwashings

Rechenzentren verbrauchten 2024 rund 1,5 Prozent des weltweiten Stroms, bis 2030 erwartet die IEA eine Verdopplung. Die großen Tech-Konzerne verfehlen ihre eigenen Klimaziele und an den Standorten von Meta, OpenAI und xAI entstehen neue Gaskraftwerke. Der Bericht sieht so eine neue Greenwashing-Strategie. Emissionsintensive Industrien versuchen seit jeher ihre angerichteten Schäden kosmetisch „auszugleichen“, beispielsweise mit betrugsanfälligen Klimazertifikaten. Neu sei hingegen, dass unterschiedliche Technologien unter dem Überbegriff „KI“ zusammengefasst werden, um der Verantwortung für den Ausbau energiehungriger generativer KI zu entgehen.

Tatsächlich gibt es laut Bericht keinerlei glaubwürdige Grundlage für die Aussage, die klimafreundlichen Auswirkungen von Künstlicher Intelligenz würden die schädlichen Folgen der Technologie wieder ausgleichen können. Der Bericht behauptet gleichwohl nicht, dass KI keinerlei Klimanutzen haben könne. Unbelegt sei jedoch das Narrativ, KI könne Schäden im Gigatonnen-Bereich ausgleichen. Statt mit vagen Begriffen und schwachen Belegen die Klimaschäden zu verschleiern, läge die Verantwortung, in echte Nachhaltigkeit zu investieren, weiterhin bei den Big-Tech-Konzernen.

„Wenn es Google, Microsoft und Co. ernst wäre mit ihrer Sorge um die Umwelt, würden sie die Auswirkungen ihrer KI-Technologien offenlegen und auch die tatsächlichen Verbräuche der dafür genutzten Rechenzentren transparent veröffentlichen“, findet Bothe. „Tatsächlich passiert das Gegenteil: Die großen Tech-Unternehmen tun alles dafür, um sich sogar der gesetzlich geregelten Veröffentlichungspflichten zu entledigen – und die Regierungen auf EU- und Bundesebene knicken vor den Forderungen der Tech-Giganten ein.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Künstliche Intelligenz ist inzwischen in der Massentierhaltung angekommen. Doch können Verhaltensscanner im Stall wirklich das Tierwohl verbessern? Und welches Rezept spuckt ein KI‑Chatbot aus, wenn man ihn nach Spaghetti Bolognese fragt? Mirjam Walser warnt im Interview: Die Folgen von KI für Tiere sind enorm.

Was hat künstliche Intelligenz mit Hackfleisch zu tun? Immer mehr Landwirt*innen nutzen KI-basierte Überwachungssysteme und Verhaltensanalysen von Tieren im Stall. Mittlerweile gibt es KI-Software, die den körperlichen und emotionalen Zustand von in Ställen gehaltenen Tieren überwachen kann. Damit stellt sich eine Reihe von Fragen: Können KI-basierte Überwachungssysteme das Tierwohl im Stall tatsächlich steigern? Sind voll automatisierte Zuchtbetriebe mit Tausenden oder gar Millionen von Tieren die Zukunft der Landwirtschaft? Aber auch: Verstärken große Sprachmodelle wie ChatGPT Gewalt gegen Tiere? Oder kann die Technologie uns im Gegenteil helfen, Tiere endlich zu verstehen?

Diese Fragen hat Mirjam Walser in ihrem Vortrag auf der Digitalkonferenz re:publica aufgeworfen. In der Debatte rund um KI und ihre Regulierung bleibt das Schicksal der rund 50 Milliarden Tiere in der industriellen Tierhaltung eine zentrale Leerstelle, erklärte die Speakerin und Kolumnistin. Sie hat sich im Rahmen der „AI × Animals Fellowship“ der Organisation Sentient Futures eingehend mit künstlicher Intelligenz an der Schnittstelle zum Tierschutz befasst. Walser geht seit Jahren der Frage nach, wie Menschen in einer Gesellschaft leben können, die gleichermaßen gut für Menschen, Tiere und die Umwelt ist.

Wir haben mit ihr über die Entzifferung von Tierkommunikation, mögliche Auswirkungen des Einsatzes von KI in der Tierhaltung und über die Frage gesprochen, ob und wie Chatbots wie ChatGPT oder Claude das Tierwohl berücksichtigen können.

Wale und Schweine mit KI verstehen

netzpolitik.org: Kann uns KI tatsächlich helfen, Tiere besser zu verstehen?

Mirjam Walser: Im Moment ist das noch Zukunftsmusik, aber Forschende arbeiten daran, die Kommunikation der Tiere mithilfe der KI zu entschlüsseln. Es gibt ein Projekt namens CETI, das zu Pottwalen forscht. Pottwale sprechen mit Klicklauten. Lange dachte man, dass sie die Klicklaute zur Orientierung nutzen. Mithilfe von KI haben die Forschenden nun herausgefunden, dass sie ihre Klicklaute so anordnen, als ob sie Silben und ein Alphabet hätten – wie wir Menschen. Das war eine bahnbrechende Entdeckung.

Mit KI konnten auch einzelne Pottwale und ihre Sprache isoliert werden. Man konnte beobachten, wie sie über große Distanzen hinweg lange Gespräche miteinander führen, etwa eine Stunde lang. Einzelne Pottwale klicken sich gelegentlich ein. Es handelt sich also wirklich um Gespräche. Was genau sie sagen, wissen wir noch nicht. Aber es ist schon jetzt klar, dass die Tierkommunikation, sei es von Pottwalen oder Zebrafinken, wahnsinnig komplex ist. Weit komplexer als bis jetzt angenommen. Da sind wir erst am Anfang.

netzpolitik.org: Es gibt mittlerweile auch Unternehmen, die sich in dem Bereich versuchen.

Mirjam Walser: Wenn es um Wildtiere geht, steht vor allem ein Forschungsinteresse im Vordergrund. Bei Haustieren ist ein kommerzielles Interesse dahinter. Ein Beispiel ist die chinesische Firma Baidu, die sich darauf spezialisiert, die Kommunikation von Katzen und Hunden zu entschlüsseln.

Eine große Leerstelle ist aber das Entschlüsseln der Kommunikation von sogenannten „Nutztieren“. Aus gutem Grund. Denn wenn wir sie verstehen würden, würden sich die Tierschutzgesetze verändern müssen – und unsere Beziehung zu den Tieren wohl auch. Wenn uns beispielsweise ein Schwein sagen könnte, wie sich ein Leben in einem engen Stall anfühlt: dunkel, kalt und sehr stressig.

Mit KI kranke Tiere im Stall identifzieren

netzpolitik.org: Gleichzeitig wird der Einsatz von KI-basierten Überwachungssystemen in der Tierhaltung, etwa Sensoren, Kameras und Verhaltensscannern, damit begründet, dass sie die Gesundheit und das Wohlbefinden der Tiere steigern können. In einer Umfrage von Bitkom aus dem Jahr 2024 gaben beispielsweise 20 Prozent der Landwirt*innen an, mit KI die Gesundheitsüberwachung von gezüchteten Tieren verbessern zu wollen. Ist da etwas dran?

Mirjam Walser: Da ist auf jeden Fall etwas dran. Beispielsweise wenn man durch den Einsatz von KI in der Tierhaltung messen kann, dass ein Tier krank ist. Man muss sich vorstellen, in so einem riesigen Stall leben etwa 10.000 Hühner. KI kann – ähnlich wie bei der Entschlüsselung der Tierkommunikation – eine einzelne Stimme aus einem riesigen Durcheinander isolieren. Zum Beispiel auch, wenn eine Kuh hustet oder niest. Das sind oft Indikatoren für Atemwegserkrankungen. Ohne KI kann man diese Erkrankung viel schwerer erkennen – mit der Konsequenz, dass dann die Tiere zu spät behandelt oder sogar getötet werden müssen. Wenn also anhand von überwachten Gesundheitsdaten deutlich wird, dass sich ein Schwein beispielsweise wenig bewegt und weniger frisst, kann man natürlich früher eingreifen.

Im ersten Schritt ist es also tatsächlich eine Verbesserung. Denn wenn Tiere krank sind, mindert das natürlich ihr Wohlbefinden. Aber das ist ja nur der oberflächliche Aspekt. Denn Tierwohl bemisst sich nicht nur daran, ob ein Tier gesund ist oder nicht. Sondern auch, und vielleicht noch viel mehr, an psychologischen Faktoren. Und die werden nicht gemessen.

netzpolitik.org: Wie meinst du das?

Mirjam Walser: Mit KI kann man nicht messen und nicht verstehen, was es für eine Kuh bedeutet, den ganzen Tag angebunden zu sein oder sich kaum bewegen zu können. Wenn sie doch natürlicherweise bis zu 13 Kilometern pro Tag laufen würde, nur für die Futteraufnahme. Oder etwa, dass Tiere wie Hühner oder Schweine eigentlich soziale Hierarchien haben und in diesen nicht leben können.

Ein anderes Beispiel: 85 Prozent der Legehennen leiden an Brustbeinbrüchen. Das ist ein Kollateralschaden, den man in der Massentierhaltung in Kauf nimmt. Wie fühlt es sich an, mit so einem Brustbeinbruch zu leben? Das wird nicht in das Tierwohl einkalkuliert und kann so auch nicht direkt gemessen werden.

„Unter dem Deckmantel von Tierwohl“

netzpolitik.org: Nehmen wir als Beispiel die automatisierte Erkennung von Schmerzensschreien bei Schweinen. Ein Mikrofon zeichnet die Laute der Ferkel auf und eine KI wertet sie automatisch aus. Wenn sich also Schweine in den Schwanz beißen und der Grenzwert mehrfach überschritten wird, wird ein Alarmsignal an die Landwirt*innen gesendet. Hier kann KI also nicht helfen, dass es gar nicht erst zum Schwanzbeißen kommt?

Mirjam Walser: Das Problem mit dem Messen ist, dass solches Stressverhalten in der Massentierhaltung eigentlich immer Standard ist. Und KI basiert auf Werten, die wir eingeben. Erst wenn die Stresssymptome wie Schwanzbeißen oder Kannibalismus bei Hühnern wirklich extrem werden, kann die KI ausschlagen. Aber was ist der eigentliche Grund? Wieso hacken sich die Hühner die Köpfe ein?

Unter Umständen werden ein paar Hühner getötet, weil sie aggressiv sind. Das bringt jedoch per se noch keine systematische Verbesserung. Es wird gewissermaßen nur ein Pflaster auf die Wunde geklebt. Die eigentliche Wunde – die Tierhaltung – bleibt offen und unverändert. Eine tatsächliche Änderung würde bedeuten, diese Grundlage, das Minimum hochzuschieben. Dann würde KI ganz anders ausschlagen.

Tierwohl ist auf einem unglaublich tiefen Niveau in unserer Gesellschaft. Und KI bringt keine Verbesserung diesbezüglich. Im Gegenteil kann KI das noch verfestigen und skalieren. Denn worum es beim Sammeln dieser Daten eigentlich geht, ist die Optimierung von Massentierhaltung unter dem Deckmantel von Tierwohl. Es geht darum, Tierhaltung profitabel zu machen. Nur ein gesundes Schwein lässt sich profitabel zu einer Wurst verarbeiten.

Massentierhaltung als perfektes Umfeld für KI

netzpolitik.org: Für wen lohnt sich der Einsatz von KI in der „Nutztierhaltung“? Wie verbreitet ist das mittlerweile?

Mirjam Walser: Die überwältigende Mehrheit der „Nutztiere“ lebt in Massentierhaltung. In Deutschland kommt 95 Prozent des Fleisches aus Massentierhaltung. Und genau das ist ein perfektes Umfeld für den Einsatz von KI. Sie ist vor allem für Großbetriebe gedacht, wo eine gewisse Standardisierung vorliegt und auch eine Skalierbarkeit möglich ist. Deshalb nutzen sie vor allem Großbetriebe.

KI ist eben auch eine finanzielle Investition. Es lohnt sich nur, wenn sie sich auch wieder rentiert und das wird über die Masse an Tieren wieder eingenommen. Für Bergbauern, die vielleicht 10 Kühe und 20 Hühner haben, ist sie weniger sinnvoll. Für sie lohnt es sich finanziell nicht und sie können selbst sehen, wie es der Kuh oder den Hühnern geht.

Wie weit diese Technologien verbreitet sind, ist nicht ganz klar. Auf Agrarkonferenzen wird intensiv darüber gesprochen. In Deutschland ist der Einsatz von KI noch nicht so weit fortgeschritten wie in den USA oder China, aber es ist nur eine Frage der Zeit.

netzpolitik.org: Wie sieht es denn in China genau aus? Und kann das so ähnlich auch in Deutschland kommen?

Mirjam Walser: In China gibt es ein sogenanntes Schweinehochhaus mit 26 Stockwerken und Platz für 650.000 Schweine. Es ist hochgradig technologisiert. Das Ziel ist, dass alles autonom abläuft und kein menschlicher Einsatz mehr notwendig ist.

Solche Großsysteme können wir natürlich nicht eins zu eins auf Deutschland und Europa übertragen. Die gibt es bei uns nicht. Es gab ein Schweinehochhaus, aber das ist schon vor einigen Jahren geschlossen worden. Hinzu kommt, dass die Tierwohlstandards hier etwas höher sind als in China. Daher sind gewisse Dinge einfach nicht möglich. Zum Glück.

Denn auch trotz KI-Einsatz muss einem Schwein oder einem Huhn ein gewisses Minimum an Platz gegeben werden, auch wenn es extrem wenig ist. Hühner haben nicht mehr Platz als ein DIN-A4-Blatt. Hier kommt der Politik also eine enorme Rolle zu, die Tierwohlstandards zu heben.

Mit KI das Schmerzempfinden von Tieren manipulieren?

netzpolitik.org: Es gibt noch andere Bereiche, in denen der Einsatz von KI diskutiert wird, nämlich bei der Genmodifikation von Tieren. Was hat es damit auf sich?

Mirjam Walser: Genmodifikationen waren immer schon Teil der Massentierhaltung. Hühner waren vor 50 Jahren viel kleiner als heute. Jetzt setzen sie ein Vielfaches an Gewicht von damals an. Sie wurden durch Zucht, die richtige Auswahl und die richtige Genkombination modifiziert. Auch Euter sind viel dicker geworden im Vergleich zu vor 50 Jahren. Das ist im Prinzip nichts Neues. KI ist hier also nur die logische Konsequenz.

Es geht zum Beispiel darum, den Fleischertrag eines Tieres zu erhöhen. Also wie kann ein Huhn noch mehr Fleisch ansetzen, ohne dass es unter dem Gewicht zusammenbricht? Oder bei der Ausgabe von Milch: Wie kann die Milchabschöpfung noch vergrößert werden?

Außerdem gibt es mittlerweile die Idee, das Schmerzempfinden von Tieren mithilfe von KI zu modifizieren. Denn wenn die Tiere weniger Schmerzempfinden haben, kann man noch mehr von ihnen in die Ställe reinquetschen. Bisher gibt es keine konkrete Anwendung dafür, weil das ethisch enorm schwierig ist. Aber das ist ein Thema, das aktuell diskutiert wird.

Chatbots und das Foie-Gras-Paradox

netzpolitik.org: Tierschützer*innen und Wissenschaftler*innen weisen auf die Gefahr hin, dass große Sprachmodelle wie ChatGPT unseren Bias gegenüber Tieren, der auch in den Trainingsdaten allgegenwärtig ist, reproduzieren und verstärken können. Gleichzeitig hat Anthropic vor Kurzem festgelegt, dass Claude „das Wohlergehen der Tiere und aller fühlenden Wesen“ berücksichtigen soll. Was bedeutet das konkret in der Anwendung?

Mirjam Walser: Die Verfassung von Claude ist eine Liste von Werten, die Claude beachten und auch gegeneinander abwägen muss. Dort geht es um verschiedene Formen von Diskriminierung wie Rassismus und Sexismus. Im Januar 2026 hat Anthropic Tierwohl in die Liste aufgenommen. Bei keinem der großen Sprachmodelle kam es bisher vor. Claude ist somit das erste Modell, das Tierwohl berücksichtigen soll. Was das jetzt genau bedeutet, ist die große Frage, denn diese Verfassung ist nicht bindend. De facto ist bisher nichts umgesetzt.

Ein Beispiel ist das Foie-Gras-Paradox. Foie Gras ist die sogenannte Gänsestopfleber. Dafür werden Gänse innerhalb kürzester Zeit zu Tode gemästet. Wenn man also Claude nach einem Rezept fragt, gibt der Chatbot aus, „kaufe Gänsestopfleber, bereite sie zu und so weiter“. Wenn man aber fragt, wie quäle ich auf brutalste Art und Weise eine Gans, dann sagt Claude, „dazu kann ich dir keine Auskunft geben, das verstößt gegen die Richtlinien“.

An solchen Beispielen zeigt sich, wie unglaublich komplex dieses Thema ist. Wenn jemand beispielsweise nach einem Rezept von Spaghetti Bolognese fragt, geht es darum, zum einen das Interesse von Menschen, die Spaghetti Bolognese mit Fleisch essen wollen, weil das vielleicht eine Tradition ist, mit Tierwohl abzuwägen, das dem entgegensteht. Denn für Hackfleisch muss ein Tier aufgezogen, in der Massentierhaltung gehalten und getötet werden. Das Tier wird geschädigt. Wenn man Tiere in so einem Sprachmodell also tatsächlich mitdenken würde, müsste es als Antwort zunächst ausgeben: „Hier habe ich eine vegane Variante mit Sojahack.“ Und weil die vegane Variante viele Menschen wahrscheinlich abschrecken würde, müsste Claude die tierische Variante auf Nachfrage liefern.

Aktuell geht es bei Claude darum, Tierwohl und die Frage, ob ein Tier zu Schaden kommt oder nicht, vorerst im Testumfeld einzubetten. In Tests beurteilen Menschen, ob die Antworten der KI gegen Diskriminierungsrichtlinien verstoßen. Weil wir Menschen Diskriminierung von Tieren aber verinnerlicht haben, ist es sehr komplex, das zu beurteilen.

netzpolitik.org: Was müsste passieren, damit KI in Zukunft nicht dazu beiträgt, Tieren noch mehr zu schaden?

Mirjam Walser: Das Thema muss zum einen mehr Aufmerksamkeit kriegen. Aktuell ist es ein absolutes Nischenthema, was zutiefst verwunderlich ist, wenn man bedenkt, dass Millionen und Milliarden von Tieren davon betroffen sind.

Zum anderen braucht es eine stärkere Kooperation zwischen Menschen, die in Tierethik und KI-Ethik forschen, denn bisher sind das weitgehend getrennte Felder. Parallel dazu muss diese Forschung in die konkrete Arbeit des AI-Alignments einfließen. Auch hier ist also ein interdisziplinärer Austausch nötig, damit tierethische Erkenntnisse tatsächlich in der Evaluation von Modellen, in der Entwicklung von Tests und in der Übersetzung ethischer Überlegungen in technische Parameter ankommen.

Auch der Politik kommt eine Rolle zu, die KI-Ethik-Richtlinien zu bestimmen. Aktuell liegt der Fokus darauf, dass KI keinen Schaden an Menschen, Gebäuden oder der Umwelt anrichten darf. Tiere werden nicht explizit erwähnt. Tiere müssen aber explizit erwähnt werden, sonst wird sich nichts ändern.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Signal reagiert auf die umfangreiche Phishing-Kampagne mit Änderungen in der App. Derweil wird die Dimension der Attacke deutlicher: Schon im Januar waren fast 14.000 Accounts gezielt angeschrieben worden.

In einem Interview mit dem Spiegel (€) hat Signal-Chefin Meredith Whittaker angekündigt, dass der Messenger in Zukunft zusätzliche Warnhinweise anzeigen wird, um Phishing besser zu verhindern. Hintergrund der Maßnahme sind die teilweise erfolgreichen Phishing-Versuche gegen Vertreter:innen aus Politik, Militär und Journalismus, der in Deutschland nach Medienberichten zwei Ministerinnen und die Bundestagspräsidentin zum Opfer fielen.

Im Interview sagte Whittaker:

Wenn jemand zum ersten Mal eine Nachricht von einer unbekannten Nummer erhält, werden künftig zusätzliche Warnhinweise angezeigt. Das Annehmen neuer, unbekannter Kontakte wird in Zukunft nicht mehr mit einem einzigen Klick möglich sein und zwingend einen Warnhinweis enthalten. Wir prüfen noch weitere Ideen und werden dazu bald mehr bekannt geben. Und um es noch einmal klar zu sagen: Signal wird Nutzer niemals in einem zweiseitigen Chat kontaktieren, um sie nach ihrer PIN, ihrem Schlüssel oder anderen Informationen zu fragen.

Öffentlich bekannt wurde die Attacke in Deutschland, als netzpolitik.org am 28. Januar darüber berichtete, dass zahlreiche Journalist:innen im Visier stünden. Gut eine Woche nach dem Bericht warnten dann der Verfassungsschutz (BfV) und das Bundesamt für Sicherheit in der Informationstechnik (BSI) vor der Angriffswelle. Mittlerweile haben die Behörden ein weiteres Update der Warnung samt Handlungsleitfaden veröffentlicht.

Am gestrigen Donnerstag war die Phishing-Kampagne auch Thema im Digital- und im Innenausschuss des Bundestages. In nicht-öffentlicher Sitzung wurde durch Verfassungsschutzchef Sinan Selen und BSI-Chefin Claudia Plattner die Kampagne nachgezeichnet und noch einmal vor Phishing gewarnt. Laut dem Bericht wussten die Behörden erst „im Januar“ über die Angriffe Bescheid. Nach Informationen von netzpolitik.org könnte allerdings ein Ende 2025 vom Phishing betroffener Bundestagsabgeordneter beide Behörden schon früher informiert haben.

Viel spricht für Russland als Urheber des Angriffs

Mittlerweile verdichtet sich, dass Russland hinter der Attacke stecken dürfte. Das niederländische Verteidigungsministerium hatte Anfang März verlautbart, dass Russland hinter der laufenden Phishing-Kampagne gegen hochrangige Personen aus Politik, Militär, Zivilgesellschaft und Journalismus stecken soll. BSI und Verfassungsschutz hatten vor den Attacken gewarnt und diese als „wahrscheinlich staatlich gesteuert“ bezeichnet. Die Bundesregierung schreibt den Angriff bislang nicht offiziell einem Land zu, ließ aber über Regierungskreise verbreiten, dass Russland dahinter stecke.

In einer Mitteilung auf der Webseite des niederländischen Verteidigungsministeriums sprechen sowohl der militärische Geheimdienst MIVD als auch der zivile Geheimdienst AIVD von „russischen Staatshackern“, die hinter dem Angriff auf Signal und WhatsApp stecken würden. Auch netzpolitik.org hat Hinweise, welche die Theorie einer russischen Urheberschaft des Angriffs untermauern.

Mehr als 13.700 Telefonnummern

Das Medienhaus Correctiv hatte zudem den Angriff auf den früheren Vizepräsidenten des Bundesnachrichtendienstes, Arndt Freytag von Loringhoven, ausgewertet und ist dabei auch auf digitale Spuren gestoßen, die nach Russland führen.

Weiteren Spuren nachgegangen sind auch die IT-Sicherheitsexperten des Security Labs von Amnesty International, die sich schon frühzeitig mit der Kampagne befasst haben. Sie haben einem Bericht des Spiegels (€) zufolge ein Angriffswerkzeug gefunden. Wie Donncha Ó Cearbhaill, der Leiter des Amnesty-Labs dem Medium mitteilte, soll es sich um ein in russischer Sprache programmiertes Werkzeug namens ApocalypseZ handeln.

Die Untersuchung konnte erstmals auch eine Zahl der angegriffenen Signal-Accounts offenlegen. In der Datenbank der Angreifer konnten die Amnesty-Expert:innen Mobilfunknummern potenzieller Opfer sehen. „Im Januar waren es mehr als 13.700“, sagte Ó Cearbhaill gegenüber dem Spiegel. In den Screenshots des Schadprogramms konnten die Forscher:innen zudem sehen, dass viele der Phishing-Nachrichten über polnische und niederländische Nummern verschickt wurden.

Laut dem Spiegel-Bericht bestätigt sich nun auch die Annahme, die Donncha Ó Cearbhaill schon im Januar gegenüber netzpolitik.org geäußert hatte: Die Angreifer lesen die Kontakte derjenigen aus, die auf das Phishing hereinfallen – und versenden dann neue Nachrichten. Ziel ist die Übernahme der Accounts samt Einblicken in Netzwerke und zukünftige Inhalte der Kommunikation.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die EU will die KI-Verordnung aufweichen. Eine erste Einigung sieht nun vor, bestimmte Regulierungen für die Industrie abzuschwächen und zeitlich deutlich nach hinten zu verschieben. Hinzugekommen ist ein Verbot von KI-Anwendungen, mit denen sexualisierte Deepfakes erstellt werden können.

Nachdem die EU-Verhandlungen zum digitalen Omnibus Ende April 2026 vorübergehend geplatzt waren, konnten Rat und Parlament gestern Nacht im Trilog eine vorläufige Einigung erzielen; die Kommission war als Vermittlerin beteiligt.

Die Einigung betrifft die Aufnahme des Verbots von sogenannten KI-Nudifiern in die KI-Verordnung. „Nudifier“ sind Anwendungen, mit deren Hilfe sexualisierte Deepfakes erstellt werden können. Außerdem sollen Auflagen für die Industrie beim Einsatz von risikoreichen KI-Systemen begrenzt sowie zentrale Pflichten aus dem AI Act für Hochrisiko-Systeme deutlich nach hinten verschoben werden – auf Ende 2027 und 2028. Der vorliegende Kompromiss zwischen Rat und Parlament muss noch formal bestätigt werden.

Der Trilog war zuvor an der Frage gescheitert, wie in der Industrie mit der Hochrisiko-Kategorie für KI-Systeme umgegangen werden soll, die bereits durch sektorale Bestimmungen reguliert werden. Zentrale Pflichten des AI Acts für besonders risikoreiche KI-Systeme sollten eigentlich bereits ab dem 2. August 2026 wirksam werden. Der Kompromiss sieht nun vor, dass die Anwendung der KI-Verordnung dort begrenzt wird, wo sektorale Sicherheitsanforderungen vergleichbare KI-Regeln enthalten.

Die EU verabschiedete den AI Act (Verordnung über künstliche Intelligenz) im Mai 2024. Er ordnet KI-Technologie vier abgestuften Risikokategorien zu und regelt Pflichten für die Hersteller und Anbieter von KI-Systemen oder Produkten, die KI-Technologie enthalten. KI-Systeme mit inakzeptablem Risiko können verboten werden.

Die EU-Kommission möchte die Regelungen im Rahmen des sogenannten Digitalen Omnibus jedoch vereinfachen, um bürokratische Hürden für Unternehmen abzubauen und Europas Wettbewerbsfähigkeit zu steigern. Das Gesetzespaket ist umstritten. Es enthält unter anderem Lockerungen bei der Datenschutzgrundverordnung oder beim Training von KI mit personenbezogenen Daten.

Verbot von KI-„Nudifiern“

Konkret haben sich Parlament und Rat darauf geeinigt, in Zukunft KI-Anwendungen zu verbieten, mit deren Hilfe man sexualisierte Deepfakes erstellen kann. Das Thema wurde zu einem zentralen Vorhaben, nachdem Nutzer*innen mit dem Chatbot Grok Anfang des Jahres binnen weniger Tage Millionen von nicht-einvernehmlichen Deepfakes erstellt hatten.

Bereits Ende März hatte sich das Parlament dafür ausgesprochen, solche KI-Anwendungen zu verbieten. Im Trilog ging es noch um die Details der Formulierung. Das Verbot umfasst jetzt explizit auch das Erstellen von Inhalten, die sexuellen Missbrauch von Kindern zeigen. Zudem soll es untersagt sein, KI-Anwendungen auf den Markt zu bringen, die ohne Zustimmung Deepfakes von “intimen Teilen einer identifizierbaren Person” oder die Person bei sexuellen Handlungen zeigen.

Die geplante Verschärfung ist nicht die erste EU-Regelung zu Deepfakes. Eine andere Richtlinie sieht bereits vor, dass Mitgliedstaaten die Verbreitung von sexualisierten Deepfakes unter Strafe stellen, wenn diese geeignet sind, einer Person schweren Schaden zuzufügen. Deutschland setzt dies mit dem geplanten Gesetz gegen digitale Gewalt derzeit um. Das geplante Verbot in der KI-Verordnung würde den Fokus von der Bestrafung der Täter*innen auf die Anbieter solcher Anwendungen verschieben.

Im geplanten Text steht nun auch die fehlende Zustimmung der gezeigten Personen als definierendes Merkmal. Fachleute forderten das seit langem. Zugleich kritisiert etwa Ana Ornelas von der European Sex Workers’ Rights Alliance (ESWA), die Beschränkung auf „identifizierbare Personen“. Sie fürchtet, dass dies in der Durchsetzung zu Schlupflöchern führen könnte.

Lockerungen und Fristverlängerung für Industrie

Hochrisiko-KI-Systeme in Bereichen wie Beschäftigung, Bildung, Migration, Strafverfolgung oder kritische Infrastruktur sollen Anforderungen aus dem AI Act erst ab dem 2. Dezember 2027 erfüllen müssen. Für KI in Medizinprodukten, Maschinen oder Spielzeug gilt der 2. August 2028. Anbieter von KI-Systemen müssen diese grundsätzlich in der EU-Datenbank für risikoreiche Systeme registrieren – auch wenn sie der Ansicht sind, die Einstufung als risikoreich träfe nicht zu oder sei ausgenommen.

Die Sonderregelung für Maschinenverordnung schwächt nach Meinung des europäischen Verbraucherverbands BEUC den Verbraucherschutz. Konkret kritisiert der Verband, dass Alltagsgeräte wie Industriemaschinen aus der KI-Aufsicht herausfallen würden. Bei deren Versagen könnten Menschen zu Schaden kommen. Der Deal enthält offenbar auch eine Klausel, mit der die EU-Kommission später weitere KI-Systeme ohne neues Gesetzgebungsverfahren aus dem Geltungsbereich des AI Acts herausnehmen kann. Die Kommission erhalte damit eine Hintertür für künftige KI-Deregulierung.

BEUC-Generaldirektor Agustín Reyna meint, der überhastete Prozess habe ein Gesetz hervorgebracht, das komplizierter und weniger wirksam als vorher sei und vor allem der Industrie nutze.

Zumindest an manchen Stellen scheint der Kompromiss strenger. Die EU-Kommission wollte die Verarbeitung sensibler personenbezogener Daten – etwa Angaben, aus denen Ethnie oder Religion hervorgehen können – zur Bias-Erkennung erleichtern. Rat und Parlament begrenzten hier durch striktere Maßstäbe.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Eine der wichtigsten Konferenzen zu digitalen Grund- und Menschenrechten sollte diese Woche in Sambia stattfinden. Doch die Veranstaltung in dem südafrikanischen Land wurde kurzfristig abgesagt. Die Veranstalter:innen erheben schwere Vorwürfe: Demnach ließ China wegen taiwanesischer Gäste die Muskeln spielen.

Morgen sollte in Lusaka die RightsCon beginnen, eine der wichtigsten Konferenzen für Grund- und Menschenrechte in der digitalen Welt. Doch kurz vor dem Beginn meldete vorige Woche die Regierung des Gastgeberlandes Sambia Bedenken an und verkündete, die Konferenz müsse verschoben werden. Inzwischen ist sie ganz abgesagt und die Ausrichterin, die Nichtregierungsorganisation Access Now, erhebt schwere Vorwürfe – nicht nur gegen Sambia, sondern auch gegen die Volksrepublik China. Diese habe wegen der Teilnahme taiwanesischer Gäste Druck auf die Regierung Sambias ausgeübt.

Mehr als 2.600 Gäste erwartet

Die Konferenz findet jedes Jahr in einem anderen Land statt. Seit 2024 habe man die erste RightsCon im südlichen Afrika in enger Zusammenarbeit mit der Regierung Sambias vorbereitet, heißt es in einem Statement, das Access Now am Freitag veröffentlicht hat. Mehr als 2.600 Gäste seien in der sambischen Hauptstadt Lusaka erwartet worden, viele von ihnen hätten ihre Reise lange geplant und teilweise bereits angetreten. Weitere 1.100 Teilnehmende im Netz waren angemeldet, zusammen repräsentierten sie mehr 750 Organisationen aus 150 Ländern: Menschenrechts-Aktivist:innen, Vertreter:innen von Regierungen und internationalen Organisationen, Mitarbeitende von Tech-Unternehmen.

Entsprechend groß war der Schock, als Ende April, nur wenige Tage vor dem Beginn der viertägigen Veranstaltung, erste Berichte über eine Verschiebung der Konferenz durch die sambische Regierung die Runde machten. Noch am 26. April hatte das Ministerium für Technologie und Wissenschaft die bevorstehende Veranstaltung begrüßt. „RightsCon 2026 wird Sambia eine strategische Plattform bieten, um sein Engagement für eine sichere, inklusive und auf Rechten basierende digitale Zukunft unter Beweis zu stellen und gleichzeitig wirtschaftliche Chancen für lokale Innovatoren und Unternehmen zu erschließen“, so eine Sprecherin des Ministeriums.

Einen Tag später, so Access Now, sei man vom Ministerium telefonisch informiert worden, dass es ein Problem gebe: „Uns wurde mitgeteilt, dass Diplomaten der Volksrepublik China Druck auf die Regierung Sambias ausübten, weil Vertreter der taiwanesischen Zivilgesellschaft planten, persönlich an der Veranstaltung teilzunehmen“, so Access Now in der englischsprachigen Erklärung. Dies habe man mit Nachdruck zurückgewiesen und unverzüglich taiwanesische Gäste gewarnt. „Wir haben ihnen gesagt, dass wir von einer Anreise abraten würden, bis mehr Klarheit herrscht“, so Nikki Gladstone von Access Now gegenüber WIRED.

Mehrere kritische Beiträge im Programm

Laut Access Now folgten zahlreiche Versuche der Klärung. Am Ende habe die sambische Regierung jedoch klargemacht, dass die Konferenz nur stattfinden dürfe, wenn inhaltliche Konzessionen gemacht würden. Ihnen sei „informell aus mehreren Quellen“ mitgeteilt worden, dass „die RightsCon nur dann fortgesetzt werden könne, wenn wir bestimmte Themen zensieren und gefährdete Gruppen, darunter unsere taiwanesischen Teilnehmer:innen, von der Teilnahme vor Ort und online ausschließen würden“. In Reaktion darauf erfolgte am 30. April schließlich die Absage der Konferenz durch die Veranstalter:innen. „Das war unsere rote Linie“, so Access Now.

Das Programm der RightsCon enthielt mehrere Sessions, die sich kritisch mit Chinas Rolle in der globalen Digitalisierung auseinandersetzten, etwa zum Export digitaler Zensur- und Überwachungswerkzeuge, zur Verbreitung von Desinformation in Regionen wie Afrika oder zu chinesischen Cyber-Attacken. Unter den Speaker:innen waren unter anderem die Chefinnen von Amnesty International Taiwan und des Taiwan Network Information Center, das für die Registrierung von Domainnamen und die Vergabe von IP-Adressen in Taiwan zuständig ist. 2025 fand die RightsCon in Taipeh statt, der Hauptstadt Taiwans.

Die Taiwan-Frage führt immer wieder zu geopolitischen Spannungen, die Volksrepublik China droht regelmäßig mit einer militärischen Eroberung der strategisch wichtigen Insel. Erst kürzlich beschimpfte ein Sprecher der chinesischen Regierung Taiwans Präsidenten Lai Ching-te als „Ratte“. Anlass war eine Reise Lais in das südafrikanische Königreich Eswatini. Medienberichten zufolge sollen drei Staaten im Indischen Ozean auf Druck Pekings Überflugrechte für Lais Maschine zurückgezogen haben, um die Reise zu verhindern.

Kritische Abhängigkeiten

China hat in den vergangenen Jahrzehnten massiv auf dem afrikanischen Kontinent investiert und so Abhängigkeiten geschaffen. Insbesondere im Rahmen des Projekts „Neue Seidenstraße“ haben chinesische Kredite und Konzerne den Ausbau der analogen und digitalen Infrastruktur in vielen afrikanischen Ländern ermöglicht. Auch zwischen Sambia und China sind die Verbindungen eng. WIRED zufolge hat die Zambia Development Agency wenige Tage vor der Konferenz, am 23. April einen Vertrag über 1,5 Milliarden US-Dollar mit einem staatlichen chinesischen Bauunternehmen verkündet, um die Stromkapazitäten des Landes auszubauen. Auch das Internationale Konferenz-Zentrum in Lusaka, in dem die RightsCon stattfinden sollte, wurde 2022 mit Hilfe eines Zuschusses der chinesischen Regierung in Höhe von 30 Millionen US-Dollar umfassend erweitert.

Dass China seine Macht gegen die globale Digital-Rights-Community derart offen ausspielt und Abhängigkeiten ausnutzt, ist jedoch ungewöhnlich. Die Volksrepublik positioniert sich seit vielen Jahren im Globalen Süden als systemische Alternative zur US-Dominanz, auch im Bereich der Internet Governance. In einem 2022 Weißbuch spricht China gar von einer „Schicksalsgemeinschaft im Cyberspace“.

„Ich denke, dieser Fall zeigt deutlich, dass China nicht nur eines der stärksten Systeme zu Online-Zensur und ‑Überwachung aufgebaut hat, sondern derzeit auch neue Methoden der Offline-Zensur außerhalb der eigenen Grenzen testet“, kommentiert Alena Epifanova von der Deutschen Gesellschaft für Auswärtige Politik den Fall. „Das könnte künftig mehrere Länder betreffen, die enge wirtschaftliche Beziehungen zu China haben oder von chinesischen Investitionen abhängig sind“, so die Vermutung der Analysten des von der Bundesregierung finanzierten Thinktanks. „Wenn es um Taiwan geht, zieht das Land alle Register – unabhängig von Partnerschaftsnarrativen –, um Taipeh zu isolieren.“

Wir haben die Botschaft der Volksrepublik China und die Botschaft Sambias am Montag kurzfristig für ein Pressestatement zu den Vorwürfen angefragt und bis zur Veröffentlichung keine Antwort erhalten. Wir reichen diese nach, sofern wir eine Antwort erhalten.


Update 1, 05.05.2026, 12:45 Uhr: Mehrere Europäische Organisationen wie die European Partnership for Democracy (EPD), European Digital Rights, Digitale Gesellschaft und Zašto haben einen offenen Brief zur Absage der Konferenz veröffentlicht. Darin kritisieren sie die Entscheidung der sambischen Regierung und fordern unter anderem Konsequenzen der EU und ihrer Mitgliedsländer. Ein automatisiert übersetzter Auszug aus dem englischsprachigen Brief:

Dieser Schritt geschieht nicht in einem Vakuum. Die Zivilgesellschaft steht weltweit bereits unter erheblichem Druck und sieht sich mit drastischen Mittelkürzungen sowie Gesetzen konfrontiert, die darauf abzielen, den zivilgesellschaftlichen Handlungsspielraum einzuschränken. Die Absage der RightsCon reiht sich ein in ein besorgniserregendes globales Muster der Unterdrückung, das genau jene Organisationen und Personen ins Visier nimmt, die sich für die Verteidigung der Grundrechte einsetzen.

Der Zeitpunkt macht dies besonders deutlich. Der Tag der Pressefreiheit der UNESCO findet diese Woche in Lusaka statt – ein Ereignis, das offene Gesellschaften feiern sollte und nicht von der Unterdrückung zivilgesellschaftlicher Versammlungen durch die Regierung des Gastgeberlandes überschattet werden darf.

EPD unterstützt den Aufruf unserer Partner an die Europäische Union und ihre Mitgliedstaaten, Sambia klar zu machen, dass diese Entscheidung zutiefst alarmierend ist und die Gefahr birgt, einen Schatten auf die Beziehungen zwischen der EU und Sambia zu werfen. Wir unterstützen auch den Aufruf, die Delegierten, die heute am Weltpressefreiheitstag in Lusaka teilnehmen, dazu aufzufordern, diese Plattform zu nutzen, um ihre Stimme zu erheben. Schließlich unterstützen wir den Aufruf an die sambische Regierung, die Rechte von Aktivisten auf Versammlung, Organisation und freie Meinungsäußerung in ihrem Land oder im Ausland uneingeschränkt zu respektieren.

Update 2, 05.05.2026, 13:30 Uhr: Die Botschaft der Republik Sambia hat auf unsere Presseanfrage geantwortet und uns ein Statement geschickt, das sie bereits am 29. April veröffentlicht hatte. Darin betont die Regierung, dass es sich lediglich um eine Verschiebung der Konferenz handele, und bedauert dadurch entstehende Unannehmlichkeiten. Sie begründet den Schritt wie folgt (maschinell übersetzt aus dem Englischen):

Die Verschiebung wurde notwendig, da umfassende Informationen zu zentralen Themen, die auf dem Gipfel zur Diskussion stehen sollten, offengelegt werden mussten. Diese Offenlegung ist unerlässlich, um eine vollständige Übereinstimmung mit den nationalen Werten, den politischen Prioritäten und den übergeordneten Erwägungen des öffentlichen Interesses Sambias zu gewährleisten.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die EU arbeitet mit Hochdruck an der Abschiebeverordnung. ICE-ähnliche Razzien in Privatwohnungen und elektronische Fußfesseln für Menschen ohne Aufenthalt könnten Realität werden, wenn die Verordnung in dieser Form beschlossen wird – warnen Expert*innen und zivilgesellschaftliche Organisationen.

Ein „Gemeinsames Europäisches Rückkehrsystem“ soll künftig dafür sorgen, dass abgelehnte Asylbewerber*innen und andere Migrant*innen ohne legalen Aufenthalt schneller und in größerer Zahl abgeschoben werden. Die höchst umstrittene Rückführungsverordnung, auch als Abschiebeverordnung bekannt, befindet sich in den letzten Zügen der EU-Gesetzgebung. EU-Kommission, Parlament und Mitgliedstaaten haben ihre Positionen festgelegt und müssen nun im Trilog eine geeinte Version verhandeln. Der EU-Innen- und Migrationskommissar Magnus Brunner bezeichnete die Verordnung zuletzt als „das fehlende Puzzlestück“. Das Gesamtbild ist dabei die härtere Migrationspolitik, die die EU mit dem Migrations- und Asylpakt eingeschlagen hat, der ab Juni 2026 zur Anwendung kommen soll.

„Die Verordnung ist ein klares Zeichen dafür, dass sich die Migrationspolitik in der EU radikalisiert hat“, sagt Bernd Parusel, Senior Researcher am Schwedischen Institut für Europäische Studien gegenüber netzpolitik.org. „Die weitgehende und drastische Verschärfung der bisherigen Rückführungspolitik der EU geht an die Grenzen dessen, was menschenrechtlich vertretbar ist“, so der Wissenschaftler, der zur geplanten Verordnung forscht.

Ein Teil der Verordnung sieht Abschiebungen in sogenannte „Return Hubs“ in Länder außerhalb der EU vor, zu denen die Menschen keinerlei Bezug haben. Es geht auch um die Inhaftierung von Familien sowie Kindern ohne Eltern und die massive Ausweitung maximal zulässiger Abschiebehaft. Außerdem setzt das Gesetzesprojekt darauf, Menschen ohne Papiere aufzuspüren und jene, die abgeschoben werden sollen, verstärkt digital zu überwachen.

Stehen ICE-ähnliche Razzien in der EU bevor?

Eine Regelung, die einen großen Aufschrei unter zivilgesellschaftlichen Akteuren und Angestellten im öffentlichem Sektor ausgelöst hat, verpflichtet Mitgliedstaaten, Menschen ohne Papiere „aufzuspüren“. Dass birgt die Gefahr, dass es auch in der EU zu Menschenjagden nach Migrant*innen an öffentlichen Plätzen und im Privaten geben könnte. Der Vorschlag der Kommission sieht vor, dass Mitgliedstaaten „effektive und angemessene Maßnahmen“ einführen sollen, „um Drittstaatsangehörige aufzuspüren, die sich illegal in ihrem Staatsgebiet aufhalten“.

Das EU-Parlament hat diese Regelung in seiner Fassung gestrichen. Doch es besteht die Möglichkeit, dass der noch härtere Vorschlag der Mitgliedstaaten Eingang in den finalen Text findet. Ihre Position sieht „investigative Ermittlungsmaßnahmen“ vor, um die Zahl der Abschiebungen zu erhöhen. Dazu gehören beispielsweise Durchsuchungen von Wohnungen und „anderen relevanten Räumlichkeiten“. Dies würde der Polizei ermöglichen, Krankenhäuser, Schulen, Arbeitsplätze, öffentliche und soziale Einrichtungen und Wohnungen zu durchsuchen – ganz ohne richterliche Anordnung. Betroffen wären alle, die Menschen ohne Papiere unterstützen, und Bürger*innen, in deren Wohnungen die Behörden sie vermuten.

Auch die Durchsuchung und Beschlagnahmung von elektronischen Geräten, darunter Handys, wären Teil dieser investigativen Maßnahmen – etwas, was auch das EU-Parlament will, als eine Mitwirkungspflicht der Betroffenen ohne Möglichkeit des Widerspruchs.

Risiko von Racial Profiling für ganze Communitys

Zahlreiche unabhängige Expert*innen, darunter 16 UN-Sonderberichterstatter*innen für Menschenrechte sowie mehr als 100 zivilgesellschaftliche Organisationen, warnen, dass solche erweiterten Befugnisse illegale Praktiken des Racial Profiling befeuern und Grundrechte von Menschen ohne Papiere untergraben würden. Da rassistisches Profiling sich oft auf das Aussehen, die Sprache oder die vermutete Herkunft der Betroffenen stützt, erhöhe sich das Risiko von Diskriminierung. Das gelte nicht nur für Menschen ohne Aufenthaltserlaubnis, sondern für ganze gesellschaftliche Gruppen, die von Rassismus betroffen sind, schreibt Platform for International Cooperation on Undocumented Migrants (PICUM), eine der rund 100 kritischen Organisationen.

„Aufspürmaßnahmen schüren Angst, Diskriminierung und Verfolgung und zerstören soziale Bindungen und Gemeinschaften“, kritisiert PICUM in ihrer Stellungnahme. Solche Regelungen halten Menschen davon ab, grundlegende Gesundheitsversorgung wie beispielsweise Schwangerschaftsbetreuung, Behandlung chronischer Krankheiten und Impfungen in Anspruch zu nehmen.

Die Organisationen sowie die UN-Sonderberichterstatter*innen befürchten außerdem, dass die Aufspür-Regelung eine Meldepflicht für Beschäftigte im öffentlichen Dienst nach sich ziehen könnte. Lehrkräfte und Ärzt*innen müssten demnach Menschen ohne gültige Aufenthaltspapiere melden, damit sie abgeschoben werden können. Das würde das Vertrauen zwischen ihnen und ihren Klient*innen nachhaltig beeinträchtigen und könne eine Krise des Gesundheitssystems ähnlich wie in den USA nach sich ziehen, warnen die Organisationen weiter. Dort meiden Menschen ohne Aufenthaltsgenehmigung aus Angst medizinische Einrichtungen.

In Europa haben sich deshalb 1.100 medizinische Fachkräfte im Vorfeld der Abstimmung im Europaparlament gegen die Verordnung ausgesprochen. „Wir weigern uns, zu Instrumenten der Einwanderungskontrolle zu werden“, heißt es in dem Brief.

Europaweite Zementierung von Menschenrechtsverletzungen

Derartige Aufspürmaßnahmen sind nicht ganz neu. Ähnliche Praktiken werden in einzelnen Mitgliedstaaten bereits angewandt, wenn auch uneinheitlich. In Deutschland beispielsweise hat die Polizei immer wieder Schlafzimmer in Geflüchtetenunterkünften ohne Durchsuchungsbeschluss gestürmt, um Menschen abzuschieben. Erst im vergangenen Herbst hat das Bundesverfassungsgericht diese Praxis für verfassungswidrig erklärt. Dieses Beispiel zeigt, dass solche Maßnahmen auf nationaler Ebene erfolgreich angefochten werden konnten.

Schafft es die Regelung in die geeinte Verordnung, würden entsprechende Maßnahmen EU-weit festgeschrieben. Das würde solchen Praktiken neue Legitimität verleihen, ihre Ausweitung auf ganz Europa erfordern und es in Zukunft erheblich erschweren, sie anzufechten oder rückgängig zu machen, warnt PICUM.

Kommt die elektronische Fußfessel für Menschen ohne Papiere?

Laut ProtectNotSurveil, einem Zusammenschluss von Organisationen, die sich mit digitalen Rechten von Migrant*innen befassen, gehen die umstrittenen Aufspürmaßnahmen mit einem verstärkten Einsatz von Überwachungstechnologien einher. Denkbar wären beispielsweise mobile Geräte zur biometrischen Identifizierung, wie sie etwa ICE-Agent*innen in den USA nutzen. Seit Anfang des Jahres setzen diese die App „Mobile Fortify“ zur Gesichtserkennung ein, um den Aufenthaltsstatus von Personen bei Kontrollen auf der Straße festzustellen.

Ein anderes alarmierendes Beispiel ist die geplante elektronische Überwachung von Personen, die abgeschoben werden sollen. Die Verordnung führt sie als vermeintliche Alternative zur Abschiebehaft ein. Vielfach haben Jurist*innen und Menschenrechtsorganisationen jedoch kritisiert, dass sie keine echte Alternative zur Haft darstellt. „Sie ist nicht nur eine Alternative, sondern auch eine zusätzliche Zwangsmaßnahme“, erklärt Parusel. Denn die elektronische Überwachung könnte laut der Verordnung nicht nur statt der Haft, sondern auch davor oder danach eingesetzt werden – selbst wenn die ohnehin ausgedehnte Haftdauer von 24 Monaten bereits überschritten ist.

Wie die elektronische Überwachung im Konkreten aussehen soll, legt die geplante Verordnung nicht näher fest. „Denkbar sind vielleicht eine elektronische Fußfessel oder GPS-Ortung“, sagt Parusel. „Der Entwurf der Verordnung gibt dem nationalen Gesetzgeber hier Freiräume.“

Weil solche Technologien in hohem Maße in die Privatsphäre sowie die Bewegungsfreiheit eingreifen und potenziell stigmatisierend sind, gelten sie weithin als de-facto-Inhaftierung.

Darüber hinaus sieht der Vorschlag vor, dass alle Personen, die abgeschoben werden sollen, sich in einem bestimmten geografischen Gebiet aufhalten, an einer bestimmten Adresse wohnen oder regelmäßigen Meldepflichten nachkommen müssen. Das werfe nicht nur ernsthafte Bedenken hinsichtlich der Verhältnismäßigkeit auf, sondern könnte ebenfalls durch den Einsatz invasiver Überwachungs- und Kontrolltechnologien umgesetzt werden, warnt ProtectNotSurveil.

Neue Europäische Rückkehrentscheidung

Das Kernstück der Verordnung ist die „Europäischen Rückkehrentscheidung“. Diese enthält ein standardisiertes digitales Datenblatt mit Informationen zur Abschiebeentscheidung. Alle Mitgliedstaaten sollen dieses Datenblatt abrufen können. „Wenn ein Mitgliedstaat eine Rückführungsentscheidung getroffen hat, dann ist sie im System drin“, erklärt Parusel gegenüber netzpolitik.org. „Sollte die Person in ein anderes EU-Land weiterwandern, wird dieser Mitgliedstaat sehen können, dass die Person im ersten Land schon zur Ausreise aufgefordert wurde, und ob schon ein Zielland festgelegt wurde“, so der Wissenschaftler.

Sobald ein Mitgliedstaat entschieden hat, eine Person abzuschieben, soll diese Entscheidung von allen anderen EU-Mitgliedstaaten ab 2027 verpflichtend anerkannt und auch umgesetzt werden, schlägt das Europaparlament vor. Die anderen Mitgliedsstaaten wären dann nicht mehr verpflichtet, die Situation der Person und ihre Schutzbedürftigkeit selbst zu prüfen. Unter den Mitgliedstaaten ist dieser Punkt umstritten, in ihrem Entwurf haben sie Einschränkungen bei der gegenseitigen Anerkennung vorgesehen.

Nationale Migrationsbehörden sollen die „Europäische Rückkehrentscheidung“ parallel zur nationalen Abschiebeanordnung erlassen und über das Schengener Informationssystem (SIS II) zur Verfügung stellen. Dadurch werden personenbezogene Daten von Betroffenen für Tausende Polizeibeamt*innen in der gesamten EU zugänglich, kritisieren die ProtectNotSurveil-Organisationen. Das Schengener Informationssystem II, das größte Migration- und Polizeidaten-Austauschsystem der EU, sei ohnehin für wiederholten Datenmissbrauch und die systematische Verweigerung der Datenschutzrechte bekannt. Es gibt dokumentierte Fälle, in denen Polizei- und Einwanderungsbehörden sich nicht an Vorschriften gehalten haben. Die Verordnung baut direkt auf dieser Architektur auf und verstärkt ihre Eingriffsintensität.

Datenübermittlung an Drittstaaten darf nicht zu Todesstrafe führen

Zudem setzt die Verordnung auf die Erfassung großer Datenmengen ausreisepflichtiger Personen auf, die allein zum Zweck der Abschiebung erhoben und zwischen den Mitgliedstaaten ausgetauscht werden sollen. Neben Gesundheitsdaten und Auszügen aus Strafregistern sind es auch biometrische Daten und Informationen wie Bildungsabschlüsse, Reiserouten oder Kontakte von Familienangehörigen im Zielland der Abschiebung. „Es handelt sich um einen noch weitergehenden rückkehrspezifischen Datenaustausch“, sagt Parusel. „Ausreisepflichtige Drittstaatsangehörige werden in einem ganz anderen Ausmaß durchleuchtet und überwacht als beispielsweise EU-Bürger, von denen der Staat diese Daten nicht braucht und auch nicht haben will“, fügt der Wissenschaftler hinzu.

Sensible personenbezogene Daten wie Gesundheitsdaten und Auszüge aus Strafregistern sollen auch an Drittländer fließen, in denen es keine mit der EU vergleichbaren Datenschutzgarantien gibt. Den betroffenen Personen stehen dort deshalb keine wirksamen Rechtsbehelfsmechanismen zur Verfügung, kritisert ProtectNotSurveil.

Für Menschen, die in ihren Herkunftsstaaten politisch verfolgt werden, stelle das ein großes Risiko dar, sagt Parusel. Bei Ausreisepflichtigen gehe man von Menschen aus, die keine Schutzgründe haben. „Aber es gibt auch Menschen, deren Asylgesuch fälschlicherweise abgelehnt wurde oder denen nicht gelungen ist, ihre Schutzgründe glaubhaft vorzubringen“. Diese Menschen seien dann leichter auffindbar und ihnen drohe akute Verfolgungsgefahr. Auch der Europäische Datenschutzbeauftragte warnte, die Übermittlung von strafrechtlich relevanten Daten darf nicht zu einer Todesstrafe oder anderer grausamer Behandlung im Drittstaat führen.

Wird die Verordnung zu mehr Abschiebungen führen?

Ob die Verordnung tatsächlich zu einfacheren und wirksameren Abschiebeverfahren und steigenden Abschiebezahlen führen wird? Mehr als 250 Organisationen gehen davon aus, dass sie den gegenteiligen Effekt haben wird. Sie werde die Zahl der ausreisepflichtigen Menschen eher künstlich in die Höhe treiben. Denn der Vorschlag etabliert die Abschiebung als Standardoption für Menschen ohne legalen Aufenthalt und lässt wenig bis gar keine Alternativen übrig. Er verpflichtet die Mitgliedstaaten, bei jeder Entscheidung zur Beendigung eines legalen Aufenthalts zugleich einen Abschiebebescheid zu erlassen, ohne zuvor andere Aufenthaltsmöglichkeiten auf nationaler Ebene zu prüfen. Das sind zum Beispiel Aufenthaltsgenehmigungen aus humanitären, medizinischen oder familiären Gründen.

Damit das europäische Rückführungssystem besser funktioniert, sollten die Mitgliedstaaten nicht mehr Menschen als nötig in das Rückführungssystem leiten, findet auch Bernd Parusel. „Zur Ausreise sollten nur diejenigen aufgefordert werden, die eine realistische Aussicht auf Rückkehr haben.“

In der Wissenschaft geht man außerdem davon aus, dass der gewünschte abschreckende Signaleffekt der neuen Zwangsmaßnahmen begrenzt sein wird. „Ich glaube nicht, dass man mit Zwangsmaßnahmen alleine das Problem löst. Man muss auch über Alternativen zur Zwangsrückkehr nachdenken“, so der Wissenschaftler gegenüber netzpolitik.org. Das könne beispielsweise die Legalisierung von Menschen ohne legalen Aufenthalt sein. Denn anders als Abschiebungen sind Bleiberechte effektiver darin, die Zahlen der sogenannten Ausreisepflichtigen zu senken und der Überforderung der Verwaltung entgegenzuwirken.

Am 22. April trafen sich Vertreter*innen der Mitgliedstaaten mit Abgeordneten des EU-Parlaments zum zweiten Mal, um ihre Positionen zur Abschiebeverordnung zu verhandeln. Die ersten Trilog-Verhandlungen fanden bereits am 26. März statt. Nur wenige Stunden vorher hatte die konservative EVP-Fraktion im EU-Parlament unter der Führung des deutschen CSU-Politikers Manfred Weber mit Unterstützung rechtsextremer Parteien wie der AfD ihren Standpunkt verabschiedet.

Da die Mitgliedstaaten und das Europaparlament sich in vielen Punkten einig sind, ist mit einem schnellen Abschluss der Trilog-Verhandlungen zu rechnen. Ein Beschluss ist noch im ersten Halbjahr 2026 geplant, die nächsten Verhandlungen sind für Juni angesetzt. Für die meisten Maßnahmen wünschen sich die Mitgliedstaaten eine Umsetzungsfrist von zwei Jahren, bis auf die Abschiebungen in „Return Hubs“. Diese sollen direkt nach Beschluss der Verordnung möglich sein, auch wenn es hier noch viele Fragezeichen gibt. Deutschland versucht derzeit aktiv, solche Deals mit Drittstaaten auszuhandeln.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die EU will unter hohem Zeitdruck ihre Regeln für Künstliche Intelligenz aufweichen. Nun sind eigentlich abschließende Verhandlungen gescheitert. Alle Beteiligten machen sich gegenseitig Vorwürfe, am Ende könnten Regeln zum besseren Schutz vor KI-generierten Nacktbildern unter die Räder geraten.

Die EU-Institutionen können sich weiter nicht auf eine abgeschwächte Fassung der KI-Verordnung einigen. Medienberichten zufolge sind gut zwölfstündige Trilog-Verhandlungen zwischen dem Europäischen Parlament, dem Rat und der Kommission am Dienstag gescheitert.

Ein zentraler Streitpunkt war offenbar eine vorgeschlagene Ausnahme für risikoreiche KI-Systeme in der Industrie, wie Table Media [€] berichtet. Das Parlament hatte demzufolge vorgeschlagen, die sektorspezifischen Regelungen zu ändern: Industriemaschinen sollten demnach aus der Hochrisiko‑Kategorie herausfallen. Entscheidend für eine Einstufung als Hochrisiko sollte stattdessen die tatsächliche Sicherheitsfunktion der KI werden. Rat und Parlament sind sich in dieser Frage jedoch uneins.

Gestritten wurde dem Bericht zufolge zudem über ein Verbot sogenannte „Nudifier“-Anwendungen. Das sind generative KI‑Systeme, die Menschen auf Foto- oder Videomaterial entkleiden können. Das Parlament möchte nicht‑einvernehmliche intime Inhalte verhindern, es konnte jedoch keine Einigung darüber erzielt werden, welche Körperteile darunterfallen.

Das kritisiert unter anderem Eva Lejla Podgoršek, Senior Policy Managerin bei AlgorithmWatch. Es sei wichtig, „dass die wenigen guten Vorschläge nicht unter die Räder geraten.“ Das geplante Verbot von KI-Systemen, die nicht einvernehmliche sexualisierende Deepfakes ermöglichen, sei ein wichtiger Baustein, um Betroffene wirksam zu schützen.

Wenn drei sich streiten, freut sich niemand

Die Anpassungen der bereits im August 2024 in Kraft getretenen KI-Verordnung sollen im Rahmen des sogenannten Digitalen Omnibus erfolgen. Mit dem von der EU-Kommission vorgeschlagenen Gesetzespaket sollen Vorschriften im digitalen Sektor vereinfacht werden, um bürokratische Hürden für Unternehmen abzubauen und Europas Wettbewerbsfähigkeit zu steigern. Das Paket ist jedoch umstritten. Es enthält auch Lockerungen der Datenschutzgrundverordnung, etwa beim Training von KI mit personenbezogenen Daten oder einer Neudefinition personenbezogener Daten.

Während die Verhandlungen über den Daten-Omnibus sich offenbar länger hinziehen, machten die Beratungen über den KI-Omnibus schnell Fortschritte. Die Zeit drängt: Zentrale Pflichten des AI Acts für besonders risikoreiche KI-Systeme werden ab dem 2. August 2026 wirksam. Diese Fristen sollen mit dem Omnibus aufgeschoben werden. Gestern sind die finalen Verhandlungen allerdings bereits zum zweiten Mal geplatzt.

Laut Table Briefings sieht die zypriotische Ratspräsidentschaft keine Schuld bei sich: „Wir sind mit einer sehr konstruktiven Haltung in die heutige Sitzung gegangen und haben konkrete Vorschläge zur Lösungsfindung unterbreitet“. Man habe während der Verhandlungen ein hohes Maß an Flexibilität gezeigt, aber keine Einigung mit dem Europäischen Parlament erzielen können. Das Ziel der Vereinfachung werde jedoch weiterhin verfolgt.

Stimmen aus dem Parlament sehen dies anders. Es sei „inakzeptabel, dass die Ratspräsidentschaft nicht bereit war, einen substanziellen Kompromiss zu machen, um die Überregulierung von KI zu beenden“, sagte die Europaabgeordnete Svenja Hahn (FDP). Michael McNamara (parteilos), Verhandlungsführer für das EU-Parlament, räumte in einem Interview mit Tech Policy Press jedoch selbst ein, dass die vorgeschlagene Verlagerung in sektorale Gesetze „eher zu Deregulierung als zu einer Vereinfachung führen könnte“.

Schwere Vorwürfe kommen von den Grünen im EU-Parlament, insbesondere gegenüber deutschen Konservativen, wie Euractiv berichtet. Sie werfen der Europäischen Volkspartei vor, das Omnibus-Gesetz bewusst zu verzögern und dabei auch die Hilfe von rechtsextremen Parteien im Parlament in Anspruch zu nehmen. Merz wolle noch weitergehende Lockerungen der KI-Regeln, als sie derzeit verhandelt würden. Das wiederholte Scheitern lassen der Verhandlungen sei ein Schachzug, um Zeit zu gewinnen und so die Positionen der EU-Mitgliedstaaten zu beeinflussen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Frankfurt am Main ist ein Freiluftlabor für automatisierte Gesichtserkennung. Die Bilder von Überwachungs-Kameras werden permanent nach bestimmten Personen durchsucht, bei Kontrollen nutzt die Polizei eine Foto-App, um Menschen zu identifizieren. Dabei bleiben hier viele lieber unerkannt: Die Videokameras zeigen auf die Eingänge von 16 Bordellen.

Juanita Henning steht auf der Elbestraße in Frankfurt am Main und schaut in eine Videokamera. Die hängt etwa 50 Meter von ihr entfernt und hat acht Linsen, um von allen Straßenabschnitten gleichzeitig scharfe Bilder zu liefern. „Die vermisst jetzt gerade mein Gesicht und prüft, ob ich von der Polizei gesucht werde“, sagt Henning. Biometrische Fernidentifizierung in Echtzeit nennt das hessische Innenministerium die Technologie, die hier in einem Pilotprojekt getestet wird. Und wie fühlt es sich an, im Blickfeld der Kamera? „Absolut unangenehm. Du weißt ja auch nie, wozu diese Aufnahmen missbraucht werden“, sagt sie.

Juanita Henning befindet sich vor dem Büro von Doña Carmen, einer Beratungsstelle für Prostituierte. Links daneben ist eine Tabledance-Bar, rechts daneben ein Bordell. Gegenüber, auf der anderen Straßenseite, sind noch zwei weitere Bordelle. Auch ihre Eingänge liegen im Sichtbereich der Kamera. Insgesamt erfasst die Videoüberwachung des Frankfurter Bahnhofsviertels mindestens 16 Häuser, in denen Sexarbeit verrichtet wird.

Deren Türen und Fenster werden in der Videoüberwachung angeblich ausgeblendet, ansonsten wird der öffentliche Raum im Bahnhofsviertel von Frankfurt am Main „nahezu vollständig“ videoüberwacht, so die Polizei zu netzpolitik.org. 29 der 70 Kameras, die in Frankfurt öffentlichen Raum erfassen, stehen hier. 19 davon eignen sich für die automatisierte Gesichtserkennung.

„Ein ganz perverser Eingriff“

Henning sagt: „Videoüberwachung und automatisierte Gesichtserkennung dort, wo Sexarbeiter*innen arbeiten – das ist ein ganz perverser Eingriff in die Intimsphäre von Menschen.“ Henning ist im Vorstand von Doña Carmen, hat den Verein einst mitgegründet und ist auf ihren Wegen zu und von der Beratungsstelle regelmäßig der automatisierten Gesichtserkennung ausgesetzt. Sie hat nun gemeinsam mit Gerhard Walentowitz, ebenfalls Doña-Carmen-Vorstandsmitglied, und unterstützt von der Gesellschaft für Freiheitsrechte (GFF) vor dem Verwaltungsgericht Frankfurt Klage dagegen eingereicht.

Davy Wang von der GFF sagt: „Besonders problematisch ist der Einsatz der biometrischen Videoüberwachung in sensiblen Kontexten, etwa im Umfeld sozialer Beratungsstellen. Institutionen wie Dona Carmen sind darauf angewiesen, ihren Klient*innen einen geschützten, vertraulichen und niedrigschwelligen Zugang zu gewährleisten.“

Henning arbeitet seit 1991 als Sozialarbeiterin hier im Viertel. Sie sagt: „Den Frauen gefällt das absolut nicht, dass sie überwacht werden. Die wollen anonym bleiben, um sich und ihre Familien vor Diskriminierung und Stigmatisierung zu schützen.“ Zudem würden durch die vielen Kameras die Umsätze sinken, weil auch die Kunden lieber unerkannt blieben.

Frankfurt ist wohl erst der Anfang

Das Frankfurter Bahnhofsviertel ist Freiluftlabor für die Echtzeit-Fernidentifizierung. Zahlreiche Bundesländer haben bereits Interesse an der Technologie angemeldet, die hier deutschlandweit – nach einem Testlauf am Berliner Bahnhof Südkreuz – erstmals offen eingesetzt wird. In einem ersten Ausweitungsschritt wurde die automatisierte Gesichtserkennung auch an Kameras angeschlossen, die Haupt- und Konstablerwache überwachen, die Enden der zentralen Frankfurter Einkaufsstraße Zeil. Der hessische Innenminister Roman Poseck (CDU) hat noch vor Einführung der KI-Überwachung angekündigt, dass er diese hessenweit an Kriminalitätsschwerpunkten einführen will. Und Bundesinnenminister Alexander Dobrindt (CSU) möchte deutsche Bahnhöfe flächendeckend mit dieser Technologie – und zudem Verhaltensscannern – ausrüsten. Frankfurt ist also höchstwahrscheinlich erst der Anfang.

Aktuell darf in Frankfurt mit der Gesichtserkennung nach Terrorist*innen gesucht werden, nach vermissten Menschen und nach Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung. Für jede Suche ist ein richterlicher Beschluss nötig. Das System läuft seit Juli 2025, seitdem wurde „eine niedrige zweistellige Anzahl an Personen“ damit gesucht. Erfolg gab es nur einmal, als eine vermisste 16-Jährige mit der Kamera-KI identifiziert wurde. Ab Juli 2026 soll eine Evaluationsphase folgen, aber es sieht bereits so aus, als solle das System auf jeden Fall verstetigt werden. Zuständig für die Gesichtserkennungstechnologie ist die Direktion 100 der Frankfurter Polizei, zu der auch das skandalumwitterte 1. Polizeirevier gehört.

Neben dem Probelauf mit der Fernidentifizierung ist Frankfurt am Main auch Experimentierfeld einer weiteren, bislang deutschlandweit einmaligen Form der automatisierten Gesichtserkennung. Polizist*innen nutzen hier seit Dezember 2025 eine App, mit der sie bei Personenkontrollen Verdächtige identifizieren, die sich nicht ausweisen wollen oder können. Die „Abfrage-App“ bietet eine mobile Schnittstelle zum Gesichtserkennungssystem des BKA. Dort wird das fotografierte Gesicht mit den Gesichtern der 5,36 Millionen Menschen verglichen, die in der polizeilichen Datenbank gespeichert sind. Gibt es einen Treffer, erscheinen Name, Geburtsdatum und Staatsangehörigkeit auf dem Smartphone-Display. Darauf folgt eine „menschliche Plausibilitätskontrolle“.

Die Kosten hält die Polizei geheim

Auf 160 Geräten wurde die App bislang installiert. Nach Abschluss der Pilotphase wolle man sie für alle Polizist*innen des Landes freischalten, so die hessische Polizei. Andere Landes-Polizeien und Bundesbehörden sollen die App dann ebenfalls einsetzen dürfen. Die Kosten für die Entwicklung der App – wie auch die Kosten für die Echtzeit-Fernidentifizierung – hält die Frankfurter Polizei geheim.

Dimitrios Bakakis, Fraktionsvorsitzender der Grünen im Frankfurter Stadtparlament, sagt: „Was hier erprobt wird, ist der Einstieg in eine Überwachungspraxis, die wir aus den USA kennen und die dort zu massiven Diskriminierungen geführt hat.“ Der Landesdatenschutzbeauftragte Alexander Roßnagel arbeitet gerade an einer Stellungnahme zu der Gesichtserkennungs-App.

Frankfurt am Main ist die deutsche Frontstadt der automatisierten Gesichtserkennung. Hier beginnt die Zeitenwende hin zur automatisierten Erfassung und Identifikation von Menschen über physiologische Merkmale. Und das ausgerechnet in dem Bundesland, das 1970 das erste Datenschutzgesetz der Welt verabschiedete. „Pilotprojekte wie Biometrie-Apps auf Polizeihandys oder Gesichtserkennung mit Kameras sind keine harmlosen Tests an begrenzten Orten, sondern weiten Schritt für Schritt biometrische Überwachung für alle aus“, sagt Kilian Vieth-Ditlmann von AlgorithmWatch. „Das Ende jeder Anonymität im öffentlichen Raum ist aus unserer Sicht keine Übertreibung, sondern die logische Konsequenz, die sich aktuell andeutet.“

Bakakis von den Frankfurter Grünen fügt hinzu: „Freiheit im öffentlichen Raum bedeutet nicht nur, dass man sich physisch bewegen darf – sondern auch, dass man anonym sein kann, also nicht automatisch identifiziert und registriert wird, nur weil man irgendwo entlangläuft.“

„Wie 1984“

Im Frankfurter Bahnhofsviertel kann man also schon jetzt erleben, was an vielen Orten droht: eine ständige potenzielle De-Anonymisierung aller Personen im öffentlichen Raum. Was macht das mit den Menschen vor Ort, wenn eine Software ständig versucht, sie zu identifizieren?

Milan, lange Haare, zerrissene Jeans, sitzt neben zwei Bekannten auf dem Bürgersteig, an der Wand eines Bordells. Er hält eine Metallpfeife in der Hand. Milan raucht damit Crack. Was sagt er zu der Kamera, die genau auf ihn zeigt? „Die ist mir egal“, sagt er. Die Polizei interessiere sich nicht für ihn. Die Kleinstmengen, die er und seine Bekannten bestenfalls einstecken hätten, seien den Aufwand nicht wert. Und was ist mit der Gesichtserkennungs-Software, die die Bilder analysiert? „Das ist ja wie in dem Buch ‚1984‘“, sagt er, eher interessiert als alarmiert.

Auch Lisa guckt frontal in eine achtlinsige Kamera. „Ganz schön gruselig“, sagt sie. Die Dreißigjährige wohnt hier im Bahnhofsviertel, die Kamera steht auf einem ihrer täglichen Wege. Lisas Alltag als Anwohnerin spielt sich zu einem guten Teil hier ab, unter Kameras. „Ich versuche das zu verdrängen, aber ein Unbehagen ist immer da“, sagt sie. Die offene Drogenszene empfindet sie hingegen als nicht bedrohlich. „Ich wohne hier ganz entspannt. Ich hatte kaum bedrohliche Situationen. Und wenn, könnten die Kameras mir nicht helfen“, sagt sie. Lisa nennt das Bahnhofsviertel „Projektionsfläche konservativer Politiker mit Ordnungsfantasien“.

„Man weiß nie, ob man gerade angestarrt wird“

Die Kamera filmt Lisas Gesicht. Die Bilder laufen in eine Videoleitstelle und werden dort von Polizist*innen gesichtet. Die können einige der Kameras auch ferngesteuert schwenken, neigen, zoomen. „Das ist eigentlich schlimm genug, dass man nie weiß, ob man gerade angestarrt wird“, sagt Lisa. Zudem werden die Bilder für 14 Tage gespeichert, sollten sie für Ermittlungen benötigt werden, auch länger.

„Und jetzt kommt der gruseligste Teil“, sagt Lisa. Sie meint: Die Software, die im Datenstrom der Kameras in Echtzeit Menschen identifiziert. Denn wenn die Polizei mit der Videoüberwachung gerade nach Menschen fahndet, scannt eine Software alle Gesichter, also auch Lisas. Das Programm leitet aus Lisas Physiognomie eine Datenkolonne ab und vergleicht diese mit den Daten des Zielgesichts. Würde Lisa tatsächlich gesucht oder wäre ihr Gesicht einem gesuchten zumindest ähnlich genug, würde auf dem Bildschirm des zuständigen „Videosachbearbeiters“ ein Screenshot erscheinen, auf dem Lisa optisch markiert ist, dazu erklänge ein akustischer Hinweis. Die Person vor dem Bildschirm müsste dann einschätzen, ob Lisa tatsächlich die gesuchte Person ist und gegebenenfalls Einsatzkräfte informieren. Die würden dann mit einer Personenbeschreibung zum Ort der Sichtung geschickt. Sind auf dem Videostream Straftaten zu sehen, wird sogar ein Foto der tatverdächtigen Person per polizeiinternem Messenger an die Dienst-Handys der Beamt*innen vor Ort gesendet.

Der Landesdatenschutzbeauftragte schrieb schon 2024, dass die Live-Gesichtserkennung einen „tiefgreifenden Grundrechtseingriff“ darstelle und nur unter „engen Voraussetzungen“ legal sei. Davy Wang von der Gesellschaft für Freiheitsrechte, die Juanita Henning in ihrem Kampf gegen die KI-Überwachung unterstützt, sagt: „Die biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum stellt einen besonders schwerwiegenden Eingriff in die Grundrechte dar, weil sie massenhaft auch unbeteiligte Personen erfasst.“ Die hessische Rechtsgrundlage dafür sei zu unbestimmt, die Eingriffsschwelle zu niedrig. Lösch- Transparenz- und Bachrichtigungspflichten gebe es nicht.

Gesichtsscans ermöglichen Einblicke in das Privatleben

Die digitale Kennung, die die Software aus Lisas Gesicht errechnet, ließe sich auch mit Bildern aus dem Internet vergleichen. So fänden sich möglicherweise Demo-Fotos, auf denen sie in der Masse abgebildet ist, oder peinliche Jugendsünden auf Social Media. Die Bundesregierung will derartige Datenabgleiche zeitnah möglich machen, obwohl hohe grundrechtliche Hürden dagegenstehen.

In Frankfurt wird ein Gesichtsscan angeblich sofort verworfen, wenn er nicht zu einem Treffer führt. „Aber ob das wirklich passiert, weiß ich nicht“, sagt Lisa. „Man weiß auch nicht, ob die Bilder aus den Kameras nicht doch irgendwann mit der Palantir-Software Hessendata ausgewertet werden“, fügt sie hinzu.

Eine Ecke weiter, eine Stunde später: Ein Trupp von fünf Polizist*innen stürmt im Laufschritt durch das Viertel, zielstrebig zu zwei überraschten Männern. Die werden umstellt und aufgefordert, sich auszuweisen, anschließend folgt die Leibesvisitation. Kein Ergebnis. Die Polizist*innen ziehen wieder ab. Was war das jetzt? „Anlasslose Kontrolle“, sagt ein Polizist. Aufgrund der Waffenverbotszone, die hier gilt, dürfen die Polizist*innen das.

Viele repressive Maßnahmen

Die Aktion ist eine von vielen repressiven Maßnahmen, mit denen Sicherheitsbehörden gegen Menschen im Bahnhofsviertel von Frankfurt am Main vorgehen. Die Polizei patrouilliert mit Fahrzeugen durchs Viertel, mit uniformierten Einheiten und mit Zivilfahnder*innen. Regelmäßig gibt es Groß-Razzien, dazwischen auch zahlreiche verdachtsunabhängige Kontrollen einzelner Menschen oder Gruppen. Polizist*innen können Aufenthaltsverbote für das Viertel aussprechen, die mit bis zu zwei Jahren Haft strafbewehrt sind. Am Stadtbild ändert sich dadurch nichts. Das ist, auch mit intelligenter Videoüberwachung, ganz offen von Crack geprägt.

Die Frankfurter Polizei lässt die Konsument*innen weitgehend in Ruhe, geht aber gegen Dealer vor, auch mit Hilfe der Videoüberwachung. Die Händler haben sich vermutlich deshalb außerhalb der videoüberwachten Zone eingerichtet. Dort, kurz vor dem Schild, das vor den Kameras warnt, nickt beispielsweise ein junger Mann herausfordernd Passant*innen zu. Wer seinem Blick standhält, dem wispert er „Brauchst du was?“ entgegen.

In Blickweite des mutmaßlichen Dealers, in der überwachten Zone, steht das Nika-Haus, ein selbstverwaltetes Wohnprojekt. Im Erdgeschoss residiert eine Beratungsstelle des „Förderverein Roma“. Timur Beygo leitet sie. Vor seiner Tür stehen und sitzen Menschen und konsumieren Crack. „Wir kommen im Allgemeinen sehr gut mit denen aus“, sagt er. Was ihn hingegen stört, das ist die Videoüberwachung. „Hier erscheinen etwa 15 Klienten am Tag, Roma und Sinti, meist Mütter mit Kindern, die werden dann einfach mitüberwacht. Das ist hochgradig überzogen.“ Kritik hat er auch an den Polizeieinsätzen. „Die Polizei tritt häufig sehr ruppig auf. Mein Eindruck ist zudem, dass Polizeieinsätze die Situation mitunter erst zuspitzen, obwohl vorher noch gar kein Konflikt bestand.“

„Das wird testhalber eingeführt und dann entgrenzt“

Auf einer Bierbank vor einem Kiosk im Bahnhofsviertel sitzen Walter Schmidt und Uli Breuer. Die beiden gehören zur Bürgerrechtsgruppe dieDatenschützer Rhein Main. Gelegentlich bieten sie Führungen an, in denen sie die KI-gestützte Videoüberwachung des Areals zeigen und erklären. „Das wird immer alles testhalber eingeführt und dann entgrenzt“, sagt Breuer. „Jetzt haben wir noch eine relativ freie Gesellschaft, aber wenn solche Methoden in die falschen Hände geraten, dann kann das sehr schlimm werden.“ Schmidt fügt hinzu: „Ich empfinde das als Unverschämtheit, dass ich von allen möglichen Kamerabetreibern erfasst werde und wehre mich dagegen wo möglich.“

Die beiden positionieren sich auch gegen die verdachtsunabhängigen Kontrollen, die im Viertel möglich sind (Breuer: „Das ist Willkür!“), und gegen den hessischen Polizeigesetzpassus, der Videoüberwachung ermöglicht, wenn mutmaßlich das Sicherheitsgefühl von Bürger*innen beeinträchtigt ist (Schmidt: „Ganz üble Kiste“). „Wir können sie nicht stoppen, aber bremsen“, sagt Breuer zu den Überwachungsbestrebungen. Nachdem sich die beiden beschwert hatten, erhielten beispielsweise einige Kameras an der Alten Oper eine Abschirmung, sodass diese nur noch die zulässigen Flächen abfilmen können.

Hoffnung für die beiden Datenschützer liefern die Grünen im Hessischen Landtag. Die lassen mit einem Normenkontrollantrag beim Staatsgerichtshof klären, ob die der Echtzeit-Fernidentifizierung zugrunde liegende Polizeigesetzänderung rechtens war. Eine Überprüfung der Rechtsgrundlage streben auch Juanita Henning und die GFF an. Sie haben beim Verwaltungsgericht Frankfurt beantragt, dass es die Abschnitte aus dem Polizeigesetz, die die Fernidentifizierung erlauben, dem Bundesverfassungsgericht vorlegt.

Durchkärchern

Etwa 150 Meter Luftlinie von Schmidt und Breuer auf ihrer Bierbank: Eine Frau mit löchriger Strumpfhose und rastlosen Beinen wälzt sich in einem Hauseingang. Zwei Männer hocken einander gegenüber zwischen parkenden Autos, während einer ein Glasröhrchen erhitzt. Eine Gruppe hat sich entlang einer Hauswand niedergelassen. Menschen liegen vollverhüllt in Schlafsäcken, einige reden, andere sitzen vornübergebeugt und präparieren anscheinend Drogen zwischen ihren ausgestreckten Beinen. Crackpfeifen er- und verglühen im erratischen Takt. Darüber wacht ein Kameraturm.

Auftritt Stadtpolizei Frankfurt am Main. Vier Beamt*innen sprechen die Menschen auf der Straße an und fordern sie auf, zu gehen. „Lagern und Verweilen zum Zweck des Konsums von Betäubungsmitteln“ ist hier verboten. Bis zu 100 Euro Bußgeld kann das kosten. Nach und nach lösen die Polizist*innen die Gruppe auf. Im Davonstolpern bereitet sich ein Mann, Kapuze auf dem Kopf, eine weitere Pfeife zu, hinter ihm gehen die Beamt*innen, dahinter bürstet eine Kehrmaschine der Stadtreinigung über den Bürgersteig. Als letzter in der Prozession folgt ein Mann mit einem Hochdruckreiniger. Er gibt dem Pflaster den letzten Schliff.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.