X hat sich in den letzten Jahren nicht nur zur rechten Propagandaschleuder entwickelt, die Plattform erlaubte seit Ende Dezember auch das Generieren von sexualisierten Deepfake-Bildern. Wir haben Politiker, Ministerien und EU-Kommission gefragt, warum sie trotzdem auf der degenerierten Plattform bleiben.

Auf der Plattform X war es seit Ende Dezember möglich, mit dem Chatbot Grok sexualisierte Deepfakes von Erwachsenen und Minderjährigen zu erstellen. Eine Deepfake-Forscherin geht laut Bloomberg davon aus, dass stündlich etwa 6.700 sexualisierte Deepfake-Bilder mittels des Chatbots generiert wurden, die meisten davon von Frauen und ohne deren Zustimmung. Laut dem Bericht wurden solche Bilder auch nach einer Beschwerde-Meldung nicht durch die Moderation der Plattform entfernt. Nachdem die EU-Kommission am Donnerstag angewiesen hatte, dass X interne Dokumente zu Grok aufbewahren muss, hat die Plattform heute die Bildgenerierung eingeschränkt.

Die Plattform X, wie das frühere Twitter heute heißt, wird seit dem Kauf durch den rechtsradikalen Milliardär Elon Musk immer weiter abgewirtschaftet. Zu diesem Absturz gehörte nicht nur das Zusammenstreichen des Moderationsteams und eine Lockerung bei Regeln gegen Diskriminierung, sondern auch die Wiederzulassung zahlreicher rechtsextremer Accounts und die algorithmische Bevorzugung rechtsradikaler Inhalte.

Hinzu kam jetzt die massenhafte Erzeugung von sexualisierten Bildern gegen den Willen von Betroffenen und damit eine Form digitaler Gewalt. Trotz weltweiter Kritik und einer angeblichen Änderung der Plattform lief die Erzeugung der Bilder über Tage weiter.

Missbrauchsbeauftragte: „Verändertes Ausmaß“

Eine Sprecherin der Unabhängigen Bundesbeauftragten gegen sexuellen Missbrauch von Kindern und Jugendlichen bewertet das Generieren von Deepfakes auf X kritisch: „Die niedrige Zugangsschwelle verändert das Ausmaß. Was früher technisches Wissen und verdeckte Netzwerke erforderte, ist heute per Texteingabe möglich.“ Dabei seien die Produkte hochrealistisch. Sie ließen sich kaum von echten Aufnahmen unterscheiden.

„Durch KI-generierte Missbrauchsdarstellungen entsteht konkreter Schaden: Sexualisierung kindlicher Körper, Weiterverbreitung von Gewaltbildern und die Normalisierung einer Täterperspektive“, so die Sprecherin weiter.

Aufgrund der Degradierung der Plattform haben schon in der Vergangenheit zahlreiche Menschen, Medien und Institutionen X in Richtung anderer Plattformen wie LinkedIn, Bluesky oder ins Fediverse zu Mastodon verlassen. Auch die Bundesbeauftragte gegen sexuellen Missbrauch von Kindern und Jugendlichen ließ X im März 2024 zurück und postet dafür in anderen sozialen Medien.

Treue Nutzer:innen trotz Allem

Doch die Bundesregierung wie auch Bundestagsabgeordnete aller Parteien verbleiben immer noch auf der Plattform, sogar nachdem deren Eigentümer den Hitlergruß gezeigt und auf einer Demonstration zu Gewalt aufgerufen hatte. Auch die EU-Kommission unterhält zahlreiche Accounts auf der Plattform, obwohl der Eigentümer sie wüst beschimpft.

Wir haben deswegen exemplarisch beim Innen- und Familienministerium sowie zufällig ausgesuchten Bundestagsabgeordneten aller demokratischen Fraktionen, die X für ihre Kommunikation nutzen, angefragt, warum sie weiterhin auf so einer Plattform posten und ob sie nicht befürchten, dass die Plattform ihrer eigenen Reputation schaden könnte. Zudem haben wir in Brüssel die EU-Kommission gefragt, ob sie Konsequenzen aus den jetzigen Deepfakes zieht.

Abgeordnete von Grünen, Linken und Union zögern

Bei der Linken hatten wir die Vorsitzende und Bundestagsabgeordnete Ines Schwerdtner gefragt. Sie sagte, dass in Partei und Fraktion derzeit Gespräche über den weiteren Umgang mit X laufen würden. „Entscheidend ist, dass wir dabei zu einem gemeinsamen Vorgehen kommen.“ Ob und wann mit Ergebnissen in diesem Prozess zu rechnen ist, sagte Schwerdtner nicht.

Bei den Grünen hatten wir Britta Haßelmann, Konstantin von Notz und Agnieszka Brugger angefragt – und bekamen eine Sammelantwort der Pressestelle der Bundestagsfraktion. Die sagt lediglich, dass es für Politiker immer wichtig sei, den Dialog zu suchen und dafür auch Social Media zu nutzen. „Die Vorgänge auf X sind allerdings zweifellos indiskutabel“, heißt es weiter im Statement. Die Bundestagsfraktion beobachte die Entwicklungen der Plattform schon seit einiger Zeit mit Sorge und diskutiere auch die Konsequenzen in der Fraktion. Wann ein Punkt für Konsequenzen erreicht sei und warum man das Indiskutable diskutiere, sagte die Pressestelle nicht.

„Zunehmend eine Gratwanderung“

Bei der Union hat der Außenpolitiker Roderich Kiesewetter geantwortet: „Ich sehe die Nutzung von X zunehmend als Gratwanderung und bin zwiegespalten.“ Zwar sprächen die Veränderung der Diskussionskultur, die mangelnde Durchsetzung von Richtlinien, die Intransparenz der Algorithmen und auch die Ermöglichung von Deepfakes „eher dafür“ die Plattform zu verlassen, vieles davon treffe aber auch auf andere Plattformen zu.

Als Politiker sei es seine Aufgabe mit Argumenten und Inhalten Bürgerinnen und Bürger von politischen Lösungen oder Einschätzungen zu überzeugen und politisch zu kommunizieren. Solange die Abkehr von bestimmten Plattformen aus rechtlichen oder sicherheitsrelevanten Gründen nicht von Deutschland oder der EU empfohlen werde, setze er darauf, dass die EU durch Durchsetzung von Regelungen den Einfluss behalte.

„Die Gefahr, dass die Reputation leidet, gibt es leider bei vielen Internetmedien, insbesondere rechtspopulistischen, die z.B. Aussagen in seriösen Medien aus dem Zusammenhang reißen, verkürzen und zu Desinformationszwecken nutzen, dies halte ich persönlich für noch viel gravierender“, so Kiesewetter weiter.

Innen- und Familienministerium mit Standard-Antwort

Dürr fallen die Antworten der angefragten Ministerien aus. Das Bundesinnenministerium (BMI) antwortet auf die Frage, warum es weiterhin auf einer solchen Plattform poste: „Im Rahmen seiner Presse- und Öffentlichkeitsarbeit informiert das BMI auf vielfältige Weise über seine Arbeit und kommt seinem verfassungsrechtlich gebotenen Auftrag nach, Bürgerinnen und Bürger über Regierungshandeln zu informieren.“ Auf die Frage, ob das Ministerium nicht eine Gefahr für seine Reputation in einem solchen Umfeld sehe, antwortet es lapidar: „Die Fortsetzung unserer Präsenzen auf Social Media Plattformen überprüfen wir fortlaufend.“

Eine ähnliche Antwort gibt auch das Familienministerium (BMBFSFJ). Es gehöre zur Erfüllung des Informationsauftrags, in den sozialen Medien mit verlässlichen Informationen präsent zu sein. „Dabei verstehen wir unsere Aktivitäten nicht als Unterstützung der Plattformen, sondern als Erfüllung unseres Informationsauftrages an den digitalen Orten, an denen Menschen sich informieren und austauschen.“ Das Ministerium beobachte „die aktuellen Entwicklungen auf den verschiedenen Plattformen genau“. Dazu gehöre auch, dass das Ministerium fortlaufend kritisch hinterfrage, auf welchen Plattformen es kommuniziere.

Ähnliche Antworten haben die Ministerien seit Monaten und auch schon unter der Ampel-Regierung gegeben.

EU-Kommission will „diversifizieren“

Kommissionssprecher Thomas Regnier sagte auf einer Pressekonferenz auf Nachfrage von netzpolitik.org: „Wir sind noch immer auf X aktiv, aber wir sind dabei, stark zu diversifizieren“. Man sei auf 14 Social-Media-Plattformen aktiv und überprüfe die Social-Media-Präsenz der EU-Kommission regelmäßig, das gelte auch für X.

Ähnlich wie die deutschen Ministerien argumentierte Kommissionssprecherin Arianna Podestà, dass es wichtig sei das „Publikum mit unseren Botschaften zu erreichen.“ Wenn dieses Publikum auf X sei, werde die EU-Kommission dort mit diesem in Kontakt treten.

Die Sprecherin dementierte den Vorwurf eines Journalisten, dass die EU-Kommission X bevorzuge. Was die Zukunft der EU-Kommission auf der Plattform angehe, wollte sich die Sprecherin nicht festlegen: „Nichts ist in Stein gemeißelt. Wir versuchen immer, unsere Präsenz zu verbessern.“

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Das Innenministerium in London hat am Donnerstag eingeräumt, dass die pauschale Beschlagnahme der Mobiltelefone von Migrant:innen rechtswidrig ist. Laut der britischen Tageszeitung Independent sagte dies der Anwalt der Innenministerin Priti Patel vor dem Obersten Gerichtshof. Das Gericht verhandelt eine Klage von drei Asylbewerbern aus dem Irak und dem Iran. Sie wurden 2020 verhaftet, nachdem sie mit kleinen Booten über den Ärmelkanal eingereist waren. Im Dezember urteilte ein Berufungsgericht, dass dies keine illegale Einreise darstellt.

Die Behörden behielten die Geräte nach einer Anweisung mindestens drei Monate ein und untersuchten diese forensisch. Auf der Suche nach Telefonnummern, Nachrichten, Bildern, Videos, Verkehrsdaten und GPS-Koordinaten wurde der Zeitung zufolge der komplette Speicher ausgelesen. Die Anwält:innen der Kläger gehen davon aus, dass die Praxis „Hunderte oder Tausende“ von Mobiltelefonen im Jahr betreffen könnte. Dies widerspricht dem Datenschutz und der Europäischen Menschenrechtskonvention, bestätigt nun auch das britische Innenministerium. Auch die Praxis, Asylsuchende zur Herausgabe ihrer PIN-Nummern zu drängen, sei rechtswidrig gewesen.

Deutsche Polizeien führen keine Statistik

Auch in Deutschland werden die Mobiltelefone von Geflüchteten beschlagnahmt und ausgelesen. Möglich ist dies gemäß dem Aufenthaltsgesetz, wenn die Betroffen bei einer Kontrolle über keinen gültigen Pass oder Passersatz verfügen. Bundesweite oder länderbezogene Zahlen gibt es hierzu nicht; zuletzt versuchte die Abgeordnete Jule Nagel erfolglos, dies im sächsischen Landtag in Erfahrung bringen.

Eine Sicherstellung kann auch nach § 94 Strafprozessordnung (StPO) zum Zwecke der Beweissicherung wegen des „Einschleusens von Ausländern“ erfolgen. Jedoch werden auch die Telefone von Schutzsuchenden mitgenommen, und zwar „insbesondere, wenn Geschleuste im Zusammenhang mit einem Schleuser aufgegriffen wurden“, schreibt das Bundespolizeipräsidium in Potsdam an netzpolitik.org. Die Maßnahme erfolgt also ohne einen Tatverdacht der davon Betroffenen. Statistiken, wie viele Geräte bislang auf Grundlage der StPO konfisziert wurden, führt die Bundespolizei nicht.

„Freiwillige“ Sicherstellung, sonst droht Beschlagnahme

Viele Asylsuchende kooperieren mit den Behörden und teilen ihnen auch die PIN-Nummern des Telefons mit. Eingezogen wird es dennoch, dann handelt es sich um eine Sicherstellung. Im Falle einer Weigerung wird die Beschlagnahme nach § 98 StPO richterlich angeordnet. Auch hierzu gibt es keine Statistiken, teilte die Staatsanwaltschaft Passau gegenüber netzpolitik.org mit. In einer Pressemitteilung hatte die Behörde zuvor mitgeteilt, dass in ihrem Einzugsgebiet „Handyauswertungen“ erheblich zugenommen hätten.

Laut den strafprozessualen Vorschriften sollen die Betroffenen ein Sicherstellungs- oder Beschlagnahmeprotokoll für die polizeiliche Maßnahme erhalten, schreibt das Bundesinnenministerium. Auch die Bundespolizeiinspektion Passau antwortet auf Nachfrage, dass stets „eine entsprechende Bestätigung“ ausgestellt wird. Dies ist aber nicht immer der Fall, heißt es dazu aus fluchtsolidarischen Kreisen in Nordrhein-Westfalen. Weder würden die Betroffenen zum Grund der Abnahme ihrer Identitätspapiere und Mobiltelefone aufgeklärt, noch erhielten sie dafür immer einen Beleg.

Anordnung auch im Asylverfahren

Oft lässt sich die Bundespolizei zudem von den Aslysuchenden in einer „Einwilligungs-/Verzichtserklärung“ bescheinigen, dass es sich nicht um eine Beschlagnahme gemäß § 98 StPO handelte. Dass die Betroffenen hierzu in ausreichendem Maße in einer für sie verständlichen Sprache aufgeklärt wurden und den Unterschied verstanden haben, kann bezweifelt werden.

Wie lange die Geräte einbehalten werden, ist laut dem Bundespolizeipräsidium „abhängig vom Einzelfall und erfolgt in enger Absprache mit der jeweilig zuständigen Staatsanwaltschaft“.

Auch im späteren Asylverfahren werden die Antragsteller:innen gemäß dem Asylgesetz zur kurzfristigen Herausgabe ihrer Mobiltelefone gedrängt. Zuständig ist hierfür das Bundesamt für Migration und Flüchtlinge, das mit der Maßnahme Hinweise auf die Herkunft oder Identität der Betroffenen erhalten will. Letztes Jahr hat das Verwaltungsgericht Berlin dieses pauschale Auslesen von Telefonen und Datenträgern als rechtswidrig beurteilt. Allein im Jahr 2020 ist dies aber in 6.247 Fällen erfolgt, in nur 1,8 Prozent der Fälle sollen die Analysen Widersprüche zu den Angaben der Antragstellenden aufgezeigt haben.

GFF prüft Verfassungsmäßigkeit

Für Asylsuchende bedeutet der Verlust des Handys oft zusätzlichen Stress im Asylverfahren, weil das Gerät nicht nur der Kommunikation mit Angehörigen und Anwält:innen dient, sondern mitunter auch relevante Dokumente für Anhörungen darauf gespeichert sind. In Deutschland dürften deshalb – ähnlich wie in Großbritannien – viele Beschlagnahmungen von Mobiltelefonen und Speichermedien von Geflüchteten rechtswidrig sein.

„Smartphones sind heutzutage ein unentbehrliches Mittel, um sich im Leben zurechtzufinden – gerade nach Ankunft in einem fremdem Land“, sagt auch der Rechtsanwalt Bijan Moini von der Gesellschaft für Freiheitsrechte (GFF). Ihr Entzug greife in eine ganze Reihe von Grundrechten ein, nicht nur in das Recht auf Datenschutz. „Sollte die Bundespolizei Mobiltelefone systematisch und massenhaft sicherstellen, könnte das die strengen rechtlichen Anforderungen an Sicherstellungen im Einzelfall unterlaufen“. Die GFF will die Praxis deshalb auf ihre Verfassungsmäßigkeit prüfen.

Handreichungen von EU-Agenturen

Sollte die Rechtswidrigkeit auch in Deutschland gerichtsfest dokumentiert sein, könnte dies auch Konsequenzen für EU-Agenturen haben. Frontex und Europol geben beispielsweise Handreichungen zur Beschlagnahme von Kommunikationsgeräten Schutzsuchender heraus. Darin wird geraten, mit einer „besonderen Taktik“ Passwörter für die forensische Auswertung zu erlangen. In die gleiche Richtung geht ein neuer Leitfaden der EU-Agentur für justizielle Zusammenarbeit in Strafsachen Eurojust. Auf den Telefonen der Geflüchteten befinden sich demnach „besonders wertvolle Informationen“. Beim Vorliegen eines Verdachts auf Menschenschmuggel sollen die Geschleusten zudem mit verdeckten Maßnahmen polizeilich überwacht werden.

In Großbritannien waren die Behörden offenbar nicht einmal in der Lage, sämtliche beschlagnahmten Telefone auszuwerten. Im Oktober soll die Grenzpolizei deshalb mit einem „Massenrückgabeverfahren“ begonnen haben. Die Besitzer:innen wurden laut dem Independent aufgefordert, dazu eine Telefonnummer anzurufen. Später sei diese Nummer durch eine E-Mail-Adresse ersetzt worden. Meldeten sich die Asylsuchenden nicht, wurden die Geräte zerstört.

Hilf mit! Mit Deiner finanziellen Hilfe unterstützt Du unabhängigen Journalismus.