Das Bundeskriminalamt wirft einem Hosting-Unternehmen vor, strafbare Kinderpornografie zu verbreiten. Es geht um zwei legale YouTube-Videos. Die Polizei hat die Inhalte offensichtlich nicht geprüft. Erst nachdem wir nachfragen, gibt das BKA den Fehler zu. Der Fall zeigt grundlegende Probleme.

Das Bundeskriminalamt bekämpft Kinder- und Jugendpornografie im Internet. Es ist die Zentralstelle für Bund und Länder.

Letztes Jahr hat das Bundeskriminalamt dem freundlichen Hosting-Unternehmen Flokinet vorgeworfen, strafbare Kinderpornografie zu verbreiten.

Polizei meldet Straftaten

Das Referat für Ermittlungen zu Gewalt- und Sexualdelikten verschickte eine „Meldung zu kriminellen Inhalten, die auf ihren Servern zur Verfügung gestellt werden“. Flokinet hat die Meldung jetzt veröffentlicht.

Das BKA schreibt, „dass sich auf den von Ihnen betriebenen Servern strafrechtlich relevante Inhalte befinden“, und ersucht „dringlichst“ darum, „diese schnellstmöglich zu entfernen“. Der Brief listet zwei URLs mit angeblicher Kinderpornografie:

• https://invidious.flokinet.to/watch?v=4edXqbz-41Y
• https://invidious.flokinet.to/watch?v=cvlJBLakJfg

Doch die Polizei liegt falsch. Die Inhalte der Videos sind nicht strafbar.

YouTube-Videos mit Musik

Auf dem Web-Server invidious.flokinet.to läuft die Software Invidious. Diese bietet ein „alternatives Front-End für YouTube“. Weder Invidious noch Flokinet hosten dort eigene Videos. Die hostet YouTube.

Das erste Video zeigt den deutschen Komponisten Hans Zimmer, der Musik für einen Film produziert. Das zweite Video ist ein Lied eines spanischen Opernsängers.

Beide Inhalte sind weder Kinderpornografie noch strafbar.

Darüber hinaus war der Web-Dienst zum Zeitpunkt der BKA-Meldung bereits seit einem halben Jahr kaputt und offline.

Wie prüft die Polizei?

Kinderpornografie ist ein schlimmes Verbrechen und die Verbreitung solcher Inhalte ein ernster Vorwurf. Internet-Dienste müssen rechtswidrige Inhalte „unverzüglich“ entfernen. Einige Staaten schreiben eine Frist von 24 Stunden vor. Terroristische Inhalte müssen Anbieter innerhalb einer Stunde löschen.

Das BKA verschickt die Mail an einem Montag. Zwei Stunden nach Eingang der Mitteilung teilt Flokinet dem BKA mit, dass die genannten Inhalte nicht verfügbar, nicht gehostet und nicht strafbar sind. Doch nach 24 Stunden hat das BKA noch immer nicht geantwortet.

Am Dienstag schicken wir dem BKA eine Reihe an Fragen. Enthalten die gemeldeten URLs wirklich Straftaten? Wann hat das BKA die URLs geprüft? Wann antwortet das BKA dem Anbieter?

Polizei meldet „automatisiert“

Am Mittwoch erhalten wir eine Antwort der Pressestelle. Das BKA äußert sich „grundsätzlich nicht zu laufenden Ermittlungsverfahren“. Zu den beiden URLs sagt es nichts.

Der Sprecher erklärt nur allgemein:

In Ermittlungsverfahren im Phänomenbereich Kinderpornografie, bei welchen große Datenmengen sichergestellt werden, erhebt das BKA Verlinkungen aus den kriminellen Plattformen automatisiert und regt diese zur Löschung durch den Provider an. Dabei können in Einzelfällen auch Verlinkungen zu nicht strafbaren Inhalten weitergegeben worden sein, die sich auf den in Rede stehenden kriminellen Plattformen befunden haben.

Die Polizei meldet „automatisiert“ alle Links auf „kriminellen Plattformen“. Das BKA prüft nicht, ob ein Link strafbar ist oder nicht.

Doch offensichtlich führt unsere Anfrage zu einer Überprüfung. Am Donnerstag antwortet das BKA dem Anbieter, vier Tage nach der ersten Meldung. „Bei den gemeldeten URLs handelt es sich nicht um kinderpornografische Inhalte. Bitte betrachten Sie unseren Löschantrag als irrelevant.“

Damit ist der konkrete Fall zwar gut ausgegangen. Aber er zeigt grundlegende Probleme.

Viele Meldungen nicht strafbar

Das BKA erhält Hinweise auf Kinderpornografie unter anderem von Beschwerdestellen im INHOPE-Netzwerk. Diese nehmen Hinweise entgegen und „prüfen diese auf ihre strafrechtliche Relevanz“. Erst danach leiten sie geprüfte Hinweise an das BKA. Im Jahr 2024 erhielt das BKA so über 31.000 Hinweise zu kinderpornografischen Inhalten im Internet.

Noch mehr Meldungen erhält das BKA vom „Nationalen Zentrum für vermisste und ausgebeutete Kinder“. Die US-Organisation meldete ebenfalls 2024 über 205.000 Hinweise an das BKA. Diese prüft das BKA. Doch nur „in 106.353 Fällen wurde eine strafrechtliche Relevanz festgestellt“. Die Hälfte der NCMEC-Meldungen war gar nicht strafbar.

Im Fall von Flokinet hat das BKA selbst „Verlinkungen aus den kriminellen Plattformen automatisiert [erhoben]“. Überprüft hat das BKA die Inhalte offensichtlich nicht.

In anderen Fällen erfährt das BKA von Kinderpornografie, löscht die Inhalte aber nicht.

Trotzdem fordert das BKA Netz-Sperren, Vorratsdatenspeicherung und Chatkontrolle – immer wegen Kinderpornografie.

Keine Konsequenz für Falschmeldungen

Flokinet kritisiert, dass das Einreichen einer falschen Meldung keinerlei Konsequenzen hat. Es ist angemessen, dass Hoster Straftaten wie Kinderpornografie zeitnah entfernen müssen. Doch das kann nur funktionieren, wenn die Hinweise der Polizei auch korrekt sind.

Wenn die Polizei automatisiert ungeprüft Inhalte meldet, „lagert der Absender die Überprüfungsarbeit faktisch an uns aus. Das ist kein praktikables System.“ Diese offenbar notwendige Überprüfung ist rechtlich heikel: Bereits der Besitz kinderpornografische Inhalte ist strafbar, unabhängig von der Intention.

Laut Flokinet benachteiligt dieses System außerdem kleine Internet-Dienste gegenüber Big Tech. „Große Plattformen können die Kosten für die Bearbeitung automatisierter Anfragen durch KI-Moderation und Inhaltsüberprüfungs-Teams auffangen. Unternehmen wie Flokinet können das nicht.“

Flokinet weist auch darauf hin, dass die Polizei erst reagiert hat, nachdem wir nachgefragt haben. „Ohne den Druck von Medien wäre die Falschmeldung wahrscheinlich nicht offiziell anerkannt worden.“

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Internet-Dienste sollen nicht nur sexuellen Kindesmissbrauch suchen, sondern auch andere Inhalte wie Extremismus. Das fordern Deutschland, Frankreich und die Niederlande in einem Diskussionspapier. Tech-Unternehmen lehnen es ab, ihr System zum Datenaustausch auf solche Inhalte auszuweiten.

Die Bundesregierung will Online-Radikalisierung und gewalttätigen Extremismus stärker bekämpfen. Deutschland hat zusammen mit Frankreich und den Niederlanden ein Diskussionspapier mit möglichen Maßnahmen erstellt.

Die Verordnung gegen terroristische Online-Inhalte und das Gesetz über digitale Dienste regeln viele Inhalte bereits. Den Staaten reichen diese Gesetze nicht, denn sie helfen nur gegen terroristische Inhalte, die immer illegal sind. „Gewalttätige extremistische Inhalte“ sind jedoch nicht illegal. Deshalb fordern die Staaten weitere Maßnahmen gegen „schädliche, aber legale“ Inhalte.

Ausweitung auf Terror und Extremismus

Deutschland, Frankreich und die Niederlande fordern einen Verhaltenskodex mit „strengeren Maßnahmen“ für Online-Plattformen. Die Staaten wollen die Unternehmen beispielsweise „ermutigen“, Warnsignale über extremistische Inhalte „an die zuständigen nationalen Behörden weiterzuleiten“.

Die Regierungen „empfehlen“, ein bestehendes Projekt zum Informations-Austausch auszuweiten, „von seinem Schwerpunkt auf Material über sexuellen Kindesmissbrauch auf terroristische und gewalttätige extremistische Inhalte“.

Projekt Laterne gegen Kindesmissbrauch

Vor 20 Jahren haben sich einige Tech-Unternehmen in einer Koalition zusammen geschlossen, um „sexuelle Ausbeutung von Kindern im Internet zu bekämpfen“. Das Bündnis war ursprünglich Teil der Organisation „Nationales Zentrum für vermisste und ausgebeutete Kinder“. Heute hat die „Tech-Koalition“ dutzende Mitglieder, darunter Google, Meta und Microsoft in „führender Rolle“.

Ende 2023 hat die Koalition das Projekt „Laterne“ verkündet. Die beteiligten Unternehmen teilen über das Programm Informationen über Kindesmissbrauch. Sie wollen insbesondere Plattform-übergreifende Versuche vom Missbrauch und Grooming aufdecken.

Die ausgetauschten Informationen können auf Inhalten basieren, wie URLs oder Hashwerte von Fotos und Videos. Sie können aber auch auf Ereignissen basieren. Wenn Accounts Kinderporngrafie konsumieren oder verbreiten, teilen die Unternehmen E-Mail-Adressen oder andere Account-Informationen.

Zweckbindung gegen übermäßige Eingriffe

Das Bündnis Tech-Koalition und das Produkt Laterne haben Sorgfaltspflichten für Menschenrechte entwickelt. Der erste Punkt ist eine Zweckbindung: „Der Anwendungsbereich von Lantern beschränkt sich ausschließlich auf die Bekämpfung sexueller Ausbeutung und Missbrauch von Kindern im Internet, um Datenschutz zu gewährleisten und übermäßige Eingriffe zu minimieren“.

Dieses Grundprinzip will die Bundesregierung gemeinsam mit Frankreich und den Niederlanden kippen. Die Unternehmen sollen mit Laterne nicht nur Missbrauch bekämpfen, sondern auch Extremismus und legale Inhalte.

Beschränkung als Schutzmaßnahme

Auf Anfrage von netzpolitik.org zeigt sich die Tech-Koalition verwundert über den Vorschlag. Eine Sprecherin bestätigt, dass Lantern nicht für andere Inhalte bestimmt ist. „Lantern ist bewusst auf sexuelle Ausbeutung und Missbrauch von Kindern im Internet beschränkt. Das geht aus unserer Mission hervor und dient als Maßnahme zum Schutz von Privatsphäre und Datenschutz.“

Wir haben die Tech-Koalition auch gefragt, ob die Staaten ihren Vorschlag mit dem Bündnis diskutiert haben. Die Antwort: Nein, haben sie nicht.

Wir haben dem Bundesinnenministerium eine Reihe an Fragen gestellt. Eine Sprecherin „bittet um Verständnis, dass wir uns dazu nicht äußern“. Die Vorschläge sind schließlich ein sogenanntes „Non-Paper“ – und damit nicht offiziell zitierfähig.

Von Kinderschutz zu anderen Inhalten

Immer wieder werden staatliche Eingriffe zunächst mit Terrorismus oder Kindesmissbrauch begründet und nach der Einführung auf andere Inhalte ausgeweitet.

Das derzeit verhandelte EU-Gesetz zur Chatkontrolle begründet die Maßnahme mit sexuellem Missbrauch von Kindern. Europol und Abgeordnete fordern eine Ausweitung auf andere Inhalte wie Pornografie und Drogen.

Ein deutsches Gesetz begründete Netz-Sperren mit strafbarer Kinderpornografie. Bundeskriminalamt und Abgeordnete forderten eine Ausweitung auf Killerspiele und Glücksspiele. Heute sperren deutsche Provider Webseiten vor allem wegen Urheberrecht und Jugendschutz.

Die Bundesregierung begründet die Vorratsdatenspeicherung vor allem mit Kinderpornografie. Tatsächlich werden diese Daten schon heute vor allem wegen mutmaßlicher Urheberrechtsverletzungen abgefragt.

Die Tech-Unternehmen haben das Projekt Laterne explizit gegen Kindesmissbrauch gegründet und darauf beschränkt. Jetzt will die Bundesregierung dieses System auf Extremismus ausweiten – selbst wenn der legal ist.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.