Thüringen soll ein neues Polizeigesetz bekommen, das eine Vielzahl weiterer Befugnissen einführt. Zahlreiche Expert*innen haben sich mit dem Entwurf auseinandergesetzt. Aus ihrer Sicht ist er mit dem Grundgesetz nicht vereinbar.

Wie viele andere Bundesländer soll auch Thüringen ein Polizeigesetz bekommen, das verschiedene Maßnahmen automatisierter Überwachung erlaubt: Datenanalysen, Videoüberwachung mit Gesichts- und Verhaltenserkennung, Gesichtersuche im Internet und vieles mehr.

Im Rahmen einer Anhörung im Innenausschuss haben 32 Menschen und Verbände Stellungnahmen dazu abgegeben. Die Hälfte von ihnen hat uns ihre Analysen zukommen lassen. Aus den Papieren wird ersichtlich: Das Polizeigesetz steht an mehreren Stellen im Konflikt mit dem Grundgesetz. Eine Reihe von Expert*innen sieht sogar eine deutliche Unvereinbarkeit. Wir haben uns angeschaut, was die Kritiker*innen zu den Befugnissen sagen.

Präventives Sicherheitsrecht statt Gefahrenabwehr

Der Verein Digitalcourage unterstreicht in seiner Stellungnahme, dass Freiheit, informationelle Selbstbestimmung und andere Grundrechte die Grundlage einer demokratischen Gesellschaft seien. Zugleich kämen jede neue Kameraanalyse, jede Datenverknüpfung und jede biometrische Identifizierung zu einem bereits bestehenden Überwachungsgefüge hinzu. „Der Rechtsstaat muss nicht alles technisch Machbare erlauben. Im Gegenteil: Seine Aufgabe ist es, Macht zu begrenzen“, schreibt Digitalcourage.

Aus Sicht des antifaschistischen Erfurter Bündnisses „Auf die Plätze“ treibt der Gesetzentwurf eine schleichende Normalisierung autoritärer Werkzeuge und entgrenzter Polizeiarbeit voran. Die Freiheitsrechte drohen laut dem Bündnis, „unter dem Deckmantel der Sicherheit verdrängt und zu inhaltsleeren Phrasen zu werden.“

Felix Ruppert, der an der Ludwig-Maximilians-Universität München Rechtswissenschaften lehrt, konkretisiert, dass der Entwurf an die Stelle des Gefahrenabwehrrechts ein präventives Sicherheitsrecht stelle, das sich „mittels kaum konturierter Voraussetzungen auf bloße Anhaltspunkte und Prognosen stützt und so auf Grundlage unklarer Eingriffsschwellen einen besonders weiten Anwendungsbereich zieht, dabei allerdings an vielen Stellen die gebotene Abwägung mit den damit einhergehenden Grundrechtseingriffen übergeht.“

Die Landesarbeitsgemeinschaft Jungen- und Männerarbeit Thüringen sieht die Gefahr aufziehen, dass damit zugleich „die strukturelle Absicherung präventiver und beratender Hilfesysteme unzureichend berücksichtigt bleibt.“

Auf dem Weg zur „Superdatenbank“?

Der Chaos Computer Club hat seine Stellungnahme gemeinsam mit drei Hackspaces aus dem Bundesland abgegeben. Darin fokussiert er unter anderem auf die Befugnis zur automatisierten Datenanalyse, wie sie mit Palantir-Software möglich ist. Diese und die damit einhergehende Zusammenführung zahlreicher Datenbestände stellen, so der CCC, besonders intensive Grundrechtseingriffe dar.

Das Bundesverfassungsgericht hat 2023 in einem Grundsatz-Urteil Datenanalyse-Befugnisse aus Polizeigesetzen als verfassungswidrig eingestuft – im Fall von Hessen und Hamburg. Es forderte hohe Eingriffsschwellen für die immens invasive Kontrolltechnik. So muss zum Beispiel eine hinreichend konkretisierte Gefahr vorliegen, damit die Nutzung des Werkzeugs rechtmäßig ist. Thüringen bleibt dabei hinter den Vorgaben zurück, schreibt der CCC, weil die nötige Bedrohung im Gesetzentwurf zu vage formuliert sei.

Kristin Pfeffer, die an der Hochschule der Polizei Hamburg Öffentliches Recht lehrt, schreibt, dass mit den polizeilich erfassten Daten auch weitere Register verknüpft werden könnten, beispielsweise das Melde‑, Waffen‑, Führerschein- oder Kfz-Register, ebenso Daten, die von Geheimdiensten oder anderen Staaten erhoben werden. Pfeffer bemängelt, dass der Entwurf nicht darauf eingeht, wie diskriminierende Algorithmen verhindert und die Nachvollziehbarkeit sichergestellt werden sollen.

„Ein ganz neuer Eingriff von besonderer Eingriffsintensität bestünde im Anlegen einer neuen vorsorglichen ‚Superdatenbank‘“, schreibt Pfeffer zudem. Eine solche sei verfassungsrechtlich durch nichts zu rechtfertigen. Sollte Derartiges nicht beabsichtigt sein, müsse das Gesetz dies klarstellen.

„Selbsterfüllende Prophezeiung“

Digitalcourage kritisiert, dass für die Analyse auch Daten von von „Opfern, Zeug*innen, Hinweisgeber*innen, Anzeigeerstatter*innen und anderen unbeteiligten Dritten“ verwendet werden sollen, die sich nichts zuschulden haben kommen lassen. Gewonnen würden diese Daten aus „Verdächtigungen, Kontakten, Hinweisen, früheren Kontrollen, Zeugenaussagen und Zufallsfunden“.

In dieser Mischung sieht das Digitalcourage eine weitere Gefahr. Denn: „Polizeidaten sind keine neutrale Abbildung von Kriminalität. Sie spiegeln auch bisherige Kontrollpraxis wider.“ Auf diese Weise käme es zu einer selbsterfüllenden Prophezeiung: Wo die Datenanalyse Gefahren vermutet, wird stärker kontrolliert. Und wo stärker kontrolliert wird, werden mehr Verstöße gefunden. Diese Funde bestätigen anschließend die vermeintliche Prognose. „Am Ende wirkt die Maschine treffsicher, obwohl sie bestehende Ungleichheiten nur verstärkt“, schreibt Digitalcourage.

Das antifaschistische Erfurter Bündnis „Auf die Plätze“ befürchtet, dass der Gesetzentwurf auch komplexe Profilbildungen ermögliche, die etwa Bewegungsmuster, das soziale Umfeld und persönliche Neigungen umfassen. „Solche Werkzeuge sind ein Geschenk an zukünftige autoritäre Regierungen, da sie eine Identifizierung und Verfolgung politischer Gegner massiv erleichtern können“, schreibt das Bündnis. Der Paragraf mit der Datenanalyse-Befugnis solle deshalb ersatzlos aus dem Entwurf gestrichen werden.

Die Bundesbeauftragte für die Informationsfreiheit und den Datenschutz, Louisa Specht-Riemenschneider, vermisst in ihrer Stellungnahme unter anderem eine Regelung zur Speicherdauer in der Analyse-Datenbank. Mit der aktuell geplanten Regelung könnten personenbezogene Daten über einen sehr langen Zeitraum unter bestimmten Bedingungen sogar unbegrenzt gespeichert werden, was Specht-Riemenschneider für unverhältnismäßig hält.

Sorge vor dem faschistischen Überwachungsstaat

Nils Zurawski, der an der Universität Hamburg lehrt, hält umfassende Datensammlungen gerade auch angesichts einer drohenden autoritären Regierung für gefährlich, insbesondere wenn sie Personen umfassen, die bislang nicht im Fokus der Polizei standen.

Auch Digitalcourage erachtet es als politisch fahrlässig, Überwachungsinstrumente zu schaffen, mit denen künftige Regierungen das Verhalten von Personen automatisiert bewerten können. Sie könnten die Befugnisse zudem dazu missbrauchen, „um Klimaaktivist*innen elektronische Fußfesseln anzulegen, engagierten Gewerkschafter*innen die Teilnahme an Streiks zu erschweren, bei Demonstrationen mittels Drohnen massenhaft Handydaten auszulesen“.

Das Auf-die-Plätze-Bündnis hat ebenfalls die Gefahr einer rechtsradikalen Regierungsübernahme auf dem Schirm. Angesichts dessen „sollte das Ziel von Sicherheitspolitik die Sicherung von Grund- und Freiheitsrechten und von Minderheiten sein, welche in Thüringen schon bald Angriffen durch den Staat selbst ausgesetzt sein könnten“, schreibt das Bündnis. Sicherheitspolitik solle auf soziale Sicherheit setzen und die Ursachen von Kriminalität wie Armut bekämpfen.

Verhaltensscanner: Wenig Forschung, viel Marketing

Der CCC glaubt nicht an die Wirksamkeit von Videoüberwachung und verweist dafür auf eine Metastudie sowie einen Bericht des Kriminologischen Forschungsinstituts Niedersachsen. Die auf der Videoüberwachung aufbauende automatisierte Verhaltensanalyse sieht der CCC nicht bereit für den Wirkbetrieb. Es gäbe in dem Bereich zu wenig Forschung, dafür aber viele Marketing-Versprechen. Dementsprechend seien Videoüberwachung und insbesondere die geplanten Verhaltensscanner „zur Gefahrenabwehr ungeeignet.“

Auch AlgorithmWatch verweist darauf, dass die Wirksamkeit der automatisierten Verhaltensanalyse bislang nicht hinreichend untersucht wurde. Es gebe keine unabhängige Evaluation der in Deutschland bekannten Einsätze dieser Überwachungstechnologie.

Die Technologie filtere das Verhalten aller Personen in einem bestimmten Bereich pausenlos und analysiere es auf bestimmte Muster hin, schreibt Felix Ruppert. „Mit dem verfassungsgerichtlich zugestandenen Recht, […] nicht permanent dem Gefühl einer Überwachung ausgesetzt zu sein, lässt sich dies nur schwerlich in Einklang bringen“, so der Jurist. „Verfassungsrechtlich ist das nicht tragbar“, schreibt Ruppert. Es ergäbe sich „ ein erheblicher Überwachungseffekt auf die Gesamtgesellschaft“.

Gesichtersuchmaschinen: Gefahr für die Versammlungsfreiheit

Der Gesetzentwurf soll der Thüringer Polizei auch die Möglichkeit geben, mit Hilfe von Software im Internet nach bestimmten Gesichtern und Stimmen zu suchen. Aus Sicht der Bundesdatenschutzbeauftragten sei dies wegen „des hohen Eingriffsgewichts sowie der zu pauschalen und undifferenzierten Ausgestaltung […] mit den verfassungsrechtlichen Vorgaben nicht vereinbar.“

Insbesondere für die Grundrechte unbeteiligter Personen bestehe ein sehr hohes Risiko. Außerdem könne jede Fehl-Erkennung im Bereich polizeilicher Maßnahmen zu „mitunter auch dauerhaften erheblichen Einschränkungen der Lebensführung sowie gesellschaftlichen und beruflichen Nachteilen führen.“

Der Einsatz von Gesichtersuchmaschinen bedeute in der Praxis, „dass unzählige Fotos, Videos und Sprachaufnahmen von Unbeteiligten durchsucht werden, obwohl sie keinerlei Anlass gegeben haben“, schreibt Digitalcourage. Dass diese Personen die Daten zum Teil freiwillig ins Netz gestellt haben, spiele dabei keine Rolle. „Wer ein Urlaubsfoto hochlädt, auf einem Gruppenbild erscheint, auf einer Demonstration gefilmt wird, in einem Livestream auftaucht oder auf einer Vereinsseite zu sehen ist, stellt sich damit nicht für eine staatliche Datenbank bereit“, so die NGO.

Der Jurist Felix Ruppert kritisiert, dass das Gesetz keine Kategorisierung der zu suchenden biometrischen Daten vornehme. So sei es möglich, neben Gesichts- und Stimmerkennung die Identifikation von Menschen auch über ihren Gang oder ihre Iris vorzunehmen. In Zeiten technischen Fortschritts besäße die Befugnis damit eine „nicht vollauf überschaubare Breite“.

Das Auf-die-Plätze-Bündnis verweist darauf, dass sich auf Bildaufnahmen etwa von Demonstrationen künftig nahezu alle Teilnehmenden identifizieren ließen. Das Bündnis sieht darin eine Gefahr für die Versammlungsfreiheit. Schwierig sei auch, dass der Entwurf keine Benachrichtigung der von einem biometrischen Abgleich betroffenen Personen vorsehe; ein solcher sei auch nur mit erheblichem Aufwand durchsetzbar. Betroffene hätten demnach keine Möglichkeit, gegen die Nutzung ihrer biometrischen Daten vorzugehen.

Elektronische Fußfessel und die drohende Ausweitung präventiver Polizeiarbeit

Mit dem Gesetzentwurf soll auch der Einsatz der elektronischen Fußfessel ausgeweitet werden. Diese will die Landesregierung künftig nicht nur Tätern der häuslichen und sexualisierten Gewalt aufzwingen, sondern auch Menschen, die beispielsweise mutmaßlich eine Gefahr für „Anlagen mit unmittelbarer Bedeutung für das Gemeinwesen“ darstellen. Der Landesfrauenrat Thüringen sieht das kritisch. Er fürchtet eine generelle Ausweitung der präventiven Polizeiarbeit und fordert klare Angaben, in welchen Fällen und ab welcher Schwere der drohenden Tat die Fußfessel eingesetzt werden soll.

Das Auf-die-Plätze-Bündnis sieht die Ausweitung des Fußfesseleinsatzes ebenfalls kritisch. „Denn eine unmittelbare Bedeutung für das Gemeinwesen hat prinzipiell jede Anlage, aus der sich ein direkter Nutzen für einen bestimmbaren Personenkreis ziehen lässt – darunter können Kindergärten, Schwimmbäder, Straßen, aber unter Umständen auch Unternehmen fallen“, schreibt das Bündnis. Denkbar ist demnach also, dass bereits eine drohende Straßenblockade zum Fußfesseleinsatz führen kann.

Geschäftsstelle und Vorstand von Demokratischer Jugendring Jena befürchten: „Wenn eine elektronische Aufenthaltsüberwachung nicht strikt auf den Schutz konkret gefährdeter Personen für den Bereich der häuslichen Gewalt begrenzt wird, kann sie zu einem Instrument gegen politische und soziale Bewegungen werden.“

Taser-Einsatz und Kennzeichenscanner

Der Jurist Andreas Ruch von der Hochschule für Polizei und öffentliche Verwaltung Nordrhein-Westfalen problematisiert in seiner Stellungnahme die Einführung von Elektroimpulswaffen. Er fürchtet, dass damit polizeiliche Gewaltanwendung normalisiert wird und die Einsatzkräfte in immer mehr Situationen versuchen, diese mit Hilfe von Waffen aufzulösen. Der Einsatz von Tasern sei „mit erheblichen Unsicherheitsfaktoren behaftet“, schreibt Ruch. Die Auswirkungen etwa auf Herzerkrankte oder Schwangere seien nicht untersucht.

Felix Ruppert von der Uni München hält zudem fest, dass eine anlasslose, ohne konkrete Gefahrenlage durchgeführte automatisierte Kennzeichenerkennung unzulässig ist. Dennoch sei die Technologie im Gesetzentwurf „weitgehend voraussetzungsarm“ verankert. Damit werde beispielsweise auch die Erstellung von Bewegungsprofilen möglich.

Geschäftsstelle und Vorstand von Demokratischer Jugendring Jena sehen im Kennzeichenscanner auch eine Bedrohung für die gesellschaftliche Partizipation von Jugendlichen. „Gerade Fahrten zu Demonstrationen, Gedenkveranstaltungen, CSDs, Protesten für Vielfalt und eine offene Gesellschaft, Fanbegegnungen oder Jugendverbandswochenenden dürfen nicht den Eindruck erzeugen, dass politische und jugendkulturelle Mobilität staatlich mitprotokolliert wird“, schreiben sie.

Hinweis: Die Stellungnahme des CCC wurde unter anderem von Constanze Kurz verfasst, die als Redakteurin bei netzpolitik.org arbeitet.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Am Freitag hat der Bundestag den Einsatz von KI-Kameras an Bahnhöfen beschlossen. Weitere automatisierte Überwachungstools sollen folgen. Doch die haben in einer Demokratie nichts verloren. Ein Kommentar.

Im vergangenen Jahr hat automatisierte Videoüberwachung des öffentlichen Raums in Deutschland einen erstaunlichen Siegeszug hingelegt. Zuvor gab es sie nur in Mannheim. Vor fast genau einem Jahr wurde sie in Frankfurt am Main gestartet, vor zehn Monaten in Hamburg.

In Berlin wird der Einsatz gerade vorbereitet, ebenso in zwei Städten in Baden-Württemberg. Und am Freitag hat der Bundestag den Einsatz an deutschen Bahnhöfen beschlossen. Vier Tage zuvor hat das Innenministerium einen Gesetzentwurf veröffentlicht, der dem Verfassungsschutz den Zugriff auf Überwachungsanlagen erlaubt.

Die Kontrolle von Menschen mittels automatisierter Videoüberwachung eskalierte innerhalb eines Jahres vom experimentellen Probelauf zur kommenden Realität. Das ging rasant.

Die Systeme in den verschiedenen Städten erkennen bislang entweder bestimmte Verhaltensmuster oder Gesichter auf Videostreams. In Baden-Württemberg und an den deutschen Bahnhöfen sollen die Technologien zusammen ausgerollt werden.

Die Bundesregierung will BKA und Bundespolizei zudem bald weitere, extrem invasive Maßnahmen der automatisierten Überwachung erlauben: Eine Internetsuchmaschine für Stimmen und Gesichter und eine Megadatenbank mit KI-gestützter Analyse, wie sie auch Palantir im Angebot hat. Entsprechende Befugnisse für BND und Verfassungsschutz finden sich ebenfalls im Entwurf des Geheimdienstgesetzes.

Der gläserne Mensch unter Generalverdacht

Zusammengedacht ergibt das ein System, das vollautomatisiert kontrolliert, was Menschen in der Öffentlichkeit tun, sie bei unerwünschtem Verhalten identifiziert und dann gleich auch noch recherchiert, wo sie sich bewegen und mit wem sie bekannt sind.

Jede einzelne der kommenden Technologien stellt alle Menschen unter Generalverdacht. Jedes Gesicht wird gescannt, jedes Verhalten wird bewertet, jeder Mensch, der mit der Polizei zu tun hat, landet in der Megadatenbank. Die totalitären Tendenzen sind der automatisierten Überwachung immanent. Sie gefährdet die Demokratie und läuft ihr ganz grundsätzlich zuwider.

Demokratie ist die Aushandlung der Bedürfnisse verantwortungsbewusster Individuen, von denen angenommen werden muss, dass sie sich angemessen verhalten. Abweichungen können geahndet werden, doch ohne die grundsätzliche Vor-Annahme der Wohlgesonnenheit seiner Bewohner*innen kippt ein System ins Totalitäre. Demokratie hat auch etwas mit Vertrauen zu tun. Wer meint, alle Menschen fürchten zu müssen, wird versuchen, sie zu kontrollieren. Da wo jeder verdächtig ist, beginnt der Überwachungsstaat.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Bundespolizei soll an Bahnhöfen Videoüberwachungssysteme einsetzen, die Menschen identifizieren und ihr Verhalten beurteilen. Heute wurde das Gesetz vom Bundestag verabschiedet. Bald sollen weitere KI-Überwachungs-Tools kommen.

Ohne sich gründlich darauf vorbereiten oder gar Expert*innen konsultieren zu können, haben die Abgeordneten des Bundestag heute das Zeitalter der automatisierten Überwachung auf Bundesebene eingeläutet. Die massive Verschärfung des Bundespolizeigesetzes hat die schwarz-rote Koalition erst drei Tage vor der Abstimmung offenbart. Mit ihren Stimmen wurde das Gesetz auch verabschiedet. Eigentlich sollte nur eine Anpassung an die Vorgaben des Grundgesetzes beschlossen werden.

2016 hatte das Bundesverfassungsgericht wesentliche Teile des BKA-Gesetzes für verfassungswidrig erklärt. Heimliche Überwachung darf nur in engen Grenzen stattfinden, so der Tenor. Da sich viele Regelungen aus dem BKA-Gesetz auch im Bundespolizeigesetz fanden, wurde auch dessen Entschärfung notwendig. Und aus dieser Entschärfung ist nun eine Verschärfung und damit der Beginn einer neuen Ära der Kontrolle geworden.

Software soll der Polizei bei der Arbeit helfen, sie effizienter machen und Personal einsparen. Eine ganze Reihe von softwaregestützten Überwachungsbefugnissen ist gerade auf dem Weg durch den Bundestag, wurde dort diese Woche bereits in erster Lesung besprochen.

Als erstes final beschlossen wurde am heutigen Freitag das Bundespolizeigesetz: Es erlaubt Videoüberwachung, beispielsweise an Bahnhöfen, die automatisch Menschen identifiziert und Verhalten bewertet. Irene Mihalic, Grünen-Abgeordnete sagte während der Bundestagsdebatte zum Gesetz: „Mit der biometrischen Echtzeitüberwachung greift die Koalition tief in Grundrechte ein.“ Clara Bünger von der Linken sagte: „Die flächendeckende Überwachung wird für Millionen zum Normalzustand.“ Und: „Dafür bekommt der Innenminister fast eine Milliarde mehr als im Vorjahr. Eine Milliarde für Überwachung.“

Mit den kommenden Sicherheitsgesetzen soll die Bundespolizei – wie auch das BKA – zudem eine Art Internet-Suchmaschine für Gesichter und Stimmen und eine KI-gestützte Megadatenbank erhalten, die selbstständig Verdächtige definiert. Die Befugnisse aus den Sicherheitsgesetzen bilden ab, was aktuell technisch möglich ist. Sie sind aus Perspektive der Grundrechte höchst fragwürdig, denn sie setzen alle Menschen unter Generalverdacht.

Entmenschlichung der Polizeiarbeit

Es ist eine Zeitenwende. Wo bislang noch menschliche Polizist*innen uns auf Bildschirmen beobachteten oder Schlüsse aus persönlichen Daten zogen, wird künftig immer öfter Software agieren. Es ist auch: eine Entmenschlichung der Polizeiarbeit.

In zahlreichen Bundesländern wurden oder werden Gesichtersuchmaschine, Megadatenbank und KI-Kameras bereits erlaubt, doch mit der Änderung des Bundespolizeigesetzes werden die Technologien, die bislang nur vereinzelt und in Insellösungen genutzt wurden, bundesweit ausgerollt. Alexander Throm von der CDU sagte bei der finalen Bundestagsdebatte zur Einführung der KI-Kameras: „Das wird maßstabsbildend werden für die Länder der Bundesrepublik.“

Der nun verabschiedete Gesetzentwurf enthält neben der Befugnis zur automatisierten Videoanalyse auch weitere digitale Überwachungsbefugnisse, nämlich Regelungen zur Nutzung von Staatstrojanern, Drohnen, Stillen SMS, IMSI-Catchern, Fluggastdaten-Erhebung und Kennzeichenscannern.

Die KI-Überwachung ist ein Projekt aus Ampel-Zeiten. Es wurde vom Scheitern der Koalition gestoppt, jetzt versucht Schwarz-Rot, es zu vollenden. Doch es kann noch verhindert werden. 2021 hat der Bundesrat eine vorhergehende Fassung des Gesetzes abgelehnt, auch dieses Mal muss er seine Zustimmung geben.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Deutsche Polizeien sollen uns mit KI überwachen. Lange blieb der Aufschrei aus, jetzt gab und gibt es in gleich vier Städten Demonstrationen dagegen.

Plopp, Plopp, Plopp, platzen die Regenschirme auf. Sie sind auf einen rechtsradikalen Youtuber gerichtet. Dessen Handykamera zeigt nun nicht mehr auf eine überwachungskritische Demonstration, sondern auf eine Wand aus schwarzem Textil.

Hinter den Schirmen stehen junge Menschen, teils erst 15 Jahre alt, mit Schlauchschals, Kapuzen, Sonnenbrillen vermummt. Sie skandieren: „Ich bin nichts, ich kann nichts, gebt mir einen Selfie-Stick.“ Sie wollen die Live-Übertragung des Nazi-Streamers stören. Und gleichzeitig noch viel mehr, nämlich: die Überwachungspläne der Bundesregierung aufhalten.

Gerade drängt die schwarz-rote Regierung ein Überwachungs-Gesetzes-Paket durch den Bundestag. Deutschland soll mit KI überwacht werden, die Menschen biometrisch identifiziert und kriminalistische Analysen, ja gar Listen von Verdächtigen erstellt. Ähnliche Befugnisse bekommen gerade auch viele Landespolizeien, dazu Videoüberwachung, die automatisch prüft, ob sich alle verhalten wie erwünscht. Es droht eine Megadatenbank mit Aufnahmen aus dem öffentlichen Raum, Standort- und Kommunikationsdaten, mindestens fallweise ist auch die Einbeziehung von Gesundheits- und Finanzinformationen möglich.

Die vermummten Nazi-Stream-Blockierer sind Teil einer Anti-Überwachungs-Demonstration, die sich am vergangenen Samstag gegen die neuen Befugnisse positionierte. Deutlich über 1.000 Menschen ergab eine grobe Zählung am Startpunkt in Berlin-Friedrichshain. Gleichzeitig lief eine Demo durch Kiel. 600 Menschen protestierten dort nach Angabe der Veranstalter*innen, 400 nach Schätzung der Polizei.

Nächstes Wochenende folgen Demonstrationen in Hamburg und Leipzig. In Sachsen, Thüringen und Niedersachsen richten Aktivisti Informationsveranstaltungen zu den jeweiligen Polizeigesetz-Verschärfungen aus.

Die Kämpfe aus den Bundesländern zusammenführen

Es ist eine bundesweite Bewegung, die hier gerade zueinanderfindet, eine Welle von Widerstand. Und die Demo in Berlin ist auch eine Art Vernetzungstreffen. Jonas Grill von der NGO Digitalcourage ist aus Bielefeld in Nordrhein-Westfalen angereist. Dort wird bereits Palantir-Software genutzt. „Es geht hier auch darum, die Kämpfe aus den Bundesländern zusammenzuführen“, sagt Grill.

Die Veranstalter*innen haben Pappkameras am Stiel ausgeteilt. Menschen halten sich aus Spaß die Attrappen ins Gesicht, lassen einander erahnen, wie das ist, im Fokus von Überwachungstechnologie zu sein. Unter den Show-Kameras formiert sich der schwarze Block, vermummte Gesichter verschanzen sich hinter Transparenten. Ein Mensch hält einen Stab in die Höhe, drei echte Überwachungskameras sind daran befestigt, wie Trophäen einer Jagd.

Es geht los. Fahnen flattern, Blaulicht flackert, Bass wummert, Menschen skandieren, „Palantir, nicht mit mir!“, oder „Regierungsspanner raus aus den Kiezen! Tech-Milliardäre raus aus den Kiezen! Überwachung aller Eliten!“ zum Beispiel. „Antibiometrische Aktion“ steht auf einem Schild. In der Vielfalt der Demonstrierenden – darunter Kinder und Rentner*innen – ist der schwarze Block letztlich nur ein Farbklecks von vielen. Lächelnde Menschen tanzen im Sonnenschein über die Warschauer Brücke in Berlin.

Einhorn traurig

„Vorratsdatenspeicherung macht das Einhorn traurig“, steht auf Linas Schild, daneben ist ein Bild eines traurigen Einhorns gemalt. Lina, die eine Schirmmütze mit der Aufschrift „privacy is normal“ trägt, ist Aktivistin beim Kleindatenverein. Sie wohnt zwischen Görlitzer Park und Kottbusser Tor, ihre alltäglichen Wege führen sie durch Zonen, die künftig mit KI-Kameras überwacht werden sollen. Sie fürchtet, dass die KI-Überwachung nicht mehr zu verhindern ist. „Aber wir können sie mitgestalten und die Spitzen rausnehmen“, glaubt sie.

Lina ist Privatsphärenfan, bei Demos wie dieser setzt sie ihr Telefon in den Flugmodus – damit Provider und Polizei nicht ihren Standort bekommen. Mit Hilfe der geplanten Gesichtersuchmaschine könnte sie jedoch auf Fotos der Demonstration verortet werden. Das ist unschön, aber kein Grund zu Schwänzen. „Wenn ich deshalb nicht komme, erreichen die ja, was sie wollen“, sagt Lina.

Sinje und Lukas sind in Brandenburg bei der Linksjugend Solid engagiert. Sie sind hier, weil es ihnen Sorgen macht, dass die KI-Überwachungstechnologie in Zukunft gegen marginalisierte Menschen eingesetzt werden könnte und dass nicht nur die CDU, sondern auch SPD und Grüne bei der Ausweitung der Polizei-Gesetze mitmachen. „Wir brauchen gar keinen Rechtsruck mehr“, sagt Sinje.

Ückück von den Datenpunks ist aus Dresden angereist und blickt auf die Demonstration, die gerade fast die gesamte Brücke einnimmt. „Das tut richtig gut zu sehen“, sagt sie.

Wenige hundert Meter nach dem Start: Die Demo führt ganz nah einem singulären Riesenhochhaus vorbei, einem schwarzen Block, wuchtiges Design. Es ist das Deutschland-Hauptquartier von Amazon. Der Konzern ist auch für seine Überwachungspraktiken weltbekannt. Ein Mensch wirft aus der Demonstration heraus einen Farbbeutel auf das Gebäude. „Man muss die staatliche mit der kapitalistischen Überwachung zusammendenken“, sagt einer der Vermummten.

„Viel mächtiger als alles, wovor man sich früher sorgte“

Überwachungsgesetze und Kontrollprojekte sorgen in Deutschland inzwischen beinah traditionell für einigen Wirbel. Das zeigten erstmals die Proteste zur 1983 geplante Volkszählung. In den 2000er- und 2010er-Jahren brachte die Kampagne „Freiheit statt Angst“ immer wieder zehntausende Menschen auf die Straße. 2018/19 gab es Proteste in ähnlicher Größenordnung gegen Polizeigesetz-Verschärfungen.

Lukas Theune ist Geschäftsführer des Republikanischen Anwältinnen- und Anwältevereins (RAV), einer der Organisationen, die zu der Demo aufgerufen haben. Er sagt: „Es gab immer wieder Proteste gegen die Aufrüstung der Sicherheitsgesellschaft. In dieser Tradition stehen wir sicherlich, aber was jetzt eingeführt wird, ist noch viel mächtiger als alles, wovor man sich früher sorgte. Jetzt ist es wichtig, dass die große Mehrheit, die diese Maßnahmen nicht will, vernehmbar wird und Widerstand leistet.“

Es ginge gerade um eine grundlegende Veränderung der Sicherheitsarchitektur und der Art und Weise, wie wir als Gesellschaft leben können. Theune fürchtet, „dass wir zu einer gläsernen Gesellschaft werden, dass der Staat alles, was wir machen, weiß, dass er uns total überwacht“.

Die Demo führt auf einen kritischen Punkt zu: Zwei Kuppelkameras in der Unterführung unter der neu eingerichteten Polizeiwache am Kottbusser Tor. Die ist sowieso Hassobjekt der Linken in Berlin. Und die Kameras dort filmen anscheinend ohne Rechtsgrundlage öffentlichen Raum. An ihnen könnte sich die Wut über die zunehmende Überwachung entladen. Die Polizei verspricht laut Veranstalter*innen, dass die Kameras hochgedreht und abgedeckt sein werden, wenn die Demo passiert. Dann ändert sie ihre Meinung, teilt eine Änderung der Route mit. Nun soll es doch nicht wie geplant unter den Kameras hindurchgehen.

Polizistinnen rennen, um sich zwischen Demo und Wache zu positionieren. Die Demo führt nun einmal um den Kreisverkehr und den gleichen Weg ein Stück zurück, um über einen Schlenker zum Zielort zu kommen. Der Nazi-Streamer hält bis zum Schluss durch – und wird bis zum Schluss mit Regenschirmen abgeblockt. Dann wird die Demo aufgelöst. Sie war womöglich nur so etwas wie der Auftakt des Widerstandes. Die nächsten Demos in Hamburg und Leipzig sind ja schon gesetzt.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Gerade werden deutschlandweit Polizeigesetze hart verschärft. Kollege KI zieht ein, die Überwachung ist künftig automatisiert. Dagegen stellt sich eine Demo am Samstag in Berlin. Im Interview erzählen zwei Mitorganisatoren, warum sich die Teilnahme lohnt.

Im Bund und in den Ländern wird gerade massiv KI-gestützte Überwachungsinfrastruktur aufgebaut. Doch es formiert sich zivilgesellschaftlicher Widerstand. Tom Jennissen und Sebastian Marg arbeiten für die Digitale Gesellschaft, einen der Bündnispartner der Initiative „Sicherheit ohne Überwachung“. Gemeinsam mit beispielsweise der Roten Hilfe und dem Komitee für Grundrechte und Demokratie veranstalten sie am Samstag in Berlin (ab 14 Uhr Warschauer Straße/Marchlewskistraße) eine Demonstration gegen den Ausbau der Polizei-Befugnisse. Im Interview erzählen Jennissen und Marg, wogegen sich die Demonstration konkret wendet, warum uns das alle angeht und ob sich Widerstand überhaupt noch lohnt.

netzpolitik.org: Laut Initiativen-Website wehrt ihr euch gegen die „ausufernden Überwachungsbefugnisse“. Was ist damit gemeint?

Jennissen: Der konkrete Anlass ist das Sicherheitspaket 2.0. Das soll dem BKA, der Bundespolizei, der Staatsanwaltschaft, dem Zoll, sowie dem BAMF umfangreiche neue digitale Befugnisse zuweisen. Dazu gehören der biometrische Abgleich mit Daten aus dem Internet und die umfassende Datenanalyse, also der Einsatz einer Software, wie sie Palantir anbietet. Dazu müssten gigantische Referenzdatenbanken erstellt werden. Außerdem sollen personenbezogene Daten auch zum Training von KIs verwendet werden.

Es ist ein frontaler Angriff auf die Grundrechte, zusammen gedacht so etwas wie die Atombombe unter den Ermittlungsmaßnahmen. Der Bundesrat will dennoch noch weiter gehen und dazu auch noch Echtzeit-Fernidentifizierung mit reinnehmen. Und parallel durchläuft ja gerade das Gesetz zur IP-Vorratsdatenspeicherung das Parlament.

„Das Aus für die Anonymität“

Marg: Dazu kommen die Polizeigesetznovellen in den Ländern, mit denen gerade ebenfalls massiv digitale Überwachungsbefugnisse ausgebaut werden. Einige sind schon durch, andere noch in Arbeit.

netzpolitik.org: Und warum ist das ein Problem?

Jennissen: Weil das extrem invasive Maßnahmen sind. Sollte denen tatsächlich erlaubt werden, das gesamte Internet als Fahndungsdatenbank zu verwenden, dann wäre das das Aus für die Anonymität. Dann kann man sich nicht mehr im öffentlichen Raum bewegen, ohne Gefahr zu laufen, auf einem Foto zu landen, das von der Polizei als Fahndungsmittel genutzt wird. Das ist krass dystopisch.

Und bei der automatisierten Datenanalyse sollen sämtliche Daten zusammengeführt werden. Darunter Daten aus Asservaten beispielsweise, den rund 500.000 Mobiltelefonen, die die Polizei aus irgendwelchen Gründen mal einkassiert hat.

„Eine Chance, das zu verhindern“

netzpolitik.org: Und warum begehrt ihr jetzt dagegen auf – bringt das was?

Jennissen: Es ist nicht so, dass zivilgesellschaftlicher Widerstand nichts bringen würde. Wir haben zum Beispiel im Jahr 2020 die Vorratsdatenspeicherung weitgehend verhindern können. Der neue Anlauf jetzt ist schon deutlich abgespeckt im Vergleich zu dem, der vor 20 Jahren auf dem Tisch lag. Zum Teil werden die Überwachungsmaßnahmen auch von Gerichten kassiert, und die hätten vielleicht anders geurteilt, wenn es den Widerstand, die Aufmerksamkeit nicht gegeben hätte.

Wir wollen eine Diskussion zum Thema in Gang bringen. Bislang werden vor allem die Pressemitteilungen der Bundesregierung abgeschrieben. Welchen Sinn die Maßnahmen haben und welche Ausmaße, darüber gibt es noch keine gesellschaftliche Diskussion. Wenn es mal ein Bewusstsein dafür gibt, was da auf uns zukommt, dann gibt es auch eine Chance, das zu verhindern. Und wenn wir es nicht verhindern können, müssen die Gerichte später zumindest nicht im luftleeren Raum darüber entscheiden.

netzpolitik.org: Ist die Demo in Berlin, weil hier die Bundesregierung sitzt, oder spielt es auch eine Rolle, was in Berlin als Bundesland gerade passiert?

„Die Kämpfe aus verschiedenen Bundesländern zusammenführen“

Jennissen: In Berlin gab es im vergangenen Jahr ein in ziemlich großer Eile durchgepeitschtes neues Sicherheitsgesetz. Da stehen viele neue Befugnisse drin. KI-gestützte Videoüberwachung zum Beispiel. Das wird auf jeden Fall thematisiert. Unsere Vernetzung soll die Kämpfe aus verschiedenen Bundesländern zusammenführen.

netzpolitik.org: Habt ihr Hoffnung, die Welle aufzuhalten?

Jennissen: Ob diese Bundesregierung noch umzustimmen ist, das wird sich zeigen. Realistisch ist, dass wir einige Spitzen rausnehmen. Aber mittelfristig glaube ich schon, dass wir die Welle brechen können.

netzpolitik.org: Die Vernetzung läuft unter dem Slogan „Sicherheit ohne Überwachung“. Wie wollt ihr denn dann Sicherheit herstellen?

Marg: Wir verwenden einen Sicherheitsbegriff, der Sicherheit von der sozialen Perspektive aus denkt. Es geht um die Sicherheit von Wohnraum oder gesellschaftlicher Teilhabe beispielsweise.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Verhaltensscanner, Gesichtserkennung, Datenanalyse: Immer mehr Bundesländer rüsten mit KI-Überwachung auf. Bislang lief das weitgehend geräuschlos. Jetzt regt sich Widerstand.

Ende April, ein Platz im Görlitzer Park in Berlin: Etwa 100 Menschen stehen vor einer Bühne, am Rand eine Reihe Polizeifahrzeuge und Gruppen von Polizist*innen. Es gibt kostenloses Essen und Rap. Die Bühne haben Aktivist*innen mit Überwachungskameras dekoriert. Davor ist ein Banner gespannt, Aufschrift: „Gegen Überwachung und Ausgrenzung“. In kleinerer Schrift darunter: „Keine KI-Videoüberwachung unserer Parks, Plätze und Straßen!“

Diesen Park will die Polizei künftig mit Videokameras und Verhaltensscanner-Software kontrollieren, so wie weitere Orte in Berlin. Die Software, eine sogenannte Künstliche Intelligenz, soll analysieren, was die abgebildeten Menschen gerade tun und gutes von schlechtem Verhalten unterscheiden. Deshalb sind die Demonstrierenden hier. Sie lehnen die KI-Kontrolle ab. Die Person am Mikrofon ruft: „Man kann Kameras auch kaputt machen!“

Neun Bundesländer haben ihrer Polizei den Einsatz von Verhaltensscannern entweder bereits erlaubt – oder planen, dies zu tun. Bislang setzen Polizeien die Technologie nur in Mannheim und Hamburg ein. Doch die Zahl der Orte, die damit überwacht werden, wird sich wohl bald deutlich erhöhen.

Größere Polizeigesetz-Änderungen

Mehrere Bundesländer legalisieren derzeit Verhaltensscanner im Rahmen größerer Polizeigesetz-Reformen. Sie genehmigen den Beamt*innen unter anderem den Einsatz von Datenanalyse à la Palantir, Live-Gesichtserkennung oder Videodrohnen. In einigen Ländern, die gerade ihr Polizeigesetz verschärfen oder verschärft haben, formt sich auch außerparlamentarischer Widerstand.

Magdalena Finke, CDU-Innenministerin von Schleswig-Holstein hat mit ihrem Polizeigesetz-Entwurf Fans des Fußballvereins in Kiel gegen sich aufgebracht. Die mobilisieren in der Fanszene und vernetzen sich darüber hinaus mit zivilgesellschaftlichen Initiativen. „Das wurde komplett im Hinterzimmer ausgehandelt“, sagt Fußballfan Jan auf Anfrage von netzpolitik.org über das Polizeigesetz.

Jan und seine Mitstreiter*innen wollen eine große Demo durch die Landeshauptstadt Kiel organisieren. Kein bloßer Fanmarsch, sondern ein breites Bündnis. „Wir wollen Menschen aus dem ganzen Landesgebiet mobilisieren“, sagt Jan. Geplant sind außerdem Infoveranstaltungen für Fußballfans, Flyer und Aktionen mit Spruchbändern im Stadion. „Wir sehen das als unsere Aufgabe, das Polizeigesetz in unserer Kurve zum großen Thema zu machen.“

Das volle Programm High-Tech-Überwachung

Die schwarz-grüne Landesregierung von Schleswig-Holstein steht kurz davor, das volle Programm High-Tech-Überwachung genehmigt zu bekommen: Datenanalyse nach Palantir-Art, Verhaltensscanner, Live-Gesichtserkennung, Gesichtersuchmaschine. Am 6. Mai haben die Abgeordneten den Gesetzentwurf erstmals im Parlament besprochen.

Jan sagt: „Durch Überwachung und erst recht durch KI-Überwachung werden die Freiräume immer begrenzter. Freiräume sind aber ein wichtiger Teil der partizipativen Demokratie.“

Begründet werde die Ausweitung der Überwachung mit Messerangriffen. „Aber in Kiel gibt es kaum bis keine Messerangriffe. Dann kann man doch nicht deshalb der Polizei solche Befugnisse geben. Die lassen sich nicht wieder zurückdrehen“, sagt Jan. Er befürchtet, dass bald alle öffentlichen Plätze im Land KI-überwacht werden.

Wie wir bereits berichtet haben, gibt es auch in Thüringen Widerstand gegen das dortige Polizeigesetz. Der bekommt zunehmend Schwung, wie die Initiator*innen der Anti-Polizeigesetz-Kampagne ThürPAG stoppen berichten. Zu den Kritiker*innen gehören inzwischen die antifaschistischen Bündnisse Auf die Plätze Erfurt und Rechtsruck Stoppen, der Verein Vielfalt Leben – QueerWeg und der Hacker*innentreff Krautspace Jena.

Kunstaktionen gegen Überwachung

In Sachsen wehrt sich das antifaschistische Aktionsbündnis Leipzig nimmt Platz gegen die Polizeigesetz-Novelle. Die Dresdner Datenpunks planen Kunstaktionen zu Überwachung, um darüber mit Menschen ins Gespräch zu kommen.

Aufklärung zur niedersächsischen Polizeigesetznovelle leisten der Kleindatenverein und Freiheitsfoo.

Derweil agieren Initiativen wie Kameras stoppen aus Köln, Bündnis Hansaplatz aus Hamburg oder dieDatenschützer Rhein-Main seit Jahren nicht ohne Erfolg gegen Video- und KI-Überwachungs-Projekte – auch vor Gericht.

Ausdrücklich gegen die Massen-Datenanalyse positioniert sich das Bündnis Kein Palantir in Baden-Württemberg. Das Netzwerk Sicherheit ohne Überwachung macht derweil auf Bundesebene gegen verschärfte Gesetze mobil. Es geht einmal mehr um biometrische Gesichtersuche, um Datenanalyse nach Palantir-Art – und Vorratsdatenspeicherung. Unter anderem geplant ist eine Demonstration am 13. Juni 2026 ab 14 Uhr in Berlin.

Die Gewerkschaft der Osterhasen

Zurück zur Kundgebung im Görlitzer Park. Dahinter stehen drei Initiativen: Cables of Resistance, die in Berlin kürzlich einen Kongress zum Kampf gegen die Big-Tech-Übermacht veranstaltet hat; Wrangelkiez United, eine polizeikritische Anwohner*innengruppe – und Görli 24/7, die dagegen kämpft, dass die Stadt den Görlitzer Park inzwischen nachts verriegelt.

Für einen offen zugänglichen Görlitzer Park sind auch zwei Redner*innen, die als nächstes die Bühne betreten, maskiert mit rosa Hasenköpfen. Sie stellen sich als Vertreter*innen der „Osterhasen-Gewerkschaft“ vor und erzählen, dass Menschen bereits Nachschlüssel zu den Parktoren an Interessierte verteilt hätten. Einige Eingänge könne man auch selbst öffnen, wenn man eine Türklinke in die dafür vorgesehene Öffnung schiebt. „Klinken bekommt ihr am Info-Stand“, ruft einer der Hasen.

Bevor die Osterhasen die Bühne betreten, gibt es eine unfreiwillige Programm-Pause. Beamt*innen treten an die Bühne heran und wollen Personalien sehen – von der Person, die über kaputte Kameras gesprochen hatte. Gibt es jetzt Ärger?

Per Mikrofon hält eine andere Person aus dem Kreis der Veranstalter das Publikum auf dem Laufenden. Sie gibt weiter, dass die Polizei die Aussage über die Zerstörbarkeit von Kameras für eine Straftat hält. „Also sagt das nicht“, ruft sie durch die Lautsprecher. „Sagt nicht, dass man Kameras auch kaputtmachen kann.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die schwarz-rote Koalition will ein Gesetzespaket verabschieden, das ein neues Zeitalter der Überwachung einläutet. Was steckt da konkret alles drin? Wir haben es durchgesehen, damit ihr es nicht tun müsst.

Eigentlich war es ja eine Idee der Ampel-Regierung, der deutschen Polizei die Suche nach Gesichtern im Internet zu erlauben sowie Software einzusetzen, die so viele Daten wie möglich zusammenführt und auswertet. Beides sind Überwachungstechnologien, die auf sogenannter Künstlicher Intelligenz basieren. Auf Bundesebene gibt es derartiges noch nicht, die Ampel hatte es nicht mehr durchgekriegt. Zugleich haben inzwischen zahlreiche Bundesländer ihren Polizeien Gesichtersuchmaschinen und die Datenanalysen genehmigt.

Nun zieht die inzwischen schwarz-rot geführte Bundesregierung nach: Sie will der Bundespolizei und dem Bundeskriminalamt (BKA) beide Instrumente in die Hand geben. Das zugehörige Gesetzespaket hat sie Ende April im Kabinett verabschiedet. Daten, die nötig sind, um die Überwachungstools zu füttern, sollen demnach die Bundesbürger*innen liefern. Bürgerrechtsorganisationen wie die Gesellschaft für Freiheitsrechte (GFF) warnen vor „Instrumenten zur Massenüberwachung“ und halten das Paket für verfassungswidrig.

Wir klären die wichtigsten Fragen rund um das Überwachungspaket in diesen FAQ.

Inhalte:

• Was ist das Überwachungspaket?
• Was ist das Problem an der Fotofahndung im Netz?
• Was ist das Problem mit der automatisierten Datenanalyse?
• Was ist das Problem am KI-Training?
• Ist das nicht alles verfassungswidrig?
• Was sind die Unterschiede zum Ampel-Sicherheitspaket?
• Was sagen die Kritiker*innen?
• Wer tut etwas dagegen?

Was ist das Überwachungspaket?

Das Paket enthält drei Gesetzentwürfe, die das Bundeskabinett Ende April beschlossen hat. Der „Gesetzentwurf zur Stärkung digitaler Ermittlungsbefugnisse in der Polizeiarbeit“, der „Gesetzentwurf zur Stärkung digitaler Ermittlungsbefugnisse zur Abwehr von Gefahren des internationalen Terrorismus“ und der „Gesetzentwurf zur Änderung der Strafprozessordnung“ legen zusammen die Grundlage dafür, dass Ermittlungsbehörden Gesichtsbilder mit Aufnahmen aus dem Internet abgleichen und automatisierte Datenanalysen durchführen können. Außerdem dürfen sie demnach mit den „vorhandenen“ Daten von Bürger*innen Überwachungs-KI-Systeme trainieren.

Was ist das Problem an der Fotofahndung im Netz?

Die Polizei soll Fahndungsfotos mit öffentlich zugänglichen Bildern aus dem Internet abgleichen dürfen. Also auch mit Selfies auf Social Media, dem Teamfoto deiner Handballmannschaft und einem Stockfoto der Innenstadt von Hannover, auf dem du aus Versehen im Hintergrund zu sehen bist. Sie soll mit dieser Suche die Identität abgebildeter Personen herausfinden dürfen. Dabei bekäme sie Zugriff auf potenziell äußerst persönliche Informationen.

Davor warnt auch die GFF: Die Behörden könnten durch den Abgleich Rückschlüsse auf besonders sensible Daten wie politische Einstellungen und sexuelle oder religiöse Orientierung ziehen, z.B. bei Aufnahmen von Demos, Veranstaltungen oder Gottesdiensten. Das Internet mache mittlerweile einen erheblichen Teil des öffentlichen Raumes aus, so die Bürgerrechtsorganisation. Mit den neuen Befugnissen werde die Anonymität in diesem digitalen öffentlichen Raum faktisch unmöglich gemacht. Das sei mit enormen Abschreckungseffekten verbunden und habe erhebliche Auswirkungen auf die Ausübung von Grundrechten, kritisiert die GFF.

Laut den Plänen soll die Polizei die biometrische Fahndung einsetzen dürfen, um die Identität oder den Aufenthaltsort von Beschuldigten, aber auch von Zeug*innen festzustellen. Im Zweifel muss man also nicht mal selbst einer Straftat verdächtig sein, um zum Fahndungsziel zu werden. Erlaubt sein soll das beim Verdacht einer Straftat von erheblicher Bedeutung – das sind etwa Mord und Vergewaltigung, aber auch Steuerhinterziehung, Geldwäsche oder Drogendelikte.

Das Problem: Um im öffentlichen Internet nach Personen fahnden zu können, müssen Ermittlungsbehörden die öffentlich im Netz verfügbaren Fotos von Gesichtern zunächst durchsuchen, sammeln und in Templates umrechnen. Dabei entsteht eine Datenbank mit den biometrischen Entsprechungen von möglicherweise Milliarden von Gesichtern.

Das Ministerium betont, dass diese Vergleichsdatenbank bei dem geplanten „Ad-hoc-Abgleich“ nicht dauerhaft gespeichert würde. Die Templates müssten stattdessen für jeden Abgleich neu erstellt werden. Damit sei die „Erstellung einer dauerhaften Datenbank, die aus dem Internet erhobene Lichtbilder und/oder zugehörige Templates vorhält, […] ausgeschlossen“.

Schwarz-rotes Sicherheitspaket »zum Großteil verfassungswidrig«

Allerdings steht das so nicht explizit im Gesetzentwurf. Dieser legt nur fest, dass die „beim Abgleich erhobenen und verarbeiteten Daten“ im Anschluss „unverzüglich“ zu löschen sind, wenn sie für die weiteren Ermittlungen nicht relevant sind. Die Referenzdatenbank selbst erwähnt der Text nicht explizit.

Hinzu kommt: Artikel 5 der KI-Verordnung der EU verbietet „das Inverkehrbringen, die Inbetriebnahme […] oder die Verwendung von KI-Systemen, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern“.

Aber eine zielgerichtete Suche wäre demnach wohl durchaus möglich. Beispielsweise: Vergleiche dieses Bild mit allen Menschen, die sich auf Social Media für das Wacken-Festival interessieren.

Eine Gesichtersuchmaschine hat die deutsche Polizei ja bereits: Das Gesichtserkennungsystem (GES) des BKA, das eingespeiste Bilder mit, unter anderem, Menschen vergleicht, die erkennungsdienstlich behandelt wurden. Über fünf Millionen Menschen sind dort drin. Die Fotofahndung im Netz wäre für dieses System ein Riesen-Upgrade, weil damit theoretisch fast alle Menschen identifiziert und gefunden werden können. Wer hat schon keine Fotos von sich im Netz?

Was ist das Problem mit der automatisierten Datenanalyse?

Geplant ist eine Super-Datenbank. Die Datenanalyse soll verschiedene Datenquellen verbinden und die aggregierten Daten sinnvoll aufbereiten. Damit können Polizist*innen Fragen nachgehen wie: Wer gehört zu einer bestimmten Gruppe? Oder: Wo wird wohl demnächst eingebrochen?

Das Problem an dieser Datenbank: Da sind nicht nur Daten von Verurteilten oder zumindest Verdächtigen drin, sondern auch die von Opfern und Zeugen von Straftaten oder Kontaktpersonen von Verdächtigen. Also potenziell: wir alle. Die Quellen, aus denen die Daten dazu stammen dürfen, sind im Gesetzpaket auch nicht beschränkt. Daten, auf die beispielsweise das BKA „zur Erfüllung seiner Aufgaben zugreifen“ darf, dürfte es auch in die Super-Datenbank kippen.

Zivilgesellschaft warnt vor Plänen für KI-Fahndung

Denkbar sind also Standortdaten, Fingerabdrücke, Genproben, abgehörte Gespräche, wer wann mit wem wie lange telefonierte, sowie natürlich sämtliche polizeiinterne Vorgangsdaten. Außerdem kann die Datenbank live an polizeiliche Datenbanken anderer EU-Staaten angeschlossen werden.

Amnesty International und ein Dutzend andere Organisationen warnen, dass die Daten von Opfern, Zeug:innen und gänzlich unbeteiligten Personen Teil derselben „Super-Datenbank“ werden würden. Das Resultat wären demnach „tiefgreifende Persönlichkeitsprofile auf der Basis algorithmisch ausgewerteter massenhafter Datenbestände.“

„Automatisierte Datenanalysen sind mächtige Überwachungsmaßnahmen“, schreibt die GFF in ihrer Stellungnahme zum Gesetzespaket. Deswegen seien strenge Beschränkungen zum Schutz der Grundrechte nötig. Doch diese sieht die Bundesregierung nicht vor.

Was ist das Problem am KI-Training?

Laut der Gesetzentwürfe dürfen Beamt*innen sogenannte KI mit deinen Daten füttern. Die Trainingsdaten müssen beispielsweise dann nicht an- oder pseudonymisiert werden, wenn das „einen unverhältnismäßigen Aufwand“ bedeuten würde. Die Polizei darf bei ihr vorhandene personenbezogene Daten zum KI-Training auch weitergeben, beispielsweise an privatwirtschaftliche Unternehmen. Das Problem: Sprachmodelle können die Informationen, mit denen sie trainiert werden, nahezu perfekt wiedergeben. Das kam im Rahmen von Urheberrechtsstreitigkeiten heraus.

Das heißt: Informationen, die in derartiger Software landen, können nicht nur von der Software gegen dich verwendet werden – indem sie dich einem Verdacht aussetzt – sondern auch von jedem Menschen, der Zugriff auf die Software hat, rekonstruiert werden. Das ist ein Problem, wenn die Polizei anfängt, wahllos persönliche Informationen in Überwachungssoftware zu füttern. Die Hersteller der Programme sind ja meist auch privatwirtschaftliche Unternehmen, die unsere Informationen womöglich gewinnbringend weiterverarbeiten. So entwickelt beispielsweise Datenanalyse-Marktführer Palantir seine Produkte auch auf Basis realweltlicher Daten.

Ist das nicht alles verfassungswidrig?

Die Gesellschaft für Freiheitsrechte (GFF) nennt in ihrer aktuellen Stellungnahme zum Sicherheitspaket (PDF) die Gesetzesvorhaben der Bundesregierung zur biometrischen Fahndung im Internet und zur automatisierten Datenanalyse „zum Großteil verfassungswidrig“. Die Bürgerrechtsorganisation lehnt deshalb die Einführung der darin vorgeschlagenen Befugnisse und Änderungen fast rundweg ab.

Systeme zur automatisierten Analyse könnten umfassende Persönlichkeitsprofile erzeugen, die Daten Unbeteiligter würden mitverarbeitet und es drohten falsche Treffer und Fehlverdächtigungen. Die GFF verweist dabei auf ein Urteil des Bundesverfassungsgericht von 2023, das ähnliche Regelungen in Hessen und Hamburg bereits teilweise kassiert hat. Karlsruhe stellte damals klar: Automatisierte Datenanalyse greift schwerwiegend in das Recht auf informationelle Selbstbestimmung ein und braucht deshalb enge gesetzliche Grenzen. Diese sehe das aktuelle Entwurf nicht vor.

Auch im Fall der Foto-Fahndung sieht die Organisationen Grundrechte in Gefahr, etwa weil auch hier die Daten vieler Unbeteiligter betroffen wären und die Maßnahmen nicht ausreichend auf schwerste Straftaten begrenzt sind.

Auch AlgorithmWatch kommt zu einem ähnlichen Urteil. Die Pläne der Bundesregierung, die digitalen Ermittlungsbefugnisse von Sicherheitsbehörden auszuweiten, sind nach Meinung der Organisation europarechtswidrig und stehen im Konflikt mit verfassungsrechtlichen Mindestanforderungen und datenschutzrechtlichen Grundsätzen. Dabei kommt AlgorithmWatch – wie auch schon die GFF – zu dem Schluss, dass man dieses Gesetz nicht mit ein paar Änderungen verbessern könnte.

Die verfassungs- und menschenrechtliche Unverhältnismäßigkeit lasse „ausschließlich die Empfehlung zu, die Gesetzentwürfe zurückzuziehen und ein grundsätzliches gesetzliches Verbot des Einsatzes biometrischer Massenerkennungssysteme für öffentliche und private Stellen einzuführen“, so die Zusammenfassung der Stellungnahme zum Gesetz (PDF).

Auch Amnesty International, der Chaos Computer Club, D64, die Digitale Gesellschaft und viele weitere Organisationen warnen vor der Gefährdung von Grundrechten. „Wir betonen, dass eine grundrechtskonforme Ausgestaltung dieser Befugnisse auch durch Nachbesserungen im Verfahrensrecht nicht erreichbar wäre“, heißt es in der Stellungnahme: „Die genannten Mängel sind keine bloßen Ausgestaltungsfehler, sondern symptomatisch für das strukturelle Defizit des gesamten Regelungsvorhabens.“

Was sind die Unterschiede zum Ampel-Sicherheitspaket?

Das Gesetzespaket ist nicht der erste Anlauf, um Gesichtserkennung und Big-Data-Analysen auf Bundesebene einzuführen. Nach dem Messeranschlag in Solingen haben die Ampel-Fraktionen im Bundestag bereits ein „Sicherheitspaket“ beschlossen, das allen Polizeibehörden den Einsatz von Gesichtserkennung und KI erlauben sollte.

Die Pläne scheiterten allerdings im Bundesrat, weil den Ländern einige der geplanten Überwachungsbefugnisse nicht weit genug gingen.

Das Ampel-Paket bestand aus zwei Gesetzen. Das eine – in dem es um Messerverbote und verschärfte Asylregelungen ging – trat in Kraft. Das andere – mit erweiterten Befugnissen für Sicherheitsbehörden – scheiterte. Genau diese gescheiterten Instrumente tauchen jetzt in verschärfter Form im Kabinettsentwurf wieder auf: biometrische Gesichtserkennung und automatisierte Datenanalyse. Das Paket holt also nach, was im ersten Anlauf nicht durchkam.

Was sagen die Kritiker*innen?

Clara Bünger, stellvertretende Vorsitzende der Linken im Bundestag:

Die Bundesregierung treibt den Ausbau digitaler Kontrollwerkzeuge massiv voran und hebelt damit den Schutz unserer Privatsphäre mithilfe künstlicher Intelligenz aus. Besonders die biometrische Gesichtserkennung erfordert den Aufbau riesiger Datensammlungen, die alle Menschen unter Generalverdacht stellen und gegen geltendes europäisches Recht verstoßen. Dieser Weg führt geradewegs in einen digitalen Überwachungsstaat.

Donata Vogtschmidt, digitalpolitische Sprecherin der Linken im Bundestag:

Mehr Überwachung kann Ursachen von Kriminalität und sozialen Problemen nicht lösen. Das Sicherheitspaket 2.0 ist in der Summe nichts weiter als der höchst zweifelhafte Versuch, durch ein Gefühl der ständigen Überwachung im öffentlichen Raum die Handlungsfreiheit der Menschen zu ersticken und KI auch dort zu entfesseln, wo sie gesellschaftlich besonders großen Schaden anrichten kann. Diese fundamentale Fehlentwicklung sollte und muss endlich wachrütteln!

Konstantin von Notz, Stellvertretender Fraktionsvorsitzender der Grünen:

Die geplanten neuen Befugnisse ermöglichen tiefe Grundrechtseingriffe und betreffen dabei keineswegs nur Personen im direkten Fokus von Sicherheitsbehörden, sondern potenziell alle, auch gänzlich unbescholtene, Bürger.

Matthias Spielkamp, Geschäftsführer der NGO AlgorithmWatch:

Damit macht die Bundesregierung den Weg dafür frei, die Fotos aller Menschen, die im Internet verfügbar sind, ob von der Familienfeier oder dem Sommerurlaub, biometrisch zu speichern und auszuwerten. Zudem sollen mit KI-Software wie der von Palantir alle Daten ausgewertet werden, die die Behörden über uns gesichert haben. Davon träumen sonst nur autoritäre Regierungen.

Kai Kempgens vom vom Deutschen Anwaltverein:

Polizeibehörden erhielten damit Zugriff auf eine KI-generierte ‚Gigadatenbank‘ mit darin enthaltenen zum Teil höchstpersönlichen Daten. Ein unkontrollierter Zugriff auf solche faktischen Vorratsdaten lässt sich angesichts der massiven Tiefe des Grundrechtseingriffs nicht ansatzweise rechtfertigen und würde eine Überwachungsdystopie verwirklichen, die massiv dem Rechtsstaatsprinzip zuwiderläuft.

Wer tut etwas dagegen?

Das Netzwerk „Sicherheit ohne Überwachung“ agitiert gegen die Gesetzesverschärfungen auf Bundesebene: Gesichtersuchmaschine, Datenanalyse nach Palantir-Art und Vorratsdatenspeicherung. Unter anderem ist eine Demonstration in Berlin am 13. Juni 2026 um 14 Uhr an der Warschauer Straße / Marchlewskistraße geplant.

Wer bis dahin nicht untätig herumsitzen möchte, kann die Petition von AlgorithmWatch unterschreiben.

Update, 5.5.2026, 15.25 Uhr: In einer vorherigen Fassung schrieben wir, dass im GES des BKA alle Menschen verzeichnet seien, die je erkennungsdienstlich behandelt wurden. Das ist nicht korrekt. Teilweise werden die dabei erhobenen Daten nach einer gewissen Zeit wieder gelöscht.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der Landesdatenschutzbeauftragte und Polizeirechtler*innen sehen grundlegende Probleme in dem Entwurf des neuen Polizeigesetzes von Niedersachsen. Das wurde gestern bei einer Anhörung im Innenausschuss deutlich.

Die rot-grüne Landesregierung von Niedersachsen will ihrer Polizei vier verschiedene Arten KI-gestützter Überwachung erlauben. Der Landesdatenschutzbeauftragte Denis Lehmkemper bezog nun öffentlich dazu Position. Er schreibt, dass diese Befugnisse die Eingriffsintensität in die Grundrechte gegenüber bisherigen Maßnahmen „erheblich erhöhen“. Sie würden sich auf der kritischen Grenze zwischen verbotenen KI-Praktiken und Hochrisiko-KI-Systemen bewegen. Es bestünde die Gefahr, „dass die Regelungen aufgrund ihrer Eingriffstiefe einer verfassungsrechtlichen Bewertung nicht standhalten.“

Gestern nahmen Lehmkemper und weitere Expert*innen im Innenausschuss des Landtags Stellung zum aktuellen Entwurf des niedersächsischen Polizeigesetzes. In einer Presseerklärung, die er danach versandte, zweifelt Lehmkemper daran, dass der Entwurf die Grundrechte im Blick behält.

Als besonders eingriffsintensiv benennt er die Maßnahmen mit sogenannter Künstlicher Intelligenz, wie sie sich derzeit in etlichen umstrittenen deutschen Polizeigesetzentwürfen finden: „intelligente“ Videoüberwachung, biometrische Echtzeit-Fernidentifizierung, Abgleich mit öffentlich zugänglichen Daten und automatisierte Datenanalyse. In diesen Bereichen sieht Lehmkemper „erheblichen Nachbesserungsbedarf“ an den Regelungen.

„Ein Paradigmenwechsel“

„Aus unserer Sicht sind europäische Datenschutz- und KI-Vorgaben noch nicht ausreichend berücksichtigt, damit riskiert man Rechtsunsicherheit“, schreibt er netzpolitik.org zu dem Entwurf.

Die Landesregierung will mit dem Entwurf auch Datenanalysen ermöglichen, wie sie der Konzern Palantir anbietet und die US-Einwanderungsbehörde gerade zur Jagd auf Migrant*innen nutzt. Lehmkemper sieht hier einen tiefen Eingriff in die Bürgerrechte, sogar einen Paradigmenwechsel. Während Daten von Zeugen und Opfern bislang nur zweckgebunden und vorgangsbezogen erhoben wurden, wäre es danach möglich, eine Datenbank zu betreiben, die nicht nur nach polizeilichen Vorgängen, sondern auch nach Zeugen und Opfern, also gezielt nach Personen, durchsucht werden kann.

Die Landesregierung hat bereits bekundet, keine Software von Palantir einsetzen, sondern auf eine europäische Alternative warten zu wollen. Der Datenschutzbeauftragte fordert, „völlig unabhängig davon, welches Software-System dafür eingesetzt werden soll, eine klare Begrenzung auf anlassbezogene Analysen, kürzere Speicherfristen, umfassende Betroffenenrechte und eine eindeutige Definition des Einsatzes von Künstlicher Intelligenz im Sinne der KI-Verordnung.“

„Verstoß gegen Verfassungsrecht“

Kristin Pfeffer, Professorin an der Hochschule der Polizei Hamburg, hat ebenfalls gestern im Innenausschuss das Polizeigesetz eingeordnet. In einer schriftlichen Stellungnahme, die sie dazu eingereicht hat, kritisiert sie vor allem die Befugnisse zur Datenanalyse nach Palantir-Art. Sie sieht einen Verstoß gegen das Verfassungsrecht, weil die Politik der Polizei zur Nutzung des Tools zu wenige Regeln auferlegt.

Die Big-Data-Analyse sei „äußerst eingriffsintensiv“, deshalb brauche es, wenn man sie einführen wolle, Regelungen, die die Eingriffstiefe der Maßnahme abmildern. Die gäbe es kaum. Die Art der Daten, die einbezogen werden könnten, sei kaum limitiert. Die Polizei darf dem Entwurf nach „Vorgangsdaten, Falldaten, Daten aus den polizeilichen Auskunftssystemen, Verkehrsdaten, Telekommunikationsdaten, Daten aus Asservaten und Daten aus dem polizeilichen Informationsaustausch“ nutzen.

Vorgangsdaten umfassen dabei, so Pfeffer, „Anzeigen, Ermittlungsberichte und Vermerke, die nicht nur Daten zu Verdächtigen, Beschuldigten oder sonstigen Anlasspersonen enthalten, […] sondern etwa auch Daten zu Anzeigeerstattern, Hinweisgebern oder Zeugen.“ Falldaten würden zudem „Beziehungen zwischen Personen, Institutionen, Objekten und Sachen“ sichtbar machen.

Dazu kommen „Datensätze aus gezielten Abfragen in gesondert geführten staatlichen Registern sowie einzelne gesondert gespeicherte Datensätze aus Internetquellen.“ Solche Register können laut Pfeffer Melde- oder Waffenregister oder das zentrale Verkehrsinformationssystem (ZEVIS) sein. Zudem sei die Verarbeitung von Daten, die durch besonders schwere Grundrechtseingriffe erlangt wurden, zum Beispiel durch die Wohnraumüberwachung oder den Einsatz verdeckter Ermittler*innen, nicht ausgeschlossen, sondern nur eingeschränkt.

Eine Superdatenbank

Die Politik habe es bislang auch verpasst, so Pfeffer, die Eingriffstiefe durch die Beschränkung auf inländische Quellen zu beschränken. Nach der aktuellen Fassung könnten auch Daten verarbeitet werden, die ausländische Sicherheitsbehörden erhoben haben.

Der Polizeigesetzentwurf ermöglicht es zudem, eine „Superdatenbank“ anzulegen. Pfeffer sähe eine solche aber unvereinbar mit dem aktuellen Verfassungsrecht. „Sollte das Anlegen einer vorsorglichen Datenbank gar nicht beabsichtigt sein, müsste dies in der Norm noch klargestellt werden“, schreibt sie.

Pfeffer kritisiert auch die Eingriffsschwelle für die Datenanalyse: Die liegt bereits im Vorfeld einer Gefahr für eine terroristische Straftat. Das Tool darf demnach genutzt werden, noch bevor eine Gefahr konkret wird.

Racial Profiling ist für Rot-Grün kein Thema

Matthias Fischer, Professor an der Hessischen Hochschule für öffentliches Management und Sicherheit, wurde ebenfalls gestern im Innenausschuss angehört und schreibt in einer schriftlichen Stellungnahme dazu: „Als eine besonders auffällige Leerstelle erweist sich die Thematik „Racial Profiling“.“

Zahlreiche Landesgesetzgeber hätten sich in den vergangenen Jahren bei den Novellierungen ihrer Polizeigesetze dieses Themas angenommen. „Sie haben erkannt, dass rechtswidriges oder als rechtswidrig erlebtes Polizeihandeln zu nachhaltigen Vertrauensverlusten in die Institution Polizei führen kann“, schreibt Fischer. In der Diskussion über den Reformbedarf des niedersächsischen Polizeigesetzes habe Racial Profiling aber offenbar trotzdem keine Rolle gespielt.

„Wer mit dem Anspruch antritt, das modernste Polizeigesetz Deutschlands vorlegen zu wollen, darf das Thema diskriminierender Kontrollen nicht ausblenden“, schreibt Fischer. Um der Gefahr von Racial Profiling zu begegnen, empfiehlt er eine Pflicht für Polizist*innen, Personenkontrollen vor deren Beginn zu begründen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Niedersachsen folgt dem bundesweiten Trend in Richtung Sci-Fi-Überwachung. Im neuen Polizeigesetz sind neben der Datenanalyse nach Palantir-Art auch Verhaltensscanner und Live-Gesichtserkennung vorgesehen. Heute findet eine Anhörung im Innenausschuss zu dem massiven Überwachungsausbau statt.

Niedersachsen will der Polizei Datenanalyse nach Palantir-Art erlauben. Sie soll künftig Informationen zu verschiedenen Fällen verknüpfen und mit sogenannter KI aufbereiten können. In die Analyse dürfte auch einfließen, wer mit wem wann von wo aus kommuniziert. Außerdem der Inhalt von beschlagnahmten oder mit Staatstrojanern infizierten Telefonen sowie Audio- und Video-Material, das heimlich in Wohnungen aufgenommen wurde.

Die entsprechende Novelle des niedersächsischen Polizeigesetzes beinhaltet noch weitere tief invasive Überwachungsbefugnisse. Sie würde die polizeiliche Kontrolle in dem Bundesland drastisch verschärfen. Heute findet dazu eine Anhörung im Innenausschuss des Landtages statt.

Die Regierungskoalition aus SPD und Grünen hat dabei so ziemlich alles auf dem Wunschzettel, was nach futuristischer Polizeiarbeit klingt. Neben den Datenanalysen beispielsweise auch Live-Gesichtserkennung wie sie derzeit in Frankfurt am Main erprobt wird, oder den Verhaltensscanner, den Mannheim und Hamburg gerade trainieren. Zudem im Gesetz enthalten: der Abgleich biometrischer Daten wie Gesichtsbilder oder Stimmproben mit öffentlich zugänglichen Informationen aus dem Internet.

Unausgereifte Überwachungsmaßnahmen

Bislang wird eine derartige Gesichtersuchmaschine noch von keiner deutschen Behörde eingesetzt, wohl auch, weil der EU-AI-Act die dafür nötige Datenbank eigentlich verbietet. Auch der Verhaltensscanner ist noch nicht ausgereift. Die Mannheimer Polizei kann keinen einzigen Fall nennen, in dem er zu einem Ermittlungserfolg führte. Und die Frankfurter Gesichtserkennung hat bislang scheinbar nur einen anekdotischen Erfolg abgeworfen.

Niedersachsen will die Tools dennoch erlauben. Die Stadt Delmenhorst hat bereits angekündigt, KI-gestützte Videoüberwachung einführen zu wollen.

Laut Gesetzentwurf ist es auch nicht ausgeschlossen, die drei unterschiedlichen Systeme zusammenzuführen: Demnach ist es möglich, dass in Niedersachsen bald eine sogenannte KI die Bilder von Überwachungskameras in Echtzeit daraufhin untersucht, ob gerade eine mutmaßliche Straftat zu sehen ist, beispielsweise Körperverletzung oder ein Drogendeal. Wird eine vermutete Straftat gesichtet, könnte eine Software daraufhin die tatverdächtige Person identifizieren. Und zwar nicht nur mit Hilfe von Polizeidatenbanken, sondern auch anhand von Bildern oder Videos, die Menschen ins Netz gestellt haben, beispielsweise auf eine Social-Media-Plattform oder eine Nachrichtenseite.

Das in der Polizeigesetznovelle beschriebene multiple KI-System ermöglicht eine Strafverfolgung, die Polizeibeamt*innen eigentlich nur noch für die Festnahme braucht. Es gewährt der Technologie extremen Einfluss auf die Schicksale von Menschen. Betroffen von dem massiven Grundrechtseingriff, der damit einhergeht, sind nicht nur mutmaßliche Täter*innen, sondern alle Passant*innen, weil die KI alle Bewegungen und alle Gesichter analysiert, um die von der Polizei gesuchten herauszufiltern.

Die Hürden sind niedrig

Die Hürden für eine Videoüberwachung und darauf aufbauende KI-Systeme sind in Niedersachsen bereits heute relativ niedrig. Dass Kameras dauerhaft öffentlich zugängliche Straßen und Plätze filmen, ist dann erlaubt, wenn in einem Areal wiederholt Straftaten oder „nicht geringfügige Ordnungswidrigkeiten“ begangen werden. Das heißt, es braucht nicht wie in anderen Bundesländern eine hohe Kriminalitätsbelastung, sondern es reicht theoretisch, wenn dort wenige Fälle erfasst werden, damit ein Areal dauerhaft videoüberwacht werden kann. Bei der Videoüberwachung von Veranstaltungen reicht schon die Prognose möglicher Straftaten zur Legitimation.

Mit der Live-Gesichtserkennung dürfte die Polizei dem Gesetzentwurf zufolge nicht nur nach Straftätern fahnden, sondern auch nach Menschen, bei denen die Polizei annimmt, dass sie die körperliche Unversehrtheit anderer gefährden könnten. Zudem darf das System auch auf vermisste Personen sowie Opfer von sexueller Ausbeutung, Entführung oder Menschenhandel angesetzt werden. Normalerweise muss die Polizei jedes Mal einen Richter fragen, ob sie eine bestimmte Person zur automatisierten Fahndung ausschreiben darf, bei „Gefahr im Verzug“ allerdings nicht.

Der Verhaltensscanner dürfte derweil nicht nur Straftaten erkennen, sondern auch Muster, die auf Unglücksfälle hindeuten. Der Gesetzentwurf erlaubt also automatisierte Warnhinweise, wenn im Bild jemand liegt. Damit werden obdachlose Menschen einem erhöhten, diskriminierenden Überwachungsdruck ausgesetzt.

Verhaltens-Erkennung von der Drohne aus

Die Drastik des Polizeigesetz-Entwurfs wird noch dadurch erhöht, dass die Polizei demnach nicht nur stationäre Überwachungskameras, sondern auch Drohnen zur Videoüberwachung einsetzen darf. Diese Drohnen könnten dann auch Bilder für den Verhaltensscanner und die Live-Gesichtserkennung liefern. So könnten bei Großveranstaltungen auch Überblicksaufnahmen nach verdächtigen Bewegungsabläufen und den Gesichtern von Gesuchten durchforstet werden.

Eigentlich muss auf die Überwachung – beispielsweise mit Schildern – hingewiesen werden. Bei Drohneneinsätzen dürfte das schwierig sein, wodurch wohl viele Menschen ohne ihr Wissen zu Betroffenen derartiger Überwachungsmaßnahmen würden. Drohnen soll die niedersächsische Polizei künftig auch zum Luftkampf gegen andere, „feindliche“ Drohnen einsetzen dürfen, zur Telekommunikationsüberwachung und Standortermittlung und auch, um heimlich in Wohnungen zu filmen oder diese abzuhören.

Außerdem will die Landesregierung mit dem Gesetzentwurf Systeme erlauben, die in Videobildern nach bestimmten Gegenständen wie zum Beispiel Waffen suchen. Dabei ist das Land bislang mit der Erlaubnis von Staatstrojanern, Kennzeichenscannern, IMSI-Catchern zur Lokalisierung und Zuordnung von Telefonen, Bodycams für Polizist*innen und elektronischen Fußfesseln für potentielle Terrorist*innen alles andere als schwach aufgestellt, was digitale Maßnahmen zur Einschränkung von Grund- und Freiheitsrechten angeht.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Heute wurde im Thüringer Landtag eine Novelle des Polizeigesetzes diskutiert. Sie bringt neben Verhaltensscannern auch Palantir-artige Datenanalyse, Gesichtersuchmaschine, Kennzeichenscanner und Videodrohnen.

Die Thüringer Brombeer-Koalition aus CDU, BSW und SPD will nun ebenfalls ein High-Tech-Ermittlungsarsenal für ihre Landespolizei. Eine entsprechende Novelle des Polizeigesetzes wurde heute erstmals im Landtag beraten.

Unter den zahlreichen neuen Befugnissen findet sich beispielsweise das Recht zur Nutzung eines Systems, das anhand von Videobildern illegales Verhalten automatisch erkennen soll. Mit solchen Systemen wird für gewöhnlich öffentlicher Raum überwacht, in Thüringen soll der Verhaltensscanner auch in Gefängnissen zum Einsatz kommen dürfen und dort Gefahrensituationen registrieren.

Ein Prototyp einer Verhaltensscanner-Software wird seit 2018 in Mannheim mit den Bildern oft nichts ahnender Passant*innen trainiert. Die Polizei kann keinen einzigen Fall nennen, bei dem es eine Ermittlung unterstützt hätte. Dennoch wollen immer mehr Bundesländer das System einführen. In Hamburg läuft es bereits, Baden-Württemberg und Berlin haben kürzlich die Gesetzesgrundlage dazu geschaffen, in Schleswig-Holstein und Sachsen ist eine solche geplant.

„Wir wären wie eine Insel für Kriminelle“

Der thüringische Innenminister Georg Maier, SPD, sagt zum geplanten polizeilichen KI-Einsatz: „Es wäre fatal, wenn wir als einziges Bundesland darauf verzichten würden. Wir wären wie eine Insel für Kriminelle, die hier geringeren Ermittlungsdruck spüren würden.“

Katharina König-Preuss von Die Linke sagt: „Das Problem ist, wer irgendwann in der Lage sein wird, solche Software zu nutzen.“ Sie verweist beispielhaft auf totalitäre Bestrebungen in den USA. In dem debattierten Gesetzespaket sieht sie einen „massiven Grundrechtseingriff“.

Ähnlich umstritten ist eine weitere Befugnis aus dem geplanten Thüringer Polizeigesetz: das Recht, automatisierte Datenanalysen durchzuführen, wie sie beispielsweise mit Produkten von Palantir möglich sind. Die Einführung dieser Befugnis hatte in Baden-Württemberg viele Menschen im Protest auf die Straße getrieben. In Thüringen scheint sie weniger Interesse zu erregen. Derartige automatisierte Datenanalysen werden in den USA beispielsweise dazu genutzt, um Informationen über Menschen zu sammeln, die deportiert werden sollen. In Thüringen dürfen bei Gefahr für die öffentliche Sicherheit auch Daten in die Analyse einfließen, die bei der verdeckten Überwachung von Wohnraum oder Privatgeräten zusammengetragen wurden.

Ausschluss des Marktführers

Thüringens Innenminister Maier stellt in der Debatte klar, dass er keine Produkte des verrufenen Software-Herstellers Palantir für derartige Big-Data-Analysen nutzen möchte. Eine andere Firma soll dabei zum Zuge kommen. „Eine wie auch immer geartete Zusammenarbeit mit der US-amerikanischen Firma Palantir wird es mit mir nicht geben“, sagt er.

Die Novelle des Polizeigesetzes soll den Thüringer Beamt*innen noch weitere datenschutzrechtlich problematische Befugnisse bringen. So sollen beispielsweise Personen, die vom Verhaltensscanner bei einer Straftat ertappt werden, automatisch über mehrere Kameras hinweg verfolgt werden können.

Außerdem soll der Gesetzentwurf den Aufbau einer Gesichtersuchmaschine ermöglichen, die mit frei zugänglichen Bildern aus dem Internet gefüttert wird. Dabei verbietet der AI-Act der EU das Anlegen von Datenbanken, die ungezielt Gesichtsbilder aus dem Internet auslesen. Nach dem Gesetzentwurf dürfte die Polizei auch Stimmen-Samples aus dem Netz extrahieren, um diese automatisiert mit anderen Stimmproben zu vergleichen.

Drohnen, die Handys jagen

Auch den Einsatz von Kennzeichenscannern ermöglicht der Gesetzentwurf. Damit dürften von Fahrzeugen, die zur Kontrolle ausgeschrieben sind, sogar Bewegungsprofile erstellt werden.

Ein weiteres Spielzeug, das das thüringische Innenministerium den Polizist*innen des Bundeslandes zur Verfügung stellen möchte, sind Videodrohnen, die zum Beispiel bei öffentlichen Veranstaltungen eingesetzt werden sollen. Außerdem könnten dem Gesetz nach Drohnen die Funktion eines IMSI-Catchers übernehmen und Standorte sowie Geräte- und Kartennummern von Mobiltelefonen ermitteln. Derartige Standortabfragen sollen künftig auch bei Mobiltelefonen erlaubt sein, deren Besitzer*innen nicht kriminell sind, sondern als vermisst gemeldet wurden.

Elektronische Fußfesseln sollen dem Gesetz nach nicht nur gegen Sexualstraftäter eingesetzt werden, sondern beispielsweise auch bei Menschen, die „eine Gefahr für Anlagen mit unmittelbarer Bedeutung für das Gemeinwesen“ darstellen. Demnach könnten die Tracker wohl theoretisch auch Menschen angelegt werden, die planen, eine Straße zu blockieren.

Zudem erlaubt das geplante Polizeigesetz den Einsatz von Distanzelektroimpulsgeräten, auch Taser genannt. Die werden oft gegen Menschen in psychischen Ausnahmesituationen genutzt und führen immer wieder zu Todesfällen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Heute wurde in Berlin eine Novelle des Polizeigesetzes verabschiedet. Sie erlaubt so ziemlich alles, was an digitaler Überwachung möglich ist: Verhaltensscanner, Gesichtersuche, Palantir-artige Datenanalysen, Staatstrojaner. Ein Kommentar.

Die Schulen sind marode, die Wohnungen knapp und die Brücken brechen bald zusammen. Um Berlin steht es lausig. Doch statt diese täglich spürbaren Probleme anzugehen, wirft die Berliner Landesregierung ohne Not die legendäre freiheitlich orientierte Ausrichtung der Stadt auf den Müll.

Es wirkt wie hektischer Aktionismus, was die schwarz-rote Koalition sich da ins Polizeigesetz zusammenkopiert hat. Als wolle man anderen Bundesländern, die derartige Maßnahmen bereits erlaubt haben, in nichts nachstehen. Heute hat Berlin eine Sicherheitsarchitektur aufgesetzt, die in dieser Stadt lange undenkbar war. Es ist ein Tabubruch, eine Zeitenwende, was da im Abgeordnetenhaus beschlossen wurde.

Bislang durfte die Berliner Polizei den öffentlichen Raum nicht dauerhaft überwachen – und jetzt sollen in manchen Gebieten nicht nur Kameras aufgestellt, sondern diese auch gleich noch an sogenannte Künstliche Intelligenzen angeschlossen werden. Auch Videoüberwachung mit Drohnen ist für die Berliner Polizei künftig explizit erlaubt.

Verhaltensscanner und Gesichtersuchmaschine

Die geplante Kamera-KI soll automatisch erkennen, was die Überwachten gerade tun. Diese Verhaltensscanner werden aktuell in Mannheim und in Hamburg getestet und sind noch weit von einem sinnvollen Praxiseinsatz entfernt. Die Begehrlichkeiten von sicherheitsfanatischen Politiker*innen haben sie anscheinend bereits geweckt.

Die ersten dieser Kameras werden wohl im und um den Görlitzer Park errichtet. Dieses beliebte Erholungsgebiet, in dem traditionell auch Rauschmittel gehandelt werden, hat von Berlins Ober-Sheriff Kai Wegner, CDU, bereits einen Zaun spendiert bekommen, es ist künftig nur noch tagsüber geöffnet. Sollte die Kamera-KI dann dort jemanden erkennen, der jemand anderem etwas zusteckt, folgt vermutlich der Zugriff durch die Polizei. Auch wenn es sich bei dem klandestin übergebenen Objekt um beispielsweise Verhütungs- oder Hygieneartikel handeln sollte. Das Gefühl von Freiheit, das auch von diesem Park aus einst den Ruhm Berlins begründete, vertrocknet unter dem starren Blick der „intelligenten“ Kameras.

Entdeckt die Berliner Polizei auf den Videobildern einen Menschen, den sie gerne näher begutachten möchte, kann sie künftig zudem das Internet nach Bildern durchsuchen, die dem Menschen ähnlich sind, um ihn zu identifizieren oder mehr über ihn zu erfahren. Dafür muss die Person nicht einmal einer Straftat oder deren Vorbereitung verdächtig sein, es reicht, Kontakt mit jemandem zu haben, der verdächtig ist.

Big-Data-Analyse und Staatstrojaner

Die Informationen, wer mit wem hantierte und welches Insta-Profil zu welchem Gesicht gehört, darf in einer Superdatenbank mit Bewegungsprofilen, Verhaltensmustern und Sozialkontaktanalysen gespeichert werden. Mit den dort beinhalteten Bildern, Videos und anderen personenbezogenen Daten kann dann auch eine kommerzielle KI trainiert werden, wie sie beispielsweise Palantir verkauft.

Und wenn sich eine verdächtige Person besonders undurchsichtig zeigt, gibt es in Berlin künftig immer noch die Möglichkeit, per Staatstrojaner ihren Telefonspeicher und die laufende Kommunikation auszulesen. Um solche Schadsoftware zu installieren, darf die Berliner Polizei dann auch heimlich in Wohnungen einbrechen.

Halleluja. Schöne neue Welt.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.