Gerade werden deutschlandweit Polizeigesetze hart verschärft. Kollege KI zieht ein, die Überwachung ist künftig automatisiert. Dagegen stellt sich eine Demo am Samstag in Berlin. Im Interview erzählen zwei Mitorganisatoren, warum sich die Teilnahme lohnt.
Kämpfen gegen KI-gestützte Überwachung: Sebastian Marg und Tom Jennissen von der Digitalen Gesellschaft. – CC-BY 4.0: Jan Fels
Im Bund und in den Ländern wird gerade massiv KI-gestützte Überwachungsinfrastruktur aufgebaut. Doch es formiert sich zivilgesellschaftlicher Widerstand. Tom Jennissen und Sebastian Marg arbeiten für die Digitale Gesellschaft, einen der Bündnispartner der Initiative „Sicherheit ohne Überwachung“. Gemeinsam mit beispielsweise der Roten Hilfe und dem Komitee für Grundrechte und Demokratie veranstalten sie am Samstag in Berlin (ab 14 Uhr Warschauer Straße/Marchlewskistraße) eine Demonstration gegen den Ausbau der Polizei-Befugnisse. Im Interview erzählen Jennissen und Marg, wogegen sich die Demonstration konkret wendet, warum uns das alle angeht und ob sich Widerstand überhaupt noch lohnt.
netzpolitik.org: Laut Initiativen-Website wehrt ihr euch gegen die „ausufernden Überwachungsbefugnisse“. Was ist damit gemeint?
Jennissen: Der konkrete Anlass ist das Sicherheitspaket 2.0. Das soll dem BKA, der Bundespolizei, der Staatsanwaltschaft, dem Zoll, sowie dem BAMF umfangreiche neue digitale Befugnisse zuweisen. Dazu gehören der biometrische Abgleich mit Daten aus dem Internet und die umfassende Datenanalyse, also der Einsatz einer Software, wie sie Palantir anbietet. Dazu müssten gigantische Referenzdatenbanken erstellt werden. Außerdem sollen personenbezogene Daten auch zum Training von KIs verwendet werden.
Es ist ein frontaler Angriff auf die Grundrechte, zusammen gedacht so etwas wie die Atombombe unter den Ermittlungsmaßnahmen. Der Bundesrat will dennoch noch weiter gehen und dazu auch noch Echtzeit-Fernidentifizierung mit reinnehmen. Und parallel durchläuft ja gerade das Gesetz zur IP-Vorratsdatenspeicherung das Parlament.
„Das Aus für die Anonymität“
Marg: Dazu kommen die Polizeigesetznovellen in den Ländern, mit denen gerade ebenfalls massiv digitale Überwachungsbefugnisse ausgebaut werden. Einige sind schon durch, andere noch in Arbeit.
netzpolitik.org: Und warum ist das ein Problem?
Jennissen: Weil das extrem invasive Maßnahmen sind. Sollte denen tatsächlich erlaubt werden, das gesamte Internet als Fahndungsdatenbank zu verwenden, dann wäre das das Aus für die Anonymität. Dann kann man sich nicht mehr im öffentlichen Raum bewegen, ohne Gefahr zu laufen, auf einem Foto zu landen, das von der Polizei als Fahndungsmittel genutzt wird. Das ist krass dystopisch.
Und bei der automatisierten Datenanalyse sollen sämtliche Daten zusammengeführt werden. Darunter Daten aus Asservaten beispielsweise, den rund 500.000 Mobiltelefonen, die die Polizei aus irgendwelchen Gründen mal einkassiert hat.
„Eine Chance, das zu verhindern“
netzpolitik.org: Und warum begehrt ihr jetzt dagegen auf – bringt das was?
Jennissen: Es ist nicht so, dass zivilgesellschaftlicher Widerstand nichts bringen würde. Wir haben zum Beispiel im Jahr 2020 die Vorratsdatenspeicherung weitgehend verhindern können. Der neue Anlauf jetzt ist schon deutlich abgespeckt im Vergleich zu dem, der vor 20 Jahren auf dem Tisch lag. Zum Teil werden die Überwachungsmaßnahmen auch von Gerichten kassiert, und die hätten vielleicht anders geurteilt, wenn es den Widerstand, die Aufmerksamkeit nicht gegeben hätte.
Wir wollen eine Diskussion zum Thema in Gang bringen. Bislang werden vor allem die Pressemitteilungen der Bundesregierung abgeschrieben. Welchen Sinn die Maßnahmen haben und welche Ausmaße, darüber gibt es noch keine gesellschaftliche Diskussion. Wenn es mal ein Bewusstsein dafür gibt, was da auf uns zukommt, dann gibt es auch eine Chance, das zu verhindern. Und wenn wir es nicht verhindern können, müssen die Gerichte später zumindest nicht im luftleeren Raum darüber entscheiden.
netzpolitik.org: Ist die Demo in Berlin, weil hier die Bundesregierung sitzt, oder spielt es auch eine Rolle, was in Berlin als Bundesland gerade passiert?
„Die Kämpfe aus verschiedenen Bundesländern zusammenführen“
Jennissen: In Berlin gab es im vergangenen Jahr ein in ziemlich großer Eile durchgepeitschtes neues Sicherheitsgesetz. Da stehen viele neue Befugnisse drin. KI-gestützte Videoüberwachung zum Beispiel. Das wird auf jeden Fall thematisiert. Unsere Vernetzung soll die Kämpfe aus verschiedenen Bundesländern zusammenführen.
netzpolitik.org: Habt ihr Hoffnung, die Welle aufzuhalten?
Jennissen: Ob diese Bundesregierung noch umzustimmen ist, das wird sich zeigen. Realistisch ist, dass wir einige Spitzen rausnehmen. Aber mittelfristig glaube ich schon, dass wir die Welle brechen können.
netzpolitik.org: Die Vernetzung läuft unter dem Slogan „Sicherheit ohne Überwachung“. Wie wollt ihr denn dann Sicherheit herstellen?
Marg: Wir verwenden einen Sicherheitsbegriff, der Sicherheit von der sozialen Perspektive aus denkt. Es geht um die Sicherheit von Wohnraum oder gesellschaftlicher Teilhabe beispielsweise.
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
Grün-Schwarz will in Baden-Württemberg als erstem Bundesland doppelte KI-Videoüberwachung ausrollen: Kameras, die Menschen auf verdächtiges Verhalten überprüfen und sie gleichzeitig mit Gesichtserkennung analysieren. In Mannheim und zwei weiteren Städten soll das Pilotprojekt starten.
Die "intelligente" Videoüberwachung in Mannheim soll ausgeweitet werden.
Gestern haben Cem Özdemir und Manuel Hagel den grün-schwarzen Koalitionsvertrag für Baden-Württemberg vorgestellt. Hier sollen demnach erstmals in Deutschland Kameras eingesetzt werden, die sowohl das Verhalten der Abgebildeten analysieren und bewerten, als auch deren Gesichter vermessen, um per Gesichtserkennung herauszufinden, ob sie von polizeilichem Interesse sind.
Die Verhaltenskontrolle wird bereits seit acht Jahren in Mannheim trainiert. Das Modellprojekt soll nun räumlich ausgeweitet werden, auf zwei weitere, bislang ungenannte Städte. Auch der Umfang wird erweitert, denn zusätzlich zur Verhaltenserkennungs-Technologie sollen künftig auch Objekte und Gesichter von den Kameras erkannt werden.
Live-Gesichtserkennung läuft in Deutschland bislang nur in Frankfurt am Main hinter öffentlichen Überwachungskameras. Die Software vermisst jedes Gesicht im Erfassungsbereich und schlägt Alarm, sobald es einem gesuchten Gesicht sehr ähnlich ist. Gesucht wird damit nach Terrorist*innen, nach vermissten Menschen, nach Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung. Analysiert und mit den Polizeidatenbanken abgeglichen wird aber jedes Gesicht, das die Kameras aufnehmen.
Zusätzlich zur Echtzeit-Fernidentifizierung wollen Grüne und CDU der Polizei in Baden-Württemberg auch die Suche nach bestimmten Gesichtern im Internet erlauben. Auf Bundesebene gibt es aktuell ebenfalls Bestrebungen, das Tool einzuführen. Damit können Beamt*innen beispielsweise Menschen auf Social Media finden, etwa auf Bildern, die Vereine oder Arbeitgeber ins Netz stellen. Selbst auf Totalaufnahmen von Großveranstaltungen könnten Personen gefunden werden. Wenn die Verhaltensanalyse in einer der Pilotstädte eine Straftat detektiert, kann damit theoretisch auch die tatverdächtige Person retrograd identifiziert werden.
„Schonung der Grundrechte“
Für die Echtzeit-Fernidentifizierung und die Gesichtersuchmaschine muss die Koalition das Polizeigesetz von Baden-Württemberg ändern. Dabei hatte Grün-Schwarz das erst Ende vergangenen Jahres getan. Damals hatte die Landesregierung der Polizei Datenanalyse nach Palantir-Art erlaubt, die diese ohnehin schon lange betrieb. Außerdem genehmigten die alten und neuen Koalitionspartner der Polizei auch das KI-Training mit den persönlichen Daten von Bürger*innen sowie die Weitergabe dieser an externe Stellen.
Nun soll also eine neue Polizeigesetznovelle kommen, die auch Echtzeit-Fernidentifizierung ermöglicht. Niedersachsen, Sachsen und Schleswig-Holstein sind ebenfalls daran, Gesetzesgrundlagen dafür einzuführen. Die Technologie ist in Sicherheitsbehörden ziemlich beliebt, genauso wie der Verhaltensscanner, der in Mannheim trainiert wird. Vergangenes Jahr hat ihn Hamburg übernommen, Berlin folgt wohl als nächstes, Hessen, Niedersachsen, Sachsen, Schleswig-Holstein und Thüringen haben bereits Rechtsgrundlagen dafür oder arbeiten daran.
Bislang hat sich noch niemand getraut, beide Technologien auf einmal einzusetzen. Die Datenschutzbedenken sind bei beiden allein schon sehr hoch. In Baden-Württemberg gibt es nun aber scheinbar keine Scheu mehr. „KI-Videoschutz kann für mehr Sicherheit bei gleichzeitiger Schonung der Grundrechte sorgen“, schreiben Grüne und CDU in ihrem Koalitionsvertrag.
Dass es bei den drei Standorten bleibt, an denen die Koalition die multiple KI-Überwachung pilotieren will, ist vermutlich eher unrealistisch. Bereits vor der Wahl hatten sich Özdemir und Hagel dazu bekannt, den Einsatz von Videoüberwachungskameras entgrenzen zu wollen. Für den Einsatz soll keine erhöhte Kriminalitätsbelastung mehr nötig sein, die Kommunen sollen freihändig darüber entscheiden.
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
Heute haben die Abgeordneten im Landtag von Schleswig-Holstein erstmals eine Novelle des Polizeigesetzes diskutiert. Es geht um Verhaltensscanner und Gesichtserkennung. Expert*innen zweifeln, ob das Gesetz verfassungsgemäß ist; die Opposition warnt vor einer Dystopie.
Mit dem neuen Polizeigesetz dürften fast überall Kameras installiert – und mit KI-Überwachung ausgerüstet werden. – Gemeinfrei-ähnlich freigegeben durch unsplash.com: Leuchtturm: Frank Weichelt, Kameras: Scott Webb, Collage: netzpolitik.org
Erstmals haben die Abgeordneten den Gesetzentwurf heute erstmals im Landtag diskutiert, danach wurde an den Innenausschuss überwiesen. Während Kritiker*innen schwere verfassungsrechtliche Bedenken haben, bleibt die Landesregierung bei ihrem Hardlinerkurs.
CDU-Innenministerin Magdalena Finke sagte: „Jede einzelne Maßnahme wurde mit größter Sorgfalt abgewogen.“ Für die Datenanalyse wolle man keine Palantir-Produkte verwenden, sondern gemeinsam mit NRW im Juni eine Ausschreibung veröffentlichen. Am liebsten wäre ihr ein europäisches Produkt.
Koalitionspartner Jan Kürschner, Grüne, unterstützt die Hightech-Überwachungspläne der Konservativen. Für die Datenanalyse bringt er einen Anbieter aus Schleswig-Holstein ins Spiel und empfiehlt, das entsprechende Rundum-Überwachungs-Tool unter einer Open-Source-Lizenz zu entwickeln.
Schleswig-Holstein werde immer sicherer, konstatiert Birte Glißmann von der CDU. Weil aber das subjektive Sicherheitsgefühl einiger Menschen unzureichend sei, sei auch sie pro Überwachungsausbau. Sie lobt unter anderem die „intelligente“ Videoüberwachung: Damit ließen sich „Auffällige Verhaltensmuster erkennen, um gleich eine Gegenmaßnahme in Gang setzen zu können.“
Der Abgeordnete Niclas Dürbrook von der SPD ist der erste Kritiker, der das Wort erteilt bekommt. Er nennt das Gesetz „ein Paket, von dem wesentliche Teile vor nicht allzu vielen Jahren wie aus einem dystopischen Science-Fiction-Film gewirkt hätten.“
Bernd Buchholz von der FDP sagt „Ich habe ein beklemmendes Gefühl wenn eine biometrische Fernidentifizierung in diesem Land möglich wird. Ich möchte mich nicht in einem Land bewegen, in dem ich mich nicht unkontrolliert bewegen kann.“ Sybilla Witsch vom SSW sieht einen tiefen Eingriff in das Recht auf informationelle Selbstbestimmung und kritisiert, dass in Schleswig-Holstein Menschen künftig bis zu acht Wochen in Haft genommen werden sollen, um Ordnungswidrigkeiten zu verhindern.
Eingriffe mit „großer Streubreite“
Ernste Kritik kam auch von Expert*innen im Vorfeld der Debatte im Parlament. Viele sehen im Entwurf verfassungsrechtliche Probleme, auch wenn die Regierung kleinere Aspekte angepasst hat. Das Unabhängige Landeszentrum für Datenschutz Schleswig-Holstein (ULD) unter der Datenschutzbeauftragten Marit Hansen warnt etwa in einer Stellungnahme vor „weitreichenden Grundrechtseingriffen mit großer Streubreite“.
Zur Begründung der Novelle des Polizeigesetzes schreibt die Regierung im Gesetzentwurf: Es gebe mehr Angriffe mit Messern. Allerdings werde laut ULD nicht deutlich, „wie die geplanten Maßnahmen zur Eindämmung von Messerangriffen oder anderen ähnlich schwerwiegender Kriminalitätsphänomenen beitragen können“.
Zudem bleibe „die Darlegung der fachlichen Eignung und Erforderlichkeit der geplanten Maßnahmen abstrakt.“ Insbesondere gelte das für zwei besonders schwerwiegende Eingriffsbefugnisse: Fernidentifizierung von Menschen in Echtzeit und automatisierte Datenanalyse. Die verfassungsrechtliche Verhältnismäßigkeit sei schwer nachvollziehbar. Einfach ausgedrückt: Möglicherweise darf der Staat diese Dinge nicht tun.
Videoüberwachung sei mit dem neuen Gesetz an mehr Orten möglich als zuvor; zugleich wiege der Eingriff durch automatisierte Gesichts- und Verhaltenserkennung schwerer. Das führe „zu einer deutlichen Ausweitung und Vertiefung von Grundrechtseingriffen.“
Kameras schon bei „erwarteten“ Ordnungswidrigkeiten
Schon heute darf öffentlicher Raum in Schleswig-Holstein gefilmt werden, und zwar dann, wenn an einem Kriminalitätsschwerpunkt zum Beispiel Gefahr für Leib, Leben oder Freiheit droht. Künftig soll Videoüberwachung jedoch schon erlaubt sein, wenn eine wie auch immer geartete Gefahr für die öffentliche Sicherheit existiert. Das ULD kritisiert:
Angesichts der großen Anzahl betroffener Personen bei der Videoüberwachung im öffentlichen Raum ist es fraglich, ob die Eingriffsvoraussetzungen verhältnismäßig sind. Zur Wahrung der Verhältnismäßigkeit sollte die Befugnis auf Gefahren für besonders gewichtige Rechtsgüter beschränkt werden.
Das Gesetz soll Videoüberwachung sogar an Orten erlauben, an denen die Polizei lediglich Ordnungswidrigkeiten von „erheblicher Bedeutung“ erwartet. Der ULD fördert höhere Schwellen „im Hinblick auf die Schwere und auf die Häufigkeit von Straftaten oder Ordnungswidrigkeiten“.
Ähnliche Kritik an der Novelle kommt von Florian Becker, Direktor des Instituts für Öffentliches Wirtschaftsrecht an der Christian-Albrechts-Universität zu Kiel. In seiner Stellungnahme warnt er vor einer „deutlichen Absenkung der Eingriffsvoraussetzungen“ und breiter Anwendung offener Videoüberwachung. Die juristische Vereinfachung von Videoaufzeichnungen führe auf „datenschutzrechtlich sensibles Territorium“. Die automatisierte Verhaltensanalyse würde zudem die Eingriffswirkung der Videoüberwachung erheblich verstärken, „weil sie die Beobachtungskapazität der Polizei technisch vervielfacht und verdächtige Situationen automatisiert markiert.“
Externe Angestellte könnten Aufnahmen sichten
Laut Gesetz müssten nicht einmal Beamt*innen die von der Software ausgelösten Alarme prüfen – das könnten auch private Dienstleister tun, also Angestellte eines Unternehmens. Becker fordert deshalb eine Beschränkung des Zugriffs auf qualifizierte Beamte oder polizeilich ausgebildetes Personal. Und bevor die Polizei einen Ort überwacht, sollte sie förmlich feststellen, dass er gefährlich ist.
Bei der Massen-Datenanalyse nach Palantir-Art unterscheidet das schleswig-holsteinische Gesetz zwei Varianten – eine mit hohem und eine mit reduziertem Eingriffsgewicht. Bei der als harmloser beschriebenen Datenanalyse gibt es etwas weniger Datenquellen. Einfließen dürfen zum Beispiel personenbezogene Daten aus verschiedenen Polizeisystemen, etwa zur Bearbeitung von Fällen. Hinzu kommen Datensätze aus gezielten Abfragen staatlicher Register sowie einzelne gesondert gespeicherte Datensätze aus dem Internet.
Das ULD sieht das mit Sorge: „Es ist zweifelhaft, ob damit eine nennenswerte Reduzierung der Datenmenge und des Eingriffsgewichts erreicht wird. Denn die genannten Datenquellen dürften bereits nahezu die gesamten tatsächlich vorhandenen Daten umfassen.“
Selbst Daten von Zeug*innen sollen einfließen
In die Datenanalyse mit hohem Eingriffsgewicht können zusätzlich Daten aus Wohnraumüberwachungen und Online-Durchsuchungen fließen, außerdem unbeschränkt Verkehrsdaten aus Funkzellenabfragen. Da Maßnahmen der Wohnraumüberwachung und Online-Durchsuchung äußerst selten angewandt werden, unterscheiden sich die Befugnisse somit kaum, erklärt das ULD.
Besonders kritisiert das ULD, dass die Polizei auch Daten von Anzeigenden, Geschädigten, Zeug*innen oder Hinweisgebenden einbeziehen will. Die Datenschützer*innen warnen: „Nach der Rechtsprechung des Bundesverfassungsgerichts liegt ein schwerer Eingriff in das Recht auf informationelle Selbstbestimmung vor, wenn unter anderem Personen vermehrt dem Risiko gegen sie gerichteter polizeilicher Ermittlungsmaßnahmen ausgesetzt werden, die objektiv nicht zurechenbar in das relevante Geschehen verfangen sind.“
Selbst Daten zu Bagatelldelikten und Ordnungswidrigkeiten sollen einfließen, zudem alle Einsatzberichte der Polizei, auch wenn es in dem Einsatz beispielsweise nur um Ruhestörung ging oder eine vermisste Person. „Dies dürfte eine große Anzahl von Personen betreffen“, schreibt das ULD. „Es ist daher zweifelhaft, ob die vorgesehenen Schwellen für die Analyse dieser Daten verhältnismäßig sind.“ Das ULD fordert deshalb: Die Maßnahmen sollten eine Frist bekommen, und die Regierung solle sie vor einer Verlängerung prüfen.
Was hat das mit Messern zu tun?
Auch der Landesverband Frauenberatung Schleswig-Holstein (LFSH) erinnert in seiner Stellungnahme daran, dass das Gesetz Messerkriminalität bekämpfen solle. In diesem Kontext sei es auffällig, dass die automatisierte Datenanalyse auch für Schutz von Eigentum oder Vermögenswerten angewendet werden kann, wenn „gewerbsmäßig oder bandenmäßig begangene Schädigung“ droht.
„Der Zusammenhang zwischen Schutz von Eigentum und Vermögenswerten und der eingangs benannten Messerkriminalität oder Straftaten gegen Leben, Leib, Freiheit oder die sexuelle Selbstbestimmung erschließt sich uns nicht. Hier sehen wir die Verhältnismäßigkeit der Maßnahmen als nicht gegeben an“, schreibt der LFSH.
Wie in Frankfurt am Main soll die Polizei in Schleswig-Holstein künftig per Live-Gesichtserkennung nicht nur nach Gefährdern suchen dürfen, sondern auch nach gefährdeten Personen – etwa Menschen, deren sexuelle Selbstbestimmung bedroht ist. „Aus unserer Sicht ergibt sich hieraus kein Nutzen für unsere Klient*innen“, schreibt der LFSH, der von Gewalt betroffene Frauen berät. Ein Nutzen zur Verhinderung von Messerkriminalität sei ebenfalls nicht ersichtlich.
Der LFSH wehrt sich auch gegen eine geplante Regel zu elektronischen Fußfesseln. Die mit diesen Geräten erlangten Daten dürfen nämlich demnach „zur Vorbereitung und Durchführung einer Abschiebung der überwachten Person“ genutzt werden – wenn diese bestimmter Straftaten verdächtigt wird. „Unseres Wissens nach gilt die Unschuldsvermutung unabhängig vom Aufenthaltsstatus“, schreibt der LFSH.
Anonymität kann verschwinden
Dirk Heckmann forscht an der Technischen Universität München zu Datenschutzrecht und verweist auf eine Einschätzung des Europäischen Datenschutzausschusses (EDSA). Demnach sei biometrische Fernidentifizierung in öffentlichen Räumen eine Form der Massenüberwachung und damit Demokratien grundsätzlich fremd. „Andere in der wissenschaftlichen Literatur charakterisieren biometrische Fernidentifizierung aufgrund der lebenslangen Beständigkeit der Merkmale als eine der eingriffsintensivsten Maßnahmen“, schreibt er weiter – die „Anonymität des Alltäglichen“ könne verschwinden. Besonders sensible biometrische Daten ließen sich leicht missbrauchen, gerade wenn private Unternehmen eine Software betreiben.
Zur Verhaltensanalyse schreibt er: „Während der Entwurf die Technik für geeignet hält, um Diskriminierungen entgegenzuwirken, lässt er außer Acht, dass zum einen die Technik selbst, zum anderen die Interaktion der Menschen mit der Technik diskriminierend sein können.“ Dazu kämen mögliche Einschüchterungseffekte und mögliche nachteilige Auswirkungen auf das freiheitlich demokratische Gemeinwesen insgesamt.
Der Abgleich von Fotos mit Bildern aus dem Internet, den Schleswig-Holstein erlauben möchte, sei, so Heckmann, „aller Wahrscheinlichkeit nach“ von der KI-Verordnung der EU verboten. Demnach dürfen nämlich keine Datenbanken aufgebaut werden, für die das Netz ungezielt ausgelesen wird. Außerdem grenze so eine Datenbank an Vorratsdatenspeicherung sehr sensibler Informationen. Er sieht ein hohes Missbrauchsrisiko.
Inzwischen gibt es auch zivilgesellschaftlichen Widerstand gegen das geplante Polizeigesetz. Eine Gruppe von Fußballfans will hierfür ein größeres Bündnis zu schmieden und bald zu einer ersten Demo aufrufen.
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
Niedersachsen folgt dem bundesweiten Trend in Richtung Sci-Fi-Überwachung. Im neuen Polizeigesetz sind neben der Datenanalyse nach Palantir-Art auch Verhaltensscanner und Live-Gesichtserkennung vorgesehen. Heute findet eine Anhörung im Innenausschuss zu dem massiven Überwachungsausbau statt.
So sieht es aus, wenn ein Verhaltensscanner analysiert, was Menschen tun. – Alle Rechte vorbehalten Polizeipräsidium Mannheim, Fraunhofer IOSB
Niedersachsen will der Polizei Datenanalyse nach Palantir-Art erlauben. Sie soll künftig Informationen zu verschiedenen Fällen verknüpfen und mit sogenannter KI aufbereiten können. In die Analyse dürfte auch einfließen, wer mit wem wann von wo aus kommuniziert. Außerdem der Inhalt von beschlagnahmten oder mit Staatstrojanern infizierten Telefonen sowie Audio- und Video-Material, das heimlich in Wohnungen aufgenommen wurde.
Die entsprechende Novelle des niedersächsischen Polizeigesetzes beinhaltet noch weitere tief invasive Überwachungsbefugnisse. Sie würde die polizeiliche Kontrolle in dem Bundesland drastisch verschärfen. Heute findet dazu eine Anhörung im Innenausschuss des Landtages statt.
Die Regierungskoalition aus SPD und Grünen hat dabei so ziemlich alles auf dem Wunschzettel, was nach futuristischer Polizeiarbeit klingt. Neben den Datenanalysen beispielsweise auch Live-Gesichtserkennung wie sie derzeit in Frankfurt am Main erprobt wird, oder den Verhaltensscanner, den Mannheim und Hamburg gerade trainieren. Zudem im Gesetz enthalten: der Abgleich biometrischer Daten wie Gesichtsbilder oder Stimmproben mit öffentlich zugänglichen Informationen aus dem Internet.
Unausgereifte Überwachungsmaßnahmen
Bislang wird eine derartige Gesichtersuchmaschine noch von keiner deutschen Behörde eingesetzt, wohl auch, weil der EU-AI-Act die dafür nötige Datenbank eigentlich verbietet. Auch der Verhaltensscanner ist noch nicht ausgereift. Die Mannheimer Polizei kann keinen einzigen Fall nennen, in dem er zu einem Ermittlungserfolg führte. Und die Frankfurter Gesichtserkennung hat bislang scheinbar nur einen anekdotischen Erfolg abgeworfen.
Niedersachsen will die Tools dennoch erlauben. Die Stadt Delmenhorst hat bereits angekündigt, KI-gestützte Videoüberwachung einführen zu wollen.
Laut Gesetzentwurf ist es auch nicht ausgeschlossen, die drei unterschiedlichen Systeme zusammenzuführen: Demnach ist es möglich, dass in Niedersachsen bald eine sogenannte KI die Bilder von Überwachungskameras in Echtzeit daraufhin untersucht, ob gerade eine mutmaßliche Straftat zu sehen ist, beispielsweise Körperverletzung oder ein Drogendeal. Wird eine vermutete Straftat gesichtet, könnte eine Software daraufhin die tatverdächtige Person identifizieren. Und zwar nicht nur mit Hilfe von Polizeidatenbanken, sondern auch anhand von Bildern oder Videos, die Menschen ins Netz gestellt haben, beispielsweise auf eine Social-Media-Plattform oder eine Nachrichtenseite.
Das in der Polizeigesetznovelle beschriebene multiple KI-System ermöglicht eine Strafverfolgung, die Polizeibeamt*innen eigentlich nur noch für die Festnahme braucht. Es gewährt der Technologie extremen Einfluss auf die Schicksale von Menschen. Betroffen von dem massiven Grundrechtseingriff, der damit einhergeht, sind nicht nur mutmaßliche Täter*innen, sondern alle Passant*innen, weil die KI alle Bewegungen und alle Gesichter analysiert, um die von der Polizei gesuchten herauszufiltern.
Die Hürden sind niedrig
Die Hürden für eine Videoüberwachung und darauf aufbauende KI-Systeme sind in Niedersachsen bereits heute relativ niedrig. Dass Kameras dauerhaft öffentlich zugängliche Straßen und Plätze filmen, ist dann erlaubt, wenn in einem Areal wiederholt Straftaten oder „nicht geringfügige Ordnungswidrigkeiten“ begangen werden. Das heißt, es braucht nicht wie in anderen Bundesländern eine hohe Kriminalitätsbelastung, sondern es reicht theoretisch, wenn dort wenige Fälle erfasst werden, damit ein Areal dauerhaft videoüberwacht werden kann. Bei der Videoüberwachung von Veranstaltungen reicht schon die Prognose möglicher Straftaten zur Legitimation.
Mit der Live-Gesichtserkennung dürfte die Polizei dem Gesetzentwurf zufolge nicht nur nach Straftätern fahnden, sondern auch nach Menschen, bei denen die Polizei annimmt, dass sie die körperliche Unversehrtheit anderer gefährden könnten. Zudem darf das System auch auf vermisste Personen sowie Opfer von sexueller Ausbeutung, Entführung oder Menschenhandel angesetzt werden. Normalerweise muss die Polizei jedes Mal einen Richter fragen, ob sie eine bestimmte Person zur automatisierten Fahndung ausschreiben darf, bei „Gefahr im Verzug“ allerdings nicht.
Der Verhaltensscanner dürfte derweil nicht nur Straftaten erkennen, sondern auch Muster, die auf Unglücksfälle hindeuten. Der Gesetzentwurf erlaubt also automatisierte Warnhinweise, wenn im Bild jemand liegt. Damit werden obdachlose Menschen einem erhöhten, diskriminierenden Überwachungsdruck ausgesetzt.
Verhaltens-Erkennung von der Drohne aus
Die Drastik des Polizeigesetz-Entwurfs wird noch dadurch erhöht, dass die Polizei demnach nicht nur stationäre Überwachungskameras, sondern auch Drohnen zur Videoüberwachung einsetzen darf. Diese Drohnen könnten dann auch Bilder für den Verhaltensscanner und die Live-Gesichtserkennung liefern. So könnten bei Großveranstaltungen auch Überblicksaufnahmen nach verdächtigen Bewegungsabläufen und den Gesichtern von Gesuchten durchforstet werden.
Eigentlich muss auf die Überwachung – beispielsweise mit Schildern – hingewiesen werden. Bei Drohneneinsätzen dürfte das schwierig sein, wodurch wohl viele Menschen ohne ihr Wissen zu Betroffenen derartiger Überwachungsmaßnahmen würden. Drohnen soll die niedersächsische Polizei künftig auch zum Luftkampf gegen andere, „feindliche“ Drohnen einsetzen dürfen, zur Telekommunikationsüberwachung und Standortermittlung und auch, um heimlich in Wohnungen zu filmen oder diese abzuhören.
Außerdem will die Landesregierung mit dem Gesetzentwurf Systeme erlauben, die in Videobildern nach bestimmten Gegenständen wie zum Beispiel Waffen suchen. Dabei ist das Land bislang mit der Erlaubnis von Staatstrojanern, Kennzeichenscannern, IMSI-Catchern zur Lokalisierung und Zuordnung von Telefonen, Bodycams für Polizist*innen und elektronischen Fußfesseln für potentielle Terrorist*innen alles andere als schwach aufgestellt, was digitale Maßnahmen zur Einschränkung von Grund- und Freiheitsrechten angeht.
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
