Sie kloppen sich nach Regieanweisungen: 2.000 Filme hat die Mannheimer Polizei bereits produziert, um eine Software zur Verhaltenserkennung zu trainieren. Künftig sollen es 10.000 Filmszenen werden, obwohl noch immer keine Belege vorliegen, was solche Software bringt. Ein Kommentar.

Es wird noch immer getestet: Seit nunmehr acht Jahren versucht die Mannheimer Polizei, eine Software dazu zu bringen, Gefahrensituationen oder unerwünschtes oder gefährliches Verhalten verlässlich zu erkennen. Sie soll automatisiert melden, wenn sich jemand im Überwachungsbereich „auffällig“ benimmt oder etwas auf eine Straftat hindeutet.

Der Mannheimer Morgen berichtet aktuell, dass mittlerweile 2.000 Filme produziert wurden, für die Polizisten Szenen auffälligen Verhaltens nachgestellt haben, um sie in die Software einzuspeisen. „In Mannheim prügeln sich Polizisten nach Drehbuch“, schreibt die Zeitung.

Doch das ist noch längst nicht das Ende der Fahnenstange. Geplant sei eine Verfünffachung der Anzahl der inszenierten Szenen, in denen sich die polizeilichen Amateur-Stuntmen gegenseitig treten oder absichtlich hinfallen. Künftig sollen es 10.000 Filme werden, zitiert die Zeitung einen Polizeioberrat.

Vielleicht sollte die Polizei ein paar Sitzplätze dazu bauen und Theaterkarten verkaufen, um die hohen Kosten für polizeiliche Fachkräfte aufzufangen, die für diese 10.000 inszenierten Show-Einlagen Kriminelle oder Hilfesuchende mimen. Die Frage, ob die Beamten wirklich nichts Besseres zu tun haben, drängt sich förmlich auf.

Hinzu kommt: Ob eine auf diese Weise von Polizisten erzeugte Szene die Dynamik einer wirklichen Schlägerei so gut simulieren kann, dass sie bei einer Softwareanalyse echter Ereignisse verlässliche Ergebnisse bringt, steht auf einem anderen Blatt. Denn Mannheim ist nicht Hollywood, Polizisten sind eben keine Stuntmen.

In „KI-Videoschutz“ umbenannt

Aber das Projekt, das in Baden-Württemberg einst „smarte Videoüberwachung“ hieß und nun euphemistisch in „KI-Videoschutz“ umbenannt wurde, läuft und läuft. Handfeste Belege über Wirksamkeit, Fehlerquoten und Verlässlichkeit der Software oder gar unabhängige Evaluationen gibt es nicht, dafür mediale Lobpreisungen der Polizei.

Das Projekt findet Nachahmer: In mehreren anderen Bundesländern versucht man sich mittlerweile auch an Verhaltenserkennungstests, etwa in Berlin oder in Hamburg, wo sich die Polizei praktischerweise selbst evaluiert.

Ergebnisse des Mannheimer Langzeit-Pilotprojekts sind bisher nicht öffentlich nachlesbar. Laut Polizei gab es jeden Tag Fehlalarme, aber mehr als die vage Angabe, dass man eine tägliche Fehlerquote „noch im unteren zweistelligen Bereich“ verbessern wolle, ist über die Ergebnisse der Software nicht zu erfahren. Ob also zehn oder zwanzig Prozent der Ergebnisse falschen Alarm liefern und ob diese Zahlen signifikant verbessert werden konnten, bleibt das Geheimnis der Projektbetreiber.

Der Mannheimer Morgen berichtet von einer Anekdote, die ein Polizist erzählt: eine erfolgreiche Detektion einer alarmierenden Situation trotz starker Verdeckung, in diesem Fall durch ein Gebüsch. Doch die Fehleranfälligkeit von Verhaltenserkennung ist typischerweise hoch, wenn Verdeckungen, stark gefüllte Orte oder auch wechselnde Lichtsituationen entstehen, wie sie in öffentlichen Räumen vorkommen. Laut Polizei habe die Software trotz Teilverdeckung angeschlagen und alarmiert. Doch war das ein Einzelfall oder konnte die Erkennungsleistung bei Verdeckungen mit den Jahren tatsächlich verbessert geworden?

Das Mannheimer Polizeipräsidium antwortet nicht auf Nachfragen von netzpolitik.org dazu, wie erfolgreich die Software bei Verdeckungen oder wechselnden Belichtungen ist. Auch die Frage, wie viele Alarme durch die Software es insgesamt im Jahr 2025 gab, bleibt unbeantwortet.

Welches auffällige Verhalten führt zu einer Alarmierung?

Mannheim hat in der Innenstadt erst 68, jetzt insgesamt 72 Kameras installiert, um fünf Gebiete zu überwachen. Auf 76 Kameras soll diese Anzahl noch anwachsen. Betroffen sind der Bahnhofsvorplatz, der Marktplatz, die Shopping-Passage der Breiten Straßen sowie der Parade- und der Alte Messplatz.

Das sind Orte mit erhöhter Kriminalitätsbelastung, vor allem durch Rauschgiftdelikte und Straßenkriminalität. Da eine anlasslose dauerhafte Videoüberwachung stark in Grundrechte von ganz unverdächtigen Passanten eingreift, braucht es eine gute Begründung und eine dezidierte Rechtsgrundlage. Weil die Grundrechtsbelastung bei einer stetigen automatisierten Verhaltenserkennung nochmals steigt, schuf der Gesetzgeber dafür eine eigene gesetzliche Regelung.

Keine Straftaten, aber Kamera-Überwachung

Heute haben 59 der Kameras eine Verbindung zu der Software, die rund um die Uhr Aktivitäten auswertet und bei Alarm an einen Video-Sachbearbeiter im Mannheimer Polizeipräsidium weiterreicht. Nach zwei Stunden werden die Beamtinnen und Beamten an den Bildschirmen ausgetauscht. Ist nach Dienstende kein Video-Sachbearbeiter zur Stelle, werden die von der Software detektierten Szenen, die einen Alarm auslösen, an einen Einsatzleiter gemeldet.

Welches auffällige Verhalten zu einer Alarmierung führt, dazu macht das Mannheimer Polizeipräsidium auf Nachfrage von netzpolitik.org keine Angaben. Die Frage nach den 17 definierten Aktivitätsmustern, die auch der Mannheimer Morgen erwähnt und die Grundlage der 10.000 Filmszenen sein dürften, bleibt unbeantwortet. Das bedürfe erst der „Abklärung“, schreibt das Polizeipräsidium auf erneute Nachfrage. Unbeantwortet bleibt auch die Frage, in welchem Zeitraum die 10.000 Szenen von den polizeilichen Schauspielern eingespielt werden sollen.

Strategischer Technologiepartner des Projekts ist das Fraunhofer IOSB (Optronik, Systemtechnik und Bildauswertung) aus Karlsruhe. Jahrelang testet die Polizei nun deren Software, um sicher zu unterscheiden, ob es sich um eine „polizeilich relevante Situation“ wie eine Rangelei oder aber um einen Tanz oder eine Umarmung handelt. Ursprünglich war der Test auf fünf Jahre angelegt, aus dem Probebetrieb kam die „Experimentalsoftware“ offenbar bis heute nicht heraus.

Von Anfang an gab es auch keine Angaben, mit welcher Zuverlässigkeit und welcher Fehlerrate die Erkennung eigentlich als erfolgreich gelten kann. Es heißt bis heute auf der Projekt-Website des IOSB, dass sich das „erst im Verlauf des Projekts erweisen“ werde. Wie viele Fehlalarme oder Falschbewertungen aktuell in dem Pilotprojekt zu verzeichnen sind, beantwortet das Mannheimer Polizeipräsidium auf Nachfrage von netzpolitik.org nicht.

Weiter schauspielernde Polizisten

Neben den Schauspielstunden für die angepeilten 10.000 Szenen ist politisch übrigens bereits der weitere Ausbau der Dauerbeobachtung abgemacht: Der Koalitionsvertrag von Grünen und CDU sieht vor, die „intelligente Videoüberwachung nach Vorbild des Mannheimer Modellprojekts“ noch auszuweiten. Man wolle zum einen „an zwei weiteren Standorten pilotieren“, als wären acht Jahre Test nicht genug.

Zum anderen plant Grün-Schwarz neben der Live-Beobachtung durch automatisierte Verhaltenserkennung nun auch die „biometrische Fernidentifikation“. Künftig sollen also Gesichter der Vorbeilaufenden gescannt und erkennungstechnisch erfasst und abgeglichen werden. Im Dauertest Mannheim wird hingegen bisher keine Gesichtserkennung verwendet. Für die geplante biometrische Auswertung muss wegen der erheblichen Grundrechtseingriffe selbstverständlich wieder eine Gesetzesgrundlage her, die noch zu schaffen wäre.

Bis dahin sollen Trupps schauspielernder Polizisten weiterhin als Kriminellen-Doubles unzählige Filme aufzeichnen, „mit Bodenmatte, uniformiertem Begleitpersonal und mehrseitigem Drehbuch mit genauen Bewegungsanweisungen“. Ob ihre Bemühungen und das Filmmaterial jedoch dazu beitragen, das erwünschte Ziel zu erreichen, nämlich die Polizei zu entlasten, ist offen.

Statt wie einst geplant 2023 soll das Projekt nun Ende 2026 bilanziert werden. Auch andere Bundesländer dürften sich für die Ergebnisse interessieren, schon weil sie gesetzliche Befugnisse für Verhaltensscanner in Landespolizeigesetzen bereits geschaffen haben oder dies vorhaben.

„Abgerechnet wird zum Schluss“, sagte der damalige Mannheimer Polizeipräsident und wollte die Software nicht voreilig loben. Doch dass auch die Öffentlichkeit diese Abrechnung bekommt und hinreichend informiert wird, bleibt bislang nur zu hoffen. Bei früheren polizeilichen Überwachungstests, etwa am Bahnhof Südkreuz, gab es im Nachgang Berichte und Zahlen, um eine öffentliche und auch wissenschaftliche Bewertung zu ermöglichen. Darauf warten Interessierte in Mannheim auch nach Jahren noch.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Bundespolizei soll an Bahnhöfen Videoüberwachungssysteme einsetzen, die Menschen identifizieren und ihr Verhalten beurteilen. Heute wurde das Gesetz vom Bundestag verabschiedet. Bald sollen weitere KI-Überwachungs-Tools kommen.

Ohne sich gründlich darauf vorbereiten oder gar Expert*innen konsultieren zu können, haben die Abgeordneten des Bundestag heute das Zeitalter der automatisierten Überwachung auf Bundesebene eingeläutet. Die massive Verschärfung des Bundespolizeigesetzes hat die schwarz-rote Koalition erst drei Tage vor der Abstimmung offenbart. Mit ihren Stimmen wurde das Gesetz auch verabschiedet. Eigentlich sollte nur eine Anpassung an die Vorgaben des Grundgesetzes beschlossen werden.

2016 hatte das Bundesverfassungsgericht wesentliche Teile des BKA-Gesetzes für verfassungswidrig erklärt. Heimliche Überwachung darf nur in engen Grenzen stattfinden, so der Tenor. Da sich viele Regelungen aus dem BKA-Gesetz auch im Bundespolizeigesetz fanden, wurde auch dessen Entschärfung notwendig. Und aus dieser Entschärfung ist nun eine Verschärfung und damit der Beginn einer neuen Ära der Kontrolle geworden.

Software soll der Polizei bei der Arbeit helfen, sie effizienter machen und Personal einsparen. Eine ganze Reihe von softwaregestützten Überwachungsbefugnissen ist gerade auf dem Weg durch den Bundestag, wurde dort diese Woche bereits in erster Lesung besprochen.

Als erstes final beschlossen wurde am heutigen Freitag das Bundespolizeigesetz: Es erlaubt Videoüberwachung, beispielsweise an Bahnhöfen, die automatisch Menschen identifiziert und Verhalten bewertet. Irene Mihalic, Grünen-Abgeordnete sagte während der Bundestagsdebatte zum Gesetz: „Mit der biometrischen Echtzeitüberwachung greift die Koalition tief in Grundrechte ein.“ Clara Bünger von der Linken sagte: „Die flächendeckende Überwachung wird für Millionen zum Normalzustand.“ Und: „Dafür bekommt der Innenminister fast eine Milliarde mehr als im Vorjahr. Eine Milliarde für Überwachung.“

Mit den kommenden Sicherheitsgesetzen soll die Bundespolizei – wie auch das BKA – zudem eine Art Internet-Suchmaschine für Gesichter und Stimmen und eine KI-gestützte Megadatenbank erhalten, die selbstständig Verdächtige definiert. Die Befugnisse aus den Sicherheitsgesetzen bilden ab, was aktuell technisch möglich ist. Sie sind aus Perspektive der Grundrechte höchst fragwürdig, denn sie setzen alle Menschen unter Generalverdacht.

Entmenschlichung der Polizeiarbeit

Es ist eine Zeitenwende. Wo bislang noch menschliche Polizist*innen uns auf Bildschirmen beobachteten oder Schlüsse aus persönlichen Daten zogen, wird künftig immer öfter Software agieren. Es ist auch: eine Entmenschlichung der Polizeiarbeit.

In zahlreichen Bundesländern wurden oder werden Gesichtersuchmaschine, Megadatenbank und KI-Kameras bereits erlaubt, doch mit der Änderung des Bundespolizeigesetzes werden die Technologien, die bislang nur vereinzelt und in Insellösungen genutzt wurden, bundesweit ausgerollt. Alexander Throm von der CDU sagte bei der finalen Bundestagsdebatte zur Einführung der KI-Kameras: „Das wird maßstabsbildend werden für die Länder der Bundesrepublik.“

Der nun verabschiedete Gesetzentwurf enthält neben der Befugnis zur automatisierten Videoanalyse auch weitere digitale Überwachungsbefugnisse, nämlich Regelungen zur Nutzung von Staatstrojanern, Drohnen, Stillen SMS, IMSI-Catchern, Fluggastdaten-Erhebung und Kennzeichenscannern.

Die KI-Überwachung ist ein Projekt aus Ampel-Zeiten. Es wurde vom Scheitern der Koalition gestoppt, jetzt versucht Schwarz-Rot, es zu vollenden. Doch es kann noch verhindert werden. 2021 hat der Bundesrat eine vorhergehende Fassung des Gesetzes abgelehnt, auch dieses Mal muss er seine Zustimmung geben.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der Bremer ÖPNV plant KI-gestützte Videoüberwachung in allen Trams und Bussen. Auch die Polizei hat schon ein Auge auf die Technologie geworfen. Zunächst soll ihr aber heimliches Filmen mit Kameradrohnen erlaubt werden.

In Bremen läuft in 14 Tram-Bahnen KI-gestützte Videoüberwachung, ab April soll das System auf die übrigen Bahnen und Busse ausgerollt werden. Das haben die Verkehrsbetriebe (BSAG) vergangene Woche im Rahmen einer Projektvorstellung bekannt gemacht. Das System versucht zu erkennen, wie die abgebildeten Menschen handeln, um so aggressives Verhalten zu detektieren.

80 Prozent der Kosten von 10.000 Euro je Bahn zahlt das Bundesverkehrsministerium, das hier offenbar ein Leuchtturmprojekt sieht. Laut der Verkehrsbetriebe ist Bremen damit das erste Bundesland mit KI-Überwachung im öffentlichen Nahverkehr. Die Bremer Polizei hat ebenfalls Interesse an der Technologie angemeldet, die sie im öffentlichen Raum einsetzen möchte. Zahlreiche Bundesländer bohren dafür gerade ihre Polizeigesetze auf.

Die für die KI-Analyse nötige Videoüberwachung stünde in Bremen bereit. An 40 Standorten wird der öffentliche Raum mit Kameras kontrolliert. Doch die Bremer Polizei wird noch warten müssen. Am Mittwoch soll eine Novelle des Polizeigesetzes in der Bremischen Bürgerschaft debattiert werden. Die Erlaubnis, Verhaltensscanner zu nutzen, beinhaltet sie nicht. Dafür erlaubt der Gesetzentwurf der Polizei aber den heimlichen Einsatz von Videodrohnen.

Bremer Polizei soll heimlich Überwachungsdrohnen einsetzen

Die Überwachung mit Videodrohnen soll in drei Stufen stattfinden: Livestream zur Lagebeurteilung, Aufzeichnung, verdeckter Einsatz – mit jeweils immer höheren Eingriffsschwellen. Dem verdeckten Einsatz muss beispielsweise ein Richter zustimmen – außer es liegt eine Gefahr für „Leib, Leben oder Freiheit“ einer Person vor. Dann darf die Polizei auch freihändig agieren.

Die Entwicklung ist besonders interessant, da Bremen seit 2007 von einer Koalition aus SPD, Grünen und Linken regiert wird, die sich eigentlich ein besonders liberales Polizeigesetz gegeben hatte. In Bremen kann man etwa nach einer Polizeikontrolle eine Quittung verlangen, die den Grund für die Kontrolle verrät und die Polizist*innen im Land tragen eine individuelle Kennzeichnung.

Nun folgt also auch dieses Land zumindest ein Stück weit dem bundesweiten Trend zur Verschärfung der Polizeigesetze. So soll beispielsweise mit dem neuen Polizeigesetz ein Satz wegfallen, der Zivilpolizist*innen im Rahmen einer Maßnahme dazu verpflichtet, sich unaufgefordert auszuweisen.

Präventiver Einsatz von elektronischen Fußfesseln

Primär geht es in dem Entwurf um den Schutz von Opfern häuslicher Gewalt. Dazu soll der Aufenthaltsort der Täter*innen mit elektronischen Fußfesseln überwacht werden. Nach dem „Spanischen Modell“ sollen sich auch die Opfer freiwillig überwachen lassen können, um bei einer Annäherung des Täters gewarnt zu werden.

Das GPS-Tracking darf nicht nur gegen Ausübende häuslicher Gewalt eingesetzt werden, sondern auch gegen Menschen, denen die Polizei zutraut, dass sie einen Terroranschlag begehen. Der Einsatz ist präventiv möglich, ohne dass es vorher zu einer Straftat gekommen sein muss.

Mit dem neuen Polizeigesetz will Bremen auch die Hürden für Videoüberwachung des öffentlichen Raums senken. Während bislang noch eine erhöhte Kriminalitätsbelastung nötig ist, damit ein bestimmtes Areal überwacht werden kann, soll es künftig reichen, dass die örtlichen Verhältnisse Straftaten erwartbar machen. Dann reicht die Annahme, dass dort irgendwann mal etwas passiert, um ein Areal zu überwachen. Das bringt die Legitimation der Videoüberwachung von einer faktischen, zahlenbasierten Grundlage in die freihändige Einschätzung der zuständigen Polizeikräfte.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Wirtschaftssenatorin Franziska Giffey nutzt die Notfallsituation in Berlin, um sich mit der Forderung nach mehr Videoüberwachung zu profilieren. Sie will auch „Künstliche Intelligenz“ einsetzen. Doch mehr Kameras helfen nicht, wenn es eigentlich andere Maßnahmen braucht. Ein Kommentar.

Nach dem mehrtägigen und noch anhaltenden Stromausfall im Südwesten von Berlin wegen eines Brandanschlags hat die Berliner Wirtschaftssenatorin Franziska Giffey (SPD) mehr Videoüberwachung gefordert. Offenbar geht sie davon aus, dass mehr Kameras eine sinnvolle Konsequenz aus dem viele tausend Haushalte und Unternehmen betreffenden Krisenfall sein oder einen solchen gar verhindern könnten. Der Regierende Bürgermeister Kai Wegner von der CDU sekundierte eilig.

Giffey kündigt zugleich an, die vermehrte Videoüberwachung durch „Künstliche Intelligenz“ ergänzen zu wollen, etwa zur Wärmeerkennung. Vielleicht hat sie sich Kameras vorgestellt, die Wärmebilder aufzeichnen, unterstützt durch eine Software, die solche Bilder analysiert: eine automatische Menschenerkennung gewissermaßen, die auf magische Weise böse Absichten sichtbar macht.

Nun könnte sich die Wirtschaftssenatorin für die Notfallhilfe und die bessere Versorgung, Unterbringung und Aufklärung von stromlosen frierenden Menschen einsetzen, denn der Stromausfall betrifft auch die Fernwärmeversorgung. Sie könnte sich mehr vorsorgende Gedanken machen, wie künftig bei Katastrophen oder absichtlichen Zerstörungen der Schaden für die betroffenen Menschen und die Wirtschaft minimiert werden kann.

Oder sie kann sich mitten in der Notfallsituation einfallsarm, aber vorhersehbar für mehr Videoüberwachung starkmachen. Schon nach kurzem Nachdenken erscheint das jedoch als keine schlaue Idee. Denn von Stromausfällen sind zumeist auch Kameras und auswertende Computer betroffen. Im Krisengebiet in Berlin waren auch Internet- und Telefonverbindungen gestört.

Videoüberwachung nicht sinnvoll

Videoüberwachung ist nicht geeignet, Anschläge zu erschweren oder gar zu verhindern. Denn die bloße filmende Kamera führt bekanntlich weder zu mehr Sicherheit noch zu mehr Resilienz. Zwar wird zuweilen behauptet, Kameras mit Mustererkennungssoftware könnten Gefährdungssituationen zuverlässig identifizieren oder gar durch ein schnelles Eingreifen nach Alarmierung verhindern. Die Realität sieht aber anders aus: unwissenschaftliche Schönfärberei in Hamburg, auch das Vorzeigebeispiel Mannheim ist keine Erfolgsgeschichte. Es bleiben doch nur Computer, die auf Menschen starren.

Interview zur Videoüberwachung: Computer, die auf Menschen starren

Die Sinnhaftigkeit der Forderung nach Videoüberwachung kann also nur darin liegen, bei absichtlichen Sabotagen die Tätersuche zu unterstützen. Allerdings können sich auch nur mäßig begabte Kriminelle sehr leicht unkenntlich machen.

Beim Berliner Stromnetz seien bereits drei Viertel der Leitungen vom Netzbetreiber oder anderen Privaten kameraüberwacht, sagte Giffey. „Was nicht videoüberwacht ist, ist auf öffentlichem Straßenland“. So sei das auch bei der am Samstag sabotierten Kabelbrücke in Berlin, meint die Senatorin. Allerdings wissen ortskundige Berliner, dass dort ein großes Heizkraftwerk an der Wasserkanalseite liegt. Das ist umzäunt und auch bewacht und wäre damit kein öffentliches Straßenland. Und an „gefährdeten Objekten“ ist es ohnehin geltendes Recht, dass Videoüberwachung möglich ist. Denn an solchen „gefährdeten Objekten“ dürfen Bildaufnahmen gemacht und auch aufgezeichnet werden.

Schlechtes Notfallmanagement

Mit fragwürdigen Maßnahmen wie Videoüberwachung kann der Berliner Senat nicht von der Tatsache ablenken, dass die Verwaltung nur ein schlechtes Notfallmanagement zeigte. Die Hilfen seien zu langsam und unvollständig gekommen, der Regierende Bürgermeister hätte sich rar gemacht.

Wer vom Stromausfall betroffen ist, dem nützt eben kein Bild eines Täters, der bei einer Sabotage gefilmt wird. Natürlich muss nach dem Ende der Krisensituation die Tätersuche priorisiert werden. Aber eine große Krise mit vielen betroffenen Menschen verlangt erstmal nach gut organisierter Hilfe und Notfallmaßnahmen, danach nach sinnvoller und bezahlbarer Vorsorge, zumal nicht nur Absicht, sondern auch Katastrophen und Unfälle ein ebenso großes Schadensbild erzeugen könnten.

Politiker neigen dazu, sich in Krisensituationen mit „Gummistiefel-Fotos“ und starken und einfachen Forderungen profilieren zu wollen. Genau das macht Giffey hier. Und eine Großkrise mit Stromausfall bei zehntausenden Haushalten bietet sich für ehrgeizige Politiker einfach an, selbst wenn die Forderung nicht so recht ins eigene Ressort passt und keinen Sinn ergibt. Videoüberwachung, gar mit „Künstlicher Intelligenz“, klingt aber immerhin modern. Bezahlbarer Bevölkerungsschutz und Krisenvorsorge sind hingegen die dicken Bretter, die eigentlich zu bohren wären.

Die halbe Stadt nun kameraüberwachen zu wollen, ist allerdings gar nichts Neues. Denn zur Wahrheit gehört, dass die Berliner Koalition ohnehin seit dem Sommer plant, die Anzahl der festinstallierten Videoüberwachungskameras dauerhaft auszubauen. Auch die automatische Verhaltenserkennung mit „Künstlicher Intelligenz“ war in dem Plan zur Ausweitung der Polizeibefugnisse schon enthalten.

Aktionismus statt solide Politik hat in Berlin eben Tradition. Wie sagte Joseph Weizenbaum so treffend: „Früher hat man dem Computer ein Problem übergeben, wenn man es verstanden hatte, heute ist es andersrum.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Siegeszug eines futuristischen Überwachungswerkzeugs: Die Überwachungs-KI, die in Mannheim und Hamburg das Verhalten von Passant*innen scannt, soll jetzt auch in Berlin zum Einsatz kommen. Das bestätigte der Berliner Senat heute in einer Anhörung im Innenausschuss.

Diese Software erkennt, was du tust. Sie bestimmt anhand von Videobildern, was auf dem überwachten Areal gerade passiert. Sie untersucht, ob jemand steht, sitzt, kniet, läuft, rennt, tanzt, taumelt, liegt, kämpft, würgt, etwas trägt, zieht oder schiebt, Fahrrad- und Roller fährt, eine andere Person umarmt oder festhält. Und in Zukunft soll die Liste noch erweitert werden.

Die Technologie ist in Mannheim seit sieben Jahren und in Hamburg seit Anfang September im testweisen Einsatz und noch fern davon, wirklich praktischen Nutzen zu entfalten. Weiterhin müssen Menschen die Bildschirme kontrollieren und die Alarme der KI werden hauptsächlich zu ihrer Weiterentwicklung genutzt, so die Mannheimer Polizei auf netzpolitik.org-Anfrage.

Dennoch zieht das System deutschlandweit das Begehren zahlreicher Kommunen auf sich. Berlin will sich ebenfalls der Runde der testenden Städte anschließen, das bekannte der Senat gerade in einer Anhörung des Innenausschusses. Dort hieß es mit Bezug auf Mannheim und Hamburg: „Wir hoffen, in das Kooperationsprojekt einsteigen zu können, um das System mit den anderen Partnern zu entwickeln.“

KI-Kameras am Görlitzer Park

Dabei bieten die beteiligten Städte nur die Testumgebung und die Laborratten – meist arglose Passant*innen der Überwachungskameras. Entwickelt wird das System vom Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung. Dieses hat auch das alleinige Recht zur kommerziellen Vermarktung der Verhaltenserkennungs-KI, sich allerdings dazu bereit erklärt, vorläufig noch darauf zu verzichten.

Nach dem neuen Berliner Polizeigesetz, das unter anderem die rechtliche Grundlage für das KI-Training liefern und noch dieses Jahr im Abgeordnetenhaus beschlossen werden soll, kann die KI mit verschiedenen Arten von Videobildern gefüttert werden. Vor allem wären da Bilder von Überwachungskameras, die Berlin künftig an sogenannten kriminalitätsbelasteten Orten – wie zum Beispiel dem Görlitzer Park – erlauben will. Dazu können aber auch Videos von öffentlichen Veranstaltungen und Ansammlungen und Aufnahmen von gefährdeten Gebäuden und Objekten, sowie Übersichtsaufnahmen zur Vorbereitung, Lenkung und Leitung von Einsätzen, wie sie aktuell aus Hubschraubern und künftig auch aus Drohnen aufgenommen werden können, per Algorithmus nach bestimmten Verhaltensmustern durchsucht werden dürfen.

„Die Gefahr ist nicht von der Hand zu weisen, dass dann große Teile der Berliner Innenstadt nicht mehr unüberwacht passiert werden können“, sagte Meike Kamp, Berliner Datenschutzbeauftragte bei der Sachverständigenanhörung im Berliner Abgeordnetenhaus. David Werdermann, Jurist von der Gesellschaft für Freiheitsrechte (GFF) fügte hinzu: „Es ist zu befürchten, dass Menschen, die sich atypisch im öffentlichen Raum verhalten – wie wohnungslose oder körperlich eingeschränkte – von der Software als gefährlich erkannt werden und damit erhöhtem Überwachungsdruck ausgesetzt sind.“

„Lieber einmal zuviel“

Die Polizeipräsidentin Barbara Slowik Meisel verteidigte den geplanten KI-Einsatz. Ihr Hauptargument: Effizienz. Die Aufgaben der Polizei würden wachsen, während die Nachwuchsgewinnung schwierig sei. „Ohne technologische Unterstützung werden wir die Sicherheit der Stadt nur noch immer begrenzter gewährleisten können.“ Deshalb wünsche sie sich das „Mannheimer System“, „das bestimmte Szenarien erkennt um dann Internventionskräfte zu alarmieren. Das ist deutlich ressourcenschonender.“

Dabei übersieht Slowik Meisel, dass die Technologie in Mannheim aktuell keinerlei Arbeitserleichterung bringt, sondern eher Kräfte bindet. Slowik Meisel würde die KI zudem so kalibrieren, dass sie viele falschpositive Ergebnisse liefern, die dann gegebenenfalls zu erhöhtem Arbeitsaufwand und Überwachungsdruck auf Unschuldige führen. „Lieber kommen wir einmal zu viel, wenn das System zu schnell anschlägt, als einmal zu wenig“, sagte sie.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.