Der chinesische KI-Chatbot DeepSeek übermittelt Nutzer*innendaten nach China. Die Berliner Datenschutzbehörde geht jetzt gegen den Anbieter vor. Apple und Google sollen DeepSeek aus ihren Stores entfernen.

Der KI-Chatbot DeepSeek wird in Deutschland verboten. Die Berliner Datenschutzaufsicht hat die chinesische App als rechtswidrig bewertet, weil sie Daten ihrer Nutzer*innen nach China übermittelt. Damit verstößt sie gegen die Datenschutzregeln der EU (DSGVO). Apple und Google sollen die Anwendung nun aus ihren App-Marktplätzen entfernen. Auf anderen Wegen, etwa über den Browser oder heruntergeladen über die Seite des Unternehmens, ließe sich der Chatbot allerdings weiterhin nutzen.

DeepSeek habe gegenüber ihrer Behörde nicht überzeugend nachweisen können, dass Daten deutscher Nutzer*innen in China auf einem der EU gleichwertigen Niveau geschützt sind, sagt die Berliner Datenschutzbeauftragte Meike Kamp.

In China haben Behörden weitreichende Zugriffsrechte auf personenbezogene Daten, die auf den Servern chinesischer Unternehmen lagern.

Ehemals Chartspitze, jetzt auf Verbotsliste

DeepSeek hatte nach der Vorstellung Anfang des Jahres für Furore gesorgt, weil die Leistungen des Modells hinter dem Chatbot an die von Marktführern wie ChatGPT von OpenAI heranreichten – für viele Beobachter*innen kam das überraschend. Zugleich soll das Training des Modells vergleichsweise günstig und mit weniger Rechenleistung stattgefunden haben, berichtete etwa die New York Times. Das brachte die Börsen durcheinander.

Die App gehört zu den beliebtesten KI-Anwendungen weltweit. Auch in Deutschland trendete sie zwischenzeitlich weit oben in den Download-Charts von Apple und Google. Nutzer*innen können mit der kostenlosen App chatten, Bilder hochladen oder sie für die Suche im Netz einsetzen.

Behörden warnten vor der App

Bedenken zum Umgang mit Nutzer*innendaten gab es von Anfang an. Denn alle gesammelten Daten – von Texteingaben und hochgeladenen Dateien bis zu den Informationen zum Standort und dem benutzten Gerät – übermittelt das Unternehmen nach China.

„Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden“, warnte das Bundesamt für Sicherheit in der Informationstechnik (BSI). Außerdem werde die Art der Tastatureingaben gespeichert, heißt es. Anhand der Art, wie Menschen tippen, lassen sich Nutzer*innen wiedererkennen.

Auch die Aufsichtsbehörden für Datenschutz hatten DeepSeek im Blick. Mehrere Landesbehörden gingen parallel gegen das Unternehmen vor. Die Gründe: Weitergabe der Daten und andere mutmaßliche Verstöße gegen die DSGVO. Das Unternehmen hatte etwa keinen gesetzlichen Vertreter in der EU benannt. In Abstimmung mit anderen Aufsichtsbehörden ist es jetzt die Behörde aus Berlin, die Maßnahmen ergreift.

Erst Aufforderung, dann Verbot

Die Behörde hatte nach eigenen Angaben DeepSeek Anfang Mai zunächst aufgefordert, die Übermittlung der Daten nach China einzustellen – oder die App eigenständig aus den Stores zu entfernen. Nachdem das Unternehmen nicht reagierte, folgte demnach heute die Meldung an Apple und Google. Dabei machte die Behörde von einer Regelung im Gesetz über digitale Dienste (Digital Services Act, DSA) Gebrauch, die Betreiber*innen von Plattformen dazu verpflichtet, Meldewege für illegale Inhalte zur Verfügung zu stellen.

Apple und Google müssen die Meldung laut DSA nun prüfen und über die Umsetzung entscheiden. Sie gelten in der EU als „sehr große Online-Plattformen“ und unterliegen damit besonders strikten Auflagen. So müssen sie ihnen gemeldete rechtswidrige Inhalte zügig entfernen, sonst drohen ihnen selbst Strafen in der EU.

Die Behörde hätte gegen DeepSeek auch ein Bußgeld verhängen können. Das lasse sich gegen Unternehmen aus Drittstaaten allerdings nicht vollstrecken, sagt Datenschutzbeauftragte Meike Kamp. Auch gegen die Webseite des Unternehmens könne die Behörde nicht vorgehen, weil der Host-Anbieter nicht bekannt sei.

In Italien ist DeepSeek bereits aus den App Stores verschwunden, nachdem die italienische Datenschutzaufsicht GPDP die App ins Visier genommen hatte. Australien hat die Nutzung der App auf Geräten der Regierung untersagt. In Südkorea wiederum ist die App nach einer zeitweisen Sperre wieder verfügbar, nachdem die Betreiber nachgebessert hatten.

Auch andere chinesische Apps haben Nutzer*innendaten an Server in China übermittelt, darunter die erfolgreichste: TikTok. Das Unternehmen hat jedoch im Gegensatz zu DeepSeek einen Sitz in der EU und fällt in die Zuständigkeit der irischen Datenschutzaufsicht, die jüngst gegen TikTok eine Millionenstrafe veranlasst hat.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Kaum ein US-Thema hat die letzten Tage so dominiert wie das mögliche Ende von TikTok. Klar ist: Trump wird die Auseinandersetzung nutzen, um seine Macht mit der Video-Plattform zu stärken. Ein Kommentar.

Das ganze Wochenende lief die mögliche Sperrung von TikTok die Nachrichten hoch und runter. Die Plattform sperrte sich kurzzeitig selbst, um dann ein paar Stunden später mit Dank an Trump wieder am Start zu sein. Eines ist bei dem ganzen Theater sonnenklar: Am Ende wird Trump als Sieger vom Platz gehen. Zwar war der selbst früher Befürworter dieses Gesetzes, doch jetzt kann er sich als Retter inszenieren.

Vorweg: Es ist aus Perspektive von Meinungs- und Internetfreiheit hoch fragwürdig, wenn Länder per Gesetz Plattformen zwingen wollen, sich ökonomisch unter ihren Scheffel zu stellen. Der Aufschrei wäre groß, würde etwa Deutschland die US-Plattform Facebook zu einem Verkauf an deutsche Firmen zwingen – um den Datenschutz besser durchzusetzen. Deswegen öffnet allein das Gesetz Tür und Tor zu einem zersplitterten Internet, das weniger frei ist. Ein Internet, in dem Länder nach Gutsherrenart ihnen politisch nicht genehme Apps oder Konkurrenten heimischer Produkte angreifen können.

Allerdings ist diese Diskussion jetzt durch. Die Demokraten sind sehenden Auges in dieses Szenario hereingelaufen, dass die Frist für TikTok genau zur Amtsübergabe ausläuft. Anstatt frühzeitig nach Lösungen zu suchen, übergibt man die heiße Kartoffel an Trump, damit der daraus politisches Kapital schlägt. Was für ein Fail!

Make America TikTok again!

Mit 170 Millionen Nutzer:innen hat statistisch die Hälfte aller Menschen in den USA einen Account auf der chinesischen Plattform. Und die verbringen dort täglich alle im Schnitt 57 Minuten. Wenn man das abschaltet, ändert sich der Tagesablauf von Millionen Menschen. Die Sache hat also einen heftigen Impact – und das weiß natürlich TikTok, wenn sie eben mal den Service ausschalten. Das war mehr Machtdemonstration als Einknicken vor der US-Justiz.

Und das weiß natürlich auch Trump, der sich in der ganzen Sache schon jetzt als der große Retter inszeniert und dem dafür nicht nur der TikTok-CEO symbolisch die Füße küsst. Auch viele Influencer:innen auf der Plattform werden es Trump danken, wenn er ihr Geschäftsmodell und die Monetarisierung rettet.

Das geht laut Trump nur, wenn sich ByteDance, die Firma hinter der Plattform, für eine 50-prozentige Beteiligung eines US-Unternehmens öffnet. Für Trump ist das ideal: Schon heute liegen ihm die Tech-Unternehmer von Elon Musk über Mark Zuckerberg bis Jeff Bezos zu Füßen, weil der neue Präsident ihre oligarchische Macht in Beton gießt.

Nachdem schon Twitter alias X zum Werkzeug nicht nur Trumps, sondern der rechtsradikalen Bewegung weltweit geworden ist, würde das Videoportal TikTok in der Hand untertäniger Tech-Unternehmer das Propaganda-Portfolio komplettieren. TikTok ist wie kaum eine andere Plattform auf Informationskontrolle ausgerichtet – nicht umsonst läuft dieses Medienmodell auch im autoritären China so gut.

Hier mehr Einfluss zu haben und quasi mit einem ergebenen US-Unternehmen an den algorithmischen Reglern einer Plattform zu stehen, die eine Stunde pro Tag in die Köpfe der Menschen sendet, ist das perfekte Werkzeug, um Trumps Macht sozialmedial weiter abzusichern.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Das regierungskritische Online-Medium Citizen News hat am Sonntagabend (Ortszeit) seine Auflösung bekannt gegeben. Ab dem 4. Januar werde der Betrieb vollständig eingestellt, hieß es. Die Redaktion des prodemokratischen Mediums, das sich 2017 gegründet hatte, erklärte den Schritt damit, dass die Sicherheit der 40 Mitarbeitenden nicht mehr gewährleistet werden könne. In einer Erklärung auf Twitter hieß es: „Leider können wir unsere Überzeugungen nicht mehr angstfrei in die Tat umsetzen, weil sich die Gesellschaft in den letzten zwei Jahren stark verändert und sich das Umfeld für Medien zunehmend verschlechtert hat“.

Citizen News war 2017 von einer Gruppe erfahrener Journalist:innen ins Leben gerufen worden und finanziert sich hauptsächlich durch Spenden und Leser:innenabonnements. Mit mehr als 800.000 Followern in Online-Netzwerken zählt Citizen News zu den beliebtesten Nachrichtenangeboten Hongkongs. Das Medium bezeichnet sich selbst als unabhängig, überparteilich und als Förderer von Freiheit, Offenheit, Vielfalt und Inklusion. Citizen News hatte auch Journalist:innen von anderen Medien aufgenommen, die aufgelöst oder unter staatliche Kontrolle gestellt worden waren. Zuletzt waren Berichten von Hong Kong Free Press zufolge zehn ehemalige Journalist:innen vom Fernsehsender iCable News zu Citizen News gewechselt.

Mit der Auflösung von Citizen News verliert Hongkong ein weiteres unabhängiges Medium. Vor nicht einmal einer Woche, am 29. Dezember, hatten Hongkonger Behörden mit mehr als 200 Polizist:innen die Büros des Online-Mediums Stand News durchsucht und laut Berichten sechs ehemalige und aktuelle Mitarbeitende festgenommen. Daraufhin hatte das Online-Medium angekündigt, seine Arbeit einzustellen. Noch am selben Tag ging die Webseite des Medienunternehmens offline. Das Schicksal von Stand News habe letztlich den Ausschlag dafür gegeben, dass auch Citizen News ihre Arbeit einstellen, so der Chefredakteur und ehemalige Präsident der Hongkonger Journalistenvereinigung Chris Yeung.

„Totale Unterdrückung der Pressefreiheit“

Gegenüber Hong Kong Free Press erklärte der Leiter des Ostasienbüros von Reporter ohne Grenzen, Cédric Alviani, dass die Pressefreiheit in Hongkong einmal mehr unter Beschuss stehe: „Nach Apple Daily und Stand News ist Citizen News das dritte unabhängige Medienunternehmen, das der Einschüchterungs- und Polizeischikanen-Kampagne von Hongkongs Chief Executive Carrie Lam zum Opfer gefallen ist, deren Ziel die totale Unterdrückung der Pressefreiheit in dem Gebiet zu sein scheint.“

Bereits Mitte 2021 hatte die Redaktion des prodemokratischen Mediums Apple Daily ihre Arbeit einstellen müssen. Behörden hatten der größten vielgelesenen Oppositionszeitung in Hongkong vorgeworfen, gegen das sogenannte Sicherheitsgesetz verstoßen zu haben, und daraufhin die Konten des Mediums eingefroren und Angestellte festgenommen. Der Gründer von Apple Daily und Demokratieaktivist Jimmy Lai wurde mittlerweile zu einer Haftstrafe von dreizehn Monaten verurteilt und sitzt im Gefängnis.

Die kommunistische Führung in Peking hatte vor knapp eineinhalb Jahren das umstrittene Sicherheitsgesetz erlassen. Auslöser waren die anhaltenden Proteste für mehr Demokratie in Hongkong gewesen. Das Gesetz erlaubt es, Personen, die die chinesische Führung als „Terroristen, Subversive, Separatisten sowie Verschwörer mit ausländischen Mächten“ betrachtet, zu verhaften. Die vage Formulierung im Gesetzestext hat es für die Behörden erleichtert, gegen regierungskritische Aktivist:innen und Oppositionelle vorzugehen.

Mehr als 100 Aktivist:innen sind seitdem festgenommen worden. Viel sind aus Angst vor Verfolgung ins Ausland geflohen. Eine im November letzten Jahres veröffentlichte Umfrage unter Journalist:innen in Hongkong zeigt, dass fast die Hälfte der rund einhundert Befragten erwägt, die Stadt aufgrund der sich zunehmend verschlechternden Arbeitsbedingungen zu verlassen. 56 Prozent gaben an, sensible Themen in ihrer Berichterstattung zu vermeiden und in einem bestimmten Maß Selbstzensur zu betreiben. Peking wertete die Umfrage als „Einmischung“.

Nach der Schließung von Apple Daily hatten sich zahlreiche ausländische Pressevereinigungen wie auch die Journalist:innenvereinigung von Hongkong besorgt über den Zustand der Pressefreiheit in der Stadt geäußert. Die ehemalige britische Kolonie, die einst als Flaggschiff für Pressefreiheit galt, ist laut dem Weltpressefreiheitsindex der Nichtregierungsorganisation Reporter ohne Grenzen von Platz 18 im Jahr 2002 auf Platz 80 im Jahr 2021 zurückgefallen. Die Volksrepublik China hat sich in diesem Ranking von Platz 177 auf Platz 180 verschlechtert.

Hilf mit! Mit Deiner finanziellen Hilfe unterstützt Du unabhängigen Journalismus.

Chinesische Wissenschaftler:innen haben einen „Staatsanwalt mit Künstlicher Intelligenz“ entwickelt, berichtet die South China Morning Post. Die Software könne mit 97-prozentiger Zuverlässigkeit Anklage erheben und sei auf die Erkennung der acht gängigsten Straftaten in Shanghai spezialisiert.

Schon heute setzen chinesische Strafverfolger auf automatisierte Unterstützung, besonders verbreitet ist seit dem Jahr 2019 das sogenannte „System 206“. Dieses transkribiert unter anderem Vernehmungsprotokolle, digitalisiert Akten und soll widersprüchliche Beweise identifizieren. Selbstständige Entscheidungen trifft es allerdings bislang nicht.

Umfangreiches Trainingsmaterial

Das nun vorgestellte System wurde in Shanghai entwickelt und getestet, der größten Staatsanwaltschaft in China. Als Trainingsmaterial dienten mehr als 17.000 Fälle aus den Jahren 2015 bis 2020. Aus den von Menschen erstellen Akten könne das System anhand von 1.000 „Eigenschaften“ Verdächtigte bewerten, so die Zeitung.

Zu den gängigen Straftaten sollen Kreditkartenbetrug und Diebstahl, aber auch Widerstand gegen die Staatsgewalt und Störung der öffentlichen Ordnung zählen. Letzteres werde oft eingesetzt, um abweichende Meinungen zu ersticken, schreibt die Post. Ein Upgrade des Systems sei bereits in Vorbereitung. Dieses könne weitere Straftaten erkennen und mehrere Anklagen gegen einen einzelnen Verdächtigten erheben.

Ganz ohne Kritik dürfte eine Einführung des Systems jedoch nicht ablaufen. „Die Zuverlässigkeit von 97 Prozent klingt vielleicht hoch, von einer technologischen Warte aus gesehen, aber es wird immer das Risiko von Fehlern geben“, zitiert die Post einen ungenannten menschlichen Staatsanwalt aus Guangzhou. „Wer übernimmt dann in solchen Fällen die Verantwortung? Der Staatsanwalt, die Maschine oder die Entwickler des Algorithmus?“ Zudem könne das System nur auf vorhergegangene Fälle aufbauen und dementsprechend neue soziale Entwicklungen nicht berücksichtigen.

Globaler Wettlauf um Künstliche intelligenz

China hatte 2017 einen ambitionierten Entwicklungsplan rund um Künstliche Intelligenz vorgestellt, bis 2030 will das Land zum internationalen Spitzenreiter beim Einsatz der Technik werden. Seitdem geht es rasant voran: Bereits 2020 wurden in China die weltweit meisten wissenschaftlichen Arbeiten und Patente zu Künstlicher Intelligenz eingereicht, schreibt der Wissenschaftliche Dienst des Europäischen Parlaments.

Im Unterschied zu Europa müsse sich China hierbei keine großen Sorgen um Datenschutz und Privatsphäre machen, zudem helfe der riesige heimische Markt bei der Entwicklung. So ist Videoüberwachung mit Gesichtserkennung inzwischen Alltag geworden, seine Überwachungstechnik exportiert das Land zunehmend ins Ausland.

Als Labor für neuartige Repressionstechniken gilt die mehrheitlich muslimische Provinz Xinjiang. Dort verfolgt der chinesische Apparat die Volksgruppe der Uiguren unter anderem mit Videoüberwachung und künstlicher Intelligenz für Racial Profiling, auch Lügendetektoren mit Gefühlserkennung sind im Einsatz. Rund eine Million Uiguren sollen in sogenannten Umerziehungslagern sitzen, wo massive Menschenrechtsverletzungen und Zwangsarbeit an der Tagesordnung sind.

Kritik aus dem Ausland verbittet sich China: Nachdem sich die neue deutsche Außenministerin Annalena Baerbock für einen härteren Kurs gegenüber autoritär regierten Staaten ausgesprochen hatte, mahnte China, die „chinesisch-deutschen Beziehungen objektiv und ganzheitlich“ zu betrachten. Kürzlich hatte Baerbock angekündigt, angesichts der Menschenrechtslage nicht zu den Olympischen Spielen in China zu reisen.

Hilf mit! Mit Deiner finanziellen Hilfe unterstützt Du unabhängigen Journalismus.