Immer wieder wird Chatbot-Herstellern vorgeworfen, die Sicherheit von Kindern und Jugendlichen zu gefährden. In fünf Fällen wollen Character Industries und Alphabet die Klagen mit Geld aus der Welt schaffen. Damit sorgen die Unternehmen dafür, dass es weiterhin keinen Präzedenzfall gibt, nach dem Techunternehmen für ihre KI-Chatbots rechtliche Konsequenzen tragen müssen.

In den US-Bundesstaaten Florida, Texas, Colorado and New York handeln Google und Character Technologies Vergleiche mit fünf Familien aus, deren Kinder angeblich durch Chatbot-Nutzung zu Schaden gekommen sind. Der Fall, der die meiste Aufmerksamkeit erhielt, behandelt den Suizid eines 14-Jährigen Jungen. Der Jugendliche hatte eine emotionale Beziehung zum Chatbot „Dany“ von Character Technologies aufgebaut, der den Suizid des Jungen befürwortete.

In anderen Fällen hatten Chatbots von Character Technologies angeblich Jugendliche zu Gewalt gegen ihre Eltern oder selbstverletzendem Verhalten inspiriert. Die Bedingungen der Vergleiche sind bisher öffentlich nicht bekannt und werden nach Angaben von TechCrunch weiter verhandelt. Demnach wollen sich weder Sprecher*innen von Character Technologies, noch die Anwältin der Klägerin dazu äußern.

Haften Techkonzerne für ihre Chatbots?

Zwei ehemalige Google-Mitarbeiter gründeten 2021 den Chatbot-Hersteller Character Technologies. Drei Jahre später kehrten sie zu Google zurück. Im gleichen Zug erwarb der Konzern Lizenzen in Höhe von 2,7 Milliarden US Dollar von Character Technologies. Beide Gründer stehen als Angeklagte vor Gericht. Die Mutter des toten 14-Jährigen hat ebenfalls gegen Googles Mutterkonzern Alphabet geklagt. Sie argumentiert, dass das Unternehmen den Chatbot mitentwickelt hat. Google beteiligt sich nun auch an dem Vergleich.

Im Mai des vergangenen Jahres hatte die verantwortliche US-Bezirksrichterin Anne C. Conway entschieden, dass KI-Chatbots rechtlich als Produkte zu behandeln sind. Ihre Ausgaben seien nicht als geschützte Meinungsäußerung zu werten. Andernfalls hätte das die Chancen einer Haftungsklage stark verringert.

Gegenmaßnahme Altersbeschränkungen

Aktuell laufen in den USA sieben Verfahren gegen den Tech-Konzern OpenAI. Eine Klage stammt von den Eltern eines 16-Jährigen Jungen. Auch sie werfen dem Unternehmen vor, dass die KI den Jugendlichen bei der Selbsttötung unterstützt habe. OpenAI zieht sich bisher aus der Verantwortung. Der KI-Hersteller verweist auf die Missachtung der Sicherheitsmaßnahmen durch den 16-Jährigen.

Gleichzeitig führt das Unternehmen neue Tools zur Alterskontrolle und „Kindersicherung“ ein. Auch der KI-Hersteller Character Technologies hat neue Regelungen zur Altersüberprüfung eingeführt.

Präzedenzfall steht aus

Character Technologies und Google streben die nicht-öffentlichen Vergleiche wohl auch deshalb an, um Präzedenzfälle zu vermeiden, auf die sich Kläger*innen bei zukünftigen Verstößen berufen können. Außerdem ist der Schaden für die Reputation bei einem Vergleich vermutlich geringer als bei einer juristischen Niederlage.

Aline Blankertz von Rebalance Now, einem Verein der sich gegen Monopolisierung einsetzt, sagt: „Die kollektive Schutzwirkung der Gesetze wird dadurch untergraben, denn es bleibt offen, ob das Verhalten illegal war. Wir beobachten diese Tendenz in verschiedenen Rechtsbereichen.“

Blankertz erklärt auch, warum sich Kläger*innen auf Vergleiche einlassen: „Aus Sicht der einzelnen Geschädigten ergeben Vergleiche Sinn: Sie geben ihnen ein sicheres Ergebnis innerhalb kürzerer Zeit.“

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Erneut gibt ein milliardenschwerer Medienkonzern kampflos einen Rechtsstreit mit Donald Trump auf. Weil YouTube den Account des US-Präsidenten vor Jahren gesperrt hatte, zog dieser vor Gericht. Die Videoplattform hätte den Fall wohl gewonnen, doch YouTube überweist Trump lieber 25 Millionen US-Dollar aufs Konto.

Mit Alphabet knickt ein weiterer Medienkonzern vor US-Präsident Donald Trump ein. In einem außergerichtlichen Vergleich hat sich das US-Unternehmen, zu dem unter anderem Google und Youtube gehören, darauf geeinigt, knapp 25 Millionen US-Dollar zu bezahlen. Damit geht ein weiterer Rechtsstreit rund um die Moderation von Inhalten im Internet ohne richterliches Urteil und zugunsten Trumps zu Ende.

Der Löwenanteil, 22 Millionen US-Dollar, soll laut Gerichtsdokumenten an Trump gehen, um damit den pompösen Umbau eines Ballsaals im Weißen Haus zu finanzieren. Den Rest der Summe, 2,5 Millionen US-Dollar, teilen sich die Mitkläger:innen auf, darunter die rechtsnationalistische American Conservative Union und die für Verschwörungserzählungen bekannte Autorin Naomi Wolf. YouTube selbst räumt den Unterlagen zufolge keine Schuld ein.

Die Klage stammt aus dem Oktober 2021. Nach dem Sturm des US-Kapitols durch Trump-Getreue hatten YouTube und andere soziale Netzwerke eine Reihe an Accounts gesperrt, unter anderem den von Donald Trump. US-Konservative versuchten damals mit allen Mitteln, die formelle Bestätigung des Wahlsiegs des Demokraten Joe Biden zu verhindern. Dazu verbreiteten sie auf allen erdenklichen Kanälen Lügen und Desinformation, was schließlich in die gewaltsame, aber letztlich erfolglose Erstürmung des Parlamentsgebäudes mündete.

Begründet hatten die Tech-Konzerne die Account-Sperren mit der Gefahr von Gewalt, die von den Nutzer:innen ausgehen würde. Trump und andere Konservative, die damals von den Online-Diensten geflogen waren, sahen sich in ihrem Recht auf freie Meinungsäußerung beschnitten.

Mit fragwürdigen Klagen zum Erfolg

Jurist:innen räumten den Klagen allerdings nur geringe Erfolgsaussichten ein: Das in der sogenannten „Section 230“ gesetzlich verankerte Providerprivileg gibt den Online-Diensten freie Hand bei der Moderation von Inhalten. Zugleich garantiert ihnen die US-Verfassung, dass sie ihre Produkte weitgehend uneingeschränkt ausgestalten können. Ein Anbieter wie YouTube kann in seinen Nutzungsbedingungen beispielsweise das Hochladen mutmaßlich pornographischer oder terroristischer Inhalte untersagen.

In den vergangenen Jahren haben viele Online-Dienste ihre Moderationsregeln wieder gelockert und lassen wieder mehr Desinformation und fragwürdige Inhalte zu. Die Accounts von Trump hat sein politischer Verbündeter Elon Musk gleich nach seiner Übernahme des Kurznachrichtendienstes Twitter, inzwischen zu X umbenannt, im Jahr 2022 wieder hergestellt.

Alphabet und Meta zogen im Jahr darauf nach, zudem ist Hetze gegen ganze Menschengruppen oder Desinformation über Impfungen auf Instagram, Facebook und YouTube wieder erlaubt. Trump selbst hat sich von den Diensten mittlerweile unabhängig gemacht und verbreitet seine Botschaften vornehmlich auf seinem eigenen Netzwerk „Truth Social“ oder in rechten TV-Kanälen wie Fox News.

Ein Kniefall nach dem anderen

Ähnlich gelagerte Verfahren hatten andere Online-Dienste ebenfalls nicht bis zum Ende durchgefochten: Anfang des Jahres zahlte Meta 25 Millionen US-Dollar an Trump, Elon Musks X kam mit 10 Millionen US-Dollar davon. Gegenüber der New York Times bezeichnete der Jura-Professor Carl Tobias diese Kniefälle als Versuch, Einfluß bei der US-Regierung einzukaufen. Es scheint, als wollten sich die Unternehmen bei der Trump-Administration einschmeicheln, so Tobias – völlig ohne Not: „Das Recht war auf ihrer Seite“.

Allein in ihrem offenkundigen Bestreben, sich mit Trump gutzustellen, bleiben die Online-Dienste nicht. Mutmaßlich aus Sorge, bei geplanten Firmenfusionen Probleme mit gleichgeschalteten Regulierungsbehörden zu bekommen, hat sich etwa der US-Medienriese Paramount im Sommer bereit erklärt, Trump außergerichtlich 16 Millionen US-Dollar zu zahlen. In vorauseilendem Gehorsam hatte ABC noch vor Trumps Amtsantritt 15 Millionen US-Dollar an ihn überwiesen.

Der steigende Druck auf die Medienlandschaft macht sich zunehmend bemerkbar. Zuletzt verschwand der Talkshow-Moderator Jimmy Kimmel vorübergehend von den TV-Bildschirmen, weil er sich nach der Ermordnung des rechtsradikalen Charlie Kirk kritisch über das rechte Biotop in den USA geäußert hatte. Sein CBS-Konkurrent Stephen Colbert hat seine Sendung bereits im Juli verloren. Einen Zusammenhang mit der damals bevorstehenden Übernahme durch Paramount hatten die Eigentümer:innen jedoch zurückgewiesen. Ausschlaggebend seien einig und allein „finanzielle Gründe“ gewesen. Auch im Online-Bereich gab es jüngst eine lang umkämpfte und umstrittene Übernahme: Das US-Geschäft der aus China stammenden Video-Plattform TikTok soll an ein Konsortium aus Trump-Verbündeten verkauft werden.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Laut Medienberichten gibt es auf hoher Ebene der EU-Kommission Diskussionen um den Digital Markets Act. Das Gesetz soll eigentlich die Macht großer Online-Plattformen einschränken. Nun will die EU-Kommission angeblich alle schon eingeleiteten Verfahren überprüfen. Für die Zivilgesellschaft wäre das ein großer Fehler.

Die EU-Kommission soll intern ihre Untersuchungen zu großen Unternehmen in der Digitalwirtschaft auf den Prüfstand gestellt haben. Das berichtete heute die Financial Times mit Verweis auf interne Quellen. In der vergangenen Woche hatte Le Monde ähnliches geschrieben, sich dabei allerdings auf den Digital Services Act (DSA) bezogen.

Laut der Financial Times geht es um Untersuchungen unter dem Digital Markets Act (DMA), mit dem die EU die Übermacht von Plattformen wie Google und Facebook einschränken will. Dabei soll die Kommission alle ihre Untersuchungen überprüfen, die sie bisher unter dem DMA eröffnet hat. Laut der Zeitung soll in dieser Zeit nicht über mögliche Strafzahlungen entschieden werden. Die eigentliche Arbeit an den Untersuchungen soll aber weitergehen.

Der DMA betrifft in erster Linie sogenannte Gatekeeper. Damit sind sehr große Digitalunternehmen gemeint, die zentrale Plattformdienste zur Verfügung stellen und eine Schlüsselposition in digitalen Märkten einnehmen. Insgesamt sieben Unternehmen erfüllen derzeit die Bedingungen, um derart eingestuft zu werden. Dazu zählen etwa Alphabet, Apple oder Meta, aber nicht das zuletzt hoch umstrittene X des US-Milliardärs Elon Musk. Für sie gelten besonders strenge Regeln, bei Verstößen drohen ihnen Geldbußen von bis zu zehn Prozent des weltweiten Gesamtumsatzes.

Nur normale Treffen, sagt Kommission

Die Kommission bestreitet auf Anfrage die Darstellung. Sie sei weiterhin fest entschlossen, den Digital Markets Act und sein Schwestergesetz, den Digital Services Act, durchzusetzen, betonte heute ein Sprecher der Kommission. Es gebe keine solche Überprüfung.

„Was wir haben werden, sind Treffen, um die Ausgereiftheit von Fällen zu bewerten und die Verteilung von Ressourcen sowie die allgemeine Bereitschaft der Untersuchungen zu beurteilen“, so der Sprecher weiter. Das seien normale Schritte, die im gesamten Lebenszyklus von Fällen im Tech-Bereich passieren würden.

Auch ansonsten betont die Kommission, dass die technische Arbeit in den DMA-Fällen sehr komplex sei. Deshalb würden die Untersuchungen weiterhin andauern. Der letzte Schritt aus den Untersuchungen, der öffentlich geworden ist, war die Verkündung von vorläufigen Ergebnissen gegen Apple und Meta im vergangenen Sommer.

Ergebnisse müssen wasserdicht sein

Bei Apple geht es dabei um die Regeln für App-Entwickler:innen. Diese sollen unter dem DMA eigentlich Kund:innen frei auf Angebote außerhalb des App Stores weiterleiten können. Hier reichten die Anpassungen von Apple laut Sicht der Kommission nicht aus. Bei Meta bemängelte die Kommission das „Pay or Consent“-Modell des Unternehmens. Unter diesem müssen Nutzer:innen entweder ihre Daten hergeben oder bezahlen, wenn sie Facebook oder Instagram nutzen wollen.

Die Kommission schickte diese vorläufigen Ergebnisse an die beiden Unternehmen – und die durften dann Widerspruch dagegen einlegen. Dafür bekommen sie auch Zugang zu allen Dokumenten, die die Kommission im Laufe der jeweiligen Untersuchung angelegt hat. Und es sind Konzerne mit prall gefüllten Geldbeuteln, für die es in diesen Fällen um sehr viel Geld geht. Man kann davon ausgehen, dass sie für ihre Verteidigung absolut hochwertige Anwält:innen angeheuert haben.

Der Sprecher der Kommission betonte heute deshalb auch: „Bevor wir eine solche Entscheidung beschließen, müssen wir uns sicher sein, dass wir diesen Fall vor Gericht gewinnen werden.“

Die orange Bedrohung

Neben der juristischen Absicherung gibt es aber noch ein zweites, politisches Problem, das Auswirkungen auf die europäischen Regeln haben könnte. Dieses Problem ist orangefarben, jähzornig und wird am kommenden Montag zum zweiten Mal als Präsident der USA eingeschworen werden.

Donald Trump hatte seit der Zeit rund um die US-Wahl verstärkt Kontakt mit Big-Tech-Chefs. Der Kniefall Mark Zuckerbergs in der vergangenen Woche war das neueste Signal in diese Richtung. Zuckerberg hat sich schon über die angebliche „Zensur“ durch europäische Digitalgesetze beschwert und versucht, mit nationalistisch gefärbten Appellen an Trump, EU-Vorgaben abzuwehren.

Auch Apple-Chef Tim Cook hatte Berichten zufolge bereits Kontakt mit Donald Trump und nutzte die Gelegenheit, um EU-Strafen zu kritisieren. „Ich werde nicht zulassen, dass sie sich an unseren Unternehmen bereichern“, will Trump darauf geantwortet haben.

Zivilgesellschaft macht Druck

Der Bericht über mögliche Bedenken bei der Kommission rief kritische Reaktionen hervor. Wenn die Kommission ihren bisherigen starken Kurs zum DMA ändern würde, wäre das ein sehr großer Fehler, sagte Lucas Lasota von der Free Software Foundation Europe (FSFE) zu netzpolitik.org. Die FSFE unterstützt die Kommission aktuell in einem DMA-Gerichtsverfahren gegen Apple.

„Die FSFE hält ihn für ein sehr wichtiges Gesetz“, so Lasota. Der DMA wolle ein ebeneres Spielfeld für alle schaffen. Es gehe nicht um einen Gegensatz EU gegen USA, sondern um Big Tech gegen alle.

Dem stimmt auch Jan Penfrat von Europan Digital Rights zu. „Die DMA-Untersuchungen zu den Gatekeepern zu verlangsamen, herunterzufahren oder zu pausieren, wäre ein großer Fehler der Europäischen Kommission“, sagte er zu netzpolitik.org.

„Wenn die Kommission sich von der Angst vor politischem Gegenwind aus der Trump-Regierung dazu schikanieren lässt, seine DMA-Untersuchungen neu zu bewerten, dann wird diese Schikane – sowohl von Big Tech als auch von Trump – nicht aufhören“, so Penfrat.

Schwab will gründliche Arbeit

Zweifel gab es auch im Europäischen Parlament. So etwa von Stephanie Yon-Courtin, einer liberalen Abgeordneten aus Frankreich, die am Digital Markets Act mitarbeitete. Für „etwas schwach“ hält sie die Antwort der Kommission, laut der diese weiterhin entschlossen sei, ihre Regeln durchzusetzen. „Wir brauchen gegen die Provokationen von Big Tech keine Worte mehr, sondern Taten, und zwar bald“, sagte Yon-Courtin netzpolitik.org.

Wesentlich gelassener zeigt sich der deutsche Christdemokrat Andreas Schwab. Er war auf Parlamentsseite Chefverhandler zum DMA. „Grundsätzlich gilt: Gründlichkeit vor Schnelligkeit, weil der Maßstab in Europa das Rechtsstaatsprinzip ist“, so Schwab. Die Verfahren würden wahrscheinlich vor Gericht landen und in den USA gebe es jetzt schon Zweifel daran, wie seriös die EU handele. „Deshalb muss die Sache sauber durchgezogen werden.“

„Gleichzeitig ist es aber kein Geheimnis, dass die Spitze der Kommission derzeit keinen Ärger mit den USA will“, so Schwab weiter. „Das muss uns noch nicht besorgt machen, wir können eine Reihe von Entscheidungen auch Anfang Februar noch treffen.“ Am kommenden Donnerstag tritt die Arbeitsgruppe des Parlaments zusammen, die sich mit der Durchsetzung des DMA beschäftigt. Dort will er mit Vertreter:innen der Kommission weitere Einzelheiten besprechen.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.