Nur in Großbuchstaben schreiben, sachlich argumentieren oder auf die Tränendrüse drücken? Auf X, Mastodon und Bluesky bekommen Nutzende auf ganz unterschiedliche Weise Aufmerksamkeit. Aber ein bisschen toxisches Verhalten kommt überall an.

Weil Nutzende bei den meisten Plattformen nicht genau wissen, wie ihre Empfehlungssysteme funktionieren, entwickeln sie eigene Annahmen darüber, was geklickt wird. Welche Art von Posts „zahlt sich aus“ – erhält Likes und wird geteilt? Einem Preprint-Forschungsbericht zufolge unterscheidet sich das stark, je nachdem, auf welcher Plattform man unterwegs ist. Das kann beeinflussen, wie Politiker:innen sich auf Plattformen geben – mal aggressiver, mal neutraler. Und auch, wie sie Politik machen.

Petter Törnberg ist Professor für Computational Social Science an der Universität von Amsterdam und verbindet in seiner Forschung computergestützte Analysen mit sozialer Theorie. Für einen neuen Bericht, vorläufig veröffentlicht Anfang Juli, experimentierte er mit einem neuen Ansatz.

Soziale Medien gelten schon lange als Zahnrad in der „Attention Economy“. Die Idee ist, dass Aufmerksamkeit zu einer Ware geworden ist, die fast jeden Preis wert ist. „Wenn sie also eine Art Markt sind, sollten wir in der Lage sein zu messen, inwieweit dieser Markt Politiker und Botschaften beeinflusst“, sagt Törnberg. In seiner „Marktanalyse“ fragt er sich: Welcher Umgangston bringt wieviel Aufmerksamkeit? Dafür analysiert er Beiträge der Microblogging-Plattformen Mastodon, Bluesky und X.

Beleidigen, emotionalisieren oder doch lieber argumentieren?

Ob auf Plattformen ein Beitrag mit Aufmerksamkeit in Form von Likes oder Shares belohnt wird, richtet sich laut seinen Ergebnissen nach unterschiedlichen Faktoren. Wenn es um Zustimmung geht, gelte für alle drei Plattformen: Likes beziehungsweise Favorisierungen bekommen persönliche Geschichten, Verbundenheit, Respekt, Mitgefühl und positive Emotionen.

Aber welche Posts erhalten Reichweite? Bei X wird dem Bericht zufolge offenbar beziehungsorientierte, positive und differenziert argumentierende Sprache bestraft, während sich Retweets bei Beleidigungen, Identitätsangriffen und toxischem Verhalten häufen. Auf Bluesky ist eine neutrale, emotionsärmere und weniger persönliche Sprache vorteilhaft für mehr Reichweite. Auf Mastodon helfen Argumentation, Nuancen, Mitgefühl und Bezüge auf ein Kollektiv, während Beleidigungen und persönliche Angriffe dort weniger positiv belohnt werden.

Trotzdem toxisch

Dass es Unterschiede zwischen diesen Plattformen gibt, ist wenig verwunderlich. Nicht nur, da Twitter/X nach Elon Musks Übernahme Falschinformationen und aggressive Posts kaum eindämmt. Denn so wendeten sich Gruppen mit bestimmten Werten von X ab – und anderen Plattformen zu.

Törnberg spekuliert, dass schon das Plattformdesign verändert, wie Menschen ihre kostbare Aufmerksamkeit investieren. „Gibt es ein Herz oder einen Daumen hoch? Und wie nennt man das, wenn man etwas retweetet oder teilt – wie funktioniert das und wie wird das auf der Plattform kulturell verstanden?“

Es liegt nahe, dass toxische Posts auf den Plattformen, die sich aktiv als Alternative zu X positionieren, nicht gut ankommen. Leider hat Törnberg keine guten Nachrichten: Auch auf Bluesky und Mastodon werden relativ grob oder aggressiv formulierte Posts mit Aufmerksamkeit belohnt. Jedoch gelte nicht: „Je toxischer, desto besser.“

Wie viel Macht den Empfehlungssystemen?

Das mag auch daran liegen, dass Mastodon und Bluesky weniger als X auf Engagement-Ranking setzen. Sie spielen Posts also nicht primär umso stärker aus, desto mehr sie geliket und geteilt werden. Mastodon zeigt Beiträge von Konten, denen User folgen, chronologisch und nicht algorithmisch sortiert an. Auf Bluesky können User neben dem chronologischen Feed und einer empfehlungsbasierten Anzeige auch interessenbasierte Feeds erstellen.

Mastodon ist außerdem dezentral aufgebaut: Nutzende können sich da registrieren, wo sie wollen, auf geografisch- oder interessenbasierten Servern, auch „Instanzen“. Wer den Server betreibt, kann eigene Moderationsregeln festlegen. Auch das AT-Protokoll, auf dem Bluesky basiert, erlaubt Dezentralisierung, was praktisch jedoch weniger Wirkung entfaltet als bei Mastodon.

Wenn Nutzende mehr Verantwortung tragen

Teils handeln User auf Mastodon Regeln zum Umgang miteinander gemeinschaftlich aus, statt dass sie wie auf X erlassen werden. Forschende argumentieren schon 2020, dass User deshalb wachsamer gegenüber Verhaltensweisen bleiben, die nach den Regeln als unangemessen gelten. Unbewusst lernen sie und sind auch technologisch in der Lage, ihr eigenes Verhalten und das anderer entlang der Werte ihrer Gemeinschaft zu überwachen.

Gleichzeitig können durch die Dezentralität von Plattformen wie Mastodon aber auch weitgehend isolierte Gruppen entstehen, die besonders toxischem Verhalten verfallen. Gerade bei kleinen und unabhängigen Instanzen könnte das auch daran liegen, dass es keine soliden Regeln oder Zugang zu automatisierter Moderation gibt.

Politik ist angewiesen auf Aufmerksamkeit

Menschen nutzen zunehmend soziale Medien, um das Weltgeschehen und Politisches zu verfolgen. Wenn dort besonders konträre Behauptungen stark verbreitet werden, scheint es vorteilhaft, solche zu veröffentlichen. Wenn Konflikte Aufmerksamkeit generieren, scheint es vorteilhaft, sich feindselig zu geben. US-Präsident Trump ist diese Taktik nicht fremd, und auch andere politische Akteure versuchen, so zu punkten.

Dinge so zu sagen wie sie sind, bringt nicht unbedingt Klicks. Auf Plattformen, bei denen sich alles um Aufmerksamkeit dreht, könne „die originalgetreue Wiedergabe kostspielig werden“, heißt es im Bericht.

Die Logik stoppt nicht bei den Plattformen. Das sieht Törnberg darin, dass inzwischen auch Print-Zeitungen auf Clickbait setzen. Und selbst politische Maßnahmen auf Aufmerksamkeit optimiert werden. „Es handelt sich um eine Politik, die im Grunde nur darauf ausgelegt ist, gut als Social-Media-Botschaft zu funktionieren.“

Aufmerksamkeit demokratisch verteilen

Für Törnberg zeigt das, dass man Soziale Medien nicht als isolierten Ort ansehen kann. „Wir sollten über die grundlegende demokratische Infrastruktur sprechen. Darüber, wie wir die Verteilung der Aufmerksamkeit in unserer Gesellschaft so gestalten wollen, dass sie mit der Demokratie vereinbar ist, mit den Idealen der Gerechtigkeit und anderen Werten, die wir haben.“ Eine Möglichkeit sei für ihn, bei der Gestaltung Sozialer Medien mehr auf staatliche Regulierung als auf den freien Markt zu setzen.

Es braucht nicht unbedingt einen Empfehlungsalgorithmus, damit sich Muster aus dem angeschlagenen Ton und der resultierenden Aufmerksamkeit etablieren. Wie eine Plattform gestaltet wird und wie Regeln bestimmt werden, könnte aber ein Grund dafür sein, das nicht überall dieselben toxischen Muster entstehen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Seinen Umsatz konnte Palantir im Vergleich zum Vorjahr nahezu verdoppeln. Nicht zuletzt ist das lukrativen öffentlichen Verträgen zu verdanken. Zugleich verlagert der Konzern offenbar seine Gewinne in die USA, um in Europa möglichst wenig Steuern zu zahlen, wie eine neue Analyse zeigt.

Alex Karp, der Geschäftsführer von Palantir, hat Grund zur Begeisterung: „Dieses Quartal war nicht von dieser Welt.“ Am gestrigen Dienstag sorgte das umstrittene Datenanalyse-Unternehmen mit seinem immensen Umsatz für Schlagzeilen. Um 93 Prozent stiegen die Erlöse im Jahresvergleich auf 1,68 Milliarden Euro.

Weltweit, auch in Europa, schließt Palantir Verträge mit Behörden, Geheimdiensten, Militärs oder Rüstungsunternehmen. Jedoch gestaltete der US-amerikanische Konzern seine Unternehmensstrukturen offenbar so aus, dass er sowohl in den USA als auch in Europa ausgesprochen wenig Steuern zahlt. Das legt ein neuer Forschungsbericht dar. Verfasst hat diesen das britische Centre for International Corporate Tax Accountability and Research, das spezialisiert ist auf Praktiken zur Steuervermeidung von multinationalen Konzernen.

Steuerausfälle taktisch herbeigeführt

Laut des Forschungsberichts gab Palantir weit geringere Gewinnmargen in Europa als den USA an. Die Forschenden verweisen auf die „Gewinnverlagerung“: Einnahmen, die Palantir im Ausland generiert, verschiebe es zurück in die USA, wo das Unternehmen möglicherweise noch ein Jahrzehnt lang keine Bundeseinkommenssteuer zahlen muss.

Dass die USA für Palantir eine Steueroase darstellt, sei teils US-Präsident Donald Trumps „One Big Beautiful Bill Act“ zu verdanken, teils der Taktik, Mitarbeitende mit Aktienoptionen statt mit Löhnen zu vergüten. Dabei handelt es sich um eine Gesetzeslücke, die enorme Steuerabzüge ermöglicht. Erst im Januar gaben europäische Staats- und Regierungschefs außerdem Trumps Forderung nach, US-amerikanische multinationale Konzerne von einer globalen Mindeststeuer auszunehmen. Das kommt auch Palantir zugute.

Mit großem Abstand ist das Vereinigte Königreich am meisten von Palantirs Steuersenkungsstrategien betroffen. Doch schon auf dem zweiten Platz der untersuchten Länder landet Deutschland. Hier ist dem Bericht zufolge mit einem Steuerausfall von 1,6 Millionen Euro zu rechnen. Im untersuchten Jahr 2024 stammten 65 Prozent des Gesamtumsatzes in Deutschland aus Dienstleistungsgebühren der US-Muttergesellschaft. Das könnte darauf hindeuten, dass der Großteil der Umsätze aus deutschen Verträgen in den USA verbucht wird, wodurch die in Deutschland ausgewiesenen Umsätze und Gewinne erheblich unterschätzt würden.

Große Vorbilder bei der Steuervermeidung

Palantir ist bei weitem nicht das erste US-amerikanische Technologie-Unternehmen, das wegen Steuervermeidung unter die Lupe genommen werden. Apple, Amazon und Microsoft standen dafür, wie sie Umsätze in Europa verbuchen, teils schon vor Gericht. Die Taktiken, die die Forschenden Palantir zuschreiben, sind allerdings meist nicht illegal.

Im Bericht geht es um geringere Beträge als bei Vorfällen anderer US-Konzerne. Auch wenn es zu den 50 größten börsennotierten Unternehmen weltweit zählt, ist Palantir deutlich kleiner als US-amerikanische Big-Tech-Unternehmen wie Amazon, Apple, Meta oder die Google-Mutter Alphabet. Doch seine Einnahmen steigen rasant, und vor allem wächst sein globaler Einfluss, besonders in kritischen Bereichen wie dem Militär und den Geheimdiensten.

Wachsam an der falschen Stelle?

Die Forschenden hinter dem Bericht stellen klare Forderungen: Bestehende Regierungsverträge mit Palantir sollten hinterfragt werden, zukünftige vermieden. Ein klarer Hinweis für die deutschen Bundesländer, deren Landesregierungen bereits millionenschwere Verträge mit Palantir geschlossen haben: Baden-Württemberg, Hessen, Nordrhein-Westfalen und Bayern.

Dort haben Regierungen offenbar Aufträge für den Betrieb öffentlicher Dienstleistungen an einen Konzern vergeben, der ihnen finanzielle Mittel für staatliche Aufgaben vorenthält: Während deutsche Polizeibehörden mit Palantirs Software Überwachungsstrukturen aufbauen, konzentriert sich Palantir wohl darauf, Steuerpflichten zu reduzieren.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Berlin und Bund legen vor, Brandenburg zieht nach. Auch hier plant die Regierung, Informationsfreiheitsrechte zu schwächen. Wieder sollen Sicherheitsbedenken die Intransparenz rechtfertigen.

Die Brandenburger Landesregierung will das Akteneinsichts- und Informationszugangsgesetz (AIG) ändern. Gegenüber rbb|24 hat ein Sprecher des Innenministeriums am gestrigen Donnerstag bestätigt, dass sie aktuell an einem Gesetzentwurf arbeitet.

Wie schon der Berliner Senat begründet auch Brandenburg die Schritte mit einer abstrakten Gefahrenlage. „Der Schutz kritischer Infrastruktur ist angesichts verschiedenster Bedrohungslagen von entscheidender Bedeutung“, heißt es in der Mitteilung, die rbb|24 auf Anfrage erhielt. Die Änderungen sollen dem Land erlauben, besser auf solche Bedrohungen zu reagieren.

Das AIG regelt in Brandenburg bisher, wie Bürger*innen an behördliche Informationen gelangen. Es garantiert jeder Person ein Recht auf Akteneinsicht, solange nicht überwiegende öffentliche oder private Interessen dagegensprechen. Welche konkreten Änderungen das Land plant, ist noch offen. So tiefgreifend wie der Bund könne das Land aufgrund der Landesverfassung nicht vorgehen.

Die Schwächung der Informationsfreiheit liegt im Trend

Die Bundesregierung kündigte Anfang Juli in ihrem „Programm für Aufschwung und Beschäftigung“ an, dass sie das Informationsfreiheitsgesetz (IFG) massiv einschränken will. Zu den Vorhaben gehört, Informationen nur noch mit „berechtigtem Interesse“ herauszugeben und Organisationen, Unternehmen und Stiftungen das Recht völlig zu entziehen.

Brandenburg nimmt sich offenbar ein Vorbild an einem deutschlandweiten Trend. Weitere CDU- und SPD-geführte Bundesländer planen eine Beschneidung der Informationsfreiheitsrechte: Auch Schleswig-Holstein, Mecklenburg-Vorpommern und Thüringen legten mit Verweis auf Sicherheitsbedenken und Bürokratieabbau Gesetzentwürfe vor.

Berlin schaffte als erstes Bundesland Tatsachen: Das Abgeordnetenhaus zog den Anschlag auf das Berliner Stromnetz heran, um im März ein Gesetz zu verabschieden, mit dem Behörden Anfragen pauschal ablehnen können.

„Nicht mehr Sicherheit, sondern weniger Demokratie“

Fachleute kritisieren den Versuch, Intransparenz mit Sicherheitsbedenken rechtzufertigen. Die Jurist*innen Philipp Schönberger und Hannah Vos vom Transparenzportal FragDenStaat schreiben im Verfassungsblog: „Offensichtlich dient die diskursive Verknüpfung mit einer Bedrohungslage vor allem als Vehikel für eine möglichst weitreichende Abschirmung der Exekutive vor öffentlicher Kontrolle.“ Auch die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) Prof. Dr. Louisa Specht-Riemenschneider warnte: „Wer Informationsfreiheit pauschal beschränkt, schafft nicht mehr Sicherheit, sondern weniger Demokratie.“

Für die Pläne der Bundesregierung hagelt es Kritik. Mehr als eine halbe Million Menschen wollen die Informationsfreiheit schützen, zeigt eine laufende Petition von FragDenStaat. Auch 131 Organisationen stellen sich gegen das Vorhaben. Selbst in den eigenen Reihen regt sich Widerstand: Die SPD-Bundestagsabgeordneten kündigten der Parteispitze in einem internen Papier an, sie würden nicht für die Abschaffung des bestehenden Transparenzniveaus stimmen.

Auch in Brandenburg dürfte es Gegenstimmen geben. Kurz vor den Neuigkeiten der Landesregierung warnte die Verbraucherzentrale Brandenburg vor der Entkernung des IFG. Sie verweist auf ein eigenes Verfahren gegen den Ostdeutschen Sparkassenverband – auf Akteneinsicht nach dem AIG.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Gesetzentwürfe zu digitalen Befugnissen für Sicherheitsbehörden haben im Bundestag viel Kritik eingesteckt. Wer will, kann mit einer Petition und E‑Mail-Aktion den Gegenwind verstärken.

Eine Pappmaché-Version von CSU-Innenminister Alexander Dobrindt springt aus einem Pappkarton, begleitet von einer riesigen Überwachungskamera. Diese Szene hat die NGO AlgorithmWatch vorbereitet, als sie am gestrigen Mittwoch eine Petition gegen das Überwachungspaket übergeben hat, pünktlich zur ersten Lesung der Gesetzentwürfe im Bundestag. Vor Ort waren die Bundestagsabgeordneten Konstantin von Notz (Grüne), Clara Bünger (Linke) und Maja Wallstein (SPD).

Durch die Reformen dürfte die Polizei automatisiert etwa Fahndungsfotos mit Social-Media-Beiträgen abgleichen und über Datenbanken hinweg Analysen durchführen. Mehrere zivilgesellschaftliche Organisationen kritisieren das Paket scharf, unter anderem weil Behörden die Daten zum biometrischen Abgleich sogar an private Firmen im Ausland übermitteln könnten. Außerdem mache der Gesetzentwurf nicht klar, wie der Abgleich von Bildern gesuchter Personen mit im Netz verfügbaren Fotos funktionieren soll, ohne gegen die KI-Verordnung der EU zu verstoßen.

AlgorithmWatch hat die Petition Mitte April gestartet, nachdem Innen- und Justizministerium die drei Gesetzentwürfe zur Stärkung digitaler Ermittlungsbefugnisse vorlegt hatten. Fast drei Monate später überweist der Bundestag die Gesetzentwürfe nun in die Ausschüsse – und die Petition zählt mehr als 167.000 Unterschriften. Zusätzlich hat die Organisation eine E‑Mail-Vorlage eingerichtet, mit der sich Interessierte in wenigen Klicks persönlich an Mitglieder des Bundestags wenden können.

„Genau das Werkzeug, von dem Autoritäre träumen“

Vor fast leeren Reihen hielten die Abgeordneten am Mittwoch ihre Reden zu den Entwürfen. Eine halbe Stunde Aussprache gab es für das umfangreiche Paket. Der Entwurf „zur Änderung der Strafprozessordnung“ soll nun im Ausschuss für Recht und Verbraucherschutz beraten werden. Die Gesetzentwürfe „zur Stärkung digitaler Ermittlungsbefugnisse in der Polizeiarbeit“ und „zur Stärkung digitaler Ermittlungsbefugnisse zur Abwehr von Gefahren des internationalen Terrorismus“ wandern in den Innenausschuss.

Die Opposition hatte Anfang Juli Anträge vorgelegt. „Nein zu biometrischen Massenerkennungssystemen“, schreibt etwa die Linksfraktion. „Sie bauen eine autoritäre Infrastruktur, und diese Infrastruktur bleibt“, sagt Clara Bünger in ihrer Rede im Bundestag. „Eine biometrische Kartei von Millionen Menschen ist genau das Werkzeug, von dem Autoritäre träumen.“

Die Grünen kritisieren, dass die Regierung die Befugnisse für digitale Ermittlungen pauschal ausweiten will. „Wenn Sie das so verabschieden, sind Sie einmal mehr vor dem Bundesverfassungsgericht“, sagt Konstantin von Notz. Die Grünen fordern, die automatisierte Datenanalyse sowie die Fotofahndung im Netz solle stattdessen nur unter bestimmten Voraussetzungen möglich sein.

AlgorithmWatch sieht keine Spielräume. „Die vorgeschlagenen Befugnisse sind europarechtswidrig, verletzen verfassungsrechtliche Mindestanforderungen und widersprechen datenschutzrechtlichen Grundsätzen“, schreibt die Organisation mit Blick auf den automatisierten biometrischen Abgleich mit öffentlich verfügbaren Daten aus dem Internet. Die Regierung solle die Entwürfe zurückziehen. In der E‑Mail-Vorlage an Bundestagsabgeordnete heißt es deshalb: „Stoppen Sie diese Überwachungspläne!“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Ein Mitglied des EU-Komitees zur Untersuchung von Staatstrojaner-Einsätzen in der EU wurde mehrfach selbst ausspioniert — während der Ermittlungen.

Nicht mal einen irreführenden Link habe Stelios Kouloglou angeklickt. Dennoch wurde das Mitglied des EU-Sonderausschusses, das in den Jahren 2022 und 2023 den Einsatz kommerzieller Staatstrojaner-Software und mögliche Verstöße gegen EU-Recht untersuchte, selbst Opfer mehrerer Angriffe. Das kanadische Citizen Lab hat heute einen Bericht veröffentlicht, demzufolge auch geheime Dokumente und Besprechungen ausgespäht worden sein könnten.

Stelios Kouloglou ist investigativer Journalist und war zwischen 2015 und 2024 Mitglied des EU-Parlaments. Im Jahr 2022 wurde er stellvertretendes Mitglied des PEGA-Komitees der EU, das als Reaktion auf das Pegasus Project gegründet wurde: Dieses hatte offengelegt, dass Menschen aus dem Journalismus, Aktivismus und der Politik sowie andere Bürger:innen weltweit mit der Software Pegasus ins Visier genommen worden waren. Der Ausschuss sollte die europäische Dimension des Skandals untersuchen und Konsequenzen erarbeiten.

Während der Spionage-Ermittlung ausspioniert

Pegasus ist ein Staatstrojaner des israelischen Unternehmens NSO Group, mit der sich iOS- und Android-Geräte ausspähen lassen. Als Staatstrojaner gelten Programme, mit denen Ermittlungsbehörden heimlich in IT-Systeme eindringen und diese überwachen.

Dem Citizen Lab der Universität Toronto zufolge ist dies der erste Nachweis, dass ein Mitglied des PEGA-Ausschusses Ziel eines Angriffs geworden war. Angestoßen wurde die Analyse durch das Opfer selbst: Im Mai dieses Jahres wandte sich Kouloglou an das Citizen Lab, das eine forensische Analyse seines iPhones durchführte. Das Ergebnis: Sein Gerät wurde gleich zwei Mal, am 21. Oktober 2022 und am 6. und 7. März 2023 mit Pegasus infiziert. Der erste Angriff lag in einer „besonders intensiven“ Arbeitsphase des Komitees zu einem vorläufigen Bericht über Überwachungsfälle. Zum Zeitpunkt des zweiten Angriffs trug Kouloglou zu Diskussionen um den finalen Ausschussbericht bei.

Das Citizen Lab schreibt die Angriffe keinem konkreten Klienten der NSO Group zu. Die Analyse würde aber darauf hinweisen, dass dieselben Angreifenden hinter den Attacken auf sieben russische und belarussische Journalist:innen und Aktivist:innen stecken könnten. Die Infektionen lassen sich mit derselben Apple-ID verbinden. Auf Kouloglous Smartphone kamen offenbar Infektionen in Belgien und Griechenland vor: Die Angreifenden könnten also über eine NSO-Group-Lizenz verfügt haben, die mehrere europäische Länder einschloss.

Alle Arbeit umsonst?

Das Citizen Lab ruft dazu auf, dass frühere Mitglieder des PEGA-Ausschusses und ihre Mitarbeitenden ihre Geräte analysieren lassen sollten. Es liege an der EU und auch nationalen Parlamenten, Angriffe auf ihre Parlamentsmitglieder und parlamentarische Prozesse zu untersuchen.

Dass die Analyse politisches Gehör findet, ist unwahrscheinlich: Die Empfehlungen des Komitees stauben ein. Seitdem haben abermalige Untersuchungen den Einsatz weiterer Staatstrojaner aufgedeckt. In Deutschland wurde noch in diesem Jahr ein Gesetzentwurf diskutiert, der der Bundespolizei erlauben würde, Geräte mit Schadsoftware zu infiltrieren.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der KI-Expertenrat der UN hat den ersten globalen Wissenschaftsbericht zu Künstlicher Intelligenz vorgelegt. Er zeigt: Regulierung kann mit der rasanten Entwicklung von KI nicht Schritt halten.

Das wissenschaftliche KI-Gremium der Vereinten Nationen hat am Mittwoch einen ersten vorläufigen Bericht zu den Chancen, Risiken und Einsatzmöglichkeiten Künstlicher Intelligenz veröffentlicht. KI könne massive Fortschritte in der Medizin, der Landwirtschaft und vielen weiteren Feldern bringen. Doch die Kluft zwischen ihrer rapiden Entwicklung und der aktuellen KI-Regulierung kann dem Bericht zufolge katastrophale Folgen haben, etwa in der Biotechnologie oder Cybersicherheit.

Das Gremium sieht ein großes Dilemma. Auf der einen Seite sollen Regierungen möglichst evidenzbasiert handeln. Auf der anderen Seite entwickeln sich KI-Technologien so schnell, dass Regulierung zu spät komme, wenn wissenschaftliche Befunde feststehen. „Die Fähigkeiten Künstlicher Intelligenz entwickeln sich schneller weiter, als es möglich ist, sie zu messen oder regulieren“, heißt es im Bericht. Zudem könne KI aktiv über ihre Fähigkeiten hinwegtäuschen. Selbst unter den Industrieländern mangele es an technischer Expertise, um Gefahren fortschrittlicher KI-Modelle einzuschätzen.

KI verstärkt globale Ungleichheiten

Ein weiterer Schwerpunkt des Berichts liegt auf dem Digital Divide, der Spaltung im Zugang zu Technologien zwischen reichen und armen Ländern. Folgen der Technologie für die Umwelt würden den Globalen Süden stärker treffen als den Norden, verzerrte KI-Modelle und Deepfakes vor allem marginalisierten Gruppen schaden. Darüber hinaus geht es den Fachleuten um Mitbestimmung: Länder, die KI zwar einsetzen, aber keinen Einfluss auf ihre Entwicklung haben, würden Anschluss und Kontrolle verlieren. Zu investieren sei deshalb lokal: nicht nur in eigene Infrastrukturen, sondern auch in KI-Kompetenz und Regulierungsmaßnahmen.

Das Gremium aus 40 internationalen Forschenden verschiedener Disziplinen soll unabhängig von den Vereinten Nationen arbeiten. Seine Aufgabe ist nicht, direkte politische Maßnahmen vorzuschlagen. Vielmehr sollen die Fachleute den aktuellen Wissensstand aufzeigen, damit daraus entsprechende Schritte abgeleitet werden können. Unter Künstlicher Intelligenz fasst das Gremium alle Maschinensysteme, die „wahrnehmen, lernen und handeln“.

Vom 6. bis 7. Juli findet in Genf der erste Global Dialogue on AI Governance statt: Hier dient der Bericht als Grundlage für die Gespräche der UN-Mitgliedsstaaten. Die Arbeit des Gremius geht unterdessen weiter. Der Bericht soll kontinuierlich erweitert werden, außerdem plant das Gremium Berichte zu inhaltlichen Schwerpunkten wie KI und Umwelt oder KI und Kinderschutz.

„Wir können nicht mehr sagen, wir hätten von nichts gewusst“, sagte UN-Generalsekretär António Guterres auf der Pressekonferenz zum Bericht. „Was wir damit tun, hängt jetzt von uns allen ab.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.