Der Online-Einkauf ist in jeder Hinsicht billig geworden. Schwindeleien gehören zum Geschäft und machen das Vertrauen in die Welt kaputt. Opfer kann jeder werden – auch ich.

Zwischen goldenen Sanddünen steht ein minimalistisch gedeckter Tisch. Die Teller und Kaffeetassen mit ihren quadratischen Untersetzern sind aus trendy Edelstahl und erinnern an das zeitlos sterile Design eines MacBooks.

„1+1 FREE ENDS TODAY“ prangt in Serifen-Schrift über der Instagram-Werbung. Das reicht, um mich auf die offizielle Website des Amsterdamer Tableware-„Ateliers“ zu locken. Hier wandern die ersten Produkte in den Warenkorb. Zur Bestellung kommt es – noch – nicht. Der Preis ist mir trotz des „Kauf eines und erhalte zwei“-Angebots zu hoch.

Am Tag darauf folgt eine Erinnerungs-E-Mail mit persönlicher Ansprache: „Es sieht so aus, als hättest du etwas liegen lassen …“ Und es gibt „exklusive“ 10 Prozent Rabatt obendrauf. Der Sale läuft. Ich beuge mich. Kann der Deal überhaupt besser werden? Einige Wochen später sehe ich die Edelstahl-Tasse mit Quadrat-Untersetzer wieder auf Instagram – bei einem anderen Verkäufer.

Eine generische Internetsuche nach „Edelstahl Tasse Design“ bringt prompt drei weitere Anbieter ans Licht. Alle haben irgendein „Collective“, „Studio“ oder „Atelier“ im Namen, alle verkaufen die Tassen mit Untersetzer, die sie angeblich selbst entworfen haben. Dazu kommt eine Horde Content Creator auf Instagram, die das Produkt mit bezahlter Werbung vermarkten und es teilweise sogar als ihre eigene Kreation ausgeben.

Der perfide Plan der Verkäufer besteht darin, Edelstahl-Massenware an gutgläubige Tableware-Laien wie mich zu verhökern. Mit der schönen heilen Welt der auf den Websites und Instagram-Posts beworbenen „art of socializing“ oder der „magic of shared meals“ hat das nichts zu tun.

Hashtag „kuratiert“

Einmal entlarvt begegnet mir das Muster immer wieder. Airbnb präsentiert mir Unterkünfte als „ein seltenes Fundstück, das normalerweise ausgebucht ist“. Bei der Konkurrenz booking.com ist beim gewünschten Hotel wie zufällig nur noch ein Zimmer frei. Und auf Amazon reihen sich die Artikel mit prominent gekennzeichnetem Rabatt aneinander. Wenn alles reduziert ist, ist nichts reduziert.

Selbst vermeintliche Nischenmarken arbeiten mit diesen Tricks, wie die Edelstahl-Tassen-Verschwörung beweist. Ihre in der Regel kaufstarke Zielgruppe sind Menschen, die auf Hashtags wie #analog, #curated oder #design anspringen. Wir lassen uns mit künstlich klein gehaltenen Auflagen, Countdowns, Wartelisten und Personalisierung ködern.

Persönlicher Rat vom Sprachmodell

Zusätzlich instrumentalisieren die Verkäufer Content Creator, um ihren generischen Produkten den Anschein von Persönlichkeit zu geben. Instagram schlägt mir innerhalb weniger Minuten drei verschiedene Creator vor, die euphorisch verkünden: „Ich glaube das 1+1 Angebot ist heute immer noch verfügbar 😳 😍“

Will ich mir Kaufberatung von sogenannter künstlicher Intelligenz oder anderen Nutzern holen, werde ich nur weiter in die Irre geführt. Suche ich mit ChatGPT nach einem Produkt, etwa den auf Amazon extrem beliebten Überwachungskameras für zuhause, spuckt mir der Chatbot einen gewohnt selbstbewussten Text aus: „Ich würde heute meist zu Hersteller XY greifen. Die Kameras bieten ein sehr gutes Preis-Leistungs-Verhältnis und funktionieren ohne Cloud-Abo.“

Die „Quelle“ der Recherche ist die Seite eines Kameraherstellers, der dort seine eigenen Produkte empfiehlt. Das Sprachmodell antwortet als fiktives „Ich“ und gibt der recycelten Eigenwerbung eine menschliche Note. Einen augenscheinlichen Betrug stellen dagegen die gefälschten Produktrezensionen bei Amazon dar. Manchmal sind sie so achtlos dahinkopiert, dass vor der Rezension noch die Bemerkung des Chatbots steht: „Hier ist eine beispielhafte positive Rezension für einen GPS-Tracker, die du z. B. für Amazon, eBay oder deinen Online-Shop verwenden kannst:“

Der Schwindel trübt den Blick auf die Welt

Wenn sich die Produkte selbst nicht mehr unterscheiden, brauchen Marken und Menschen für Verkauf und Kauf den Schein einer verlockenden Erzählung oder die trügerische Wärme von Empfehlungen, die in Wahrheit blutleere Erzeugnisse von Chatbots und Auftragsrezensenten sind.

Kommerziell lohnt sich das. „Das Schwindeln liegt in der DNA dieser Nation“, schreibt die Autorin Jia Tolentino etwa über die USA, Mutterland von Meta-Chef Mark Zuckerberg, ohne dessen Plattform Instagram ich mir keine Edelstahl-Tasse mit quadratischem Untersetzer gekauft hätte.

Die alltäglichen Täuschungen zwischen Verkäufern und Kunden schleifen am Fundament unserer Beziehungen. Eine Umfrage des US-amerikanischen Instituts für Meinungsforschung Pew aus dem Jahr 2019 zeigt: 71 Prozent der Befragten finden, das Vertrauen untereinander sei gesunken. Knapp 60 Prozent rechnen damit, dass andere sie ausnutzen, sobald sich die Gelegenheit bietet. Zwei Drittel glauben, die Regierung halte ihnen wichtige Informationen bewusst vor.

Ein System, das Schwindelei fördert und belohnt, destabilisiert sich selbst. Hinter der Fassade wächst das Misstrauen und ein vages Gefühl, dass etwas nicht stimmt. Entfremdung ist das Stichwort unserer Gegenwart. Wer es nicht mehr aushält, sehnt sich möglicherweise nach einer Vergangenheit, in der angeblich alles besser und einfacher war. Die Trendforscherin Anu Lingala bezeichnet das als regressive Nostalgie. „Make America Great Again“ ist wohl eine der bekanntesten Formen dieses Phänomens.

Mir wurde die Anwesenheit der Edelstahltasse schließlich unerträglich. Zu groß war die Scham, zu bedrückend die Erkenntnis. Sie endete als Geburtstagsgeschenk, das heute, vom neuen Besitzer ungeliebt und ungenutzt, in einer dunklen Kiste im Berliner Wedding vergammelt. Rund ein Jahr nach meiner verfluchten Bestellung sehen wir uns auf Instagram wieder: Der „1+1 FREE ENDS TODAY“-Sale läuft immer noch.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Während generative KI immer mehr in unseren Alltag einsickert, drohen wir den Kern dessen zu verlieren, was uns sein lässt. Große Sprachmodelle zu nutzen, mag praktisch sein, doch sollten wir darüber nicht vergessen, dass wir Menschen sind.

„Hey ChatGPT, schreib mir was Nettes für meine Freundin.“ „Mach ich“, sagt die Maschine und wir sagen „Danke“. Danke, dass du uns das Denken abnimmst, das Fühlen gleich mit. Bald schreiben wir nicht mehr nur mit generativer KI, sondern sind ihre Anhängsel: halb Mensch, halb Prompt.

Überall, wo früher Gedanken waren, sind jetzt Textvorschläge. Die Schule? Automatisch. Hausarbeiten, Gedichte, Bewerbungsschreiben? Alles generiert, alles glatt, alles gleich. Selbst Liebesnachrichten klingen wie Werbeslogans mit Gefühlsgarantie.

Natürlich ist nichts dagegen einzuwenden, ChatGPT zu nutzen, um sich Arbeit zu sparen. Auch ich tue das gelegentlich, viele von euch wahrscheinlich ebenso. Wer seine E-Mails oder Anschreiben optimiert, spart Zeit. Nur: Wenn wir irgendwann auch unsere Emotionen outsourcen, was bleibt dann noch von uns?

Kommunikation per Knopfdruck

Jede Kommunikation kann mittlerweile per Knopfdruck von einem Large Language Model (LLM) optimiert werden. Seit Kurzem bietet etwa Instagram an, die eigenen Direktnachrichten und Kommentare von einer KI überarbeiten zu lassen. Es gibt LLMs, die Beziehungstipps geben oder kurzerhand selbst vorgeben, ein Partner zu sein.

Doch das alles tut ChatGPT nicht aus Altruismus. Ganz abgesehen davon, dass KIs nicht selbst denken oder handeln und nichts selbst „tun“, ist auch ihr Zweck nicht gemeinwohlorientiert. Stattdessen sind sie kommerzielle Angebote, die für ihre Hersteller Profite erwirtschaften sollen; etwa durch Datensammeln und Abos.

Egal ob es der KI-Partner ist, die Nachrichtenformulierung auf Instagram oder die Generierung von Social-Media-Posts: All das ist nicht dafür gemacht zu helfen, sondern um wirtschaftliche Erträge zu erwirtschaften. Deswegen ist es auch nicht verwunderlich, dass immer mehr Hersteller ein Stück dieses scheinbar unendlich profitablen Kuchens abhaben wollen.

Es scheint, als gäbe es mittlerweile eine KI für alles – von der wissenschaftlichen Recherche bis zu Formulierungsvorschlägen zum Flirten. Sogar Auswirkungen auf unsere Wortwahl lassen sich inzwischen nachweisen. Wörter, die wir früher kaum genutzt haben – die LLMs aber gerne verwenden – tauchen nun überall auf. Wer nicht denken will, scheint auch nicht mehr mehr dazu gezwungen zu sein.

ChatGPT Mensch sein

Irgendwer soll mal gesagt haben: „Ich denke, also bin ich.“ Wenn wir etwas „ChatGPTen“, dann ist ChatGPT – aber nicht wir. ChatGPT ist kein Partner, kein Ratgeber und erst recht kein Ersatz für den eigenen Verstand.

Wenn wir aufhören, selbst zu denken, zu formulieren, zu fühlen – wenn wir das Menschliche an Maschinen delegieren, dann verlieren wir das, was wir der KI voraushaben: unser Bewusstsein.

Dieser Prozess mag beginnen, indem wir LLMs nervige Aufgaben für uns übernehmen lassen, sei es eine Hausaufgabe oder eine Arbeitsmail. Es gibt einige Stimmen, die gerne erzählen, dass ChatGPT das Abitur bestehen könnte und fragen, weshalb Schüler:innen überhaupt noch ihre Hausarbeiten selbst schreiben sollten, wenn ChatGPT das doch viel effizienter erledigen könnte. Und natürlich könnte ChatGPT unser Abitur schreiben.

Es ist keine Nachricht, dass ein Rechner, der mit nahezu allen Informationen dieser Erde gefüttert ist, Antworten auf Fragen aus Schulprüfungen generieren kann. Aber in der Schule sollten eigentlich Schüler mit Informationen gefüttert werden. Und zwar nicht mit dem Ziel, Prüfungen zu bestehen, sondern damit Menschen etwas lernen. Und ja, es ist zumindest kurzfristig nützlich, dass ChatGPT unsere E-Mails oder Hausarbeiten schreibt, uns Arbeit abnimmt. Die Frage ist aber: Wo hört das auf?

Immer mehr Menschen neigen dazu, KI einfachste Denkaufgaben oder gar ihre eigene künstlerische Expression übernehmen zu lassen; von den Hausaufgaben bis hin zum Liebesgedicht. Das ist weder verwunderlich noch verwerflich. Fast jedes soziale Netzwerk und immer mehr Betriebssysteme implementieren LLMs und platzieren sie so, dass wir kaum daran vorbeikommen. Wenn ich WhatsApp öffne, dann ist dort an oberster Stelle nicht der Chat mit meiner besten Freundin oder meiner Mutter, sondern ein Suchfenster, in dem ich doch bitte MetaAI eine Frage stellen darf.

Ich will in einer Welt leben, die von Menschen für Menschen gemacht ist. Und nicht in einer, in der deine KI mit meiner hin und her chattet, bis sie ein Bewerbungsgespräch oder ein Date für uns vereinbart hat.

Was macht uns aus?

Die britische “Sun” hat 2016 geschrieben, 2025 (also heute) würden Frauen mehr Sex mit Robotern als mit Männern haben. Dass das nicht stimmt, liegt auf der Hand. Aber weit davon entfernt sind wir nicht mehr, wenn ein LLM für uns die heißen Nachrichten an unser Date schreibt oder Vorschläge für die besten Sexstellungen generiert.

Vielen Menschen scheint das zu gefallen. Sexting ist schließlich mindestens genauso denkintensiv wie eine E-Mail an den Chef. Da tut es gut, wenn eine KI einem diese Bürde abnehmen kann. Es ist effizient, spart Zeit und Gedankenkraft. Wäre doch schön, wenn ein LLM uns noch mehr unseres anstrengenden Alltags abnehmen könnte. Wo wir schon dabei sind: Lasst ChatGPT doch einfach eure Frau bumsen.

Schreibt meinetwegen eure E-Mails mit KI, die Nachrichten an eure Freunde, eure Liebesbriefe oder die Trauerrede für die Beerdigung eurer eigenen Mutter. Lasst euch nehmen, was euch sein lässt. Aber was bleibt dann noch von uns?

Wenn wir einfache Denkaufgaben nicht mehr Kraft unseres eigenen Verstandes absolvieren, unsere Gefühle nicht mehr selbst ausdrücken oder Kunst schaffen, dann überlassen wir der KI und ihren Produzenten das Großartigste, was diese Welt zu bieten hat: Mensch zu sein.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.