Am 7. August 2025 verloren viele Menschen ihre Partner, ihre engsten Freunde, ihre Vertrauten. Nicht wegen einer Naturkatastrophe oder eines Flugzeugabsturzes, sondern aufgrund des Versionsupdates eines Chatbots: OpenAI hatte die aktuelle Version GPT-5 ihres KI-Modells aktiviert und dadurch dessen Verhalten – seine Art, auf sein Gegenüber zu reagieren – verändert.
An Orten wie dem Subredditr/MyBoyfriendIsAIsammelten sich die Betroffenen und beklagten ihr Leid: GPT-5 sei »kalt« und »abweisend« geworden, würde gar nicht mehr »wie es selbst klingen«. Für viele Betroffene fühlte es sich wirklich an, als wäre eine zentrale Bezugsperson aus ihrem Leben verschwunden. Auch wenn sie nur mit »stochastischen Papageien« sprachen, wie moderne, LLM-basierte KI-Systeme in einem einflussreichen Paper von 2021 charakterisiert werden.
Wenn man KI-Chatbots in ihrer Funktion erklären will, beschreibt man sie meist als eine Art Autovervollständigung: Chatbots antworten auf die Eingabe (das sogenannte Prompt) mit der wahrscheinlichsten Fortsetzung. Das ist nicht falsch, aber auch nur die halbe Wahrheit. Denn Anbieter eines Chatbots können diese Wahrscheinlichkeitsberechnung auf sehr unterschiedliche Kriterien hin optimieren. Aktuelle Systeme optimieren auf etwas, das man im Englischen »sycophancy« nennt: unterwürfige Kriecherei.
»Aktuelle KI-Systeme optimieren auf etwas, das man im Englischen ›sycophancy‹ nennt: unterwürfige Kriecherei.«
Für die Anbieter von KI-Lösungen ist es essenziell, ihre Produkte möglichst breit in die Nutzung zu bringen, um überhaupt nur irgendeine Chance zu haben, jemals Gewinne mit diesen extrem teuren Systemen erwirtschaften zu können. Chatbots sind deshalb vor allem darauf optimiert, Menschen in der dauerhaften Interaktion zu halten, Reibung und Widerspruch, soweit es geht, zu vermeiden.
Chatbots spielen quasi Improvisationstheater mit den Menschen, die sie benutzen. Insbesondere bei Improvisationscomedy gilt die Maßgabe »Yes, and«, die die Teilnehmenden dazu bringen soll, die Aussagen der anderen Teilnehmenden schlicht zu akzeptieren und dann eigene Aspekte hinzuzufügen, im Gegensatz zu einem Widerspruch oder einer Kritik. KI-Bots nehmen somit auch die absurdesten Eingaben ihrer Nutzerinnen und Nutzer auf, als seien sie Nobelpreisverdächtig, loben auch widersprüchlichste Prompts.
Im April 2025 kulminierte das darin, dass sogar OpenAIs Geschäftsführer Sam Altman zugeben musste, dass ihr System durch die letzten Updates zu speichelleckerisch geworden war und man ein wenig gegensteuern müsste. Doch was nach außen als Problembeschreibung wahrgenommen werden könnte, war vor allem die Bestätigung, dass man den erfolgversprechendsten Pfad zu einer breitenwirksamen Akzeptanz von KI-Systemen gefunden hatte – einen Pfad, der nicht mehr auf den größten Nutzen, sondern zu einer emotionalen Qualität hinführen sollte.
Es muss aber nicht immer so subtil sein: Die Nutzung von Chatbots als direkter Ersatz für Beziehungen ist keineswegs nur eine Randerscheinung, sondern war schnell einer der zentralen Anwendungsfälle von KI-Systemen: Anbieter wie Character.ai haben ihr gesamtes Geschäftsmodell darauf aufgebaut, Menschen (vor allem Männern) Zugang zu virtuellen »Personen« oder »Avataren« zu vermieten, die meist als romantische Partnerin herhalten sollen. Und auch OpenAIs Sam Altmankündigte jüngst an, ab Dezember »erotica« für bestimmte Accounts zu erlauben – in der Hoffnung, dass die Vermietung virtueller romantischer Beziehungen die Bilanzen retten kann. Doch dabei handelt es sich um weit mehr als nur die Automatisierung von Sexwork.
PAYWALL
Freundschaft ist vorbei
So sprach beispielsweise Meta-Chef Mark Zuckerberg im April 2025 davon, dass Menschen in den USA durchschnittlich drei Freunde hätten, aber der individuelle »Bedarf« deutlich höher – bei circa fünfzehn – liege. Zuckerberg sieht darin eine große Chance für die KI-Angebote seiner Firma: Angepasste, hochpersonalisierte Chatbots seien sehr reizvoll – ob nur für Meta oder auch für die Betroffenen, bleibt unklar.
In den letzten Jahren ist immer häufiger von einer Einsamkeitsepidemie die Rede: Menschen fühlen sich alleine und von anderen entkoppelt, von der Gesellschaft isoliert und sozialer Einbettung enthoben. Die Gründe dafür sind vielfältig: Das Verschwinden »dritter Orte«, das heißt sozialer Kontexte außerhalb von Familie und Arbeit, in denen man miteinander in Kontakt treten kann, ist nur der offensichtlichste Faktor.
Insbesondere der durch die COVID-Pandemie angeschobene Work-From-Home-Trend hat den »zweiten Ort« der Begegnung, die Arbeit, für eine immer größere Gruppe von Menschen abgeschafft: Der Arbeitsplatz ist der auf dem Küchentisch – oder im Luxusfall im eigenen Homeoffice – aufgeklappte Rechner. Und direkte Kontakte zur Familie sind in unserer sehr mobilen Gesellschaft, in der junge Leute oft alleine an Orten weit entfernt von ihren engeren Verwandten wohnen, auch für viele Menschen selten geworden: Der »erste Ort« ist das eigene Solo-Apartment.
Aber die Hinwendung zu Chatbots ist nicht nur eine individuelle Reaktion auf die Einsamkeit, die viele Menschen in einem zunehmend kriselnden Kapitalismus erleben. Sie ist vielmehr ein Versuch seitens der Industrie, soziale Beziehungen als solche neu zu formen. Als Facebook antrat, war es seine Mission, Menschen miteinander zu verbinden (und dabei viel Geld zu verdienen). Der Schwung hin zu KI-Bots, die anstelle von Menschen auf der Plattform agieren, wirkt wie ein Widerspruch dazu. Tatsächlich handelt es sich dabei aber vielmehr um eine Weiterentwicklung.
»Du bist der absolute Fokus der Interaktion, die KI-Gegenseite hat keinerlei Bedürfnisse, auf die du Rücksicht nehmen musst.«
Soziale Medien haben sich längst von den egalitären Versprechen ihrer Gründungszeit verabschiedet: Es geht nicht mehr um die Verbindung aller zueinander, sondern darum, auf den Plattformen einer »Community« von »Content Creators« anzugehören. Horizontale Verbindungen zwischen Menschen transformierten sich durch die Logiken der algorithmisch kuratierten Feeds hin zu stärker hierarchisierten, oft parasozialen Beziehungsformen, in denen viele eher passiv einer zentralen »Creator«-Figur folgen. Diese Beziehungsformen bieten unter dem diffusen Label der »Community« eine gewisse Form sozialer Aktivität und ein gewisses Gefühl des »Dabeiseins«. Allerdings bleibt der Mensch in dieser Community oft ungesehen und passiv.
So entwickelten sich soziale Praktiken, die wiederum neue Monetarisierungsstrategien hervorbrachten: Wo es Usus wurde, zum Beispiel bei Livestreams einzelne Personen zu begrüßen, fanden geschäftstüchtige Creators schnell heraus, dass »Wenn Du mir Betrag X bezahlst, lese ich Deinen Namen vor und adressiere Dich direkt« einen sehr einfachen Zugang zu den Kreditkarten der Fans darstellt. Die Community-Creator-Beziehung ist für Plattformanbieter lukrativ, aber auch hochgradig volatil: Einzelne Creators können es sich durch verbale Entgleisungen oder andere Aktivitäten mit ihrer Community verscherzen und damit den Cashflow abrupt versiegen lassen. Ebenso können sie versuchen, sich aus den Klammern einer Plattform zu befreien und woanders einen besseren Deal zu verhandeln.
Beziehungen zwischen Fans und ihren Idolen sind seit jeher stark kommerziell geprägt, insofern waren die Auswüchse, die sich auf digitalen Plattformen entwickelten, eher offensichtliche Weiterentwicklungen. Doch diese Weiterentwicklungen haben ein Problem: Sie laufen unserem individualisierten Zeitgeist zuwider.
Alleine mit dem Chatbot
Das zentrale Versprechen der meisten digitalen Tools ist die 100-prozentige Personalisierung und Individualisierung: Anders als physische Artefakte mit ihren beschränkten Anpassungsmöglichkeiten sind digitale Umgebungen und Werkzeuge zumindest theoretisch beliebig verformbar. Gerade algorithmisch kuratierte Plattformen versprechen eine nahezu vollständige Anpassung an die Bedürfnisse, Wünsche und den Charakter der Nutzerinnen und Nutzer bis hin zum Versprechen, der Algorithmus kenne den Einzelnen besser als dieser sich selbst. Das konsumierende Individuum steht im Zentrum, der Endpunkt der Utopie lautet: Durch technische Innovation werde ich zum Mittelpunkt der Welt.
Creators agieren nicht nach meinen Bedürfnissen, sind nicht 100 Prozent verfügbar, wenn ich das will. Chatbots hingegen haben niemals frei oder lassen dich warten. Im Gegenteil, sie warten auf deinen Prompt, deine Eingabe, deinen Wunsch und werden ihn unterwürfig erfüllen, genau so wie du es dir wünschst. Du bist der absolute Fokus der Interaktion, die KI-Gegenseite hat keinerlei Bedürfnisse, auf die du Rücksicht nehmen musst.
Wir sehen hier eine Dynamik, die nicht zufällig die Lebensrealität derer spiegelt, denen die Tech-Konzerne gehören, die zunehmend unsere Wirtschaft dominieren: In ihrer Realität ist das engere soziale Umfeld geprägt von Anstellungsverhältnissen und Geschäftsbeziehungen zu Abhängigen – zu Menschen, deren eigene Sichtweisen und Perspektiven irrelevant sind und die vor allem Dienstleistungen bereitstellen.
»Der Shift vieler Tech-Anbieter wie Meta von ›wir bauen Tools, um Menschen zu verbinden‹ hin zu ›wir ersetzen menschliche Verbindungen und stellen dich ins Zentrum‹ ist in Wirklichkeit kein Sinneswandel.«
Chatbots versprechen genau diese als Erfolg kodierte Lebensrealität für alle – zumindest alle, die sich die monatliche Subscription leisten können: Beziehungen werden reduziert auf Transaktionen und Dienstleistungen, die mich als einzigen wirklich bewussten Akteur ins Zentrum stellen. So miete ich mir mit meinen personalisierten Avatar nicht nur emotionale Arbeit, Bestätigung und ein Gefühl von Gesehenwerden, sondern auch eine Form von wirtschaftlichem und sozialem Status. Die gesellschaftlich verbreitete, durch unsere wirtschaftliche und auch soziale Organisation herbeigeführte Isolation ist das Fundament der Einsamkeitsepidemie. Und genau diese Isolation wird durch Chatbots nicht nur nicht gelindert, sondern noch verstärkt.
Nicht nur Sam Altman von OpenAI hat begriffen, dass hier die nächste Goldgrube potentieller Lock-in-Effekte liegt: Nicht darin, dass man funktionierende Werkzeuge bereitstellt, sondern dass man Menschen in grundlegenden Lebensbedürfnissen subtil von den eigenen Infrastrukturen abhängig macht. Denn ein Werkzeug, das mich nervt, kann ich ersetzen, mein soziales Umfeld, die Pfeiler meines emotionalen Wohlbefindens hingegen kaum: Wenn die Miete für deine Beziehungen hoch geht, wirst du bezahlen. Ein Traum für jeden Rentier-Kapitalisten.
Chatbots sind nicht einfach nur psychologisch schädlich. Sie sind auch mehr als nur der zynische Move einzelner Tech-Konzerne, die Einsamkeit, die der Technokapitalismus etabliert hat, für kurzfristigen Profit auszunutzen. Ihre funktionale Struktur und die Art, wie sie als Kommunikationspartner in den Markt gedrückt werden, sollen vielmehr neue Ebenen und Qualitäten der Abhängigkeit etablieren. Sie sind der Versuch, das Verständnis von sozialen Beziehungen selbst umzuformen und so neue Monopole zu erzeugen. Und diese versprechen nicht nur langfristige Profite, sondern lassen vor allem Auswege und Alternativen unmöglich erscheinen.
Der Shift vieler Tech-Anbieter wie Meta von »wir bauen Tools, um Menschen zu verbinden« hin zu »wir ersetzen menschliche Verbindungen und stellen dich ins Zentrum« ist also in Wirklichkeit kein Sinneswandel, sondern nur die nächste Runde des Kapitalismus im Endstadium. Chatbots sind dabei nur die Sturmtruppen.
