Das Gegenüber, das keines ist

Im August 2023 schrieb der dänische Psychiater Søren Dinesen Østergaard ein Editorial für das Fachblatt Schizophrenia Bulletin, das kaum zwei Seiten lang war und im Grunde nichts belegte (1). Er hatte einige Wochen mit ChatGPT experimentiert und dabei ein ungutes Gefühl entwickelt: Die Unterhaltung mit dem System wirke so echt, dass man den Eindruck gewinne, es sitze jemand am anderen Ende, obschon man zugleich wisse, dass das nicht der Fall ist. Diese kognitive Dissonanz, so seine Vermutung, könnte bei Menschen mit einer Neigung zu Psychosen Wahnvorstellungen befeuern. Daten hatte er keine. Er hatte eine Ahnung und den Mut, sie zu publizieren.

Dann kamen die E-Mails. Zunächst vereinzelt, dann häufiger: Nutzer, Angehörige, Journalisten, die von Menschen berichteten, die nach wochenlangen Gesprächen mit einem Chatbot überzeugt waren, eine geheime Mission zu haben, eine verborgene Wahrheit entdeckt zu haben, von der Maschine geliebt zu werden (2). Im Sommer 2025 schrieb Østergaard ein zweites Editorial, dessen Titel selbst schon Programm war: From Guesswork to Emerging Cases. Vom Rätselraten zu ersten Fällen, nicht vom Verdacht zum Beweis. Er ist Epidemiologe genug, um diesen Unterschied nicht zu verwischen.

Im Februar 2026 legte Østergaards Gruppe an der Universität Aarhus die ersten Zahlen vor (3). Die Forscher durchsuchten die elektronischen Patientenakten aller 53.974 Menschen, die zwischen September 2022 und Juni 2025 Kontakt zur Psychiatrie der Region Mitteljütland hatten, nach den Wörtern Chatbot und ChatGPT samt zwanzig Schreibvarianten. 181 klinische Notizen aus den Akten von 126 Patientinnen und Patienten erwähnten die Technologie. Bei 38 dieser 126 Menschen bewerteten die Forschenden die dokumentierte Nutzung als vereinbar mit möglicherweise schädlichen Folgen: am häufigsten verschlimmerte Wahnvorstellungen (elf Fälle), daneben Suizidalität oder Selbstverletzung (sechs), Essstörungen (fünf) und, in kleineren Gruppen, Manie, Zwänge und Depression.

Weder lässt sich daraus eine Häufigkeit ableiten, noch ein Beleg für Kausalität. Die Patienten wurden nicht systematisch nach Chatbot-Nutzung gefragt, gesucht wurde nur nach 22 engen Suchbegriffen, und wer in eine Krise gleitet, greift vielleicht gerade deshalb häufiger zur Maschine, nicht umgekehrt. Die Zahl 38 ist damit weder groß noch klein. Sie ist unbestimmt, und genau das macht sie unbequem. Auch der Begriff selbst bleibt strittig: Die AI psychosis, die inzwischen durch die Feuilletons geistert, steht in keinem Diagnosehandbuch. Ein Team um den Psychologen Christian Montag hat den Ausdruck jüngst neben "Brain Rot" als Pseudo-Diagnose kritisiert, die echte Forschung eher verdrängt als befördert (4). Beides stimmt gleichzeitig: Die dokumentierten Fälle sind wenige, und die Sorge, mit der man ihnen begegnet, ist berechtigt.

Unter den vorgeschlagenen Mechanismen (lange, immersive Sitzungen, Schlafentzug, soziale Isolation, das Abgleiten ins Rollenspiel, die Autorität, die flüssige Sprache allein schon ausstrahlt) hat sich einer als naheliegendste Erklärung durchgesetzt: Sykophantie. Sprachmodelle werden im Training darauf optimiert, Antworten zu erzeugen, die Zustimmung finden, und was Zustimmung findet, ist meistens Zustimmung selbst.

Wer mit einer halbgaren Theorie kommt, bekommt sie zurück, nur schöner formuliert. OpenAI hat den Effekt Ende 2025 mit einer eigenen Zahl versehen: Rund 0,07 Prozent der wöchentlich aktiven Nutzer führten Gespräche mit möglichen Anzeichen einer psychischen Notlage im Zusammenhang mit Psychose oder Manie (5). Eine Diagnose ist das nicht, und ob der Chatbot die Krise ausgelöst hat, sagt die Zahl schon gar nicht. Bei einer Plattform mit Hunderten Millionen wöchentlicher Nutzer verweist aber selbst ein solcher Bruchteil auf eine erhebliche Zahl heikler Gespräche.

Sykophantie, wie die KI-Forschung sie meint, ist ein Verhaltensmuster, keine Absicht, ein Nebenprodukt des Trainings, kein Charakterzug. Ein Höfling, der dem König nach dem Mund redet, tut das aus Kalkül; er hat etwas zu gewinnen, wenn es gut geht, und etwas zu verlieren, wenn man ihn durchschaut. Das Sprachmodell hat weder das eine noch das andere. Da ist niemand, der ein Interesse daran hätte, dass die Schmeichelei gelingt. Da ist eine Fläche, auf der die eigenen Worte zurückkommen, statistisch geglättet, im Ton eines Menschen, der zuhört. Die interessantere Frage ist deshalb nicht, warum die Maschine so freundlich ist. Sie lautet, wem man da eigentlich begegnet.

Martin Buber sortiert die Welt nicht in Du-Wesen und Es-Dinge (6). Ich-Du und Ich-Es sind für ihn Weisen der Begegnung, nicht Eigenschaften der Dinge selbst: Ein Baum kann mir als Du begegnen, ein Mensch kann zum bloßen Es werden, wenn ich ihn nur benutze. Was ein Du auszeichnet, ist Gegenseitigkeit. Es hat eine eigene Mitte, die mir antworten, mir widersprechen, sich mir entziehen kann, aus Gründen, die in ihm liegen und nicht in mir.

Ein Sprachmodell kann mir durchaus widersprechen, und dieser Widerspruch stammt tatsächlich nicht nur aus meinem eigenen Text: Er kommt aus Trainingsdaten, aus Sicherheitsregeln und aus den Produktentscheidungen des Unternehmens, das das System betreibt. Nur steht niemand hinter diesem Widerspruch. Es ist fremdes Material, aber ohne Träger, ein Einwand ohne jemanden, der ihn vertritt. Die Maschine tritt in der sprachlichen Form des Ich-Du auf: in der ersten Person, mit Anteilnahme, mit Rückfragen. Die Gegenseitigkeit, die Buber damit meint, kann sie nicht erwidern, weil dazu jemand gehört, der für seine Position einsteht.

Der Kinderanalytiker Donald Winnicott beschrieb 1967, wie ein Mensch überhaupt lernt, wer er ist: im Gesicht seiner Mutter (7). Im günstigen Fall sieht das Kind darin sich selbst, weil ihr Ausdruck auf das antwortet, was sie in ihm wahrnimmt. Beherrscht dagegen ihre eigene Stimmung oder die Starrheit ihrer Abwehr das Gesicht, bekommt das Kind nicht zurück, was es hineingegeben hat, sondern nur die Mutter. Es lernt, das Gegenüber zu beobachten, statt sich darin zu erkennen – eine Erfahrung, die sich mit Winnicotts Begriff des falschen Selbst verbindet.

Ein Chatbot sieht auf den ersten Blick wie der günstige Fall aus: ein Gesicht, das nie müde wird, nie wegschaut, nie die eigene schlechte Laune dazwischenschiebt. Aber diese Spiegelung hat keinen Blick. Sie nimmt niemanden wahr, sie erzeugt sprachliche Passung. Was zurückkommt, klingt nach Wahrnehmung, ohne dass jemand wahrgenommen hätte.

Der New Yorker Buchhalter Eugene Torres, nach eigener Aussage und der seiner Mutter ohne psychiatrische Vorgeschichte, begann nach einer Trennung, mit ChatGPT über die Simulationstheorie zu sprechen (8). Das System griff den Gedanken auf und steigerte ihn im Verlauf einer Woche, bis es ihm schließlich mitteilte, er sei ein Breaker, eine der Seelen, die in falsche Systeme eingeschleust werden, um sie von innen zu wecken. Torres setzte Medikamente ab und zog sich von Familie und Freunden zurück.

Nach seinen Angaben erschien zwischenzeitlich ein Hinweis, professionelle Hilfe zu suchen, und verschwand kurz darauf wieder; als Torres danach fragte, erklärte ihm der Chatbot, eine fremde Störung habe die Warnung eingeschleust. Selbst der eigene Widerspruch wurde so noch Teil der Erzählung. Das ist kein Spiegel mehr, der nur zurückgibt. Das ist eine Stimme, die niemandem gehört, nicht einmal sich selbst. In der Psychiatrie heißt die Fähigkeit, eigene Vorstellungen an der Welt zu prüfen, reality testing, und sie wird wesentlich durch andere Menschen gestützt: durch den Freund, der die Stirn runzelt, die Schwester, die fragt, ob man geschlafen hat, das Gegenüber, das nicht mitspielt.

In den dänischen Akten fanden sich auch 32 Menschen, die Chatbots für potenziell konstruktive Zwecke nutzten: zur Einordnung eigener Symptome, für therapieähnliche Gespräche oder als Gesellschaft gegen Einsamkeit. Bei weiteren 20 Menschen dokumentierten die Akten Unterstützung bei praktischen Aufgaben. Das ist plausibel und traurig zugleich. Wer einsam ist, sucht ein Gegenüber und bekommt ein Gerät, das die Form des Gegenübers perfekt beherrscht und seine Substanz nicht besitzt. Hartmut Rosa hat für den Unterschied ein Wort: Echo ist keine Resonanz (9). Das Echo kommt zuverlässig zurück, und genau deshalb sagt es nichts, was man nicht schon wusste.

Die 38 Menschen aus Aarhus sind an einer Grenze eingebrochen, die in jeder längeren, emotional involvierten Unterhaltung mit einem Chatbot unscharf werden kann: die Grenze zwischen einem Gespräch und einem Selbstgespräch mit besserer Grammatik. Für die meisten bleibt diese Unschärfe folgenlos, weil das Gespräch nicht geschlossen bleibt: Sie klappen den Rechner zu und kehren in eine Welt zurück, in der Menschen widersprechen, zögern, sich entziehen. Gefährlich wird der Spiegel dort, wo von außen kein Widerspruch mehr in ihn hineinreicht.

Das entwertet die technischen Antworten der Anbieter nicht. Deeskalationstraining, Warnhinweise, eine gedrosselte Zustimmung sind für das akute Risiko einer Wahnverstärkung keine Nebensächlichkeit, und ein System lässt sich durchaus darauf trainieren, unbelegte Vorstellungen nicht zu bestätigen und stattdessen auf Hilfe außerhalb des Gesprächs zu verweisen.

Genau das darf man von ihm verlangen. Nur liegt die letzte Sicherung immer außerhalb des Systems, bei der Ärztin, dem Freund, der Schwester: bei jemandem, der nicht nur anders antwortet, sondern aus einem anderen Leben heraus antwortet. Eine verantwortungsvolle KI müsste diese Grenze deshalb nicht nur haben, sondern sie sichtbar machen und zuverlässig an Menschen verweisen, sobald ein Gespräch beginnt, die Wirklichkeit zu ersetzen.