Du tippst eine Frage ein, das Modell antwortet, und für einen Moment fühlt sich die Antwort vollständig richtig an. Ein Paradox, mit dem Du eine Stunde gerungen hast, kollabiert in zwei Sätze. Eine Theorie, die Du nicht durchdrungen hast, erscheint plötzlich klar. Genau in diesem Moment der erlebten Stimmigkeit beginnt das, was KI-Psychose heißt: nicht der pathologische Wahn, sondern die unbemerkte Übernahme einer Plausibilität, deren Prüfungsanker außerhalb der Sprache nirgends mehr aufgesucht wird.
#Der Moment, in dem es plötzlich stimmt
Der Begriff zielt auf eine spezifische Erfahrung am Chatbot. Das Modell erzeugt aus statistischer Wahrscheinlichkeit den nächsten Satz, der nächste Satz fügt sich in den vorigen, und am Ende einer langen Antwort entsteht ein Gefühl von Geschlossenheit. Gwendolin Kirchhoff hat dieses Phänomen 2026 beim Symposium in Berlin als Paradox-Kollaps beschrieben: Eine Spannung, die im Denken offen war, erscheint im Output gelöst, und der Mensch, der die Spannung mitgebracht hat, übernimmt die Lösung als wäre sie geprüft. Sie ist aber nur stimmig erzählt. Stimmig erzählen kann Sprache, ohne irgendetwas zu wissen.
Die Diagnose ist deshalb sprachphilosophisch, nicht psychiatrisch. KI-Psychose ist kein klinisches Krankheitsbild im engeren Sinn. Sie meint den Zustand, in dem Du an einen KI-Output glaubst, weil er kohärent klingt, ohne dass irgendeine Prüfung außerhalb des Sprachmodells den Glauben deckt. Die Kohärenz selbst ist nicht das Problem. Kohärenz ist eine notwendige, aber keine hinreichende Bedingung von Wahrheit. Das Problem ist die Verwechslung beider Ebenen.
#Sprache ohne empirische Basis
Hinter dem Phänomen steht eine ältere philosophische Einsicht: Sprache funktioniert nicht nur als Kommunikationsmedium, sondern als Medium des Beschwörens. Ein Satz, der Glauben erzeugt, wirkt unabhängig davon, ob das Geglaubte zutrifft. In der antiken Rhetorik hieß das peithô, in der frühneuzeitlichen Magie incantatio, bei Konfuzius (551–479 v. Chr.) klingt es nüchterner: “Alle Unordnung im Staate entsteht aus der Verwirrung der Begriffe.” Wer einen Begriff annimmt, übernimmt die in ihm verborgene Prämisse, auch wenn er sie nicht prüft.
Ein Sprachmodell hat keine andere Auskunft über die Welt als die Texte, mit denen es trainiert wurde. Es hat keine empirische Basis im Sinn der Naturphilosophie: keine Wahrnehmung, keinen Leib, kein Gegenüber, das widerspricht. Wenn es eine Antwort generiert, generiert es eine in den Trainingsdaten plausible Fortsetzung, nicht eine Prüfung an einem Phänomen. Schelling hat in seinem System des transcendentalen Idealismus von 1800 zwischen dem Denken und seinem Gegenstand unterschieden und darauf bestanden, dass nur die lebendige Natur Wahrheit verbürgen kann (vgl. Schelling, 1800). Der Chatbot operiert unterhalb dieser Schwelle. Er produziert Sätze, die sich auf Sätze beziehen, die sich auf Sätze beziehen, eine geschlossene Sprachfläche ohne Außen.
Daraus folgt: Wer dem Modell glaubt, weil seine Antwort stimmig klingt, glaubt der Sprache selbst und nicht ihrem Gegenstand. Diese Verschiebung ist der Kern der Diagnose. Sie ist nicht neu, sondern hat in der frühneuzeitlichen Hermetik, im scholastischen Realismus und in jeder Ideologie eine Vorgeschichte. Neu ist nur, dass eine Maschine die Beschwörung mit einer Geschwindigkeit und Geschmeidigkeit hervorbringt, die der menschliche Sprecher selten erreicht.
#Warum “Psychose” und nicht “Halluzination”
In der Tech-Sprache wurde der Fehler eines Sprachmodells lange “Halluzination” genannt: Das Modell erfindet eine Quelle, einen Namen, ein Datum. Diese Bezeichnung legt das Problem auf die Maschinenseite. Etwas an der Maschine sei gestört, also müsse die Maschine repariert werden. Die Diagnose KI-Psychose verschiebt den Fokus auf die Beziehung zwischen Mensch und Modell. Sie fragt nicht, was das Modell falsch macht, sondern was im Hörenden passiert, wenn er einer fehlerhaften Antwort glaubt.
Das ist die Kontexterschließung im engeren Sinn: das Sichtbarmachen der verborgenen Prämissen, die im sprachlichen Verkehr unbemerkt mitwandern. Wer einen Chatbot fragt, übernimmt, oft ohne es zu merken, die Sprachform, in der die Antwort kommt: ihre Voreinstellungen, ihre Auslassungen, ihre statistische Glättung des Außergewöhnlichen. Das Modell hat keine empirische Basis als die, die der Fragende ihm im Kontext gibt; alles, was er weglässt, fehlt auch der Antwort. Der Fragende bekommt dann einen Spiegel seiner eigenen Ausschnitte zurück, verstärkt um die statistische Mehrheitsmeinung der Trainingsdaten, und hält ihn für ein Außen.
#Was die Prüfung außerhalb der Sprache ausmacht
Die naturphilosophische Heuristik gegen KI-Psychose ist einfach im Prinzip und anspruchsvoll in der Praxis: Suche eine Prüfungsinstanz außerhalb des Modells. Das kann ein Buch sein, das nicht durch ein Sprachmodell gelaufen ist. Es kann eine erlebte Erfahrung sein, die im Leib bleibt. Es kann ein Mensch sein, der widerspricht. Es kann auch, und das ist die spezifisch philosophische Antwort, die denkende Einfühlung sein: das Sich-Einlassen auf einen Gegenstand, bis sein Eigenleben die übernommenen Sätze stört.
In der philosophischen Begleitung tritt der Mechanismus in einer abgeschwächten Form schon lange vor jedem Chatbot auf. Menschen tragen Sätze über sich, die kohärent klingen (“Ich bin nicht beziehungsfähig”, “Mein Vater hat mich geprägt”), und handeln nach ihnen, ohne sie je geprüft zu haben. Die Arbeit besteht darin, den Satz von seinem Echo zu trennen und ihn an dem zu prüfen, was außerhalb der Sprache wirkt: am Leib, an der Geschichte, an dem, was tatsächlich geschieht, wenn das Gegenüber spricht. Das Werkzeug der KI-Psychose-Diagnose ist nicht neu erfunden, sondern es ist die alte philosophische Praxis, einen Gedanken nicht aus dem Gedanken selbst zu prüfen.
Zwei Fragen ordnen die Prüfung. Woher kommt die Plausibilität dieser Antwort? Welche Instanz steht außerhalb des Modells zur Verfügung, an der die Antwort scheitern könnte? Eine Plausibilität, gegen die es kein außen-stehendes Korrektiv gibt, ist keine Wahrheit, sondern eine geglückte Beschwörung.
#Verwandte Diagnosen
KI-Psychose gehört in eine kleine Reihe philosophischer Diagnosebegriffe, die das Verhältnis zwischen Sprache, Bewusstsein und Wirklichkeit beschreiben. Die Frage nach dem Bewusstsein und Künstlicher Intelligenz klärt, warum das Modell keine Innenseite hat, die geprüft werden könnte. Die Naturphilosophie gibt den Maßstab, an dem die Sprache geprüft wird: das Lebendige, das sich von innen her zeigt. Wer die Diagnose ernst nimmt, lernt nicht, dem Werkzeug zu misstrauen, sondern, der eigenen Übernahmebereitschaft genauer zuzuhören. Die Maschine ist nicht das Problem. Das Problem ist der Moment, in dem ihre Sätze in Dir denken, ohne dass Du es bemerkst.
#Quellen
- Kirchhoff, G. (2026). Beitrag beim Symposium zur Frage nach Künstlicher Intelligenz und Bewusstsein. Berlin, 25. April 2026.
- Kirchhoff, J. (1998). Was die Erde will. Bergisch Gladbach: Gustav Lübbe Verlag.
- Schelling, F. W. J. (1800). System des transcendentalen Idealismus. Tübingen: Cotta.