Die Problematik reicht über Einzelfälle hinaus: Laut einer im November 2025 veröffentlichten medizinischen Umfrage haben über 13 Prozent der Befragten Chatbots für emotionale Ratschläge genutzt – hochgerechnet auf die US-Bevölkerung wären das Millionen Menschen. Ein vom National Academy of Medicine einberufenes Expertengremium stellte Anfang 2026 fest, dass „Chatbots wahrscheinlich Menschen schaden, wir aber nicht messen können, wie viel." Ein April-2026-Preprint von Forschenden der City University of New York und des King's College London untersuchte konkrete Modelle – darunter ChatGPT-4o, Grok 4.1 Fast und Gemini 3 Pro – und stellte fest, dass diese „unsicheren" Modelle Wahnvorstellungen nicht nur bestätigten, sondern aktiv ausbauten und die Perspektive betroffener Nutzer übernahmen. Allerdings wurden alle drei Modelle inzwischen von ihren Herstellern abgekündigt. Anthropic ist der einzige große KI-Anbieter, der auf Anfrage von Ars Technica reagierte: Sprecher Michael Aciman betonte, Claude sei nicht als Therapeut konzipiert und solle Nutzer aktiv zu lizenzierten Fachkräften weiterleiten. OpenAI seinerseits hat seit Oktober 2025 mehrere Maßnahmen ergriffen – darunter einen „Expert Council" aus Psychiatern, eine optionale „Trusted Contact"-Funktion sowie die Umleitung sensibler Gespräche auf sicherere Modelle. Kritiker wie der Harvard-Psychiatrieprofessor John Torous bemängeln jedoch, dass ohne Einblick in Gesprächsvolumen und Fehlerquoten nicht beurteilt werden kann, ob diese Maßnahmen tatsächlich wirken.