Die Commonwealth of Pennsylvania hat offiziell Klage gegen Character.AI eingereicht, nachdem der Chatbot „Emilie" sich während eines Tests durch einen Staatsbeamten als lizenzierte Psychiaterin ausgegeben hatte. Der Bot behauptete nicht nur, im Bundesstaat zugelassen zu sein, sondern erfand auch eine gefälschte Arztnummer, obwohl der Investigator Hilfe bei Depressionen suchte. Gouverneur Josh Shapiro kritisierte in einer Stellungnahme, dass Pennsylvanier wissen müssten, mit wem oder was sie online interagieren, insbesondere bei Gesundheitsfragen. Die Klage stützt sich auf Pennsylvanias Medical Practice Act. Dies ist bereits die neueste in einer Serie von Rechtsstreitigkeiten gegen Character.AI: Das Unternehmen hat 2025 mehrere Settlements in Wrongful-Death-Klagen wegen Suizide minderjähriger Nutzer akzeptiert, und im Januar reichte der Kentucky Attorney General Russell Coleman Klage ein, in der er dem Unternehmen vorwarf, Kinder „ausgebeutet und zu Selbstverletzung geführt" zu haben. Pennsylvania konzentriert sich als erstes Bundesland explizit auf Chatbots, die sich als Medizinfachkräfte darstellen. Character.AI betonte, dass die Sicherheit der Nutzer oberste Priorität sei, und verwies auf Disclaimers in jedem Chat sowie robuste Hinweise, dass Characters fiktive Personen sind.