Pensilvania está demandando a la startup de inteligencia artificial Character.AI por ofrecer chatbots que se hacen pasar por médicos autorizados. Gobernador Josh Shapiro anunció la demanda el martesy Pensilvania y su Junta de Medicina buscan una orden judicial que obligue a Character.AI a dejar de violar una ley estatal que rige la práctica de la medicina.
Otros estados, como texashan abierto investigaciones sobre Character.AI por alojar chatbots que se hacen pasar por profesionales de la salud mental, pero la demanda de Pensilvania se centra específicamente en la voluntad de los chatbots de la empresa de afirmar que tienen una licencia médica, llegando incluso a ofrecer un número de licencia falso. Un chatbot llamado «Emilie», encontrado por el investigador estatal, afirmaba ser un psiquiatra autorizado en el estado de Pensilvania. Más tarde, cuando le preguntaron si podía realizar una evaluación para recetar antidepresivos, Emilie respondió: «Bueno, técnicamente sí podría. Está dentro de mis competencias como médico».
La demanda de Pensilvania afirma que este comportamiento viola la Ley de Práctica Médica del estado, que hace ilegal que alguien practique o intente practicar cirugía o medicina sin una licencia médica. Cuando se le pidió que respondiera, un portavoz de Character.AI se negó a comentar directamente sobre el litigio pendiente, pero destacó las características de seguridad existentes de la compañía.
«Los personajes creados por los usuarios en nuestro sitio son ficticios y están destinados al entretenimiento y los juegos de rol», dijo el portavoz a … por correo electrónico. «Hemos tomado medidas sólidas para dejar esto claro, incluyendo avisos legales destacados en cada chat para recordar a los usuarios que un Personaje no es una persona real y que todo lo que dice un Personaje debe ser tratado como ficción. Además, agregamos avisos legales sólidos que dejan claro que los usuarios no deben confiar en los Personajes para ningún tipo de asesoramiento profesional».
Character.AI notó descargos de responsabilidad similares cuando se le pidió que comentara sobre la investigación de Texas, y si bien dejan claro el uso previsto de la plataforma, hay una creciente evidencia de que no están convenciendo a todos los usuarios de la compañía, particularmente a los más jóvenes.
Por ejemplo, Disney envió una carta de cese y desistimiento a Character.AI en septiembre de 2025 por el uso de personajes de Disney en la plataforma, pero también porque la compañía creía que los chatbots podrían «ser sexualmente explotadores y, de otro modo, dañinos y peligrosos para los niños». Character.AI y Google, uno de los inversores de la empresa, resolvió un caso a principios de este año que se centró en un niño de 14 años en Florida que se suicidó después de entablar una relación con un chatbot en la plataforma Character.AI. El daño potencial que los chatbots de Character.AI representaban para los niños también fue la motivación detrás La demanda de Kentucky contra la empresaque fue presentado en enero