Apenas unos días después del CEO de OpenAI, Sam Altman escribió una disculpa pública Para la gente de Tumbler Ridge, Columbia Británica, después del mortal tiroteo en la escuela de la ciudad el 10 de febrero, las familias de las víctimas del evento traumático están demandando a OpenAI por negligencia.
En el tiroteo masivo, uno de los más mortíferos en la historia de Canadá, el presunto tirador, Jesse Van Rootselaar, de 18 años, entró en la escuela secundaria local de la ciudad y mató a cinco estudiantes y un maestro, además de herir gravemente a otros dos, antes de quitarse la vida. Más tarde, la policía local descubrió que Van Rootselaar también había matado a su madre y a su medio hermano de 11 años antes de entrar a la escuela.
Por NPRlos abogados que representan a algunas de las familias de Tumbler Ridge presentaron seis demandas diferentes el miércoles en un tribunal federal de San Francisco. Una de las denuncias, presentada en nombre de Maya Gebalaun sobreviviente del tiroteo, alega que los sistemas de seguridad automatizados de OpenAI detectaron las conversaciones ChatGPT de Van Rootselaar en junio de 2025, más de medio año antes de que ella ingresara a la escuela secundaria de la ciudad con un arma larga y un rifle modificado, por «actividades y planificación de violencia armada». Además, afirma que el equipo de seguridad de OpenAI instó a la dirección a ponerse en contacto con las autoridades, pero que la empresa optó por desactivar la cuenta de Van Rootselaar. Luego creó una segunda cuenta y continuó sus conversaciones con ChatGPT.
«Los acontecimientos en Tumbler Ridge son una tragedia. Tenemos una política de tolerancia cero para el uso de nuestras herramientas para ayudar a cometer violencia», dijo un portavoz de OpenAI a …. «Como compartimos con los funcionarios canadienses, ya hemos fortalecido nuestras salvaguardas, incluida la mejora de la forma en que ChatGPT responde a las señales de angustia, conectando a las personas con apoyo local y recursos de salud mental, fortaleciendo la forma en que evaluamos y escalamos las posibles amenazas de violencia y mejorando la detección de infractores reincidentes».
El martes por la noche, OpenAI publicó un publicación de blog delineando sus políticas de seguridad. «Como parte de este trabajo en curso, hemos seguido ampliando nuestras salvaguardas para ayudar a ChatGPT a reconocer mejor los signos sutiles de riesgo de daño en diferentes contextos. Algunos riesgos de seguridad solo se vuelven claros con el tiempo: un solo mensaje puede parecer inofensivo por sí solo, pero un patrón más amplio dentro de una conversación larga, o entre conversaciones, puede sugerir algo más preocupante», escribió la compañía.
Las demandas presentadas el miércoles son el último intento de utilizar el sistema legal para responsabilizar a OpenAI por el diseño de sus productos. El verano pasado, los padres de Adam Raine, un adolescente que se suicidó en 2025, presentaron la demanda. primera demanda conocida por muerte por negligencia contra una empresa de inteligencia artificialalegando que ChatGPT estaba al tanto de cuatro intentos previos de Raine de quitarse la vida antes de que finalmente tuviera éxito.