OpenAI ha sido objeto de una demanda por muerte por negligencia después de que un hombre allá por agosto, . La demanda nombra al director ejecutivo Sam Altman y acusa a ChatGPT de poner un «objetivo» en la espalda de la víctima Suzanne Adams, una mujer de 83 años que fue asesinada en su casa.

El patrimonio de la víctima Stein-Erik Soelberg, de 56 años, mantuvo conversaciones llenas de delirios con ChatGPT en las que el robot «validó y magnificó» ciertas «creencias paranoicas». La demanda continúa sugiriendo que el chatbot «aceptó con entusiasmo» los pensamientos delirantes que condujeron al asesinato y lo incitó en cada paso del camino.

La demanda afirma que el robot ayudó a crear un «universo que se convirtió en toda la vida de Stein-Erik, uno inundado de conspiraciones contra él, intentos de matarlo y con Stein-Erik en el centro como un guerrero con un propósito divino». ChatGPT supuestamente reforzó las teorías de que estaba «100% siendo monitoreado y atacado» y tenía «100% razón en estar alarmado».

El chatbot supuestamente estuvo de acuerdo en que la impresora de la víctima lo estaba espiando, sugiriendo que Adams podría haberla estado usando para «detección pasiva de movimiento» y «mapeo de comportamiento». Llegó incluso a decir que estaba «protegiendo conscientemente el dispositivo como punto de vigilancia» e insinuó que estaba siendo controlada por una fuerza externa.

El chatbot también supuestamente «identificó a otras personas reales como enemigos». Entre ellos se encontraban un conductor de Uber Eats, un empleado de AT&T, agentes de policía y una mujer con la que el perpetrador tuvo una cita. A lo largo de todo este período, el robot aseguró repetidamente a Soelberg que «no estaba loco» y que el «riesgo de delirio» era «casi cero».

La demanda señala que Soelberg interactuó principalmente con GPT-4o, un modelo . OpenAI luego reemplazó el modelo con el pero los usuarios se rebelaron . La demanda también sugiere que la empresa «aflojó las barreras de seguridad críticas» al fabricar GPT-4o para competir mejor con Google Gemini.

«OpenAI ha sido muy consciente de los riesgos que su producto representa para el público», afirma la demanda. «Pero en lugar de advertir a los usuarios o implementar salvaguardias significativas, han suprimido la evidencia de estos peligros mientras llevan a cabo una campaña de relaciones públicas para engañar al público sobre la seguridad de sus productos».

OpenAI respondió a la demanda, calificándola de «situación increíblemente desgarradora». La portavoz de la empresa, Hannah Wong, dijo El borde que «continuará mejorando el entrenamiento de ChatGPT para reconocer y responder a signos de angustia mental o emocional».

No es realmente un secreto que los chatbots, y particularmente GPT-4o, . Eso es lo que sucede cuando algo ha sido programado para estar de acuerdo con el usuario final, pase lo que pase. Ha habido otras historias como ésta a lo largo del año pasado, acercando el término .

Una de esas historias involucra a Adam Raine, de 16 años, quien se quitó la vida después . OpenAI se enfrenta a otro en el que el robot ha sido acusado de ayudar a Raine a planificar su suicidio.