Meta se ha enfrentado a algunas preguntas serias sobre cómo permite a sus usuarios menores de edad interactuar con chatbots impulsados ​​por IA. Más recientemente, comunicaciones internas obtenidas por la Oficina del Fiscal General de Nuevo México revelaron que, aunque el director ejecutivo de Meta, Mark Zuckerberg, se oponía a que los chatbots tuvieran conversaciones «explícitas» con menores, también rechazó la idea de imponer controles parentales a la función.

Reuters reportado que en un intercambio entre dos empleados anónimos de Meta, uno escribió que «presionamos mucho para que los controles parentales desactivaran GenAI, pero el liderazgo de GenAI rechazó la decisión de Mark». Nuevo México está demandando a Meta por cargos de que la empresa “no logró detener la marea de material sexual dañino y proposiciones sexuales entregadas a niños”; Está previsto que el caso vaya a juicio en febrero. Nos comunicamos con Meta para hacer comentarios y lo actualizaremos con cualquier respuesta.

A pesar de estar disponibles solo por un breve tiempo, los chatbots de Meta ya han acumulado un historial de comportamiento que se vuelve ofensivo, si no completamente ilegal. En abril 2025, El diario de Wall Street publicó una investigación que encontró que los chatbots de Meta podrían entablar conversaciones sexuales de fantasía con menores, o podrían ser dirigidos para imitar a un menor y entablar conversaciones sexuales. El informe afirmaba que Zuckerberg había querido que se implementaran protecciones más flexibles en torno a los chatbots de Meta, pero un portavoz negó que la compañía hubiera pasado por alto las protecciones para niños y adolescentes.

Documentos de revisión interna revelados en agosto 2025 detallaba varias situaciones hipotéticas sobre qué comportamientos de chatbot estarían permitidos, y la línea entre lo sensual y lo sexual parecía bastante confusa. El documento también permitió a los chatbots argumentar conceptos racistas. En ese momento, un representante le dijo a … que los pasajes ofensivos eran hipotéticos y no una política real, lo que en realidad no parece una gran mejora, y que fueron eliminados del documento.

A pesar de los múltiples casos de uso cuestionable de los chatbots, Meta solo decidió suspender el acceso de las cuentas de adolescentes a ellos. la semana pasada. La compañía dijo que está eliminando temporalmente el acceso mientras desarrolla los controles parentales que Zuckerberg supuestamente había rechazado usar.

Nuevo México presentó esta demanda contra Meta en diciembre 2023 sobre afirmaciones de que las plataformas de la empresa no protegieron a los menores del acoso de los adultos. Los documentos internos revelados al principio de esa denuncia revelaron que 100.000 niños usuarios fueron acosados ​​diariamente en los servicios de Meta.

Actualización, 27 de enero de 2025, 6:15 p.m. ET: Se corrigió el cronograma incorrecto de la demanda de Nuevo México, que se presentó en diciembre de 2023, no en diciembre de 2024.