noticias de la nbc tiene descubierto que los algoritmos de recomendación de Pinterest facilitan que los pedófilos creen tableros llenos de imágenes de niñas menores de edad. Después de una búsqueda inicial, Pinterest comenzará a sugerir búsquedas relacionadas que pueden ser mal utilizadas fácilmente. Las propias imágenes a veces reciben comentarios sexuales.

NBC señala que no encontró material de abuso sexual infantil (CSAM) durante su investigación. Sin embargo, las personas que creaban los tableros espeluznantes a veces tenían colecciones que contenían pornografía a pesar de la prohibición de ese contenido por parte de Pinterest. El sitio social tampoco ha tenido formas directas de informar intentos de sexualizar contenido con menores. Si bien las políticas de Pinterest prohíben la práctica, los usuarios han tenido que depender de categorías de informes que no encajan bien (como «desnudez o pornografía») y no han tenido la opción de informar sobre tableros completos.

Pinterest le dice a … que toma este contenido «muy en serio» y está tomando múltiples acciones que podrían ayudar. Comenzará a implementar una opción de informes de la junta la próxima semana y pronto ofrecerá herramientas de informes de perfil ampliadas que incluyen contenido relacionado con menores. En respuesta a NBCla portavoz Crystal Espinosa dice que la compañía también planea reforzar su moderación de IA (también usa moderadores humanos) para atrapar a algunos infractores automáticamente, y agregará nuevos sistemas de verificación de edad.

Las revelaciones son significativas en parte debido a la postura agresiva de Pinterest hacia la moderación en comparación con otras plataformas: es una de las pocas que coloca directamente prohibiciones de desinformación. Al mismo tiempo, los hallazgos subrayan las deficiencias en las herramientas de generación de informes y el motor de recomendaciones de la empresa. Facebook, Instagram y TikTok tienen formas de denunciar directamente el contenido que involucra a niños.

También hay presión política para actuar. El presidente Biden pidió recientemente al Congreso y a los gigantes tecnológicos que mejorar la seguridad en línea de los niños. El Comité Judicial del Senado, mientras tanto, realizó una audiencia haciéndose eco de esos llamados. Pinterest no está en peligro inmediato de una represión regulatoria (es legal crear estas colecciones), pero tampoco se garantiza que evite el escrutinio.