El Senado aprobó la Ley de interrupción de imágenes falsificadas explícitas y ediciones no consensuales (DEFIANCE) con consentimiento unánime, según el copatrocinador del proyecto de ley. Senador Dick Durbin (D-IL). El proyecto de ley permite a los sujetos de deepfakes no consensuados y sexualmente explícitos emprender acciones civiles contra las personas que los crean y albergan.
Los deepfakes son un problema conocido en línea, pero sin las protecciones adecuadas, el fácil acceso a herramientas de generación de imágenes y videos con tecnología de inteligencia artificial ha hecho posible que cualquiera pueda crear contenido comprometedor utilizando la imagen de otra persona. esto se ha convertido un problema particular en Xdonde la integración de Grok, el asistente de IA creado por La empresa matriz de X, xAI.hace posible que cualquiera convierta el contenido de la publicación de otra persona en un mensaje generador de imágenes. Durante el último mes, esto permitió a los usuarios crear imágenes sexualmente explícitas de niños, simplemente respondiendo a una publicación con @grok y una solicitud.
En respuesta, Ofcom, el regulador de medios del Reino Unido, ya ha abrió una investigación sobre X por potencialmente violar el Ley de seguridad en línea. El chatbot también ha sido completamente bloqueado en Malasia e Indonesia. La Ley DEFIANCE no impedirá que Grok u otras herramientas de inteligencia artificial generen deepfakes no consensuados, pero haría que crear o alojar ese contenido fuera potencialmente muy costoso para cualquiera que reciba una demanda.
El Senado aprobó una versión anterior de la Ley DEFIANCE en 2024, pero se estancó en la Cámara. Dada la urgencia del problema de los deepfake de Grok, la esperanza es esta nueva versión del proyecto de ley No verás la misma resistencia. El Congreso aprobó el año pasado una norma anterior sobre deepfake, la Acto de derribarlocon apoyo bipartidista. Ese proyecto de ley se centró en las empresas que alojan contenido sexualmente explícito y no consensuado, en lugar de en las personas explotadas por él.