El fiscal de la ciudad de San Francisco, David Chiu, anunció el jueves en una conferencia de prensa su intención de cerrar 16 de los sitios más populares de “desnudez” mediante inteligencia artificial.

Informó que el Fiscal de la Ciudad está acusando a estos sitios de violar las leyes federales sobre pornografía de venganza, pornografía deepfake y pornografía infantil. La oficina de Chiu también acusó a los sitios de violar la ley de competencia desleal del estado de California porque «el daño que causan a los consumidores supera con creces los beneficios asociados con esas prácticas», según presentada ante un tribunal superior de California.

La denuncia se centra en un total de 50 acusados ​​a los que Chiu pretende procesar por gestionar sitios web de desnudez. Algunos de los nombres de los acusados ​​y de los sitios web fueron censurados, pero también se identifica públicamente a algunas empresas que gestionan «algunos de los sitios web más populares del mundo que ofrecen imágenes de mujeres y niñas desnudas», como Sol Ecom, ubicada en Florida, Briver, en Nuevo México, y la empresa británica Itai Tech Ltd. El único acusado identificado en la denuncia es Augustin Gribinets, de Estonia, acusado de ser propietario de un sitio de desnudez con inteligencia artificial que presenta imágenes no consentidas de mujeres y niñas.

Estos sitios web han generado más de 200 millones de visitas en un período de seis meses. Las imágenes no consentidas de mujeres y niños en estos sitios “se utilizan para intimidar, amenazar y humillar a las mujeres y niñas” a medida que ganan más visitantes “y esta preocupante tendencia no muestra señales de disminuir”, según la denuncia.

El abogado de la ciudad cita un caso en su demanda judicial de febrero en el que un sitio de desnudez con inteligencia artificial generó imágenes de 16 estudiantes de octavo grado en una escuela secundaria de California. El incidente posiblemente se refiere a uno que ocurrió en una escuela secundaria de Beverly Hills en el que 16 estudiantes estaban circulando imágenes falsas de desnudos de otros estudiantes. El distrito escolar expulsó a cinco estudiantes por su participación en la difusión de las imágenes ilícitas, según el .

La tecnología deepfake se ha convertido en un problema legal importante, especialmente a nivel federal. El mes pasado, publicó un informe sobre réplicas digitales y concluyó que “se necesita una nueva ley”. Apenas unos días después, un grupo bipartidista de senadores presentó que instituiría una nueva ley que protegería a las personas de que su voz, rostro o cuerpo sean recreados con IA sin su consentimiento.