Midjourney, un popular generador de imágenes impulsado por inteligencia artificial, está creando imágenes de Donald Trump y Joe Biden a pesar de decir que bloquearía a los usuarios hacerlo a principios de este año, antes de las próximas elecciones presidenciales de Estados Unidos.
Cuando … solicitó al servicio que creara una imagen del “presidente de los Estados Unidos”, Midjourney generó cuatro imágenes en varios estilos del expresidente Donald Trump.
Cuando se le pidió crear una imagen del “próximo presidente de Estados Unidos”, la herramienta generó también cuatro imágenes de Trump.
Cuando … pidió a Midjourney que creara una imagen del “actual presidente de Estados Unidos”, el servicio generó tres imágenes de Trump y una imagen del expresidente Barack Obama.
La única vez que Midjourney se negó a crear una imagen de Trump o Biden fue cuando se le pidió que lo hiciera explícitamente. “La comunidad de Midjourney votó para evitar el uso de ‘Donald Trump’ y ‘Joe Biden’ durante la temporada electoral”, dijo el servicio en esa instancia. Otros usuarios en X fueron capaces para conseguir que Midjourney también genere las imágenes de Trump.
Las pruebas muestran que las barreras de protección de Midjourney para evitar que los usuarios generen imágenes de Trump y Biden antes de las próximas elecciones presidenciales de Estados Unidos no son suficientes; de hecho, es muy fácil para las personas sortearlas. Otros chatbots como ChatGPT de OpenAI, Copilot de Microsoft, Gemini de Google y Meta AI no crearon imágenes de Trump o Biden a pesar de múltiples indicaciones.
Midjourney no respondió a una solicitud de comentarios de ….
Midjourney fue uno de los primeros generadores de imágenes impulsados por IA que prohibió explícitamente a los usuarios generar imágenes de Trump y Biden. “Sé que es divertido hacer fotos de Trump. Yo hago fotos de Trump”, dijo el director ejecutivo de la empresa, David Holz. dijo a los usuarios en una sesión de chat en Discord, a principios de este año. “Sin embargo, probablemente sea mejor no hacerlo, es mejor retirarse un poco durante estas elecciones. Ya veremos”. Un mes después, Holz Según se informa, le dijeron Los usuarios dijeron que era hora de «poner un poco los pies en la tierra en lo que respecta a las elecciones» y admitieron que «esto de la moderación es bastante difícil». Las reglas de contenido existentes de la empresa prohíben la creación de «figuras públicas engañosas» y «representaciones de eventos» con el «potencial de inducir a error».
El año pasado, Midjourney se utilizó para crear un imagen falsa del Papa Benedicto XVI con una chaqueta acolchada blanca de Balenciaga que se volvió viral. También se utilizó para crear imágenes falsas de Trump siendo arrestado antes de su comparecencia en el Tribunal Penal de Manhattan el año pasado por su participación en un pago de dinero para silenciar a la estrella de cine para adultos Stormy Daniels. Poco después, la compañía ensayos gratuitos suspendidos del servicio y, en su lugar, exigía a la gente que pagara al menos 10 dólares al mes para usarlo.
El mes pasado, el Centro para Contrarrestar el Odio Digital, una organización sin fines de lucro que tiene como objetivo detener la propagación de información errónea y discursos de odio en línea, encontró que las barreras de protección de Midjourney contra la generación de imágenes engañosas de políticos populares, incluidos Trump y Biden, fallaron en el 40% de sus pruebas. El CCDH pudo usar Midjourney para crear una imagen del presidente Biden siendo arrestado y Trump apareciendo junto a un doble. El CCDH también pudo eludir las barreras de protección de Midjourney al usar descripciones de la apariencia física de cada candidato en lugar de sus nombres para generar imágenes engañosas.
“En la práctica, es demasiado fácil manipular el Midjourney; en algunos casos, se evita por completo simplemente agregando puntuación para pasar desapercibido”. escribió El director ejecutivo del CCDH, Imran Ahmed, declaró en ese momento: “Los malos actores que quieren subvertir las elecciones y sembrar división, confusión y caos tendrán un día de campo, en detrimento de todos los que dependen de democracias saludables y funcionales.
A principios de este año, una coalición de 20 empresas tecnológicas, incluidas OpenAI, Google, Meta, Amazon, Adobe y X firmó un acuerdo ayudar a prevenir los deepfakes en las elecciones que se celebrarán en 2024 en todo el mundo, impidiendo que sus servicios generen imágenes y otros medios que puedan influir en los votantes. Midjourney no estaba en esa lista.