Cómo la IA engañó a la gente para que pensara que Trump había sido arrestado

Si está activo en Twitter, es posible que haya visto algunas imágenes impactantes del ex presidente de los Estados Unidos, Donald Trump, arrestado por agentes de policía, luchando con ellos e incluso huyendo de ellos. Resulta que nada de esto era real. Pero, ¿cómo sucedió todo esto?

El arresto de Donald Trump que nunca sucedió

El expresidente estadounidense compartió una supuesta filtración a través de su oficial Manija social de la verdad el 18 de marzo. La publicación decía que esperaba un arresto el martes de la semana siguiente por cargos "antiguos y completamente desacreditados" en su contra. No pasó mucho tiempo antes de que las imágenes del arresto de Trump comenzaran a aparecer en Internet.

Las imágenes mostraban lo que parecían ser imágenes del arresto de Trump por parte de un grupo de agentes del orden.

Las imágenes fueron generadas por IA

Las imágenes, sin embargo, no eran auténticas. Eran deepfakes hechos con

Midjourney, un generador de imágenes de IA. Midjourney utiliza un algoritmo de aprendizaje profundo para generar imágenes desde cero mediante indicaciones de texto. En este caso, las indicaciones de texto eran variaciones del arresto de Trump.

Tecnología ultrafalsa ha existido por un tiempo, y se está volviendo cada vez más sofisticado. Las imágenes generadas por IA solían ser fácilmente identificables: carecían de detalles y realismo. Sin embargo, Último lanzamiento de Midjourney (v5) solucionó la mayoría de estos problemas y, de hecho, fue la versión utilizada para generar los deepfakes de arresto de Trump.

Cómo las imágenes se volvieron virales

Eliot Higgins, un periodista de investigación, creó las primeras versiones de los deepfakes del arresto de Trump para visualizar cómo sería un arresto de Trump. Los publicó en su cuenta de Twitter. Si bien su pie de foto fue claro desde el principio que las imágenes eran falsas, la publicación no tardó mucho en volverse viral.

A medida que las imágenes se difundieron en las redes sociales, muchas personas creyeron que era real. La publicación de Trump en Truth Social ya tenía sospechas en la gente, y las imágenes realistas solo alimentaron el fuego. Pasó un tiempo antes de que quedara claro que las fotos eran falsas y que la historia del arresto había sido un engaño.

Las publicaciones en las redes sociales que "informan" sobre el arresto falso se han eliminado o tienen la etiqueta de información errónea. Como penalización, Midjourney también expulsó a Higgins de su servidor durante un mes, según el poste de washington.

La era de los deepfakes requiere vigilancia

Las falsificaciones profundas del arresto de Trump destacan los avances alarmantes en la tecnología de IA. Las imágenes falsas ahora se pueden crear con una facilidad increíble y se ven tan realistas que es difícil distinguir lo que es real de lo que no lo es. La vigilancia es ahora más crítica que nunca cuando se trata de contenido en línea.