La inteligencia artificial y el aprendizaje automático pueden hacer maravillas, desde hacer arte hasta automatizar trabajos administrativos. Pero también son un riesgo, ya que pueden empoderar a los malos con trucos como deepfake.
A medida que esta tecnología en particular evoluciona, es una buena idea aprender cómo funcionan realmente los deepfakes y quién querría usarlos, tanto de forma legítima como ilegal.
Por qué es importante entender cómo y por qué se usan los deepfakes
Las aplicaciones principales de la tecnología deepfake giran principalmente en torno a materiales divertidos, pornográficos o cinematográficos, pero un estudio demostró que los deepfakes pueden engañar al reconocimiento facial. Esto solo es una razón para preocuparse y levantar la guardia.
Cuanto más se utilice la tecnología en la vida cotidiana y en proyectos a gran escala, mejor aprenderán sus desarrolladores a crear videos falsos de personas, ya sean celebridades o familiares.
Comprensión cómo protegerse de videos deepfake
es una necesidad ahora, considerando cuán ansiosamente las industrias están adoptando las ventajas de la tecnología, especialmente dentro del entretenimiento.Hollywood lo usó en varios proyectos mucho antes Entrada AGT deepfake de Metaphysic, que mostró al mundo lo rápida y efectiva que puede ser la creación de deepfakes. Esto es lo que implica el proceso.
¿Cómo funcionan las falsificaciones profundas?
En términos de lo que hay detrás de los deepfakes, una pista está en el nombre: aprendizaje profundo, la ciencia de las redes neuronales artificiales (ANN). Lo que hacen con los algoritmos deepfake es absorber datos, aprender de ellos y crear nuevos datos en forma de expresiones faciales o una cara completa superpuesta a la tuya.
Los desarrolladores de software deepfake suelen utilizar uno de los dos tipos de ANN: codificadores automáticos o redes antagónicas generativas (GAN).
Los codificadores automáticos aprenden a replicar las masas de datos que reciben, principalmente fotos de rostros y expresiones, y recrean los conjuntos de datos solicitados. Sin embargo, rara vez son copias exactas.
Las GAN, por otro lado, tienen un sistema más inteligente, que incluye un generador y un discriminador. El primero reproduce los datos aprendidos en falsificaciones profundas que luego deben engañar al segundo.
El discriminador compara las creaciones del generador con imágenes reales y determina su eficacia. Los mejores deepfakes, por supuesto, son aquellos que imitan perfectamente el comportamiento humano.
Entonces, ¿cómo se hacen los deepfakes con esta tecnología? Los algoritmos detrás de aplicaciones como Revestir de nuevo y DeepFaceLab aprenden constantemente de los datos que pasan por ellos para que puedan ajustar de manera efectiva las características y expresiones faciales o colocar una cara sobre otra.
El software es básicamente un editor de video diseñado específicamente para manipular rostros. Algunas aplicaciones son más complejas que otras, pero en general puedes hacer cualquier cosa, desde envejecer a alguien hacia arriba o hacia abajo hasta editarte en películas.
Pero la tecnología todavía tiene fallas. La creación de deepfake puede ser más complicada que como se hacen los videos en vivo falsos, pero puede ser tan sencillo de detectar como falso.
Cómo detectar un deepfake
Debido a que las falsificaciones profundas están hechas principalmente por máquinas, las características o gestos de la cara digital no siempre se ven naturales. También puede haber errores en la configuración del video. En otras palabras, puede identificar imágenes falsas si sabe qué buscar.
Aquí hay algunos signos reveladores:
- Parpadeo antinatural: El aprendizaje automático a menudo pasa por alto el parpadeo de los ojos o lo hace parecer incómodo.
- Características borrosas o inestables: El cabello, la boca o la barbilla de una persona pueden verse ligeramente borrosos o moverse de formas extrañas, a menudo exageradas.
- Falta o tergiversación de la emoción.: Los deepfakes pobres son impasibles o imitan mal las emociones.
- Lenguaje corporal incómodo: si la persona en el video mueve la cabeza o el cuerpo de forma distorsionada o inconexa, podría tratarse de una falsificación profunda.
- Colores e iluminación incorrectos.: Las decoloraciones, las luces inexplicables y las sombras son signos seguros de un video falso.
- Objetos inconsistentes: Al ajustar un video, el software deepfake puede cometer errores, como alterar la forma de la ropa, las joyas y los elementos de fondo.
- mal audio: Deepfakes puede distorsionar el habla y los sonidos en un video.
Aprovechar al máximo formas de detectar deepfakes aprendiendo para qué se hacen normalmente esos videos y prestando mucha atención a los detalles en el metraje que ve en línea, disminuya la velocidad, si es posible.
Además, cada vez se están desarrollando más herramientas, como Autenticador de Microsoft y la sensibilidad Detección forense de falsificaciones profundas, que analiza videos en un nivel de minutos.
¿Quién usa deepfakes?
Los cineastas utilizan cada vez más los deepfakes para envejecer o reemplazar los rostros de los actores, como en Star Wars. Los artistas logran animar retratos y hacerlos hablar y cantar.
Los especialistas en marketing están experimentando con tecnología deepfake para contenido promocional que no requiere la contratación de actores. Empresas como WPP también lo aplican en sus vídeos de formación.
Los aficionados a la tecnología, en general, crean videos divertidos en los que intercambian rostros con amigos o superponen a un actor sobre otro en películas populares. Sylvester Stallone se hizo cargo de Solo en casa, y el Joker de Heath Ledger apareció en A Knight's Tale.
Desafortunadamente, si explora para qué más se usa la tecnología deepfake, encontrará muchos casos maliciosos. A los creadores de deepfakes les gusta difundir información errónea y mensajes ofensivos, así como apuntar a celebridades y ponerlas en películas para adultos. Las personas incluso son chantajeadas con imágenes falsas.
En su forma actual desenfrenada, deepfake es sinónimo de riesgo para los derechos de privacidad, seguridad, e incluso los derechos de autor, por ejemplo, cuando el algoritmo usa claramente una foto o una obra de arte que no es pública disponible.
Esta es la razón por la que los países y las marcas están poniendo el pie en el suelo. A partir de 2021, según el Mapa de la Iniciativa de Derechos Civiles Cibernéticos de las leyes de deepfake en los EE. UU., cuatro estados ahora toman medidas enérgicas contra los videos deepfake publicados que representan a alguien de una manera explícita o dañina.
China también está tomando medidas para criminalizar las falsificaciones profundas que dañan a las personas y a la sociedad, ya sea violando los derechos individuales o difundiendo noticias falsas. Incluso Meta anunciado en 2020 que los videos engañosos y manipulados no eran bienvenidos.
Además de la regulación, los organismos oficiales de todo el mundo impulsan una mejor detección y prevención de los delitos de deepfake. El Informe del Instituto Rathenau sobre cómo la política europea debe manejar las falsificaciones profundas respalda el software con herramientas como el reconocimiento facial y del hablante, la detección de la vivacidad de la voz y el análisis de las características faciales.
Aprenda cómo funcionan los deepfakes para engañarlo
Deepfakes ya se ha generalizado, para bien o para mal. Por lo tanto, disfrute de los videos divertidos e inspiradores mientras se prepara para enfrentar los maliciosos.
Al fin y al cabo, ¿qué es un deepfake como este sino una herramienta diseñada para engañarte? Si sabe qué buscar y cómo reaccionar, tiene menos poder sobre usted.
Por ejemplo, podrá detectar deepfakes en las redes sociales junto con noticias y cuentas falsas y esquivar información errónea, intentos de phishing y más. A medida que mejore la tecnología de detección y prevención de deepfakes, recibirá más soporte.
