Los videos deepfakes y generados por IA llegaron para quedarse. Pero en los últimos años, han crecido en calidad y cantidad, haciendo que mucha gente se preocupe por la seguridad nacional y la privacidad personal.
Aún así, no importa cuánto los usuarios anónimos en línea intentaron hacer que sus videos falsos fueran realistas, nunca pudieron pasar del software avanzado de reconocimiento facial. Hasta ahora.
API de reconocimiento facial engañoso
Investigadores de la Universidad Sungkyunkwan en Suwon, Corea del Sur, probado la calidad de la tecnología deepfake actual. Probaron las API de Amazon y Microsoft utilizando software de generación de video deepfake de código abierto y de uso común para ver qué tan bien funcionan.
Los investigadores utilizaron rostros de celebridades de Hollywood. Para crear deepfakes sólidos, el software necesita muchas imágenes de alta calidad de diferentes ángulos de las mismas personas, que son mucho más fáciles de adquirir de celebridades en lugar de ordinarios gente.
Los investigadores también decidieron utilizar la API de Microsoft y Amazon como puntos de referencia para su estudio, ya que ambas empresas ofrecen servicios de reconocimiento facial de celebridades. Utilizaron conjuntos de datos disponibles públicamente y crearon poco más de 8.000 deepfakes. De cada video de deepfake, extrajeron múltiples fotografías y las enviaron a las API en cuestión.
Con Azure Cognitive Services de Microsoft, los investigadores pudieron engañar al sistema el 78 por ciento de las veces usando deepfakes. Los resultados de Amazon fueron ligeramente mejores, con el 68 por ciento de las caras enviadas identificadas como reales.
¿Qué pasa con los detectores Deepfake?
Los detectores de deepfake funcionan más o menos de la misma manera que lo hace el deepfake. Los detectores son software que se entrenó utilizando modelos de aprendizaje automático sobre cómo detectar videos deepfake.
Pero en lugar de centrarse en crear un video hiperrealista para engañar a los detectores, los deepfakes ahora pueden incluir ejemplos de adversarios en cada cuadro para confundir al sistema de inteligencia artificial. De hecho, los ataques deepfake de este tipo tienen tasas de éxito que varían del 78 al 99 por ciento.
Se está poniendo peor
Los deepfakes son una aplicación de aprendizaje automático. Para crear uno que sea incluso remotamente convincente, necesita cientos de imágenes del rostro de la misma persona desde diferentes ángulos y mostrando diversas emociones.
Debido a la necesidad de cantidades masivas de datos, uno pensaría que solo las personas con una gran presencia en línea están en riesgo, como las celebridades y los políticos. Pero ese ya no es el caso.
Según Deeptrace, la cantidad de deepfakes en línea aumentó en un 330 por ciento en menos de un año, desde octubre de 2019 hasta junio de 2020. Sin mencionar que el software y los algoritmos que utilizan los fabricantes de deepfake son cada vez más fuertes y están más disponibles y accesibles.
¿Quién corre el riesgo de sufrir deepfakes?
Cuando los deepfakes se convirtieron por primera vez en algo corriente, el principal las preocupaciones eran por la privacidad y la seguridad nacional. La gente temía que ya no se pudiera confiar en las imágenes de vídeo de políticos y funcionarios del gobierno.
Pero si bien sería irresponsable ignorar el riesgo de seguridad que plantean los deepfake, varias encuestas encontraron que los creadores de deepfake no están tan interesados en perturbar la política por el momento. La mayoría de los videos de deepfakes en línea se pueden dividir en dos categorías: videos divertidos de entrevistas a celebridades y películas y material pornográfico.
Si bien el estudio reciente se realizó utilizando caras de celebridades para garantizar que los deepfakes fueran de alta calidad para engañar a las API, eso no significa que no puedas hacer deepfakes con menos datos. Claro, es posible que no tengan la oportunidad de engañar a los sistemas avanzados de reconocimiento facial, pero pueden ser lo suficientemente convincentes como para engañar a otras personas.
Hoy en día, los deepfakes de cualquier persona con presencia social se pueden hacer de forma convincente. Todo lo que necesitan son algunas fotos tuyas y tal vez un video en el que aparezcas. El deepfake resultante puede ser de baja calidad, pero aún es factible y puede ser dañino.
El futuro aún es desconocido
Hay muchas predicciones contradictorias con respecto al estado de los deepfakes, ya que no desaparecerán pronto.
Algunos esperan un futuro cibernético apocalíptico en el que no se puede confiar en las imágenes que se encuentran en línea. Otros son más optimistas, comparan los deepfakes con la animación y dicen que puede tener futuro en la producción de contenido.
Los deepfakes son cada vez más frecuentes. A continuación, le mostramos cómo pueden amenazar su privacidad en línea y cómo evitar que lo engañen.
Leer siguiente
- Seguridad
- Internet
- Reconocimiento facial
- Privacidad en línea
- Seguridad en línea
Anina es escritora independiente de tecnología y seguridad de Internet en MakeUseOf. Comenzó a escribir sobre ciberseguridad hace 3 años con la esperanza de hacerlo más accesible para la persona promedio. Interesado en aprender cosas nuevas y un gran nerd de la astronomía.
Suscríbete a nuestro boletín
¡Únase a nuestro boletín de noticias para obtener consejos técnicos, reseñas, libros electrónicos gratuitos y ofertas exclusivas!
Haga clic aquí para suscribirse