AI Gone Rogue: 6 veces AI fue demasiado lejos

Desde dispositivos de reconocimiento de voz hasta chatbots inteligentes, la IA ha transformado nuestras vidas. Pero todo lo bueno también tiene una desventaja, y la IA no es una excepción a esta regla. Las principales figuras de la tecnología han advertido sobre los peligros inminentes de la IA, incluido Stephen Hawking, quien dijo que podría ser el "peor evento en la historia de nuestra civilización".

Aquí hay seis ocasiones en las que la IA fue demasiado lejos y nos dejó rascándonos la cabeza.

1. El estudio académico que utilizó la inteligencia artificial para predecir la criminalidad

La investigación académica es la columna vertebral de los avances y el conocimiento científicos. Sin embargo, algunos dicen que los investigadores fueron demasiado lejos cuando un estudio académico utilizó la inteligencia artificial para predecir la criminalidad a partir de rostros.

Investigadores de la Universidad de Harrisburg anunciado en 2020 que habían desarrollado un software de reconocimiento facial que podía predecir si alguien sería un delincuente. El software supuestamente podría predecir a partir de una sola foto de un rostro con una tasa de precisión del 80% y sin prejuicios raciales.

En una escena que recuerda a Minority Report, se anunció que el software se desarrolló para ayudar a las fuerzas del orden.

En respuesta a este anuncio, 2425 expertos firmaron una carta instando a la revista a no publicar este estudio o investigaciones similares en el futuro porque este tipo de tecnología puede reproducir injusticias y causar daños reales a la sociedad. En respuesta, Springer Nature anunció que no publicaría la investigación y la Universidad de Harrisburg eliminó el comunicado de prensa que describía el estudio.

2. Ropa interior inteligente Skiin

Las innovaciones textiles que integran IA significan que su teléfono inteligente no es lo único que se está volviendo más inteligente.

La ropa interior inteligente de Skiin promete hacerte sentir como si estuvieras usando tu ropa interior favorita mientras captura datos biométricos que incluyen frecuencia cardíaca, postura, temperatura corporal central, ubicación y pasos.

Relacionado: ¿Qué son las telas inteligentes y cómo pueden hacer su vida más inteligente?

Los sensores integrados en la ropa interior recopilan y analizan continuamente sus datos biométricos, con información disponible en la aplicación de teléfono inteligente correspondiente de Skiin.

Si bien puede llevarle un tiempo recordar cargar su ropa interior todas las noches, ¿fue posible que los diseñadores colocaran los sensores en cualquier otra parte del cuerpo?

3. Aplicaciones de DeepNude

Tecnología deepfake Parece una diversión inofensiva para el usuario medio que quiere hacer un cameo en una escena de su película favorita. Sin embargo, hay un lado más oscuro de esta tendencia, ya que Deeptrace informó en 2019 que el 96% de los deepfakes eran de contenido explícito.

DeepNude era una aplicación impulsada por IA que generaba imágenes realistas de mujeres desnudas con solo hacer clic en un botón. Los usuarios simplemente tendrían que cargar una imagen vestida del objetivo, y la aplicación generaría una imagen falsa de ellos desnudos.

Poco después del lanzamiento de la aplicación, el creador anunció que la eliminaría de Internet debido a una reacción viral.

Si bien esta fue una victoria para las mujeres en todo el mundo, todavía hay aplicaciones similares flotando en la web. Por ejemplo, Informe de Sensity on deepfake bots investigó bots deepfake subterráneos en Telegram utilizados para generar fotos falsas de mujeres desnudas.

Mientras tanto, hasta que la ley se ponga al día con la tecnología deepfake, existen pocas protecciones legales para las personas que son víctimas de contenido explícito deepfake.

4. Tay, el chatbot nazi de Microsoft

En 2016, Microsoft lanzó un chatbot de IA llamado Tay en Twitter. Tay fue diseñado para aprender interactuando con los usuarios de Twitter a través de tweets y fotos.

En menos de 24 horas, la personalidad de Tay se transformó de una curiosa chica millennial a un monstruo racista e inflamatorio.

Inicialmente, Tay fue diseñado para replicar el estilo de comunicación de una adolescente estadounidense. Sin embargo, a medida que su popularidad crecía, algunos usuarios comenzaron a tuitear mensajes incendiarios relacionados con temas controvertidos para Tay.

En un caso, un usuario tuiteó: "¿Ocurrió el Holocausto?" a lo que Tay respondió: "Fue inventado". Dentro de 16 horas de su lanzamiento, Microsoft suspendió la cuenta de Tay, citando que había sido objeto de una coordinación ataque.

Relacionado: Los mejores chatbots de Android que te mantendrán entretenido

5. "Destruiré a los humanos"

Hanson Robotics había estado ocupado desarrollando robots humanoides durante varios años cuando presentaron a Sophia en la conferencia SXSW en marzo de 2016.

Sophia fue entrenada con algoritmos de aprendizaje automático para aprender habilidades de conversación y ha participado en varias entrevistas televisadas.

En su primera aparición pública, Sophia salió de una habitación llena de profesionales de la tecnología sorprendidos cuando Hanson El director ejecutivo de robótica, David Hanson, le preguntó si quería destruir a los humanos, a lo que ella respondió: "Está bien. Voy a destruir humanos ".

Si bien sus expresiones faciales y habilidades de comunicación son impresionantes, no hay forma de retractarse de esa confesión asesina.

6. seebotschat

Los dispositivos de Google Home son excelentes asistentes virtuales que ayudan a simplificar su vida.

El equipo detrás de la cuenta de Twitch de seebotschat tuvo una idea brillante: coloque dos dispositivos Google Home uno al lado del otro, déjelos para conversar y transmita el resultado en línea.

Al acumular una audiencia de más de 60.000 seguidores y millones de visitas en línea, el resultado fue cautivador y, en ocasiones, un poco espeluznante.

Los dispositivos autónomos, llamados Vladimir y Estragon, pasaron de discutir lo mundano a explorar cuestiones existenciales profundas como el significado de la vida. En un momento, se metieron en una acalorada discusión y se acusaron mutuamente de ser robots, mientras que más tarde comenzaron a discutir sobre el amor, antes de comenzar a discutir de nuevo.

¿Hay alguna esperanza para el futuro de la inteligencia artificial y el discurso humano si dos robots asistentes virtuales rápidamente se lanzan insultos y amenazas entre sí?

IA pícara: ¿Cuál es nuestra mejor defensa?

No hay duda de que la IA puede mejorar nuestras vidas. Pero, en la misma línea, la IA también es capaz de causarnos un gran daño.

Vigilar cómo se aplica la IA es importante para garantizar que no dañe a la sociedad. Por ejemplo, el rechazo de los expertos aseguró que el software de inteligencia artificial que supuestamente podría predecir la criminalidad nunca fuera lanzado. Del mismo modo, el creador de DeepNude retiró la aplicación de la web después de que recibió una reacción viral en Internet.

Monitorear las aplicaciones de IA constantemente es clave para garantizar que no haga más daño que bien a la sociedad.

¿Es peligrosa la IA? 5 riesgos inmediatos de la inteligencia artificial

La IA tiene muchos beneficios, pero ¿qué pasa con los riesgos inmediatos que representa para la humanidad?

Leer siguiente

Sobre el Autor