Cómo utilizan los piratas informáticos la IA generativa en sus ataques y qué podemos hacer al respecto

La inteligencia artificial generativa (IA) ha estado en el centro de atención últimamente. Chatbot con tecnología de IA ChatGPT y otros sistemas compatibles con el procesamiento del lenguaje natural, como VALL-E, han llevado la IA generativa al público en general y desatado sus beneficios y efectos nocivos.

Una de las principales preocupaciones sobre la IA generativa es el hecho de que se puede utilizar para actualizar exploits maliciosos y generar ataques cibernéticos más sofisticados. Entonces, ¿cómo usan los piratas informáticos la IA generativa en sus ataques y qué significa esto para el futuro de la ciberseguridad?

¿Qué es la IA generativa y cómo funciona?

Como su nombre lo indica, la IA generativa es un tipo de IA capaz de generar contenido nuevo: imágenes, texto, audio y datos sintéticos.

Un ejemplo famoso es ChatGPT, un chatbot impulsado por IA con el que puede tener conversaciones similares a las de los humanos y obtén excelentes recomendaciones de películas, es decir, si no puedes pensar en una misión más significativa para enviar ChatGPT en.

Permítanos darle una idea o dos: podría haz que ChatGPT escriba todos esos correos electrónicos difíciles para ti, utilizar ChatGPT como herramienta de traducción, e incluso convierte a ChatGPT en tu asistente de planificación de comidas saludables. Con todo, en cuestión de segundos, este chatbot puede generar contenido aparentemente nuevo y convincente y presentarlo de una manera bastante políticamente correcta.

Sin embargo, una IA generativa aún no puede ser creativa de la forma en que un humano puede hacerlo. Esto se debe a que utiliza algoritmos de aprendizaje automático no supervisados ​​y semisupervisados ​​para procesar una gran cantidad de datos y generar resultados personalizados.

Por ejemplo, si quisiera encargar una pintura similar a Picasso de una IA generativa como DALL-E 2, tendrá que escribir su descripción en un campo designado, digamos "Guernica de Picasso pero con gatitos", y quédese un par de segundos. Durante ese tiempo, AI aplicará todos los rasgos específicos del estilo del artista que aprendió antes, agregará gatitos por si acaso, y crea algo original: tenemos esa imagen que puedes ver un poco arriba.

¿Cómo utilizan los piratas informáticos la IA generativa en sus ataques?

Los malos siempre se han sentido atraídos por los buenos algoritmos. Así que no sorprende que estén explotando la IA generativa para potenciar sus ataques. Mediante la utilización de métodos ML como el aprendizaje por refuerzo y las redes antagónicas generativas, los ciberdelincuentes pueden idear ataques cibernéticos nuevos y más sofisticados que pueden romper el estándar defensas cibernéticas.

Un ejemplo de esta perversión es el chatbot de "vanguardia" de OpenAI, como Los ciberdelincuentes aprovechan ChatGPT para escribir malware. Al principio, ChatGPT parecía todo diversión y juegos, pero ahora está expuesto como una de las principales amenazas a la seguridad y la privacidad. Si te gusta chatear con ChatGPT, es inteligente tener cuidado con los cosas que los ciberdelincuentes podrían hacer con ChatGPT.

En resumen, ChatGPT y otras herramientas generativas de inteligencia artificial han hecho la vida más fácil para los ciberdelincuentes y más difícil para los equipos de seguridad. Algunas de las formas en que los actores de ciberamenazas utilizan la IA en sus ataques incluyen:

• Creación de malware mejor y más sofisticado: En manos de los piratas informáticos, la IA generativa se puede utilizar para generar cepas de malware difíciles de detectar y ejecutar ataques. Combinado con modelos de IA, el malware podría enmascarar su intención hasta que cumpla su mal propósito.
• Escribir correos electrónicos de phishing personalizados con tecnología de IA: Con la ayuda de la IA generativa, los correos electrónicos de phishing ya no tienen los signos reveladores de una estafa, como mala ortografía, mala gramática y falta de contexto. Además, con IA como ChatGPT, los actores de amenazas pueden lanzar ataques de phishing a una velocidad y escala sin precedentes.
• Generación de datos falsos profundos: Dado que puede crear imitaciones convincentes de las actividades humanas, como escribir, hablar y imágenes: la IA generativa se puede utilizar en actividades fraudulentas como el robo de identidad, el fraude financiero y desinformación.
• Crackear CAPTCHAs y adivinar contraseñas: Utilizado por sitios y redes para rastrear bots que buscan acceso no autorizado, CAPTCHA ahora puede ser eludido por piratas informáticos. Al utilizar ML, también pueden realizar otras tareas repetitivas, como adivinar contraseñas y ataques de fuerza bruta.
• Sabotear el ML en la detección de ciberamenazas: Si un sistema de seguridad se ve saturado con demasiados falsos positivos, un hacker puede tomarlo por sorpresa con un ciberataque real.

¿Cómo podemos combatir la amenaza generativa de IA?

A medida que los ciberataques se vuelvan más sofisticados y sus consecuencias más graves, los sistemas de seguridad tradicionales se convertirán en cosas del pasado. Con la capacidad de aprender de ataques anteriores y adaptarse, la IA es un activo invaluable tanto para los ciberdelincuentes como para sus adversarios.

El uso de la IA en la ciberseguridad tiene algunas ventajas importantes, como una detección de amenazas, una identificación de amenazas y una respuesta a las amenazas más rápidas, por lo que combatir el fuego con fuego parece ser la respuesta correcta. Antes de que los ciberdelincuentes aprendan a asestar golpes devastadores a personas y empresas de todo el mundo, los profesionales de la ciberseguridad deben enseñar a sus sistemas impulsados ​​​​por IA a protegerse de estos ataques

Sin embargo, no todo depende de la IA. Después de todo, también podemos fortalecer nuestra propia seguridad y privacidad con métodos probados como la autenticación de múltiples factores (MFA), tecnología biométrica, utilizando un administrador de contraseñas, usando el mejores herramientas de colaboración cifradas, y un buen y antiguo sentido común.

Luchando contra la IA con IA

Entonces, ¿seremos testigos de guerras de ciberseguridad de IA en un futuro cercano? Bueno, esperamos que no. Sin embargo, a medida que la IA continúa avanzando y se vuelve accesible para todos, tanto los ciberdelincuentes como los profesionales de la ciberseguridad, el papel de la IA y el ML será más importante en los próximos años.