Microsoft ha convertido su herramienta de evaluación de riesgos de seguridad de inteligencia artificial, Counterfit, en código abierto, lo que permite a cualquiera comenzar a usar la herramienta de forma gratuita. Actualmente, las organizaciones pueden usar Counterfit para automatizar las evaluaciones de riesgos de seguridad, asegurando que la protección que están usando esté a la altura.
Microsoft desarrolló originalmente Counterfit como una herramienta interna que podía evaluar rápidamente la seguridad de la inteligencia artificial y los sistemas de aprendizaje automático. Comenzó como una colección de scripts antes de transformarse rápidamente en una automatización genérica de IA que un operador puede usar para "atacar múltiples sistemas de IA" a la vez.
Microsoft ahora usa regularmente Counterfit como una herramienta central en las operaciones de su equipo rojo de inteligencia artificial. Como Counterfit es independiente del entorno, el modelo y los datos, la herramienta puede ofrecer una evaluación precisa sin impedancia.
La herramienta en sí está diseñada para que la utilicen profesionales de la seguridad. Counterfit utiliza flujos de trabajo similares a otras herramientas populares del equipo rojo como Metasploit o PowerShell Empyre, con un amplio soporte. para secuencias de comandos, algoritmos de ataque precargados, escaneo de vulnerabilidades, registro avanzado y más, a los que se accede a través de la línea de comandos.
Microsoft ha trabajado extensamente con profesionales de la seguridad y grandes organizaciones para desarrollar Counterfit mejor también. Sobre el Blog de seguridad de Microsoft, Matilda Rhode, investigadora senior de ciberseguridad, Airbus, dijo:
La IA se utiliza cada vez más en la industria; Es vital mirar hacia el futuro para asegurar esta tecnología, particularmente para comprender dónde se pueden realizar los ataques al espacio de características en el espacio del problema. El lanzamiento de herramientas de código abierto de una organización como Microsoft para que los profesionales de la seguridad las evalúen la seguridad de los sistemas de inteligencia artificial es bienvenida y una clara indicación de que la industria está tomando este problema en serio.
Puede encontrar el código abierto Microsoft Counterfit en su GitHub oficial.
Relacionados: Trabajos que nunca supo fueron realizados por IA
¿Por qué es útil Counterfit?
Incluso para una empresa del tamaño de Microsoft, completar evaluaciones de seguridad efectivas no es fácil, especialmente cuando esas empresas son enormes líderes de Fortune 500, gobiernos, organizaciones sin fines de lucro y más. Un estudio anterior de Microsoft encontró que un gran número de empresas no pueden probar sus sistemas de inteligencia artificial con precisión.
Descubrimos que 25 de 28 empresas indicaron que no cuentan con las herramientas adecuadas para proteger sus sistemas de inteligencia artificial y que los profesionales de la seguridad buscan orientación específica en este espacio.
Counterfit facilita la realización de esas evaluaciones, automatizando el proceso de análisis y pruebas.
Relacionados: Maneras en las que puede utilizar la tecnología de inteligencia artificial para mejorar su negocio
Además, una publicación reciente Estudio de Gartner enumeró la adopción de seguridad de IA como una de las medidas de seguridad más importantes que una empresa puede tomar para mejorar la protección. El mismo estudio señaló que "para 2024, las organizaciones que implementan controles dedicados de gestión de riesgos de IA evitarán con éxito los resultados negativos de IA con el doble de frecuencia que las que no lo hacen".
En resumen, Counterfit se convierte en una herramienta de evaluación de seguridad de inteligencia artificial de código abierto que debería ayudar a hacer del mundo un lugar un poco más seguro.
¿Su próxima suscripción de antivirus debe incluir inteligencia artificial o es solo otra palabra de moda de seguridad?
Leer siguiente
- Seguridad
- Noticias tecnológicas
- Fuente abierta
- La seguridad cibernética
Gavin es el editor junior de Windows and Technology Explained, un colaborador habitual del Really Useful Podcast, y fue el editor del sitio hermano de MakeUseOf centrado en cripto, Blocks Decoded. Tiene una licenciatura (con honores) en escritura contemporánea con prácticas de arte digital saqueadas de las colinas de Devon, así como más de una década de experiencia profesional en escritura. Disfruta de grandes cantidades de té, juegos de mesa y fútbol.
Suscríbete a nuestro boletín
¡Únase a nuestro boletín para obtener consejos técnicos, reseñas, libros electrónicos gratuitos y ofertas exclusivas!
Un paso más…!
Confirme su dirección de correo electrónico en el correo electrónico que le acabamos de enviar.