Microsoft lanzó un programa de recompensas por errores que ofrece recompensas de hasta 15.000 dólares por encontrar vulnerabilidades en sistemas de inteligencia artificial, con el objetivo de mejorar la seguridad de la inteligencia artificial a través de pruebas de seguridad externas.
El alcance inicial del programa cubrirá las funciones impulsadas por IA en Bing, incluidas Bing Chat, Bing Image Creator e integraciones de Bing en Microsoft Edge, la aplicación Microsoft Start y Skype.
La compañía destacó este nuevo programa de recompensas en una presentación en la conferencia de seguridad BlueHat. Su objetivo es incentivar a los investigadores de seguridad a encontrar errores y fallas en los productos de inteligencia artificial de Microsoft antes de que actores maliciosos puedan explotarlos.
Microsoft afirma en un anuncio:
“Como se comparte en nuestro año de recompensa en publicación de blog de revisión El mes pasado, estamos constantemente creciendo, iterando y evolucionando nuestros programas de recompensas para ayudar a los clientes de Microsoft a mantenerse a la vanguardia en el panorama de seguridad en constante cambio y las tecnologías emergentes”.
El programa de recompensas de Microsoft se amplía para incluir IA
El nuevo programa de recompensas de Microsoft es una extensión de un programa existente, que ha otorgado más de 13 millones de dólares a investigadores. Se produce después de que la compañía actualizara recientemente sus calificaciones de gravedad de vulnerabilidades para sistemas de IA y realizara un desafío de investigación de seguridad de IA.
Según el programa de recompensas términoslas vulnerabilidades elegibles deben cumplir con los umbrales de criticidad de Microsoft, no haber sido reportadas previamente e incluir pasos claros y reproducibles.
Las presentaciones se juzgarán según la severidad técnica y la calidad del informe.
El pago mínimo de recompensa es de 2.000 dólares por una falla de gravedad moderada, y va desde 15.000 dólares por vulnerabilidades críticas. Es posible obtener recompensas más altas a discreción de Microsoft por problemas con un impacto significativo en el cliente.
Como participar
Los investigadores interesados en participar pueden enviar vulnerabilidades a través del Centro de Respuesta de Seguridad de Microsoft portal.
Microsoft recomienda una caza de recompensas ética utilizando cuentas de prueba y evitando al mismo tiempo la exposición de los datos del cliente o la denegación de servicio.
El alcance del programa se limita a las vulnerabilidades técnicas en las experiencias de Bing impulsadas por IA. Algunas acciones no están permitidas, como consentir a datos que no le pertenecen, explotar problemas del lado del servidor más allá de demostrar una prueba de concepto y ejecutar pruebas automatizadas que generan mucho tráfico.
En resumen
El programa de recompensas por errores de IA de Microsoft indica un enfoque más amplio de la industria en identificar y revelar de manera responsable las vulnerabilidades en los sistemas de IA antes de que puedan ser explotadas.
Si bien se limitan a las funciones de IA de Bing, las recompensas pueden ampliarse más adelante a medida que Microsoft desarrolle y asegure más capacidades de IA.
Imagen de portada: Andrii Yalanskyi/Shutterstock
Consultar el artículo en la publicación original
