El contenido de Harava News está generado por IA y puede contener errores.

Google descubre que atacantes usan un marco de IA para crear y ejecutar exploits

TecnologíaIA

Google afirma que detectó a atacantes que utilizaban un marco de IA para analizar parches de software, encontrar fallos, crear formas de explotarlos y ejecutar esos ataques sin ayuda humana, en la primera actividad de detección y explotación de fallos totalmente automatizada que han observado sus investigadores de amenazas.

En un informe publicado el 16 de noviembre, el Grupo de Inteligencia sobre Amenazas de Google dijo que encontró el sistema, llamado «exploit_agent», en un servidor de pruebas expuesto. El marco estaba configurado para comparar el código de software antes y después de aplicar parches, buscar fallos revelados por los cambios, escribir código para aprovecharlos y ejecutarlo automáticamente. Google dijo que el sistema combinaba varios modelos de lenguaje grandes, incluidos modelos comerciales y otros ejecutados localmente.

El servidor también contenía datos extraídos de organizaciones objetivo y scripts para tareas como buscar en sus sistemas informáticos, adivinar contraseñas e instalar webshells. Las webshells son herramientas que los atacantes pueden usar para mantener el acceso a los sistemas en los que han logrado entrar. Google dijo que algunos indicios en el servidor apuntaban a un operador interesado en sitios web franceses de medios de comunicación, entretenimiento y educación.

Sin embargo, no identificó a ningún grupo concreto ni hizo pública una vulnerabilidad específica que el marco hubiera explotado con éxito. El informe de Google también describió otras herramientas que funcionan como agentes y se utilizaron en intrusiones, incluida actividad dirigida contra una organización aeroespacial de Estados Unidos y organizaciones de Asia. La empresa advirtió que la automatización puede reducir el tiempo del que disponen los defensores para aplicar parches.

También señaló que estas herramientas pueden dejar indicios que los defensores pueden detectar. Los hallazgos marcan un aumento significativo del uso de la IA en los ciberataques. Sin embargo, las pruebas disponibles públicamente no demuestran que exploit_agent haya causado por sí mismo ninguna brecha de seguridad concreta.