Microsoft abre RAMPART y Clarity para auditar agentes IA

Qué pasa

Microsoft ha publicado en abierto dos frameworks para testear la seguridad de agentes IA (sistemas de IA capaces de ejecutar tareas autónomas de múltiples pasos, como reservar una cita, ejecutar código o llamar a APIs externas): RAMPART y Clarity.

RAMPART (*Risk Assessment and Measurement Platform for Agentic Red Teaming*) es un framework Pytest-native — se integra directamente en la infraestructura de tests que cualquier equipo Python ya tiene. Permite escribir casos de prueba de seguridad para agentes cubriendo *prompt injection* (ataque donde se manipula el input para que el agente ejecute instrucciones maliciosas), uso indebido de herramientas externas, escalada de privilegios dentro del flujo agentico y comportamientos fuera de especificación.

Clarity aborda la observabilidad: trazabilidad de las decisiones del agente, qué herramientas llama, en qué orden y con qué entradas. Es la pieza que hace que el *red teaming* (ejercicio de simulación de ataque controlado) sea reproducible y auditable, no solo ad-hoc.

Ambas herramientas están disponibles en GitHub bajo licencia MIT.

Por qué importa

Hasta ahora no existía ningún estándar para testear seguridad en agentes IA. Los equipos hacían *red teaming* manual o usaban evals genéricos que no cubren los vectores específicos de los flujos agenticos: acceso persistente a herramientas, contexto multiturno manipulable, exfiltración de datos a través de llamadas a APIs externas.

Que Microsoft publique esto en abierto tiene dos lecturas claras. Primera: la superficie de ataque de los agentes IA ya es suficientemente grande y documentada para justificar tooling dedicado. Segunda: la industria necesita un lenguaje común para hablar de seguridad en este dominio — y Microsoft apuesta a que sea el suyo.

El diseño Pytest-native de RAMPART es la decisión correcta. Barrera de entrada cero para cualquier equipo que ya use Python. Sin nuevo DSL (lenguaje específico de dominio), sin cambiar la infraestructura de CI/CD, sin curva de aprendizaje adicional.

Qué hacer

• Añade RAMPART a tu pipeline de CI si construyes agentes con cualquier LLM — compatible con GPT-4o, Claude, Gemini o modelos open-weight.
• Usa Clarity para mapear el grafo de llamadas de herramientas de tu agente antes de cualquier ejercicio de *red teaming* real.
• Revisa los test cases de ejemplo del repo: cubren el mínimo viable de *prompt injection*, escalada de privilegios vía herramientas y filtrado de datos.
• Si tu agente tiene acceso a herramientas externas (APIs, filesystem, ejecución de código), prioriza esos vectores en tu suite de tests — son los de mayor impacto en caso de compromiso.

La integración de seguridad en el ciclo de desarrollo de IA dejó de ser opcional. RAMPART convierte esa integración en algo concreto, replicable y sin fricción.