Red Hat lanza la comunidad asago para automatizar la seguridad y la gobernanza de IA

Red Hat anunció la creación de asago, un proyecto comunitario de código abierto destinado a automatizar la transformación de políticas de gobernanza de IA en sistemas de IA listos para producción e implementados con seguridad. asago conecta las etapas, herramientas y requisitos fragmentados entre los equipos de ingeniería y compliance para crear un flujo de trabajo automatizado, auditable y rastreable. El objetivo es ayudar a entregar sistemas de IA más seguros y listos para producción, impulsando la innovación en días, y no en meses o años.

asago (AI Safety And Governance Orchestration) busca utilizar una plataforma open source estandarizada y un flujo de trabajo automatizado para traducir políticas corporativas y regulatorias de gobernanza de IA complejas en controles operacionales efectivos. Se basa en el trabajo de Red Hat y NVIDIA como miembros de la Open Secure AI Alliance, y alinea la flexibilidad de los desarrolladores con la gobernanza de los operadores a lo largo de cuatro etapas principales:

Mapeo de riesgos: el framework lee e interpreta automáticamente las políticas de gobernanza de IA enviadas, mapeando los requisitos específicos de la organización directamente a frameworks, ontologías y estándares consolidados de gestión de riesgos en IA, como el NIST AI RMF, el OWASP LLM Top 10 y la Ley de IA de la Unión Europea (EU AI Act), a través del IBM AI Risk Atlas. De esta manera, transforma el lenguaje de las políticas en perfiles de riesgo accionables.

Evaluación de riesgos: asago genera y ejecuta escenarios específicos para cada caso de uso, realizando pruebas automatizadas de seguridad adaptadas a los riesgos identificados e investigando comportamientos potencialmente nocivos, en lugar de depender exclusivamente de benchmarks genéricos.

Mitigación de riesgos: el proyecto recomienda las medidas de mitigación más adecuadas, incluyendo guardrails de seguridad basados en los resultados de las pruebas, creando una justificación clara y una traza de auditoría lista para revisión.

Implementación en producción: asago orquesta los controles recomendados en configuraciones listas para implementación en diferentes plataformas, incluyendo ambientes de nube híbrida y Kubernetes, eliminando la codificación manual de la infraestructura.

Traducir directrices abstractas de políticas en configuraciones funcionales de software retrasa la innovación en IA y aumenta los riesgos derivados de fallas de comunicación e interpretaciones equivocadas. Los profesionales de compliance necesitan evaluaciones rigurosas de riesgo y evidencias verificables, mientras que los ingenieros de plataforma requieren configuraciones estructuradas que puedan mantenerse dentro de los flujos estándar de DevOps y GitOps. A medida que regulaciones integrales, como la Ley de IA de la Unión Europea (EU AI Act), entran en vigor, las organizaciones no pueden correr el riesgo de comprometer la innovación con meses de revisiones manuales ni de crear implementaciones paralelas (shadow AI) sin los guardrails de seguridad adecuados.

asago busca eliminar esta fricción al ofrecer un estándar abierto único, capaz de reunir a equipos de compliance, científicos de datos y administradores de infraestructura. Al tratar a todos estos públicos como usuarios igualmente relevantes, la plataforma permitirá crear controles de seguridad para agentes autónomos de IA y modelos de lenguaje de gran tamaño (LLM) corporativos, sin introducir las inconsistencias inherentes a la traducción manual.

«A medida que las organizaciones avanzan de proyectos piloto experimentales hacia agentes autónomos de IA a largo plazo, establecer guardrails operacionales claros se convierte en un requisito esencial de infraestructura», afirma Steven Huels, vicepresidente de Ingeniería de IA en Red Hat. «A través de iniciativas como Lightwell, estamos trabajando para proteger la cadena de suministro open source contra vulnerabilidades impulsadas por IA. asago complementa este esfuerzo y representa el siguiente paso lógico para la IA corporativa al automatizar la conexión entre definiciones de políticas corporativas y agentes en producción. Esto ofrece a las empresas la confianza operacional de extremo a extremo necesaria para escalar una IA confiable en ambientes de nube híbrida».

«El proyecto asago es un verdadero esfuerzo colaborativo de código abierto que reúne a representantes de la industria de tecnología, la academia y el sector público», afirma Stuart Battersby, arquitecto de seguridad y evaluación de modelos de IA en Red Hat. «Invitamos a nuevos colaboradores a participar en esta iniciativa liderada por la comunidad, especialmente de diferentes partes del mundo, para garantizar la mayor diversidad posible de perspectivas sobre seguridad en IA».

Aspectos destacados

Automatización para reducir la complejidad de las políticas: sustituye interpretaciones manuales y scripts personalizados por un flujo de orquestación integrado, reduciendo el tiempo de implementación de meses a días.

Una traza única de auditoría: atiende a responsables de políticas, CIO, desarrolladores de IA, ingenieros de plataforma y auditores externos en una interfaz unificada de trazabilidad.

Código abierto y gobernanza orientada por la comunidad: disponible bajo la licencia Apache License 2.0 para promover la colaboración abierta en todo el ecosistema de seguridad en IA.

Implementación independiente de la infraestructura: genera configuraciones declarativas para Kubernetes, Terraform y Ansible, permitiendo que las organizaciones mantengan una postura consistente de seguridad en múltiples nubes y ambientes on-premises.

El proyecto asago reúne a líderes de la industria e instituciones académicas, incluyendo a Red Hat, Brave Software, la coalición EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, North Carolina State University, NVIDIA y The Alan Turing Institute, en un esfuerzo conjunto para integrar diferentes especialidades en investigación sobre seguridad en IA, ingeniería de software empresarial, aprendizaje automático adversarial y cumplimiento regulatorio.

“La Open Secure AI Alliance se fundó sobre el principio de que los modelos abiertos, los arneses y las herramientas abiertas son la base más sólida para la defensa de la IA, y asago pone ese principio en práctica», afirma Daniel Rohrer, vicepresidente de Seguridad de Software en NVIDIA. «Al automatizar la traducción de la política de gobernanza de la IA a controles listos para producción y trazas de auditoría, el proyecto asago demuestra cómo Red Hat, NVIDIA y nuestro ecosistema están fortaleciendo la seguridad de los agentes con herramientas de código abierto”.

El proyecto asago se encuentra actualmente en la fase de formación de la comunidad. Desarrolladores, investigadores académicos y organizaciones interesadas en adoptar la iniciativa de forma anticipada ya pueden acceder al repositorio y participar en la gobernanza del proyecto a través de GitHub. Para obtener más información y manifestar interés en colaborar, ingresa a asago.ai.