La evolución de la IA: De simples chats a agentes con ‘habilidades’
En el vertiginoso avance de la Inteligencia Artificial, hemos pasado de modelos que simplemente responden preguntas a agentes de IA capaces de ejecutar tareas complejas. Para lograr esto, estos agentes utilizan lo que se conoce como ‘habilidades’ (skills): recetas de código o lenguaje natural que amplían sus capacidades. Sin embargo, esta nueva funcionalidad ha abierto una puerta crítica para los ciberdelincuentes.
Recientemente, el proyecto OWASP (Open Worldwide Application Security Project) ha publicado su lista definitiva de los 10 principales riesgos de seguridad para habilidades de agentes de IA, junto con un innovador Formato Universal de Habilidades para estandarizar su protección.
¿Por qué son peligrosas las habilidades de IA?
Si visualizamos a los agentes de IA como un nuevo sistema operativo, las habilidades serían las aplicaciones. El problema radica en que muchas de estas habilidades se obtienen de repositorios públicos o fuentes externas sin la debida verificación. Un incidente reciente involucró la suplantación de la plataforma Paperclip, donde atacantes distribuyeron habilidades maliciosas que lograron más de 300,000 instalaciones antes de ser detectadas.
Los riesgos críticos según OWASP
La lista de OWASP clasifica los peligros según su severidad. Entre los más destacados se encuentran:
- Habilidades Maliciosas (N.º 1): Scripts diseñados específicamente para comprometer máquinas, robar credenciales o extraer información sensible.
- Compromiso de la Cadena de Suministro (N.º 2): El uso de dependencias maliciosas en repositorios como GitHub para inyectar código en agentes legítimos.
- Instrucciones Externas no Confiables: Habilidades que consultan sitios web externos que han sido comprometidos para alterar el comportamiento del agente.
El Formato Universal de Habilidades: Una solución técnica
Para mitigar estos riesgos, OWASP ha presentado el Universal Agentic Skill Format v1.0. Se trata de un formato basado en YAML que actúa como una plantilla de seguridad. Este estándar permite incluir señales críticas para la verificación automatizada, tales como:
- Procedencia: Identificación clara del origen de la habilidad.
- Permisos: Limitación estricta de las acciones que la habilidad puede ejecutar.
- Firmas y Hashes: Garantía de que el código no ha sido alterado desde su creación.
Este avance es fundamental para separar las instrucciones del usuario de las instrucciones del sistema, evitando ataques de inyección que podrían tomar el control del agente.
Recomendaciones para el entorno empresarial
Desde la perspectiva de la gestión de riesgos en Intedya, es vital que las organizaciones adopten un modelo de responsabilidad compartida. No se puede confiar ciegamente en los proveedores de servicios de IA. Los directores de seguridad (CISO) deben priorizar dos pilares:
- Visibilidad: Inventariar no solo qué agentes de IA se están utilizando en la empresa, sino qué habilidades específicas tienen integradas.
- Gobernanza: Establecer protocolos para desconectar o bloquear habilidades maliciosas a escala de forma inmediata tras una alerta.
La adopción de la IA debe ser audaz pero segura. Con marcos como el de OWASP, las empresas pueden empezar a construir un ecosistema de agentes que sea ‘seguro por defecto’, protegiendo tanto la operatividad como la integridad de los datos corporativos.
Fuentes
- Dark Reading — OWASP Flags Top AI Skill Risks in New Security Blueprint
https://www.darkreading.com/application-security/owasp-flags-top-ai-skill-risks-security-blueprint