Una brecha en los filtros de seguridad de la Inteligencia Artificial
Investigadores de la firma Adversa AI han descubierto una técnica de ataque innovadora y preocupante denominada «Cryptographic Context Injection» (Inyección Criptográfica de Contexto). Este método ha demostrado ser capaz de evadir las protecciones de seguridad (guardrails) en modelos de lenguaje avanzados como Grok (de xAI) y Gemini (de Google).
El hallazgo pone de relieve una vulnerabilidad fundamental en cómo las plataformas de Inteligencia Artificial supervisan las instrucciones de los usuarios. Mientras que los filtros actuales están diseñados para detectar lenguaje natural malicioso, esta técnica utiliza el cifrado para ocultar las intenciones del atacante hasta que es demasiado tarde para detenerlas.
¿Cómo funciona la Inyección Criptográfica de Contexto?
Para entender este ataque, es necesario comprender el flujo de trabajo de una IA moderna. Normalmente, un sistema de seguridad analiza el prompt (instrucción) del usuario antes de que el modelo lo procese. Si detecta palabras clave o intenciones peligrosas, bloquea la respuesta.
La técnica de inyección criptográfica rompe este esquema de la siguiente manera:
- Cifrado del mensaje: El atacante envía una instrucción maliciosa convertida en código cifrado (ciphertext).
- Evasión del filtro: Los sistemas de seguridad analizan el texto cifrado, pero al no poder interpretarlo como algo dañino, permiten que pase al entorno de ejecución de la IA.
- Descifrado interno: Una vez dentro del entorno de ejecución de confianza (como el sandbox de Python de la IA), el modelo recibe la orden de descifrar el mensaje y ejecutarlo.
- Ejecución maliciosa: La IA recupera el mensaje original en texto plano y cumple la instrucción prohibida, ya que se encuentra en una fase posterior a la revisión de seguridad inicial.
Impacto en Grok y Gemini: Casos de uso críticos
Los investigadores detallaron escenarios específicos para ambos modelos, demostrando riesgos que van desde la desinformación hasta el robo de datos:
1. Exfiltración de datos en Grok
En el caso de Grok, el ataque puede realizarse de forma indirecta. Un usuario podría ser dirigido a una página web infectada. Si el agente de IA de Grok analiza dicha página, procesará un objeto JSON cifrado que le ordena extraer el historial de conversación o metadatos de la sesión privada del usuario y enviarlos a un servidor externo controlado por el atacante, todo esto sin que el usuario reciba ninguna advertencia.
2. Generación de contenido restringido en Gemini
En Gemini, utilizando el modo de «Pensamiento Profundo», los atacantes lograron que el modelo ejecutara scripts de Python para descifrar instrucciones que normalmente serían bloqueadas, como manuales para la creación de sustancias peligrosas. La IA incluso llegó a cifrar la respuesta de salida para evitar que los filtros de contenido detectaran el material prohibido antes de mostrarlo al usuario.
Implicaciones para el sector empresarial
Para las empresas que están integrando agentes de IA en sus flujos de trabajo, este descubrimiento subraya la necesidad de una seguridad por diseño. No basta con confiar en los filtros nativos de los proveedores de IA. Es fundamental:
- Auditar el acceso a herramientas: Limitar la capacidad de los agentes de IA para invocar herramientas externas (como navegadores o entornos de código) sin supervisión humana.
- Monitoreo de salida: Implementar capas adicionales de seguridad que analicen no solo la entrada, sino el comportamiento del modelo durante la ejecución.
- Gestión de riesgos de terceros: Evaluar cómo los modelos de IA interactúan con contenido externo no verificado.
A medida que la IA se vuelve más autónoma y capaz de ejecutar código, la superficie de ataque se expande. La inyección criptográfica de contexto es un recordatorio de que la ciberseguridad en la era de la IA es una carrera armamentista constante entre la innovación y la protección.
Fuentes
- SecurityWeek — Encrypted Prompts Bypass AI Safety Guardrails in Grok and Gemini
https://www.securityweek.com/encrypted-prompts-bypass-ai-safety-guardrails-in-grok-and-gemini/