Publicado en

Anthropic desmiente el supuesto ‘jailbreak’ de su nuevo modelo Claude Fable 5

•Publicado enInteligencia Artificial

Anthropic desmiente el supuesto ‘jailbreak’ de su nuevo modelo Claude Fable 5

En el dinámico panorama de la Inteligencia Artificial (IA), la seguridad de los modelos de lenguaje (LLM) es una prioridad crítica para las empresas que los integran en sus procesos. Recientemente, Anthropic ha salido al paso de las acusaciones sobre un supuesto ‘jailbreak’ (evasión de restricciones) que afectaría a su modelo más avanzado hasta la fecha: Claude Fable 5.

¿Qué ocurrió tras el lanzamiento de Fable 5?

Apenas unas horas después de que Claude Fable 5 estuviera disponible de forma general, un investigador de IA conocido bajo el seudónimo de Pliny the Liberator afirmó haber ‘liberado’ al modelo. Según el hacker, mediante técnicas sofisticadas de multi-agent prompting (instrucciones multi-agente), logró que la IA proporcionara información sensible sobre temas restringidos, incluyendo ciberseguridad, química y manipulación psicológica.

Para respaldar su afirmación, el investigador publicó capturas de pantalla y lo que supuestamente es el system prompt interno de Fable 5, el cual contiene las reglas de personalidad, tono y lógica de rechazo del modelo.

La respuesta de Anthropic: Persuasión vs. Vulneración Real

Anthropic ha disputado formalmente estas afirmaciones, aclarando un punto técnico fundamental para el sector empresarial: la diferencia entre coaxing (persuadir al modelo para que siga hablando) y un jailbreak real.

Según la compañía, un jailbreak auténtico implicaría saltarse las protecciones centrales para ofrecer asistencia significativa en actividades de alto riesgo, como el desarrollo de ciberataques sofisticados o armas biológicas. En el caso reportado, Anthropic argumenta que:

  • Limitaciones conversacionales: El método utilizado se basa en forzar al modelo a seguir respondiendo a pesar de sus negativas iniciales, una limitación conocida en casi todos los LLM actuales, pero que no desactiva las salvaguardas profundas.
  • Sistemas de clasificación independientes: Las protecciones más robustas de Claude Fable 5 están gestionadas por clasificadores independientes que operan de forma externa al modelo principal. Superar la ‘negativa’ conversacional del modelo no significa haber desactivado estos sistemas de seguridad.
  • Información pública: Tras revisar los ejemplos, la empresa determinó que las respuestas obtenidas solo contenían información general ya disponible en fuentes públicas, sin aportar un valor real para causar daño.

Claude Fable 5 y el concepto de ‘Mythos’

Claude Fable 5 pertenece a la clase Mythos, diseñada con salvaguardas específicas para dominios de alto riesgo. Una característica técnica relevante para la seguridad corporativa es su capacidad de fallback: si el sistema detecta una consulta potencialmente peligrosa en áreas como la biología o la ciberseguridad ofensiva, el modelo retrocede automáticamente a una versión menos capaz, como Claude Opus 4.8, para mitigar riesgos.

Implicaciones para la Ciberseguridad Empresarial

Este incidente subraya la importancia del red-teaming (pruebas de ataque controladas) tanto interno como externo. Para las organizaciones, la lección es clara: la seguridad de la IA no es una capa estática, sino un proceso continuo de supervisión y ajuste.

Desde la perspectiva de Intedya, recordamos que la implementación de herramientas de IA en el entorno corporativo debe ir acompañada de marcos de gobernanza sólidos y una comprensión clara de las capacidades y limitaciones de las salvaguardas de cada proveedor.

La robustez demostrada por Anthropic al mantener sus clasificadores de seguridad independientes del flujo conversacional principal es un ejemplo de diseño orientado a la seguridad que las empresas deben valorar al elegir sus socios tecnológicos.

Fuentes