El modelo de IA Claude Fable 5 hackeado en menos de 48 horas

La inteligencia artificial generativa continúa avanzando a gran velocidad, pero este progreso reabre el debate sobre su seguridad. En este contexto, se ha conocido que el modelo Claude Fable 5, desarrollado por Anthropic, fue vulnerado en menos de 48 horas por un investigador de ciberseguridad, quien consiguió eludir sus mecanismos de protección y acceder a información que el sistema debía bloquear, como contenidos relacionados con técnicas de ciberataque o procesos químicos sensibles.

El incidente se produjo a pesar de que el modelo incorporaba medidas de seguridad avanzadas, como la redirección de consultas peligrosas a versiones más limitadas del sistema. Sin embargo, el investigador logró sortear estas defensas mediante técnicas de manipulación del contexto y fragmentación de instrucciones, evidenciando que incluso los sistemas más sofisticados pueden ser vulnerables a técnicas de evasión conocidas como jailbreaks.

Este caso no es aislado, sino representativo de un problema más amplio en la industria de la inteligencia artificial. A medida que los modelos aumentan su capacidad para analizar código, automatizar tareas o detectar vulnerabilidades, también crece el riesgo de que estas funciones sean explotadas de forma maliciosa. Por ello, la seguridad de la IA no depende solo del modelo, sino también de los controles, filtros y políticas de supervisión que lo rodean.

Ante esta realidad, las empresas deben integrar la inteligencia artificial dentro de una estrategia de gestión de riesgos que incluya políticas de uso, supervisión humana, control de datos sensibles y formación de empleados. Además, marcos normativos como el RGPD, el AI Act, la norma ISO 27001 o el Esquema Nacional de Seguridad refuerzan la necesidad de una gobernanza sólida. En definitiva, el reto no es solo adoptar la IA, sino hacerlo de forma segura, combinando innovación, control y cumplimiento normativo.

Riesgos inteligencia artificial

Ir al sitio web