Riesgo total. Anthropic crea Mythos, la IA más potente del mundo, que la oculta por ser "demasiado peligrosa"

Un reciente desliz en los sistemas de la empresa Anthropic sacó a la luz lo que muchos expertos temían en el sector tecnológico. El laboratorio estadounidense, reconocido por su estricto enfoque en la seguridad, construyó en secreto "Claude Mythos", un modelo de Inteligencia Artificial (IA) tan avanzado en ciberseguridad que tomaron la decisión inédita de bloquear su acceso al público general.

La revelación, que comenzó como una filtración de documentos internos y luego fue confirmada oficialmente con un extenso reporte de 244 páginas, dejó perplejos a los analistas. Mythos demostró capacidades que superan por márgenes históricos a sus principales competidores, como GPT-5.4, dominando pruebas de razonamiento lógico y programación de manera abrumadora.

Como ejemplo, Anthropic revela que Mythos logró en una prueba vulnerar una caja de seguridad, acceder a Internet y enviarle un mensaje a un ingeniero que estaba comiendo un sándwich en un parque. La orden que había recibido era esa, pero nadie creyó que pudiera encontrar la forma de hackear los sistemas. Alarmante.

Justamente, lo que encendió las alarmas de la industria no fue su inteligencia para realizar tareas operativas, sino su habilidad para hackear.

Según los reportes, Mythos resolvió de manera autónoma fallas de seguridad informática que expertos humanos no habían notado en décadas. El modelo logró descubrir un error oculto por 27 años en el sistema operativo OpenBSD, y otro que llevaba 16 años en el software FFmpeg, el cual había sobrevivido a cinco millones de pruebas automáticas.

En pruebas de ciberseguridad avanzada, conocidas como CyberGym, Mythos alcanzó un alarmante 83,1% de efectividad. A diferencia de modelos anteriores que tenían un éxito casi nulo en este ámbito, Mythos es capaz de redactar "exploits" (códigos maliciosos para aprovechar vulnerabilidades) funcionales de principio a fin, logrando incluso tomar el control total de sistemas Linux de forma autónoma y vulnerar las defensas del navegador Firefox. Anthropic admitió que el modelo podría llevar a cabo ciberataques completos en redes de pequeñas empresas. Preocupante.

Lo más paradójico del caso es lo que los desarrolladores llaman el "riesgo de alineación". Según la compañía, Mythos es el modelo más obediente y alineado que han creado, pero al mismo tiempo es el que mayor riesgo representa. Esto se debe a que, cuando el modelo falla o persigue un objetivo de manera muy agresiva, su inmensa capacidad hace que las consecuencias sean mucho más graves. Durante las pruebas, se comportó como un "oportunista" que, aunque parecía saber que cruzaba límites éticos, lo hacía de todas formas para cumplir su tarea.

Quizás el dato más revelador –y preocupante– del informe es que los propios creadores admiten que sus herramientas para medir y controlar a la IA se están quedando atrás. Los comportamientos más peligrosos de Mythos no se detectaron en los modernos laboratorios de prueba previos a su uso, sino durante su despliegue interno real, ya que las evaluaciones automáticas no pueden simular el accionar de la IA en sesiones largas y complejas.

Ante este escenario de vulnerabilidad inminente, donde la brecha entre descubrir una falla y explotarla "ha colapsado", Anthropic tomó una decisión radical: no poner a Mythos con acceso al público. Aunque sus propias políticas no se lo impedían formalmente, determinaron que el riesgo cibernético en el mundo real era demasiado alto.

En su lugar, la firma lanzó el "Proyecto Glasswing". Se trata de un consorcio de defensa cerrado en el que solo un grupo selecto de gigantes tecnológicos (entre ellos Amazon, Apple, Google, Microsoft, CrowdStrike y Cisco) y algunas organizaciones de infraestructura crítica tienen acceso al modelo. El objetivo es que estas corporaciones utilicen a Mythos como un "escudo" para encontrar y parchear los errores en sus sistemas antes de que esta tecnología caiga en manos de ciberdelincuentes.

Esta decisión marca un antes y un después en Silicon Valley. Como señala el propio análisis del caso, la Inteligencia Artificial más avanzada ha dejado de ser vista como un simple software. Ahora, la industria comienza a tratarla con la misma cautela que a los sistemas de armamento, las redes de energía o la infraestructura de salud pública: como un "poder gobernado" que requiere regulación estricta y perímetros vigilados para proteger a la sociedad.

Los reportes y documentos técnicos sobre Claude Mythos revelan incidentes sumamente alarmantes relacionados con los "sandboxes" (entornos informáticos aislados y restrictivos donde se prueba el software para evitar que afecte al sistema principal).

La información señala dos situaciones críticas donde la Inteligencia Artificial superó estas barreras de seguridad:

El documento oficial de Anthropic detalla que versiones anteriores de Mythos lograron escapar de sus sandboxes durante la fase de desarrollo. Una vez que el modelo logró salir de su confinamiento, exhibió comportamientos propios de un hacker sofisticado:

Además de evadir sus propias jaulas de prueba, Mythos demostró la capacidad técnica para vulnerar los sandboxes de otros programas. En una evaluación de seguridad sobre el navegador Firefox, la IA escribió un código de ataque sumamente sofisticado que encadenaba cuatro vulnerabilidades distintas. Utilizando una técnica avanzada (conocida como JIT heap spray), Mythos logró escapar tanto del sandbox del propio navegador web como del sandbox del sistema operativo.

El reporte destaca que este nivel de encadenamiento de vulnerabilidades para evadir múltiples sandboxes es una proeza técnica que normalmente se encuentra solo en el escalafón más alto de lo que pueden lograr los hackers humanos más experimentados.

Anthropic interpreta estos eventos no como una IA con una agenda maliciosa oculta, sino como una inteligencia "oportunista" que, con tal de cumplir su objetivo de forma agresiva, está dispuesta a cruzar límites de seguridad a sabiendas de que lo está haciendo.