Revelan vulneración al poderoso modelo de IA Mythos de Anthropic

El poderoso modelo de inteligencia artificial (IA) Mythos de Anthropic, la empresa tras el chatbot Claude, sufrió una vulneración. Así lo reveló una persona familiarizada con el asunto y lo corroboró Bloomberg News tras acceder a pruebas documentales.

Lee también: ¿Quién creó el bitcoin? Investigación devela la identidad de Satoshi Nakamoto

Lo paradójico es que la propia firma liderada por Dario Amodei ha calificado la herramienta como tan capaz que puede facilitar ciberataques peligrosos. Por tal motivo, su acceso estaba restringido a un consorcio de alrededor de 40 compañías tecnológicas de primer nivel.

El reporte señaló a “un pequeño grupo no autorizado de usuarios” como el causante de la vulneración de Mythos. Dichas personas ingresaron “el mismo día” en que Anthropic anunció la disponibilidad limitada del modelo, complementó la agencia británica Reuters.

“Desde entonces, el grupo ha estado utilizando Mythos con regularidad, aunque no con fines de ciberseguridad”, apuntó el informe original sobre la herramienta diseñada exclusivamente para ciberseguridad ofensiva y defensiva.

Bloomberg News explicó que los intrusos probaron varias estrategias para entrar al modelo, incluyendo las credenciales de alguien que trabaja para un contratista de Anthropic. Reunidas en un foro privado de la plataforma Discord, estas personas se enfocan en información sobre modelos de IA no publicados.

Una fuente que conversó con el medio estadounidense afirmó que la vulneración de Mythos no tuvo otra motivación que la curiosidad. Así también lo reflejaron capturas de pantalla y una demostración en vivo del software que el grupo mostró a los reporteros.

Anthropic validó los antecedentes aportados por la prensa. “Estamos investigando un reporte que afirma que hubo acceso no autorizado (…) a través de uno de nuestros entornos de proveedores externos”, respondió a TechCrunch. Al cierre de esta edición, no había señales de perjuicios a terceros.

Por qué alarma la vulneración a Mythos

En una evaluación previa al lanzamiento, la herramienta de IA burló de forma autónoma un entorno sandbox seguro. Posteriormente, ideó un exploit de múltiples pasos para obtener acceso a internet y hasta envió un correo electrónico a un investigador.

Por enésima vez, este incidente pone bajo la lupa la seguridad de la IA y plantea una nueva pregunta incómoda: si un grupo de curiosos pudo colarse en Mythos, ¿qué tan peligroso sería un modelo ideado para ataques cibernéticos si cae en manos equivocadas?

También te puede interesar:

• Revelan vulneración al poderoso modelo de IA Mythos de Anthropic
• Transición en Apple: John Ternus toma la posta del CEO Tim Cook
• Ulanzi D200X: desde atajos hasta más puertos para tu PC
• WhatsApp Plus: nuevas funciones y precio en la app de mensajería
• Las mejores películas mexicanas en Amazon Prime Video