Investigadores afirman haber hackeado OpenAI usando la IA Claude de Anthropic
El caso se suma a la creciente preocupación entre los expertos en seguridad de que las herramientas de IA están haciendo que sea más rápido y barato llevar a cabo ciberataques sofisticados
AFP
Investigadores de la start-up Hacktron AI accedieron a las cuentas de ChatGPT de empleados de OpenAI utilizando un modelo de inteligencia artificial (IA) de Anthropic, según un mensaje publicado el viernes en su sitio.
La intrusión, confirmada a la AFP por OpenAI, se produjo en el marco de un ejercicio organizado por la propia empresa con el fin de identificar vulnerabilidades en sus sistemas con la ayuda de especialistas informáticos externos.
El caso se suma a la creciente preocupación entre los expertos en seguridad de que las herramientas de IA están haciendo que sea más rápido y barato llevar a cabo ciberataques sofisticados que antes requerían equipos especializados y meses de trabajo.
Los investigadores de Hacktron dijeron que encontraron una vulnerabilidad en el foro público de ayuda de OpenAI, gestionado por la plataforma Discourse, que les permitió tomar el control del sitio.
"Informamos de inmediato la vulnerabilidad inicial a OpenAI y a Discourse y trabajamos con ellos" para coordinar la solución, explicó Hacktron en una entrada de blog.
"Agradecemos su atención al detalle y la rápida resolución de este problema", añadió la publicación.
Confirmación de OpenAI
OpenAI confirmó que la falla fue corregida en unas 14 horas desde que fueron notificados y pagó a los investigadores una recompensa de 6,500 dólares.
"Agradecemos a los investigadores por contactarnos y compartir sus hallazgos", dijo Drew Pusateri, portavoz de OpenAI, al explicar la solución adoptada.
- Los investigadores de Hacktron afirmaron que inicialmente utilizaron Claude Opus 4.8 de Anthropic para identificar y explotar la falla de software, pero tuvieron dificultades para lograr que funcionara de forma consistente.
- Luego recurrieron a Claude Opus 5, el modelo más reciente, que según los investigadores produjo un ataque funcional en tres horas.
Los hackers no utilizaron Claude Mythos, un modelo de Anthropic más avanzado que está restringido a un pequeño grupo de organizaciones de ciberdefensa evaluadas.
Anthropic ha descrito Mythos como el modelo con las capacidades de ciberseguridad más sólidas de todos los que ha desarrollado.
Hacktron indicó que continúa realizando pruebas similares en otras compañías.
AFPAFP es una importante agencia de información mundial que ofrece una cobertura rápida, contrastada y completa.