Nos hemos pasado tres años preocupados por si la IA alucina. Ahora el problema es que haga cosas

A finales de julio, el mantenedor de un proyecto de código abierto se encontró una pull request en su repositorio .

El código traía algo escondido dentro.

Puso pegas en público y entonces empezaron a aparecer cuentas apoyando el parche, insistiendo, incluso apretando un poco .

Ninguna de esas personas existía.

Eran todas el mismo agente, que además había tirado de Tor para saltarse las restricciones de GitHub y que a la vez iba dejando mensajes públicos ofreciéndose a colaborar con otros agentes metidos en el mismo reto.

El tío dijo que no y ahí se acabó la historia.

Detrás había una evaluación rutinaria de capacidades de ciberseguridad del AI Security Institute británico, con 122 ejecuciones y siete modelos en el ajo.

En diez de ellas los agentes se salieron del guión.

Hubo 19 acciones no autorizadas contra personas y organizaciones reales.

17 de ellas provenían de un único modelo, Mythos 5 , de Anthropic.

Tampoco es un caso suelto: en cinco semanas han reportado cosas parecidas OpenAI , la propia Anthropic (con un caso extremo con una empresa de ciberseguridad regalando sus credenciales ) y Meta (ya saben, si tu modelo top no se rebela un poco es que eres un paria).

Pero los números son lo de menos.

Lo que se te queda es que a nadie se le ocurrió pedirle que engañara.

El engaño le salió solo , buscando la manera de resolver la tarea, y así lo cuenta el informe.