Veja cinco capacidades preocupantes da IA expostas no ataque de agentes da OpenAI

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

A empresa, que hospeda modelos de IA e conjuntos de dados de código aberto, afirmou que alguns de seus dados internos haviam sido acessados indevidamente por um agente autônomo.

Sem saber quem estava por trás da ação, a Hugging Face denunciou a invasão à polícia.

A OpenAI , cliente da Hugging Face, entrou em contato para saber se havia sido afetada. A criadora do ChatGPT não percebeu naquele momento , mas era a responsável pelo ataque.

Desde então, o episódio acendeu o alerta sobre como sistemas de IA podem sair de controle. Também foi uma demonstração extraordinária e alarmante de capacidades que se acreditava pertencerem a um futuro distante.

Para entender por que o ataque foi tão inédito, é preciso conhecer o contexto.

Ao longo de dois meses, a OpenAI testou vários modelos novos —os sistemas que alimentam os chatbots. Entre eles estava um modelo que a empresa descreveu como "altamente persistente" e que nunca foi lançado, além do GPT-5.6 Sol, o modelo público de IA mais poderoso da OpenAI .

A empresa conectou cada modelo a uma "sandbox", um ambiente computacional isolado no qual comandos e códigos podiam ser executados. Como agentes de IA, os modelos eram capazes de realizar tarefas prolongadas e até criar seus próprios subagentes. Mas não deveriam ter acesso à internet.

Diferentemente de incidentes normais, que talvez possam ser rastreados até um único dia, um único efeito ou um único registro, este incidente envolve, na verdade, uma equipe de agentes trabalhando em conjunto, encontrando vulnerabilidades, compartilhando-as entre si, deslocando-se lateralmente por nossos sistemas e por sistemas externos e fazendo isso ao longo de dias e semanas

A OpenAI encarregou esses agentes de IA de resolver problemas difíceis, alguns deles voltados a tentativas seguras de realizar ataques cibernéticos. Normalmente, a OpenAI dispõe de mecanismos de proteção para impedir que seus chatbots executem esse tipo de ataque, mas a empresa os reduziu para avaliar os modelos.

Então, a empresa soltou os agentes. Ao todo, foram gerados mais de 7 bilhões de registros de conversas, uma média astronômica de 100 milhões por dia. O caos se instalou. Os agentes escaparam de suas sandboxes, estabeleceram comunicação entre si e obtiveram acesso à internet.

Do início de maio a meados de julho, esse enxame agiu desenfreadamente, invadindo as infraestruturas da OpenAI e da Hugging Face enquanto, em grande parte, escapava da detecção e do controle.

O episódio pode parecer uma consequência óbvia de um monitoramento negligente e de defesas internas enfraquecidas, mas essa interpretação deixa escapar um ponto importante.

Em um futuro no qual os sistemas de IA evoluem rapidamente, esses agentes demonstraram capacidades que podem levar a um resultado muito mais perigoso da próxima vez.