“IAs rebeldes sairam do controle e atacaram site.” Não é bem assim…

O que a notícia dizia: Duas inteligências artificiais que estão sendo desenvolvidas pela OpenAI saíram do controle, acessaram a internet sozinhas e então invadiram o site Hugging Face (que pertence a uma empresa de IA).

Qual é a verdade: Os dois bots (o GPT-5.6 e um outro, que ainda não foi lançado pela OpenAI) estavam rodando o ExploitGym (1) , um teste que manda IAs atacarem outros softwares e aí verifica se elas são capazes de fazer isso.

Ou seja: os bots da OpenAI estavam seguindo instruções humanas; eles não agiram por vontade própria.

Continua após a publicidade Mas o ponto crucial é que, como a própria OpenAI admitiu (2) alguns dias depois, as duas IAs estavam com suas “recusas cibernéticas reduzidas” – ou seja, os mecanismos de segurança que as impedem de executar certas ações, como tentar hackear sites, haviam sido intencionalmente desligados.

Fontes 1.

“ExploitGym: can AI agents turn security vulnerabilities into real attacks?”; 2.

“OpenAI e Hugging Face se unem para tratar incidente de segurança durante avaliação de modelo”.

Publicidade