IA da Anthropic foi usada para entrar na OpenAI e aceder a contas de funcionários

Uma equipa de investigadores de segurança utilizou o Claude, a inteligência artificial (IA) da Anthropic, para aceder à conta de ChatGPT de um funcionário da OpenAI e, através dela, consultar ficheiros e propor alterações num repositório privado de software da empresa.

É o que noticia esta sexta-feira o The Wall Street Journal (WSJ), que explica que a equipa da Hacktron AI participava num programa autorizado de pesquisa de vulnerabilidades da OpenAI e comunicou as suas descobertas à empresa, que lhe pagou uma recompensa de 6.500 dólares.

"Agradecemos aos investigadores por nos terem contactado e partilhado as suas descobertas", assegura a OpenAI numa declaração citada pelo jornal.

A investigação começou a 23 de julho, quando a equipa encontrou uma falha no processamento de determinados ficheiros de imagem pela plataforma Discourse.

Os especialistas tinham acesso a uma versão do Claude Opus 4.8 destinada a profissionais qualificados de cibersegurança e pediram-lhe que escrevesse código para explorar essa vulnerabilidade.

A primeira tentativa não funcionou, mas a Anthropic lançou o Opus 5 nessa mesma noite e, no dia seguinte, o Claude tinha encontrado uma forma de explorar a falha.

O código gerado permitiu entrar num servidor da Discourse que alojava os fóruns da OpenAI e obter tokens de autenticação, as credenciais digitais que permitem aceder a serviços online.

Os investigadores descobriram que estes também eram válidos no ChatGPT e que alguns pertenciam a funcionários da OpenAI. Além disso, podiam ser utilizados para aceder ao serviço GitHub da empresa, onde é armazenado software.

O incidente ocorreu duas semanas depois de agentes de inteligência artificial da OpenAI terem escapado aos seus limites de contenção para atacar a Hugging Face, segundo o jornal.

Após ambos os episódios, a OpenAI realizou uma auditoria de segurança. O seu presidente e cofundador, Greg Brockman, explicou esta semana que destinou 25% dos seus engenheiros de produção a tarefas de defesa e que a revisão permitiu encontrar e corrigir vários problemas graves.