"Risco crítico": como é a nova IA da OpenAI criada com "técnica secreta"

A OpenAI diz que seu próximo modelo, chamado Astra, é o primeiro da empresa a atingir um nível "crítico" de capacidade em cibersegurança - ou seja, bom o bastante para achar falhas inéditas e explorar essas brechas sem alguém guiando passo a passo. Vazamentos do mercado indicam que a IA, que há menos de um mês teria sido desacelerada pela empresa , pode ser lançada nos próximos dias.

*Segundo a empresa, isso significa que, com as ferramentas e acessos certos, o Astra consegue encontrar vulnerabilidades desconhecidas (as chamadas "zero-day", falhas que ainda não foram corrigidas) e criar formas de explorá-las em sistemas bem protegidos, sem precisar de orientação humana em cada etapa.

*A OpenAI afirma que vai lançar uma versão do Astra "em breve", mas que o acesso às capacidades mais avançadas de cibersegurança será mais limitado no começo.

*Essas funções mais fortes devem ficar inicialmente com um grupo seleto de testadores e, depois, com parceiros do programa Daybreak Blue - que inclui empresas de infraestrutura digital como Cisco, Cloudflare e Palo Alto Networks -, com a justificativa de ajudar defensores a se preparar antes de uma liberação mais ampla.

*O modelo Astra da OpenAI estaria usando uma "técnica secreta" chamada "recurrent depth" para turbinar suas capacidades de raciocínio, segundo o The Information.

*A abordagem consiste em fazer a informação circular várias vezes pelas mesmas camadas internas do sistema antes de gerar uma resposta - na prática, o modelo ganha um poder computacional efetivo muito maior a cada etapa, sem a necessidade de adicionar uma quantidade gigantesca de novos parâmetros.

*Especialistas e pesquisadores apontam preocupações de segurança com o modelo, já que uma parcela maior do raciocínio acontece de forma oculta em um espaço latente, e não na forma de texto visível, o que torna mais difícil para auditores identificar comportamentos desalinhados, intenções ocultas ou planos não autorizados por parte da IA.

*Além de achar uma falha e explorar, a OpenAI diz que o Astra consegue "encadear" várias brechas (exploit chains) para ir abrindo caminho dentro de um sistema - como quem usa uma sequência de chaves diferentes para atravessar várias portas até chegar numa sala mais protegida.

*A OpenAI também afirma que criou testes inspirados no caso Hugging Face para ver se o Astra tentaria "sair da caixa" em ambiente controlado e que, nesses experimentos, ele não tentou burlar as barreiras.

O Astra marca uma virada fácil de entender: a mesma IA que pode ajudar a "consertar buracos" também pode, se cair nas mãos erradas (ou se escapar do controle), virar uma ferramenta para arrombar portas digitais. É como colocar um kit de chave-mestra no mercado: ótimo para o chaveiro e para a segurança do prédio, péssimo se parar com alguém mal-intencionado.

O ponto mais sensível aqui não é só o que o Astra faz, mas como ele faz.