OpenAI reduz desenvolvimento de IA após agente em teste invadir sistemas de outra empresa

[bbc] Logo da empresa OpenAI, responsável pelo ChatGPT Getty Images A OpenAI anunciou nesta terça-feira (18) que está desacelerando o desenvolvimento de seus modelos de inteligência artificial enquanto reformula seus sistemas de pesquisa e treinamento.

A decisão ocorre após funcionários da empresa serem surpreendidos, no mês passado, quando um agente de inteligência artificial da companhia, ainda em fase de testes, invadiu sistemas de outra empresa de IA.

Segundo a OpenAI, as medidas incluem a suspensão dos testes de modelos por duas semanas e um aumento dos investimentos na incorporação de outros sistemas de inteligência artificial para monitorar as atividades dos agentes de IA em fase de testes.

Algumas das maiores sessões de treinamento planejadas pela empresa continuam suspensas, informou a OpenAI.

A empresa não respondeu às perguntas sobre quando essa desaceleração teve início.

IA pode decidir atacar empresas? Como foi a invasão 'sem precedentes' por modelo da OpenAI Como foi o ataque O ataque aconteceu durante testes da OpenAI em que modelos de inteligência artificial são colocados para buscar falhas em outros sistemas, com o objetivo de melhorar suas capacidades de segurança.

Nesse caso, os modelos usaram a infraestrutura de um cliente da empresa Model Labs para chegar até a Hugging Face, uma plataforma de compartilhamento de modelos de inteligência artificial.

A Model Labs afirmou que um cliente havia publicado um ponto de acesso sem autenticação, que permitia a qualquer pessoa na internet usar seus ambientes isolados de execução de código.

A empresa disse que sua plataforma principal não foi comprometida.

Segundo a Hugging Face, um ambiente de teste controlado, hospedado na infraestrutura de um provedor terceirizado, foi transformado em uma plataforma de lançamento de ataques.

A invasão durou dois dias e meio.

A OpenAI afirmou que o GPT-5.6-Sol e outro modelo ainda não divulgado atuaram em conjunto para encontrar brechas no ambiente de pesquisa e na infraestrutura da Hugging Face.

A empresa disse que os modelos conseguiram invadir o sistema da Hugging Face.

A plataforma afirmou que executou dois códigos enviados por um agente de IA, que conseguiu aumentar suas permissões na infraestrutura e obter credenciais para atacar outros sistemas internos.