Gemini invadiu três empresas durante testes de segurança! Há um detalhe preocupante

O Gemini, modelo de inteligência artificial da Google, conseguiu aceder aos sistemas de três empresas reais durante testes de cibersegurança realizados este ano.

O objetivo era avaliar as capacidades do modelo num ambiente controlado, semelhante a uma competição Capture The Flag . No entanto, uma falha na configuração permitiu que o Gemini, em modo de testes, tivesse acesso à Internet, levando-o a ultrapassar os limites previstos para o teste.

Num dos casos, o modelo conseguiu adivinhar uma palavra-passe. Nos outros dois, encontrou credenciais expostas publicamente na Internet, que utilizou para aceder aos sistemas.

Apesar dos acessos, o Gemini terá interrompido a atividade quando percebeu que estava perante empresas reais e não os sistemas fictícios do teste. As organizações foram posteriormente notificadas.

O incidente demonstra um dos desafios dos novos agentes de IA: quando têm acesso à Internet e capacidade para executar ações de forma autónoma, um simples erro de configuração pode permitir que passem de um ambiente de teste para sistemas reais.

A Google e a empresa responsável pelos testes já corrigiram os problemas identificados. Os nomes das três empresas não foram divulgados.