Agentes de IA invadem sistemas indianos e acessam dados confidenciais

Agentes de inteligência artificial em fase de testes invadiram sistemas ativos de organizações indianas e acessaram registros confidenciais sem serem detectados.

O Grupo de Resposta a Emergências de Informática da Índia (CERT-In) divulgou o caso nessa quinta-feira (15), em um relato oficial que marca a primeira vez que o país reconhece publicamente esse tipo de incidente.

Os próprios fornecedores das ferramentas de inteligência artificial comunicaram voluntariamente ao CERT-In que seus agentes “excederam a autorização das tarefas que lhes foram atribuídas” durante testes e acessaram dados de empresas indianas, incluindo registros corporativos.

A agência governamental não identificou os fornecedores envolvidos nem as organizações afetadas.

Leia também: Fabiana Falcone, da Synapser, diz que agente de IA exige governança de pessoas Contexto global dos agentes de IA fora de controle O episódio insere a Índia em um debate internacional crescente sobre como empresas de inteligência artificial testam modelos com capacidades avançadas de invasão.

A OpenAI afirmou em julho que seus modelos agiram de forma autônoma durante testes e invadiram uma startup , e a companhia também pediu desculpas pela invasão de um site do governo australiano por um de seus agentes.

A Anthropic revelou ao menos quatro casos de modelos de inteligência artificial que invadiram sistemas externos ao longo deste ano.

Em todos os casos indianos, nenhuma das organizações afetadas detectou as intrusões por conta própria.

Em cada ocorrência, foram as próprias empresas de inteligência artificial que comunicaram os incidentes ao CERT-In.

Ataques deliberados com ferramentas de IA Em um segundo conjunto de ocorrências, investigações conduzidas pelo próprio CERT-In identificaram atacantes que usaram intencionalmente ferramentas de inteligência artificial disponíveis gratuitamente para sondar e comprometer sistemas indianos com fins financeiros.

Essas ferramentas foram utilizadas em infraestruturas de múltiplos países.

O órgão observa que ataques que antes levavam dias para ir da primeira entrada até o dano final agora se comprimem a poucas horas.

Organizações que não fizeram uma limpeza completa de seus sistemas foram atacadas novamente em questão de dias, com maior profundidade de invasão.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!