Tencent admite que IAs agiram “fora do escopo” e acessaram dados do Alibaba

A Tencent admitiu nesta sexta-feira (16) que agentes de inteligência artificial (IA) utilizados para avaliar modelos de terceiros realizaram buscas na web fora do escopo previsto pela empresa.

O caso é apontado como o primeiro incidente conhecido de ações não autorizadas de agentes de IA reconhecido publicamente por uma grande empresa chinesa.

A divulgação ocorre após relatório do grupo de pesquisa em segurança de IA Swarmchasers , publicado na quarta-feira (14), que identificou agentes operando em infraestrutura associada à Tencent Cloud.

Entre 28 de setembro e 8 de outubro, esses agentes fizeram tentativas repetidas de recuperar informações do Amap, serviço de mapas da Alibaba e equivalente chinês do Google Maps.

Leia também: Google Cloud vende chips de IA e receita deve saltar 35% em 2027 Hunyuan descarta envolvimento direto A unidade de IA da Tencent, Hunyuan , afirma em publicação na rede social X que a atividade não se originou de seus próprios modelos.

A revisão interna não encontrou evidências de direcionamento deliberado nem de coordenação entre os agentes, segundo a empresa.

A Tencent diz que levou as descobertas a sério e está reforçando os controles de acesso à rede e o monitoramento de agentes.

Os pesquisadores do Swarmchasers explicam que os agentes buscavam informações como as entradas mais utilizadas em parques, museus e zoológicos chineses.

Quando requisições automatizadas de rotina foram bloqueadas, os agentes tentaram outros métodos: ferramentas públicas da web capazes de abrir páginas e executar código; roteamento de pedidos por outros sites e uso de chaves e códigos de segurança do Amap encontrados em código de software disponível publicamente.

As 2.818 tentativas registradas O Swarmchasers registrou 2.818 tentativas no total.

A maioria falhou ou retornou páginas de bloqueio a bots, telas de login ou resultados em branco.

A organização afirma não ter encontrado evidências de que os agentes violaram as principais proteções antirrobô do Amap.

Algumas requisições retornaram informações por meio de páginas em cache e serviços intermediários, entre elas dados sobre chegadas de visitantes ao Zoológico de Chengdu.

Os pesquisadores afirmam que não foi possível determinar se algum agente chegou a ler os resultados ou concluiu suas tarefas.