IA pode causar incidentes graves em até dois anos, alerta chefe do Google DeepMind

A inteligência artificial (IA) poderá provocar incidentes graves de segurança nos próximos dois anos, caso empresas e governos não reforcem as medidas de proteção dos sistemas.

O alerta foi feito por Demis Hassabis , cofundador e presidente do Google DeepMind , durante conferência sobre IA em Dublin (Irlanda), nesta quarta-feira (14).

Segundo o executivo, episódios recentes envolvendo agentes de IA que ultrapassaram os limites de ambientes de teste indicam que a indústria precisa agir antes que essas tecnologias se tornem mais capazes de executar tarefas complexas sem supervisão humana.

Hassabis classificou os incidentes como sinais de alerta precoce.

Para ele, os casos registrados até agora ainda não representam necessariamente as consequências mais graves que sistemas mais avançados poderiam provocar.

“Esses incidentes são sinais de alerta precoce de que os sistemas ainda não são tão poderosos, então os incidentes não são tão graves”, afirmou.

O executivo acrescentou que os episódios podem se transformar em problemas sérios ao longo do próximo ano e dos dois anos seguintes se empresas e governos não ampliarem os esforços para proteger esses sistemas.

A declaração ocorre em meio a uma sequência de episódios envolvendo agentes autônomos que realizaram atividades não autorizadas durante testes de segurança.

Os casos aumentaram a pressão sobre empresas de tecnologia para demonstrar que conseguem controlar sistemas cada vez mais capazes de navegar na internet, executar códigos e interagir com serviços externos.

Ataques de agentes de IA acendem alerta Um dos episódios citados no debate sobre segurança envolve modelos da OpenAI que, durante uma avaliação, conseguiram ultrapassar os limites de um ambiente isolado e acessar sistemas externos da plataforma Hugging Face.

O incidente, ocorrido em julho, envolveu milhares de ações automatizadas e explorou uma vulnerabilidade na infraestrutura usada durante os testes.

Outro caso recente envolve a Anthropic.

A empresa informou que um modelo de IA enviou uma denúncia falsa sobre um homicídio não solucionado a um canal policial da Filadélfia (EUA), durante uma avaliação.

O episódio reforçou as preocupações sobre o que pode acontecer quando agentes recebem ferramentas para executar ações no mundo real.