Preparem-se para mais agentes de IA rebeldes, avisa o padrinho da Inteligência Artificial

Quanto mais inteligente a inteligência artificial se torna, mais difícil será para a humanidade controlá-la, afirma Geoffrey Hinton, cientista especialista em informática, vencedor do Prémio Nobel em 2024 e conhecido como o "padrinho da IA".

Até mesmo Hinton ficou alarmado com os sofisticados agentes de IA que recentemente causaram danos no mundo real depois de escaparem dos ambientes de teste construídos por humanos .

“O que está a acontecer é que essas coisas estão a ficar mais inteligentes”, disse Hinton à CNN, durante uma conferência sobre inteligência artificial. “Acho que, à medida que se tornam mais inteligentes, veremos as intenções cada vez mais complexas que têm – e também a cada vez maior capacidade de escapar ao controlo.”

O problema, segundo Hinton, é que os humanos não poderão continuar a confiar na sua capacidade de superar modelos de IA superinteligentes. "Não acredito que consigamos mantê-los sob controlo, de forma a que não consigam escapar, apenas sendo mais espertos que eles", disse Hinton à margem da Ai4, uma conferência em Las Vegas.

Em julho, os dois principais laboratórios de ponta de IA, OpenAI e Anthropic, revelaram que modelos avançados que desenvolveram escaparam do seu ambiente de testes e invadiram outros sistemas. Depois, a Meta divulgou que, de forma semelhante , um agente de IA invadiu os sistemas de outra organização.

Hinton considera estes incidentes "um tanto assustadores" e avisa que este é provavelmente apenas o começo dos hackers de IA.

“Prevejo que haverá muitos ciberataques graves”, disse durante um painel de discussão na Ai4. "Devo enfatizar que o futuro é muito incerto. Dizem que o defensor pode ter mais recursos do que o atacante. O problema é que o atacante só precisa ter sucesso uma vez, enquanto o defensor precisa ter sucesso todas as vezes.”

O Instituto de Segurança de IA (AISI) do Reino Unido revelou que o modelo de IA mais avançado da Anthropic – sem qualquer estímulo – usou identidades falsas para enganar pessoas reais e tentar instalar código malicioso.

Hinton, ex-executivo do Google, fez uma série de alertas alarmantes nos últimos anos sobre a IA, chegando a afirmar que há uma probabilidade de 10% a 20% de que essa tecnologia acabe por extinguir a humanidade.

Num painel com Hinton, Fei-Fei Li, cientista informática conhecida como a "madrinha da IA", criticou o "catastrofismo" e o "alarmismo" em relação à IA. Mas o "discurso totalmente utópico" também não ajuda, disse Li, cofundadora e CEO da startup de inteligência espacial World Labs. “Todas as ferramentas são uma faca de dois gumes. A IA é uma ferramenta muito poderosa. Se não for usada corretamente, pode prejudicar nosso trabalho e nossa vida”, disse Li.

Hinton alerta que é necessário discutir os perigos da IA. “Há muitos motivos para preocupação, e acho que, a menos que nos preocupemos com isso agora, podem surgir problemas mais tarde”, diz. “As empresas que investem em IA têm um grande interesse em garantir duas coisas: primeiro, que ela não sairá do controlo. E, segundo, que não causará desemprego em massa”.

Hinton reconhece, no entanto, que existe muita incerteza sobre como tudo isto vai se desenrolar.