Se a IA tem uma hipótese em cinco de nos destruir, o que fazemos com as outras quatro?

Jacob Coxon, investigador da Anthropic, demitiu-se, denunciando a indiferença da indústria perante o risco de a IA poder aniquilar a humanidade.

Poucos dias depois, Dario Amodei, diretor executivo da Anthropic, publicou um ensaio em que explica como e por que razão a indústria e os governos devem unir esforços para abrandar o desenvolvimento da IA de fronteira e impedir que esta escape ao controlo humano.

Outros aderiram rapidamente.

Nada disto é novo.

Geoffrey Hinton, eminente informático conhecido como o "padrinho da Inteligência Artificial", estimou, antes de qualquer outra pessoa, entre 10% e 20% a probabilidade de uma IA avançada poder pôr fim à Humanidade nos próximos 30 anos.

Por mais alarmante que isso possa parecer, implica uma probabilidade de sobrevivência de 80% a 90%.

Então, como podemos aumentar as probabilidades de alcançar este desfecho mais seguro? Há formas de aproximar a Humanidade do lado mais seguro das probabilidades de Hinton.

Nada é garantido, mas algumas condições fariam a diferença.

A cooperação entre os Estados Unidos e a China é um foco óbvio, dado que são os países com maior influência sobre o futuro da IA.

A proposta de Amodei, que prevê avaliadores independentes integrados, limiares de capacidades e um caminho para normas partilhadas, constitui uma base sólida, mas não pode partir de uma única empresa.

Outros intervenientes, incluindo os governos, têm de estar de acordo.

O abrandamento deveria ser uma condição prévia e um objetivo imediato, para ganhar tempo para criar três mecanismos de avaliação: verificação contra o desenvolvimento e a implementação clandestinos, avaliação independente de capacidades perigosas e monitorização coletiva de incidentes com protocolos de crise.

Há um precedente de cooperação entre a China e os Estados Unidos para evitar riscos partilhados.

Em novembro de 2024, Washington e Pequim acordaram que as decisões sobre armas nucleares não deveriam ser delegadas à IA.