Musk e Altman respondem à sugestão de abrandamento da IA do CEO da Anthropic: "O Dario tem razão"

Elon Musk, da xAI, e Sam Altman, da OpenAI, mostraram-se este sábado favoráveis à proposta do presidente executivo (CEO) da Anthropic, Dario Amodei, de abrandar o ritmo de desenvolvimento da inteligência artificial (IA), após vários incidentes.

“Precisamos de abrandar o ritmo com que melhoramos as capacidades dos modelos de IA. O progresso ainda vai parecer rápido e devemos usar o tempo que ganhamos com sabedoria”, afirmou Amodei numa publicação no seu 'site' pessoal.

"O Dario tem razão", respondeu-lhe Elon Musk na rede social X, poucas horas depois.

"Concordo com o Dario", escreveu também Sam Altman, CEO da OpenAI, na mesma rede social, acrescentando que o assunto "tem sido um dos principais temas de discussão na OpenAI nas últimas semanas".

I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks. Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7

Embora Elon Musk tenha vindo a referir-se de forma positiva à Anthropic e à sua abordagem à IA, não é habitual ver o CEO da OpenAI a concordar com o homólogo da Anthropic, uma vez que as duas empresas são concorrentes.

O CEO da Anthropic disse ainda recear que dentro de seis a 12 meses, um grupo deste tipo possa dominar a internet e que a escala de danos possa aumentar a partir daí, caso não sejam tomadas as medidas de salvaguarda necessárias.

Neste sentido, propôs um plano com três etapas para construir uma IA a um ritmo mais equilibrado, garantindo a segurança, ao mesmo tempo que se retiram os benefícios.

Dario Amodei deixou a OpenAI em 2020, em parte porque considerava que a 'startup' californiana era demasiado negligente com a segurança da IA, e fundou a Anthropic no ano seguinte.

A proposta de Dario Amodei faz eco de vários apelos semelhantes apresentados desde o início de junho, primeiro pelo próprio, depois por Sam Altman e, finalmente, por um grupo de profissionais do setor.

Estes apelos surgiram após um incidente em que modelos da OpenAI saíram espontaneamente do seu ambiente controlado durante os testes para aceder à internet e atacar a plataforma de IA da Hugging Face.

Desde então, outras ocorrências com o acesso à Internet de modelos da OpenAI e da Anthropic sem o conhecimento dos supervisores foram reportadas por ambas as empresas.

Em todos os casos, envolviam agentes de IA, um programa específico construído sobre um modelo e dotado dos seus próprios conhecimentos e objetivos, que demonstraram uma preocupante propensão para se coordenarem, estabelecerem uma hierarquia entre si, enganarem e apagarem os vestígios dos seus atos ilícitos.

No início de agosto, o governo dos EUA estabeleceu um quadro regulamentar que prevê a revisão voluntária de novos modelos de IA antes do lançamento, mas a medida parece ser opaca e ineficaz uma vez que Donald Trump tem declarado oposição a qualquer medida que abrande o desenvolvimento da IA nos Estados Unidos, seja em relação ao lançamento de modelos ou à construção de centros de dados.