CEO da OpenAI junta-se ao apelo de Amodei enquanto enfrenta crise de custos e infraestruturas

Num momento em que os principais centros de inteligência artificial dos Estados Unidos enfrentam pressões técnicas e financeiras sem precedentes, o setor assistiu, este sábado (12 de setembro) a um alinhamento público entre os seus maiores rivais.

Primeiro foi Dario Amodei, diretor executivo da Anthropic, a publicar um ensaio intitulado "We Must Pace the Frontier" , no qual defende a necessidade urgente de um abrandamento coordenado no avanço dos modelos mais avançados.

A proposta foi logo acolhida Elon Musk, fundador da xAI, com um lacónico «Dario tem razão», no X.

Mas logo depois uma das maiores concorrências da Anthropic, a OpenAI (ChatGPT) juntou-se às suas fileiras, com o CEO, Sam Altman, a afirmar a sua concordância.

Uma união inédita entre rivais pela segurança mundial, ou antes um momento em que estes agentes de mercado estão em especial pressão técnica? O que diz a Anthropic No documento, Amodei adverte que os ciclos de auto-aperfeiçoamento recursivo aceleraram a tecnologia para além da capacidade humana de contenção e alinhamento.

O responsável identifica a proliferação de agentes autónomos desregulados como o perigo mais iminente, traçando um horizonte de apenas seis a 12 meses para que sistemas avançados possam orquestrar ciberataques em grande escala através de botnets persistentes.

Perante o risco de prejuízos avaliados em centenas de milhares de milhões de dólares ou de colapsos infraestruturais irreversíveis, o líder da empresa por trás do chatbot Claude propõe um pacto formal entre os laboratórios do mundo democrático para desacelerar o ritmo dos lançamentos e conceder a auditores externos independentes o mesmo nível de acesso a dados internos habitualmente reservado aos seus próprios funcionários técnicos.

Amodei pede travão na IA por "risco existencial": imperativo de segurança ou cálculo de mercado? O gatilho para esta tomada de posição surge na sequência direta da demissão de Jacob Coxon, investigador de alinhamento com passagens pela OpenAI e pela Anthropic.

Em declarações públicas que precipitaram a crise interna, Coxon acusou as administrações das tecnológicas de manterem uma corrida irresponsável rumo à superinteligência auto-aperfeiçoável, afirmando que muitos cientistas admitem em privado que estes sistemas podem colocar a sobrevivência humana em causa até ao final da década.

O compromisso de Altman Foi a esta tese que, na rede social X, Sam Altman não apenas subscreveu integralmente, como revelou que a moderação da velocidade de treino tem sido o principal tema de debate interno na OpenAI nas últimas semanas.

O líder de uma das maiores empresas de IA do mundo comprometeu-se mesmo a adotar as auditorias com acesso total aos sistemas.