É possível desacelerar o desenvolvimento da IA?

Os principais empresários do setor da inteligência artificial dizem que querem reduzir o ritmo vertiginoso do desenvolvimento desta tecnologia, mas a concorrência, a reticência do governo dos Estados Unidos e fatores geopolíticos se interpõem no caminho.

No sábado, o diretor-executivo da Anthropic, Dario Amodei, defendeu uma desaceleração coordenada do desenvolvimento da IA para entender melhor os riscos que as capacidades avançadas desta tecnologia representam.

Ele recebeu o apoio público do CEO da OpenAI, Sam Altman; do diretor da xAI, Elon Musk; do presidente da Google DeepMind, Demis Hassabis, e do diretor-executivo da Microsoft, Satya Nadella.

Nos últimos meses, OpenAI e Anthropic reportaram vários incidentes nos quais os sistemas de IA em fase experimental escaparam de forma autônoma de seus ambientes restritos para acessar a internet e atacar sites e plataformas na internet.

Em alguns casos, estes sistemas de IA demonstraram capacidade de se coordenar, estabelecer hierarquias entre si, trapacear e apagar registros de suas ações.

Na última terça-feira, o pesquisador Jacob Coxon - que se demitiu do cargo que ocupava na Anthropic e anteriormente trabalhou na OpenAI - acusou publicamente as duas empresas de manter padrões de segurança fracos e de estar "brincando com nossas vidas".

A concorrência entre os principais atores do setor é tão feroz e com investimentos bilionários em jogo que nenhum deles está disposto a se arriscar a tirar o pé do acelerador sozinho.

Amodei manifestou disposição para se coordenar com os rivais, sem incluir a China.

Consultadas pela AFP sobre possíveis diálogos neste sentido, Anthropic, OpenAI e Google não responderam de imediato.

Por enquanto, a única medida concreta com a qual se comprometeram tanto Anthropic quanto OpenAI foi permitir que observadores independentes verifiquem o trabalho interno das empresas na área de segurança.

Embora boa parte do setor tenha comemorado a mensagem de Amodei, outros questionaram seus motivos.

Para Brian Roemmele, empresário e figura de destaque do setor de IA, trata-se de um discurso comercial, divulgado semanas antes do provável lançamento da Anthropic na bolsa.

"Somos a empresa responsável; somos a cura; comprem o prêmio de segurança", publicou no X.

Várias personalidades do capital de risco no setor tecnológico também acusaram a Anthropic de fazer uma "captura regulatória": buscar que as autoridades públicas consolidem uma hierarquia, mediante regulamentação, com a startup no topo.