Rei Carlos quer ser o adulto na sala da IA e chamar os seus patrões à razão

O rei Carlos III vai reunir-se com os líderes das empresas de inteligência artificial mais importantes do Ocidente para questioná-los como é que a tecnologia pode ser desenvolvida para “o bem da humanidade”.

Uma pergunta na ordem do dia, horas depois de o patrão da Anthropic ter reconhecido o perigo de manter a velocidade de cruzeiro atual, no que foi secundado pelos homólogos da Open AI, SpaceXAI, e Google DeepMind.

Segundo uma fonte oficial citada pelo The Sunday Times , o monarca britânico espera que as discussões conduzam a uma “compreensão mais profunda” das “responsabilidades” inerentes ao desenvolvimento da IA.

"Ele quer fazer a pergunta: ‘Seria útil ter um conjunto de princípios?’.

Ele acha que não é uma tarefa fácil, mas isso não quer dizer que não devêssemos tentar", disse a citada fonte.

De acordo com o mesmo jornal, a reunião acontecerá na Escócia e terá a participação dos patrões da Nvidia, Anthropic, Google DeepMind e OpenAI.

O conselheiro do papa Leão para assuntos de tecnologia e inteligência artificial, Paolo Benanti, também estará presente.

A Fundação Ditchley, cujo trabalho assenta na relações anglo-americanas e faz parte da organização do evento, elaborou um projeto de uma carta de princípios para os líderes de IA adotarem.

A carta inclui um “conjunto de princípios partilhados” para “orientar a futura aplicação da IA, não apenas como uma força para capacidade e eficiência, mas como uma ferramenta que respeita a dignidade humana e contribui para o bem-estar das pessoas e do planeta”.

No sábado, o diretor-geral da Anthropic reconheceu que é preciso “abrandar” a melhoria da IA “para que a prevenção de riscos consiga acompanhar o ritmo”, escreveu Dario Amodei no seu site pessoal.

A ideia foi secundada rapidamente por Sam Altman (OpenAI) e Elon Musk (SpaceXAI).

Na terça-feira, ao demitir-se da Anthropic, Jacob Coxon (também ex-funcionário da OpenAI), criticou a inércia das duas rivais.

"Nenhuma das duas empresas age de forma responsável.

Elas estão a avançar a todo o gás para uma superinteligência capaz de se autoaperfeiçoar e estão a brincar com as nossas vidas", escreveu na rede social X.