'Dominar toda a internet', 'matar seres humanos': o que já disseram executivos e especialistas sobre os riscos da IA

Diversas cidades tiveram marchas contra a inteligência artificial ao longo do último ano Getty Images via BBC Nos últimos meses, executivos de grandes empresas de tecnologia, ativistas e organizações não governamentais passaram a defender uma pausa no avanço da inteligência artificial para tornar seu desenvolvimento mais seguro.

Por que empresas que aceleraram a corrida da IA agora defendem pisar no freio; entenda o que está por trás disso 'Freio' na IA? Debate leva gigantes da tecnologia ao radar dos investidores; ações operam mistas Muitas dessas falas expressam preocupação com a possibilidade de a inteligência artificial ganhar poder excessivo sobre a internet e até "matar seres humanos".

Além disso, elas defendem a criação de órgãos internacionais para estabelecer regras e padrões de segurança para o desenvolvimento da tecnologia.

Relembre abaixo algumas dos comentários públicos sobre os riscos da IA: Dario Amodei, CEO da Anthropic CEO da Anthropic pede que setor desacelere ritmo de desenvolvimento da IA Em artigo publicado em 12 de setembro, o CEO da Anthropic, criadora da IA Claude, pediu que as empresas de inteligência artificial moderem o ritmo de avanço das capacidades de seus modelos diante do aumento das preocupações com o uso indevido da IA.

"Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet.

Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar", escreveu Amodei. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 O discurso também foi defendido por executivos de empresas que concorrem com a Anthropic, como Sam Altman, CEO da OpenAI, empresa responsável pelo ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.

Sam Altman, CEO da OpenAI Ao concordar com a declaração de Amodei, o CEO da organização que comanda o ChatGPT disse que é preciso "marcar um ritmo da fronteira" de IA.

" Esse tem sido um tema principal das discussões que tivemos na OpenAI.

Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo.

Teremos mais para compartilhar em breve", escreveu Sam Altman.

A empresa anunciou, no início de agosto, que estava desacelerando o desenvolvimento de seus modelos de inteligência artificial enquanto reformula seus sistemas de pesquisa e treinamento após agente em teste invadir sistemas de outra empresa.