Por que cofundador da Anthropic defende um 'botão de desligamento' obrigatório para IA

Um dos cofundadores de uma das maiores empresas de IA do mundo afirmou que um "botão de desligamento" da inteligência artificial , que possa ser verificado de forma independente, talvez seja obrigatório para as empresas.

Jack Clark, um dos sete fundadores da Anthropic , disse que uma forma de desligar completamente os mecanismos de IA caso eles se tornem muito perigosos é algo que a sociedade "talvez queira regulamentar".

Clark afirmou que "a maioria dos laboratórios tem maneiras diferentes de desligar os equipamentos", incluindo a Anthropic , mas disse que os legisladores podem precisar impor a existência de uma dessas maneiras.

O rápido desenvolvimento da IA e os receios sobre os riscos que a tecnologia representa para a humanidade foram colocados em evidência por uma série de alertas de executivos e funcionários de empresas de IA.

Algumas pessoas afirmaram publicamente que existe a possibilidade de que essa tecnologia, se não for controlada, possa matar toda a humanidade.

O diretor-executivo da Anthropic, Dario Amodei, pediu no fim de semana que o ritmo de desenvolvimento da IA seja desacelerado e monitorado mais de perto, como a empresa já fez antes, embora alguns tenham questionado as motivações por trás disso.

Amodei acrescentou que qualquer ação para conter o desenvolvimento da IA deve ser feita "sem sacrificar a vantagem comercial".

Clark disse à BBC que os detalhes sobre os requisitos e a verificação do "botão de desligamento" devem fazer parte da "discussão política mais ampla" que está ocorrendo em torno da IA.

"Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão de desligamento automático pode ser verificado por terceiros?", perguntou ele.

"Acho que esse é o tipo de coisa que a sociedade vai querer saber e que, eventualmente, regulamentar."

A Anthropic, fundada em 2021 por um grupo de ex-funcionários de sua concorrente OpenAI, está atualmente no centro de um debate sobre a segurança da IA.

Na semana passada, uma publicação de um pesquisador de inteligência artificial que deixou a Anthropic por receio de que a IA pudesse exterminar a humanidade viralizou.

Em resposta, o cientista antropológico Evan Hubinger disse que, pessoalmente, acreditava que a possibilidade de extinção da humanidade devido à IA era de "10% na próxima década".

O cientista da computação e ganhador do Prêmio Nobel Geoffrey Hinton, conhecido como o "Pai da IA", disse à BBC na sexta-feira que uma probabilidade de 10% de a IA matar todos os humanos "não é irrazoável".