Anthropic defende regra para desligar IAs consideradas perigosas

A proposta de Jack Clark, cofundador da Anthropic , é transformar o desligamento de sistemas de inteligência artificial em uma exigência regulatória.

O mecanismo teria de ser capaz de interromper ferramentas consideradas perigosas e ainda passar por uma verificação independente.

A ideia surge em meio aos alertas de pesquisadores sobre os riscos de sistemas cada vez mais avançados.

Para Clark, governos precisam discutir regras que garantam às empresas uma forma efetiva de desligar suas IAs, segundo a BBC .

A proposta do cofundador da Anthropic prevê que o desligamento de sistemas de IA possa ser exigido por regras e verificado de forma independente. – Imagem: Mehaniq/Shutterstock A ideia do “botão de desligamento” Clark disse que a maioria dos laboratórios de IA já tem maneiras de desligar seus equipamentos.

A dúvida, agora, é se esse recurso deveria ser obrigatório por lei.

Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão de desligamento automático pode ser verificado por terceiros? Jack Clark, cofundador da Anthropic, à BBC.

Para ele, a discussão também precisa definir como esse mecanismo seria fiscalizado.

Uma possibilidade seria permitir que organizações independentes verificassem se o desligamento realmente funciona.

Entre os pontos envolvidos na proposta estão: exigir mecanismos automáticos de desligamento; permitir a verificação por terceiros; autorizar órgãos governamentais a exigir a desativação de sistemas problemáticos; criar regras para acompanhar os riscos do avanço da IA.

Projeto já tramita nos EUA A ideia tem um equivalente no Congresso americano.

Legisladores dos Estados Unidos apresentaram o “Kill Switch Act”, projeto que exigiria das empresas uma maneira de desativar ferramentas de IA consideradas problemáticas.

A proposta também daria a determinadas agências governamentais autoridade para determinar que uma ferramenta fosse desligada ou tivesse seu funcionamento limitado.

A iniciativa encontra resistência.