CEO da Microsoft diz que IA precisa de freio controlado por humanos

Satya Nadella, presidente do conselho e CEO da Microsoft , defendeu em uma publicação no X neste sábado (10) que sistemas avançados de inteligência artificial (IA) tenham mecanismos de contenção e um botão de emergência controlado por humanos .

A proposta prevê que pessoas autorizadas possam interromper ou desligar um modelo durante a execução de uma tarefa, como parte de uma estrutura de segurança para tecnologias capazes de acessar dados sensíveis e realizar operações importantes.

O executivo argumenta que empresas não devem depender apenas das garantias oferecidas pelos desenvolvedores de IA.

Em vez disso, precisam estabelecer limites de acesso, monitorar as ações dos modelos e manter controles externos que permitam intervir quando necessário.

As recomendações foram apresentadas em meio a alertas de executivos e pesquisadores sobre os riscos associados ao avanço da tecnologia e à insuficiência de mecanismos de segurança . https://t.co/MjwFy73LOF — Satya Nadella (@satyanadella) October 10, 2026 Microsoft propõe novos controles para sistemas de IA Na publicação, Satya Nadella afirma que os modelos atuais não permitem compreender completamente como determinadas respostas e comportamentos são produzidos.

Segundo ele, diferentemente dos softwares tradicionais, nem sempre é possível relacionar as ações de um modelo a entradas específicas dos dados de treinamento ou a configurações dos parâmetros internos.

O CEO defende que sistemas de IA sejam tratados como possíveis riscos internos às organizações, não necessariamente por serem maliciosos, mas porque podem cometer erros ou ser comprometidos quando têm acesso a recursos importantes.

A abordagem proposta prevê a separação entre o modelo e a estrutura responsável por organizar sua execução, além da definição externa das ações que ele pode realizar.

Nadella também afirma que os controles de segurança não devem ficar sob responsabilidade do próprio modelo .

Na avaliação do executivo, as organizações precisam ter autonomia para determinar quais informações podem ser acessadas e quais operações podem ser executadas, sem permitir que a IA altere ou contorne as regras estabelecidas.

Sete princípios para aumentar a segurança da IA O executivo apresentou uma série de princípios para orientar o desenvolvimento e a operação de sistemas avançados.

A lista inclui a utilização de modelos diferentes para tarefas importantes, o registro verificável das ações realizadas e a realização contínua de testes que contemplem falhas, ataques e situações extremas.

Outro ponto é a auditabilidade independente .

Para Satya Nadella, a validação de um sistema não deve depender exclusivamente da mesma inteligência artificial que está sendo avaliada.