‘Precisamos de normas reais e eficazes’, diz presidente da Microsoft sobre riscos da IA

O presidente da Microsoft, Brad Smith, pediu, nesta terça-feira, 13, que empresas e países adotem medidas de segurança “reais e eficazes” para conter os riscos da inteligência artificial (IA).

“Vamos precisar, para a IA, assim como para todo o resto em nossas vidas (…), de normas de segurança reais e eficazes, nas quais o público possa confiar”, declarou o executivo a um grupo de jornalistas, às vésperas de uma cúpula internacional sobre IA em Dublin.

A preocupação com os riscos da IA se multiplicou nos últimos meses depois que os modelos desenvolvidos pela OpenAI e pela Anthropic se viram envolvidos em incidentes de segurança durante testes, o que aumentou a pressão para regulamentar essa tecnologia ou até mesmo frear o desenvolvimento dos modelos que representem riscos maiores.

O executivo detalhou as propostas da Microsoft para reforçar a segurança do setor, a começar pela obrigação de dotar os sistemas de IA de “freios de emergência” que os usuários possam acionar em caso de incidente.

“A ideia, especialmente para as IAs que administram infraestruturas críticas ou sistemas automatizados, é ter a possibilidade de desligá-las ou desacelerá-las”, por exemplo, em caso de perda de controle, usando esse freio de emergência, explicou.

Continua após a publicidade Smith também defendeu impor aos fornecedores de IA a obrigação de notificar incidentes.

“Quando você é uma empresa e é afetada por um incidente de segurança que provoca o vazamento de dados dos consumidores, é obrigado a notificá-los de que alguém teve acesso a seus dados.

Acho que a mesma lógica deveria se aplicar às vítimas de um agente de IA”, com uma responsabilidade legal de informar os clientes.

Continua após a publicidade Por fim, o presidente do grupo americano também pediu o reforço dos testes e avaliações dos modelos de IA para garantir que sejam seguros antes de seu lançamento no mercado.

Diante da rapidez com que o setor evolui, “precisamos agir com urgência”, insistiu.

Vários outros executivos da indústria afirmaram, nas últimas semanas, que essa tecnologia exige uma vigilância maior.

Continua após a publicidade O CEO da Anthropic, Dario Amodei, prometeu em 23 de setembro, na ONU, desacelerar o desenvolvimento da inteligência artificial quando necessário para garantir que cada novo modelo comercializado seja seguro.

No fim de setembro, executivos dos principais gigantes do setor — de Elon Musk, do X, passando por Sundar Pichai, do Google, Jensen Huang, da Nvidia, e também Amodei — assinaram na Casa Branca um código de boas práticas para gerenciar melhor os riscos associados à IA.

Continua após a publicidade (com AFP) Publicidade