Nvidia promete investir US$ 250 milhões em pesquisas sobre segurança de IA

A Nvidia prometeu investir US$ 250 milhões em recursos computacionais no Reino Unido ao longo de cinco anos.

O objetivo é financiar pesquisas em segurança da IA, reforçando as ambições do país de se tornar um centro global de governança e segurança da tecnologia.

Embora a Grã-Bretanha não tenha nenhuma grande desenvolvedora de IA, o bloco busca um papel de liderança na avaliação e gestão dos riscos representados pelos sistemas de IA.

Parte disso vem por meio de seu Instituto de Segurança de IA, um dos primeiros órgãos estatais do mundo criado para avaliar a tecnologia.

O fundador e CEO da Nvidia, Jensen Huang, afirmou neste quarta-feira (14) que o Reino Unido receberá recursos computacionais acelerados no valor de US$ 50 milhões anualmente.

O valor será dedicado a testes de segurança de agentes e ajudará pesquisadores britânicos a fortalecer as salvaguardas para inteligência artificial cada vez mais poderosa.

Leia Mais Segurança de agentes de IA é engenharia solucionável, diz CEO da Nvidia Nvidia lança ferramentas de segurança para conter agentes de IA CEO da Nvidia tranquiliza mercado sobre endividamento com IA e ações sobem “A capacidade e a segurança da IA ​​devem avançar juntas”, disse ele.

“É assim que o Reino Unido transforma a liderança em pesquisa em soluções práticas — e o progresso científico em um futuro que beneficia a todos”.

O escrutínio sobre a segurança da IA ​​intensificou-se depois que desenvolvedores, incluindo a Anthropic e a OpenAI, divulgaram casos de comportamento inadequado ou indesejado por parte de seus agentes.

Algumas figuras do setor alertaram que a tecnologia pode representar uma ameaça existencial para a humanidade.

O ministro britânico de Inteligência Artificial, Kanishka Narayan, afirmou que a doação da Nvidia ajudará a garantir que a IA do futuro seja “segura, protegida e que sirva aos melhores interesses das pessoas”.

O voto de confiança da Nvidia na Grã-Bretanha surge depois de o presidente da Microsoft, Brad Smith, ter afirmado numa entrevista na segunda-feira que o Reino Unido estava bem posicionado para ajudar a liderar o trabalho nas diretrizes de segurança da IA.

A doação conectará áreas de pesquisa britânicas, incluindo o projeto BOLD, liderado pela Universidade de Oxford, que está desenvolvendo abordagens que ajudam os sistemas de IA a aprender, se adaptar e operar ao lado de pessoas, bem como a segurança da robótica no Imperial College e programas no University College London.