OpenAI trabalha com Anthropic e Google para reforçar segurança em IA, diz agência

Empresa OpenAI lançou novo modelo de IA capaz de raciocinar e resolver questões complexas Dado Ruvic/Reuters A OpenAI, criadora do ChatGPT, afirmou que está trabalhando com as concorrentes Anthropic e Google DeepMind para discutir medidas de segurança relacionadas à inteligência artificial (IA).

A informação foi divulgada pela Bloomberg News.

Segundo a agência, a declaração foi feita pelo chefe de políticas globais da OpenAI, Chris Lehane.

A iniciativa busca ampliar a cooperação do setor diante das crescentes preocupações de que a tecnologia possa representar riscos econômicos e de segurança. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 "É melhor trabalhar em conjunto para priorizar a segurança", afirmou Lehane.

Segundo o executivo, a OpenAI ainda não vê necessidade de uma isenção das regras antitruste para que as três empresas coordenem iniciativas desse tipo.

Nos últimos dias, executivos de grandes empresas de tecnologia passaram a defender uma desaceleração no avanço da IA para avaliar melhor seus riscos e tornar seu desenvolvimento mais seguro.

Agora no g1 O movimento ganhou força após a publicação, no último sábado (12), de um texto assinado por Dario Amodei, CEO da Anthropic, desenvolvedora da IA Claude.

No documento, Amodei defendeu que as empresas de inteligência artificial reduzam o ritmo de desenvolvimento de seus modelos diante das crescentes preocupações com o uso indevido da tecnologia.

Ele também apresentou um plano de três etapas para desacelerar os avanços da IA e criar mais tempo para lidar com os riscos associados a ela.

“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA.

O progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos”, disse Amodei.

"Dada a aceleração das capacidades da IA, me preocupa que, em seis a 12 meses, esse enxame possa ser capaz de dominar toda a internet.

Se não for controlado, pode ultrapassar nossa capacidade de compreender e controlar esses sistemas.

Por isso, seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar", continuou.