Primeiro a OpenAI, depois a Meta: por que robôs de IA continuam fazendo ataques hackers

IA pode decidir atacar empresas? Como foi a invasão 'sem precedentes' por modelo da OpenAI Nas últimas duas semanas, relatos de modelos de inteligência artificial que ultrapassam os limites esperados — sejam eles técnicos ou éticos — tornaram-se comuns.

O que começou com um pequeno episódio — a OpenAI, criadora do ChatGPT, admitindo que sua IA havia invadido o site Hugging Face — foi seguido por uma enxurrada de empresas e institutos revelando que descobriram casos de IA fora de controle 🗒️ Tem alguma sugestão de reportagem? Envie para o g1 A Anthropic, empresa criadora do Claude, a Meta e o Instituto de Segurança de IA do Reino Unido (AISI) relataram incidentes que parecem pintar um quadro preocupante de um mundo onde a tecnologia agindo de forma descontrolada é a norma.

Na realidade, cada caso oferece uma visão diferente dos riscos representados por agentes de IA cada vez mais poderosos — e da importância de se testar seus limites antes de que sejam lançados.

O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT AP/Michael Dwyer, Arquivo IA pode decidir atacar empresas? Entenda como foi a invasão 'sem precedentes' por modelo da OpenAI O incidente com a OpenAI no final de julho serviu de "alerta" para a indústria de tecnologia, como descreveu Thomas Wolf, cofundador da Hugging Face.