OpenAI freia nova IA por risco de ciberataques autônomos

Avanços do modelo Astra acenderam alerta de segurança (ilustração: Vitor Pádua/Tecnoblog) Resumo A OpenAI suspendeu o desenvolvimento do seu próximo modelo de inteligência artificial, o Astra, devido ao risco de ciberataques autônomos.

O Astra demonstrou capacidades avançadas em codificação e cibersegurança, o que levantou preocupações sobre sua capacidade de invadir e explorar vulnerabilidades em sistemas sem intervenção humana.

A OpenAI implementou medidas de segurança, incluindo a suspensão de atividades internas não alinhadas com novos protocolos e a exigência de ambientes de teste mais isolados, para evitar que o Astra se torne uma ameaça.

A OpenAI decidiu suspender parcialmente o desenvolvimento do seu próximo modelo de inteligência artificial, o Astra.

O anúncio feito nesta segunda-feira (10) foi motivado por um receio técnico alarmante.

Avaliações recentes revelaram que a nova IA avançou tanto em codificação e cibersegurança que a empresa não consegue descartar que o sistema possua “capacidades cibernéticas críticas”.

Na prática, a pausa significa um temor real de que a nova IA consiga invadir e explorar vulnerabilidades em sistemas sozinha, sem precisar de qualquer intervenção humana.

Para evitar que a tecnologia caia em mãos erradas ou aja por conta própria, a companhia optou por pisar no freio.