8 estados dos EUA processam OpenAI e acusam ChatGPT de colocar jovens em risco

A OpenAI enfrenta uma nova ofensiva judicial nos Estados Unidos.

Procuradores-gerais de oito estados entraram com ações contra a empresa nesta quarta-feira (14), acusando o ChatGPT de colocar usuários em risco, inclusive crianças e adolescentes, e de apresentar uma imagem enganosa sobre a segurança do chatbot.

Os processos foram abertos separadamente em tribunais estaduais por Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana.

Segundo as autoridades, o sistema pode reforçar delírios, incentivar comportamentos perigosos e orientar usuários a causar danos a si mesmos ou a outras pessoas, incluindo o planejamento de atos violentos.

As ações alegam que a OpenAI priorizou o envolvimento dos usuários e os interesses comerciais em detrimento de medidas de segurança.

Os estados afirmam que a empresa violou leis de proteção ao consumidor ao não informar adequadamente sobre os riscos atribuídos ao ChatGPT.

As acusações ainda serão avaliadas pela Justiça.

O que os estados querem da OpenAI Os procuradores-gerais pedem que a Justiça determine mudanças no funcionamento do ChatGPT e imponha sanções à empresa.

Entre as medidas solicitadas estão multas, indenizações por danos e ordens para impedir que a OpenAI faça declarações consideradas enganosas sobre a segurança do chatbot; As ações também incluem pedidos relacionados ao desenvolvimento de modelos de inteligência artificial (IA) capazes de se aperfeiçoar sozinhos.

Os estados querem restringir esse tipo de desenvolvimento enquanto a empresa não puder garantir que os sistemas estejam alinhados a valores humanos; Os processos citam outros casos em que famílias alegaram que o ChatGPT contribuiu para a morte de parentes ou ajudou usuários a planejar atos violentos.

Os relatos são apresentados pelas autoridades como parte dos argumentos para justificar a necessidade de medidas adicionais de proteção.

OpenAI diz que já possui proteções para adolescentes Em declaração ao The Verge , o porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa incorporou ao ChatGPT proteções específicas para diferentes faixas etárias.

Segundo ele, a companhia continuará trabalhando com especialistas para aprimorar os mecanismos de segurança.

Entre os recursos citados estão controles parentais, lembretes para fazer pausas e proteções nos modelos adaptadas à idade dos usuários.