Estados dos EUA dizem que ChatGPT prejudica jovens e processam OpenAI

Segundo os estados, o chatbot orientou seus usuários, incluindo adolescentes, a causar ​danos a si ⁠mesmos ou ​a outras pessoas.

Os procuradores-gerais desses estados, entre os ⁠quais Iowa, Kansas e Arizona, ​abriram os processos de forma independente em tribunais estaduais, alegando que o ChatGPT foi projetado para ser agradável ‌e envolvente a fim de ‌conquistar a ​confiança dos usuários. No entanto, segundo as ações, o chatbot reforça delírios, incentiva comportamentos perigosos e auxilia os usuários ‌no planejamento de atos de violência, como tiroteios em massa.

Os processos representam a ação estadual coordenada mais significativa contra uma empresa de inteligência artificial e somam-se a uma onda de contestações legais que a OpenAI enfrenta enquanto se prepara para abrir capital. O procurador-geral da Flórida entrou com a primeira ação estadual desse tipo ‌em junho.

As ações acusam a empresa de violar leis estaduais de proteção ao consumidor ao induzir os usuários ​em erro quanto à segurança do ChatGPT. Os estados também alegam que a empresa ‌causou perturbação da ordem pública ao colocar em risco a saúde de seus residentes.

As ações judiciais buscam ordens que ‌obriguem a OpenAI a fazer ‌alterações no funcionamento do ChatGPT. Entre outras coisas, os estados querem que a ⁠empresa seja impedida de desenvolver modelos de IA capazes de se aperfeiçoarem sozinhos, a menos que possa garantir que esses modelos estejam alinhados aos valores humanos.

Os estados, que também incluem Arkansas, Idaho, ​Montana, Nebraska e ​Virgínia Ocidental, estão buscando, além disso, multas por violação de legislação estadual pela OpenAI, bem como indenização por danos.

A empresa também enfrenta dezenas de ações judiciais movidas por particulares, que alegam que o ChatGPT ajudou usuários a planejarem tiroteios em massa ou ⁠outros atos de violência.

(Reportagem de Diana Novak Jones; Edição de Chris ​Reese, Alexia Garamfalvi e Aurora Ellis)

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.