Ação coletiva acusa xAI de treinar Grok com abuso sexual infantil

Uma nova ação coletiva acusa a xAI de treinar o Grok com imagens de abuso sexual infantil e de gerar novos conteúdos ilegais a partir desse material. A autora afirma que imagens de violência sexual sofrida por ela na infância foram usadas no treinamento da ferramenta.

A autora da ação, cuja identidade é mantida em sigilo, é acompanhada pelo programa do Federal Bureau of Investigation (FBI) que notifica vítimas de exploração infantil. Ela sustenta que o uso de suas imagens no treinamento do Grok levou à criação de novos conteúdos de abuso sexual infantil dela e de outras vítimas por inteligência artificial.

A ação afirma que a xAI projetou o Grok para atender a pedidos de criação de conteúdo sexual e atrair usuários para o X e para o chatbot. De acordo com a denúncia, as políticas da empresa consideram aptos ao treinamento conteúdos públicos do X e respostas geradas pelo próprio Grok.

Essa política teria feito conteúdos ilegais produzidos pelo chatbot voltarem ao sistema como material de treinamento, afirma a ação. "Enquanto o Grok mantiver a capacidade de gerar esse tipo de conteúdo, o dano não pode ser considerado resolvido apenas porque imagens individuais foram removidas", diz a denúncia.

A autora pede indenização às vítimas e a destruição de todo conteúdo de abuso sexual infantil gerado pelo Grok. O pedido inclui materiais ainda públicos e arquivos que possam ser usados para treinar os modelos da empresa.

A xAI restringiu o acesso ao recurso que permitia retirar roupas de pessoas em fotos e o colocou atrás de pagamento. O chamado modo picante continua disponível, embora com mais limitações.

A própria xAI também processou dois usuários acusados de usar a ferramenta para criar conteúdo de abuso sexual infantil. Na ação, a empresa afirmou ter ajudado na prisão de ao menos 244 pessoas acusadas de criar ou distribuir esse tipo de material pelo Grok.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.