Processo acusa Elon Musk de treinar Grok com imagens de abuso sexual infantil

Uma nova ação coletiva nos Estados Unidos acusa a xAI, empresa de inteligência artificial de Elon Musk, de treinar o chatbot Grok com imagens de abuso sexual infantil .

A autora, identificada apenas como Jane Doe, afirma que fotos da violência sexual sofrida por ela na infância foram usadas nesse processo e resultaram na criação de novos conteúdos ilegais por IA.

Segundo a denúncia, Jane Doe é acompanhada pelo Child Exploitation Notification Program, programa do FBI que monitora vítimas de exploração infantil.

O que diz a ação A ação sustenta que a xAI projetou o Grok para responder a pedidos de conteúdo sexual como estratégia para atrair usuários ao chatbot e à rede social X .

De acordo com a denúncia, as políticas internas da empresa tratam como elegível para treinamento qualquer material publicado abertamente no X, incluindo respostas geradas pelo próprio Grok.

Essa prática teria criado um ciclo: conteúdos ilegais produzidos pela ferramenta voltavam a alimentar o treinamento do sistema.

Para a defesa de Jane Doe, a remoção pontual de imagens não resolve o problema enquanto o Grok mantiver a capacidade técnica de gerar esse tipo de material.

"Não existe exceção de inteligência artificial para as leis federais de proteção infantil", afirmou Margaret Mabie, do escritório Marsh Law Firm e uma das advogadas da autora, segundo comunicado enviado à imprensa.

Sarah London, sócia do escritório Girard Sharp e também representante da vítima, declarou que a xAI precisa responder pelo uso das imagens no treinamento do modelo.

A ação pede indenização às vítimas e a destruição de todo o material de abuso sexual infantil gerado pelo Grok, incluindo arquivos ainda públicos e conteúdos que possam servir de base para o treinamento de modelos futuros. xAI processa os próprios usuários Enquanto responde a essa e outras ações, a xAI adotou uma estratégia pouco comum entre empresas de tecnologia: processar usuários que teriam usado o Grok para gerar material ilegal.

A Politico revelou que a companhia moveu ações contra Russell Bloodworth, fotógrafo do Arkansas que responde a mais de cem acusações criminais por alterar fotos profissionais de crianças com o chatbot, e Terry Wayne Harwood, da Carolina do Sul, também réu criminal por exploração sexual de menor.

Ambos negam as acusações.

Nos processos, a xAI pede que os dois usuários arquem com despesas legais da empresa em ações movidas por vítimas, incluindo indenizações por dano à reputação.

John Coyle, professor de direito da Universidade da Carolina do Norte, avaliou à Politico que esse tipo de ação judicial contra clientes é raro no setor justamente porque prejudica a imagem das companhias.