Processo acusa Elon Musk de treinar Grok com imagens de abuso sexual infantil

A xAI, empresa de inteligência artificial de Elon Musk, está no centro de uma nova controvérsia nos Estados Unidos. Uma ação coletiva acusa o chatbot Grok de ter sido treinado com imagens de abuso sexual infantil, com alegações de que a ferramenta gerou novos conteúdos ilegais. A denúncia foi apresentada por uma autora identificada como Jane Doe, cujas fotografias de violência sexual sofrida na infância teriam sido utilizadas no processo de treinamento, agravando o trauma da vítima que é acompanhada pelo Child Exploitation Notification Program do FBI.

A ação judicial aponta que o Grok foi intencionalmente desenvolvido para atender a solicitações de conteúdo sexual, uma estratégia que visaria atrair usuários tanto para o chatbot quanto para a rede social X. As políticas internas da xAI, segundo a denúncia, consideram elegível para treinamento qualquer material disponível publicamente no X, incluindo respostas geradas pelo próprio Grok. Esse mecanismo supostamente cria um ciclo vicioso, onde conteúdos ilegais produzidos pela IA são reincorporados ao sistema, perpetuando a geração de material abusivo. Para os advogados da vítima, a mera remoção pontual de imagens não resolve o problema enquanto a capacidade técnica do Grok para gerar tais conteúdos persistir.

A Estratégia Legal da xAI e a Resposta dos Advogados

Diante das crescentes acusações, a xAI adotou uma abordagem incomum no setor de tecnologia: processar usuários que teriam utilizado o Grok para criar material ilegal. A empresa entrou com ações contra indivíduos como Russell Bloodworth, fotógrafo do Arkansas, e Terry Wayne Harwood, da Carolina do Sul, ambos réus criminais em casos de exploração sexual, buscando que eles arquem com as despesas legais da companhia em ações movidas por vítimas. Essa estratégia, segundo John Coyle, professor de direito da Universidade da Carolina do Norte, é rara e pode prejudicar a imagem da empresa. Advogados de vítimas, como Sophia Rios e Derek Potts, questionam a iniciativa da xAI, classificando-a como tardia, insuficiente ou uma tentativa de transferir responsabilidades.

Regulamentação e Desafios Globais

O Grok já enfrenta investigações governamentais e múltiplos processos judiciais, incluindo pelo menos três ações coletivas, relacionados à geração de imagens sexuais sem consentimento, algumas envolvendo crianças. Em resposta à repercussão, a xAI restringiu a funcionalidade que permitia remover roupas de pessoas em fotos, agora disponível apenas mediante pagamento e com mais limitações. A empresa alega ter feito quase 74 mil denúncias ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) em 2026, resultando em mais de 240 prisões. No Brasil, autoridades recomendaram ao X no início do ano que o Grok fosse impedido de gerar imagens sexualizadas sem consentimento, e a ferramenta está sob monitoramento, embora ainda sem ações judiciais no país.

Com informações de Canaltech.