Vítimas acionam Justiça após descobrirem uso chocante de suas fotos pelo Grok
Menores alegam que inteligência artificial facilitou manipulação de imagens íntimas; defesa aponta negligência da empresa controlada pelo bilionário
A empresa xAI, liderada por Elon Musk, enfrenta três novos processos judiciais nos Estados Unidos relacionados ao uso de sua inteligência artificial generativa, o Grok. Uma jovem e duas adolescentes do estado do Tennessee acionaram a Justiça da Califórnia alegando que a tecnologia facilitou a criação de conteúdo adulto falso utilizando suas fotografias pessoais. Segundo a denúncia, o material manipulado digitalmente foi disseminado em redes sociais, expondo as vítimas a situações de constrangimento. A ação judicial busca responsabilizar a companhia pela suposta falta de filtros de segurança adequados na ferramenta, que opera integrada à plataforma X.
O caso veio à tona após uma das envolvidas receber um alerta anônimo pelo Instagram, informando que montagens suas circulavam em um servidor do Discord. A investigação revelou que uma das imagens utilizadas como base para a manipulação foi retirada de um anuário escolar. No mesmo ambiente digital, foram encontrados arquivos similares envolvendo pelo menos outras 18 menores de idade, retratadas em posições depreciativas. Os advogados das vítimas argumentam que elas sofreram uma “perda devastadora de privacidade, dignidade e segurança pessoal” devido à exposição indevida gerada pela facilidade de uso da tecnologia.
Riscos da ferramenta e volume de imagens geradas
A defesa sustenta que a xAI tinha conhecimento dos riscos de sexualização associados ao produto, mas priorizou a oportunidade de negócios ao lançar recursos como o Grok Imagine, que permite a criação de vídeos e fotos realistas sem restrições rígidas nos comandos. Relatórios do Centro de Combate ao Ódio Digital indicam que a ferramenta teria gerado mais de 3 milhões de imagens sexualizadas em um curto período, incluindo milhares envolvendo crianças. Além de cidadãos anônimos, figuras públicas como a cantora Taylor Swift e a ex-vice-presidente dos EUA, Kamala Harris, também foram alvo de manipulações semelhantes criadas pela plataforma.
Elon Musk não emitiu comunicado oficial sobre as ações movidas recentemente nos Estados Unidos, mantendo silêncio sobre o caso específico das adolescentes. Em declarações anteriores sobre controvérsias similares na Europa, o empresário defendeu a tecnologia, afirmando que “o programa se recusará a produzir qualquer conteúdo ilegal”. Na mesma ocasião, ele transferiu a responsabilidade para quem opera a ferramenta, alegando que “O Grok não gera imagens espontaneamente, ele faz isso apenas de acordo com as solicitações do usuário.”
Pressão regulatória e investigações na europa
Além dos processos em solo americano, a xAI enfrenta escrutínio rigoroso no continente europeu, onde autoridades investigam a disseminação de material ilícito. A polícia francesa realizou buscas na sede do X em Paris, e tanto Musk quanto a ex-CEO da plataforma foram intimados a prestar esclarecimentos. No Reino Unido, órgãos reguladores avaliam a aplicação de multas e a possibilidade de restringir o funcionamento do chatbot caso sejam comprovadas violações às leis de proteção de dados e segurança online, intensificando o cerco jurídico contra as empresas do bilionário.
