Governo da Malásia inicia ação judicial contra empresas de Musk por falhas de segurança na IA

A Comissão de Comunicações e Multimídia da Malásia anunciou oficialmente que dará início a processos judiciais contra a rede social X e a xAI, ambas propriedades de Elon Musk. A decisão ocorre em resposta à alegada incapacidade das empresas em proteger os usuários locais contra a disseminação de conteúdo adulto gerado pela ferramenta de inteligência artificial Grok. A medida legal é conduzida em parceria com o Ministério das Comunicações do país e surge após o órgão regulador ter solicitado, sem sucesso, a remoção de materiais ofensivos nos dias 3 e 8 deste mês. Segundo as autoridades malaias, “nenhuma ação corretiva foi tomada” pelas plataformas, o que motivou a escalada para a esfera judicial visando a aplicação da lei.

O comunicado divulgado pelo órgão regulador nesta terça-feira enfatiza que a administração das plataformas falhou em seus deveres de moderação. “Essa ação diz respeito à falha em garantir a segurança dos usuários na Malásia em relação ao uso do Grok”, declarou a comissão. A postura do governo malaio reflete um endurecimento nas políticas de controle digital na região, buscando resguardar os cidadãos de exposições nocivas no ambiente virtual. A ausência de resposta adequada às solicitações de remoção foi determinante para a abertura do processo, sinalizando que as autoridades não tolerarão a inércia das grandes empresas de tecnologia diante de violações das normas locais de segurança online.

Suspensão do serviço e natureza do conteúdo

A ação judicial sucede a decisão da Malásia, tomada no último domingo, de suspender o acesso ao Grok, seguindo um movimento similar realizado pela Indonésia. A restrição foi motivada pelo uso recorrente da ferramenta para a criação de material digital que viola as leis de decência do país. O governo citou especificamente a geração de “imagens obscenas, sexualmente explícitas, indecentes, grosseiramente ofensivas e manipuladas sem consentimento, incluindo conteúdo envolvendo mulheres e menores”. A gravidade das imagens, que incluem conteúdo manipulado sem consentimento e exposição de menores, acelerou a resposta regulatória e a cooperação entre diferentes nações do Sudeste Asiático para conter a distribuição desse tipo de material.

Diante das acusações e da pressão internacional, a rede X não emitiu comentários imediatos sobre o processo. Ao ser contatada por e-mail, a xAI retornou apenas uma resposta automática com a frase: “A mídia tradicional mente”. Apesar do silêncio oficial, a empresa de inteligência artificial implementou restrições recentes, limitando a geração de imagens apenas para assinantes pagos, após críticas globais sobre a facilidade com que a ferramenta criava imagens de pessoas sem vestimentas. No entanto, reguladores de diversos países, incluindo o Reino Unido, consideraram essas alterações insuficientes para mitigar os riscos reais apresentados pela tecnologia sem as devidas travas de segurança.

Responsabilidade corporativa e novas regulações

O argumento central do regulador malaio para sustentar o processo é que a responsabilidade pelo conteúdo não recai apenas sobre o usuário que digita o comando, mas também sobre as empresas que fornecem a tecnologia. As autoridades afirmam que tanto o X quanto a xAI detêm o controle sobre o design, a implementação e os mecanismos de moderação do Grok, devendo responder pelas brechas que permitem atividades ilegais. “A responsabilidade não pode ser descartada quando salvaguardas sistêmicas falharam”, pontuou o órgão. Além deste processo, a Malásia avança com novas exigências para o setor, incluindo a obrigatoriedade de licenças para operação de mídias sociais e o planejamento de banir contas de menores de 16 anos ainda este ano.