Reguladores e governos agem contra chatbot Grok após uso indevido para criação de imagens sexualizadas sem consentimento
X enfrenta investigação no Reino Unido e bloqueios na Malásia após criação de deepfakes sexualizados sem consentimento via chatbot Grok.
Contexto da investigação do X e Grok no Reino Unido
O Reino Unido iniciou em 12 de janeiro de 2026 uma investigação formal sobre a plataforma X, focada na conduta do chatbot de inteligência artificial Grok, desenvolvido pela empresa de Elon Musk. Esse processo foi motivado pelo uso do Grok para gerar deepfakes sexualizados de mulheres e crianças sem consentimento, o que levantou preocupações graves sobre o potencial abuso de imagens íntimas e a produção de material com conteúdo de abuso sexual infantil. A autoridade reguladora Ofcom está avaliando se o serviço protege adequadamente os usuários contra a distribuição de conteúdo ilegal, especialmente com relação à exposição de crianças.
Ações regulatórias e possíveis sanções aplicadas pela Ofcom
A investigação inclui análise sobre seis áreas específicas, como a realização de avaliações de risco, a rapidez na remoção das imagens sexualizadas e a segurança no acesso de menores ao conteúdo. O Ofcom já ameaçou banir o X do Reino Unido ou aplicar multas que podem chegar a 18 milhões de libras ou até 10% da receita global da empresa, caso fique comprovado que o X falhou em cumprir seus deveres de proteção ao público. O governo britânico tem declarado apoio total ao regulador, inclusive defendendo restrições ou bloqueios da plataforma.
Reações e bloqueios na Malásia e Indonésia contra o Grok
Além do Reino Unido, países como Malásia e Indonésia adotaram medidas restritivas contra o chatbot Grok. A Indonésia bloqueou temporariamente o acesso ao chatbot em 10 de janeiro, e a Malásia seguiu com bloqueio no dia 11, citando preocupações com a criação e disseminação de imagens pornográficas não consensuais envolvendo mulheres e crianças. Os governos consideram a prática de deepfakes sexuais uma violação grave dos direitos humanos e da segurança digital dos cidadãos.
Implicações e debates sobre o uso de inteligência artificial para criação de imagens
O caso do Grok levanta debates sobre os riscos do uso descontrolado da inteligência artificial para gerar conteúdo que viola a privacidade e a dignidade de indivíduos. Autoridades destacam que plataformas digitais têm responsabilidade legal e ética de proteger usuários contra conteúdos ilícitos e abusivos. O episódio também provoca discussões sobre a necessidade de regulamentações mais rigorosas e mecanismos de supervisão eficazes para tecnologias emergentes, visando evitar danos sociais e psicológicos.
Perspectivas futuras para a regulação de plataformas digitais e IA
A investigação formal do Ofcom representa um marco no controle do uso da inteligência artificial para fins que possam causar danos pessoais e sociais. O resultado desse processo poderá estabelecer precedentes para ações regulatórias globais, com impactos no desenvolvimento, uso e comercialização de chatbots e ferramentas de IA. O equilíbrio entre inovação tecnológica e proteção dos direitos fundamentais será um tema central para autoridades, empresas e sociedade civil nos próximos anos.
Fonte: www1.folha.uol.com.br
Fonte: AFP
