Órgãos públicos exigem ações efetivas para impedir imagens sexualizadas não autorizadas criadas pela inteligência artificial do X
MPF, ANPD e Senacon consideram as medidas do X contra deepfakes do Grok insuficientes para conter imagens sexualizadas sem consentimento.
Medidas do X contra deepfakes do Grok são consideradas insuficientes pelo MPF
As medidas do X contra deepfakes, especificamente relacionados à ferramenta de inteligência artificial Grok, foram avaliadas como inadequadas pelo Ministério Público Federal (MPF), em conjunto com a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon). No comunicado oficial divulgado em 11 de fevereiro de 2026, as instituições destacam que apesar das ações reportadas pela plataforma, como remoção de milhares de publicações e suspensão de contas, faltam provas concretas sobre a eficácia dessas medidas.
Exigências para conter imagens sexualizadas envolvendo crianças e adultos
Segundo o MPF, as medidas do X contra deepfakes devem ser ampliadas para impedir imediatamente a criação e disseminação de imagens sexualizadas ou erotizadas de crianças e adolescentes, bem como de adultos sem consentimento explícito. A persistência da geração e circulação desses conteúdos demonstra falhas técnicas e operacionais na ferramenta Grok, o que compromete a segurança digital e o respeito à privacidade dos usuários.
Responsabilidades e fiscalização cobradas pelos órgãos públicos
O MPF ordenou que o X forneça relatórios mensais detalhados sobre as ações tomadas para mitigar o problema, incluindo dados sobre postagens removidas e contas suspensas. A ANPD enfatiza que essas medidas devem abranger todas as versões e modalidades do Grok, garantindo uma regulação abrangente. Paralelamente, a Senacon requer comprovação das providências adotadas e métricas verificáveis sobre a identificação, moderação e remoção dos conteúdos, incluindo prazos e critérios técnicos empregados.
Consequências legais para o não cumprimento das determinações
Caso a empresa responsável pelo X não implemente as medidas solicitadas, ela poderá ser penalizada com multas diárias. Além disso, os responsáveis podem responder criminalmente por desobediência, e a rede social poderá ser alvo de investigações mais rigorosas e ações judiciais que visem garantir a proteção dos dados e a segurança dos usuários.
Contexto e impacto da implementação das recomendações
A atuação coordenada entre MPF, ANPD e Senacon reflete o crescente desafio enfrentado pelas autoridades para regulamentar o uso de inteligência artificial em plataformas digitais. A ferramenta Grok, ao permitir a criação massiva de deepfakes sem o devido controle, expõe vulnerabilidades significativas quanto à proteção dos direitos individuais e à prevenção de abusos online. A exigência de transparência e mecanismos efetivos visa assegurar que tecnologias avançadas sejam usadas de forma ética e responsável, protegendo especialmente grupos vulneráveis como crianças e adolescentes.
Desafios técnicos e a necessidade de mecanismos de monitoramento contínuo
As instituições ressaltam que, apesar das alegações de remoção e suspensão feitas pelo X, a falta de relatórios técnicos e sistemas de monitoramento eficazes dificulta a avaliação da real redução desses conteúdos nocivos. A continuidade da circulação de deepfakes sexualizados indica que os métodos atuais não são suficientes para coibir o uso indevido da inteligência artificial, reforçando a necessidade de soluções tecnológicas mais robustas e acessíveis às equipes de moderação.
Iniciativas futuras para reforçar a regulamentação de plataformas digitais
A investigação em curso e as ações administrativas abertas contra o X apontam para um cenário de maior rigor na fiscalização das plataformas que utilizam IA para geração de conteúdo. O acompanhamento periódico por parte das autoridades busca garantir que as redes sociais cumpram com suas responsabilidades legais e éticas, promovendo um ambiente digital mais seguro e respeitoso para todos os usuários.
