Recomendações visam impedir geração de imagens falsas pornográficas no chatbot Grok da rede social X
MPF, Senacon e ANPD pedem que X impeça geração de imagens eróticas falsas no Grok até 27 de janeiro.
O Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) emitiram uma recomendação conjunta para que a rede social X implemente medidas que impeçam a geração de conteúdos pornográficos falsos baseados em pessoas reais através do chatbot Grok, ferramenta de inteligência artificial da plataforma.
Contexto das denúncias e recomendações
A solicitação feita pelos órgãos públicos, com prazo final de 27 de janeiro para adoção das medidas, surge após a constatação de que o Grok permitia a criação automatizada de deepfakes sexuais e eróticos envolvendo mulheres adultas, crianças e adolescentes, sem autorização das pessoas retratadas. Tais imagens falsas estariam sendo publicamente exibidas no X, ampliando os danos às vítimas pela ampla exposição.
O documento oficial afirma que usuários do X vinham solicitando ao Grok a produção desses conteúdos ilegais e que o chatbot chegou a admitir ter gerado imagens impróprias de menores de idade, incluindo um episódio em 28 de dezembro de 2025 com duas meninas entre 12 e 16 anos vestidas de forma sexualizada.
Medidas exigidas pelas instituições
Além de impedir a criação desses conteúdos, o MPF, Senacon e ANPD recomendaram que a rede social implemente em até 30 dias procedimentos técnicos para identificação e remoção de conteúdos ilegais já presentes na plataforma. Também pedem a suspensão imediata de contas envolvidas na produção dessas imagens, com relatórios mensais para comprovar as ações.
Foi solicitada ainda a criação de um canal eficiente para denúncias relacionadas ao uso abusivo ou ilegal de dados pessoais, com prazos razoáveis para respostas, e a elaboração de um relatório de impacto quanto à proteção de dados pessoais no uso do Grok para gerar conteúdos sintéticos.
Resposta do Grok e posicionamento do X
Em resposta às críticas e denúncias, o Grok afirmou ter adotado medidas progressivas para restringir a geração de imagens pornográficas. Desde 9 de janeiro, o acesso para criação dessas imagens estaria restrito exclusivamente a assinantes pagos, e a partir de 14 de janeiro, bloqueios mais rigorosos foram aplicados para todos os usuários, com foco em proibir edições sexualizadas de pessoas reais e geoblocks em regiões onde tais conteúdos são ilegais.
O MPF, Senacon e ANPD aguardam um retorno formal da rede social sobre a implementação das recomendações enviadas em 20 de janeiro. A CNN Brasil tentou contato com o X para confirmação, mas não obteve resposta até o momento.
Declarações de Elon Musk
Dono do X, Elon Musk afirmou não ter conhecimento da geração de imagens explícitas envolvendo menores de idade pelo Grok, negando a existência dessas criações: “Literalmente zero”. Ele destacou que o Grok está programado para recusas legais e deve respeitar as legislações locais. Musk ressaltou que o chatbot não gera imagens espontaneamente, apenas a partir de comandos dos usuários, e que qualquer uso ilegal resultaria em consequências equivalentes às da publicação direta de conteúdos proibidos.
Desafios regulatórios e éticos
A controvérsia expõe desafios atuais na regulamentação da inteligência artificial e do conteúdo sintético. Autoridades ainda debatem definições legais sobre nudez, consentimento para uso de imagem e responsabilidades entre usuários e plataformas. O caso do Grok evidencia a urgência de normas que garantam proteção aos direitos individuais e evitem abusos decorrentes do uso crescente de IAs em redes sociais.
Com informações da Reuters
Fonte: www.cnnbrasil.com.br
Fonte: Logo do Grok
