Indonésia e Malásia limitam acesso à ferramenta de IA após denúncias de deepfakes sexuais
Grok enfrenta restrições na Indonésia e Malásia após uso indevido para criar imagens sexuais sem consentimento.
Grok enfrenta restrições na Indonésia e Malásia devido à manipulação sexual de imagens
O Grok enfrenta restrições na Indonésia e na Malásia após denúncias de que a ferramenta de inteligência artificial foi utilizada para manipular fotos de mulheres sem consentimento, criando deepfakes sexuais. A medida de retirar temporariamente o acesso ao Grok foi anunciada pelas autoridades governamentais como resposta às preocupações sobre violações de direitos humanos e a segurança digital dos cidadãos. Meutya Hafid, ministra da Comunicação e Assuntos Digitais da Indonésia, ressaltou que práticas de manipulação sexual não consensual são graves violações da dignidade humana.
Medidas regulatórias e limitações impostas pela empresa Grok
Em 9 de janeiro, o Grok decidiu desativar o criador de imagens para a maioria dos usuários devido às ameaças de multas e sanções regulatórias. Atualmente, a geração e edição de imagens estão disponíveis apenas para assinantes pagantes, que podem ser identificados em caso de uso indevido da ferramenta. Essa estratégia visa mitigar o uso inapropriado do sistema e responde às pressões de diversos governos que buscam impedir a disseminação de conteúdos ilegais.
Impacto das restrições sobre o acesso a conteúdos digitais em Indonésia e Malásia
A Indonésia possui uma política rigorosa contra conteúdos on-line considerados pornográficos, bloqueando plataformas como Pornhub e OnlyFans, e já havia restringido temporariamente o TikTok por conteúdo prejudicial a menores. Na Malásia, as autoridades propuseram a proibição do acesso de menores de 16 anos às redes sociais, devido a incidentes de bullying. Essas medidas refletem um ambiente regulatório cada vez mais restritivo que busca proteger os usuários, especialmente jovens, de danos associados ao conteúdo digital impróprio.
Reações internacionais e posicionamentos críticos ao uso do Grok
A Comissão Europeia classificou os conteúdos gerados pelo Grok como “ilegais” e “chocantes”, condenando veementemente a existência de um “modo picante” na plataforma. No Reino Unido, o primeiro-ministro Keir Starmer declarou que tomará medidas contra o X, plataforma que integra o Grok, qualificando a situação como “vergonhosa”. Em contrapartida, Elon Musk rebateu as críticas, destacando que outras IAs, como ChatGPT e Gemini, também respondem a comandos semelhantes, e acusou o governo britânico de buscar justificativas para censura.
Demandas por investigações e implicações legais no Brasil
No Brasil, a deputada Erika Hilton solicitou que o Ministério Público Federal e a Agência Nacional de Proteção de Dados investiguem o X e o Grok pela criação de imagens manipuladas sem consentimento, pedindo a desativação da ferramenta até a conclusão das apurações. Especialistas jurídicos indicam que, mesmo sem legislação específica para deepfakes, práticas como a manipulação sexual podem ser enquadradas em dispositivos legais que protegem a imagem e a privacidade, como a Lei Carolina Dieckmann, e caracterizar crimes contra a dignidade e direitos individuais.
Desafios éticos e futuros da inteligência artificial na criação de imagens
O caso do Grok evidencia os desafios éticos relacionados ao uso da inteligência artificial na geração de imagens, especialmente no que tange à manipulação não consensual e à criação de conteúdos sexualmente explícitos. As respostas governamentais e institucionais indicam a necessidade urgente de regulamentação mais clara e eficaz que proteja os direitos dos indivíduos, coibindo abusos e promovendo o uso responsável dessas tecnologias emergentes.
