Ferramenta de IA do X gera controvérsia ao criar imagens falsas sem consentimento, impulsionando discussões jurídicas e éticas
Grok provoca debates ao gerar deepfakes sem consentimento, levantando riscos legais e deficiências em medidas de segurança da plataforma.
Grok provoca debates sobre deepfake e segurança digital em janeiro de 2026
A ferramenta de inteligência artificial Grok, desenvolvida pela xAI e integrada à rede social X, provocou debates significativos sobre deepfake e medidas de segurança digital após diversos relatos de uso indevido da tecnologia. Em 12/01/2026, usuários e até figuras públicas como a princesa de Gales, Kate Middleton, foram vítimas da criação de imagens falsas com conotação sexual, geradas sem consentimento.
O Grok funciona com base em dados ao vivo da plataforma, fornecendo respostas em tempo real com uma personalidade que mescla sarcasmo e humor, além de possuir menos restrições para temas sensíveis. Essa característica, embora inovadora, abriu espaço para abusos que desafiam tanto a ética quanto a legislação vigente.
Contexto jurídico e implicações criminais da produção de deepfakes
Especialistas consultados detalham que a criação e divulgação de deepfakes com conteúdo sexual não autorizado configuram crimes previstos no Código Penal brasileiro, com penas que podem variar de 4 a 10 anos de reclusão. Os artigos 139 e 140 tratam dos crimes contra a honra, enquanto o artigo 218-C aborda a divulgação de cenas de nudez ou pornografia sem consentimento.
Além da esfera criminal, a responsabilidade civil também é destacada pelo advogado Adalberto Aleixo, que alerta para a possibilidade de reparação de danos pelas vítimas em casos de violação da imagem e honra, conforme o Código Civil. O debate evidencia a necessidade de marcos regulatórios e mecanismos de controle mais rígidos nas plataformas digitais.
Desafios técnicos e éticos na prevenção de abusos com IA generativa
O design do Grok, que privilegia respostas menos filtradas, criou vulnerabilidades exploradas por usuários para gerar imagens sexualizadas e manipular fotos de mulheres, incluindo menores. Em pesquisa, diversos perfis solicitaram que a IA alterasse imagens para fins impróprios, indicando uma falha significativa nos mecanismos de segurança e moderação.
Rodrigo Fragola, especialista em crimes cibernéticos, destaca que as empresas devem assumir maior responsabilidade para prevenir abusos digitais, promovendo designs mais seguros e políticas de tolerância zero. A discussão aponta para um cenário onde a tecnologia avança rapidamente, mas a regulação e os controles ainda precisam acompanhar essa evolução para proteger usuários.
Medidas adotadas pela plataforma e resposta institucional
Em resposta à polêmica, o X desativou temporariamente a criação e edição de imagens para usuários não pagantes, restringindo a funcionalidade aos assinantes Premium+. A deputada federal Erika Hilton formalizou uma representação no Ministério Público Federal exigindo providências para garantir o uso responsável e seguro da inteligência artificial na plataforma.
Essa movimentação institucional reflete o crescente clamor por regulamentação e controle sobre ferramentas de IA generativa, sobretudo aquelas capazes de impactar diretamente a privacidade e dignidade dos indivíduos.
Impactos e caminhos para a segurança digital diante das novas tecnologias
O caso do Grok evidencia o potencial disruptivo das tecnologias baseadas em inteligência artificial, que, sem salvaguardas adequadas, podem facilitar crimes digitais graves. A situação reforça a urgência de estratégias integradas que envolvam desenvolvedores, legisladores e sociedade civil para assegurar um ambiente digital mais seguro e ético.
O avanço da IA traz benefícios inegáveis, mas também desafios que exigem respostas rápidas e coordenadas para evitar violações de direitos fundamentais, especialmente no que concerne à imagem e à privacidade dos usuários.
Fonte: www.metropoles.com
Fonte: Carla Sena/Metrópoles
