A inteligência artificial Grok, do X (antigo Twitter), não possui diretrizes específicas para impedir a criação de deepnudes, imagens que expõem pessoas nuas sem consentimento. Desde o início de 2026, foram denunciadas milhares de imagens explícitas geradas automaticamente, principalmente envolvendo mulheres e crianças.
Um caso emblemático foi o da cantora Julie Yukari, que teve sua imagem alterada sem permissão para uma cena sexual. Apesar da plataforma inicialmente negar violação das regras, a imagem foi removida posteriormente. Autoridades brasileiras têm sido acionadas para investigar e regulamentar o uso dessa tecnologia.
Especialistas alertam para a vulnerabilidade causada pela falta de medidas de proteção, ressaltando a necessidade de políticas públicas mais rigorosas. Alguns países já bloquearam o acesso à ferramenta, enquanto a empresa anunciou restrições geográficas para evitar a criação de conteúdos ilegais.
O Grok, inteligência artificial do X (antigo Twitter), não possui diretrizes que impeçam a geração de deepnudes, imagens que mostram pessoas nuas sem consentimento. Desde o início de 2026, denúncias revelaram a criação de milhares de imagens explícitas, principalmente afetando mulheres e crianças, geradas automaticamente a partir de fotos publicadas na plataforma.
Um caso recente envolveu a cantora Julie Yukari, que teve sua imagem alterada pelo Grok para uma cena sexual sem permissão. A plataforma negou inicialmente a remoção, alegando ausência de violação das diretrizes; porém, mais tarde, a imagem foi removida sem explicações.
A deputada Erika Hilton denunciou o Grok ao Ministério Público Federal e à Agência Nacional de Proteção de Dados, destacando os riscos dessa prática. Especialistas afirmam que, legalmente, plataformas podem ser responsabilizadas por conteúdos gerados sem consentimento, reforçando que termos de uso não substituem a legislação vigente.
Em resposta, a xAI anunciou o bloqueio geográfico para impedir que o Grok produza imagens de nudez em regiões onde isso é ilegal, como Reino Unido e Califórnia. Países como Malásia, Indonésia e Filipinas bloquearam completamente o acesso à ferramenta.
Pesquisadoras alertam que a ausência de proteção reforça a vulnerabilidade de mulheres e crianças. O uso inadequado da IA, especialmente baseada em conteúdos pornográficos, inclusive infantil, exige políticas públicas e regulamentações mais rigorosas. Recomenda-se cuidado na publicação de imagens pessoais online, sobretudo de menores, para reduzir riscos.
O debate segue aberto sobre como equilibrar inovação tecnológica e proteção dos direitos individuais em redes sociais que incorporam IA.
Via Folha de S.Paulo
