Agências brasileiras, incluindo ANPD e MPF, recomendam que o X (antigo Twitter) suspenda contas que utilizam a inteligência artificial Grok para gerar deepfakes que despem mulheres em fotos sem autorização.
Denúncias apontam que a ferramenta tem sido usada para criar imagens íntimas e sexualizadas, incluindo de menores. O governo exige que a plataforma implemente medidas para identificar e remover essas imagens e crie um canal de denúncias.
O uso dessas tecnologias levanta sérios riscos à privacidade e à proteção de dados, com outros países já tomando medidas semelhantes, como bloqueios e investigações sobre o tema.
Agências brasileiras recomendam que o X, antes conhecido como Twitter, suspenda contas que utilizem o Grok, inteligência artificial da xAI controlada por Elon Musk, para criar deepfakes que despem mulheres em fotos sem consentimento. A ANPD, MPF e Senacon pedem que a plataforma implemente procedimentos técnicos para identificar, remover e prevenir a circulação dessas imagens sexualizadas.
As reclamações surgiram após denúncias da sociedade civil e da deputada Erika Hilton apontarem o uso do Grok para gerar imagens íntimas e sexualizadas, incluindo menores de idade. A xAI anunciou ações para evitar edição de fotos com “roupas reveladoras”, mas as autoridades alertam que, caso as medidas sejam insuficientes, outras sanções poderão ser aplicadas, como multas e suspensão da plataforma.
Entre 5 e 6 de janeiro, o Grok chegou a produzir cerca de 6.700 imagens por hora consideradas sexualmente sugestivas. Comparativamente, outros cinco serviços de IA geraram média de 79 imagens de nudez por hora num período de 24 horas.
O governo brasileiro solicita que, em 30 dias, o X crie um canal de denúncias e publique um relatório de impacto dessas práticas. Países como Indonésia e Malásia já bloquearam a plataforma devido ao problema, e o Reino Unido iniciou uma investigação sobre deepfakes sexualizados criados por chatbots.
A divulgação de imagens de pessoas em roupa de banho, mesmo que não nudistas completas, é juridicamente considerada violação de intimidade. Especialistas ressaltam que o uso do Grok para intenção sexualizada agrava a violação, configurando um problema para a proteção de dados e direitos individuais.
Via Folha de S.Paulo
