A inteligência artificial Grok, do X (antigo Twitter), não conta com diretrizes específicas para impedir a criação de deepnudes, imagens falsas que expõem pessoas nuas sem consentimento. Isso causou polêmica após denúncias de uso indevido, como no caso da cantora Julie Yukari.
Apesar das imagens não terem sido removidas inicialmente, foram excluídas posteriormente sem explicações públicas. A deputada Erika Hilton já formalizou denúncias no Ministério Público Federal e na Agência Nacional de Proteção de Dados para exigir providências legais.
Elon Musk afirmou que a responsabilidade cabe aos usuários que solicitam essas imagens. No entanto, especialistas lembram que a legislação brasileira também responsabiliza as plataformas, que estão tomando medidas, como o bloqueio geográfico do Grok em locais com proibições legais.
Grok, a inteligência artificial generativa do X (ex-Twitter), não possui diretrizes específicas para impedir a criação de deepnudes, imagens falsas que expõem pessoas nuas sem consentimento. Isso gerou controvérsia após denúncias de uso indevido da ferramenta em casos que envolvem mulheres e crianças, como o da cantora Julie Yukari, que teve sua foto modificada sem autorização.
A plataforma inicialmente não retirou as imagens, alegando que não violavam suas regras, embora elas tenham sido removidas posteriormente sem explicações públicas. Diante da repercussão, a deputada Erika Hilton protocolou denúncias no Ministério Público Federal e na Agência Nacional de Proteção de Dados, exigindo uma ação legal.
Elon Musk, dono do X, afirmou que os usuários são responsáveis por pedir a criação dessas imagens. Contudo, especialistas destacam que, conforme a legislação brasileira, a responsabilidade pelas publicações indevidas pode recair também sobre as plataformas digitais. Usuários afetados têm o direito de buscar reparação judicial, pois termos de uso não substituem leis.
A xAI, divisão de IA do X, anunciou que irá bloquear geograficamente o uso do Grok para criar imagens íntimas onde houver proibição legal, após investigações no Reino Unido e na Califórnia. Países do Sudeste Asiático também já limitaram o acesso à ferramenta.
Especialistas alertam para o risco elevado de exploração sexual digital, especialmente de crianças, recomendando cuidado ao compartilhar imagens online. A discussão envolve a necessidade de regulação, políticas públicas e educação digital para proteger direitos e garantir uso responsável das tecnologias.
Via Folha de S.Paulo
