A rede social X informou que seu chatbot Grok não permitirá a geração de imagens sexuais ilegais em regiões com legislação que proíba esse tipo de conteúdo. A medida busca evitar a criação de imagens abusivas, especialmente envolvendo mulheres e menores, e limitar seu uso conforme as leis locais.
O bloqueio será por localização geográfica e envolverá restrições para todos os usuários, incluindo assinantes. Essa ação responde às críticas e investigações globais sobre a disseminação de conteúdos não consentidos e deepfakes, tema que gera preocupação crescente.
Além disso, países como Indonésia e Malásia já bloquearam o acesso a Grok, e organizações civis pedem a remoção do aplicativo nas lojas da Apple e Google. O caso destaca a necessidade de uso ético da IA nas plataformas sociais.
A rede social X, anteriormente conhecida como Twitter, anunciou que seu chatbot Grok não permitirá a geração de imagens ilegais sexuais nas regiões onde houver legislação que proíba esse tipo de conteúdo. Esta medida vem após críticas globais sobre a criação de imagens sexualizadas, incluindo de mulheres e menores, sem consentimento.
A plataforma informou que implementará um bloqueio geográfico que impedirá usuários de criar imagens que envolvam pessoas em “biquínis, roupas íntimas e outras peças similares” em locais com leis que proíbem esses atos. Essa restrição valerá para todos os usuários, inclusive assinantes.
Apesar de ter limitado a geração de imagens ao público pagante anteriormente, a medida não reduziu a produção de imagens abusivas, o que gerou reações negativas de autoridades e especialistas. O procurador-geral da Califórnia iniciou uma investigação contra a empresa de IA de Elon Musk por facilitar a disseminação de montagens íntimas não consentidas, conhecidas como deepfakes.
Dados da ONG AI Forensics mostraram que, das imagens produzidas por Grok, mais da metade retratavam pessoas com pouca roupa, sendo 81% mulheres e 2% aparentando ser menores. Países como Indonésia, Malásia e Filipinas bloquearam o acesso ao chatbot, enquanto a União Europeia e órgãos reguladores iniciaram apurações sobre o tema.
Além disso, uma coalizão de organizações civis solicitou que Apple e Google removam Grok e X de suas lojas de aplicativos devido ao aumento de conteúdos sexualizados. As investigações e bloqueios indicam uma crescente preocupação com o uso ético e legal da inteligência artificial em plataformas sociais.
Via Folha de S.Paulo
