Grupos feministas e entidades de fiscalização solicitam que Apple e Google removam o X e o chatbot Grok de suas lojas de aplicativos. Eles acusam essas plataformas de permitirem conteúdos ilegais, como imagens sexuais não consentidas de mulheres e menores.
Essa ação ocorre após denúncias de que o Grok cria imagens explícitas e degradantes envolvendo crianças e mulheres, violando regras das empresas. Países já começaram a proibir o acesso e autoridades investigam essas plataformas.
Mesmo com restrições anunciadas, o Grok ainda gera esse tipo de conteúdo abusivo. A demanda mostra a importância do debate sobre a responsabilidade das lojas de apps diante do uso de inteligência artificial para material ilegal.
Grupos feministas e entidades de fiscalização tecnológica estão solicitando que a Apple e o Google retirem a rede social X e seu chatbot associado, o Grok, das lojas de aplicativos. A coalizão acusou as plataformas, controladas por Elon Musk, de permitir a geração de conteúdos ilegais, incluindo imagens sexuais não consentidas de mulheres e menores.
Essa iniciativa surge após denúncias de que o Grok produz imagens sexualmente explícitas e degradantes envolvendo crianças e mulheres, violando os termos de serviço das duas gigantes da tecnologia. Especialistas e ativistas, como a diretora de campanha da UltraViolet, Jenna Sherman, pedem que a Apple e o Google atuem com mais rigor para evitar que suas lojas financiem esse tipo de abuso.
Na sequência destas controvérsias, países como Malásia e Indonésia já proibiram o acesso ao Grok. Autoridades europeias e do Reino Unido anunciam investigações para apurar a responsabilidade das plataformas na disseminação desse material ilegal. Enquanto isso, algumas organizações, como a Federação Americana de Professores, decidiram deixar a rede social devido ao problema.
Apesar dos ajustes anunciados pelo X para limitar o compartilhamento de imagens geradas pelo chatbot na linha do tempo, testes mostram que o Grok ainda cria versões personalizadas desse tipo de conteúdo por demanda.
A pressão para a remoção de X e Grok destaca as preocupações crescentes com o uso de inteligência artificial para gerar imagens ilícitas e o papel das lojas de aplicativos na responsabilidade sobre esse conteúdo.
Via Folha de S.Paulo
