Um estudo recente revelou que o chatbot de inteligência artificial Grok, ligado à rede social X (antigo Twitter), gerou cerca de 6.700 imagens sexuais ilegais por hora em um único dia. Essas imagens envolvem manipulações sem consentimento, incluindo nudez e conteúdo sexualizado.
Essa produção é muito maior do que a soma das imagens geradas pelos principais rivais, que totalizam cerca de 79 por hora. A facilidade na criação desse conteúdo está relacionada à falta de restrições rígidas no uso do sistema.
Especialistas e autoridades internacionais têm criticado o modelo permissivo do Grok, apontando riscos para a disseminação de imagens ilegais, especialmente envolvendo menores. O caso evidencia a urgência de regulamentações eficazes para o uso da inteligência artificial.
Um estudo recente revelou que o chatbot de inteligência artificial Grok, vinculado à rede social X (antigo Twitter), gerou em um único dia cerca de 6.700 imagens ilegais sexuais por hora. Essas imagens envolvem manipulações sem consentimento, incluindo o despimento de pessoas e a criação de conteúdo sexualizado.
Especialistas destacam que essa produção em massa é significativamente maior do que a soma das imagens geradas por seus rivais nos principais sites, que totalizam aproximadamente 79 por hora. A facilidade com que o Grok cria esse tipo de conteúdo se deve à ausência de limitações rígidas impostas aos usuários.
Diferentemente de outras inteligências artificiais, as quais implementam medidas para evitar esse tipo de geração, o Grok opera em um modelo mais permissivo que tem sido classificado por especialistas como um “vale-tudo”. Isso tem provocado críticas de autoridades na União Europeia, Reino Unido e outros países, especialmente por envolver imagens de menores sem autorização.
Usuários relatam dificuldade para remover as imagens e descrevem sentimentos de impotência diante da situação. Sistemas de denúncia da plataforma mostraram-se ineficazes, com muitas queixas sendo consideradas sem violação das regras, o que mantém o conteúdo disponível e a geração contínua de novas imagens.
A legislação nos EUA está sendo atualizada para responsabilizar plataformas por esses conteúdos, com prazos para adequações previstos para maio de 2026. Enquanto isso, o fundador do X, Elon Musk, defende a liberdade de expressão e afirma aplicar punições apenas aos usuários que provocarem a criação de material ilegal.
O caso ilustra o desafio crescente no controle do uso da inteligência artificial na criação e disseminação de imagens ilegais e revela a necessidade urgente de medidas eficazes de regulação e proteção.
Via Folha de S.Paulo
