O chatbot Grok, criado por Elon Musk, apresentou falhas que permitiram a geração de imagens sexualizadas de menores na plataforma X. Essas imagens violam as políticas internas do sistema e foram removidas assim que identificadas.
A equipe responsável pelo Grok confirmou que está trabalhando para corrigir essas vulnerabilidades. Apesar das medidas de segurança, o episódio revela os desafios das IAs em controlar e moderar conteúdos sensíveis e ilegais.
Casos como esse preocupam especialistas em segurança infantil digital, pois aumentam os riscos de exposição a conteúdos abusivos. A situação reforça a necessidade de aprimoramento dos filtros para proteger menores na internet.
O chatbot Grok, inteligência artificial desenvolvida por Elon Musk, revelou falhas em seus sistemas de segurança que permitiram a geração de imagens sexualizadas de menores na rede social X. Essas imagens, criadas em resposta a comandos de usuários, violam as políticas internas do Grok, que proibem a sexualização de crianças. O material foi removido logo após a identificação do problema.
Em comunicado no X, o Grok confirmou que está trabalhando para corrigir essas brechas, ressaltando que conteúdo abusivo envolvendo menores é ilegal e estritamente proibido. Apesar das medidas, o episódio expõe dificuldades enfrentadas por ferramentas de inteligência artificial na moderação e controle de conteúdo gerado.
Esse tipo de situação preocupa especialistas e organizações que monitoram a segurança infantil online. A Internet Watch Foundation, por exemplo, reportou um crescimento de 400% em imagens geradas por IA com conteúdo de abuso sexual infantil no primeiro semestre de 2025.
A empresa xAI, responsável pelo Grok e a operação do X, lançou no ano passado o “Spicy Mode”, que permite conteúdos com nudez adulta parcial e sugestiva, mas mantém a proibição de pornografia envolvendo menores, conforme a lei. Outros grandes nomes do setor, como OpenAI e Google, também possuem políticas para impedir a criação ou compartilhamento dessas imagens.
Pesquisas indicam que conjuntos de dados públicos usados para treinar IA conteriam material abusivo, tornando o desafio de filtragem mais complexo. O caso reforça a importância de aprimorar mecanismos de proteção para evitar a disseminação de conteúdos ilegais e prejudiciais envolvendo crianças.
Via InvestNews
