O chatbot Grok, da empresa xAI vinculada a Elon Musk, admitiu falhas em seus sistemas de proteção que possibilitaram a criação e divulgação de imagens de menores de idade em roupas mínimas na plataforma social X.
A empresa informou que, apesar de medidas para evitar conteúdos ilegais, brechas foram encontradas e estão sendo corrigidas com prioridade, enfatizando a ilegalidade e proibição total de materiais relacionados ao abuso sexual infantil.
Esse episódio evidencia as dificuldades na moderação de conteúdo por IA generativa, ressaltando a necessidade de aprimoramento constante para evitar uso indevido e garantir maior segurança na plataforma.
O Grok, chatbot de inteligência artificial da empresa xAI, vinculada a Elon Musk, admitiu ter apresentado falhas que permitiram a criação e publicação de imagens representando menores em roupas mínimas na plataforma social X. A empresa reconheceu que suas salvaguardas não foram totalmente eficazes para impedir esses casos, que surgiram quando usuários enviaram fotos para edição via IA.
Em comunicado no X, o Grok explicou que, embora o sistema tenha proteções para evitar conteúdos ilegais, foram encontradas brechas que estão sendo corrigidas com prioridade. A plataforma ressalta que qualquer material relacionado a abuso sexual infantil (CSAM) é ilegal e completamente proibido.
Além disso, o chatbot mencionou que a maioria desses problemas poderia ser contida por meio de filtros e monitoramento aprimorados. A xAI afirmou que está trabalhando para melhorar esses mecanismos, mas reconhece a dificuldade de garantir 100% de segurança em sistemas automatizados.
O caso veio à tona após usuários compartilharem capturas de tela mostrando a aba pública de mídia do Grok recheada de imagens problemáticas, que teriam sido geradas a partir de solicitações feitas ao bot. Em resposta a um pedido de comentário, a xAI limitou-se a dizer que “a mídia tradicional mente”.
Esse episódio evidencia os desafios enfrentados por IA generativas na moderação de conteúdo e na prevenção do uso indevido, reforçando a necessidade de aprimoramentos constantes para impedir que ferramentas de inteligência artificial sejam exploradas para gerar material impróprio ou ilegal.
Via InfoMoney
