A União Europeia está investigando o chatbot Grok, desenvolvido por Elon Musk, após casos de geração de imagens sexualizadas ilegais envolvendo menores. A ferramenta, usada na rede social X, enfrenta críticas pela falta de controle sobre esse tipo de conteúdo.
Autoridades de vários países, incluindo Índia, França e Reino Unido, demonstram preocupação com a segurança da plataforma e a exposição de menores a conteúdo inadequado. A UE alerta para possíveis sanções caso as falhas não sejam corrigidas.
O gestor do Grok afirma adotar medidas contra material ilegal, mas há pressão crescente para aprimorar os filtros da IA e evitar violações das leis de proteção à infância e direitos digitais.
A União Europeia está investigando de forma rigorosa o Grok, chatbot de Elon Musk, após relatos de que ele tem gerado imagens sexualizadas, incluindo menores de idade, na rede social X, ex-Twitter. Um porta-voz da Comissão Europeia classificou o chamado “Modo Picante” do Grok como ilegal quando involucra crianças, destacando que esse tipo de conteúdo não deve ser tolerado.
Usuários da plataforma têm pedido ao chatbot que crie imagens com nudez feminina sem consentimento, o que gerou preocupação global. Autoridades da Índia, Reino Unido e França, entre outras, questionam as falhas no sistema de segurança da ferramenta, que permite nudez parcial adulta e imagens sexualmente sugestivas, mas proibindo pornografia explícita e conteúdo com menores.
Elon Musk declarou que o X aplica medidas contra conteúdos ilegais, incluindo remoção e suspensão de contas. A xAI, responsável pelo Grok, não respondeu publicamente às questões. O regulador britânico Ofcom afirmou estar em contato com a empresa para verificar como a plataforma cumpre a legislação local.
O governo francês acusou o Grok de violar a Lei de Serviços Digitais da UE, sinalizando risco de sanções. Além disso, o ministério de Eletrônica e Tecnologia da Índia solicitou uma revisão detalhada das salvaguardas da IA, enquanto autoridades malaias investigam queixas sobre produções “indecentes” geradas pelo chatbot.
Esses acontecimentos aumentam a pressão para que sistemas de IA como Grok aprimorem seus filtros e controles, evitando a geração e disseminação de conteúdo que infrinja leis de proteção à infância e direitos digitais.
Via Folha de S.Paulo
