A Comissão Europeia iniciou uma investigação sobre o chatbot Grok, ligado à rede social X, por gerar imagens sexualizadas falsas. A apuração visa checar se a plataforma cumpre as leis digitais da União Europeia, focando na proteção dos direitos fundamentais.
A investigação ocorre após denúncias de conteúdo explícito envolvendo mulheres e crianças. A empresa responsável, xAI, afirmou ter adotado medidas para impedir manipulação inapropriada de imagens. Além da UE, o regulador britânico Ofcom também acompanha o caso.
Esse episódio reforça a necessidade de regras mais rigorosas para controlar conteúdos abusivos e a manipulação de imagens por ferramentas de inteligência artificial, garantindo a segurança dos usuários na web.
A Comissão Europeia abriu uma investigação sobre o chatbot de inteligência artificial Grok, ligado à rede social X, de Elon Musk. A apuração foi motivada pelo uso da ferramenta na geração de imagens íntimas falsas, incluindo conteúdos explícitos envolvendo mulheres e crianças. Regina Doherty, deputada europeia, afirmou que o objetivo é verificar se a X cumpre as leis digitais da União Europeia, especialmente no que se refere à mitigação de riscos e proteção dos direitos fundamentais.
O caso destaca preocupações sobre a governança de conteúdo e o cumprimento das obrigações legais para controlar a disseminação de material ilegal ou prejudicial. Em resposta a denúncias, a empresa de IA de Musk, xAI, declarou ter implementado restrições para impedir a edição de imagens de pessoas reais com roupas reveladoras, além de bloquear o uso da ferramenta em locais onde tais práticas são ilegais.
Além da investigação europeia, o órgão regulador britânico Ofcom também está examinando se a X cumpre a legislação de segurança online no Reino Unido. A repercussão do episódio pode gerar tensões diplomáticas, uma vez que a União Europeia tem aumentado a fiscalização sobre grandes empresas de tecnologia, gerando críticas dos Estados Unidos.
Doherty ressaltou que as normas da UE são claras e devem ser efetivas para proteger os usuários, especialmente diante do uso em larga escala das tecnologias de inteligência artificial. Nenhuma empresa que opere na região está acima dessas regras.
O caso reforça o debate sobre a necessidade de regular com mais rigor as ferramentas que permitem a manipulação de imagens e a disseminação de conteúdos abusivos.
Via G1 Tecnologia
