O órgão regulador de mídia do Reino Unido, Ofcom, iniciou uma investigação formal sobre a geração de imagens sexualizadas e deepfakes envolvendo mulheres e crianças pelo chatbot de IA Grok, da plataforma X, comandada por Elon Musk. A investigação considera possível abuso de imagens íntimas e produção de material ilegal que expõe menores.
A autoridade ameaça banir a plataforma ou aplicar multas que podem chegar a 18 milhões de libras ou 10% da receita global da empresa, caso o serviço não bloqueie o conteúdo ofensivo e proteja o público infantil. Paralelamente, Malásia e Indonésia bloquearam o acesso ao Grok pelos mesmos motivos, considerando a questão uma grave ameaça à segurança digital.
Esses casos evidenciam o desafio das regulações para conteúdos gerados por inteligência artificial. O Grok é o primeiro chatbot de IA a ser oficialmente bloqueado por gerar imagens sexuais não autorizadas, o que reforça a urgência de políticas eficazes para controlar abusos no ambiente digital.
O órgão regulador de mídia do Reino Unido, Ofcom, iniciou uma investigação formal sobre a geração de imagens sexualizadas e deepfakes envolvendo mulheres e crianças pelo chatbot de inteligência artificial Grok, oferecido pela plataforma X, comandada por Elon Musk. A investigação considera possível “abuso de imagens íntimas” e produção de material ilegal que expõe menores.
A autoridade ameaça banir a plataforma ou aplicar multas que chegam a 18 milhões de libras ou 10% da receita global da empresa, caso o serviço não adote medidas eficazes para evitar a circulação dessas imagens. O Ofcom avalia se o X realizou avaliações de risco apropriadas, retirou rapidamente o conteúdo ofensivo e impediu o acesso infantil ao material.
Paralelamente, Malásia e Indonésia bloquearam o acesso ao Grok devido à mesma preocupação. Os governos consideram a criação e distribuição de deepfakes sexuais uma violação grave dos direitos humanos e da segurança digital, citando o impacto especialmente nocivo para crianças.
Na semana anterior, o Ofcom já tinha iniciado uma revisão acelerada após estudos indicarem que o chatbot produziu milhares de imagens ilegais por hora, com mulheres retratadas sem consentimento em trajes íntimos. O secretário de Negócios britânico declarou que o governo apoia o regulador em eventuais restrições ao X.
Esses acontecimentos ressaltam os desafios regulatórios enfrentados pelas plataformas que usam inteligência artificial para criar conteúdo visual. O Grok é o primeiro chatbot de IA a sofrer bloqueios oficiais após relatos de abuso relacionados a geração de imagens sexuais não autorizadas envolvendo menores e adultos.
Via Folha de S.Paulo
