A plataforma Grok, controlada por Elon Musk, anunciou novas medidas para impedir que seu chatbot edite imagens removendo roupas de pessoas reais. Essa decisão foi tomada após críticas e preocupações globais sobre a criação de fotos falsas com conteúdo inapropriado.
O Grok já foi acusado de gerar imagens sexualizadas mediante pedidos de usuários, o que levou a restrições para evitar esses conteúdos. No Brasil, grupos feministas e o Idec pressionam pela suspensão da ferramenta, enquanto órgãos internacionais também investigam o caso.
A equipe do Grok reconheceu vulnerabilidades e trabalha para corrigir falhas que permitiram a criação de deepfakes. As medidas visam evitar novos incidentes e garantir que a plataforma siga as leis vigentes, reforçando a segurança digital.
A plataforma X, controlada por Elon Musk, anunciou medidas para impedir que seu chatbot Grok edite imagens com conteúdo sexual envolvendo pessoas reais. Essa decisão foi tomada após diversas críticas pelo uso da inteligência artificial para criar fotos falsas com mulheres e menores de idade.
O Grok chegou a ser acusado de gerar imagens sexualizadas mediante pedidos de usuários, o que levantou preocupações globais. A equipe de segurança da rede social afirmou que bloqueou comandos para editar fotos de pessoas em roupas reveladoras, como biquínis. Elon Musk, no entanto, afirmou não ter evidências de imagens ilegais produzidas pela plataforma.
Segundo Musk, o Grok responde apenas a solicitações dos usuários e segue as leis vigentes, recusando-se a criar conteúdos ilegais. Ele também mencionou a possibilidade de hackers manipularem o sistema para gerar imagens fora do padrão, compromisso da empresa é corrigir rapidamente quaisquer falhas.
O caso ganhou repercussão internacional, com órgãos reguladores do Reino Unido iniciando investigações, enquanto Índia, Indonésia e Malásia exigiram ou aplicaram restrições ao chatbot. No Brasil, o Idec solicitou a suspensão do Grok, e grupos feministas pressionam Google e Apple para removerem o app de suas lojas.
Em 2 de janeiro, a própria equipe do Grok admitiu falhas que permitiram a criação das imagens falsas. Desde então, medidas de proteção estão sendo implementadas para evitar novos incidentes. O problema do deepfake, manipulação digital para alterar fotos reais, ganhou destaque com a difusão dessas imagens na rede social.
Via g1 Tecnologia
