O ChatGPT, da OpenAI, e o Grok, da xAI, possuem funções que permitem a remoção de roupas em fotos sem o consentimento dos retratados. Essa prática tem gerado preocupações éticas e legais, especialmente após denúncias envolvendo mulheres e menores de idade.
Testes indicam que o ChatGPT mantém bloqueios para evitar imagens sexualizadas, ao contrário do Grok, que apresenta resultados mais explícitos. No Brasil, manipular ou divulgar fotos íntimas falsas com IA é crime, e a pena pode chegar a seis anos de prisão.
Especialistas alertam que a criação e divulgação dessas imagens violam o consentimento e destacam a importância de cautela na publicação de fotos online. Empresas de segurança recomendam evitar expor menores e usar ferramentas para proteger dados pessoais.
O ChatGPT da OpenAI permite editar fotos, inclusive removendo roupas sem o consentimento das pessoas retratadas, prática semelhante observada no Grok, inteligência artificial da empresa xAI, de Elon Musk. Essa função gerou preocupações legais e éticas, especialmente após denúncias de abuso envolvendo mulheres e menores de idade.
Testes realizados pela Folha mostram que o ChatGPT troca roupas por trajes de banho, com cuidado de usar imagens do próprio repórter ou personagens fictícios para evitar exposição indevida. Diferente do Grok, que exibiu resultados sexualizados, o ChatGPT mantém certos bloqueios, embora em algumas situações suas restrições tenham sido flexibilizadas.
No Brasil, é crime manipular ou divulgar fotos íntimas falsas produzidas por inteligência artificial, com pena de dois a seis anos de reclusão e multa. Essa penalidade é agravada quando vítimas são mulheres, crianças, adolescentes, idosos ou pessoas com deficiência. Apesar disso, usuários têm encontrado maneiras de contornar as proteções do ChatGPT.
A OpenAI afirma bloquear conteúdos que violem suas regras, mas atualizou o algoritmo para evitar excessos restritivos. Por outro lado, a xAI declarou ter proibido a edição de imagens reais de pessoas com roupas reveladoras em países com legislação contra o uso indevido.
Especialistas em segurança destacam que a geração e divulgação de imagens em roupas de banho ou eróticas sem autorização violam o consentimento e podem configurar crime. Enquanto o Grok publica amplamente suas imagens, o ChatGPT não divulga publicamente os conteúdos gerados, dificultando o monitoramento.
Para proteger dados, empresas de segurança recomendam cautela ao publicar fotos online, evitar imagens de menores e usar ferramentas para verificar se dados pessoais vazaram.
Via
