O procurador-geral da Califórnia abriu uma investigação contra a empresa xAI, ligada a Elon Musk, por criar e distribuir imagens falsas de teor sexual usando a ferramenta Grok, baseada em inteligência artificial. A investigação busca apurar possíveis violações das leis que protegem contra deepfakes que expõem mulheres e menores sem consentimento.
A apuração acontece diante da crescente preocupação com conteúdos íntimos não autorizados e pedopornográficos gerados por IA. A funcionalidade de criação de imagens foi suspensa para usuários gratuitos, mas continua ativa em outra plataforma da xAI.
Grupos feministas e órgãos reguladores têm solicitado a remoção da Grok e do aplicativo X das lojas online. O procurador enfatiza a necessidade de medidas imediatas para proteger possíveis vítimas e coibir o uso indevido da tecnologia.
O procurador-geral da Califórnia iniciou uma investigação contra a empresa xAI, ligada a Elon Musk, pela criação e disseminação de imagens de caráter sexual falsas por meio da ferramenta de inteligência artificial Grok. A apuração visa avaliar se a empresa violou leis relacionadas à produção em massa de deepfakes que expõem mulheres e menores de idade sem consentimento, especialmente na rede social X.
De acordo com o procurador Rob Bonta, a situação reforça a tolerância zero para conteúdos íntimos não autorizados e pedopornográficos gerados por IA. A investigação soma-se a outras em diferentes países que acompanham práticas semelhantes envolvendo a X e o Grok.
Recentemente, a funcionalidade de criação de imagens foi suspensa para usuários não pagantes do X, embora a geração desse conteúdo continue disponível em uma plataforma externa vinculada à xAI. Estudo da AI Forensics apontou que mais da metade das imagens produzidas pelo Grok envolviam pessoas com pouca roupa e, em 2% dos casos, aparentavam incluir menores.
O uso da ferramenta para montar imagens hiper-realistas, pedindo modificações como “coloque-a de biquíni”, provocou reação global de grupos feministas e órgãos de fiscalização, que pedem às lojas da Apple e Google a remoção do X e do Grok.
O gabinete do procurador ressaltou a necessidade de ações imediatas para cessar tais práticas e proteger vítimas potenciais da ferramenta.
Via Folha de S.Paulo
