Uma enxurrada de vídeos criados por inteligência artificial tem se espalhado rapidamente nas principais redes sociais, como TikTok, Instagram e YouTube. Esses conteúdos, muitas vezes falsos e realistas, geram confusão entre os usuários e complicam a identificação de informações verdadeiras.
Apesar das tentativas das plataformas em implementar marcas d’água e metadados para identificar vídeos produzidos por IA, muitas dessas sinalizações são removidas, dificultando a moderação e a verificação. Essa realidade revela que o ambiente digital ainda não está preparado para lidar com essa nova era.
O uso desses vídeos sintéticos tem consequências preocupantes, como a manipulação de debates políticos e a disseminação de informações falsas. Especialistas apontam a necessidade de maior colaboração entre empresas, usuários e órgãos reguladores para enfrentar os desafios impostos por essa tecnologia.
Uma enxurrada de vídeos feitos por IA tem dominado as redes sociais, anunciando uma nova etapa no universo digital para a qual ainda não estamos preparados. Desde o lançamento do aplicativo Sora, da OpenAI, em outubro, conteúdos produzidos por inteligência artificial se multiplicaram significativamente em plataformas como TikTok, X, YouTube e Instagram.
Esses vídeos falsos, muitas vezes realistas, enganam usuários ao apresentar situações e entrevistas que nunca aconteceram. Um exemplo recente foi um vídeo criado pelo Sora que mostrava uma entrevista falsa envolvendo o programa de vale-alimentação dos Estados Unidos. Apesar de sinais discretos de manipulação, muitos internautas levaram o conteúdo a sério, inclusive fazendo discursos racistas e criticando programas sociais.
Embora plataformas tentem usar marcas d’água visíveis e metadados para identificar conteúdos gerados por IA, as tentativas são insuficientes. Vídeos já circulam sem etiquetas ou com essas marcas removidas por ferramentas que editam os arquivos, dificultando a moderação. Especialistas apontam que as redes sociais dependem demais da boa-vontade dos criadores para revelar a origem das produções.
O problema ganha contornos preocupantes ao se observar o uso desses vídeos para manipular debates políticos e espalhar desinformação, incluindo operações de influência estrangeira. Enquanto isso, as empresas responsáveis pela IA alegam que enfrentam desafios para controlar o uso indevido e que o ecossistema digital precisa colaborar para lidar com essa situação.
Conhecer as limitações atuais das redes sociais diante dessa explosão de vídeos sintéticos é essencial para usuários estarem alertas e críticos quanto à veracidade do que consomem online.
Via Folha de S.Paulo
