A tecnologia de Deepfakes e desinformação avança rapidamente, gerando vídeos falsos cada vez mais realistas. A ByteDance lançou recentemente o OmniHuman-1, um sistema que cria vídeos falsificados com alta fidelidade. A evolução começou em 1997 com o Video Rewrite, um programa que sincronizava lábios em vídeos existentes. Hoje, criar deepfakes é mais fácil, com aplicativos como o Reface disponibilizando ferramentas para o público geral. Essa acessibilidade, no entanto, traz preocupações.
Um dos principais problemas é a produção de pornografia não consensual. Rostos de pessoas são inseridos em vídeos explícitos sem autorização, um problema grave que afeta especialmente mulheres na Coreia do Sul. Além disso, criminosos usam deepfakes em fraudes, se passando por executivos ou figuras públicas para enganar vítimas e causar prejuízos financeiros. O Cyberpeace Institute relatou um aumento de dez vezes nos casos de fraude entre 2022 e 2023.
A propagação de deepfakes também contribui para a desinformação. Um exemplo marcante foi um vídeo falso de Barack Obama em 2018, demonstrando o potencial da tecnologia para criar narrativas enganosas. Outro problema crescente é a indústria de “AI pimping“, onde influenciadores digitais artificiais usam deepfakes em vídeos de modelos reais, monetizando conteúdo e prejudicando profissionais humanos.
Para combater os problemas causados por deepfakes, empresas desenvolvem ferramentas de detecção e prevenção. A Meta, por exemplo, lançou uma ferramenta de marca d’água para vídeos gerados por IA. Apesar dos esforços, a regulamentação dessa tecnologia é desafiadora. Embora existam leis criminalizando a produção e distribuição de deepfakes, sua aplicação efetiva é complexa. Ativistas defendem que é necessário um esforço cultural para enfrentar as raízes do problema, como a misoginia e a falta de conscientização sobre igualdade de gênero.
A criação de clones digitais, vivos ou falecidos, para interações ou entretenimento, levanta questões éticas e de privacidade. Debates sobre consentimento e os limites da representação digital são inevitáveis diante do avanço da tecnologia. A evolução contínua da tecnologia de deepfakes exige vigilância constante e um esforço conjunto para mitigar seus riscos.
Via Startupi
