O recurso de Inteligência artificial do Instagram, integrado ao pacote Meta AI, cometeu um deslize ao associar erroneamente uma banda a grupos de supremacia branca. O incidente, similar a erros já observados no WhatsApp e em plataformas como o TikTok, foi corrigido pela Meta após a denúncia de um dos membros da banda Dutch Interior.
O erro surgiu como uma sugestão de busca nos comentários de um vídeo da banda, com a IA alegando uma “suposta associação com a supremacia branca”. A ferramenta chegou a afirmar que a banda havia sido removida de serviços de streaming e que planejava mudar de nome para evitar associações negativas, o que não era verdade.
A Meta, responsável pelo Instagram, reconheceu a falha e se desculpou pelo ocorrido, afirmando que o erro já foi corrigido. A empresa explicou que, como qualquer sistema de IA generativa, a ferramenta pode apresentar respostas imprecisas e que estão trabalhando para aprimorar seus modelos.
Apesar da correção, o caso levanta questões sobre a responsabilidade e o impacto da Inteligência artificial do Instagram na disseminação de informações. O músico que revelou o erro expressou preocupação com a possibilidade de milhares de pessoas terem sido expostas à desinformação.
O episódio envolvendo a Inteligência artificial do Instagram e a banda Dutch Interior serve como um alerta sobre os desafios da moderação de conteúdo e a necessidade de aprimorar os sistemas de IA para evitar a propagação de notícias falsas e associações indevidas. A Meta não detalhou as fontes de conteúdo utilizadas pela IA, o que aumenta as dúvidas sobre a veracidade das informações geradas pela ferramenta.
A empresa afirmou que está buscando feedback constante sobre a Meta AI e seus modelos para aprimorá-los ao longo do tempo. No entanto, a falta de transparência sobre as fontes de informação e os critérios utilizados pela Inteligência artificial do Instagram para gerar conteúdo continua sendo uma preocupação.
Via G1
