Jess Smith, ex-nadadora paralímpica australiana, enfrentou dificuldades ao usar um gerador de imagens de IA que não conseguia criar uma representação fiel dela, considerando a ausência de parte de seu braço esquerdo. Isso evidenciou a falta de dados inclusivos para o treinamento dessas tecnologias.
A experiência mostra como a inteligência artificial reflete desigualdades reais, já que inicialmente a IA só oferecia imagens com dois braços ou próteses. A OpenAI, responsável pelo ChatGPT, reconheceu o problema e atualizou seu sistema para gerar imagens mais representativas.
Esse caso destaca a importância da diversidade no desenvolvimento da IA, especialmente para pessoas com deficiência. É fundamental garantir que os dados usados no treinamento sejam abrangentes, promovendo uma tecnologia mais justa e inclusiva para todos.
“`html
A experiência de Jess Smith, ex-nadadora paralímpica australiana, ao usar um gerador de imagens de IA para pessoas com deficiência, revela importantes questões sobre representatividade e inclusão. Ao tentar criar uma imagem sua, especificando a ausência de parte de seu braço esquerdo, Smith se deparou com a dificuldade da ferramenta em atender ao seu pedido, evidenciando a necessidade de dados mais inclusivos para o treinamento dessas tecnologias.
A dificuldade inicial de gerar uma imagem precisa de Smith com o ChatGPT, que a princípio só criava imagens com dois braços ou com próteses, levou à reflexão sobre como a IA reflete as desigualdades do mundo real. A falta de dados representativos impacta diretamente na capacidade da IA de criar imagens inclusivas e precisas.
Após contato da BBC com a OpenAI, responsável pelo ChatGPT, Smith conseguiu gerar uma imagem que a representava corretamente. Para Smith, essa atualização representa um avanço significativo, demonstrando que a representação na tecnologia é fundamental para que pessoas com deficiência se sintam parte do mundo que está sendo construído.
A OpenAI informou que implementou melhorias significativas em seu modelo de geração de imagens. A empresa reconhece que existem desafios contínuos, principalmente em relação à representação justa, e está trabalhando ativamente para aprimorar seus métodos de treinamento, adicionando exemplos com diversidade para reduzir o viés ao longo do tempo.
Apesar do avanço no caso de Smith, Naomi Bowman enfrentou um problema similar ao tentar usar o ChatGPT para editar uma foto. Com visão em apenas um olho, Bowman pediu para omitir o fundo da imagem, mas a IA alterou seu rosto e igualou seus olhos, mostrando o preconceito inerente na IA. Bowman ressalta a importância de treinar e testar rigorosamente os modelos de IA para reduzir o viés e garantir que os conjuntos de dados sejam abrangentes e que todos sejam tratados de forma justa.
O papel da representação cultural na IA para pessoas com deficiência
Abran Maldonado, CEO da Create Labs, empresa criadora de sistemas de IA culturalmente conscientes, destaca que a diversidade na IA deve começar com as pessoas envolvidas no treinamento e na marcação dos dados. É fundamental ter representação cultural na etapa de criação para que a IA não perca informações importantes sobre a diversidade humana. Um estudo de 2019 revelou que algoritmos de reconhecimento facial identificam rostos asiáticos e afro-americanos com menos precisão em comparação com caucasianos.
A importância da inclusão na IA para pessoas com deficiência
Jess Smith enfatiza que as barreiras que enfrenta são sociais e que existe o risco de que a mesma omissão ocorra no mundo da IA, onde sistemas e espaços podem ser construídos sem considerar a todos. A falta de representatividade e a dificuldade em abordar o tema da deficiência são desafios a serem superados para garantir que a IA seja inclusiva e beneficie a todos.
A experiência de Smith serve como um lembrete de que a IA tem o potencial de promover a inclusão, mas também pode perpetuar preconceitos existentes. É crucial que os desenvolvedores de IA se esforcem para garantir que seus sistemas sejam treinados com dados diversificados e que levem em consideração as necessidades e perspectivas de todas as pessoas, incluindo aquelas com deficiência.
A trajetória de Smith destaca que a evolução da IA para pessoas com deficiência deve ser pautada pela inclusão, beneficiando a todos e promovendo um progresso não apenas tecnológico, mas também da humanidade.
A superação das barreiras sociais e a garantia de representatividade são essenciais para que a IA possa contribuir para um mundo mais justo e igualitário.
Via G1
“`
