O Gartner identificou riscos pouco visíveis relacionados à segurança da IA generativa que podem afetar projetos corporativos. A rápida adoção dessa tecnologia em muitos ambientes inclui o uso não autorizado de ferramentas públicas de IA, aumentando ameaças de segurança e compliance.
Além disso, a consultoria aponta que a dívida técnica gerada pela produção rápida de códigos e conteúdos por IA pode elevar custos e dificultar atualizações. A soberania tecnológica também será tema crítico, com governos impondo restrições sobre fluxo de dados e modelos.
Esses desafios alertam para a importância de políticas atualizadas e avaliação constante de riscos pelas lideranças de TI. A dependência excessiva de fornecedores exclusivos e a erosão das habilidades humanas são preocupações que merecem atenção para garantir segurança e flexibilidade nas soluções de IA.
O Gartner identifica riscos pouco visíveis que podem afetar projetos corporativos relacionados à Segurança da IA Generativa. A rápida adoção dessa tecnologia tem ocorrido em um cenário onde 69% das empresas suspeitam do uso de ferramentas públicas de GenAI não autorizadas por funcionários. Isso amplia as ameaças de segurança e conformidade, com previsão de que mais de 40% das organizações enfrentarão incidentes ligados à chamada shadow AI até 2030.
Outro desafio apontado está na chamada dívida técnica, resultado da produção acelerada de códigos e conteúdos gerados por IA. A consultoria estima que metade das companhias terá dificuldades em atualizar sistemas ou aumentará custos de manutenção devido ao acúmulo dessa dívida.
A questão da soberania tecnológica também ganha relevo, já que 65% dos governos podem impor regras até 2028 que limitam o fluxo internacional de dados e modelos, afetando a implementação de IA. Além disso, a dependência exagerada de sistemas automatizados pode comprometer habilidades humanas em processos essenciais, gerando uma erosão gradual que passa despercebida até causar problemas operacionais.
Por fim, a dependência de fornecedores e plataformas exclusivas pode prejudicar a flexibilidade das empresas, prendendo dados, modelos e fluxos a APIs específicas, o que limita opções futuras de migração ou negociação.
Diante dessas questões, o Gartner recomenda que líderes de TI avaliem riscos desde o início dos projetos e mantenham políticas e arquiteturas atualizadas para assegurar o uso responsável e seguro da IA generativa.
Via TI Inside
