A rápida integração da inteligência artificial generativa (GenAI) nos processos corporativos tem intensificado os desafios de segurança cibernética. Um estudo recente da Unit 42, divisão de inteligência de ameaças da Palo Alto Networks, revela um aumento expressivo no tráfego de GenAI em ambientes de negócios. Além disso, o relatório aponta um crescimento notável nos incidentes de perda de dados relacionados a essas ferramentas.
O estudo da Unit 42 analisou o comportamento de mais de 7 mil empresas em todo o mundo. No Brasil, a adoção de GenAI também está crescendo rapidamente. Aplicativos como Grammarly, ChatGPT e Microsoft Power Apps estão entre os mais utilizados, tanto em volume de transações quanto em tráfego de dados. O Power Apps lidera em volume de dados, seguido por ChatGPT e Grammarly.
Um dos pontos críticos destacados no relatório é o uso não supervisionado de GenAI, conhecido como Shadow AI, onde os funcionários utilizam aplicativos de GenAI sem o conhecimento ou permissão do departamento de TI. Marcos Oliveira, executivo da Palo Alto Networks no Brasil, adverte que essa prática representa um risco de GenAI crescente, principalmente em ambientes sem políticas de governança de IA bem definidas.
O uso não autorizado de GenAI, mesmo para tarefas aparentemente simples como gerar e-mails ou testar códigos, pode resultar na exposição de informações confidenciais, violações de conformidade e perda de propriedade intelectual. A falta de controle sobre essas interações dificulta a implementação de medidas preventivas eficazes.
Para mitigar esses riscos de GenAI, a Palo Alto Networks sugere uma abordagem baseada em visibilidade, controle e adaptação contínua ao risco. As principais medidas recomendadas incluem controles de acesso baseados no contexto, que avaliam o perfil do usuário e o risco associado ao uso do aplicativo GenAI.
A inspeção de conteúdo em tempo real é crucial para detectar dados confidenciais antes que sejam enviados a serviços externos. A adoção do modelo Zero Trust, que exige validação contínua de identidade, também é essencial, mesmo para aplicativos em nuvem amplamente utilizados. Além disso, é fundamental treinar as equipes para aumentar a conscientização sobre os riscos de GenAI e promover as melhores práticas de segurança.
O relatório da Unit 42 enfatiza que as tecnologias de segurança devem se integrar aos ambientes SaaS, onde o fluxo de dados é contínuo e distribuído. Com a digitalização acelerada em setores como saúde, educação e finanças, o Brasil se torna um mercado estratégico para a adoção de GenAI. No entanto, sem uma abordagem de segurança proporcional, os riscos de GenAI podem aumentar rapidamente.
A Palo Alto Networks recomenda que as empresas integrem inovação e segurança desde o início de sua jornada com GenAI, estabelecendo uma estratégia de governança e proteção de dados em tempo real.
Via TI Inside
