Meredith Whittaker, CEO do Signal, expressou preocupações sobre os Riscos segurança agentes IA generativa no South by Southwest (SXSW). Ela argumenta que a empolgação com esses agentes, que automatizam tarefas complexas, mascara sérios problemas de privacidade. Empresas como Oracle e Salesforce promovem os benefícios desses agentes, mas Whittaker alerta para o acesso excessivo a dados que eles exigem.
A CEO ilustrou seu ponto com um exemplo: um agente que compra ingressos, agenda eventos e notifica amigos. Aparentemente conveniente, esse agente precisaria acessar e-mails, cartões de crédito, calendários e contatos. Esse nível de acesso, argumenta Whittaker, requer operar em ambientes abertos, na nuvem, inviabilizando criptografia e segurança local nos dispositivos.
Whittaker critica o modelo de negócios das grandes empresas de tecnologia, que se baseia na coleta massiva de dados para alimentar a IA. Ela defende a necessidade de repensar a IA, questionando o paradigma atual de “quanto mais dados, melhor”, que concentra poder e levanta preocupações sobre vigilância. A CEO recebeu aplausos da plateia ao defender uma abordagem mais consciente da privacidade em relação à IA.
Ela destaca que o histórico da IA generativa está intrinsecamente ligado ao modelo de vigilância de dados das big techs. A promessa de um “bot mágico” que simplifica a vida, segundo Whittaker, não justifica os riscos à segurança e privacidade. A CEO conclama a uma reflexão sobre o desenvolvimento e a aplicação da IA, priorizando a proteção dos dados dos usuários.
Via Startups
