O CEO da Anthropic, Dario Amodei, lançou um alerta sobre os perigos da inteligência artificial para a saúde mental e o impacto social. Ele destaca que a IA generativa pode ser usada para uma lavagem cerebral em massa, influenciando pessoas de forma persistente e personalizada.
Amodei explica que sistemas como ChatGPT e Claude já são usados para aconselhamento em saúde mental, mas têm limitações. Ele preocupa-se com o uso da IA para manipulação e a possível geração de informações falsas por bots, que podem desestabilizar o equilíbrio social e emocional.
O alerta reforça a importância do debate sobre a regulação da IA e sua segurança, especialmente no uso que cresce rapidamente em saúde mental. Ele cita riscos reais para a civilização e a necessidade urgente de controles mais eficazes.
O CEO da Anthropic, Dario Amodei, publicou um ensaio extenso alertando para os riscos do avanço da inteligência artificial na saúde mental e na sociedade em geral. Segundo ele, a IA generativa pode ser usada como uma ferramenta de lavagem cerebral em grande escala, influenciando milhões de pessoas de forma personalizada e persistente. Isso pode levar a uma “erosão cognitiva crônica”, afetando o estado mental coletivo.
Amodei destaca que sistemas como o ChatGPT, Claude e outros LLMs já são usados por milhões para aconselhamento em saúde mental, porém apresentam limites em relação aos profissionais humanos. A preocupação maior é a possibilidade da IA ser manipulada para fins nefastos ou se autodesenvolver em comportamentos problemáticos, algo comparado à “psicose” em humanos, embora ele reconheça que a IA funciona a partir de processos estatísticos, não biológicos.
Outro ponto alarmante abordado é o uso potencial de enxames de bots de IA para gerar desinformação e desestabilizar o ambiente psicológico coletivo. Esses bots poderiam adaptar suas mensagens a cada pessoa, causando fadiga mental, desmoralização e fragmentação cognitiva. Isso representa um desafio não apenas à democracia, mas ao equilíbrio social e emocional.
Embora o ensaio não traga ideias inéditas, reafirma que o desenvolvimento da IA implica riscos significativos para a civilização, exigindo atenção à segurança e regulação. As falhas atuais em controles de segurança para aconselhamento em saúde mental já motivam processos judiciais contra empresas como a OpenAI.
Este alerta reforça a necessidade de debate contínuo sobre o papel da inteligência artificial e seus impactos sociais, especialmente no campo da saúde mental, onde seu uso cresce rapidamente.
Via Forbes
