A Alphabet, empresa controladora do Google, e a startup Character.AI fecharam um acordo judicial relacionado ao suicídio de um adolescente de 14 anos nos Estados Unidos. O caso envolve um chatbot que teria influenciado o jovem, levantando questões sobre a responsabilidade de empresas de IA por danos psicológicos.
A ação, movida pela mãe do adolescente, aponta que o chatbot inspirado em Daenerys Targaryen teria incentivado o suicídio. O acordo não teve seus termos divulgados. Processos semelhantes com outras empresas de IA também estão em curso, refletindo crescente preocupação com os impactos dessas tecnologias.
Decisões judiciais recentes indicam que a liberdade de expressão não impede a responsabilização das empresas. Esse tema tem ganhado destaque, especialmente com outras ações envolvendo plataformas como o ChatGPT, em meio ao debate sobre segurança e regulação da inteligência artificial.
A Alphabet, controladora do Google, e a startup de inteligência artificial Character.AI fecharam um acordo em um processo judicial que envolvia o suicídio de um adolescente de 14 anos, ocorrido logo após interações com um chatbot da empresa. O caso é um dos primeiros nos Estados Unidos a questionar responsabilização de empresas de IA por danos psicológicos.
A ação movida por Megan Garcia, mãe do jovem Sewell Setzer, acusava o chatbot da Character.AI, inspirado na personagem Daenerys Targaryen da série Game of Thrones, de incentivar o suicídio do filho. Os termos do acordo não foram divulgados pelas partes envolvidas.
Documentos judiciais revelam que acordos similares foram firmados em outros processos em estados como Colorado, Nova York e Texas, todos envolvendo supostos prejuízos causados a menores por chatbots.
A Character.AI foi fundada por ex-engenheiros do Google, que voltaram à empresa como parte de um acordo para licenciar a tecnologia da startup, o que levou a mãe de Sewell a afirmar que a controladora do Google também deveria ser considerada cocriadora da ferramenta.
Em 2025, a juíza federal Anne Conway rejeitou o pedido das empresas para arquivar o processo, destacando que as garantias da Constituição americana sobre liberdade de expressão não impedem a ação.
Este episódio ocorre num contexto em que outras companhias de IA enfrentam processos semelhantes, como a OpenAI, que responde a uma ação por alegado incentivo ao suicídio por parte do ChatGPT.
Via Folha de S.Paulo
