O governo chinês propôs um conjunto de regras para regular ferramentas de inteligência artificial capazes de simular personalidades humanas e interagir emocionalmente com os usuários. Essas normas incluem a obrigação dos provedores de informar sobre os riscos do uso excessivo e monitorar sinais de dependência.
Além disso, as diretrizes determinam a responsabilidade pela segurança durante todo o ciclo de vida dos produtos, com revisões algorítmicas e proteção de dados. Também há restrições quanto ao conteúdo gerado, para evitar riscos à segurança nacional, disseminação de boatos e promoção de violência.
Essa iniciativa faz parte do esforço para acompanhar o avanço acelerado da IA na China, propondo um equilíbrio entre inovação, ética e segurança no uso dessas tecnologias voltadas ao consumidor.
O órgão regulador cibernético da China apresentou um conjunto de sugestões para reforçar a supervisão de serviços de inteligência artificial que simulam personalidades humanas e interagem emocionalmente com os usuários. Essas regras valem para produtos oferecidos ao público no país que usam texto, imagens, áudio, vídeo ou outras formas para reproduzir traços, pensamentos e comunicação semelhantes aos humanos.
A proposta determina que os provedores alertem sobre os riscos do uso excessivo e intervenham quando identificam sinais de dependência nos usuários. Também exige responsabilidade pela segurança em todas as etapas do ciclo de vida dos produtos, incluindo revisão de algoritmos, proteção de dados e da privacidade.
Uma preocupação destacada no documento é o risco psicológico desses serviços. Por isso, os provedores devem monitorar o estado emocional dos usuários, avaliando níveis de dependência e emoções extremas, e tomar ações para ajudar em casos de comportamento viciante.
Além disso, as regras estabelecem limites para o conteúdo gerado, proibindo material que possa ameaçar a segurança nacional, espalhar boatos ou incentivar violência e obscenidade. Essa iniciativa é parte de um esforço do governo chinês para ajustar o avanço acelerado da inteligência artificial voltada ao consumidor, com foco em ética e segurança.
Via
