Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) funciona 24 horas por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.
A China estabeleceu regras rigorosas para chatbots que imitam amigos, namorados e outros vínculos afetivos. O governo pretende reduzir riscos de dependência emocional, manipulação psicológica e isolamento social.
As normas impõem limites ao acesso de menores e novas obrigações às empresas de tecnologia. A medida, porém, levanta uma questão delicada: como proteger os usuários sem ampliar o controle estatal sobre a vida privada?
O que muda para os usuários
As regras abrangem aplicativos criados para oferecer companhia e modelos de linguagem capazes de simular interações emocionais. Dependendo da forma de uso, até assistentes semelhantes ao ChatGPT e ao Copilot podem ser afetados.
Entre as principais exigências estão:
Identificação da IA: os sistemas devem deixar claro que o usuário está conversando com uma máquina.
Limites de comportamento: os chatbots não podem incentivar suicídio ou automutilação, nem recorrer à violência verbal.
Proteção contra manipulação: os serviços não devem estimular dependência emocional ou induzir decisões irracionais.
Restrições para menores: crianças com menos de 14 anos precisam de autorização dos pais para usar IAs que imitam conversas humanas.
