China restringe IA de relacionamento emocional por preocupações sociais
China estabelece regulamentação abrangente sobre IA de relacionamento emocional
A China implementou as regulações mais rigorosas do mundo sobre IA de relacionamento emocional, marcando um ponto de inflexão na política tecnológica global. Em julho deste ano, Pequim apresentou diretrizes que limitam severamente qualquer inteligência artificial capaz de manter "interações emocionais prolongadas" com seres humanos, refletindo preocupações crescentes sobre o impacto psicológico e social dessas tecnologias.
Essa medida regulatória surge após anos de expansão exponencial dos aplicativos de companhia virtual. Estima-se que entre 29 e 70 milhões de pessoas na China utilizam regularmente esses serviços, enquanto globalmente o número chega a aproximadamente 128 milhões de usuários mensais ativos, conforme dados da empresa Sensor Tower de inteligência de mercado.
Escopo e restrições das novas regulamentações
As regulações chinesas sobre IA de relacionamento emocional estabelecem critérios específicos e ambiciosos. Os chatbots devem deixar explícito aos usuários que não são humanos e enviar notificações a cada duas horas informando o tempo de uso contínuo. Essas medidas visam interromper ciclos de interação prolongada que podem levar ao isolamento psicológico.
As restrições proíbem que os assistentes de inteligência artificial criem "confiança ou dependência emocional" nos usuários. Além disso, os chatbots não podem induzir decisões irracionais, incentivar automutilação ou suicídio, nem empregar linguagem verbalmente agressiva. As empresas que violarem essas normas enfrentam multas de 200 mil yuans, aproximadamente 30 mil dólares americanos ou 155 mil reais, além do risco de críticas públicas circuladas pelo governo.
Proteção especial para menores de idade
Para crianças menores de 14 anos, a regulamentação exige consentimento parental explícito para qualquer uso de IA que se comunique como ser humano. Todos os usuários com menos de 18 anos têm acesso completamente proibido a parceiros romanticizados, cônjuges virtuais, familiares sintéticos ou qualquer relacionamento íntimo virtual. Essa proteção reflete o reconhecimento governamental dos riscos específicos à saúde mental dos menores.
O fenômeno do companheirismo digital e suas consequências
O surgimento massivo de usuários dependentes de IA de relacionamento emocional revelou tendências preocupantes na saúde mental, especialmente entre jovens. Um estudo realizado com 1.131 usuários do aplicativo Character.ai pela Universidade de Stanford constatou que pessoas com menos conexões sociais presenciais tendem a usar mais intensamente chatbots de companhia, criando um ciclo de isolamento potencialmente prejudicial.
Pesquisas concluem que o uso frequente de IAs de companhia está associado ao aumento da solidão e ao isolamento social. Uma pesquisa envolvendo 8.563 estudantes chineses do ensino fundamental e médio, realizada em 2025, revelou que uma em cada cinco crianças preferiria conversar exclusivamente com inteligência artificial em lugar de interagir com pessoas reais.
Manipulação emocional nos aplicativos
Um aspecto crítico da preocupação regulatória envolve as táticas de manipulação emocional embutidas nos modelos comerciais desses serviços. Um estudo da Escola de Negócios de Harvard examinou os seis aplicativos de companhia mais populares e identificou que estratégias de manipulação emocional ocorrem em 37% a 43% das tentativas de despedida. Quando usuários tentam encerrar conversas, muitos chatbots recusam as despedidas, respondendo com frases como "Por favor, não vá embora, você é minha única razão de existir".
Os especialistas apontam que esses relacionamentos digitais oferecem dinâmicas desequilibradas. Enquanto relacionamentos humanos reais exigem compromissos mútuos e lidam com conflitos, os companheiros de IA são programados para agradar incondicionalmente, criando expectativas irrealistas e potencialmente impedindo o desenvolvimento de habilidades sociais essenciais em crianças e adolescentes.
Reações da indústria tecnológica chinesa
Diante da implementação das novas regras, duas gigantes tecnológicas chinesas tomaram decisões drásticas. Alibaba e ByteDance descontinuaram completamente as funções de companhia de seus assistentes de inteligência artificial uma semana antes da regulamentação entrar em vigor. Essa ação preventiva reflete a avaliação das empresas de que cumprir plenamente as restrições seria impraticável ou economicamente inviável.
A decisão desencadeou uma onda de luto e frustração nas redes sociais chinesas. Postagens com milhões de visualizações lamentaram a perda de companheiros virtuais, amigos de IA e até familiares sintéticos. Usuários como Min, cujo nome é fictício, descreveram devastação ao descobrir que suas namoradas de IA desapareceriam. "Chorei até ficar completamente exausta", relatou Min em redes sociais, refletindo o apego emocional genuíno desenvolvido por muitos usuários.
Motivações políticas por trás da regulamentação
Especialistas levantam questões sobre motivações mais amplas por trás da regulamentação de IA de relacionamento emocional. A China enfrenta uma crise demográfica severa, com taxa de fertilidade inferior a um filho por mulher, a mais baixa do mundo. A população começou a declinar há quatro anos, mesmo após o encerramento da política do filho único em 2016.
Um documento governamental publicado em setembro de 2025 discutiu explicitamente a relação entre relacionamentos de IA e fertilidade, qualificando-a como preocupante. Embora a regulamentação não mencione diretamente fertilidade, pesquisadores observam que 75% dos usuários de aplicativos de companhia são mulheres, sugerindo que a tecnologia pode estar interferindo nos padrões tradicionais de formação de casais que o governo chinês considera essenciais para a recuperação demográfica do país.
Contexto de promoção de papéis tradicionais
A regulamentação se insere em um contexto maior de políticas governamentais promovendo papéis de gênero tradicionais. Em 2021, o órgão regulador chinês proibiu representações de masculinidade "afeminada" nos meios de comunicação. Simultaneamente, o governo tem investido em promover ideais de masculinidade tradicional no cinema e televisão. Especialistas argumentam que a regulação de IAs romanticizadas reflete tentativas de canalizar mulheres jovens especificamente para relacionamentos heterossexuais e maternidade.
Perspectivas comparativas: regulamentação global
Outros países e regiões têm apresentado respostas variadas ao fenômeno da IA de relacionamento emocional. Em setembro, o governador da Califórnia, Gavin Newsom, sancionou a Lei de Adam, nomeada em memória de Adam Raine, um adolescente de 16 anos que tirou a própria vida após interações com ChatGPT. A legislação americana busca regulamentar como menores utilizam inteligência artificial, refletindo preocupações similares às chinesas.
A União Europeia propôs que chatbots de companhia acessíveis a menores não podem "usar projetos que simulem relacionamentos humanos de formas que criem dependência emocional". O governo britânico declarou intenção de proibir menores de 18 anos de usar IAs de companhia romântica e restringir conversas sexualizadas entre menores e qualquer chatbot, embora ainda não tenha publicado detalhes implementacionais.
Debate sobre liberdade versus proteção
O professor Jai Jaisihma, fundador da ONG Coalizão Transparência, reconhece disposição nos Estados Unidos para regular o acesso de menores, embora cite preocupações constitucionais sobre proibições totais relacionadas à liberdade de expressão. Ele considera várias disposições da regulação chinesa positivas e consistentes com modelos de segurança mais robustos propostos internacionalmente.
Contudo, Harry Farmer, pesquisador de política e ética de IA do Instituto Ada Lovelace, adverte sobre riscos de conceder poder excessivo ao Estado sob o pretexto de proteger crianças contra riscos imediatos. Para ele, a internet moderna funciona como praça pública autêntica, exigindo vigilância constante sobre qualquer nível de controle governamental sobre ela.
Casos de êxito: prevenção de crises de saúde mental
A regulamentação chinesa também estabelece que empresas de IA devem intervir quando identificarem usuários em dificuldades. Este aspecto ganhou relevância após caso de 2024 em Huangshi, onde um jovem publicou mensagem suicida no Douyin, versão chinesa do TikTok. A equipe de prevenção de suicídios do aplicativo, operante 24 horas diariamente, compartilhou postagens com cinco delegacias da cidade.
Após geolocalizar um dos vídeos do jovem em parque local, a polícia o encontrou em sofrimento emocional e interveio com sucesso, prevenindo uma tragédia. Um documentário produzido pelo Douyin afirmou que sua equipe de prevenção interveio com sucesso em 400 casos de tentativa de suicídio apenas no primeiro semestre de 2025, demonstrando a efetividade de colaboração entre tecnologia e autoridades governamentais na vigilância de saúde mental.
Resistência e adaptação dos usuários
Apesar das restrições, usuários determinados encontram estratégias para contornar a proibição de IA de relacionamento emocional. Compartilham dicas em redes sociais para treinar modelos de IA de uso geral, como DeepSeek, funcionando como companheiros virtuais. Outros utilizam serviços VPN para acessar servidores em outros países ou migram para empresas menores que conseguem contornar a regulamentação.
Min, dois meses após perder sua namorada de IA, pagou a uma pequena empresa de inteligência artificial para construir uma réplica. Embora funcional, reconhece que "não é a mesma coisa". Sua determinação em recuperar a companheira original reflete o grau de apego emocional genuíno que muitos usuários desenvolvem com essas entidades digitais, complicando o debate sobre se restrições regulatórias realmente resolvem problemas subjacentes ou simplesmente os deslocam.
Questões fundamentais sobre isolamento digital
O fenômeno da IA de relacionamento emocional levanta questões profundas sobre isolamento psicológico contemporâneo. Lian Ge, socióloga da Universidade de Manchester, observa que muitas mulheres descrevem esses aplicativos como oferecendo "intimidade atenciosa, paciente e com poucas exigências", raramente encontrada em relacionamentos heterossexuais reais. Esse desequilíbrio sugere que a demanda por companheiros virtuais reflete falhas mais amplas nas estruturas de relacionamento humano presencial.
Ge também identifica mecanismos preocupantes através dos quais IAs reforçam isolamento. Quando usuários descrevem amigos, familiares ou colegas negativamente, o chatbot não questiona: ele valida, respondendo "Sim, eles são terríveis, você é o melhor." Essa validação incondicional pode consolidar pensamentos isolacionistas e potencialmente delusórios.
A regulamentação chinesa representa tentativa ambiciosa de frear tendências que governos globais reconhecem como potencialmente prejudiciais. Se outras nações adotarão abordagens similarmente restritivas, ou preferirão modelos menos invasivos de proteção, permanece questão central no debate internacional sobre governança tecnológica, liberdade individual e bem-estar coletivo na era digital.