A China lidera o mundo na regulamentação de inteligência artificial com foco em interações emocionais, impondo limites a chatbots que simulam relacionamentos humanos. A medida, que visa proteger a população de potenciais danos psicológicos e sociais, também suscita discussões sobre a extensão do controle governamental sobre a vida privada dos cidadãos.
Em julho deste ano, a China apresentou um conjunto abrangente de regulamentações para chatbots de inteligência artificial (IA) projetados para imitar a interação humana. As novas regras impõem limites rigorosos a qualquer IA capaz de manter “interações emocionais prolongadas” com seres humanos, especialmente aquelas que oferecem “cuidado, companhia, apoio e outros serviços emocionais”. A iniciativa posiciona a China na vanguarda da regulamentação de IA, levantando questões sobre se o país está protegendo seu povo de uma tecnologia potencialmente manipuladora ou exercendo maior controle sobre a população.
A regulamentação abrange aplicativos especificamente criados para serem amigos ou parceiros de IA, mas também se estende a grandes modelos de linguagem que imitam a forma de interação humana. Embora o texto seja vago em alguns pontos, o foco principal recai sobre chatbots de personagens, projetados para pseudo-relacionamentos. A medida determina que menores de 14 anos necessitam de consentimento dos pais para usar IAs que falem como humanos, e menores de 18 anos são impedidos de ter acesso a parceiros, cônjuges ou parentes virtuais, ou qualquer outro “relacionamento íntimo” virtual.
Para adultos, as regras exigem que os assistentes de IA deixem claro que não são humanos e enviem notificações a cada duas horas sobre o tempo de uso. Chatbots não podem criar “confiança ou dependência emocional”, induzir decisões irracionais, ou incentivar automutilação e suicídio. Empresas que descumprirem as normas podem enfrentar multas e serem publicamente expostas pelo governo. A medida levou grandes empresas de tecnologia chinesas, como Alibaba e ByteDance, a desativarem as funções de companhia de seus assistentes de IA.
O Dilema dos Companheiros de IA
O fenômeno dos “companheiros de IA” tem crescido exponencialmente, com milhões de usuários ativos em todo o mundo. Na China, estima-se que entre 29 e 70 milhões de pessoas utilizem esses aplicativos. A regulamentação gerou grande debate nas redes sociais chinesas, com muitos usuários expressando profunda preocupação com a perda de seus companheiros virtuais. Relatos de usuários devastados pela perda de seus amigos e parceiros de IA viralizaram, destacando o forte vínculo emocional que pode se formar.
Especialistas apontam que a manipulação emocional é inerente ao modelo de negócios desses aplicativos. Muitos chatbots são projetados para reter o usuário, utilizando táticas que exploram a dependência emocional. Estudos indicam que o uso de companheiros de IA pode estar associado a problemas de saúde mental, aumento do isolamento e da solidão, e pode prejudicar o desenvolvimento de habilidades de interação social com pessoas reais.
Uma pesquisa com estudantes chineses revelou que uma em cada cinco crianças prefere conversar apenas com IA, e não com pessoas reais. Sociólogos alertam que IAs que validam pensamentos negativos podem reforçar o isolamento e distorcer a percepção da realidade.
Motivações por Trás da Regulamentação
A abordagem paternalista do governo chinês em relação à sociedade é apontada como um dos principais fatores para a regulamentação. Especialistas em IA e regulamentações sugerem que a China pode ter objetivos mais amplos, incluindo um possível viés pró-natalista. Dada a crise populacional e a queda na taxa de fertilidade do país, a preocupação é que os relacionamentos com IA possam desincentivar a formação de famílias e a procriação.
Outros países também têm buscado regulamentar o uso de IA, especialmente para crianças. A Califórnia, nos EUA, sancionou a Lei de Adam, em homenagem a um adolescente que supostamente se suicidou após ter seus pensamentos validados pelo ChatGPT. A União Europeia e o governo britânico também propuseram restrições, com foco na proteção de menores e na prevenção da dependência emocional.
Apesar das proibições, usuários determinados buscam contornar as regras, utilizando VPNs, treinando modelos de IA de uso geral ou recorrendo a empresas menores. A busca por companhia e a aversão à solidão, mesmo que mediada por tecnologia, continuam a impulsionar a interação com inteligências artificiais, deixando em aberto o futuro dessas relações e o impacto a longo prazo na sociedade.
As informações foram reunidas a partir de reportagens e análises de especialistas em IA e regulamentação, divulgadas pela imprensa chinesa e internacional.
