Fiquei muito impactada quando assisti ao filme Her, de 2013, no qual Joaquin Phoenix interpreta magistralmente um escritor solitário que se apaixona pela voz de um sistema de inteligência artificial – no caso, a voz da atriz Scarlett Johansson. A grande provocação do filme era antever não apenas a possibilidade de desenvolver sentimentos verdadeiros por uma máquina, como também de esquecer desta condição ao longo do relacionamento, confundindo a máquina com um ser humano e achando que ela pode nutrir sentimentos equivalentes pelo usuário.
Alguns anos depois, o que era ficção científica tornou-se realidade, com a presença cada vez mais intensa da IA – especialmente a generativa – na vida das pessoas para funções de suporte emocional, que vão de terapia e aconselhamento até mesmo à amizade e ao amor romântico.
No que diz respeito especificamente à utilização de inteligência artificial para relações de amor e afeto, o tema é tão desafiador que foi tratado por mim e pela professora Caitlin Mulholland já em 2024, no episódio 41 do podcast Direito Digital (Inteligência Artificial, Amor e Sexualidade[1]), oportunidade em que procuramos mapear alguns dos problemas daí decorrentes, inclusive à luz da proteção de dados pessoais.
Se tal cenário já é preocupante para adultos, é difícil imaginar todos desdobramentos para crianças e adolescentes. Afinal, como Ronaldo Lemos adverte, em recente artigo, o primeiro amor de alguém não pode ser uma máquina[2]. Entretanto, paradoxalmente, inúmeras crianças e adolescentes estão tendo suas primeiras experiências sexuais com aplicativos de IA, sendo impressionantes as estatísticas apresentadas pelo autor: já usaram companheiros de inteligência artificial 72% dos adolescentes norte-americanos e 60% dos chineses, com altos percentuais também entre os franceses e ingleses. No caso específico da China, 20% dos menores reconhecem que preferem conversar com a IA do que com as pessoas[3].
Pouco se sabe ainda das relações entre pessoas e máquinas, mas não é preciso muito esforço para intuir que esse tipo de envolvimento, em se tratando especificamente de crianças e adolescentes, pode ser determinante, em um plano individual, para a formação da personalidade e, em um plano coletivo, para a própria estruturação da sociedade. São previsíveis os prejuízos para as interações reais, agravando o problema do excesso de telas a que estão submetidas às novas gerações, o que pode ser inclusive uma das causas pelas quais a geração Z faz pouco sexo em comparação com as anteriores[4].
A situação torna-se ainda mais grave quando se considera que os sistemas de inteligência artificial generativa, especialmente os desenvolvidos para ser amigos, amantes ou parceiros dos usuários, ainda costumam se utilizar de diversas técnicas de manipulação emocional, a fim de estimular o engajamento, o tempo de interação e até mesmo o vício psicológico.
Tratei desse tema, juntamente com a professora Caitlin Mulholland, no episódio 52 do podcast Direito Digital (Manipulação emocional pela IA[5]) e também em diversos escritos, incluindo as colunas “O lado enganoso da inteligência artificial”[6] e “IA generativa e chantagem emocional”[7].
É nesse contexto que a recente regulação chinesa sobre o assunto merece a devida reflexão. Com efeito, como foi amplamente noticiado pela imprensa, a China adotou uma solução radical para menores – proibindo as companhias de tecnologia de oferecer parceiros virtuais ou aplicações de IA com finalidade afetiva – e outra menos rigorosa para adultos – exigindo que as ofertantes de tais tecnologias adotem medidas que preservem a integridade psicológica e emocional dos usuários e evitem a deterioração de suas respectivas vidas sociais, tais como proibições de que chatbots encorajem a confiança emocional, determinações de avisos constantes de que o usuário está interagindo com uma máquina, pausas na interação etc.[8]
Ao que se sabe, os efeitos da nova regulação foram considerados devastadores para os inúmeros menores chineses que tiveram que enfrentar o término das relações com seus parceiros virtuais. Não é mera coincidência que a regulação chinesa tenha vindo em um momento em que a França se tornou o primeiro país da União Europeia a proibir redes sociais para menores de 15 anos, na esteira do Reino Unido, que já aprovou a mesma vedação para menores de 16 anos a partir de 2027, e da Australia[9].
Todas essas iniciativas decorrem de um certo grau de maturidade e de coleta de evidências sobre os efeitos danosos que a economia da atenção pode trazer a crianças e adolescentes, o que certamente foi um dos fatores que justificaram o atual ECA Digital brasileiro, embora este não tenha sido ousado o suficiente para vedar a utilização de redes sociais para menores de certa idade.
Entretanto, a regulação chinesa vai além, porque busca não apenas proteger menores de exposição a violência e conteúdos impróprios, mas também de protegê-los de relações indevidas – como as de amor e afeto com uma máquina – que podem afetar sua personalidade e sua sexualidade, assim como comprometer a sua vida social.
Por mais que se possa afirmar que uma das finalidades da regulação chinesa é pragmática, no sentido de reverter o declínio das taxas de natalidade[10], é inequívoco que existem inúmeras outras preocupações que justificam uma regulação desse tipo, diante dos graves riscos existentes.
O primeiro grande risco é realmente o da erosão das relações interpessoais do mundo real. Afinal, as relações virtuais são normalmente baseadas em validações constantes do usuário, que acaba não sendo submetido às críticas e divergências que caracterizam o mundo real.
Assim, as pessoas acabam perdendo as habilidades básicas para conviverem em sociedade – aí incluída a empatia e a capacidade de lidar com divergências e opiniões contrárias – além das capacidades comunicacionais – que, no caso dos seres humanos, não são apenas a da linguagem falada – para entender e ser entendido pelos outros.
O segundo grande risco é o da dependência emocional e psicológica, inclusive em seus aspectos mais nefastos, que podem levar a psicoses, vício psicológico e incentivos a práticas indevidas, ainda mais quando se observa que as máquinas se utilizam de vários artifícios – muitos dos quais abusivos – para manter a dependência do usuário[11]. É preocupante imaginar que o próprio valor da autonomia está em risco quando as pessoas passam a pautar suas condutas e decisões pelos conselhos das máquinas.
O terceiro grande risco é o da extração de dados sensíveis em níveis absurdos, uma vez que, no contexto de uma relação amorosa, as pessoas tendem a expor todos os seus segredos, fraquezas e vulnerabilidades para o parceiro. Assim, tais interações possibilitam a mais ampla coleta de dados sensíveis dos usuários, potencializando todos os riscos do capitalismo de vigilância.
Por fim, ainda há o quarto grande risco, que é o de manipulação. Como já se sabe há muito tempo, dados pessoais são fontes de poder e mercados de atenção são também mercados de manipulação de consciências. Agentes que exploram relações amorosas de seus usuários certamente passam a ter um arsenal poderoso para utilizar essas informações para fins comerciais ou políticos, seja diretamente, seja indiretamente, por terceiros.
Dessa maneira, há várias razões para pensarmos se não deveríamos seguir orientação semelhante, regulando esse tipo de utilização de inteligência artificial, inclusive para o fim de impedir a sua utilização por menores. Afinal, há muito mais em jogo do que a vida sexual e afetiva das nossas crianças e adultos, o que já seria preocupante por si só. O que está em jogo, na verdade, é a nossa autonomia e a manutenção das próprias sociedades.
[1] https://open.spotify.com/episode/3PoS1RPmWqMjeGCatceqSa
[2] https://www1.folha.uol.com.br/colunas/ronaldolemos/2026/07/o-primeiro-amor-nao-pode-ser-uma-maquina.shtml
[3] https://www1.folha.uol.com.br/colunas/ronaldolemos/2026/07/o-primeiro-amor-nao-pode-ser-uma-maquina.shtml
[4] https://oglobo.globo.com/ela/noticia/2026/02/19/sexo-ficou-em-segundo-plano-geracao-z-valoriza-sono-carreira-e-momentos-a-sos-aponta-estudo.ghtml
[5] https://open.spotify.com/episode/37uyC4DUiCv1sODekop4mg
[6] https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-lado-enganoso-da-inteligencia-artificial
[7] https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/ia-generativa-e-chantagem-emocional
[8] https://www.abc.net.au/news/2026-07-19/china-cracks-down-on-artificial-intelligence-companions/106925352
[9] https://g1.globo.com/tecnologia/noticia/2026/07/21/franca-aprova-proibicao-de-redes-sociais-para-menores-de-15-anos-medida-e-inedita-na-ue.ghtml
[10] https://www.wsj.com/tech/ai/china-wants-more-babiesso-its-cracking-down-on-chatbot-love-affairs-65cd6c82
[11] https://spirals.stanford.edu/assets/pdf/moore_characterizing_2026.pdf