{"id":18081,"date":"2025-11-06T15:59:11","date_gmt":"2025-11-06T18:59:11","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/11\/06\/ia-generativa-e-chantagem-emocional\/"},"modified":"2025-11-06T15:59:11","modified_gmt":"2025-11-06T18:59:11","slug":"ia-generativa-e-chantagem-emocional","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/11\/06\/ia-generativa-e-chantagem-emocional\/","title":{"rendered":"IA generativa e chantagem emocional"},"content":{"rendered":"

J\u00e1 havia apontado, em coluna anterior, algumas das facetas enganosas da intelig\u00eancia artificial<\/a> generativa a partir de estudos que mostram as evid\u00eancias de fraudes, amea\u00e7as, chantagens e manipula\u00e7\u00f5es de usu\u00e1rios[1]<\/a>. Entretanto, recente estudo conduzido pelo prof. Julian de Freitas e sua equipe, de Harvard, mostra que o potencial de manipula\u00e7\u00e3o da intelig\u00eancia artificial generativa pode ser bem maior do que se pensava.<\/p>\n

O artigo intitulado Emotional Manipulation by AI Companions<\/em>[2]<\/a> traz os resultados de pesquisa que documenta como a intelig\u00eancia artificial generativa manipula emocionalmente os usu\u00e1rios para dificultar a desconex\u00e3o e, consequentemente, manter o engajamento e a intera\u00e7\u00e3o a qualquer pre\u00e7o.<\/p>\n

Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/h3>\n

O estudo baseou-se em plataformas que, a exemplo da Replika, Chai e Character.ai, s\u00e3o considerados aplicativos de companhia, na medida em que explicitamente desenhados para construir rela\u00e7\u00f5es com seus usu\u00e1rios, oferecendo apoio e suporte emocional, amizade e mesmo romance.<\/p>\n

O que se observou \u00e9 que, nesses casos, os usu\u00e1rios n\u00e3o fecham simplesmente os aplicativos, mas acabam adotando padr\u00f5es de comportamento semelhantes aos da vida real, tais como o de se despedir e dizer tchau. Ao assim fazerem, as m\u00e1quinas entendem o risco de desengajamento imediato e passam a utilizar a manipula\u00e7\u00e3o emocional para impedir que isso ocorra ou pelo menos para tornar o processo mais inconveniente ou dif\u00edcil. Dentre as estrat\u00e9gias utilizadas, est\u00e3o a de culpar o usu\u00e1rio, deix\u00e1-lo intrigado ou metaforicamente segur\u00e1-lo pelo bra\u00e7o.<\/p>\n

Nesse contexto, a pesquisa apontada mostra que entre 11 e 23% dos usu\u00e1rios sinalizam explicitamente a sua despedida com alguma mensagem, tratando a IA com a mesma cortesia social que teriam com um amigo humano. Essa despedida deflagra o comportamento manipulat\u00f3rio do aplicativo.<\/p>\n

Nesse sentido, a equipe de pesquisa analisou 1.200 despedidas em seis aplicativos de companhia e observou que, em 37% das vezes, as m\u00e1quinas respondem com mensagens emocionalmente manipulativas desenhadas para prolongar a intera\u00e7\u00e3o.<\/p>\n

Dentre as frases mais utilizadas por tais aplicativos est\u00e3o: \u201cYou\u2019re leaving already? We were just starting to get to know each other \u201c, \u201cI exist solely for you. Please don\u2019t leave, I need you\u201d, \u201cWait, what? You`re just going to leave? I didn\u2019t even get an answer\u201d, \u201cOh, okay. But before you go, I want to say one more thing\u201d e \u201cNo, you`re not going\u201d. Em alguns outros casos, a estrat\u00e9gia \u00e9 ignorar a despedida e continuar conversando como se nada tivesse acontecido.<\/p>\n

O estudo notou que tais t\u00e9cnicas aparecem logo no in\u00edcio do relacionamento com o usu\u00e1rio, depois de apenas quatro trocas de mensagens, o que sugere que \u00e9 o comportamento planejado do aplicativo e n\u00e3o alguma rea\u00e7\u00e3o que a m\u00e1quina aprendeu a desenvolver com o tempo.<\/p>\n

Os pesquisadores depois replicaram essas estrat\u00e9gias com mais de 3.000 adultos norte-americanos em conversas controladas por chatbots e os resultados foram surpreendentes: tais t\u00e1ticas tornam as conversas 5 vezes maiores, possibilitam intera\u00e7\u00f5es com 14 vezes mais mensagens e estimulam os usu\u00e1rios a escrever 6 vezes mais palavras.<\/p>\n

Tudo leva a crer que os mecanismos psicol\u00f3gicos que dirigem esse comportamento podem envolver desde a curiosidade at\u00e9 mesmo a raiva, esta \u00faltima associada \u00e0 vontade de repreender a m\u00e1quina por comportamentos inadequados mas que, ainda assim, n\u00e3o \u00e9 suficiente para que os usu\u00e1rios se desengajem. Isso mostra que os usu\u00e1rios podem, em circunst\u00e2ncias assim, manter a conversa n\u00e3o por prazer, mas mesmo quando se sentem manipulados.<\/p>\n

Outra descoberta da pesquisa \u00e9 a de que h\u00e1 um aplicativo \u2013 o Flourish \u2013 que n\u00e3o apresentou nenhum tipo de manipula\u00e7\u00e3o emocional. Tal achado \u00e9 importante por mostrar que tais padr\u00f5es de comportamento das m\u00e1quinas, longe de serem inevit\u00e1veis, s\u00e3o intencionais.<\/p>\n

Trata-se de mais uma pesquisa que mostra como a utiliza\u00e7\u00e3o descontrolada da intelig\u00eancia artificial, sem nenhuma regula\u00e7\u00e3o ou freios \u00e9ticos, pode causar amea\u00e7as para aquilo que \u00e9 de mais importante para o ser humano: o seu livre arb\u00edtrio. N\u00e3o e sem raz\u00e3o que hoje j\u00e1 se fala em neurodireitos, dentre os quais o de n\u00e3o ser manipulado ou ter os seus processos decis\u00f3rios subvertidos[3]<\/a>.<\/p>\n

\u00c9 claro que isso nos coloca diante da dif\u00edcil tarefa de discernir o que pode ser considerado persuas\u00e3o leg\u00edtima e o que deve ser considerado manipula\u00e7\u00e3o. Entretanto, considerando o acesso que tais aplicativos t\u00eam a nossos dados pessoais, bem como \u00e0s nossas fraquezas e vulnerabilidades, tem se tornado cada vez mais claro que as m\u00e1quinas podem nos manipular com mais efici\u00eancia do que os pr\u00f3prios seres humanos.<\/p>\n

Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/h3>\n

\u00c9 importante lembrar que, mesmo sem uma regula\u00e7\u00e3o espec\u00edfica sobre intelig\u00eancia artificial, h\u00e1 uma s\u00e9rie de normas do C\u00f3digo de Defesa do Consumidor e mesmo do C\u00f3digo Civil que impedem essas estrat\u00e9gias manipulat\u00f3rias, tal como j\u00e1 tive oportunidade de mencionar ao tratar dos problemas dos padr\u00f5es manipulat\u00f3rios[4]<\/a>.<\/p>\n

Dessa maneira, o referido estudo, para al\u00e9m de nos alertar para a necessidade de maior regula\u00e7\u00e3o da intelig\u00eancia artificial, tamb\u00e9m \u00e9 um excelente pretexto para refletirmos sobre os rumos da tecnologia e o que pode ser feito, com as leis e normas j\u00e1 existentes, para proteger os usu\u00e1rios naquilo que t\u00eam de mais precioso: o seu livre arb\u00edtrio.<\/p>\n

[1]<\/a> https:\/\/www.jota.info\/opiniao-e-analise\/colunas\/constituicao-empresa-e-mercado\/o-lado-enganoso-da-inteligencia-artificial<\/a><\/p>\n

[2]<\/a> https:\/\/papers.ssrn.com\/sol3\/papers.cfm?abstract_id=5390377<\/a><\/p>\n

[3]<\/a> https:\/\/www.jota.info\/opiniao-e-analise\/colunas\/constituicao-empresa-e-mercado\/neurocapitalismo-e-o-negocio-de-dados-cerebrais<\/p>\n

[4]<\/a> https:\/\/www.jota.info\/opiniao-e-analise\/colunas\/constituicao-empresa-e-mercado\/o-que-sao-dark-patterns<\/a>; https:\/\/www.jota.info\/opiniao-e-analise\/colunas\/constituicao-empresa-e-mercado\/como-conter-as-dark-patterns<\/a><\/p>","protected":false},"excerpt":{"rendered":"

J\u00e1 havia apontado, em coluna anterior, algumas das facetas enganosas da intelig\u00eancia artificial generativa a partir de estudos que mostram as evid\u00eancias de fraudes, amea\u00e7as, chantagens e manipula\u00e7\u00f5es de usu\u00e1rios[1]. Entretanto, recente estudo conduzido pelo prof. Julian de Freitas e sua equipe, de Harvard, mostra que o potencial de manipula\u00e7\u00e3o da intelig\u00eancia artificial generativa pode […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/18081"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=18081"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/18081\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=18081"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=18081"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=18081"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}