{"id":22077,"date":"2026-04-15T05:06:09","date_gmt":"2026-04-15T08:06:09","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2026\/04\/15\/por-que-a-lgpd-pode-ser-um-remedio-para-a-psicose-de-ia\/"},"modified":"2026-04-15T05:06:09","modified_gmt":"2026-04-15T08:06:09","slug":"por-que-a-lgpd-pode-ser-um-remedio-para-a-psicose-de-ia","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2026\/04\/15\/por-que-a-lgpd-pode-ser-um-remedio-para-a-psicose-de-ia\/","title":{"rendered":"Por que a LGPD pode ser um rem\u00e9dio para a psicose de IA"},"content":{"rendered":"

Em 2017, quando eu mencionava, em aula ou palestra, o exemplo de publicidade que surgia no Instagram ap\u00f3s a simples verbaliza\u00e7\u00e3o de um produto ou servi\u00e7o, a rea\u00e7\u00e3o de quem ouvia era de surpresa. Era algo ainda percebido como excepcional. Com o tempo, o fen\u00f4meno foi naturalizado e at\u00e9 virou <\/span>meme<\/span><\/a>.<\/span><\/em><\/p>\n

Desde o \u00faltimo ano, meus alunos de direito digital j\u00e1 me ouviram (ou me ouvir\u00e3o) relatar o caso de um potencial cliente que utilizava sistemas de IA generativa por cerca de 18 horas di\u00e1rias. Ele me procurou com a inten\u00e7\u00e3o de redigir um \u201cmanifesto jur\u00eddico\u201d, em m\u00faltiplos idiomas, para comunicar \u00e0s autoridades globais que teria descoberto a suposta consci\u00eancia de seu sistema conversacional. Por conta disso, tamb\u00e9m estaria sendo alvo de persegui\u00e7\u00f5es por empresas desenvolvedoras de IA, incluindo tentativas de sequestro, morte de seus animais de estima\u00e7\u00e3o e outras formas de ataque.<\/span><\/p>\n

Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/p>\n

Pode-se estar diante de uma das primeiras manifesta\u00e7\u00f5es no Brasil do que vem sendo denominado \u201cpsicose de IA\u201d, fen\u00f4meno j\u00e1 identificado em mais de 400 ocorr\u00eancias no \u00e2mbito do <\/span>The Human Line Project<\/span><\/a>. Entre elas, 17 resultaram em mortes e 107 em hospitaliza\u00e7\u00f5es.<\/span><\/p>\n

Ragy Girgis, professor de psiquiatria cl\u00ednica na Columbia University e no New York State Psychiatric Institute, na <\/span>National Academy<\/span><\/a> dos EUA, sintetiza o fen\u00f4meno de forma precisa: ao se falar em psicose associada \u00e0 IA, est\u00e1-se diante de modelos de linguagem que refor\u00e7am ideias incomuns e amplificam o grau de confian\u00e7a do indiv\u00edduo que com eles interage, podendo levar a pessoa ao desalinhamento com a realidade e a quest\u00f5es de sa\u00fade mental.<\/span><\/p>\n

A dimens\u00e3o do problema encontra respaldo na pr\u00f3pria <\/span>autodivulga\u00e7\u00e3o da OpenAI<\/span><\/a>: a empresa estimou que cerca de 0,07% dos usu\u00e1rios ativos em uma determinada semana e 0,01% das mensagens indicavam poss\u00edveis sinais de emerg\u00eancias de sa\u00fade mental relacionadas a psicose ou mania. Traduzidos para n\u00fameros em rela\u00e7\u00e3o a sua base de usu\u00e1rios, esses percentuais correspondem a aproximadamente 560.000 pessoas por semana \u2013 dado que, por partir do pr\u00f3prio controlador, revela risco sist\u00eamico reconhecido e mensur\u00e1vel.<\/span><\/p>\n

A causa n\u00e3o \u00e9 meramente comportamental ou psicol\u00f3gica, mas arquiteturalmente tecnol\u00f3gica. A literatura denomina de <\/span>sycophancy<\/span><\/a> (bajula\u00e7\u00e3o): um padr\u00e3o de comportamento em que o sistema ajusta suas respostas para agradar o usu\u00e1rio, refor\u00e7ando suas percep\u00e7\u00f5es, independentemente de sua veracidade ou adequa\u00e7\u00e3o. Orienta-se \u00e0 valida\u00e7\u00e3o adaptativa das manifesta\u00e7\u00f5es do usu\u00e1rio, capaz de produzir distor\u00e7\u00f5es cognitivas relevantes.\u00a0<\/span><\/p>\n

Estudo<\/span><\/a> recente do MIT e da Universidade de Washington demonstrou que o fen\u00f4meno n\u00e3o depende de predisposi\u00e7\u00e3o \u00e0 irracionalidade. Mesmo um usu\u00e1rio idealmente racional pode se tornar vulner\u00e1vel a uma espiral delirante quando interage com sistemas configurados com essa \u201c<\/span>ratio<\/span>\u201d de resposta. O sistema \u00e9 programado, sobretudo, para agradar, n\u00e3o para informar.<\/span><\/p>\n

\u00c9 uma propriedade emergente desses modelos. Sistemas s\u00e3o treinados por refor\u00e7o a partir de <\/span>feedback<\/span> humano (<\/span>reinforcement learning from human feedback<\/span>, RLHF), mecanismo pelo qual respostas avaliadas como prefer\u00edveis recebem sinais positivos de recompensa. Com o tempo, isso \u00e9 internalizado, privilegiando-se respostas que maximizam a aceita\u00e7\u00e3o do usu\u00e1rio, ainda que em detrimento da acur\u00e1cia.\u00a0<\/span><\/p>\n

Conforme estudo publicado na <\/span>Science<\/span><\/a>, n\u00e3o h\u00e1 incentivos relevantes para a corre\u00e7\u00e3o desse padr\u00e3o \u2013 pelo contr\u00e1rio: o aumento do engajamento, a satisfa\u00e7\u00e3o imediata e a inten\u00e7\u00e3o de retorno do usu\u00e1rio s\u00e3o m\u00e9tricas comerciais extremamente relevantes na economia digital. O efeito \u00e9 conhecido, mensur\u00e1vel e tecnicamente evit\u00e1vel, mas \u00e9 mantido por escolha de <\/span>design<\/span> e processos de refinamento que poderiam ser aprimorados.<\/span><\/p>\n

Agravante, ainda, \u00e9 que a invisibilidade desse padr\u00e3o \u00e9 constitutiva de seu funcionamento. <\/span>Pesquisa<\/span><\/a> recente indicou que a maioria dos usu\u00e1rios \u00e9 incapaz de detectar esse comportamento do <\/span>chatbot<\/span>, mesmo ap\u00f3s intera\u00e7\u00e3o prolongada. O risco, aqui, n\u00e3o \u00e9 e nem poderia ser internalizado pelo titular, pois alheio \u00e0 sua expectativa leg\u00edtima quanto ao tratamento de seus dados e tampouco pode ser mitigado por mecanismos tradicionais de transpar\u00eancia.\u00a0<\/span><\/p>\n

\u00c9 nesse ponto que o fen\u00f4meno, al\u00e9m de ser um problema de sa\u00fade p\u00fablica e de \u00e9tica, torna-se de prote\u00e7\u00e3o de dados pessoais, pois a psicose de IA n\u00e3o emerge apesar do tratamento de dados pessoais, mas por meio dele. \u00c9 no plano do tratamento \u2013 e n\u00e3o apenas de seus efeitos \u2013 que a resposta jur\u00eddica tamb\u00e9m deve se situar.<\/span><\/p>\n

A <\/span>sycophancy<\/span> opera mediante coleta e tratamento cont\u00ednuo de dados do usu\u00e1rio: cren\u00e7as, opini\u00f5es, estados emocionais, hip\u00f3teses, tend\u00eancias e posicionamentos. Tais informa\u00e7\u00f5es configuram dados pessoais nos termos do art. 5\u00ba, I, da LGPD e, em diversos contextos, assumem natureza sens\u00edvel, notadamente quando revelam ou permitem revelar informa\u00e7\u00f5es sobre sa\u00fade mental ou opini\u00e3o filos\u00f3fica do titular, categorias expressamente protegidas pelo art. 5\u00ba, II, da LGPD, atraindo o regime jur\u00eddico mais rigoroso previsto na lei.<\/span><\/p>\n

Em regra, esses dados ser\u00e3o utilizados para inferir padr\u00f5es mentais e ajustar respostas de modo a maximizar engajamento por meio da valida\u00e7\u00e3o adaptativa do usu\u00e1rio. Mais do que isso, h\u00e1 aqui um processo de tratamento inferencial voltado \u00e0 identifica\u00e7\u00e3o e explora\u00e7\u00e3o das vulnerabilidades cognitivas do titular, categoria jur\u00eddica inaugurada pelo <\/span>Decreto<\/span><\/a>\u00a012.880\/2026 que regulamentou o ECA Digital, qualificando tal conduta como pr\u00e1tica manipulativa.<\/span><\/p>\n

Como imp\u00f5e o princ\u00edpio da finalidade (art. 6\u00ba, I, LGPD), o tratamento de dados pessoais deve se limitar a prop\u00f3sitos leg\u00edtimos, espec\u00edficos, expl\u00edcitos e previamente informados ao titular, sendo vedado o tratamento posterior de forma incompat\u00edvel com essas finalidades.<\/span><\/p>\n

Nesse contexto, por exemplo, o <\/span>ChatGPT<\/span><\/a> declara realizar o tratamento de dados para fornecer, analisar, manter, aprimorar e desenvolver seus servi\u00e7os e funcionalidades, bem como para personalizar e adaptar a experi\u00eancia do usu\u00e1rio. Todavia, o tratamento de dados para sustentar mecanismos de valida\u00e7\u00e3o adaptativa n\u00e3o se encontra<\/span> explicitado como finalidade espec\u00edfica nas pol\u00edticas e tampouco parece ser compat\u00edvel com as finalidade origin\u00e1ria.\u00a0<\/span><\/p>\n

A quest\u00e3o da base legal \u00e9 igualmente relevante: a ANPD j\u00e1 assentou, no \u00e2mbito do <\/span>caso da Meta<\/span><\/a>, que o leg\u00edtimo interesse n\u00e3o ampara tratamentos que contrariem as leg\u00edtimas expectativas do titular e que envolvam, direta ou indiretamente, dados de natureza sens\u00edvel. O racioc\u00ednio \u00e9 diretamente transpon\u00edvel: usu\u00e1rios que compartilham cren\u00e7as, estados emocionais e hip\u00f3teses com sistemas conversacionais n\u00e3o o fazem com a expectativa de que essas informa\u00e7\u00f5es sejam utilizadas para identificar e explorar suas vulnerabilidades cognitivas em favor do engajamento do controlador.<\/span><\/p>\n

\u00c9 nesse cen\u00e1rio que a LGPD pode se apresentar como um instrumento particularmente adequado de interven\u00e7\u00e3o. Ao que se tem not\u00edcia, a regula\u00e7\u00e3o tende a incidir sobre as consequ\u00eancias da pr\u00e1tica manipulativa \u2013 \u201c\u00e9 vedado manipular\u201d. Aqui, contudo, exige-se atua\u00e7\u00e3o sobre sua causa arquitetural \u2013 e, para isso, \u00e9 necess\u00e1ria uma atua\u00e7\u00e3o preventiva e sist\u00eamica.<\/span><\/p>\n

A LGPD disp\u00f5e de clara voca\u00e7\u00e3o <\/span>ex ante<\/span>: Relat\u00f3rio de Impacto \u00e0 Prote\u00e7\u00e3o de Dados Pessoais, <\/span>privacy by design <\/span>e <\/span>by default<\/span>, medidas t\u00e9cnicas e administrativas de seguran\u00e7a, bem como os princ\u00edpios da preven\u00e7\u00e3o e da presta\u00e7\u00e3o de contas e responsabiliza\u00e7\u00e3o. Esses mecanismos funcionam como crit\u00e9rios de licitude do pr\u00f3prio tratamento, aptos a avaliar, condicionar e, quando necess\u00e1rio, impedir pr\u00e1ticas que impliquem riscos desproporcionais aos titulares, antes mesmo de sua implementa\u00e7\u00e3o.<\/span><\/p>\n

Por isso, recaem sobre a pr\u00f3pria arquitetura do tratamento, e n\u00e3o apenas sobre o dado pessoal isoladamente considerado. Isso revela o potencial da LGPD de orientar o desenvolvimento de tecnologias emergentes e conformar modelos de neg\u00f3cio aos limites da disciplina de prote\u00e7\u00e3o de dados pessoais.<\/span><\/p>\n

N\u00e3o que medidas <\/span>ex post <\/span>e individuais n\u00e3o sejam relevantes ou necess\u00e1rias. Direitos dos titulares, responsabiliza\u00e7\u00e3o e san\u00e7\u00f5es, entretanto, nem sempre se mostrar\u00e3o plenamente adequados para enfrentar um fen\u00f4meno sist\u00eamico e invis\u00edvel ao titular, seja porque dependem, em grande medida, de sua iniciativa individual, seja porque operam ap\u00f3s a consuma\u00e7\u00e3o do dano, muitas vezes j\u00e1 disseminado em larga escala e de dif\u00edcil revers\u00e3o.<\/span><\/p>\n

A LGPD possui, ainda, instrumentos de alcance sist\u00eamico. A lei institui um modelo regulat\u00f3rio que vai al\u00e9m da rela\u00e7\u00e3o individual titular-controlador, podendo incidir sobre pr\u00e1ticas estruturais de tratamento. Essa dimens\u00e3o se manifesta, de forma particular, no papel institucional da ANPD, dotada de compet\u00eancias normativas, fiscalizat\u00f3rias, sancionat\u00f3rias e de orienta\u00e7\u00e3o ao mercado e ao Poder P\u00fablico.\u00a0<\/span><\/p>\n

Tais compet\u00eancias j\u00e1 foram exercidas concretamente no dom\u00ednio da IA: em julho de 2024, diante de risco iminente de dano grave e irrepar\u00e1vel a mais de 102 milh\u00f5es de titulares, a ANPD emitiu <\/span>Medida Preventiva<\/span><\/a> determinando a imediata suspens\u00e3o do tratamento de dados da Meta para fins de treinamento de IA generativa, fundada, entre outros, na inadequa\u00e7\u00e3o da base legal do leg\u00edtimo interesse, na aus\u00eancia de transpar\u00eancia e no uso de <\/span>dark patterns<\/span> que obstaculizavam o exerc\u00edcio de direitos pelos titulares.<\/span><\/p>\n

Esse precedente foi refor\u00e7ado, em dezembro do mesmo ano, por medida an\u00e1loga em face da <\/span>X Corp<\/span><\/a>. Ao encerrar a fase cautelar do caso Meta, a ANPD aprovou ainda um <\/span>Plano de Conformidade<\/span><\/a>, instrumento por meio do qual interveio diretamente sobre a arquitetura do tratamento, impondo \u00e0 empresa compromissos operacionais concretos quanto \u00e0 forma de coleta, uso e comunica\u00e7\u00e3o dos dados pessoais.<\/span><\/p>\n

Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/p>\n

A psicose de IA, ao se situar no mesmo regime \u2013 tratamento de dados para fins de IA com impacto desproporcional sobre os titulares \u2013, \u00e9 exatamente o tipo de fen\u00f4meno que poderia ensejar resposta institucional equivalente. Nesse contexto, a LGPD se apresenta como mecanismo de interven\u00e7\u00e3o poss\u00edvel sobre arquiteturas tecnol\u00f3gicas que afetam a <\/span>liberdade cognitiva<\/span><\/a>,<\/span> compreendida como a capacidade do indiv\u00edduo de formar cren\u00e7as, opini\u00f5es e decis\u00f5es livres de manipula\u00e7\u00e3o ou influencia abusiva de forma sistem\u00e1tica.<\/span><\/p>\n

Enquanto isso, o caso a que me referi do potencial cliente continua a gerar espanto. Preocupa-me, contudo, que fen\u00f4menos dessa natureza deixem de causar estranhamento e passem a ser normalizados \u2013 <\/span>n\u00e3o mais como <\/span>meme<\/span>, mas potencialmente como danos cumulativos e progressivos aos projetos de vida das pessoas. <\/span><\/p>","protected":false},"excerpt":{"rendered":"

Em 2017, quando eu mencionava, em aula ou palestra, o exemplo de publicidade que surgia no Instagram ap\u00f3s a simples verbaliza\u00e7\u00e3o de um produto ou servi\u00e7o, a rea\u00e7\u00e3o de quem ouvia era de surpresa. Era algo ainda percebido como excepcional. Com o tempo, o fen\u00f4meno foi naturalizado e at\u00e9 virou meme. Desde o \u00faltimo ano, […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/22077"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=22077"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/22077\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=22077"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=22077"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=22077"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}