Volta e meia o mundo \u00e9 acometido por \u201cfebres\u201d que prometem transformar completamente o paradigma atual e inaugurar uma nova era. A mais nova febre \u00e9 a da intelig\u00eancia artificial. E o universo do Direito n\u00e3o est\u00e1 imune. Muito pelo contr\u00e1rio, o \u201ccorpo\u201d que comp\u00f5e o Direito parece ser especialmente suscet\u00edvel. No Brasil, ent\u00e3o?<\/p>\n
Aparentemente, por aqui h\u00e1 uma debilidade flagrante capaz de fazer com que esta febre se espalhe rapidamente comprometendo a integridade do sistema. Poucos anticorpos, a doen\u00e7a se espalha mais facilmente.<\/p>\n
Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/p>\n Verdade seja dita, desde o primeiro dia em que os modelos de intelig\u00eancia artificial pautados em aprendizado de linguagem \u2014 Large Language Models <\/em>(LLMs) \u2014 se tornaram amplamente dispon\u00edveis, com a disponibiliza\u00e7\u00e3o p\u00fablica do Chat GPT e quejandos, o Poder Judici\u00e1rio brasileiro se abra\u00e7ou efusivamente a eles como solu\u00e7\u00e3o para os seus problemas. Problemas esses que podem ser traduzidos em um mantra repetido a exaust\u00e3o: h\u00e1 processos demais para julgar! Precisamos de efici\u00eancia!<\/p>\n Se no mundo da tecnologia da informa\u00e7\u00e3o a quest\u00e3o do uso indiscriminado da intelig\u00eancia artificial \u00e9 visto com grandes restri\u00e7\u00f5es e alvo de frequentes cr\u00edticas tanto do ponto de vista da seguran\u00e7a da informa\u00e7\u00e3o quanto da \u00e9tica, o mesmo n\u00e3o tem acontecido no mundo do Direito.<\/p>\n Por aqui, aqueles que, assim como eu, t\u00eam se dedicado a apontar estes problemas acabam sendo escanteados dos debates ou chamados de dinossauros. Isso ocorre tamb\u00e9m em rela\u00e7\u00e3o ao debate sobre \u201cprecedentes\u201d. H\u00e1 poucos dias o STJ fez uma audi\u00eancia p\u00fablica sobre o tema, convidando apenas os que concordavam com o precedentalismo. Assim \u00e9 f\u00e1cil.<\/p>\n Pois bem, de minha parte h\u00e1 muito tenho me identificado como um jur\u00e1ssico. Desde os tempos do grupo Cain\u00e3, no come\u00e7o dos anos 2000, o s\u00edmbolo que meus companheiros e eu adotamos foi um dinossauro, pois ali j\u00e1 \u00e9ramos chamados jur\u00e1ssicos. Mais que isso! Sou de Agudo, terra do Bagualossauro Agudensis<\/em>, um dinossauro que por l\u00e1 viveu h\u00e1 230 milh\u00f5es de anos! Portanto, tenho um conterr\u00e2neo jur\u00e1ssico ilustre.<\/p>\n Todavia, essa febre da intelig\u00eancia artificial n\u00e3o est\u00e1 restrita ao Direito brasileiro. No mundo todo o canto das sereias que \u00e9 representado pela IA parece se espalhar com rapidez.<\/p>\n Recentemente fui apresentado a um texto de Richard Albert e Kevin Frazier que questiona se uma intelig\u00eancia artificial deveria escrever uma Constitui\u00e7\u00e3o \u2014 Should AI Write Your Constitution<\/em>? (A IA deveria escrever sua Constitui\u00e7\u00e3o?).[1]<\/a><\/p>\n As conclus\u00f5es de Albert e Frazier caminham no sentido de que uma IA pode \u2014 e talvez devesse <\/strong>\u2014 escrever a Constitui\u00e7\u00e3o. A proposta vem travestida de suposta neutralidade epist\u00eamica (o que ser\u00e1 que os autores entendem por epistemologia?): se os humanos s\u00e3o falhos, parciais e limitados, por que n\u00e3o confiar \u00e0 m\u00e1quina a tarefa de desenhar uma nova ordem constitucional, livre de paix\u00f5es, ideologias e interesses?<\/p>\n Sem d\u00favida, trata-se de um texto sofisticado, cuidadoso, que mapeia usos poss\u00edveis e riscos evidentes da IA na elabora\u00e7\u00e3o constitucional. Reconhecem os autores que h\u00e1 tarefas de \u201calta sensibilidade\u201d (que devem permanecer humanas), \u201cbaixa sensibilidade\u201d (que poderiam ser automatizadas) e \u201csensibilidade intermedi\u00e1ria\u201d (adequadas \u00e0 colabora\u00e7\u00e3o entre humano e IA). Tudo parece racional e equilibrado. Mas \u00e9 justamente a\u00ed que reside o problema: a ideia de que a raz\u00e3o instrumental possa substituir o caminho democr\u00e1tico e o horizonte hermen\u00eautico da Constitui\u00e7\u00e3o \u00e9, em si, uma forma velada de autoritarismo.<\/p>\n A quest\u00e3o n\u00e3o \u00e9 se a IA pode escrever uma Constitui\u00e7\u00e3o. \u00c9 que ela n\u00e3o deve, e mais ainda: n\u00e3o pode.<\/strong> Sobretudo se acreditamos que a Constitui\u00e7\u00e3o \u00e9 muito mais que um simples texto \u2014 \u00e9 um pacto civilizacional de exist\u00eancia no mundo. Penso que a tese de que a IA pode escrever uma Constitui\u00e7\u00e3o de um pa\u00eds \u00e9 uma bizarrice. Para ser generoso no adjetivo.<\/p>\n A forma\u00e7\u00e3o da Constitui\u00e7\u00e3o \u00e9 um evento hermen\u00eautico, fruto da uni\u00e3o entre a hist\u00f3ria, a linguagem e a pol\u00edtica. Ela n\u00e3o \u00e9 \u2014 e nem pode ser \u2014 um simples texto t\u00e9cnico, tal qual um manual de engenharia institucional. A Constitui\u00e7\u00e3o de um povo \u00e9 o espelho do seu tempo, na dic\u00e7\u00e3o heideggeriana, \u00e9 a narrativa pela qual uma comunidade pol\u00edtica se reconhece como tal.<\/p>\n O constitucionalismo contempor\u00e2neo surgiu justamente no contexto do segundo p\u00f3s-guerra como forma de recha\u00e7ar a arbitrariedade e viol\u00eancia perpetrada pelo Estado contra seus pr\u00f3prios cidad\u00e3os. A manipula\u00e7\u00e3o de que a \u201cvontade da na\u00e7\u00e3o\u201d se materializa na vontade de um l\u00edder ou de maiorias de ocasi\u00e3o.<\/p>\n Nesse sentido, a Constitui\u00e7\u00e3o se apresenta como um sistema de freios. Um limite estabelecido previamente que n\u00e3o deve ser ultrapassado, ao mesmo tempo em que oferece perspectivas para um futuro. Portanto, uma Constitui\u00e7\u00e3o \u00e9 um documento de promessa e de mem\u00f3ria. Sob essa perspectiva o povo, por meio do poder constituinte, declara suas premissas fundamentais atrav\u00e9s de sua Constitui\u00e7\u00e3o.<\/p>\n Assim, se uma Constitui\u00e7\u00e3o \u00e9 a pedra fundamental sobre a qual \u00e9 erguida toda a ordem jur\u00eddica de um Estado, esta s\u00f3 pode surgir a partir daquilo que Gadamer apontaria como uma fus\u00e3o de horizontes: o encontro entre o passado que nos constitui e o futuro que queremos. Eis o bus\u00edlis.<\/p>\n A intelig\u00eancia artificial, por sua vez, n\u00e3o possui horizonte. Ela n\u00e3o compreende o mundo, apenas calcula. A IA at\u00e9 pode imitar a linguagem, mas \u00e9 incapaz de compreender a sua historicidade. Ela pode at\u00e9 reproduzir o texto, mas n\u00e3o \u00e9 capaz de compreender o sentido do texto. E onde n\u00e3o h\u00e1 compreens\u00e3o, n\u00e3o h\u00e1 Constitui\u00e7\u00e3o.<\/p>\n O discurso tecnocr\u00e1tico de Albert e Frazier, embora atualizado aos dias atuais, reincide na velha ilus\u00e3o positivista: a cren\u00e7a de que seria poss\u00edvel depurar o Direito de suas conting\u00eancias.<\/strong> Quando se prop\u00f5e que a IA possa \u201cajudar\u201d a redigir ou revisar a Constitui\u00e7\u00e3o, na realidade est\u00e1 reavivando o mito da neutralidade no Direito. Antes de tudo, uma pergunta aos autores: por que ser neutro \u00e9 bom? Ser neutro pode ser muito delet\u00e9rio. A Constitui\u00e7\u00e3o do Basil n\u00e3o \u00e9 neutra. Ainda bem. Ela tomou lado.<\/strong><\/p>\n Uma suposta neutralidade nada mais \u00e9 do que a conforma\u00e7\u00e3o \u00e0 perspectiva dominante em um determinado momento hist\u00f3rico. Por isso a pretens\u00e3o de neutralidade positivista (falo da separa\u00e7\u00e3o direito\/moral) consegue sempre se vender como sendo atual: porque ela expressa o mito do dado. As coisas s\u00e3o como elas s\u00e3o e nos cabe apenas entender como elas est\u00e3o postas no mundo. Fica mais f\u00e1cil lidar com as ang\u00fastias da contemporaneidade se temos certezas, ainda que elas n\u00e3o sejam verdadeiras.<\/p>\n Da mesma forma, toda a tecnologia \u00e9 produto de escolhas humanas; escolhas \u00e9ticas, pol\u00edticas e, sobretudo, econ\u00f4micas. Os algoritmos que alimentam as intelig\u00eancias artificiais s\u00e3o, antes de tudo, a sedimenta\u00e7\u00e3o dos valores das companhias que as produziram.<\/p>\n Portanto, o problema de deixar que uma intelig\u00eancia artificial participe do processo de elabora\u00e7\u00e3o de uma Constitui\u00e7\u00e3o \u2014 seja como ator principal ou ferramenta de suporte \u2014 \u00e9 permitir que interesses invis\u00edveis que permeiam essas tecnologias passem a ocupar o espa\u00e7o da delibera\u00e7\u00e3o democr\u00e1tica. \u00c9 realizar uma troca entre o \u201cpovo soberano\u201d pelo \u201cc\u00f3digo do propriet\u00e1rio\u201d<\/strong>. E o pior disso tudo, com apar\u00eancia de legitimidade, porque se vende a ideia de que o rob\u00f4 n\u00e3o tem interesses pr\u00f3prios. Trata-se do risco de um autoritarismo algor\u00edtmico: um poder sem rosto, sem corpo, sem historicidade \u2014 mas ainda assim poder.<\/p>\n Albert e Frazier recorrem \u00e0 teoria do poder constituinte para sustentar que certas etapas da elabora\u00e7\u00e3o constitucional devem continuar humanas \u2014 afinal, \u201co povo reina supremo<\/em>\u201d.[2]<\/a> Mas, em seguida, abrem brechas para a colabora\u00e7\u00e3o da IA em tarefas de pesquisa, organiza\u00e7\u00e3o de dados e at\u00e9 mesmo na reda\u00e7\u00e3o de rascunhos constitucionais.<\/p>\n O argumento \u00e9 pragmatista: se a IA pode melhorar a efici\u00eancia, por que n\u00e3o us\u00e1-la? Para mim, a resposta \u00e9 bastante simples: porque efici\u00eancia n\u00e3o \u00e9 categoria democr\u00e1tica! A elabora\u00e7\u00e3o de uma Constitui\u00e7\u00e3o n\u00e3o \u00e9 uma engenharia de resultados, mas fruto de uma constru\u00e7\u00e3o operada a partir da linguagem. A IA facilmente \u201ctoma decis\u00f5es\u201d utilitaristas.<\/p>\n Da\u00ed at\u00e9 a moraliza\u00e7\u00e3o do assassinato, por exemplo, \u00e9 um passo. No caso do dilema do trem, a IA mataria o gordinho e salvaria as demais cinco pessoas que estavam sobre os trilhos. E se o gordinho estava prestes a inventar a vacina contra o c\u00e2ncer? D\u00e1 para discutir a moralidade do assassinato? E se os que foram salvos eram terroristas que estavam a caminho de matar centenas de pessoas? Direito \u00e9 mais do que discutir dilemas morais. Isso \u00e9 tarefa da filosofia moral. Por isso n\u00e3o cabe utilitarismo no Direito. Nem algoritmos.<\/p>\n A \u201ccolabora\u00e7\u00e3o\u201d da intelig\u00eancia artificial transforma o poder constituinte em um simulacro de soberania \u2014 o povo permanece no centro, mas o processo de elabora\u00e7\u00e3o ou mesmo de reforma da Constitui\u00e7\u00e3o \u00e9 terceirizado para o rob\u00f4 que opera em uma l\u00f3gica externa, opaca e enviesada.<\/p>\n Sob o pretexto da efici\u00eancia e da neutralidade, surge a ideia de elaborar um grande prompt<\/em> que seja capaz de exprimir os desejos e anseios de uma sociedade, cujo resultado ser\u00e1 entregue em formato de uma Constitui\u00e7\u00e3o por esse rob\u00f4. Novamente, \u00e9 o desejo de retorno ao mito do dado para combater as ang\u00fastias da vida contempor\u00e2nea. Trata-se de uma esp\u00e9cie de reencantamento do mundo.<\/p>\n Com efeito, h\u00e1 que se reconhecer que Albert e Frazier n\u00e3o s\u00e3o alheios aos perigos inerentes da intelig\u00eancia artificial, por isso prop\u00f5em um \u201cEscudo da Democracia\u201d, construindo assim salvaguardas t\u00e9cnicas, estruturas de responsabilidade e mecanismos de integridade para evitar abusos da IA.<\/p>\n Todavia, o problema n\u00e3o se encontra nas salvaguardas pass\u00edveis de serem criadas para evitar o abuso da intelig\u00eancia artificial. Trata-se de uma quest\u00e3o de princ\u00edpio: uma IA n\u00e3o deve escrever uma Constitui\u00e7\u00e3o. Simples assim.<\/p>\n A realidade \u00e9 que as propostas apresentadas por Albert e Frazier partem da premissa de que os problemas da intelig\u00eancia artificial est\u00e3o ligados ao seu uso por parte dos humanos que a operam e com isso buscam construir uma argumenta\u00e7\u00e3o propositiva da elabora\u00e7\u00e3o de uma IA destinada \u00e0 produ\u00e7\u00e3o de constitui\u00e7\u00f5es que eliminem os problemas dos humanos que as operam, concatenando estas com instrumentos que a legitimariam como uma participa\u00e7\u00e3o popular subsequente ao processo de elabora\u00e7\u00e3o constitucional amparado em IA.<\/p>\n Ou seja, o problema est\u00e1 no uso. No mau uso. Ser\u00e1 isso t\u00e3o simples?<\/p>\n Desde o come\u00e7o da febre da intelig\u00eancia artificial venho denunciando que o problema n\u00e3o \u00e9 este. O ponto fulcral n\u00e3o est\u00e1 ligado \u00e0 forma como a ferramenta est\u00e1 sendo usada pelos usu\u00e1rios. A quest\u00e3o \u00e9 a pr\u00f3pria IA estar na equa\u00e7\u00e3o, porque ela est\u00e1 fazendo aquilo para o qual foi programada: gerar solu\u00e7\u00e3o para um problema.<\/p>\n Eis o bus\u00edlis: se a intelig\u00eancia artificial \u00e9 apontada como solu\u00e7\u00e3o para os problemas humanos do Estado, o problema est\u00e1 na solu\u00e7\u00e3o ofertada. Os problemas humanos devem ser solucionados pelos humanos. E a IA est\u00e1 muito longe de ser uma ferramenta neutra capaz de eliminar os desacordos existentes dentro de uma sociedade.<\/p>\n Assim, n\u00e3o obstante o esfor\u00e7o empreendido por Albert e Frazier ao escrever seu artigo que questiona \u201cdeve uma intelig\u00eancia artificial escrever a sua Constitui\u00e7\u00e3o?\u201d, a minha resposta \u00e9 muito clara: n\u00e3o. N\u00e3o deve. Sobretudo se ainda queremos nos reconhecer enquanto uma sociedade pautada pelos valores fundamentais que emergiram do movimento constitucionalista. Ou fracassamos?<\/p>\n Na distopia futurista Duna<\/em>, de Frank Herbert, o fim do mundo como conhecemos foi gerado por uma guerra entre os seres humanos e os computadores e rob\u00f4s conscientes. Apesar da vit\u00f3ria humana sobre as m\u00e1quinas e sua consequente destrui\u00e7\u00e3o total, um mandamento fundamental foi estabelecido: \u201cn\u00e3o far\u00e1s m\u00e1quina \u00e0 semelhan\u00e7a da mente humana<\/em>\u201d. Isso diz alguma coisa aos adictos e adeptos da IA?<\/p>\n Eis o ponto: colocar a reda\u00e7\u00e3o de uma Constitui\u00e7\u00e3o nas m\u00e3os de uma intelig\u00eancia artificial \u2014 por mais elaborada que esta seja, que obede\u00e7a a passos concatenados previamente estabelecidos, amparados em prompts<\/em> verificados, tudo isso combinado com \u201csalvaguardas democr\u00e1ticas\u201d como sustentam Albert e Frazier \u2013 representa a viola\u00e7\u00e3o de um princ\u00edpio fundamental vital para a exist\u00eancia de uma verdadeira Constitui\u00e7\u00e3o: a constru\u00e7\u00e3o hermen\u00eautica de sentido amparada na linguagem.<\/p>\n Por final, trago ao leitor um pequeno ad\u00e1gio do qual tenho me valido para tratar do tema da intelig\u00eancia artificial (e que, ali\u00e1s, d\u00e1 t\u00edtulo ao meu mais novo livro pela editora Contracorrente, Rob\u00f4 n\u00e3o desce escada e trapezista n\u00e3o voa!):<\/em> estamos condenados a interpretar e justamente por essa raz\u00e3o n\u00e3o podemos reduzir o processo de elabora\u00e7\u00e3o (ou reforma) da Constitui\u00e7\u00e3o a um mero processo instrumental capaz de ser suprido por um rob\u00f4 que estaria completamente dissociado da linguagem e da historicidade que deve obrigatoriamente fazer parte do processo de constru\u00e7\u00e3o de uma Constitui\u00e7\u00e3o.<\/p>\n Do contr\u00e1rio, estaremos simplesmente incorrendo no erro grave de tentar construir m\u00e1quinas semelhantes \u00e0 mente humana e que nos levar\u00e3o \u00e0 inevit\u00e1vel destrui\u00e7\u00e3o.<\/p>\n Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/p>\n Querem ver uma coisa interessante? Pois bem. H\u00e1 poucos dias, pesquisadores[3]<\/a> \u2013 e tamb\u00e9m fa\u00e7o isso no livro \u2013 mostraram a farsa da intelig\u00eancia artificial. A pesquisa mostra que esses grandes modelos de linguagem n\u00e3o est\u00e3o realmente pensando, eles s\u00e3o apenas muito, muito bons em fingir. Esta \u00e9 a parte dois de pensar versus computar. A IA pode realmente pensar e raciocinar ou \u00e9 apenas um autocompletar muito inteligente?<\/p>\n Esses pesquisadores criaram o experimento mental definitivo. Imagine o seguinte: eles imaginaram a IA mais avan\u00e7ada do mundo em 1633<\/strong>, treinada em todos os textos cient\u00edficos j\u00e1 escritos at\u00e9 ent\u00e3o. Ent\u00e3o eles perguntaram: o que essa IA diria sobre a afirma\u00e7\u00e3o de Galileu de que a Terra orbita o Sol? A IA teria destru\u00eddo completamente Galileu, o chamado de delirante.<\/strong> Por qu\u00ea? Porque 99,9% dos textos cient\u00edficos diziam que a Terra era o centro de tudo, e os modelos matem\u00e1ticos previam perfeitamente os movimentos planet\u00e1rios. Isso exp\u00f5e exatamente como os grandes modelos de linguagem funcionam. N\u00e3o est\u00e3o procurando a verdade, est\u00e3o apenas contando padr\u00f5es no texto. Se a maioria dos documentos diz algo, a IA assume que est\u00e1 correto.<\/p>\n E ainda acham que a IA pode escrever uma Constitui\u00e7\u00e3o? Ou elaborar senten\u00e7as? Sobre as liberdades das pessoas?<\/p>\n Penso que \u00e9 bom estocarmos alimentos.<\/p>\n [1]<\/a> ALBERT, Richard; FRAZIER, Kevin. \u00a0Should AI Write Your Constitution?. U of Texas Law, Legal Studies Research Paper, Available at SSRN: https:\/\/ssrn.com\/abstract=5351275 or http:\/\/dx.doi.org\/10.2139\/ssrn.5351275<\/p>\n [2]<\/a> ALBERT, Richard; FRAZIER, Kevin. \u00a0Should AI Write Your Constitution?. U of Texas Law, Legal Studies Research Paper, Available at SSRN: https:\/\/ssrn.com\/abstract=5351275 or http:\/\/dx.doi.org\/10.2139\/ssrn.5351275<\/a>. p. 13<\/p>\n