{"id":22648,"date":"2026-05-06T09:00:22","date_gmt":"2026-05-06T12:00:22","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2026\/05\/06\/governanca-algoritmica-nos-tribunais-shadow-ai-e-a-confianca-na-justica\/"},"modified":"2026-05-06T09:00:22","modified_gmt":"2026-05-06T12:00:22","slug":"governanca-algoritmica-nos-tribunais-shadow-ai-e-a-confianca-na-justica","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2026\/05\/06\/governanca-algoritmica-nos-tribunais-shadow-ai-e-a-confianca-na-justica\/","title":{"rendered":"Governan\u00e7a algor\u00edtmica nos tribunais: shadow AI e a confian\u00e7a na justi\u00e7a"},"content":{"rendered":"

\u201cSe quiser, posso ajustar o grau de detalhamento, enxugar a fundamenta\u00e7\u00e3o ou adequar exatamente ao padr\u00e3o decis\u00f3rio da magistrada que assina o feito<\/em>\u201d foi a frase, ipsis litteris<\/em>, publicada no Di\u00e1rio da Justi\u00e7a na \u00faltima semana. A publica\u00e7\u00e3o oficial de trecho pr\u00f3prio da intera\u00e7\u00e3o com um sistema de intelig\u00eancia artificial<\/a> generativa[1]<\/a> tornou indel\u00e9vel a falha humana na revis\u00e3o da minuta, revelando, igualmente, a defici\u00eancia de governan\u00e7a do fluxo de trabalho.<\/p>\n

O Poder Judici\u00e1rio atravessou o Rubic\u00e3o[2]<\/a> da intelig\u00eancia artificial generativa estabelecendo crit\u00e9rios r\u00edgidos de controle e conformidade. A Resolu\u00e7\u00e3o CNJ 615 de 11\/03\/2025[3]<\/a> baseia-se em estudos extensivos e bem fundamentados acerca dos riscos, limites e desafios de governan\u00e7a algor\u00edtmica e estabelece como condicionantes para a sua utiliza\u00e7\u00e3o nos tribunais a observ\u00e2ncia de padr\u00f5es de auditoria, monitoramento e transpar\u00eancia (art. 1\u00ba, \u00a7 1\u00ba, Res. CNJ 615\/2025).<\/p>\n

Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/p>\n

A publica\u00e7\u00e3o no Di\u00e1rio da Justi\u00e7a acima transcrita revelou uma falha grave no processo de adapta\u00e7\u00e3o e conformidade com as regras de governan\u00e7a \u00e9tica (art. 19, Res. CNJ n\u00ba 615\/2025), risco previamente apontado pelo Grupo de Trabalho sobre Intelig\u00eancia Artificial no Poder Judici\u00e1rio[4]<\/a> e que compromete a confian\u00e7a no Poder Judici\u00e1rio.[5]<\/a><\/p>\n

O uso \u00e9tico de sistemas de intelig\u00eancia artificial pressup\u00f5e a transpar\u00eancia e a revis\u00e3o humana obrigat\u00f3ria, e, quando houver contrata\u00e7\u00e3o de solu\u00e7\u00e3o de mercado, o seu registro \u00e9 necess\u00e1rio (art. 19, \u00a7 6\u00ba, Res. CNJ n\u00ba 615\/2025).[6]<\/a> Por sua vez, a utiliza\u00e7\u00e3o n\u00e3o revelada de sistemas de intelig\u00eancia artificial generativa \u00e9 fen\u00f4meno conhecido na literatura especializada como shadow AI<\/em>.[7]<\/a><\/p>\n

O uso oculto, \u00e0 sombra <\/em>dos controles oficiais, cria um espa\u00e7o de inseguran\u00e7a e descontrole sobre poss\u00edveis vieses discriminat\u00f3rios ou distor\u00e7\u00f5es cognitivas que os modelos podem reproduzir.[8]<\/a> A atual preocupa\u00e7\u00e3o com shadow AI <\/em>\u00e9 continuidade do debate antecedente sobre o fen\u00f4meno de shadow information technology <\/em>(shadow IT<\/em>)[9]<\/a>, relacionado ao uso de tecnologias ou sistemas \u00e0 revelia do departamento de inform\u00e1tica para burlar restri\u00e7\u00f5es ou otimizar tarefas. O per\u00edodo pand\u00eamico foi especialmente desafiador nesse campo.<\/p>\n

A invisibilidade do uso de IAG no \u00e2mbito da administra\u00e7\u00e3o da Justi\u00e7a \u00e9 o verdadeiro risco, n\u00e3o apenas a tecnologia em si. A transpar\u00eancia quanto \u00e0 origem, ao volume e aos crit\u00e9rios de sele\u00e7\u00e3o dos dados utilizados para treinamento representa n\u00e3o apenas um requisito t\u00e9cnico, mas uma garantia institucional de justi\u00e7a, fundamental para viabilizar auditoria, contesta\u00e7\u00e3o e corre\u00e7\u00e3o de resultados potencialmente discriminat\u00f3rios.<\/p>\n

O uso n\u00e3o revelado, al\u00e9m de aumentar a exposi\u00e7\u00e3o a potenciais vazamentos de dados sigilosos, impossibilita a aferi\u00e7\u00e3o de conformidade com as diretrizes de governan\u00e7a de dados, transpar\u00eancia e prote\u00e7\u00e3o \u00e0 propriedade intelectual.<\/p>\n

O fen\u00f4meno adquire maior complexidade ao observar que sistemas de intelig\u00eancia artificial, em especial modelos generativos de linguagem, assimilam gradualmente o estilo, o vocabul\u00e1rio e as prefer\u00eancias discursivas dos usu\u00e1rios. A intera\u00e7\u00e3o recorrente de magistrados, servidores ou advogados com o sistema fornece insumos lingu\u00edsticos ao modelo, resultando na reprodu\u00e7\u00e3o e consolida\u00e7\u00e3o de padr\u00f5es individuais de escrita e argumenta\u00e7\u00e3o jur\u00eddica.<\/p>\n

Esse processo de retroalimenta\u00e7\u00e3o (conhecido como ajuste fino ou fine-tuning<\/em> comportamental) cria uma apar\u00eancia de personaliza\u00e7\u00e3o e efici\u00eancia, mas pode mascarar uma forma sutil de indu\u00e7\u00e3o cognitiva.[10]<\/a> N\u00e3o \u00e9 coincid\u00eancia que a sugest\u00e3o para o usu\u00e1rio do chat acima foi de \u201cadequar exatamente ao padr\u00e3o decis\u00f3rio da magistrada que assina o feito<\/em>\u201d. As auditorias previstas pelo CNJ visam mitigar esses riscos, mas ao utilizar um sistema n\u00e3o-homologado ou n\u00e3o registrado, o servidor impossibilita a corre\u00e7\u00e3o dos desvirtuamentos.<\/p>\n

O enfrentamento da shadow AI<\/em> requer a transi\u00e7\u00e3o de uma abordagem exclusivamente proibitiva para um modelo de governan\u00e7a adaptativa<\/em> que privilegie transpar\u00eancia, educa\u00e7\u00e3o e inova\u00e7\u00e3o autorizada. Os desafios relacionados ao custo de conformidade, como lentid\u00e3o e burocracia, podem ser percebidos como obst\u00e1culos \u00e0 produtividade, motivando colaboradores a buscar alternativas tecnol\u00f3gicas[11]<\/a>, raz\u00e3o pela qual se recomenda substituir pol\u00edticas estritamente proibitivas por estrat\u00e9gias de governan\u00e7a que integrem op\u00e7\u00f5es seguras de inova\u00e7\u00e3o ao fluxo de trabalho.[12]<\/a><\/p>\n

Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/p>\n

A literacia algor\u00edtmica \u00e9 um pressuposto para o uso \u00e9tico dos sistemas de intelig\u00eancia artificial: sem ela, os deveres de transpar\u00eancia, n\u00e3o discrimina\u00e7\u00e3o e revis\u00e3o humana n\u00e3o se concretizam de forma efetiva. Ao atravessar o Rubic\u00e3o da intelig\u00eancia artificial generativa, o Poder Judici\u00e1rio sabia da irreversibilidade dessa medida, mas n\u00e3o relegou suas consequ\u00eancias \u00e0 sorte.<\/p>\n

Ao contr\u00e1rio, firmou um compromisso institucional com crit\u00e9rios robustos de transpar\u00eancia, auditabilidade e controle qualificado que devem ser observados por todas as pessoas envolvidas na administra\u00e7\u00e3o da Justi\u00e7a.<\/p>\n

CONSELHO NACIONAL DE JUSTI\u00c7A. O uso da intelig\u00eancia artificial generativa no Poder Judici\u00e1rio brasileiro: relat\u00f3rio de pesquisa<\/strong>. Bras\u00edlia, DF: Conselho Nacional de Justi\u00e7a, 2024.<\/p>\n

CONSELHO NACIONAL DE JUSTI\u00c7A. Resolu\u00e7\u00e3o CNJ n. 615\/2025. Dispon\u00edvel em: <https:\/\/atos.cnj.jus.br\/files\/original1555302025031467d4517244566.pdf>. Acesso em: 12\u00a0nov.\u00a02025.<\/p>\n

ECO, Umberto. Interpreta\u00e7\u00e3o e superinterpreta\u00e7\u00e3o<\/strong>. Trad. Monica Stabel. 2.\u00a0ed. S\u00e3o Paulo: Martins Fontes, 2005.<\/p>\n

ICJBrasil \u2013 \u00cdndice de Confian\u00e7a na Justi\u00e7a no Brasil | FGV DIREITO SP<\/strong>, dispon\u00edvel em: <https:\/\/direitosp.fgv.br\/projetos-de-pesquisa\/icjbrasil-indice-confianca-na-justica-no-brasil>. acesso em: 2\u00a0maio\u00a02026.<\/p>\n

MEHRABI, Ninareh; MORSTATTER, Fred; SAXENA, Nripsuta; et al<\/em>. A Survey on Bias and Fairness in Machine Learning. 2022. Dispon\u00edvel em: <http:\/\/arxiv.org\/abs\/1908.09635>. Acesso em: 17\u00a0set.\u00a02025.<\/p>\n

ROSS, Joseph A. J.; HIBBERT, Lee; MOSS, Emma J. Shadow AI: Governance, Risk, and Organisational Resilience. In<\/em>: 2025 International Conference on Artificial Intelligence, Computer, Data Sciences and Applications (ACDSA)<\/strong>. [s.l.: s.n.], 2025, p.\u00a01\u20139. Dispon\u00edvel em: <https:\/\/ieeexplore.ieee.org\/document\/11166415\/>. Acesso em: 30\u00a0abr.\u00a02026.<\/p>\n

SILLIC, Mario. Critical impact of organizational and individual inertia in explaining non-compliant security behavior in the Shadow IT context. Computers & Security<\/strong>, v.\u00a080, p.\u00a0108\u2013119, 2019.<\/p>\n

TRIALIH, R. The Challenge in Neutralizing Shadow IT: A Literature Review. In<\/em>: 2023 IEEE International Conference on Industrial Engineering and Engineering Management (IEEM)<\/strong>. [s.l.: s.n.], 2023, p.\u00a01169\u20131173. Dispon\u00edvel em: <https:\/\/ieeexplore.ieee.org\/document\/10406586\/>. Acesso em: 2\u00a0maio\u00a02026.<\/p>\n

WANG, Luping; CHEN, Sheng; JIANG, Linnan; et al<\/em>. Parameter-Efficient Fine-Tuning in Large Models: A Survey of Methodologies. 2025. Dispon\u00edvel em: <http:\/\/arxiv.org\/abs\/2410.19878>. Acesso em: 13\u00a0nov.\u00a02025.<\/p>\n

ICJBrasil \u2013 \u00cdndice de Confian\u00e7a na Justi\u00e7a no Brasil | FGV DIREITO SP<\/strong>. Dispon\u00edvel em: <https:\/\/direitosp.fgv.br\/projetos-de-pesquisa\/icjbrasil-indice-confianca-na-justica-no-brasil>. Acesso em: 2\u00a0maio\u00a02026.<\/p>\n

[1]<\/a> Express\u00f5es como \u201cse quiser, posso ajustar\u201d, \u201cenxugar a fundamenta\u00e7\u00e3o\u201d ou \u201cadequar ao padr\u00e3o decis\u00f3rio da magistrada\u201d s\u00e3o marcas inconfund\u00edveis de resposta gerada por IA, estruturada como oferta de servi\u00e7o ao usu\u00e1rio. Sua perman\u00eancia no documento final indica que a pessoa respons\u00e1vel pela minuta n\u00e3o releu o texto com aten\u00e7\u00e3o suficiente para distinguir o conte\u00fado da decis\u00e3o do conte\u00fado auxiliar gerado pela ferramenta.<\/p>\n

[2]<\/a> Umberto Eco interpreta a travessia do Rubic\u00e3o por Julio Cesar como um ato consciente n\u00e3o apenas do seu significado, mas tamb\u00e9m da sua irreversibilidade: Alea jacta est.<\/em> ECO, Umberto, Interpreta\u00e7\u00e3o e superinterpreta\u00e7\u00e3o<\/strong>, 2.\u00a0ed. S\u00e3o Paulo: Martins Fontes, 2005, p.\u00a033.<\/p>\n

[3]<\/a> A Resolu\u00e7\u00e3o CNJ n. 615\/2025 foi antecedida pela Portaria n\u00ba 271\/2020 e pela Resolu\u00e7\u00e3o CNJ n\u00ba 332\/2020. A evolu\u00e7\u00e3o destes marcos regulat\u00f3rios \u00e9 manifesta: a normativa que abordou, inicialmente, solu\u00e7\u00f5es computacionais para a gest\u00e3o e triagem de processos foi amplamente reformulada com o surgimento da intelig\u00eancia artificial generativa. O relat\u00f3rio do Grupo de Trabalho sobre Intelig\u00eancia Artificial no Poder Judici\u00e1rio, institu\u00eddo pela Portaria CNJ n\u00ba 338\/2023, constituiu refer\u00eancia direta para a atual normativa e sinalizou o risco de uso n\u00e3o transparente pelos usu\u00e1rios, em raz\u00e3o da facilidade de acesso. \u00a0CONSELHO NACIONAL DE JUSTI\u00c7A, O uso da intelig\u00eancia artificial generativa no Poder Judici\u00e1rio brasileiro: relat\u00f3rio de pesquisa<\/strong>, Bras\u00edlia, DF: Conselho Nacional de Justi\u00e7a, 2024.<\/p>\n

[4]<\/a> Ibid<\/em>., p.\u00a020; 33\u201334.<\/p>\n

[5]<\/a> O ICJBrasil, que era o instrumento mais metodologicamente robusto e longitudinalmente consistente para aferir a confian\u00e7a da popula\u00e7\u00e3o no Judici\u00e1rio brasileiro, foi encerrado em 2021. A confian\u00e7a no Judici\u00e1rio atingiu 40% em 2021, ele havia sido de 29% em 2013, de 32% em 2015 e de 24% em 2017. O maior patamar registrado foi de 47%, em 2011. Veja mais em: ICJBrasil \u2013 \u00cdndice de Confian\u00e7a na Justi\u00e7a no Brasil | FGV DIREITO SP<\/strong>, dispon\u00edvel em: <https:\/\/direitosp.fgv.br\/projetos-de-pesquisa\/icjbrasil-indice-confianca-na-justica-no-brasil>. acesso em: 2\u00a0maio\u00a02026.<\/p>\n

[6]<\/a> \u201cArt. 19. Os modelos de linguagem de larga escala (LLMs), de pequena escala (SLMS) e outros sistemas de intelig\u00eancia artificial generativa (IAGen) dispon\u00edveis na rede mundial de computadores poder\u00e3o ser utilizados pelos magistrados e pelos servidores do Poder Judici\u00e1rio em suas respectivas atividades como ferramentas de aux\u00edlio \u00e0 gest\u00e3o ou de apoio \u00e0 decis\u00e3o, em obedi\u00eancia aos padr\u00f5es de seguran\u00e7a da informa\u00e7\u00e3o e \u00e0s normas desta Resolu\u00e7\u00e3o. [\u2026] \u00a7 6\u00ba Quando houver emprego de IA generativa para aux\u00edlio \u00e0 reda\u00e7\u00e3o de ato judicial, tal situa\u00e7\u00e3o poder\u00e1 ser mencionada no corpo da decis\u00e3o, a crit\u00e9rio do magistrado, sendo, por\u00e9m, devido o registro autom\u00e1tico no sistema interno do tribunal, para fins de produ\u00e7\u00e3o de estat\u00edsticas, monitoramento e eventual auditoria.\u00a7 7\u00ba Na hip\u00f3tese do \u00a7 2\u00ba deste artigo, o magistrado que contratar solu\u00e7\u00e3o de mercado de intelig\u00eancia artificial para uso em suas atividades no Poder Judici\u00e1rio, ou o gestor que tiver em sua equipe servidor ou colaborador que utilize essas solu\u00e7\u00f5es, dever\u00e1 prestar informa\u00e7\u00f5es ao seu respectivo tribunal sobre sua utiliza\u00e7\u00e3o, na forma do regulamento.\u00a7 8\u00ba Os tribunais consolidar\u00e3o as informa\u00e7\u00f5es recebidas na forma do \u00a7 7\u00badeste artigo para envio ao Comit\u00ea Nacional de Intelig\u00eancia Artificial do Judici\u00e1rio, que as utilizar\u00e1 para os fins previstos no art. 25 desta Resolu\u00e7\u00e3o\u201d CONSELHO NACIONAL DE JUSTI\u00c7A, Resolu\u00e7\u00e3o CNJ n. 615\/2025.<\/p>\n

[7]<\/a> ROSS, Joseph A. J.; HIBBERT, Lee; MOSS, Emma J., Shadow AI: Governance, Risk, and Organisational Resilience, in<\/em>: 2025 International Conference on Artificial Intelligence, Computer, Data Sciences and Applications (ACDSA)<\/strong>, [s.l.: s.n.], 2025, p.\u00a01\u20139.<\/p>\n

[8]<\/a> WANG, Luping et al<\/em>, Parameter-Efficient Fine-Tuning in Large Models: A Survey of Methodologies, 2025.<\/p>\n

[9]<\/a> TRIALIH, R., The Challenge in Neutralizing Shadow IT: A Literature Review, in<\/em>: 2023 IEEE International Conference on Industrial Engineering and Engineering Management (IEEM)<\/strong>, [s.l.: s.n.], 2023, p.\u00a01169\u20131173.<\/p>\n

[10]<\/a> MEHRABI, Ninareh et al<\/em>, A Survey on Bias and Fairness in Machine Learning, 2022, p.\u00a015.<\/p>\n

[11]<\/a> SILLIC, Mario, Critical impact of organizational and individual inertia in explaining non-compliant security behavior in the Shadow IT context, Computers & Security<\/strong>, v.\u00a080, p.\u00a0108\u2013119, 2019.<\/p>\n

[12]<\/a> ROSS; HIBBERT; MOSS, Shadow AI.<\/p>","protected":false},"excerpt":{"rendered":"

\u201cSe quiser, posso ajustar o grau de detalhamento, enxugar a fundamenta\u00e7\u00e3o ou adequar exatamente ao padr\u00e3o decis\u00f3rio da magistrada que assina o feito\u201d foi a frase, ipsis litteris, publicada no Di\u00e1rio da Justi\u00e7a na \u00faltima semana. A publica\u00e7\u00e3o oficial de trecho pr\u00f3prio da intera\u00e7\u00e3o com um sistema de intelig\u00eancia artificial generativa[1] tornou indel\u00e9vel a falha […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/22648"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=22648"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/22648\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=22648"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=22648"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=22648"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}