{"id":9761,"date":"2025-03-27T01:06:53","date_gmt":"2025-03-27T04:06:53","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/03\/27\/nova-resolucao-do-cnj-sobre-ia-desafios-persistem-apesar-de-maior-transparencia\/"},"modified":"2025-03-27T01:06:53","modified_gmt":"2025-03-27T04:06:53","slug":"nova-resolucao-do-cnj-sobre-ia-desafios-persistem-apesar-de-maior-transparencia","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/03\/27\/nova-resolucao-do-cnj-sobre-ia-desafios-persistem-apesar-de-maior-transparencia\/","title":{"rendered":"Nova Resolu\u00e7\u00e3o do CNJ sobre IA: desafios persistem apesar de maior transpar\u00eancia"},"content":{"rendered":"

No \u00faltimo dia 11 de mar\u00e7o foi publicada a Resolu\u00e7\u00e3o CNJ 615\/2025<\/a> sobre intelig\u00eancia artificial no Judici\u00e1rio pelo Conselho Nacional de Justi\u00e7a, que substituir\u00e1 a antiga Resolu\u00e7\u00e3o 332\/2020<\/a>.<\/p>\n

A Resolu\u00e7\u00e3o 332\/2020 teve um importante papel de dissemina\u00e7\u00e3o da responsabilidade e do uso \u00e9tico no uso e desenvolvimentos desses sistemas, mas n\u00e3o tratava de quest\u00f5es mais recentes, como o caso de Large Language Models,<\/a> sistemas de intelig\u00eancia artificial<\/a> generativa, o mais conhecido deles, o ChatGPT.<\/p>\n

Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/h3>\n

O processo de atualiza\u00e7\u00e3o da norma come\u00e7ou em novembro de 2023 com a cria\u00e7\u00e3o do Grupo de Trabalho sobre Intelig\u00eancia Artificial no Poder Judici\u00e1rio pelo CNJ por meio da Portaria 338\/2023<\/a>.<\/p>\n

Esse GT realizou alguns estudos sobre uso de IA no Judici\u00e1rio e apresentou a proposta de revis\u00e3o da Resolu\u00e7\u00e3o 332\/2020, tendo em vista o uso de sistemas de IA generativa no Judici\u00e1rio, sob coordena\u00e7\u00e3o do conselheiro Luiz Fernando Bandeira de Mello Filho.<\/p>\n

Em setembro foi divulgado um edital<\/a> de convoca\u00e7\u00e3o \u00e0 audi\u00eancia p\u00fablica, visando estimular e garantir a participa\u00e7\u00e3o de todos os interessados no tema, conjuntamente a primeira proposta de minuta alternativa<\/a> \u00e0 Resolu\u00e7\u00e3o CNJ 332\/2020 elaborado pelo GT sobre IA no Judici\u00e1rio.<\/p>\n

A primeira vers\u00e3o de revis\u00e3o do texto foi debatida na audi\u00eancia p\u00fablica, que aconteceu entre os dias 25 a 27 de setembro de 2024 e contou com a participa\u00e7\u00e3o de 36 inscritos habilitados entre centenas de propostas enviadas, al\u00e9m de conselheiras e conselheiros do CNJ, autoridades, acad\u00eamicos, especialistas e institui\u00e7\u00f5es p\u00fablicas e privadas com reconhecida atua\u00e7\u00e3o na tem\u00e1tica de intelig\u00eancia artificial.<\/p>\n

Ap\u00f3s os debates na audi\u00eancia p\u00fablica, no dia 18 de fevereiro foi divulgado o texto final da nova resolu\u00e7\u00e3o, publicada um m\u00eas depois sob o n\u00famero Resolu\u00e7\u00e3o 615 de 2025.<\/p>\n

A vers\u00e3o final do texto normativo refor\u00e7a a governan\u00e7a, a transpar\u00eancia e a necessidade de auditorias independentes, ampliando as responsabilidades dos tribunais no uso \u00e9tico da intelig\u00eancia artificial.<\/p>\n

Importa salientar tr\u00eas momentos cr\u00edticos da preocupa\u00e7\u00e3o \u00e9tica no desenvolvimento de sistemas de IA:<\/p>\n

Arquitetura do sistema<\/strong> \u2013 com a necessidade de diversidade e inclus\u00e3o nas equipes desenvolvedoras.<\/p>\n

Nesse aspecto, a preocupa\u00e7\u00e3o surge diante da falta de inclus\u00e3o existente no mercado de trabalho de tecnologia no pa\u00eds, que segundo a pesquisa \u201cQuem Coda BR<\/a>\u201d promovida pelo PretaLab em parceria com a Thoughtworks, \u00e9 dominado por homens, brancos, jovens de classe socioecon\u00f4mica m\u00e9dia e alta.<\/p>\n

Essa preocupa\u00e7\u00e3o j\u00e1 estava na Resolu\u00e7\u00e3o 332\/2020, mas como n\u00e3o tivemos avan\u00e7o em rela\u00e7\u00e3o a pol\u00edticas p\u00fablicas efetivas nesse sentido, n\u00e3o foram elaboradas m\u00e9tricas concretas para medir a diversifica\u00e7\u00e3o e o impacto dessas pol\u00edticas nos agentes de IA.<\/p>\n

Sob esse aspecto, o texto da Resolu\u00e7\u00e3o 615\/2025 traz de maneira bem mais detalhada e aprofundada essa preocupa\u00e7\u00e3o no artigo 35:<\/p>\n

Art. 35. A composi\u00e7\u00e3o de equipes<\/strong> para pesquisa, desenvolvimento e implanta\u00e7\u00e3o das solu\u00e7\u00f5es computacionais que se utilizem de intelig\u00eancia artificial ser\u00e1 orientada pela busca da diversidade<\/strong> e representatividade<\/strong>, com \u00eanfase na inclus\u00e3o, sempre que poss\u00edvel, de diferentes perfis de g\u00eanero e etnia e pessoas com defici\u00eancia, bem como de experi\u00eancias e forma\u00e7\u00e3o em \u00e1reas de conhecimento diversas.<\/p>\n

1\u00ba A participa\u00e7\u00e3o representativa dever\u00e1 ser assegurada, tanto quanto poss\u00edvel, nas etapas de planejamento, coleta e processamento de dados, constru\u00e7\u00e3o, verifica\u00e7\u00e3o, valida\u00e7\u00e3o e implementa\u00e7\u00e3o dos modelos, tanto nas \u00e1reas t\u00e9cnicas como negociais.
\n2\u00ba A diversidade na participa\u00e7\u00e3o prevista no caput deste artigo poder\u00e1 ser dispensada mediante decis\u00e3o fundamentada, dentre outros motivos, pela aus\u00eancia de profissionais no quadro de pessoal dos tribunais ou a necessidade de garantir efic\u00e1cia e a velocidade na implementa\u00e7\u00e3o das solu\u00e7\u00f5es a curto prazo.
\n3\u00ba A forma\u00e7\u00e3o das equipes mencionadas no caput dever\u00e1 ter car\u00e1ter interdisciplinar, incluindo profissionais de Tecnologia da Informa\u00e7\u00e3o, do Direito e de outras \u00e1reas relevantes, cujo conhecimento cient\u00edfico possa contribuir para pesquisa, desenvolvimento ou implanta\u00e7\u00e3o do sistema inteligente no tribunal.<\/p>\n

Essa preocupa\u00e7\u00e3o \u00e9 importante, at\u00e9 no ideal de sistemas mais robustos e menos err\u00f4neos, tendo em vista que a diversidade e a interdisciplinariedade possibilitam sistemas cada vez mais assertivos.<\/p>\n

Tratamento e inser\u00e7\u00e3o de dados<\/strong> \u2013 a partir da import\u00e2ncia de softwares<\/em> de c\u00f3digo aberto para garantir transpar\u00eancia e interoperabilidade entre os sistemas do Judici\u00e1rio.<\/p>\n

Esse ponto tamb\u00e9m foi implementado na reda\u00e7\u00e3o final da Resolu\u00e7\u00e3o 615\/2025.<\/p>\n

O termo \u201ctranspar\u00eancia\u201d aparece 27 vezes no documento e o artigo 38 da Resolu\u00e7\u00e3o aborda a tem\u00e1tica da ado\u00e7\u00e3o pelos modelos de IA de ferramentas de mercado ou solu\u00e7\u00f5es de c\u00f3digo aberto, de modo a facilitar a integra\u00e7\u00e3o e interoperabilidade e viabilizar a transpar\u00eancia, a auditoria, monitoramento e revis\u00e3o dos algoritmos por parte de especialistas autorizados ou por meio da sociedade civil, mediante requerimento.<\/p>\n

O termo \u201cdados\u201d aparece 126 vezes no documento da resolu\u00e7\u00e3o, logo no in\u00edcio da resolu\u00e7\u00e3o, no \u00a72\u00ba do artigo 1\u00ba j\u00e1 vem a seguinte reda\u00e7\u00e3o:<\/p>\n

\u201c\u00a7 2\u00ba A auditoria e o monitoramento das solu\u00e7\u00f5es de IA ser\u00e3o realizados com base em crit\u00e9rios proporcionais ao impacto da solu\u00e7\u00e3o, garantindo que os sistemas sejam audit\u00e1veis ou monitor\u00e1veis de forma pr\u00e1tica e acess\u00edvel, sem a obrigatoriedade de acesso irrestrito ao c\u00f3digo-fonte<\/strong>, desde que sejam adotados mecanismos de transpar\u00eancia e controle sobre o uso dos dados e as decis\u00f5es automatizadas\u201d.<\/p>\n

Muitas vezes o argumento sobre o segredo de ind\u00fastria \u00e9 utilizado como forma de impossibilitar a transpar\u00eancia de um algoritmo, ent\u00e3o essa determina\u00e7\u00e3o \u00e9 importante no sentido de garantir a auditoria destes sistemas sem acesso irrestrito ao c\u00f3digo-fonte se adotarem mecanismos de transpar\u00eancia e controle do uso de dados.<\/p>\n

O texto normativo demonstra muita preocupa\u00e7\u00e3o com os dados, inclusive com o uso de dados representativos no desenvolvimento ou treinamento de modelos de IA, isto \u00e9, dados que refletiam de forma adequada a diversidade de situa\u00e7\u00f5es e contextos no Poder Judici\u00e1rio.<\/p>\n

Em rela\u00e7\u00e3o \u00e0 interoperabilidade, o \u00a74\u00ba do artigo 1\u00ba traz a necessidade do tribunal de priorizar um desenvolvimento colaborativo e interoper\u00e1vel com a dissemina\u00e7\u00e3o de tecnologia, c\u00f3digos, base de dados e boas pr\u00e1ticas.<\/p>\n

Interpreta\u00e7\u00e3o dos resultados pela supervis\u00e3o<\/strong> humana \u2013 com a necessidade de capacita\u00e7\u00e3o t\u00e9cnica cont\u00ednua para magistrados e servidores.<\/p>\n

Esse ponto foi objetivo de destaque na pesquisa apresentada na audi\u00eancia p\u00fablica do CNJ sobre o uso de IA generativa no Judici\u00e1rio<\/a>, em que os servidores refletiram o desejo de capacita\u00e7\u00e3o pela falta de maturidade com o tema, ainda que utilizem sistemas de IA no trabalho.<\/p>\n

De modo muito assertivo, a capacita\u00e7\u00e3o passa a ser um dos fundamentos do uso respons\u00e1vel de IA no Judici\u00e1rio pelo artigo 2\u00ba, inciso X.<\/p>\n

Pelo artigo 16, incisivo VII, a contrata\u00e7\u00e3o direta para uso de IA generativa em atividades funcionais do Poder Judici\u00e1rio depender\u00e1 da realiza\u00e7\u00e3o de capacita\u00e7\u00e3o e treinamento espec\u00edficos sobre melhores pr\u00e1ticas, limita\u00e7\u00f5es, riscos, e uso \u00e9tico, respons\u00e1vel e eficiente, devendo ser feito de maneira continuada.<\/p>\n

Para corroborar com o letramento digital dos servidores e magistrados, no pr\u00f3prio site do CNJ h\u00e1 cursos de capacita\u00e7\u00e3o sobre IA e novas tecnologias para acesso gratuito na aba de Plataforma Sinapses\/Intelig\u00eancia Artificial<\/a>.<\/p>\n

De modo geral, esses s\u00e3o os pontos de maior preocupa\u00e7\u00e3o \u00e9tica neste momento, a resolu\u00e7\u00e3o responde bem a todos eles e a outros em seus 47 artigos. A resolu\u00e7\u00e3o entra em vigor em 120 dias.<\/p>\n

A regula\u00e7\u00e3o da IA no Judici\u00e1rio ainda \u00e9 um campo em constante evolu\u00e7\u00e3o, e seguir contribuindo para esse debate \u00e9 essencial.<\/p>","protected":false},"excerpt":{"rendered":"

No \u00faltimo dia 11 de mar\u00e7o foi publicada a Resolu\u00e7\u00e3o CNJ 615\/2025 sobre intelig\u00eancia artificial no Judici\u00e1rio pelo Conselho Nacional de Justi\u00e7a, que substituir\u00e1 a antiga Resolu\u00e7\u00e3o 332\/2020. A Resolu\u00e7\u00e3o 332\/2020 teve um importante papel de dissemina\u00e7\u00e3o da responsabilidade e do uso \u00e9tico no uso e desenvolvimentos desses sistemas, mas n\u00e3o tratava de quest\u00f5es mais […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/9761"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=9761"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/9761\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=9761"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=9761"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=9761"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}