{"id":9312,"date":"2025-03-03T00:40:41","date_gmt":"2025-03-03T03:40:41","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/03\/03\/ia-no-judiciario-brasileiro-salvaguardas-riscos-e-novas-fronteiras\/"},"modified":"2025-03-03T00:40:41","modified_gmt":"2025-03-03T03:40:41","slug":"ia-no-judiciario-brasileiro-salvaguardas-riscos-e-novas-fronteiras","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/03\/03\/ia-no-judiciario-brasileiro-salvaguardas-riscos-e-novas-fronteiras\/","title":{"rendered":"IA no Judici\u00e1rio brasileiro: salvaguardas, riscos e novas fronteiras"},"content":{"rendered":"

A ado\u00e7\u00e3o de intelig\u00eancia artificial<\/a> no Judici\u00e1rio brasileiro deixou de ser uma mera proje\u00e7\u00e3o futurista para se tornar uma realidade, especialmente diante do crescimento de ferramentas de automa\u00e7\u00e3o, an\u00e1lises preditivas e sistemas capazes de auxiliar o Poder Judici\u00e1rio no tr\u00e2mite de milh\u00f5es de processos.<\/p>\n

Esse movimento n\u00e3o se restringe \u00e0 esfera t\u00e9cnica: implica a constru\u00e7\u00e3o de guardrails<\/em> (salvaguardas \u00e9ticas e estruturais), a defini\u00e7\u00e3o de redlines<\/em> (limites inegoci\u00e1veis) e a previs\u00e3o de kill switches<\/em> ou circuit breakers<\/em>, garantindo que a moderniza\u00e7\u00e3o caminhe lado a lado com a prote\u00e7\u00e3o de direitos fundamentais.<\/p>\n

Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/h3>\n

Em termos pr\u00e1ticos, o Brasil ganha destaque global pelo alt\u00edssimo volume de demandas judiciais, e a implanta\u00e7\u00e3o de plataformas como Sinapses, reposit\u00f3rios como Codex e programas de moderniza\u00e7\u00e3o, a exemplo do Justi\u00e7a 4.0, consolidam o pa\u00eds como refer\u00eancia nas solu\u00e7\u00f5es que aperfei\u00e7oam a gest\u00e3o de processos, ampliam a celeridade e beneficiam a pesquisa jurisprudencial. Como enfatiza Richard Susskind, a efici\u00eancia judicial n\u00e3o se limita \u00e0 ado\u00e7\u00e3o de tecnologia, mas demanda o redesenho de sistemas tradicionais, preservando valores constitucionais essenciais (SUSSKIND, 2019).<\/p>\n

Conquanto solu\u00e7\u00f5es baseadas em Aprendizado de M\u00e1quina (por exemplo, para triagem de peti\u00e7\u00f5es e an\u00e1lise de padr\u00f5es recursais) sejam cada vez mais comuns, h\u00e1 preocupa\u00e7\u00f5es leg\u00edtimas acerca de vieses algor\u00edtmicos, potenciais viola\u00e7\u00f5es de privacidade e poss\u00edvel autonomiza\u00e7\u00e3o da tomada de decis\u00e3o.<\/p>\n

\u00c9 nesse contexto que se elevam as discuss\u00f5es sobre redlines<\/em> \u2014 por exemplo, n\u00e3o permitir o uso de dados sens\u00edveis para progn\u00f3sticos de reincid\u00eancia criminal (YOON; SLADE; FAZEL, 2017) \u2014 e sobre mecanismos de kill switch<\/em> que interrompam imediatamente sistemas capazes de amea\u00e7ar direitos fundamentais (BALKIN, 2014). Assim, a tecnologia permanece acess\u00f3ria ao ju\u00edzo humano, e n\u00e3o o contr\u00e1rio.<\/p>\n

As Audi\u00eancias P\u00fablicas conduzidas pelo Conselho Nacional de Justi\u00e7a (CNJ) t\u00eam assumido papel preponderante para estabelecer par\u00e2metros regulat\u00f3rios de IA no \u00e2mbito judicial (CONSELHO NACIONAL DE JUSTI\u00c7A, 2024). Magistrados, pesquisadores, institui\u00e7\u00f5es internacionais e representantes do setor privado colaboram na formula\u00e7\u00e3o de normas que privilegiem: (1) transpar\u00eancia no uso de algoritmos, (2) imparcialidade e n\u00e3o discrimina\u00e7\u00e3o, (3) boa governan\u00e7a de decis\u00e3o aliada \u00e0 supervis\u00e3o humana, (4) monitoramento de impacto ecossist\u00eamico e (5) constru\u00e7\u00e3o de capacidade de longo prazo.<\/p>\n

A cria\u00e7\u00e3o de guardrails<\/em> no Judici\u00e1rio traduz-se em auditorias independentes, valida\u00e7\u00f5es frequentes e refor\u00e7o de accountability, assegurando que algoritmos n\u00e3o perpetuem discrimina\u00e7\u00f5es. Nesse sentido, a integra\u00e7\u00e3o com a Lei Geral de Prote\u00e7\u00e3o de Dados \u00e9 inescap\u00e1vel: dados sens\u00edveis usados em an\u00e1lises preditivas podem ensejar riscos de viola\u00e7\u00f5es de direitos. Ademais, o panorama internacional refor\u00e7a essa preocupa\u00e7\u00e3o. Documentos como a Recommendation on the ethics of Artificial Intelligence, da Unesco (2021), o AI Act, na Uni\u00e3o Europeia, e a futura regulamenta\u00e7\u00e3o da IA no Brasil balizam um arcabou\u00e7o \u00e9tico e jur\u00eddico.<\/p>\n

Ao se analisar a experi\u00eancia brasileira, nota-se um genu\u00edno esfor\u00e7o de combinar inova\u00e7\u00e3o e seguran\u00e7a. Iniciativas como o Programa Justi\u00e7a 4.0 mostram que a ado\u00e7\u00e3o de IA n\u00e3o se resume a automatizar tarefas repetitivas: envolve reorganizar pr\u00e1ticas administrativas e refletir sobre at\u00e9 que ponto ferramentas de IA generativa (como ChatGPT) devem ou n\u00e3o auxiliar na reda\u00e7\u00e3o de minutas de despachos e senten\u00e7as.<\/p>\n

Por outro lado, as chamadas redlines evidenciam usos considerados de alto risco no Judici\u00e1rio, tais como an\u00e1lises de probabilidade de reincid\u00eancia criminal ou defini\u00e7\u00f5es algor\u00edtmicas que podem reproduzir e agravar injusti\u00e7as hist\u00f3ricas \u2014 o que foi amplamente pontuado por relatorias especiais da ONU. Aqui se destaca a import\u00e2ncia do \u201ccontrole humano\u201d e da obrigatoriedade de \u201crevis\u00e3o humana\u201d.<\/p>\n

Ningu\u00e9m deseja ser \u201cjulgado por um rob\u00f4\u201d, mas tampouco se pode ignorar que humanos tamb\u00e9m carregam vieses. A sinergia entre auditorias t\u00e9cnicas e supervis\u00e3o judicial surge como estrat\u00e9gia para checar e balancear ambos os riscos, criando um ecossistema de governan\u00e7a respons\u00e1vel que impe\u00e7a que preconceitos humanos ou falhas tecnol\u00f3gicas comprometam a imparcialidade das decis\u00f5es.<\/p>\n

O debate sobre kill switches<\/em> \u00e9 igualmente central. A possibilidade de desligar ou suspender um sistema de IA em casos cr\u00edticos, sem esvaziar garantias constitucionais, coloca em pauta a separa\u00e7\u00e3o de poderes e os limites do controle estatal ou privado de plataformas. A jurisprud\u00eancia do Supremo Tribunal Federal (STF), em casos de bloqueio de aplicativos e redes sociais, exemplifica a relev\u00e2ncia da cautela para que medidas emergenciais n\u00e3o se convertam em abuso ou censura.<\/p>\n

Em s\u00edntese, a intelig\u00eancia artificial \u00e9 uma realidade irrevers\u00edvel no Judici\u00e1rio, mas n\u00e3o pode nem deve ser encarada como substituto de sua natureza human\u00edstica.<\/p>\n

Portanto, guardrails, redlines<\/em> e mecanismos de kill switch\/circuit breaker<\/em> s\u00e3o pilares que definem novos par\u00e2metros de confiabilidade, transpar\u00eancia e respeito aos direitos fundamentais. A regula\u00e7\u00e3o no \u00e2mbito do CNJ<\/a> revela que o Poder Judici\u00e1rio possui compet\u00eancia t\u00e9cnica e legitimidade institucional para liderar a ado\u00e7\u00e3o de IA de maneira respons\u00e1vel, preservando a dignidade da pessoa humana.<\/p>\n

ASSOCIA\u00c7\u00c3O DOS MAGISTRADOS BRASILEIROS (AMB). IA \u00e9 ferramenta de apoio que requer supervis\u00e3o dos ju\u00edzes. 2023. Dispon\u00edvel em: https:\/\/www.amb.com.br\/ia-e-ferramenta-de-apoio-que-requer-supervisao-dos-juizes\/<\/a>.<\/p>\n

BALKIN, Jack. Old-School\/New-School Speech Regulation. Harvard Law & Policy Review<\/em>, v. 8, n. 2, p. 201-220, 2014.<\/p>\n

BANDEIRA DE MELLO, Luiz Fernando. IA no Judici\u00e1rio: uso \u00e9 pouco frequente, mas interesse pela ferramenta \u00e9 elevado. Conselho Nacional de Justi\u00e7a (CNJ), 2024.<\/p>\n

BRASIL. Lei n\u00ba 13.709, de 14 de agosto de 2018. Lei Geral de Prote\u00e7\u00e3o de Dados Pessoais (LGPD). Di\u00e1rio Oficial da Uni\u00e3o: se\u00e7\u00e3o 1, Bras\u00edlia, DF, p. 1, 15 ago. 2018. Dispon\u00edvel em: http:\/\/www.planalto.gov.br\/ccivil_03\/_ato2015-2018\/2018\/lei\/L13709.htm<\/a>. Acesso em: 14 jan. 2025.<\/p>\n

CARTLIDGE, J. Towards adaptive ex ante circuit breakers in financial markets using human-algorithmic market studies. Proceedings of the 18th International Conference on Artificial Intelligence, 2016. Dispon\u00edvel em: https:\/\/www.researchgate.net\/publication\/305681179_Towards_adaptive_ex_ante_circuit_breakers_in_financial_markets_using_human-algorithmic_market_studies<\/a>. Acesso em: 3 jan. 2025.<\/p>\n

CONSELHO DA EUROPA. Comiss\u00e3o Europeia para a Efici\u00eancia da Justi\u00e7a (CEPEJ). European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their Environment.<\/em> Estrasburgo, 2018, dispon\u00edveis em: https:\/\/www.cnj.jus.br\/sistemas\/plataforma-sinapses\/<\/a>. Acesso em: 6 jan. 2025.<\/p>\n

CONSELHO NACIONAL DE JUSTI\u00c7A. Justi\u00e7a em N\u00fameros 2024: Barroso destaca aumento de 9,5% em novos processos.<\/em> Conselho Nacional de Justi\u00e7a, 28 maio 2024. Dispon\u00edvel em: https:\/\/www.cnj.jus.br\/tecnologia-da-informacao-e-comunicacao\/justica-4-0\/projeto-juizo-100-digital\/<\/a>. Acesso em: 10 jan. 2025.<\/p>\n

CONSELHO NACIONAL DE JUSTI\u00c7A. Pesquisa sobre o uso de intelig\u00eancia artificial no Poder Judici\u00e1rio \u2013 2023. Bras\u00edlia, 2024. Dispon\u00edvel em: https:\/\/www.cnj.jus.br\/wp-content\/uploads\/2024\/06\/pesquisa-uso-da-inteligencia-artificial-ia-no-poder-judiciario-2023.pdf<\/a>. Acesso em: 3 jan. 2025.<\/p>\n

DONEDA, Danilo. A prote\u00e7\u00e3o dos dados pessoais como um direito fundamental. Espa\u00e7o Jur\u00eddico Journal of Law [EJJL], v. 12, n. 2, p. 91-108, 2011. Dispon\u00edvel em: https:\/\/periodicos.unoesc.edu.br\/esp<\/a>. Acesso em: 6 jan. 2025.<\/p>\n

GERVAIS, D.J. Rumo a uma regulamenta\u00e7\u00e3o transnacional eficaz da IA. AI & Society<\/em>, v. 38, p. 391\u2013410, 2023.<\/p>\n

HARVARD LAW SCHOOL. Guardrails: Guiding Human Decisions in the Age of AI. Dispon\u00edvel em: https:\/\/hls.harvard.edu\/events\/guardrails-guiding-human-decisions-in-the-age-of-ai\/<\/a>.<\/p>\n

HENRIQUES, Isabella; MACIEL, Emanuella Ribeiro Halfeld. Como o PL da IA aborda a prote\u00e7\u00e3o integral de crian\u00e7as e adolescentes. JOTA<\/span>, 26 jun. 2024. Dispon\u00edvel em: https:\/\/www.jota.info\/opiniao-e-analise\/colunas\/ia-regulacao-democracia\/como-o-pl-da-ia-aborda-a-protecao-integral-de-criancas-e-adolescentes<\/a>. Acesso em: 10 jan. 2025.<\/p>\n

JOTA<\/span>, 11 fev. 2025. Dispon\u00edvel em: https:\/\/www.jota.info\/justica\/cnj-apresenta-resolucao-para-normatizar-uso-de-inteligencia-artificial-nos-tribunais<\/a>. Acesso em: 11 fev. 2025.<\/p>\n

MCCARTHY, John; MINSKY, Marvin L.; ROCHESTER, Nathaniel; SHANNON, Claude E. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. 1955.<\/p>\n

NA\u00c7\u00d5ES UNIDAS. Preconceitos do passado perpetuam discrimina\u00e7\u00e3o futura em intelig\u00eancia artificial, alerta relatora da ONU. ONU News, 31 jul. 2024. Dispon\u00edvel em: https:\/\/news.un.org\/pt\/story\/2024\/07\/1835376<\/a>. Acesso em: 10 jan. 2025.<\/p>\n

ORGANIZA\u00c7\u00c3O DAS NA\u00c7\u00d5ES UNIDAS (ONU). Relat\u00f3rio Intermedi\u00e1rio: Governando a IA para a Humanidade. AI Advisory Body, 2023. Dispon\u00edvel em: https:\/\/www.un.org\/techenvoy\/sites\/www.un.org.techenvoy\/files\/ai_advisory_body_interim_report.pdf<\/a>. Acesso em: 3 jan. 2025.<\/p>\n

RUSSELL, S.; NORVIG, P. Artificial Intelligence: A Modern Approach.<\/em> 3. ed. Harlow: Pearson, 2010.<\/p>\n

SIEGEL, Eric. An\u00e1lise Preditiva \u2013 Uma introdu\u00e7\u00e3o para todos.<\/em> Rio de Janeiro: Alta Books, 2017.<\/p>\n

Supremo Tribunal Federal. STF confirma decis\u00e3o que suspendeu o X, antigo Twitter, em todo o pa\u00eds. Publicado em 2 out. 2023. Dispon\u00edvel em: <https:\/\/noticias.stf.jus.br\/postsnoticias\/stf-confirma-decisao-que-suspendeu-o-x-antigo-twitter-em-todo-o-pais\/<\/a>> Acesso em: 16\/01\/2025.<\/p>\n

Supremo Tribunal Federal. Entenda: STF julga a\u00e7\u00f5es contra normas do Marco Civil da Internet. Dispon\u00edvel em: https:\/\/noticias.stf.jus.br\/postsnoticias\/entenda-stf-julga-acoes-contra-normas-do-marco-civil-da-internet\/<\/a>. Acesso em: 14 jan. 2025.<\/p>\n

SUSSKIND, Richard. Online Courts and the Future of Justice. Oxford University Press, 2019. Dispon\u00edvel em: https:\/\/iacajournal.org\/articles\/10.36745\/ijca.346<\/a>. Acesso em: 3 jan. 2025.<\/p>\n

TAUK, Caroline Somesom. Vieses nas decis\u00f5es dos ju\u00edzes vs. vieses da intelig\u00eancia artificial. Migalhas, 28 mar. 2024. Dispon\u00edvel em: https:\/\/www.migalhas.com.br\/depeso\/404439\/vieses-nas-decisoes-dos-juizes-vs-vieses-da-inteligencia-artificial<\/a>. Acesso em: 10 jan. 2025.<\/p>\n

dispon\u00edveis em: https:\/\/www.undp.org\/pt\/brazil\/news\/solucoes-do-programa-justica-40-impulsionaram-transformacao-digital-do-judiciario-em-2024<\/a>. Acesso em: 6 jan. 2025.<\/p>\n

UNESCO. Recommendation on the ethics of Artificial Intelligence. 2021. Dispon\u00edvel em: https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000380455<\/a>. Acesso em: 26 mar. 2024.<\/p>\n

YOON, I. A.; SLADE, K.; FAZEL, S. Criminal recidivism among older male prisoners: a 3-year follow-up study. BMC Geriatrics, v. 17, n. 1, p. 296, 2017. Dispon\u00edvel em: https:\/\/pmc.ncbi.nlm.nih.gov\/articles\/PMC5777393\/<\/a>. Acesso em: 14 jan. 2025.<\/p>","protected":false},"excerpt":{"rendered":"

A ado\u00e7\u00e3o de intelig\u00eancia artificial no Judici\u00e1rio brasileiro deixou de ser uma mera proje\u00e7\u00e3o futurista para se tornar uma realidade, especialmente diante do crescimento de ferramentas de automa\u00e7\u00e3o, an\u00e1lises preditivas e sistemas capazes de auxiliar o Poder Judici\u00e1rio no tr\u00e2mite de milh\u00f5es de processos. Esse movimento n\u00e3o se restringe \u00e0 esfera t\u00e9cnica: implica a constru\u00e7\u00e3o […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/9312"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=9312"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/9312\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=9312"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=9312"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=9312"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}