{"id":11474,"date":"2025-06-02T17:04:06","date_gmt":"2025-06-02T20:04:06","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/06\/02\/desafios-da-governanca-algoritmica-no-setor-publico-brasileiro\/"},"modified":"2025-06-02T17:04:06","modified_gmt":"2025-06-02T20:04:06","slug":"desafios-da-governanca-algoritmica-no-setor-publico-brasileiro","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/06\/02\/desafios-da-governanca-algoritmica-no-setor-publico-brasileiro\/","title":{"rendered":"Desafios da governan\u00e7a algor\u00edtmica no setor p\u00fablico brasileiro"},"content":{"rendered":"

A intelig\u00eancia artificial<\/a> est\u00e1 se tornando uma pe\u00e7a-chave nos esfor\u00e7os de moderniza\u00e7\u00e3o do Estado brasileiro. Com investimentos bilion\u00e1rios previstos at\u00e9 2028 e um plano nacional estruturado, o governo federal, detentor de um dos maiores reposit\u00f3rios de dados sens\u00edveis, busca consolidar a IA como aliada na entrega de servi\u00e7os mais eficientes.\u00a0<\/span><\/p>\n

Prontu\u00e1rios eletr\u00f4nicos com transcri\u00e7\u00e3o por voz no SUS, uso de intelig\u00eancia artificial e big data para otimizar o diagn\u00f3stico e tratamento do c\u00e2ncer, disponibiliza\u00e7\u00e3o de dados clim\u00e1ticos para preven\u00e7\u00e3o de desastres, projetos de cidades inteligentes, automatiza\u00e7\u00e3o de processos judiciais e moderniza\u00e7\u00e3o das licita\u00e7\u00f5es p\u00fablicas s\u00e3o apenas alguns dos campos em que o governo brasileiro tem investido na aplica\u00e7\u00e3o de sistemas baseados em intelig\u00eancia artificial.<\/span><\/p>\n

Mas \u00e0 medida que algoritmos ganham espa\u00e7o na administra\u00e7\u00e3o, cresce a urg\u00eancia por regras claras, transpar\u00eancia e mecanismos de controle. Afinal, quem vigia as m\u00e1quinas que nos julgam?<\/span><\/p>\n

Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/h3>\n

A regulamenta\u00e7\u00e3o da intelig\u00eancia artificial no Brasil ainda est\u00e1 em fase de constru\u00e7\u00e3o. O principal avan\u00e7o recente \u00e9 o PL 2338\/2023<\/a><\/span>, atualmente em tramita\u00e7\u00e3o na C\u00e2mara dos Deputados<\/a>, que prop\u00f5e um marco legal inspirado no modelo europeu, com foco em riscos, transpar\u00eancia e prote\u00e7\u00e3o de direitos. <\/span><\/p>\n

O texto prev\u00ea avalia\u00e7\u00f5es de impacto algor\u00edtmico, crit\u00e9rios de explicabilidade e mecanismos de governan\u00e7a, sendo especialmente relevante para o uso da IA em decis\u00f5es p\u00fablicas automatizadas.<\/span><\/p>\n

Experi\u00eancias internacionais evidenciam a relev\u00e2ncia de mecanismos institucionais de governan\u00e7a algor\u00edtmica como condi\u00e7\u00e3o para assegurar a utiliza\u00e7\u00e3o \u00e9tica e transparente da intelig\u00eancia artificial no setor p\u00fablico. Em termos simples, governan\u00e7a algor\u00edtmica refere-se ao conjunto de regras, processos e institui\u00e7\u00f5es destinados a garantir que os sistemas de intelig\u00eancia artificial sejam utilizados de forma \u00e9tica, transparente e sob controle humano cont\u00ednuo.<\/span><\/p>\n

O Plano Brasileiro de Intelig\u00eancia Artificial (PBIA) prop\u00f5e medidas relevantes em infraestrutura, capacita\u00e7\u00e3o e desenvolvimento de solu\u00e7\u00f5es tecnol\u00f3gicas. Projetos como o N\u00facleo de IA do governo federal e o Programa de Solu\u00e7\u00f5es de IA para Servi\u00e7os P\u00fablicos prometem reposicionar o Estado brasileiro no mapa da inova\u00e7\u00e3o. Por\u00e9m, o plano avan\u00e7a timidamente em termos de governan\u00e7a. A cria\u00e7\u00e3o de comit\u00eas de supervis\u00e3o ainda n\u00e3o saiu do papel.<\/span><\/p>\n

A aus\u00eancia de estruturas efetivas de governan\u00e7a aumenta significativamente o risco de falhas, abusos e viola\u00e7\u00f5es, como evidenciado por epis\u00f3dios envolvendo sistemas automatizados no INSS, que comprometeram direitos de segurados por decis\u00f5es automatizadas n\u00e3o auditadas adequadamente. A vulnerabilidade n\u00e3o est\u00e1 apenas na tecnologia, mas na falta de controle sobre sua aplica\u00e7\u00e3o.<\/span><\/p>\n

Outro exemplo relevante \u00e9 o do Canad\u00e1, que adotou o <\/span>Algorithmic Impact Assessment (AIA)<\/span> \u2014 um instrumento estruturado de avalia\u00e7\u00e3o pr\u00e9via que permite identificar os riscos associados a sistemas algor\u00edtmicos antes de sua implementa\u00e7\u00e3o. A ferramenta contempla mecanismos de mitiga\u00e7\u00e3o, classifica\u00e7\u00e3o por n\u00edveis de impacto e diretrizes de governan\u00e7a, contribuindo para refor\u00e7ar a transpar\u00eancia e a responsabiliza\u00e7\u00e3o no uso de IA no setor p\u00fablico.<\/span><\/p>\n

A resposta institucional brasileira exige uma abordagem integrada baseada em tr\u00eas pilares: assegurar a transpar\u00eancia algor\u00edtmica \u2014 inclusive nos contratos com empresas fornecedoras de tecnologia \u2014, garantir o devido processo tecnol\u00f3gico, com direito \u00e0 explica\u00e7\u00e3o e contesta\u00e7\u00e3o de decis\u00f5es automatizadas, e instituir mecanismos permanentes de governan\u00e7a com composi\u00e7\u00e3o multidisciplinar, a exemplo do <\/span>AI Governance Working Group<\/span> criado na Nova Zel\u00e2ndia. <\/span><\/p>\n

O objetivo n\u00e3o \u00e9 restringir a inova\u00e7\u00e3o, mas sim assegurar que seu avan\u00e7o ocorra de forma leg\u00edtima, \u00e9tica e compat\u00edvel com os princ\u00edpios democr\u00e1ticos.<\/span><\/p>\n

\u00c9 importante reconhecer que os sistemas de IA baseados em aprendizado de m\u00e1quina operam com base em dados e decis\u00f5es passadas. Essa caracter\u00edstica, embora \u00fatil para a efici\u00eancia, pode comprometer a capacidade de inovar juridicamente e reproduzir injusti\u00e7as hist\u00f3ricas. Algoritmos n\u00e3o captam contextos humanos, nem interpretam inten\u00e7\u00f5es. Em processos que exigem avalia\u00e7\u00e3o subjetiva, como o reconhecimento da boa-f\u00e9, confiar exclusivamente em sistemas estat\u00edsticos \u00e9 uma limita\u00e7\u00e3o grave.\u00a0<\/span><\/p>\n

Apesar do nome, a chamada intelig\u00eancia artificial ainda est\u00e1 longe de ser verdadeiramente inteligente ou aut\u00f4noma. Ela opera com base em instru\u00e7\u00f5es e dados definidos por seres humanos, e exige acompanhamento constante em todas as fases de seu uso \u2014 da concep\u00e7\u00e3o \u00e0 supervis\u00e3o. Tratar a IA como uma entidade neutra e autossuficiente \u00e9 ignorar os fatores humanos, t\u00e9cnicos e institucionais que determinam seus resultados.<\/span><\/p>\n

Nesse sentido, a governan\u00e7a da IA deve ser guiada por princ\u00edpios estruturantes, entre eles o da intelig\u00eancia artificial centrada no ser humano, como preconizado pela OCDE, Unesco e Uni\u00e3o Europeia. Tal princ\u00edpio estabelece que o desenvolvimento tecnol\u00f3gico deve sempre respeitar a dignidade, os direitos fundamentais e a autonomia dos indiv\u00edduos.<\/span><\/p>\n

Diversos \u00f3rg\u00e3os p\u00fablicos j\u00e1 editaram normativos prevendo auditorias de sistemas de intelig\u00eancia artificial e a atua\u00e7\u00e3o de comit\u00eas de governan\u00e7a. No entanto, poucas dessas iniciativas se materializaram de forma efetiva na pr\u00e1tica institucional. A governan\u00e7a algor\u00edtmica exige mais do que dispositivos formais em portarias publicadas no Di\u00e1rio Oficial \u2014 trata-se de um compromisso cont\u00ednuo com a transpar\u00eancia, o controle social e a supervis\u00e3o t\u00e9cnica no uso de tecnologias automatizadas.<\/span><\/p>\n

Se o Brasil almeja incorporar a intelig\u00eancia artificial como ferramenta de aprimoramento institucional e garantia de direitos \u2014 e n\u00e3o como fator de assimetria e opacidade \u2014 \u00e9 imprescind\u00edvel que essa discuss\u00e3o seja efetivamente institucionalizada.<\/span><\/p>\n

Para que a IA alcance seu pleno potencial, \u00e9 necess\u00e1rio enfrentar concretamente os desafios associados \u00e0 sua ado\u00e7\u00e3o. Isso come\u00e7a com um gesto simples, mas simb\u00f3lico: incluir a sociedade civil, os \u00f3rg\u00e3os de controle e o conhecimento t\u00e9cnico no espa\u00e7o onde os algoritmos s\u00e3o concebidos e aplicados.\u00a0<\/span><\/p>\n

O avan\u00e7o tecnol\u00f3gico s\u00f3 cumprir\u00e1 sua promessa democr\u00e1tica se for acompanhado de estruturas permanentes de supervis\u00e3o e participa\u00e7\u00e3o, como comit\u00eas de governan\u00e7a algor\u00edtmica, mecanismos de prote\u00e7\u00e3o de dados e auditorias aleat\u00f3rias e peri\u00f3dicas.<\/span><\/p>","protected":false},"excerpt":{"rendered":"

A intelig\u00eancia artificial est\u00e1 se tornando uma pe\u00e7a-chave nos esfor\u00e7os de moderniza\u00e7\u00e3o do Estado brasileiro. Com investimentos bilion\u00e1rios previstos at\u00e9 2028 e um plano nacional estruturado, o governo federal, detentor de um dos maiores reposit\u00f3rios de dados sens\u00edveis, busca consolidar a IA como aliada na entrega de servi\u00e7os mais eficientes.\u00a0 Prontu\u00e1rios eletr\u00f4nicos com transcri\u00e7\u00e3o por […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/11474"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=11474"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/11474\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=11474"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=11474"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=11474"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}