{"id":4604,"date":"2023-09-13T01:54:11","date_gmt":"2023-09-13T04:54:11","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2023\/09\/13\/avanca-o-uso-de-ia-no-brasil-sem-diretriz-padronizacao-e-regulamentacao\/"},"modified":"2023-09-13T01:54:11","modified_gmt":"2023-09-13T04:54:11","slug":"avanca-o-uso-de-ia-no-brasil-sem-diretriz-padronizacao-e-regulamentacao","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2023\/09\/13\/avanca-o-uso-de-ia-no-brasil-sem-diretriz-padronizacao-e-regulamentacao\/","title":{"rendered":"Avan\u00e7a o uso de IA no Brasil sem diretriz, padroniza\u00e7\u00e3o e regulamenta\u00e7\u00e3o"},"content":{"rendered":"

Em 16 de agosto \u00faltimo, preocupada com os grupos vulner\u00e1veis e o potencial aumento da judicializa\u00e7\u00e3o e atendendo a protestos de v\u00e1rias institui\u00e7\u00f5es, a Defensoria P\u00fablica da Uni\u00e3o<\/a> (DPU) enviou um of\u00edcio ao Instituto Nacional do Seguro Social<\/a> (INSS) questionando o uso de intelig\u00eancia artificial<\/a> (IA) para automatizar a decis\u00e3o de concess\u00e3o de benef\u00edcios como aposentadoria, pens\u00e3o e aux\u00edlio-maternidade.<\/p>\n

O modelo de IA do INSS foi desenvolvido pela Dataprev, empresa p\u00fablica brasileira de tecnologia e informa\u00e7\u00f5es da Previd\u00eancia Social, vinculada ao Minist\u00e9rio da Fazenda. O procedimento \u00e9 relativamente simples: o benefici\u00e1rio solicita o benef\u00edcio por meio digital, o sistema (\u201cRob\u00f4 do INSS\u201d) verifica as informa\u00e7\u00f5es junto \u00e0 base de dados da Administra\u00e7\u00e3o P\u00fablica, analisa se est\u00e3o em ordem os requisitos legais e autoriza ou nega o benef\u00edcio pleiteado.<\/p>\n

O \u201cRob\u00f4 do INSS\u201d j\u00e1 \u00e9 respons\u00e1vel por processar 35% dos pedidos, mas o preenchimento equivocado da solicita\u00e7\u00e3o pode acarretar nega\u00e7\u00e3o da solicita\u00e7\u00e3o, o que favorece os letrados digitalmente (ou discrimina os n\u00e3o letrados). A IA tem predicados para aumentar a efici\u00eancia da gest\u00e3o p\u00fablica. Contudo, sem diretrizes de uso n\u00e3o h\u00e1 como prever e, consequentemente, mitigar os potenciais danos aos usu\u00e1rios. Nesse caso, por exemplo, o sistema da Dataprev deveria ser submetido a auditoria independente para identificar a forma\u00e7\u00e3o da cadeia de suprimento do sistema criado para o INSS (em geral, os sistemas agregam v\u00e1rios algoritmos com m\u00faltiplas origens), investigar as vari\u00e1veis iniciais (ou hiperpar\u00e2metros) e a base de dados de treinamento do sistema, que podem ou n\u00e3o gerar vi\u00e9s discriminat\u00f3rio. \u00c9 temeroso adotar um sistema de IA antes de submet\u00ea-lo a um escrut\u00ednio qualificado.<\/p>\n

Esse \u00e9 um caso ilustrativo, mas n\u00e3o \u00e9 uma exce\u00e7\u00e3o. A Justi\u00e7a brasileira, outro setor sens\u00edvel, tem mais de 100 sistemas de IA funcionando, ou em vias de funcionamento, em diversos tribunais pa\u00eds afora. Acompanhando a tend\u00eancia mundial \u2013 abstraindo a confus\u00e3o entre mera automa\u00e7\u00e3o, modelos estat\u00edsticos avan\u00e7ados e modelos estat\u00edsticos habilitados por intelig\u00eancia artificial \u2013 prolifera no Brasil a ado\u00e7\u00e3o da IA pelo setor p\u00fablico e privado, em distintos setores, na execu\u00e7\u00e3o de distintas tarefas.<\/p>\n

Em rea\u00e7\u00e3o \u00e0 prolifera\u00e7\u00e3o de uso, prolifera o clamor por regulamenta\u00e7\u00e3o. O relat\u00f3rio AI100 da Universidade de Stanford sinaliza, nos \u00faltimos cinco anos, um maior engajamento de 60 pa\u00edses em iniciativas nacionais e v\u00e1rios esfor\u00e7os multilaterais contemplando orienta\u00e7\u00f5es de pol\u00edtica espec\u00edfica por setor, estudos pilotos, estruturas volunt\u00e1rias para conformidade e padr\u00f5es formais. Emergiram, igualmente, esfor\u00e7os cooperativos entre pa\u00edses na busca, por exemplo, por definir e incorporar avalia\u00e7\u00f5es de impacto da IA nos processos de desenvolvimento dos sistemas (\u00e9tica by design). \u00c9 intenso o debate sobre se a regulamenta\u00e7\u00e3o ativa seria apropriada e como implement\u00e1-la, e as respostas n\u00e3o s\u00e3o triviais.<\/p>\n

O PL 2338<\/a> do senador Rodrigo Pacheco (PSD-MG), atualmente em tramita\u00e7\u00e3o no Senado, \u00e9 o melhor projeto de lei para cria\u00e7\u00e3o do Marco Regulat\u00f3rio da Intelig\u00eancia Artificial<\/a> no Brasil, posto que os demais s\u00e3o in\u00f3cuos tanto para incentivar a inova\u00e7\u00e3o quanto para proteger a sociedade de potenciais danos. O PL 2338 \u00e9 um bom ponto de partida, mas requer aperfei\u00e7oamentos, no geral, para: a) reduzir os custos de conformidade que afetam negativamente a inova\u00e7\u00e3o e positivamente a concentra\u00e7\u00e3o de mercado (empresas m\u00e9dias, pequenas e startups ter\u00e3o dificuldade em atender \u00e0s obriga\u00e7\u00f5es legais); e b) especificar melhor os direitos do usu\u00e1rio afetado, evitando uma enxurrada de a\u00e7\u00f5es judiciais.<\/p>\n

Em paralelo ao debate regulat\u00f3rio, \u00e9 imprescind\u00edvel padronizar os requisitos de avalia\u00e7\u00e3o de risco, o teor dos registros e documentos de avalia\u00e7\u00e3o, e os par\u00e2metros a serem utilizados pela autoridade competente para determinar a reclassifica\u00e7\u00e3o e avalia\u00e7\u00e3o de impacto algor\u00edtmico, bem como padronizar os direitos dos usu\u00e1rios afetados previstos do artigo 5\u00ba ao artigo 12. Entre os especialistas mundo afora, forma-se um consenso de que a efetividade de qualquer regulamenta\u00e7\u00e3o da IA depende de estabelecer padr\u00f5es que podem ser elaborados, colaborativamente, pelas ag\u00eancias reguladoras setoriais e entidades da sociedade.<\/p>\n

Na regulamenta\u00e7\u00e3o moderna, a tend\u00eancia \u00e9 firmar acordos de colabora\u00e7\u00e3o entre o poder p\u00fablico e as entidades da sociedade: ao primeiro cabe a fun\u00e7\u00e3o de estabelecer um arcabou\u00e7o regulat\u00f3rio m\u00ednimo, e \u00e0s segundas conceder certifica\u00e7\u00f5es (esp\u00e9cie de \u201cselo de qualidade\u201d). O Institute of Electrical and Electronics Engineers (IEEE) \u2013 maior organiza\u00e7\u00e3o profissional \u2013, por exemplo, anunciou o IEEE CertifAIEd, um conjunto de crit\u00e9rios \u00e9ticos baseado em risco para auxiliar as organiza\u00e7\u00f5es na disponibiliza\u00e7\u00e3o de experi\u00eancias mais confi\u00e1veis aos seus usu\u00e1rios; a certifica\u00e7\u00e3o atesta que o produto, servi\u00e7o ou sistema foi verificado e que est\u00e1 de acordo com os padr\u00f5es de confiabilidade estabelecidos em torno de quatro grandes blocos: Transpar\u00eancia, Accountability, Vi\u00e9s Algor\u00edtmico e Privacidade.<\/p>\n

Mesmo considerando a credibilidade do IEEE, contudo, \u00e9 fundamental que o Estado garanta o interesse p\u00fablico, ou seja, valide ou n\u00e3o as certifica\u00e7\u00f5es de institui\u00e7\u00f5es privadas. Estabelecer arcabou\u00e7os regulat\u00f3rios \u00e9 cr\u00edtico, inclusive para garantir a seguran\u00e7a jur\u00eddica e gerar confian\u00e7a no mercado. Atribuir, exclusivamente, ao juiz a fun\u00e7\u00e3o de arbitrar os potenciais conflitos pode gerar inseguran\u00e7a no ambiente institucional do pa\u00eds.<\/p>\n

Outro aspecto a ser considerado \u00e9 que a intelig\u00eancia artificial transcende fronteiras, o que contraria a ideia de cada governo estabelecer seu pr\u00f3prio arcabou\u00e7o regulat\u00f3rio. As grandes empresas de tecnologia, particularmente as cinco big techs<\/em> americanas \u2013 Google, Microsoft, Amazon, Apple e Meta\/Facebook \u2013 operam globalmente, treinando seus modelos de IA em bases de dados transnacionais e oferecendo seus produtos e servi\u00e7os habilitados por IA em praticamente todo o Ocidente. Navegar em regimes regulat\u00f3rios conflitantes gera incertezas e aumenta os custos de estar em compliance, o que pode resultar em efeitos negativos sobre a inova\u00e7\u00e3o e at\u00e9 mesmo sobre o acesso dos cidad\u00e3os a esses produtos e servi\u00e7os. No entanto, como estabelecer padr\u00f5es consistentes em todos os mercados? Como alinhar os interesses nacionais?<\/p>\n

O cen\u00e1rio regulat\u00f3rio est\u00e1 t\u00e3o complexo quanto a pr\u00f3pria tecnologia de IA. Processos mais avan\u00e7ados como o europeu \u2013 vide a proposta da Comiss\u00e3o Europeia<\/a> (AI Act) lan\u00e7ada em 21 de abril de 2021 e votada no Parlamento Europeu em 14 de junho \u00faltimo \u2013 ainda est\u00e3o longe de equacionar os conflitos e as imprecis\u00f5es; mesmo que seja aprovada at\u00e9 o final do ano, a expectativa \u00e9 que entre em vig\u00eancia em 2026.<\/p>\n

Independentemente de haver ou n\u00e3o um Marco Regulat\u00f3rio da IA, recomenda-se fortemente \u00e0s organiza\u00e7\u00f5es p\u00fablicas e privadas que elaborem suas diretrizes de desenvolvimento (quando for o caso) e uso da IA, ou seja, uma pol\u00edtica de governan\u00e7a de IA com instrumentos eficientes de monitoramento cont\u00ednuo de risco, incluindo Comit\u00ea de Risco de IA composto de membros diversificados cognitivamente (especialistas em tecnologia, advogados, eticistas, especialistas em impactos \u00e9ticos e sociais, conhecedores do dom\u00ednio de aplica\u00e7\u00e3o e do neg\u00f3cio em quest\u00e3o).<\/p>","protected":false},"excerpt":{"rendered":"

Em 16 de agosto \u00faltimo, preocupada com os grupos vulner\u00e1veis e o potencial aumento da judicializa\u00e7\u00e3o e atendendo a protestos de v\u00e1rias institui\u00e7\u00f5es, a Defensoria P\u00fablica da Uni\u00e3o (DPU) enviou um of\u00edcio ao Instituto Nacional do Seguro Social (INSS) questionando o uso de intelig\u00eancia artificial (IA) para automatizar a decis\u00e3o de concess\u00e3o de benef\u00edcios como […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/4604"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=4604"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/4604\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=4604"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=4604"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=4604"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}