{"id":5237,"date":"2023-12-01T23:38:27","date_gmt":"2023-12-02T02:38:27","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2023\/12\/01\/o-imperativo-da-regulamentacao-da-ia-no-brasil\/"},"modified":"2023-12-01T23:38:27","modified_gmt":"2023-12-02T02:38:27","slug":"o-imperativo-da-regulamentacao-da-ia-no-brasil","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2023\/12\/01\/o-imperativo-da-regulamentacao-da-ia-no-brasil\/","title":{"rendered":"O imperativo da regulamenta\u00e7\u00e3o da IA no Brasil"},"content":{"rendered":"

\u201cFui discriminada publicamente por ser pobre e preta\u201d, afirma a jovem Thais, abordada de forma bruta, humilhante e, sobretudo, equivocada por policiais em Sergipe, ap\u00f3s erro de reconhecimento facial.<\/span>[1] <\/span>Esse \u00e9 apenas mais um dos in\u00fameros casos de injusti\u00e7as e discrimina\u00e7\u00e3o que o uso de intelig\u00eancia artificial<\/a> (IA) nas pol\u00edticas e servi\u00e7os p\u00fablicos vem rotineiramente causando no Brasil e no mundo. \u00c9 not\u00f3rio que a IA traz benef\u00edcios \u00e0 administra\u00e7\u00e3o p\u00fablica e \u00e0 sociedade. Do mesmo modo, s\u00e3o cada vez mais conhecidas as suas consequ\u00eancias negativas e os preju\u00edzos aos cidad\u00e3os n\u00e3o apenas na \u00e1rea de seguran\u00e7a p\u00fablica, mas tamb\u00e9m no mercado de trabalho, sistema educacional e de sa\u00fade, previd\u00eancia e assist\u00eancia social<\/span>[2]<\/span>.<\/span><\/p>\n

Entretanto, a contradi\u00e7\u00e3o posta \u00e9 que a prolifera\u00e7\u00e3o acelerada dessa valiosa, mas tamb\u00e9m complicada ferramenta tecnol\u00f3gica, n\u00e3o \u00e9 acompanhada de a\u00e7\u00f5es efetivas para lidar com seus riscos, incertezas e efeitos colaterais. Quem vai pagar os danos morais e psicol\u00f3gicos que Thais sofreu? Qual \u00e9 a responsabilidade dos agentes e do poder p\u00fablico pelos vieses e erros recorrentes em processos, servi\u00e7os e tomadas de decis\u00e3o baseadas em algoritmos? Por que n\u00e3o criar etapas avaliativas previamente \u00e0 utiliza\u00e7\u00e3o de IA? E, principalmente, at\u00e9 quando essa quest\u00e3o t\u00e3o relevante continuar\u00e1 fora da agenda priorit\u00e1ria da administra\u00e7\u00e3o p\u00fablica brasileira?<\/span><\/p>\n

No \u00e2mbito internacional, a<\/span> accountability<\/span> algor\u00edtmica, isto \u00e9, as medidas para garantir que indiv\u00edduos e organiza\u00e7\u00f5es que criam, adquirem e usam algoritmos sejam responsabilizados por seus impactos, est\u00e1 a pleno vapor<\/span>[3]<\/span>. Dois exemplos recentes dos governos brit\u00e2nico e estadunidense ilustram bem essa tend\u00eancia. O primeiro realizou no come\u00e7o deste m\u00eas uma ampla confer\u00eancia (<\/span>AI Safety Summit 2023<\/span>)<\/span>[4]<\/span> com representantes internacionais de empresas l\u00edderes de IA e da sociedade civil para discutir os riscos da IA e estrat\u00e9gias de mitiga\u00e7\u00e3o. Al\u00e9m da c\u00fapula, foram lan\u00e7ados um hub global encarregado de testar a seguran\u00e7a dos tipos emergentes de IA e o primeiro Instituto de Seguran\u00e7a de IA do mundo para tratar os potenciais preju\u00edzos no uso de algoritmos, com destaque para danos sociais como preconceito e desinforma\u00e7\u00e3o.<\/span><\/p>\n

Nos Estados Unidos, h\u00e1 duas semanas, o presidente Joe Biden editou uma Ordem Executiva<\/span>[5]<\/span> com medidas concretas de aprimoramento da governan\u00e7a do uso de intelig\u00eancia direcionadas \u00e0 padroniza\u00e7\u00e3o de seguran\u00e7a da IA, prote\u00e7\u00e3o de privacidade dos cidad\u00e3os e defesa dos consumidores e dos trabalhadores. Ademais, essa busca pelo uso seguro, transparente e confi\u00e1vel de algoritmo tem o foco na promo\u00e7\u00e3o da equidade e direitos civis, sobretudo mediante orienta\u00e7\u00e3o a todas as ag\u00eancias governamentais para combaterem a discrimina\u00e7\u00e3o algor\u00edtmica, considerando os danos do racismo sist\u00eamico e da pobreza persistente.<\/span><\/p>\n

No Brasil, todavia, essa agenda tem tido avan\u00e7os bem mais t\u00edmidos, em especial no enfrentamento aos vieses e discrimina\u00e7\u00e3o de ra\u00e7a e g\u00eanero, a despeito do pa\u00eds ter aderido aos Princ\u00edpios de IA da OCDE e indicado disposi\u00e7\u00e3o para implement\u00e1-los<\/span>[6]<\/span>. Nesse contexto, dois instrumentos merecem destaque: o Comit\u00ea de Governan\u00e7a de Dados e a Estrat\u00e9gia Brasileira de Intelig\u00eancia Artificial (EBIA). O primeiro, desde a sua cria\u00e7\u00e3o em 2019, tem sido ativo, emitindo resolu\u00e7\u00f5es sobre v\u00e1rios temas. Contudo, a maioria delas s\u00e3o centradas em salvaguardas de privacidade de dados e nenhuma se concentrou na abordagem dos riscos e responsabilidades associados \u00e0 IA ou ao aprendizado de m\u00e1quina (<\/span>machine learning<\/span>) tanto no setor p\u00fablico quanto privado.<\/span><\/p>\n

A EBIA, por sua vez, \u00e9 um documento formal, que visa avan\u00e7ar no desenvolvimento e utiliza\u00e7\u00e3o da tecnologia para o progresso cient\u00edfico e a solu\u00e7\u00e3o de problemas em \u00e1reas priorit\u00e1rias do pa\u00eds. No entanto, carece de medidas concretas para lidar com efeitos adversos das aplica\u00e7\u00f5es de IA, tais como preconceitos, quest\u00f5es relacionadas com desigualdades raciais e de g\u00eanero, como tamb\u00e9m de exclus\u00e3o digital.<\/span><\/p>\n

Esse \u00faltimo aspecto \u00e9 fundamental na realidade brasileira, uma vez que, mesmo com o crescente uso da internet pela popula\u00e7\u00e3o, as pesquisas recentes demonstram que a qualidade do acesso \u00e9 ainda bastante desigual<\/span>[7]<\/span>, refletindo n\u00e3o apenas em limita\u00e7\u00f5es na utiliza\u00e7\u00e3o plena dos benef\u00edcios da conectividade, como tamb\u00e9m agravando \u00e0 precariedade na presta\u00e7\u00e3o de servi\u00e7os p\u00fablicas aos exclu\u00eddos do processo de transforma\u00e7\u00e3o digital.<\/span><\/p>\n

Em s\u00edntese, embora sejam instrumentos relevantes, ambos ainda s\u00e3o insuficientes para enfrentar o grande desafio de tornar o uso de algoritmos nas decis\u00f5es e presta\u00e7\u00e3o de servi\u00e7os mais transparente, responsivo e, principalmente, justo. Em ess\u00eancia, o fortalecimento da governan\u00e7a da IA \u00e9 um processo cont\u00ednuo de aprendizagem, adapta\u00e7\u00e3o e experimenta\u00e7\u00e3o.<\/span><\/p>\n

Nesse sentido, al\u00e9m de avan\u00e7armos na regula\u00e7\u00e3o, \u00e9 preciso investir em capacidade estatal e na promo\u00e7\u00e3o de condi\u00e7\u00f5es para a sociedade atuar como parceira do poder p\u00fablico no mapeamento dos riscos e, assim, dar celeridade \u00e0 mitiga\u00e7\u00e3o dos preju\u00edzos, em especial \u00e0s parcelas mais vulner\u00e1veis da popula\u00e7\u00e3o brasileira. Logo, \u00e9 imperativo um amplo esfor\u00e7o nacional, incluindo todas as esferas de governo e Poderes da Rep\u00fablica, al\u00e9m do setor privado e terceiro setor, para o aprimoramento da <\/span>accountability<\/span> algor\u00edtmica no pa\u00eds.<\/span><\/p>\n

[1]<\/span> https:\/\/www.uol.com.br\/tilt\/noticias\/redacao\/2023\/11\/15\/erro-camera-reconhecimento-facial.htm<\/span><\/a>.<\/span><\/p>\n

[2]<\/span> https:\/\/www.estadao.com.br\/politica\/gestao-politica-e-sociedade\/nem-tudo-sao-flores-no-mundo-da-inteligencia-artificial\/.<\/span><\/p>\n

[3]<\/span> OECD (2023), Global Trends in Government Innovation 2023, OECD Public Governance Reviews, OECD Publishing, Paris, <\/span>https:\/\/doi.org\/10.1787\/0655b570-en<\/span><\/a>.<\/span><\/p>\n

[4]<\/span> https:\/\/www.aisafetysummit.gov.uk\/.<\/span><\/p>\n

[5]<\/span> https:\/\/www.whitehouse.gov\/briefing-room\/presidential-actions\/2023\/10\/30\/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence\/.<\/span><\/p>\n

[6]<\/span> OECD & CAF (2022). The Strategic and Responsible Use of Artificial Intelligence in the Public Sector of Latin America and the Caribbean, OECD Public Governance Reviews, OECD Publishing, Paris.<\/span><\/p>\n

[7]<\/span> https:\/\/cetic.br\/pt\/pesquisa\/domicilios\/indicadores\/.<\/span><\/p>","protected":false},"excerpt":{"rendered":"

\u201cFui discriminada publicamente por ser pobre e preta\u201d, afirma a jovem Thais, abordada de forma bruta, humilhante e, sobretudo, equivocada por policiais em Sergipe, ap\u00f3s erro de reconhecimento facial.[1] Esse \u00e9 apenas mais um dos in\u00fameros casos de injusti\u00e7as e discrimina\u00e7\u00e3o que o uso de intelig\u00eancia artificial (IA) nas pol\u00edticas e servi\u00e7os p\u00fablicos vem rotineiramente […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/5237"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=5237"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/5237\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=5237"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=5237"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=5237"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}