{"id":13423,"date":"2025-08-13T10:52:16","date_gmt":"2025-08-13T13:52:16","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/08\/13\/regulacao-de-ia-deve-proteger-direitos-e-incentivar-apenas-inovacao-responsavel\/"},"modified":"2025-08-13T10:52:16","modified_gmt":"2025-08-13T13:52:16","slug":"regulacao-de-ia-deve-proteger-direitos-e-incentivar-apenas-inovacao-responsavel","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/08\/13\/regulacao-de-ia-deve-proteger-direitos-e-incentivar-apenas-inovacao-responsavel\/","title":{"rendered":"Regula\u00e7\u00e3o de IA deve proteger direitos e incentivar apenas inova\u00e7\u00e3o respons\u00e1vel"},"content":{"rendered":"

Quando bem utilizada, a intelig\u00eancia artificial <\/a>pode trazer muitos ganhos relacionados \u00e0 maior efici\u00eancia, acessibilidade, otimiza\u00e7\u00e3o e at\u00e9 mesmo garantia de direitos fundamentais. Mas, para que isso efetivamente seja alcan\u00e7ado, \u00e9 fundamental que o seu desenvolvimento e utiliza\u00e7\u00e3o sejam pensados a partir de um olhar ativamente protetivo de direitos.<\/p>\n

O atual contexto de apenas autorregula\u00e7\u00e3o por regras principiol\u00f3gicas ou c\u00f3digos privados de boas condutas n\u00e3o \u00e9 mais suficiente para prevenir e mitigar os riscos e atuais danos causados pela IA. N\u00e3o falamos de presun\u00e7\u00e3o, mas de realidade que precisa ser considerada.<\/p>\n

Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/h3>\n

Caso contr\u00e1rio, como a IA est\u00e1 cada vez mais sendo utilizada para tomada de decis\u00e3o em diferentes inst\u00e2ncias, ela \u00e9 potencialmente violadora de todos os direitos fundamentais, sejam pol\u00edticos, sociais, individuais ou coletivos. Para citar alguns exemplos:<\/p>\n

Direito \u00e0 imagem e a honra quando sistemas de IA s\u00e3o utilizados para criar deep fakes ou mesmo deep nudes de meninas.
\nDireito \u00e0 igualdade quando os sistemas de IA discriminam ileg\u00edtima ou ilegalmente, seja direta ou indiretamente, com base em marcadores sociais, como ra\u00e7a, g\u00eanero, territ\u00f3rio e condi\u00e7\u00e3o social, especialmente quando esses crit\u00e9rios s\u00e3o somados.
\nAinda fruto de discrimina\u00e7\u00f5es algor\u00edtmicas, pode impactar o bom exerc\u00edcio do direito \u00e0 sa\u00fade, \u00e0 moradia, \u00e0\u00a0 educa\u00e7\u00e3o, ao trabalho, \u00e0 liberdade e at\u00e9 mesmo o acesso ao cr\u00e9dito.<\/p>\n

Para que seja poss\u00edvel identificar e mitigar eventuais impactos negativos dos sistemas de IA \u00e9 necess\u00e1rio que, previamente a utiliza\u00e7\u00e3o dos sistemas, eles passem poder testes e avalia\u00e7\u00f5es que permitam a identifica\u00e7\u00e3o dos riscos e consequente mitiga\u00e7\u00e3o dos efeitos negativos, inclusive com a possibilidade de n\u00e3o utiliza\u00e7\u00e3o quando o risco de impacto negativo em direitos \u00e9 muito maior que os benef\u00edcios. O PL 2338\/2023<\/a>, atualmente analisado em Comiss\u00e3o Especial de IA na C\u00e2mara dos Deputados<\/a>, prev\u00ea esse mecanismos.<\/p>\n

Inicialmente, h\u00e1 a previs\u00e3o da figura da avalia\u00e7\u00e3o preliminar no art. 12. Idealmente, essa avalia\u00e7\u00e3o ocorre para que, antes do emprego ou utiliza\u00e7\u00e3o, o agente de IA possa se avaliar para determinar o grau de risco do seu sistema, baseando-se nos crit\u00e9rios previstos na lei. Caso o sistema seja de alto risco, ser\u00e1 obrigat\u00f3ria a realiza\u00e7\u00e3o de uma avalia\u00e7\u00e3o de impacto algoritmico (AIA), que \u00e9 uma ferramenta fundamental na identifica\u00e7\u00e3o e mitiga\u00e7\u00e3o de riscos dos sistemas de IA.<\/p>\n

Segundo o professor Alessandro Mantelero, que \u00e9 um dos grandes especialistas na \u00e1rea, as avalia\u00e7\u00f5es de impacto algoritmico devem ter, pelo menos, as fases de prepara\u00e7\u00e3o, cogni\u00e7\u00e3o do risco, mitiga\u00e7\u00e3o dos riscos encontrados e monitoramento. No geral, a identifica\u00e7\u00e3o do risco e sua classifica\u00e7\u00e3o devem seguir uma matriz de risco que leve em conta a probabilidade do risco se materializar e a sua gravidade.<\/p>\n

Atualmente, o projeto de lei citado, na se\u00e7\u00e3o IV do Cap\u00edtulo III prev\u00ea a obrigatoriedade da AIA para os sistemas de alto risco. Al\u00e9m disso, \u00e9 importante que nesses processos de avalia\u00e7\u00e3o interna dos sistemas seja possibilitada, sempre que poss\u00edvel, a participa\u00e7\u00e3o social diversa, o que garante que os verdadeiros riscos que podem vir a se materializar sejam levantados pelos pr\u00f3prios futuros usu\u00e1rios do sistema.<\/p>\n

Tendo os riscos identificados e classificados, \u00e9 poss\u00edvel aplicar as diferentes medidas de mitiga\u00e7\u00e3o que podem passar por testes de qualidade, readequa\u00e7\u00f5es de potenciais impactos discriminat\u00f3rios, testes de acur\u00e1cia, robustez, medidas de transpar\u00eancia, nomea\u00e7\u00e3o de respons\u00e1veis e equipes t\u00e9cnicas, etc.<\/p>\n

\u00c9 importante que tais avalia\u00e7\u00f5es sejam feitas previamente \u00e0 introdu\u00e7\u00e3o do sistema em mercado ou disponibiliza\u00e7\u00e3o em servi\u00e7o, mas que tamb\u00e9m sejam constantemente monitoradas e, sempre que necess\u00e1rio, atualizadas.<\/p>\n

Assim, quando pensamos em incentivos \u00e0 inova\u00e7\u00e3o que possam tambem garantir a prote\u00e7\u00e3o dos direitos fundamentais, \u00e9 necess\u00e1rio, previamente, esclarecer o mito de que regula\u00e7\u00e3o e inova\u00e7\u00e3o s\u00e3o conflitantes. Uma regula\u00e7\u00e3o que proteja direitos, crie obriga\u00e7\u00f5es de governan\u00e7a e incentivos \u00e0 inova\u00e7\u00e3o respons\u00e1vel, como faz o PL 2338, n\u00e3o \u00e9 oposta ou impeditiva da inova\u00e7\u00e3o e do desenvolvimento econ\u00f4mico do Brasil.<\/p>\n

N\u00e3o se deseja qualquer inova\u00e7\u00e3o, mas a que seja protetiva de direitos e respons\u00e1vel. E mais, a exist\u00eancia de obriga\u00e7\u00f5es faz com que as pessoas tenham mais confian\u00e7a nesses produtos e servi\u00e7os, assim como cria seguran\u00e7a jur\u00eddica para os pr\u00f3prios agentes de IA.<\/p>\n

Utilizemos a hist\u00f3ria como exemplo: no in\u00edcio dos anos 90, quando se discutia o C\u00f3digo de Defesa do Consumidor, havia o mesmo argumento de que o modelo regulat\u00f3rio do CDC iria impedir o avan\u00e7o do Brasil. Hoje, 25 anos depois, h\u00e1, na verdade, um contexto de maior prote\u00e7\u00e3o de direitos dos consumidores, que n\u00e3o se deparam mais tantos produtos defeituosos que representam riscos para sua sa\u00fade, integridade ou seguran\u00e7a.<\/p>\n

Apesar dessa regra protetiva o Brasil n\u00e3o se tornou atrasado, mas o nosso desenvolvimento \u00e9 pautado no bem-estar e promo\u00e7\u00e3o de direitos fundamentais. Uma regula\u00e7\u00e3o eficiente, protetiva de direitos, \u00e9 condi\u00e7\u00e3o indispens\u00e1vel para o florescimento de produtos e servi\u00e7os de IA respons\u00e1veis, potencializadores do ser humano e do Estado democr\u00e1tico de Direito.<\/p>\n

Dito essa primeira premissa, interessante destacar pontos que fazem com que o PL 2338 seja um modelo equilibrado entre prote\u00e7\u00e3o de direitos e incentivo \u00e0 inova\u00e7\u00e3o. Lembrando, que n\u00e3o \u00e9 qualquer tipo de inova\u00e7\u00e3o, mas aquela que vai potencializar o Brasil, os brasileiros e seus direitos.<\/p>\n

Em primeiro lugar, a abordagem baseada em riscos e em direitos faz com que os agentes de IA sejam impactados por diferentes graus de for\u00e7a regulat\u00f3ria, ou seja, tenham mais ou menos obriga\u00e7\u00f5es de acordo com com o grau de risco em que se encontram. Dando exemplos, um chatbot que esclarece d\u00favidas em um site provavelmente ser\u00e1 baixo risco, n\u00e3o tendo grandes obriga\u00e7\u00f5es a cumprir, diferentemente de um sistema de IA que vai auxiliar no diagn\u00f3stico de doen\u00e7as. A exist\u00eancia dessas obriga\u00e7\u00f5es de governan\u00e7a e de um rol de direitos \u00e9 parte fundamental da garantia de direitos das pessoas potencialmente impactadas pelos sistemas de IA.<\/p>\n

Ademais, o PL 2338 traz algumas flexibiliza\u00e7\u00f5es que n\u00e3o podem ser desconsideradas. Primeiramente, o projeto cria exce\u00e7\u00f5es de escopo de aplica\u00e7\u00e3o no art. 1\u00ba, determinando situa\u00e7\u00f5es em que a lei n\u00e3o se aplica. Esse \u00e9 o caso de sistemas utilizados para fins particulares e n\u00e3o econ\u00f4micos e os sistemas utilizados para atividades de investiga\u00e7\u00e3o, pesquisa, testagem e desenvolvimento (\u00a71\u00ba, incisos I e III), que n\u00e3o s\u00e3o obrigados a cumprir com ela.<\/p>\n

Ainda, o \u00a72\u00ba do art. 1\u00ba traz tamb\u00e9m que o Sistema Nacional de Regula\u00e7\u00e3o e Governan\u00e7a de Intelig\u00eancia Artificial (SIA) regulamentar\u00e1 regimes simplificados, envolvendo flexibiliza\u00e7\u00e3o de obriga\u00e7\u00f5es regulat\u00f3rias em alguns casos, como padr\u00f5es e formatos abertos e livres n\u00e3o considerados de alto risco; projetos de interesse p\u00fablico e para incentivo \u00e0 inova\u00e7\u00e3o e \u00e0 pesquisa cient\u00edfica e tecnol\u00f3gica no ambiente produtivo, com vistas \u00e0 capacita\u00e7\u00e3o tecnol\u00f3gica, ao alcance da autonomia tecnol\u00f3gica e ao desenvolvimento do sistema produtivo nacional e regional do Brasil.<\/p>\n

Al\u00e9m disso, o PL 2338 traz uma s\u00e9rie de previs\u00f5es de flexibiliza\u00e7\u00f5es das obriga\u00e7\u00f5es de governan\u00e7a. Por exemplo, o \u00a71\u00ba do art. 18 disp\u00f5e que caber\u00e1 \u00e0s autoridades setoriais definir as hip\u00f3teses em que as obriga\u00e7\u00f5es estabelecidas em regulamento ser\u00e3o flexibilizadas ou dispensadas, de acordo com o contexto de atua\u00e7\u00e3o do agente de IA na cadeia de valor do sistema de IA. J\u00e1 o \u00a7 4\u00ba do art. 25 determina que caber\u00e1 \u00e0 autoridade setorial definir as hip\u00f3teses em que a AIA ser\u00e1 flexibilizada, levando em considera\u00e7\u00e3o o contexto de atua\u00e7\u00e3o e o papel de cada um dos agentes de IA e as normas gerais da autoridade competente.<\/p>\n

Da mesma forma, o Cap\u00edtulo X fala de medidas de fomento \u00e0 inova\u00e7\u00e3o respons\u00e1vel e a Se\u00e7\u00e3o V traz o art. 67 que permite que as autoridades setoriais definam crit\u00e9rios diferenciados para sistemas de IA ofertados por microempresas, empresas de pequeno porte e startups que promovam o desenvolvimento da ind\u00fastria tecnol\u00f3gica nacional.<\/p>\n

Informa\u00e7\u00f5es direto ao ponto sobre o que realmente importa: assine gratuitamente a JOTA<\/span> Principal, a nova newsletter do JOTA<\/span><\/a><\/h3>\n

Nesse ponto v\u00e1lido destacar que, apesar de existir as flexbiliza\u00e7\u00f5es de acordo com o porte da empresa, se uma empresa de pequeno porte quer desenvolver ou utilizar sistemas de IA de risco consider\u00e1vel, estar\u00e3o sujeitas \u00e0s medidas de governan\u00e7a previstas, j\u00e1 que a prioridade do ordenamento jur\u00eddico brasileiro \u00e9 a prote\u00e7\u00e3o de direitos.<\/p>\n

Outro ponto que permite a concilia\u00e7\u00e3o entre a prote\u00e7\u00e3o de direitos e o est\u00edmulo \u00e0 inova\u00e7\u00e3o \u00e9 a possibilidade de uma lei viva que permita atualiza\u00e7\u00e3o, j\u00e1 que os sistemas de IA evoluem rapidamente. Essa possibilidade est\u00e1, por exemplo, no rol exemplificativo de sistemas de alto risco do art. 14 e no art. 15 do PL 2338 que traz crit\u00e9rios para que o SIA identifique novos casos de aplica\u00e7\u00e3o de alto risco, o que mostra que a lei n\u00e3o \u00e9 fadada ao decurso do tempo.<\/p>","protected":false},"excerpt":{"rendered":"

Quando bem utilizada, a intelig\u00eancia artificial pode trazer muitos ganhos relacionados \u00e0 maior efici\u00eancia, acessibilidade, otimiza\u00e7\u00e3o e at\u00e9 mesmo garantia de direitos fundamentais. Mas, para que isso efetivamente seja alcan\u00e7ado, \u00e9 fundamental que o seu desenvolvimento e utiliza\u00e7\u00e3o sejam pensados a partir de um olhar ativamente protetivo de direitos. O atual contexto de apenas autorregula\u00e7\u00e3o […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/13423"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=13423"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/13423\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=13423"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=13423"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=13423"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}