{"id":5236,"date":"2023-12-01T23:38:27","date_gmt":"2023-12-02T02:38:27","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2023\/12\/01\/regulacao-da-ia-no-brasil-o-substitutivo-ao-pl-2338\/"},"modified":"2023-12-01T23:38:27","modified_gmt":"2023-12-02T02:38:27","slug":"regulacao-da-ia-no-brasil-o-substitutivo-ao-pl-2338","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2023\/12\/01\/regulacao-da-ia-no-brasil-o-substitutivo-ao-pl-2338\/","title":{"rendered":"Regula\u00e7\u00e3o da IA no Brasil: o substitutivo ao PL 2338"},"content":{"rendered":"

Narra-se que, certa vez, um poeta aprendiz requisitou o aux\u00edlio de Bocage para que lhe apontasse erros em seu soneto, marcando-os com cruzes. Contudo, para seu espanto, o texto retornou sem nenhum sinal. Foi assim, que julgando, em ef\u00eamera vaidade, ser um grande sonetista, o jovem teria ouvido do mestre a c\u00e9lebre frase: \u201ca emenda ficaria pior do que o soneto\u201d.<\/p>\n

Semelhante racioc\u00ednio tamb\u00e9m serviria para explicar o substitutivo ao PL 2338\/2023<\/a>, que busca regular a intelig\u00eancia artificial no Brasil, apresentado no \u00faltimo dia 27 de novembro pelo senador Marcos Pontes (PL-SP), atual ocupante da vice-presid\u00eancia da Comiss\u00e3o Tempor\u00e1ria Interna sobre Intelig\u00eancia Artificial no Brasil.<\/p>\n

A t\u00edtulo de contextualiza\u00e7\u00e3o, a referida Comiss\u00e3o foi instalada com o objetivo de examinar os projetos concernentes ao relat\u00f3rio final aprovado pela Comiss\u00e3o de Juristas respons\u00e1vel por subsidiar a elabora\u00e7\u00e3o de substitutivo sobre intelig\u00eancia artificial no Brasil, criada pelo ato do Presidente do Senado Federal 4, de 2022, bem como eventuais novos projetos que disciplinem a mat\u00e9ria. Diante disso, foram realizadas, ao longo dos \u00faltimos meses, diversas audi\u00eancias p\u00fablicas, que receberam a contribui\u00e7\u00e3o de especialistas dos mais variados setores.<\/p>\n

No contexto macrosc\u00f3pico, o debate em torno da regula\u00e7\u00e3o da intelig\u00eancia artificial no Brasil parece estar concentrado numa tens\u00e3o manique\u00edsta (e reducionista) entre duas abordagens regulat\u00f3rias distintas, representadas pelo PL 21\/2020<\/a>, j\u00e1 aprovado pela C\u00e2mara dos Deputados, e pelo PL 2338, que \u00e9 fruto do trabalho da Comiss\u00e3o de Juristas institu\u00edda pelo Senado em 2022 e da qual tive a honra de participar como membro efetivo.<\/p>\n

O projeto da C\u00e2mara ficou marcado pelo seu reduzo escopo e pela falta de preocupa\u00e7\u00e3o com assuntos de vital import\u00e2ncia, como a prote\u00e7\u00e3o de direitos fundamentais, al\u00e9m de apresentar um modelo de responsabilidade civil que beira a inconstitucionalidade. Por outro lado, o projeto do Senado se notabilizou por consolidar uma abordagem inovadora, que vem sendo elogiada internacionalmente e se baseia em riscos e direitos, al\u00e9m de prever detalhadas medidas de governan\u00e7a, que, por outro lado, acabaram por desagradar diversos setores produtivos, que as consideram excessivas.<\/p>\n

Um olhar desapaixonado e apartado das solu\u00e7\u00f5es imediatistas e bin\u00e1rias poderia facilmente enxergar que o PL 2338 representa um avan\u00e7o colossal, ainda que n\u00e3o se trate de uma obra pronta, perfeita e acabada. Merece, inequivocamente, aprofundamentos, aperfei\u00e7oamentos e calibragens: basta pensar, por exemplo, que n\u00e3o houve endere\u00e7amento expresso (o que se explica pela novidade do tema) aos t\u00e3o debatidos sistemas de intelig\u00eancia artificial generativa, que t\u00eam sido motivo de paraliza\u00e7\u00e3o nas discuss\u00f5es sobre a regula\u00e7\u00e3o da mat\u00e9ria no \u00e2mbito do chamado AI Act da Uni\u00e3o Europeia. Al\u00e9m disso, importa ressaltar que o referido projeto \u00e9 oriundo de trabalho extenso e dedicado de uma Comiss\u00e3o de Juristas que prestou servi\u00e7os ao pa\u00eds durante quase um ano inteiro. O texto resulta, assim, de grande reflex\u00e3o e apuro t\u00e9cnico, ancorados em contribui\u00e7\u00f5es, orais e escritas, recebidas dos mais diversos setores.<\/p>\n

Eis que, ao arrepio das discuss\u00f5es que vinham sendo levadas a cabo, o senador Marcos Pontes apresenta um texto substitutivo, composto por 22 artigos que ignoram os avan\u00e7os trazidos pela vers\u00e3o original do Projeto de Lei. E, mais preocupante que isso: consegue produzir sens\u00edveis e sonoros retrocessos, especialmente por eliminar o cap\u00edtulo de direitos consagrados \u00e0s pessoas afetadas por sistemas de Intelig\u00eancia Artificial, as medidas de governan\u00e7a para mitiga\u00e7\u00e3o de riscos dos sistemas e, de forma espantosa, a avalia\u00e7\u00e3o de impacto algor\u00edtmico, fundamento de qualquer modelo regulat\u00f3rio baseado em riscos<\/p>\n

Logo no artigo 1\u00ba, destaca que \u201cesta Lei estabelece normas gerais de car\u00e1ter nacional para o desenvolvimento, implementa\u00e7\u00e3o e uso respons\u00e1vel de sistemas de intelig\u00eancia artificial (IA<\/a>) no Brasil, com o objetivo de proteger os direitos fundamentais e garantir a implementa\u00e7\u00e3o de sistemas seguros e confi\u00e1veis, em benef\u00edcio da pessoa humana, do regime democr\u00e1tico e do desenvolvimento cient\u00edfico e tecnol\u00f3gico\u201d.<\/p>\n

Na sequ\u00eancia, h\u00e1 uma dose de repeti\u00e7\u00e3o das normas da vers\u00e3o original do PL nos artigos 2\u00ba, 3\u00ba e 4\u00ba, que trazem, respectivamente, defini\u00e7\u00f5es (sistemas de IA, agentes, usu\u00e1rios, discrimina\u00e7\u00e3o, autoridade competente\u2026), fundamentos, objetivos e, por fim, princ\u00edpios. No artigo 5\u00ba, apresenta, em t\u00edtulo alarmista, t\u00edpico de fic\u00e7\u00f5es cient\u00edficas, \u201cprinc\u00edpios norteadores para a prote\u00e7\u00e3o da esp\u00e9cie humana e dos dados pessoais no desenvolvimento e uso da IA\u201d, que em nada inovam e tampouco endere\u00e7am as cr\u00edticas feitas \u00e0s defini\u00e7\u00f5es apresentadas pela vers\u00e3o original.<\/p>\n

Por seu turno, os artigos 6\u00ba, 7\u00ba e 8\u00ba, trazem normas de \u201cfomento ao desenvolvimento e uso da IA no Brasil\u201d, que s\u00e3o absolutamente bem-vindas, embora deslocadas e reduzidas, j\u00e1 que deveriam fazer parte de uma pol\u00edtica e uma Estrat\u00e9gia mais ampla de desenvolvimento da intelig\u00eancia artificial no Brasil. No entanto, a boa inten\u00e7\u00e3o dos dispositivos os blinda das cr\u00edticas mais duras.<\/p>\n

Avan\u00e7ando na leitura, os artigos 9\u00ba e 10 trazem a chamada \u201cavalia\u00e7\u00e3o do risco do uso de IA\u201d, que se baseia em tabela anexa, que traz detalhada matriz de riscos quantitativos e qualitativos, que se subdividem em tr\u00eas n\u00edveis (alto, m\u00e9dio e baixo), os quais s\u00e3o calculados a partir de uma an\u00e1lise que conjuga probabilidade e impacto, conforme elencado em tabelas previstas nos anexos I e II.<\/p>\n

De acordo com o inciso IV do artigo 9\u00ba: \u201cO c\u00e1lculo do risco de utiliza\u00e7\u00e3o de determinado sistema a ser desenvolvido ou operado no Brasil dever\u00e1 ser realizado pelo desenvolvedor ou operador do sistema conforme crit\u00e9rios acima e apresentado \u00e0 autoridade nacional em relat\u00f3rio padr\u00e3o com as devidas justificativas t\u00e9cnicas utilizadas na defini\u00e7\u00e3o dos n\u00edveis. Uma vez auditado e aprovado pela autoridade competente, o n\u00edvel de risco do sistema ser\u00e1 utilizado para determinar as obriga\u00e7\u00f5es do desenvolvedor ou operador, conforme o cap\u00edtulo V\u201d. Importante ressaltar que n\u00e3o h\u00e1 proibi\u00e7\u00f5es pr\u00e9vias a nenhum tipo de utiliza\u00e7\u00e3o de IA, diferentemente do que fora estabelecido pela vers\u00e3o original.<\/p>\n

O cap\u00edtulo V, que compreende os artigos 11 a 14, traz \u201cobriga\u00e7\u00f5es de desenvolvedores e operadores de sistemas de IA segundo o n\u00edvel de risco\u201d. Neste ponto, \u00e9 not\u00f3ria, em compara\u00e7\u00e3o \u00e0 vers\u00e3o original do PL, a redu\u00e7\u00e3o nas medidas de governan\u00e7a impostas aos agentes de IA, as quais se concentram, no novo texto, em indesejada e preocupante limita\u00e7\u00e3o, na elabora\u00e7\u00e3o de documenta\u00e7\u00e3o e notifica\u00e7\u00e3o da autoridade competente a ser criada pelo governo federal.<\/p>\n

Ainda nesse cap\u00edtulo, em tentativa frustrada de endere\u00e7ar os riscos oriundos das Intelig\u00eancias Artificiais Generativas, o artigo 14 disp\u00f5e que: \u201cOs operadores de sistemas de IA de qualquer n\u00edvel de risco que gerem conte\u00fados devem ter o conte\u00fado autenticado e a imposi\u00e7\u00e3o de marca d\u2019\u00e1gua para rotular claramente o conte\u00fado gerado por IA. Par\u00e1grafo \u00fanico \u2013 O desenvolvimento de padr\u00f5es e melhores pr\u00e1ticas para a detec\u00e7\u00e3o de conte\u00fado gerado por IA e autentica\u00e7\u00e3o de conte\u00fado oficial ser\u00e1 promovido pela autoridade competente, que estabelecer\u00e1 diretrizes para autentica\u00e7\u00e3o de conte\u00fado e marca d\u2019\u00e1gua para rotular claramente o conte\u00fado gerado por IA\u201d.<\/p>\n

Ainda que imbu\u00eddo de boas inten\u00e7\u00f5es, a atecnia do dispositivo chega a ser constrangedora por parecer supor que a simples (e, por vezes, onerosa) imposi\u00e7\u00e3o de \u201cmarca d\u2019\u00e1gua\u201d ser\u00e1 capaz de atenuar os perigos da IA generativa. Al\u00e9m disso, como inserir uma marca d\u2019\u00e1gua num conte\u00fado de \u00e1udio?<\/p>\n

O cap\u00edtulo VI, composto pelos artigos 15 e 16 busca regulamentar a chamada \u201cautoridade competente\u201d, tal como j\u00e1 previa a vers\u00e3o original do texto. Inova, contudo, ao criar um Conselho Nacional sobre Intelig\u00eancia Artificial (CNIA), que, coordenado por dita autoridade, teria o objetivo de orientar e supervisionar o desenvolvimento e aplica\u00e7\u00e3o da IA no pa\u00eds. Prop\u00f5e-se, assim, um novo arranjo institucional, que revela-se \u00fatil para o avan\u00e7o dos debates.<\/p>\n

Na sequ\u00eancia, o artigo 17 traz diretrizes sobre o tratamento humano \u00e0 Intelig\u00eancia Artificial, que se ancora em \u201crespeito\u201d, \u201cconhecimento\u201d, \u201csupervis\u00e3o\u201d, \u201cresponsabilidade\u201d e \u201cpromo\u00e7\u00e3o do bem-estar\u201d. Trata-se, ao fim do dia, de uma vers\u00e3o empobrecida das medidas de governan\u00e7a previstas pelo PL original, com o agravante de ter eliminado, de forma expressa, o cap\u00edtulo de direitos, em n\u00edtido retrocesso. Os artigos 21 e 22 apenas trazem disposi\u00e7\u00f5es finais.<\/p>\n

No entanto, como se toda essa atecnia e a flagrante desprote\u00e7\u00e3o j\u00e1 n\u00e3o fossem graves demais, o Substitutivo reserva para os derradeiros artigos a maior das inconsist\u00eancias: o cap\u00edtulo VIII, intitulado \u201cresponsabilidade por danos na utiliza\u00e7\u00e3o de IA\u201d. Vejamos a \u00edntegra dos dispositivos:<\/p>\n

Art. 18\u00ba. A responsabilidade por danos, civis ou penais, decorrentes da utiliza\u00e7\u00e3o de sistemas de IA classificados como de Baixo Risco \u00e9 imputada exclusivamente ao operador ou usu\u00e1rio de sistema de IA que deliberadamente empregou o referido sistema.<\/p>\n

1\u00ba Esta responsabilidade abrange, mas n\u00e3o se limita a, danos causados por:<\/p>\n

a) Uso indevido ou impr\u00f3prio do sistema de IA;
\nb) Falhas em seguir as instru\u00e7\u00f5es ou diretrizes operacionais; e
\nc) Decis\u00f5es tomadas com base nas informa\u00e7\u00f5es fornecidas pelo sistema de IA.<\/p>\n

2\u00ba Exclui-se a responsabilidade do operador ou usu\u00e1rio de sistema de IA nos casos em que seja demonstrado que o dano ocorreu devido a um defeito intr\u00ednseco ao sistema de IA, n\u00e3o relacionado \u00e0 sua opera\u00e7\u00e3o ou uso.<\/p>\n

Art. 19\u00ba. A responsabilidade por danos, civis ou penais, decorrentes da utiliza\u00e7\u00e3o de sistemas de IA classificados como de M\u00e9dio Risco recai sobre o desenvolvedor do sistema quando tais danos forem resultado de decis\u00f5es aut\u00f4nomas tomadas pelo sistema.<\/p>\n

1\u00ba Esta responsabilidade inclui, mas n\u00e3o se limita a, danos causados por falhas de projeto, defici\u00eancias nos algoritmos, ou erros no processamento de dados.
\n2\u00ba A responsabilidade do desenvolvedor n\u00e3o exclui a possibilidade de corresponsabilidade do operador ou do usu\u00e1rio de sistema de IA, especialmente em casos de uso indevido ou n\u00e3o conforme as instru\u00e7\u00f5es fornecidas pelo desenvolvedor.<\/p>\n

Art. 20\u00ba. Em casos de sistemas de IA classificados como de Alto Risco, a responsabilidade integral por danos, civis ou penais, decorrentes de decis\u00f5es aut\u00f4nomas tomadas pelo sistema recai sobre o desenvolvedor do sistema.<\/p>\n

1\u00ba Esta responsabilidade abrange danos resultantes de falhas de projeto, inadequa\u00e7\u00f5es nos algoritmos, falhas na integra\u00e7\u00e3o de dados, e quaisquer outras defici\u00eancias t\u00e9cnicas ou de seguran\u00e7a.
\n2\u00ba \u2013 O desenvolvedor deve garantir a implementa\u00e7\u00e3o de medidas de seguran\u00e7a adequadas e mecanismos de supervis\u00e3o para minimizar riscos.<\/p>\n

O texto \u00e9, portanto, inadequado, at\u00e9cnico e inoportuno. Em primeiro lugar, inaugura, ao arrepio do rigor cient\u00edfico, o conceito de \u201cresponsabilidade por danos, civis ou penais\u201d, parecendo tentar tratar, a um s\u00f3 tempo, Direito Civil e Direito Penal pela mesma l\u00f3gica, o que j\u00e1 seria perigoso por si s\u00f3.<\/p>\n

O artigo 18 traz que dita responsabilidade, no caso de IAs de baixo risco, ser\u00e1 imputada exclusivamente aos operadores ou usu\u00e1rios de sistemas de IA que deliberadamente a tenham empregado. No entanto, o \u00a72\u00ba traz a excludente de responsabilidade (sem deixar claro se serve tamb\u00e9m ao Direito Penal) caso seja demonstrado que o dano deriva de defeito intr\u00ednseco ao sistema de IA, n\u00e3o relacionado \u00e0 sua opera\u00e7\u00e3o ou uso. Dito resumidamente, exclui-se a responsabilidade em casos de defeitos.<\/p>\n

Na sequ\u00eancia, o artigo 19 aponta que a responsabilidade, em rela\u00e7\u00e3o aos sistemas de IA de m\u00e9dio risco, recair\u00e1 sobre o desenvolvedor do sistema quando os danos resultarem de decis\u00f5es aut\u00f4nomas tomadas pelo sistema. O perigo do dispositivo \u00e9 que, a contrario sensu, <\/em>caso a decis\u00e3o n\u00e3o seja tomada de forma aut\u00f4noma pelo sistema, isto \u00e9, se houver supervis\u00e3o ou participa\u00e7\u00e3o humana efetiva, n\u00e3o haver\u00e1 responsabilidade.<\/p>\n

Ainda neste artigo, o \u00a71\u00ba traz que a responsabilidade inclui danos oriundos de falhas de projeto, defici\u00eancias nos algoritmos, ou erros no processamento de dados, embora a eles n\u00e3o se limite. S\u00e3o, no fundo, conceitos jur\u00eddicos indeterminados que mais atrapalham do que auxiliam. Finalmente, o \u00a72\u00ba aponta que a responsabilidade do desenvolvedor n\u00e3o exclui a corresponsabilidade dos operadores ou usu\u00e1rios, especialmente em casos de uso indevido ou n\u00e3o conforme as instru\u00e7\u00f5es fornecidas. Ora, n\u00e3o seria esta precisamente uma causa de fato de terceiro (aqui transformada em fator de imputa\u00e7\u00e3o)? Al\u00e9m disso, corresponsabilidade significa solidariedade? Em princ\u00edpio n\u00e3o, pois a regra geral \u00e9 de que a solidariedade n\u00e3o se presume.<\/p>\n

Eis que surge o artigo 20, que imputa, em caso de danos causados por IAs de alto risco, a responsabilidade integral pelas decis\u00f5es aut\u00f4nomas do sistema ao seu desenvolvedor. Dito em outras palavras, o \u00f4nus passa a recair totalmente sobre os ombros de quem desenvolve, de modo que quem utiliza ou se beneficia da IA em nada responder\u00e1 pelos seus riscos nessa hip\u00f3tese.<\/p>\n

\u00c9 for\u00e7oso concluir: em mat\u00e9ria de Responsabilidade Civil (e aparentemente Penal tamb\u00e9m agora) a emenda n\u00e3o saiu pior do que o soneto: ela o destruiu. O novo texto tem graves e irremedi\u00e1veis problemas em sua truncada reda\u00e7\u00e3o, que acaba por bagun\u00e7ar os regimes de responsabilidade, realizando uma reparti\u00e7\u00e3o acr\u00edtica (e sem qualquer rigor t\u00e9cnico) dos riscos entre os agentes envolvidos. Isso sem falar que a pr\u00f3pria defini\u00e7\u00e3o de um sistema de IA como de alto, m\u00e9dio ou baixo risco \u00e9 t\u00e3o \u00e1rdua, que acabaria por dificultar sobremaneira a pr\u00f3pria aplica\u00e7\u00e3o das normas aos casos concretos.<\/p>\n

Merece destaque, ademais, o fato de que o Substitutivo se limita a estabelecer quem s\u00e3o os sujeitos respons\u00e1veis, mas n\u00e3o qualifica a qual t\u00edtulo eles responder\u00e3o, isto \u00e9, se com base em regime objetivo, subjetivo ou de culpa presumida. Sequer se fala, ademais, da invers\u00e3o do \u00f4nus da prova. E, finalmente, n\u00e3o se faz qualquer men\u00e7\u00e3o \u00e0 harmoniza\u00e7\u00e3o com as normas consumeristas, o que pode abrir margem para d\u00favidas sobre conflitos entre os diversos diplomas legais, j\u00e1 que o novo texto parece ter querido se imiscuir tamb\u00e9m na esfera do C\u00f3digo de Defesa do Consumidor.<\/p>\n

Como se pode notar, o Substitutivo apresentado \u00e9 marcado por indesej\u00e1vel retrocesso e ignora completamente os robustos avan\u00e7os proporcionados pela vers\u00e3o original do PL 2338, eliminando, sem qualquer justificativa, disposi\u00e7\u00f5es como aquelas que traziam proibi\u00e7\u00f5es a certos sistemas de IA de risco excessivo, dispunham sobre medidas de governan\u00e7a para mitiga\u00e7\u00e3o de risco, determinavam a realiza\u00e7\u00e3o de an\u00e1lise de impacto algor\u00edtmico, \u00a0disciplinavam minera\u00e7\u00e3o de dados e direitos autorais, e, principalmente, concretizavam direitos fundamentais. Excluindo direitos, a um s\u00f3 tempo o Substitutivo ressuscita aquilo que o PL 21\/2020 tinha de pior e sepulta o que a sua vers\u00e3o original tinha de melhor: torna-se mera proclama\u00e7\u00e3o ret\u00f3rica, sem qualquer efetividade pr\u00e1tica na prote\u00e7\u00e3o de garantias fundamentais.<\/p>\n

Resta-nos agora aguardar o relat\u00f3rio a ser apresentado pelo senador Eduardo Gomes (PL-TO), na esperan\u00e7a de que o legado do PL 2338\/2023 n\u00e3o seja colocado em risco.<\/p>\n

*<\/p>\n

As opini\u00f5es expressas neste artigo s\u00e3o de responsabilidade \u00fanica e exclusiva do autor.<\/em><\/p>","protected":false},"excerpt":{"rendered":"

Narra-se que, certa vez, um poeta aprendiz requisitou o aux\u00edlio de Bocage para que lhe apontasse erros em seu soneto, marcando-os com cruzes. Contudo, para seu espanto, o texto retornou sem nenhum sinal. Foi assim, que julgando, em ef\u00eamera vaidade, ser um grande sonetista, o jovem teria ouvido do mestre a c\u00e9lebre frase: \u201ca emenda […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/5236"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=5236"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/5236\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=5236"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=5236"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=5236"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}