{"id":6082,"date":"2024-03-15T04:25:22","date_gmt":"2024-03-15T07:25:22","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2024\/03\/15\/alguns-apontamentos-sobre-o-ai-act-da-uniao-europeia\/"},"modified":"2024-03-15T04:25:22","modified_gmt":"2024-03-15T07:25:22","slug":"alguns-apontamentos-sobre-o-ai-act-da-uniao-europeia","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2024\/03\/15\/alguns-apontamentos-sobre-o-ai-act-da-uniao-europeia\/","title":{"rendered":"Alguns apontamentos sobre o AI Act da Uni\u00e3o Europeia"},"content":{"rendered":"

O desenvolvimento do uso da intelig\u00eancia artificial<\/a> (IA) tem sido marcado por uma s\u00e9rie de incidentes que evidenciam a complexidade do uso dessa tecnologia. Desde a perda de milh\u00f5es de d\u00f3lares por multinacional em Hong Kong \u2013 que teve seu funcion\u00e1rio enganado por golpistas habilmente assistidos por IA \u2013, o lament\u00e1vel uso para criar conte\u00fado expl\u00edcito envolvendo figuras p\u00fablicas (como o caso da popstar Taylor Swift), at\u00e9 a marcante presen\u00e7a na recente campanha eleitoral argentina e a dissemina\u00e7\u00e3o de fake news<\/em><\/a>, os exemplos s\u00e3o muitos e destacam os m\u00faltiplos desafios \u00e9ticos, legais e sociais que permeiam o universo da IA.<\/p>\n

Com uma perspectiva de precau\u00e7\u00e3o diante da tecnologia, os representantes dos Estados-membros da Uni\u00e3o Europeia deram um passo significativo ao aprovar, por unanimidade, o EU AI Act em 2 de fevereiro de 2024<\/a>. Com o texto da norma oficialmente divulgado<\/a>, e com a recente aprova\u00e7\u00e3o do texto pelo Parlamento Europeu em 13 de mar\u00e7o de 2024<\/a>, o tema volta a atrair aten\u00e7\u00e3o global. Ainda que possam ocorrer ajustes gramaticais no texto em uma etapa de verifica\u00e7\u00e3o final jur\u00eddico-lingu\u00edstica, h\u00e1 uma expectativa de que a norma entre em vigor no final de maio ou in\u00edcio de junho. O objetivo deste breve artigo \u00e9 trazer alguns destaques da norma apresentadas na vers\u00e3o de fevereiro, j\u00e1 que o Brasil, influenciado pelo \u201cEfeito Bruxelas\u201d, tende a seguir a Uni\u00e3o Europeia em suas iniciativas de regula\u00e7\u00e3o de tecnologia.<\/p>\n

O artigo 2 (3) do AI Act<\/em> teve sua reda\u00e7\u00e3o aprimorada, de modo a enfatizar a n\u00e3o aplica\u00e7\u00e3o do Regulamento em \u00e1reas fora do escopo do direito da Uni\u00e3o Europeia e em sistemas de IA destinados exclusivamente a fins militares, de defesa ou seguran\u00e7a nacional.<\/p>\n

Na sequ\u00eancia, no artigo 3 (1), foi alterada a defini\u00e7\u00e3o de \u201csistema de IA\u201d, ponto central do Regulamento, a fim de alinh\u00e1-la com o trabalho de organiza\u00e7\u00f5es internacionais, especialmente a Organiza\u00e7\u00e3o para a Coopera\u00e7\u00e3o e o Desenvolvimento Econ\u00f4mico<\/a> (OCDE).<\/p>\n

De acordo com o texto, o \u201csistema de IA\u201d \u00e9 um sistema baseado em m\u00e1quina, projetado para operar com n\u00edveis variados de autonomia e que pode exibir adaptabilidade ap\u00f3s o lan\u00e7amento, e que, para objetivos expl\u00edcitos ou impl\u00edcitos, infere, a partir dos inputs<\/em> recebidos, como gerar outputs<\/em>, previs\u00f5es, conte\u00fado, recomenda\u00e7\u00f5es ou decis\u00f5es que podem influenciar ambientes f\u00edsicos ou virtuais.<\/p>\n

Por sua vez, o Considerando 6 traz esclarecimentos sobre essa altera\u00e7\u00e3o, apontando que a nova defini\u00e7\u00e3o visa garantir seguran\u00e7a jur\u00eddica e converg\u00eancia internacional, al\u00e9m de excluir sistemas simples de softwares ou abordagens de programa\u00e7\u00e3o, que seriam baseados nas regras definidas exclusivamente por pessoas naturais para executar automaticamente opera\u00e7\u00f5es.<\/p>\n

No conjunto de pr\u00e1ticas proibidas delineadas no artigo 5, destacam-se certos sistemas de IA relacionados a:<\/p>\n

identifica\u00e7\u00e3o biom\u00e9trica em tempo real por autoridades policiais em espa\u00e7os p\u00fablicos, embora com exce\u00e7\u00f5es expressamente definidas;
\nexplora\u00e7\u00e3o de vulnerabilidades relacionadas \u00e0 idade, defici\u00eancia ou condi\u00e7\u00e3o socioecon\u00f4mica de indiv\u00edduos ou grupos espec\u00edficos;
\ncoleta indiscriminada de imagens faciais da internet ou de sistemas de CCTV para criar ou expandir bancos de dados de reconhecimento facial; e
\ninfer\u00eancia de emo\u00e7\u00f5es de pessoas em ambientes de trabalho e institui\u00e7\u00f5es educacionais, exceto por raz\u00f5es m\u00e9dicas ou de seguran\u00e7a.<\/p>\n

Ainda que tenha havido ajustes nos sistemas de IA proibidos, dada a natureza detalhada da regulamenta\u00e7\u00e3o e seu potencial para engessar e burocratizar o desenvolvimento da tecnologia no continente, perdeu-se a oportunidade de aprimorar a reda\u00e7\u00e3o das atividades proibidas e de trazer mais exemplos concretos nos Considerandos.<\/p>\n

Ademais, a inclus\u00e3o de v\u00e1rias exce\u00e7\u00f5es \u00e0s proibi\u00e7\u00f5es, inevitavelmente sugere uma reda\u00e7\u00e3o que carece de precis\u00e3o e concis\u00e3o, o que gera inseguran\u00e7a jur\u00eddica para os atores diante da falta de clareza sobre quais pr\u00e1ticas se enquadram entre as proibidas.<\/p>\n

O texto consolidado adotou um mecanismo de classifica\u00e7\u00e3o modificado para os sistemas de IA de alto risco, fruto de uma combina\u00e7\u00e3o das vers\u00f5es anteriores de defini\u00e7\u00e3o abstrata de sistemas de IA listados nos Anexos II e III, juntamente com uma rec\u00e9m-adicionada exce\u00e7\u00e3o.<\/p>\n

A exce\u00e7\u00e3o n\u00e3o considera como de alto risco os sistemas quando \u201cn\u00e3o houver risco significativo de dano \u00e0 sa\u00fade, seguran\u00e7a ou direitos fundamentais das pessoas naturais, incluindo n\u00e3o influenciar materialmente o resultado da tomada de decis\u00e3o\u201d, que se configura quando o sistema for destinado a realizar tarefas espec\u00edficas, aprimorar resultados de atividades humanas anteriores, detectar padr\u00f5es de decis\u00e3o sem substituir avalia\u00e7\u00f5es humanas ou realizar tarefas preparat\u00f3rias para uma avalia\u00e7\u00e3o relevante nos casos de uso listados no Anexo III.<\/p>\n

O texto aprovado confirma que o AI Act tamb\u00e9m se aplica aos provedores de modelos de IA de Uso Geral (GPAI) \u2014 sistema do ChatGPT, Bard, Gemini etc. \u2014, contendo uma nova se\u00e7\u00e3o direcionada ao tema (artigos 52a at\u00e9 52e). Essas novas regras introduzem obriga\u00e7\u00f5es para os modelos de GPAI que incluem a manuten\u00e7\u00e3o atualizada e disponibiliza\u00e7\u00e3o, mediante solicita\u00e7\u00e3o, de documenta\u00e7\u00e3o t\u00e9cnica para autoridades competentes nacionais e para o AI Office, comiss\u00e3o de monitoramento e supervis\u00e3o de sistemas de IA. Entre os modelos GPAI, podem vir a ser considerados como de risco sist\u00eamico, com obriga\u00e7\u00f5es adicionais, aqueles que tenham capacidades de alto impacto ou ap\u00f3s decis\u00e3o individual do AI Office.<\/p>\n

Essas novas regras introduzem obriga\u00e7\u00f5es para os modelos de GPAI que incluem a manuten\u00e7\u00e3o atualizada e disponibiliza\u00e7\u00e3o, mediante solicita\u00e7\u00e3o, de documenta\u00e7\u00e3o t\u00e9cnica para autoridades competentes nacionais e para o AI Office<\/em>, comiss\u00e3o de monitoramento e supervis\u00e3o de sistemas de IA. Entre os modelos GPAI, podem vir a ser considerados como de risco sist\u00eamico, com obriga\u00e7\u00f5es adicionais, aqueles que tenham capacidades de alto impacto ou ap\u00f3s decis\u00e3o individual do AI Office<\/em>.<\/p>\n

Seguindo o proposto anteriormente pelo Conselho Europeu, o regulamento traz a possibilidade de testes de sistemas de IA de alto risco em condi\u00e7\u00f5es do mundo real, em ambientes fora de sandboxes<\/em> regulat\u00f3rios, desde que obtido o consentimento livre e informado dos titulares envolvidos. H\u00e1 diversas salvaguardas elencadas nos artigos 54a e 54b do EU AI Act para esses testes em mundo real, entre elas, aprova\u00e7\u00e3o pr\u00e9via do plano de teste apresentado pela Autoridade Reguladora do mercado, prazos estipulados, garantia de exclus\u00e3o de dados para os titulares, inspe\u00e7\u00f5es e monitoramento dos testes.<\/p>\n

Os valores das multas previstas na IA tamb\u00e9m passaram por ajustes em rela\u00e7\u00e3o \u00e0s vers\u00f5es do ano passado. Conforme delineado no artigo 71, as penalidades variam entre 35 milh\u00f5es de euros ou 7% do volume de neg\u00f3cios anual por viola\u00e7\u00f5es relativas a sistemas de IA proibidos do artigo 5\u00ba do EU AI Act<\/em>, ligeiramente acima do limite estabelecido no texto revisado pelo Conselho.<\/p>\n

Por outro lado, as quantias das penalidades acordadas para os demais casos s\u00e3o um pouco inferiores \u00e0 posi\u00e7\u00e3o do Conselho, entre elas, a multa de 15 milh\u00f5es de euros ou 3% do volume de neg\u00f3cios global anual para outras viola\u00e7\u00f5es n\u00e3o relacionadas ao artigo 5\u00ba e 7,5 milh\u00f5es de euros ou 1% do volume de neg\u00f3cios global anual pelo fornecimento de informa\u00e7\u00f5es incorretas aos entes reguladores. Entre os limites apresentados, ser\u00e1 aplicado o montante que representar a maior penalidade.<\/p>\n

Ap\u00f3s a publica\u00e7\u00e3o no Di\u00e1rio Oficial da UE, o EU AI Act<\/em> entrar\u00e1 em vigor 20 dias depois e, semelhante ao procedimento da LGPD, est\u00e1 previsto um per\u00edodo de transi\u00e7\u00e3o para a efic\u00e1cia das normas (vacatio legis<\/em>), de acordo com a classifica\u00e7\u00e3o da atividade. Em 6 meses da publica\u00e7\u00e3o, entram em vigor as obriga\u00e7\u00f5es para os sistemas de IA proibidos; em 12 meses as relacionadas a obriga\u00e7\u00f5es de sistemas GPAI; em 24 meses para a maioria das obriga\u00e7\u00f5es, inclu\u00eddas as regras para sistemas de IA de alto risco do Anexo III; e 36 meses para obriga\u00e7\u00f5es relacionadas a sistemas de alto risco inclu\u00eddos no Anexo II.<\/p>\n

Por ser uma regulamenta\u00e7\u00e3o densa e extensa, o pr\u00f3ximo passo \u00e9, portanto, compreender a classifica\u00e7\u00e3o das atividades para determinar as obriga\u00e7\u00f5es a serem cumpridas e os prazos, estabelecendo um plano de a\u00e7\u00e3o para garantir a conformidade com o AI Act<\/em> ap\u00f3s sua promulga\u00e7\u00e3o.<\/p>\n

Com o texto final j\u00e1 aprovado pelo Parlamento, permanece a incerteza sobre a capacidade das empresas que utilizam essa tecnologia complexa de se adaptarem aos requisitos regulat\u00f3rios, enfrentando custos substanciais e uma carga burocr\u00e1tica que podem desencorajar investimentos.<\/p>\n

Embora n\u00e3o seja poss\u00edvel prever o futuro e os impactos, mostra-se fundamental que as autoridades europeias busquem tomar medidas para garantir que a regulamenta\u00e7\u00e3o n\u00e3o prejudique a competitividade e a inova\u00e7\u00e3o no setor de intelig\u00eancia artificial na regi\u00e3o. Mas n\u00e3o \u00e9 s\u00f3. N\u00f3s, aqui no Brasil, diferentemente do que foi feito com a LGPD, temos uma oportunidade para observar a vig\u00eancia gradual do EU AI Act e, a partir da\u00ed, extrairmos aprendizados.<\/p>","protected":false},"excerpt":{"rendered":"

O desenvolvimento do uso da intelig\u00eancia artificial (IA) tem sido marcado por uma s\u00e9rie de incidentes que evidenciam a complexidade do uso dessa tecnologia. Desde a perda de milh\u00f5es de d\u00f3lares por multinacional em Hong Kong \u2013 que teve seu funcion\u00e1rio enganado por golpistas habilmente assistidos por IA \u2013, o lament\u00e1vel uso para criar conte\u00fado […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/6082"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=6082"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/6082\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=6082"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=6082"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=6082"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}