O Regulamento UE 2024\/1689 foi aprovado em 2024 e tem por objetivo estabelecer regras harmonizadas para a intelig\u00eancia artificial na Uni\u00e3o Europeia. Por se tratar de uma das primeiras regula\u00e7\u00f5es abrangentes na mat\u00e9ria, o AI Act tem influenciado o debate quanto \u00e0 regulamenta\u00e7\u00e3o da IA ao redor do mundo, inclusive no Brasil.<\/p>\n
Um aspecto central nessa discuss\u00e3o envolve justamente definir qual conceito de sistema de IA ser\u00e1 adotado legalmente<\/strong>. Nesse sentido, um conceito amplo ou impreciso pode gerar impactos relevantes, especialmente em termos de inova\u00e7\u00e3o e seguran\u00e7a jur\u00eddica.<\/p>\n O Regulamento europeu somente se aplica a sistemas de IA enquadrados na defini\u00e7\u00e3o de seu artigo 3\u00ba, n.\u00ba 1: (1) sistema baseado em m\u00e1quina (\u201cmachine-based\u2019), (2) concebido para funcionar com n\u00edveis de autonomia vari\u00e1veis, (3) que pode apresentar capacidade de adapta\u00e7\u00e3o ap\u00f3s a sua implementa\u00e7\u00e3o, (4) e que, para objetivos expl\u00edcitos ou impl\u00edcitos, (5) com base nos dados de input que recebe, infere a forma de gerar outputs, (6) tais como previs\u00f5es, conte\u00fados, recomenda\u00e7\u00f5es ou decis\u00f5es, (7) capazes de influenciar ambientes f\u00edsicos ou virtuais.<\/p>\n Trata-se, notadamente, de uma defini\u00e7\u00e3o complexa, motivo pelo qual o pr\u00f3prio AI Act estabeleceu que a Comiss\u00e3o Europeia (CE) deveria elaborar orienta\u00e7\u00f5es sobre o conceito. Assim, a CE aprovou, no \u00faltimo dia 6 de fevereiro, uma minuta de Orienta\u00e7\u00f5es sobre a Defini\u00e7\u00e3o de um Sistema de IA (\u201cGuidelines on the Definition of an AI System<\/a>\u201d).<\/p>\n As Guidelines n\u00e3o s\u00e3o vinculantes, mas podem moldar a aplica\u00e7\u00e3o pr\u00e1tica do AI Act. Ademais, o documento pode tamb\u00e9m ser relevante ao contexto brasileiro, considerando a similaridade entre a defini\u00e7\u00e3o de sistemas de IA no AI Act e aquela disposta no PL 2.338\/2023.<\/p>\n Sistema baseado em m\u00e1quina<\/strong><\/p>\n Esse elemento enfatiza que os sistemas de IA s\u00e3o computacionalmente orientados. O termo \u201cmachine-based\u201d se refere ao fato de que os sistemas s\u00e3o desenvolvidos e implementados a partir de m\u00e1quinas, incluindo componentes como hardware ou software, os quais permitem o funcionamento da IA.<\/p>\n Autonomia<\/strong><\/p>\n No que se refere \u00e0 autonomia, a Comiss\u00e3o destaca que determinados sistemas de IA possuem um grau de independ\u00eancia que os permite operar sem envolvimento ou interven\u00e7\u00e3o humana direta ou indireta. Por isso, a IA completamente dependente da a\u00e7\u00e3o humana n\u00e3o poderia ser classificada como aut\u00f4noma.<\/p>\n Adaptabilidade<\/strong><\/p>\n O AI Act tamb\u00e9m define que o sistema pode apresentar adaptabilidade ap\u00f3s a implementa\u00e7\u00e3o, o que estaria relacionado a capacidades de autoaprendizagem, permitindo que o comportamento do sistema de IA se alterasse ao longo de seu uso. No entanto, a adaptabilidade n\u00e3o seria um aspecto necess\u00e1rio para a aplica\u00e7\u00e3o do AI Act a determinado sistema de IA.<\/p>\n Objetivos expl\u00edcitos ou impl\u00edcitos<\/strong><\/p>\n No geral, as Guidelines apontam que sistemas de IA s\u00e3o desenvolvidos para operar de acordo com um ou mais objetivos, os quais podem ser impl\u00edcita (e.g. prop\u00f3sito deduzido do comportamento do sistema) ou explicitamente (e.g. um prop\u00f3sito claramente expresso no c\u00f3digo do sistema) definidos. Os objetivos, contudo, seriam internos aos sistemas, referindo-se \u00e0s suas metas e aos seus resultados. Assim, isso diferiria da \u201cfinalidade prevista\u201d para o sistema, estabelecida com base nas influ\u00eancias do ambiente externo, incluindo o contexto no qual a IA foi projetada para ser implementada e como ela deve ser operada.<\/p>\n Infer\u00eancias<\/strong><\/p>\n O quinto elemento se refere \u00e0 capacidade de o sistema de IA inferir a gera\u00e7\u00e3o de outputs a partir dos inputs. Os outputs s\u00e3o obtidos predominantemente na fase de uso do sistema, sendo que as t\u00e9cnicas adotadas na fase de desenvolvimento seriam fundamentais para permitir as infer\u00eancias. Dentre as referidas t\u00e9cnicas de IA, a CE elenca abordagens de machine learning, al\u00e9m de t\u00e9cnicas baseadas em l\u00f3gica e conhecimento.<\/p>\n Categorias de outputs<\/strong><\/p>\n Na sequ\u00eancia, um outro aspecto que define sistema de IA \u00e9 a infer\u00eancia para a gera\u00e7\u00e3o de outputs. Tal capacidade, somada ao aprendizado de m\u00e1quina e a abordagens baseadas em conhecimento e l\u00f3gica, seria fundamental para distinguir a IA de outros softwares. Nos termos do AI Act, os outputs seriam: (i) previs\u00f5es (i.e. uma estimativa sobre o output com base no input); (ii) conte\u00fado (e.g. texto, imagens, v\u00eddeos, m\u00fasicas, dentre outros); (iii) recomenda\u00e7\u00f5es (i.e. sugest\u00f5es em rela\u00e7\u00e3o a a\u00e7\u00f5es espec\u00edficas, produtos ou servi\u00e7os, com base em prefer\u00eancias, comportamentos ou demais dados de input de um usu\u00e1rio); e (iv) decis\u00f5es (i.e. conclus\u00f5es ou escolhas determinadas pelo pr\u00f3prio sistema de IA).<\/p>\n Intera\u00e7\u00f5es com o ambiente<\/strong><\/p>\n Por fim, os outputs de um sistema n\u00e3o seriam passivos, impactando ativamente os ambientes nos quais s\u00e3o implementados (e.g. desde objetos f\u00edsicos tang\u00edveis a ecossistemas de software virtuais).\u00a0<\/strong><\/p>\n O PL de IA<\/a> disp\u00f5e sobre o desenvolvimento, o fomento e o uso \u00e9tico e respons\u00e1vel da IA, com base na centralidade da pessoa humana. Em dezembro de 2024, o PL foi aprovado pelo Senado \u2013 e agora ser\u00e1 revisto pela C\u00e2mara dos Deputados.<\/p>\n Apesar de procurar se contrapor \u00e0 abordagem europeia<\/a>, o fato \u00e9 que o PL de IA possui diversas similaridades com o AI Act. Um exemplo \u00e9 seu artigo 4\u00ba, I, o qual define sistema de IA como um \u201csistema baseado em m\u00e1quina que, com graus diferentes de autonomia e para objetivos expl\u00edcitos ou impl\u00edcitos, infere, a partir de um conjunto de dados ou informa\u00e7\u00f5es que recebe, como gerar resultados, em especial previs\u00e3o, conte\u00fado, recomenda\u00e7\u00e3o ou decis\u00e3o que possa influenciar o ambiente virtual, f\u00edsico ou real.\u201d<\/p>\n A reda\u00e7\u00e3o em muito se assemelha com a defini\u00e7\u00e3o de sistema de IA contida no AI Act, o que traz consigo d\u00favida razo\u00e1vel acerca do \u201cdesejo irresist\u00edvel de copiar as leis europeias<\/a>\u201d, particularmente na medida em que os efeitos do AI Act \u201cs\u00e3o desconhecidos at\u00e9 mesmo no seu lugar de origem<\/a>\u201d. Tendo em vista que o conceito de sistema de IA \u00e9 o ponto crucial da defini\u00e7\u00e3o do pr\u00f3prio escopo regulat\u00f3rio, compreendemos que uma importa\u00e7\u00e3o dos padr\u00f5es europeus poderia implicar uma s\u00e9rie de obriga\u00e7\u00f5es desproporcionais e anti-inova\u00e7\u00e3o<\/strong> aos agentes brasileiros.<\/p>\n Nota-se que, no contexto da UE, a defini\u00e7\u00e3o complexa de sistemas de IA produziu uma s\u00e9rie de d\u00favidas acerca de suas restri\u00e7\u00f5es e exce\u00e7\u00f5es, que suscitaram inclusive necessidade pr\u00e9via das Guidelines por parte da CE. Essas orienta\u00e7\u00f5es trouxeram mais clareza ao que se entende por sistema de IA no AI Act. Contudo, mesmo ap\u00f3s sua leitura, percebe-se que o conceito<\/strong> permanece significativamente amplo<\/strong>, a despeito da abordagem baseada em riscos do regulamento europeu. Dessa forma, \u00e9 prov\u00e1vel que a aplica\u00e7\u00e3o pr\u00e1tica do AI Act demande fortes esfor\u00e7os interpretativos<\/strong> pelos agentes regulados.<\/p>\n A partir de tais reflex\u00f5es, \u00e9 v\u00e1lido questionar se teremos uma capacidade regulat\u00f3ria no Brasil para a emiss\u00e3o de opini\u00f5es e orienta\u00e7\u00f5es c\u00e9leres e claras, aptas a garantir uma aplica\u00e7\u00e3o adequada de uma legisla\u00e7\u00e3o de\u00a0 IA. Ainda que confirmada essa capacidade, \u00e9 importante considerar se n\u00e3o existiria um conceito que melhor refletisse o nosso contexto cultural, socioecon\u00f4mico e jur\u00eddico<\/strong>, em detrimento da defini\u00e7\u00e3o do AI Act. Destaca-se, nessa linha, que h\u00e1 dezenas de conceitos diferentes para sistemas de IA<\/a> de forma que as previs\u00f5es europeias n\u00e3o representam necessariamente um modelo regulat\u00f3rio paradigm\u00e1tico e inevit\u00e1vel<\/a> ou o mais apropriado a ser adotado na legisla\u00e7\u00e3o nacional.<\/p>\nConhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/h3>\n
Defini\u00e7\u00e3o de sistemas de IA nos termos do AI Act<\/h3>\n
O conceito de IA em discuss\u00e3o no Brasil<\/h3>\n