{"id":9622,"date":"2025-03-19T23:00:22","date_gmt":"2025-03-20T02:00:22","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/03\/19\/intervencao-humana-na-lgpd-e-no-pl-2338-mapeando-um-conceito-juridico\/"},"modified":"2025-03-19T23:00:22","modified_gmt":"2025-03-20T02:00:22","slug":"intervencao-humana-na-lgpd-e-no-pl-2338-mapeando-um-conceito-juridico","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/03\/19\/intervencao-humana-na-lgpd-e-no-pl-2338-mapeando-um-conceito-juridico\/","title":{"rendered":"Interven\u00e7\u00e3o humana na LGPD e no PL 2338: mapeando um conceito jur\u00eddico"},"content":{"rendered":"<p>No campo da <a href=\"https:\/\/www.jota.info\/tudo-sobre\/inteligencia-artificial\">intelig\u00eancia artificial<\/a>, a chamada abordagem centrada no ser humano ganhou amplo espa\u00e7o na academia<a href=\"https:\/\/www.jota.info\/#_ftn1\">[1]<\/a> e no debate regulat\u00f3rio<a href=\"https:\/\/www.jota.info\/#_ftn2\">[2]<\/a>. Como estrat\u00e9gia regulat\u00f3ria, a no\u00e7\u00e3o reflete, em termos gerais, o imperativo de tecnologias baseadas em IA de atender \u00e0s necessidades e bem-estar humanos, e incorporar o objetivo de proteger direitos fundamentais<a href=\"https:\/\/www.jota.info\/#_ftn3\">[3]<\/a>.<\/p>\n<p>Nesse contexto, a interven\u00e7\u00e3o humana \u00e9 tratada como um tipo de medida importante para lidar com riscos de les\u00e3o a direitos e liberdades (<em>v.g., <\/em>vi\u00e9ses discriminat\u00f3rios), como pode se ver tanto do texto legal do <a href=\"https:\/\/eur-lex.europa.eu\/legal-content\/PT\/TXT\/?uri=CELEX:32024R1689\">Regulamento 2024\/1689<\/a> da UE, em rela\u00e7\u00e3o aos sistemas de risco elevado<a href=\"https:\/\/www.jota.info\/#_ftn4\">[4]<\/a>, como no recente <a href=\"https:\/\/www.law.go.kr\/%EB%B2%95%EB%A0%B9\/%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5%20%EB%B0%9C%EC%A0%84%EA%B3%BC%20%EC%8B%A0%EB%A2%B0%20%EA%B8%B0%EB%B0%98%20%EC%A1%B0%EC%84%B1%20%EB%93%B1%EC%97%90%20%EA%B4%80%ED%95%9C%20%EA%B8%B0%EB%B3%B8%EB%B2%95\/(20676,20250121)\">marco legal sul-coreano de IA<\/a>, relativamente aos denominados sistemas de IA de alto impacto<a href=\"https:\/\/www.jota.info\/#_ftn5\">[5]<\/a>.<\/p>\n<h3><a href=\"https:\/\/conteudo.jota.info\/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none\"><span>Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do <span class=\"jota\">JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/h3>\n<p>O mecanismo n\u00e3o \u00e9 novo, uma vez considerado o regime de leis de prote\u00e7\u00e3o de dados pessoais aplic\u00e1vel a sistemas de tomada de decis\u00e3o automatizada<a href=\"https:\/\/www.jota.info\/#_ftn6\">[6]<\/a>. O <a href=\"https:\/\/eur-lex.europa.eu\/legal-content\/PT\/TXT\/PDF\/?uri=CELEX:32016R0679\">Regulamento Geral de Prote\u00e7\u00e3o de Dados<\/a> (RGPD) da UE, por exemplo, estabelece o direito de obten\u00e7\u00e3o de interven\u00e7\u00e3o humana como uma salvaguarda aplic\u00e1vel<a href=\"https:\/\/www.jota.info\/#_ftn7\">[7]<\/a> nos casos em que o regulamento autoriza a tomada de decis\u00e3o exclusivamente com base no tratamento automatizado que produza efeitos jur\u00eddicos ou que o afete titular de dados significativamente<a href=\"https:\/\/www.jota.info\/#_ftn8\">[8]<\/a>.<\/p>\n<p>Com sua idealiza\u00e7\u00e3o no direito de prote\u00e7\u00e3o de dados e expans\u00e3o a marcos legais de IA da atualidade, o conceito de <em>interven\u00e7\u00e3o humana<\/em> se torna, decerto, um conceito jur\u00eddico. Contudo, h\u00e1 pouca clareza em torno da categoria, desde sua fun\u00e7\u00e3o e contornos dogm\u00e1ticos at\u00e9 a terminologia. Quanto a este aspecto, os termos utilizados s\u00e3o v\u00e1rios, \u201cinterven\u00e7\u00e3o humana\u201d, \u201crevis\u00e3o humana\u201d, \u201csupervis\u00e3o humana\u201d, \u201cenvolvimento humano\u201d, entre outros.<\/p>\n<p>O objetivo deste breve ensaio \u00e9 mapear os usos do conceito de interven\u00e7\u00e3o humana no \u00e2mbito da prote\u00e7\u00e3o de dados pessoais, essencialmente ancorada na interpreta\u00e7\u00e3o do art. 20 da LGPD, e no texto PL 2.338\/23, em discuss\u00e3o no Congresso Nacional. A relev\u00e2ncia de tal mapeamento se revela na possibilidade de contribui\u00e7\u00e3o, de um lado, de a doutrina interpretar o conceito de forma coerente com suas raz\u00f5es sistem\u00e1ticas, e, de outro lado, dos legisladores formularem ou aperfei\u00e7oarem a proposta de marco legal de IA com coer\u00eancia e sistematicidade.<\/p>\n<h3>Interven\u00e7\u00e3o humana na LGPD<\/h3>\n<p>A LGPD estabelece, em seu art. 20, que o titular tem o direito de solicitar a revis\u00e3o de decis\u00f5es tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses. N\u00e3o existe uma proibi\u00e7\u00e3o geral de decis\u00f5es automatizadas, mas sim uma disposi\u00e7\u00e3o que atribui um direito de revis\u00e3o dessas decis\u00f5es, desde que i) tenham sido tomadas exclusivamente por meio de um tratamento automatizado de dados pessoais, e ii) afetem os interesses dos titulares.<\/p>\n<p>O texto legal vai ao ponto de exemplificar casos em que os interesses podem ser afetados, como na aplica\u00e7\u00e3o de perfis pessoais. Se uma decis\u00e3o automatizada se enquadra nesses crit\u00e9rios, ela desencadeia n\u00e3o s\u00f3 o direito de revis\u00e3o por parte do titular dos dados, mas tamb\u00e9m outras situa\u00e7\u00f5es jur\u00eddicas, como o direito \u00e0 informa\u00e7\u00e3o sobre os fundamentos e crit\u00e9rios utilizados para tomar a decis\u00e3o e uma prerrogativa administrativa da ANPD para realizar auditorias nesses sistemas<a href=\"https:\/\/www.jota.info\/#_ftn9\">[9]<\/a>.<\/p>\n<p>A modifica\u00e7\u00e3o do texto original durante o processo legislativo da MP 879\/2018, que, por fim, removeu a alus\u00e3o expressa \u00e0 revis\u00e3o humana do art. 20 da LGPD, um vigoroso debate entre os acad\u00eamicos sobre a natureza do processo de revis\u00e3o: ele deve ser conduzido por um ser humano ou pode ser realizado por uma m\u00e1quina? A maioria dos trabalhos acad\u00eamicos que surgiram desde ent\u00e3o defende a import\u00e2ncia de a revis\u00e3o ser responsabilidade de pessoa natural.<a href=\"https:\/\/www.jota.info\/#_ftn10\">[10]<\/a><\/p>\n<p>A mat\u00e9ria de governan\u00e7a de IA e de sistemas automatizados, existem diferentes mecanismos sobre a interven\u00e7\u00e3o humana no processo decis\u00f3rio. O mecanismo do <em>\u201chuman-in-the-loop\u201d<\/em> prev\u00ea a participa\u00e7\u00e3o direta de uma pessoa natural, que pode interromper ou modificar o resultado gerado pelo sistema automatizado<a href=\"https:\/\/www.jota.info\/#_ftn11\">[11]<\/a>. J\u00e1 o esquema de <em>\u201chuman-on-the-loop\u201d<\/em> envolve uma forma de supervis\u00e3o e monitoramento humano<a href=\"https:\/\/www.jota.info\/#_ftn12\">[12]<\/a>, havendo a possibilidade de incorpora\u00e7\u00e3o do recurso t\u00e9cnico de um \u201cbot\u00e3o de pare\u201d.<\/p>\n<p>O mecanismo <em>\u201chuman-out-of-the-loop\u201d<\/em>, por sua vez, n\u00e3o prev\u00ea monitoramento ou observa\u00e7\u00e3o humana, a decis\u00e3o fica a cargo do sistema automatizado. Tal mecanismo equivale \u00e0 salvaguarda prevista no RGPD do direito de obter interven\u00e7\u00e3o humana, e \u201cpode ser definido como uma revis\u00e3o de segunda etapa da decis\u00e3o automatizada\u201d<a href=\"https:\/\/www.jota.info\/#_ftn13\">[13]<\/a>, ativada mediante solicita\u00e7\u00e3o do titular dos dados<a href=\"https:\/\/www.jota.info\/#_ftn14\">[14]<\/a>.<\/p>\n<p>Na linha da doutrina majorit\u00e1ria, o art. 20 da LGPD imp\u00f5e a exig\u00eancia de revis\u00e3o humana, sendo esta um mecanismo <em>human-out-of-the-loop<\/em>. No entanto, n\u00e3o h\u00e1 defini\u00e7\u00e3o clara sobre quais crit\u00e9rios devem ser observados para que essa revis\u00e3o seja considerada efetiva. A experi\u00eancia europeia sob o RGPD sugere que a revis\u00e3o deve ser substancial, permitindo que um agente humano tenha acesso a informa\u00e7\u00f5es compreens\u00edveis sobre a l\u00f3gica subjacente ao sistema automatizado e tenha autoridade para modificar decis\u00f5es caso necess\u00e1rio<a href=\"https:\/\/www.jota.info\/#_ftn15\">[15]<\/a>. No Brasil, a aus\u00eancia de diretrizes espec\u00edficas pode levar a situa\u00e7\u00f5es em que a revis\u00e3o humana seja apenas formal, sem real capacidade de altera\u00e7\u00e3o do resultado da decis\u00e3o automatizada, o que compromete a prote\u00e7\u00e3o dos titulares de dados<a href=\"https:\/\/www.jota.info\/#_ftn16\">[16]<\/a>.<\/p>\n<h3>Interven\u00e7\u00e3o humana no PL 2338<\/h3>\n<p>Formada no Senado, a Comiss\u00e3o de Juristas respons\u00e1vel por subsidiar elabora\u00e7\u00e3o de substitutivo sobre IA (CJSUBIA) incluiu no <a href=\"https:\/\/legis.senado.leg.br\/sdleg-getter\/documento\/download\/777129a2-e659-4053-bf2e-e4b53edc3a04\">relat\u00f3rio final<\/a> dos seus trabalhos um anteprojeto de lei que, em 3 de maio de 2023, foi convertido no PL 2338, apresentado pelo senador Rodrigo Pacheco (PSD-MG). Este projeto foi aprovado naquela casa legislativa e encaminhado \u00e0 C\u00e2mara dos Deputados. De acordo com a proposta original, a interven\u00e7\u00e3o humana era constitu\u00edda essencialmente como direito da \u201cpessoa afetada por sistema de intelig\u00eancia artificial\u201d.<\/p>\n<p>Nesse sentido, o art. 5\u00ba, IV, previa sobre o \u201cdireito \u00e0 determina\u00e7\u00e3o e \u00e0 participa\u00e7\u00e3o humana\u201d, enquanto o art. 8\u00ba, IV, ao tratar do direito \u00e0 explica\u00e7\u00e3o de <em>outputs <\/em>de sistemas de IA, previa o fornecimento de informa\u00e7\u00e3o sobre a \u201cpossibilidade de solicitar interven\u00e7\u00e3o humana\u201d. O art. 10, por sua vez, dispunha sobre o direito de solicitar a <em>interven\u00e7\u00e3o ou revis\u00e3o humana<\/em>, quando decis\u00e3o, previs\u00e3o ou recomenda\u00e7\u00e3o de sistema de IA \u201cproduzir efeitos jur\u00eddicos relevantes ou que impactem de maneira significativa os interesses da pessoa\u201d, ressalva feita \u00e0s situa\u00e7\u00f5es de comprovada impossibilidade de efetua\u00e7\u00e3o da interven\u00e7\u00e3o ou revis\u00e3o humanas.<\/p>\n<p>Ainda no cap\u00edtulo sobre direitos, o art. 11 determinava o imperativo de \u201cenvolvimento humano significativo no processo decis\u00f3rio e determina\u00e7\u00e3o humana final\u201d em situa\u00e7\u00f5es de impacto irrevers\u00edvel ou de dif\u00edcil revers\u00e3o ou envolvam decis\u00f5es que podem gerar riscos \u00e0 vida ou \u00e0 integridade f\u00edsica de indiv\u00edduos.<\/p>\n<p>Para al\u00e9m das disposi\u00e7\u00f5es do cap\u00edtulo sobre direitos, a interven\u00e7\u00e3o humana tamb\u00e9m foi prevista como princ\u00edpio da \u201cparticipa\u00e7\u00e3o humana no ciclo da intelig\u00eancia artificial e supervis\u00e3o humana efetiva\u201d (art. 3\u00ba, III), e como garantia\u00a0 para exerc\u00edcio dos direitos \u00e0 explica\u00e7\u00e3o e \u00e0 revis\u00e3o humanas perante o poder p\u00fablico (art. 21, IV).<\/p>\n<p>A tramita\u00e7\u00e3o e discuss\u00e3o do PL 2338 ensejou altera\u00e7\u00f5es no texto da proposta. No que diz respeito \u00e0 interven\u00e7\u00e3o humana, o <a href=\"https:\/\/legis.senado.leg.br\/sdleg-getter\/documento?dm=9865609&amp;ts=1734649438349&amp;rendition_principal=S\">Relat\u00f3rio 208\/2024<\/a>, que cont\u00e9m o texto aprovado no Senado, manteve v\u00e1rios pontos, todavia com modifica\u00e7\u00f5es significativas.<\/p>\n<p>Al\u00e9m do enxugamento da disciplina sobre os direitos, as modifica\u00e7\u00f5es que merecem destaque foram a atribui\u00e7\u00e3o de certos direitos a \u201cpessoa ou grupo afetado por sistema de IA de alto\u201d (art. 6\u00ba) \u2013 inclusive o \u201cdireito \u00e0 revis\u00e3o humana de decis\u00f5es\u201d \u2013, e a explicita\u00e7\u00e3o da finalidade da \u201csupervis\u00e3o humana\u201d de \u201cprevenir ou minimizar os riscos para direitos e liberdades das pessoas ou grupos afetados\u201d (art. 8\u00ba).<\/p>\n<h3>Considera\u00e7\u00f5es finais<\/h3>\n<p>A partir desse inicial mapeamento do conceito de interven\u00e7\u00e3o humana no direito de prote\u00e7\u00e3o de dados brasileiro e de uma das mais importantes propostas de regula\u00e7\u00e3o de IA no pa\u00eds, alguns apontamentos e perguntas podem ser feitos. O primeiro, e talvez mais importante, \u00e9 a necessidade de se pensar e construir juridicamente a interven\u00e7\u00e3o humana de forma coerente no sistema jur\u00eddico, considerando a disciplina da LGPD.<\/p>\n<p>Muito embora o regime de prote\u00e7\u00e3o de dados se aplicar a sistemas de IA que tratam dados pessoais, eventual regula\u00e7\u00e3o de IA deve ter em considera\u00e7\u00e3o o mecanismo de interven\u00e7\u00e3o humana j\u00e1 contemplado na LGPD, cuja raz\u00e3o sistema est\u00e1 amparada no fim de mitigar riscos a direitos e liberdades fundamentais. Maior rigor terminol\u00f3gico tamb\u00e9m \u00e9 importante cuidado para evitar confus\u00e3o a respeito dos mecanismos de interven\u00e7\u00e3o humana, eis que, por exemplo, esta n\u00e3o se resume a revis\u00e3o humana, bem como a revis\u00e3o n\u00e3o \u00e9 sin\u00f4nimo de supervis\u00e3o humana.<\/p>\n<p>Para a doutrina em especial, cabe o papel de pensar criticamente sobre os contornos dogm\u00e1ticos e categorias aplic\u00e1veis. Qual a natureza jur\u00eddica do instituto da interven\u00e7\u00e3o humana? Pode ser qualificada como conjunto de salvaguardas de car\u00e1ter procedimental? Quais situa\u00e7\u00f5es jur\u00eddicas amparam dado mecanismo de interven\u00e7\u00e3o humana? Seria uma faculdade a ser exercida no interno de uma posi\u00e7\u00e3o jur\u00eddica de direito subjetivo, ou um dever de conduta do controlador ou agente de IA?<\/p>\n<p>Esse importante papel cr\u00edtico \u00e9 salientado pelo escopo e raz\u00e3o sistem\u00e1tica da interven\u00e7\u00e3o humana de instrumento de mitiga\u00e7\u00e3o de riscos a direitos e liberdades fundamentais. De acordo com Ant\u00f3nio Hespanha, a redemocratiza\u00e7\u00e3o e a promulga\u00e7\u00e3o da Constitui\u00e7\u00e3o de 1988 fomentaram a sensibilidade dos juristas brasileiros \u00e0s muitas desigualdades que permeiam nossa sociedade. Essa \u00e9 uma caracter\u00edstica que informa a interpreta\u00e7\u00e3o jur\u00eddica \u201cemancipat\u00f3ria\u201d da legisla\u00e7\u00e3o, das doutrinas e dos conceitos jur\u00eddicos<a href=\"https:\/\/www.jota.info\/#_ftn17\">[17]<\/a>.<\/p>\n<p>Assim, em \u00faltima an\u00e1lise, constru\u00e7\u00e3o dogm\u00e1tica e interpreta\u00e7\u00e3o jur\u00eddica cr\u00edtica da interven\u00e7\u00e3o humana tamb\u00e9m tem um papel a desempenhar no enfrentamento dos problemas sociais no Brasil.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref1\">[1]<\/a> Cf. A abordagem compreende diferentes \u00e1reas e agendas de pesquisa, como demonstram Tara Capel e Margot Brereton. As autoras prop\u00f5em a seguinte defini\u00e7\u00e3o de intelig\u00eancia artificial centrada no ser humano: <em>\u201cHuman-Centered Artifcial Intelligence utilizes data to empower and enable its human users, while revealing its underlying values, biases, limitations, and the ethics of its data gathering and algorithms to foster ethical, interactive, and contestable use\u201d<\/em>. CAPEL, Tara; BRERETON, Margot. What is Human-Centered about Human-Centered AI? A Map of the Research Landscape. 2023 CHI Conference on Human Factors in Computing Systems<em>. <\/em><strong>Anais\u2026<\/strong> New York: Association for Computing Machinery. Dispon\u00edvel em: <a href=\"https:\/\/dl.acm.org\/doi\/10.1145\/3544548.3580959\">https:\/\/dl.acm.org\/doi\/10.1145\/3544548.3580959<\/a>. Acesso em: 16 mar. 2025.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref2\">[2]<\/a> Cf. CONSELHO DA EUROPA. <strong>Explanatory Report to the Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law<\/strong>. Dispon\u00edvel em: <a href=\"https:\/\/rm.coe.int\/1680afae67\">https:\/\/rm.coe.int\/1680afae67<\/a>. Acesso em: 14 mar. 2025; UNI\u00c3O EUROPEIA. Regulamento (UE) n\u00ba 2024\/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em mat\u00e9ria de intelig\u00eancia artificial e que altera os Regulamentos (CE) n.o 300\/2008, (UE) n.o 167\/2013, (UE) n.o 168\/2013, (UE) 2018\/858, (UE) 2018\/1139 e (UE) 2019\/2144 e as Diretivas 2014\/90\/UE, (UE) 2016\/797 e (UE) 2020\/1828 (Regulamento da Intelig\u00eancia Artificial). <strong>Jornal Oficial da Uni\u00e3o Europeia<\/strong>, Estrasburgo, 12\/07\/2024. Dispon\u00edvel em: <a href=\"http:\/\/data.europa.eu\/eli\/reg\/2024\/1689\/oj\">http:\/\/data.europa.eu\/eli\/reg\/2024\/1689\/oj<\/a>. Acesso em: 14 mar. 2025.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref3\">[3]<\/a> ENQVIST, Lena. \u2018Human oversight\u2019 in the EU artificial intelligence act: what, when and by whom? <strong>Law, Innovation and Technology<\/strong>, [<em>s.l.<\/em>], v. 15, n. 2, p. 508\u2013535, 2023, p. 511; STERZ, Sarah et al. On the Quest for Effectiveness in Human Oversight: Interdisciplinary Perspectives. The 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT \u201924), Jun. 2024, Rio de Janeiro, Brazil. <strong>Anais<\/strong>\u2026Association for Computing Machinery, 2024. Dispon\u00edvel em: &lt;<a href=\"http:\/\/arxiv.org\/abs\/2404.04059\">http:\/\/arxiv.org\/abs\/2404.04059<\/a>&gt;. Acesso em: 02 mar. 2025.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref4\">[4]<\/a> O art. 14 do Regulamento estabelece uma obriga\u00e7\u00e3o geral supervis\u00e3o humana aos sistemas de risco elevado.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref5\">[5]<\/a> A lei da Coreia do Sul disp\u00f5e sobre a obriga\u00e7\u00e3o de supervis\u00e3o humana para sistemas de IA de alto impacto, conforme art. 34, 4.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref6\">[6]<\/a> Entre outros, vide WIMMER, Miriam; DONEDA, Danilo. \u201cFalhas de IA\u201d e a Interven\u00e7\u00e3o Humana em Decis\u00f5es Automatizadas: Par\u00e2metros para a Legitima\u00e7\u00e3o pela Humaniza\u00e7\u00e3o. <strong>Revista Direito P\u00fablico<\/strong>, Bras\u00edlia, v. 18, n. 100, p. 374\u2013404, out.\/dez. 2021; GREEN, Ben. The flaws of policies requiring human oversight of government algorithms. <strong>Computer Law and Security Review,<\/strong> [<em>s.l.<\/em>], v. 45, 2022; LAZCOZ, Guilhermo; DE HERT, Paul. Humans in the GDPR and AIA governance of automated and algorithmic systems. Essential pre-requisites against abdicating responsibilities. <strong>Computer Law and Security Review<\/strong>, [<em>s.l.<\/em>], v. 50, 2023.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref7\">[7]<\/a> Art. 22 (3) do RGPD.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref8\">[8]<\/a> Art. 22 (2) do RGPD.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref9\">[9]<\/a> Art. 20, \u00a71\u00ba, da LGPD.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref10\">[10]<\/a> BERGSTEIN, L.; GAMA, F. DE C. A.; C\u00c2MARA, M. A. Prote\u00e7\u00e3o de Dados Pessoais e as Decis\u00f5es Automatizadas nas Rela\u00e7\u00f5es de Consumo: Os Direitos \u00e0 Explica\u00e7\u00e3o e Revis\u00e3o. <strong>Revista de Direito do Consumidor<\/strong>, v. 140, n. mar.\/abr., p. 359\u2013385, 2022; WIMMER, Miriam; DONEDA, Danilo. <strong>Op. cit.<\/strong>, p. 399-400; NEGRI, S\u00e9rgio M. C. A.; KORKMAZ, Maria Regina R. Decis\u00f5es automatizadas e a prote\u00e7\u00e3o de crian\u00e7as e adolescentes. <em>In: <\/em>LATER\u00c7A, P. ; FERNANDES, E.; DE TEFF\u00c9, C.; BRANCO, S. (coords.). <strong>Privacidade e prote\u00e7\u00e3o de dados de crian\u00e7as e adolescentes<\/strong><em>. <\/em>Rio de Janeiro: ITS Rio, 2021. p. 117-137; KORKMAZ, Maria Regina R. <strong>Decis\u00f5es automatizadas<\/strong>: explica\u00e7\u00e3o, revis\u00e3o e prote\u00e7\u00e3o na era da intelig\u00eancia artificial. S\u00e3o Paulo: Thomson Reuters Brasil, 2023. De outro lado, Souza, Perrone e Magrani sustentam que a revis\u00e3o humana n\u00e3o \u00e9 obrigat\u00f3ria, mas sim uma pr\u00e1tica recomendada: SOUZA, Carlos Affonso; PERRONE, Christian; MAGRANI, Eduardo. O direito \u00e0 explica\u00e7\u00e3o entre a experi\u00eancia europeia e a sua positiva\u00e7\u00e3o na LGPD. <em>In<\/em>: DONEDA, Danilo et al. (Coords.). <strong>Tratado de prote\u00e7\u00e3o de dados pessoais.<\/strong> Rio de Janeiro: Forense, 2021. p. 267. Vide ainda: ALMADA, Marco; MARANH\u00c3O, Juliano. Contribui\u00e7\u00f5es e Limites da Lei Geral de Prote\u00e7\u00e3o de Dados para a Regula\u00e7\u00e3o da Intelig\u00eancia Artificial no Brasil. <strong>Direito P\u00fablico<\/strong>, Bras\u00edlia, v. 20, n. 106, p. 385\u2013413, 2023, p. 391.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref11\">[11]<\/a> ENARSSON, Terese; ENQVIST, Lena; NAARTTIJ\u00c4RVI, Markus. Approaching the Human in the Loop\u2013Legal Perspectives on Hybrid Human\/Algorithmic Decision-Making in Three Contexts. <strong>Information and Communications Technology Law, <\/strong>[<em>s.l<\/em>], v. 3,1 123-153, 2022, p. 124.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref12\">[12]<\/a> FISCHER, J. E. et al. In-the-loop or on-the-loop? Interactional arrangements to support team coordination with a planning agent. <strong>Concurrency and Computation: Practice and Experience<\/strong>, [<em>s.l<\/em>], v. 33, n. 8, 2021.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref13\">[13]<\/a> LAZCOZ, Guilhermo; DE HERT, Paul. Humans in the GDPR and AIA governance of automated and algorithmic systems. Essential pre-requisites against abdicating responsibilities. <strong>Computer Law and Security Review<\/strong>, [<em>s.l.<\/em>], v. 50, 2023, p. 8.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref14\">[14]<\/a> Cf. BRKAN, Maja. Do algorithms rule the world? Algorithmic decision-making and data protection in the framework of the GDPR and beyond. <strong>International Journal of Law and Information Technology<\/strong>, v. 27, n. 2, p. 91\u2013121, 2019, p. 107; MALGIERI, Gianclaudio. Automated decision-making in the EU Member States: The right to explanation and other \u201csuitable safeguards\u201d in the national legislations. <strong>Computer Law and Security Review<\/strong>, v. 35, n. 5, 2019, p. 22.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref15\">[15]<\/a> UNI\u00c3O EUROPEIA. Tribunal de Justi\u00e7a da Uni\u00e3o Europeia. <strong>Caso n. C-203\/22<\/strong> <strong>Dun &amp; Bradstreet Austria<\/strong>, 2025. Dispon\u00edvel em: <a href=\"https:\/\/curia.europa.eu\/juris\/document\/document.jsf;jsessionid=929C77D3D95EE898C857978CC729E8E8?text=&amp;docid=295841&amp;pageIndex=0&amp;doclang=EN&amp;mode=lst&amp;dir=&amp;occ=first&amp;part=1&amp;cid=14181581\">https:\/\/curia.europa.eu\/juris\/document\/document.jsf;jsessionid=929C77D3D95EE898C857978CC729E8E8?text=&amp;docid=295841&amp;pageIndex=0&amp;doclang=EN&amp;mode=lst&amp;dir=&amp;occ=first&amp;part=1&amp;cid=14181581<\/a>. Acesso em: 17 mar. 2025.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref16\">[16]<\/a> MONTEIRO, Renato L. <strong>Desafios para a efetiva\u00e7\u00e3o do direito \u00e0 explica\u00e7\u00e3o na Lei Geral de Prote\u00e7\u00e3o de Dados do Brasil<\/strong>. Tese de doutorado, Universidade de S\u00e3o Paulo, 2022, p. 69.<\/p>\n<p><a href=\"https:\/\/www.jota.info\/#_ftnref17\">[17]<\/a> HESPANHA, A. M. As Culturas Jur\u00eddicas Dos Mundos Emergentes: O Caso Brasileiro. <strong>Revista da Faculdade de Direito UFPR<\/strong>, v. 56, p. 1\u201310, 2012.<\/p>","protected":false},"excerpt":{"rendered":"<p>No campo da intelig\u00eancia artificial, a chamada abordagem centrada no ser humano ganhou amplo espa\u00e7o na academia[1] e no debate regulat\u00f3rio[2]. Como estrat\u00e9gia regulat\u00f3ria, a no\u00e7\u00e3o reflete, em termos gerais, o imperativo de tecnologias baseadas em IA de atender \u00e0s necessidades e bem-estar humanos, e incorporar o objetivo de proteger direitos fundamentais[3]. Nesse contexto, a [&hellip;]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/9622"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=9622"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/9622\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=9622"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=9622"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=9622"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}