{"id":19334,"date":"2025-12-18T05:59:00","date_gmt":"2025-12-18T08:59:00","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/12\/18\/discriminacao-algoritmica-e-dados-sensiveis\/"},"modified":"2025-12-18T05:59:00","modified_gmt":"2025-12-18T08:59:00","slug":"discriminacao-algoritmica-e-dados-sensiveis","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/12\/18\/discriminacao-algoritmica-e-dados-sensiveis\/","title":{"rendered":"Discrimina\u00e7\u00e3o algor\u00edtmica e dados sens\u00edveis"},"content":{"rendered":"

Sem dados, n\u00e3o h\u00e1 diagn\u00f3stico. E sem diagn\u00f3stico, a discrimina\u00e7\u00e3o permanece invis\u00edvel, embora ativa, dentro dos sistemas de intelig\u00eancia artificial. Detectar e corrigir esses vieses exige tratar justamente os dados sens\u00edveis que a legisla\u00e7\u00e3o busca proteger. Enquanto a Uni\u00e3o Europeia j\u00e1 reconhece essa exce\u00e7\u00e3o controlada em sua regula\u00e7\u00e3o de IA<\/a>, o Brasil ainda n\u00e3o oferece base legal satisfat\u00f3ria que justifique o tratamento de dados sens\u00edveis para fins de auditoria algor\u00edtmica. O resultado \u00e9 a aus\u00eancia de um ambiente regulat\u00f3rio adequado que permita a condu\u00e7\u00e3o dessas iniciativas com seguran\u00e7a jur\u00eddica<\/a>. Nesse v\u00e1cuo normativo, abrem-se brechas para pr\u00e1ticas potencialmente discriminat\u00f3rias sem controle efetivo.<\/p>\n

A experi\u00eancia europeia oferece refer\u00eancias relevantes. O EU AI Act<\/em><\/a> adota uma abordagem baseada em risco, classificando sistemas de IA conforme o grau de amea\u00e7a que representam aos direitos fundamentais dos indiv\u00edduos. Para sistemas considerados de alto risco, o regulamento estabelece obriga\u00e7\u00f5es rigorosas de transpar\u00eancia, governan\u00e7a e mitiga\u00e7\u00e3o de vieses. Um de seus dispositivos centrais, o artigo 10(5), autoriza expressamente o tratamento de dados sens\u00edveis quando estritamente necess\u00e1rio para detectar e corrigir discrimina\u00e7\u00f5es, desde que respeitadas as salvaguardas adequadas.<\/p>\n

Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/p>\n

Essa previs\u00e3o dialoga diretamente com o artigo 9(2)(g) do GDPR<\/a>, que autoriza o tratamento de dados sens\u00edveis quando necess\u00e1rio por raz\u00f5es de interesse p\u00fablico substancial, com base no direito da Uni\u00e3o ou dos Estados-Membros, desde que proporcional ao objetivo perseguido e que respeite a ess\u00eancia do direito \u00e0 prote\u00e7\u00e3o de dados. Trata-se de base legal que viabiliza o tratamento de atributos sens\u00edveis, reconhecendo que enfrentar a discrimina\u00e7\u00e3o algor\u00edtmica requer, ainda que de forma excepcional e controlada, o tratamento justamente dos dados sens\u00edveis que se pretende resguardar.<\/p>\n

No Brasil, entretanto, n\u00e3o h\u00e1 base legal equivalente. O artigo 11 da LGPD elenca hip\u00f3teses taxativas para o tratamento de dados sens\u00edveis, mas nenhuma delas se adequa satisfatoriamente \u00e0 finalidade de mitiga\u00e7\u00e3o de vi\u00e9s algor\u00edtmico. O consentimento do titular, previsto no inciso I, \u00e9 pouco eficaz em contextos como scoring<\/em> de cr\u00e9dito ou triagem automatizada de curr\u00edculos, nos quais seria logisticamente invi\u00e1vel obter autoriza\u00e7\u00f5es individuais, al\u00e9m de juridicamente inst\u00e1vel, considerando a possibilidade de revoga\u00e7\u00e3o a qualquer tempo.<\/p>\n

Argumentar que a an\u00e1lise de vi\u00e9s seria necess\u00e1ria para a execu\u00e7\u00e3o do contrato, prevista no inciso V, ampliaria excessivamente o escopo da norma. Mesmo a hip\u00f3tese do art. 11, II, b, que permite o tratamento pela administra\u00e7\u00e3o p\u00fablica para execu\u00e7\u00e3o de pol\u00edticas p\u00fablicas previstas em lei, n\u00e3o se estende ao setor privado, justamente onde est\u00e3o concentradas boa parte das principais aplica\u00e7\u00f5es de IA com potencial discriminat\u00f3rio.<\/p>\n

As demais bases legais do artigo 11 (prote\u00e7\u00e3o da vida ou incolumidade f\u00edsica, tutela da sa\u00fade, garantia de preven\u00e7\u00e3o \u00e0 fraude e exerc\u00edcio regular de direitos), igualmente n\u00e3o se aplicam \u00e0 finalidade em quest\u00e3o. O leg\u00edtimo interesse, embora previsto no art. 10 para dados pessoais, n\u00e3o \u00e9 admitido como base legal para o tratamento de dados sens\u00edveis nos termos do art. 11 da LGPD.<\/a><\/p>\n

Diante desse v\u00e1cuo normativo, discute-se o uso de alternativas como anonimiza\u00e7\u00e3o ou dados sint\u00e9ticos. No entanto, ambas apresentam limita\u00e7\u00f5es substanciais. A anonimiza\u00e7\u00e3o, ao eliminar a possibilidade de reidentifica\u00e7\u00e3o, inviabiliza a detec\u00e7\u00e3o de padr\u00f5es de exclus\u00e3o em grupos espec\u00edficos. J\u00e1 os dados sint\u00e9ticos, embora \u00fateis em cen\u00e1rios experimentais, tendem a falhar na reprodu\u00e7\u00e3o fiel das interseccionalidades e desigualdades presentes no mundo real.<\/p>\n

As consequ\u00eancias dessa lacuna normativa s\u00e3o tang\u00edveis. Algoritmos de cr\u00e9dito, ferramentas de recrutamento e modelos preditivos na sa\u00fade, sob o verniz da neutralidade matem\u00e1tica, podem reproduzir ou at\u00e9 aprofundar discrimina\u00e7\u00f5es. Em todos esses casos, a aus\u00eancia de uma base legal clara para o uso de dados sens\u00edveis dificulta que injusti\u00e7as estruturais sejam sequer identificadas, quanto mais corrigidas. Casos amplamente divulgados, como a exclus\u00e3o de candidatas mulheres por um sistema da Amazon<\/a> ou o vi\u00e9s racial do algoritmo COMPAS na Justi\u00e7a criminal dos EUA<\/a>, ilustram os riscos envolvidos.<\/p>\n

Situa\u00e7\u00f5es como essas evidenciam que o princ\u00edpio da necessidade, previsto no art. 6\u00ba, III, da LGPD, deve ser interpretado \u00e0 luz da proporcionalidade, em di\u00e1logo com outros valores constitucionais, como a igualdade. Combater discrimina\u00e7\u00e3o exige, por vezes, o uso dos pr\u00f3prios dados sens\u00edveis, desde que com finalidade leg\u00edtima, limites claros e salvaguardas adequadas. Negar essa possibilidade equivale a perpetuar desigualdades sob a apar\u00eancia de neutralidade tecnol\u00f3gica.<\/p>\n

No cen\u00e1rio brasileiro, duas solu\u00e7\u00f5es normativas podem enfrentar esse desafio. A primeira seria incluir, no artigo 11 da LGPD, uma base legal inspirada no artigo 9(2)(g) do GDPR, autorizando o tratamento de dados sens\u00edveis quando necess\u00e1rio por raz\u00f5es de interesse p\u00fablico substancial, desde que proporcional ao objetivo e acompanhado de salvaguardas espec\u00edficas. Essa hip\u00f3tese n\u00e3o seria exclusiva para mitiga\u00e7\u00e3o de vi\u00e9s algor\u00edtmico, mas criaria o fundamento jur\u00eddico que hoje falta no pa\u00eds para iniciativas leg\u00edtimas de fairness<\/em> em IA.<\/p>\n

Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/p>\n

A segunda alternativa consistiria em utilizar a base do cumprimento de obriga\u00e7\u00e3o legal ou regulat\u00f3ria, combinando-a com normas setoriais ou com futura legisla\u00e7\u00e3o sobre intelig\u00eancia artificial que imponha, de forma expressa, o dever de monitorar e corrigir vieses em sistemas automatizados. Assim, o tratamento de dados sens\u00edveis passaria a configurar um dever regulat\u00f3rio, \u00e0 semelhan\u00e7a do modelo europeu do AI Act para sistemas de alto risco.<\/p>\n

Seja qual for o caminho, o ponto de partida \u00e9 claro: n\u00e3o h\u00e1 justi\u00e7a algor\u00edtmica poss\u00edvel sem visibilidade. E visibilidade, nesse contexto, exige um arcabou\u00e7o jur\u00eddico s\u00f3lido que equilibre prote\u00e7\u00e3o de dados e igualdade de tratamento. Sem ele, as promessas de governan\u00e7a algor\u00edtmica, transpar\u00eancia e accountability<\/em> seguir\u00e3o restritas ao papel \u2014 enquanto os sistemas automatizados continuam operando sob padr\u00f5es hist\u00f3ricos de exclus\u00e3o.<\/p>","protected":false},"excerpt":{"rendered":"

Sem dados, n\u00e3o h\u00e1 diagn\u00f3stico. E sem diagn\u00f3stico, a discrimina\u00e7\u00e3o permanece invis\u00edvel, embora ativa, dentro dos sistemas de intelig\u00eancia artificial. Detectar e corrigir esses vieses exige tratar justamente os dados sens\u00edveis que a legisla\u00e7\u00e3o busca proteger. Enquanto a Uni\u00e3o Europeia j\u00e1 reconhece essa exce\u00e7\u00e3o controlada em sua regula\u00e7\u00e3o de IA, o Brasil ainda n\u00e3o oferece […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/19334"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=19334"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/19334\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=19334"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=19334"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=19334"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}