Uma consumidora austr\u00edaca teve um contrato de telefonia de apenas dez euros mensais recusado com base em uma pontua\u00e7\u00e3o de cr\u00e9dito gerada por um sistema automatizado. Ao solicitar esclarecimentos sobre os crit\u00e9rios utilizados, recebeu respostas gen\u00e9ricas da empresa respons\u00e1vel pela an\u00e1lise, sob a justificativa de segredo comercial.<\/p>\n
O que parecia uma situa\u00e7\u00e3o trivial acabou se tornando o ponto de partida para uma decis\u00e3o relevante do Tribunal de Justi\u00e7a da Uni\u00e3o Europeia (TJUE) no caso C-203\/22<\/a>, envolvendo intelig\u00eancia artificial<\/a> e o direito \u00e0 explica\u00e7\u00e3o em decis\u00f5es automatizadas.<\/p>\n O caso envolveu a Dun & Bradstreet Austria<\/em> (D&B), empresa especializada em avalia\u00e7\u00e3o de cr\u00e9dito automatizada, respons\u00e1vel pela pontua\u00e7\u00e3o atribu\u00edda \u00e0 consumidora. Embora n\u00e3o envolvida diretamente na rela\u00e7\u00e3o contratual com a operadora de telefonia, a D&B foi respons\u00e1vel por realizar o profiling<\/em> com base nos dados pessoais da consumidora, influenciando de forma determinante a recusa do contrato.<\/p>\n Inconformada com a falta de transpar\u00eancia, a titular levou o caso \u00e0 Autoridade Austr\u00edaca de Prote\u00e7\u00e3o de Dados (DSB), que concluiu que a explica\u00e7\u00e3o oferecida era insuficiente e determinou a apresenta\u00e7\u00e3o de informa\u00e7\u00f5es substanciais.<\/p>\n A D&B, por sua vez, recorreu ao Tribunal Administrativo Federal austr\u00edaco, que confirmou o entendimento da DSB e reconheceu a viola\u00e7\u00e3o ao artigo 15(1)(h) do Regulamento Geral de Prote\u00e7\u00e3o de Dados (GDPR<\/a>). Ap\u00f3s recursos da empresa e entendimentos divergentes entre inst\u00e2ncias administrativas e judiciais na \u00c1ustria, o Tribunal Administrativo de Viena optou por submeter o caso ao TJUE, por meio de quest\u00f5es prejudiciais, a fim de esclarecer a interpreta\u00e7\u00e3o do GDPR.<\/p>\n As perguntas apresentadas \u00e0 Corte abordaram a extens\u00e3o do direito \u00e0 explica\u00e7\u00e3o, a possibilidade de verificar a veracidade dos dados utilizados em decis\u00f5es automatizadas e a compatibilidade do GDPR com normas nacionais que restringem o acesso em nome da prote\u00e7\u00e3o a segredos comerciais ou dados de terceiros.<\/p>\n Na decis\u00e3o de fevereiro de 2025, o TJUE ofereceu uma interpreta\u00e7\u00e3o ampla do artigo 15(1)(h) do GDPR. Segundo a Corte, o titular dos dados tem o direito de receber uma explica\u00e7\u00e3o concreta, compreens\u00edvel e funcional sobre o procedimento e os princ\u00edpios aplicados na tomada de decis\u00e3o automatizada. O objetivo \u00e9 garantir que o indiv\u00edduo compreenda como seus dados pessoais foram utilizados e em que medida influenciaram o resultado.<\/p>\n O Tribunal destacou que n\u00e3o se exige a exposi\u00e7\u00e3o t\u00e9cnica do algoritmo nem o detalhamento t\u00e9cnico da f\u00f3rmula utilizada. O foco est\u00e1 na efetividade do direito: garantir que o titular compreenda os fundamentos da decis\u00e3o e possa, com base nisso, exercer direitos como contesta\u00e7\u00e3o ou solicita\u00e7\u00e3o de interven\u00e7\u00e3o humana, previstos no artigo 22(3) do GDPR<\/a>. Sem essa compreens\u00e3o m\u00ednima, tais garantias tornam-se meramente formais.<\/p>\n A Corte tamb\u00e9m enfrentou a tens\u00e3o entre o direito de acesso do titular e a prote\u00e7\u00e3o de segredos comerciais. O TJUE rejeitou a validade de normas nacionais que, de forma autom\u00e1tica, excluem esse direito sempre que houver alega\u00e7\u00f5es de confidencialidade. Em vez disso, afirmou que, quando a empresa respons\u00e1vel pelo tratamento invocar segredo comercial ou prote\u00e7\u00e3o de dados de terceiros para justificar a recusa de acesso, essa alega\u00e7\u00e3o n\u00e3o pode ser aceita de forma unilateral.<\/p>\n Nessas situa\u00e7\u00f5es, cabe \u00e0 Autoridade de Prote\u00e7\u00e3o de Dados ou ao Judici\u00e1rio avaliar se a divulga\u00e7\u00e3o das informa\u00e7\u00f5es \u00e9 necess\u00e1ria e proporcional. O controlador, por sua vez, deve fornecer os dados sob alegada prote\u00e7\u00e3o para que essa pondera\u00e7\u00e3o seja feita pelas autoridades competentes.<\/p>\n A decis\u00e3o lan\u00e7a luz sobre uma quest\u00e3o controversa para empresas que desenvolvem ou operam sistemas de IA: a explicabilidade em modelos cuja l\u00f3gica decis\u00f3ria muitas vezes funciona como uma \u201ccaixa-preta\u201d. Arquiteturas baseadas em aprendizado profundo operam com milhares \u2013 ou at\u00e9 milh\u00f5es \u2013 de vari\u00e1veis interdependentes, dificultando a reconstru\u00e7\u00e3o l\u00f3gica do caminho at\u00e9 a decis\u00e3o final, cujas pondera\u00e7\u00f5es escapam \u00e0 racionalidade linear.<\/p>\n Esse cen\u00e1rio evidencia um dos principais pontos de fric\u00e7\u00e3o entre o ideal regulat\u00f3rio de transpar\u00eancia e os limites t\u00e9cnicos dos sistemas algor\u00edtmicos. Na pr\u00e1tica, exigir explica\u00e7\u00f5es compreens\u00edveis pode significar priorizar modelos mais simples e interpret\u00e1veis, em detrimento de sistemas mais precisos, mas menos transparentes. Trata-se de um trade-off<\/em> real, com impacto direto sobre as decis\u00f5es estrat\u00e9gicas de desenvolvimento e posicionamento de mercado.<\/p>\n No Brasil, a Lei Geral de Prote\u00e7\u00e3o de Dados (LGPD \u2013 Lei 13.709\/18) tamb\u00e9m prev\u00ea, no artigo 20, o direito de revis\u00e3o de decis\u00f5es automatizadas e o direito de acesso a informa\u00e7\u00f5es claras e adequadas a respeito dos crit\u00e9rios e dos procedimentos utilizados para a decis\u00e3o automatizada.<\/p>\n Ao mesmo tempo, a LGPD ressalva expressamente a prote\u00e7\u00e3o de segredos comerciais e industriais em diversos artigos 6\u00ba, 9\u00ba, II e 20, \u00a7 1\u00ba. Esse conjunto normativo pode abrir espa\u00e7o para interpreta\u00e7\u00f5es mais pragm\u00e1ticas por parte da ANPD, sobretudo diante de limita\u00e7\u00f5es t\u00e9cnicas ou riscos menores.<\/p>\nConhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/h3>\n