{"id":19426,"date":"2025-12-21T06:00:38","date_gmt":"2025-12-21T09:00:38","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/12\/21\/a-falacia-da-minimizacao-da-coleta-como-entrave-para-ia-menos-discriminatoria\/"},"modified":"2025-12-21T06:00:38","modified_gmt":"2025-12-21T09:00:38","slug":"a-falacia-da-minimizacao-da-coleta-como-entrave-para-ia-menos-discriminatoria","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/12\/21\/a-falacia-da-minimizacao-da-coleta-como-entrave-para-ia-menos-discriminatoria\/","title":{"rendered":"A fal\u00e1cia da minimiza\u00e7\u00e3o da coleta como entrave para IA menos discriminat\u00f3ria"},"content":{"rendered":"

A ideia de que o aprofundamento da coleta de dados pessoais \u00e9 necess\u00e1rio para construir uma intelig\u00eancia artificial supostamente \u201cmais justa\u201d<\/a> revela um argumento sedutor, por\u00e9m profundamente problem\u00e1tico. Tal defesa assume como dado que a IA s\u00f3 poder\u00e1 ser mais \u00e9tica se for alimentada com volumes cada vez maiores de informa\u00e7\u00f5es sobre nossas vidas, reproduzindo um mantra acr\u00edtico do campo do aprendizado de m\u00e1quina. Tal perspectiva que toma os dados como mat\u00e9ria-prima extra\u00edvel e acumul\u00e1vel defende que este seria o motor exclusivo tanto da inova\u00e7\u00e3o quanto da equidade.<\/p>\n

Entretanto, a redu\u00e7\u00e3o de tais quest\u00f5es \u00e0 \u201cfalta de diversidade em bancos de dados\u201d \u00e9 uma forma de tecnodeterminismo, ou tecnosolucionismo conforme bem explicitam autores como Eugeny Morozov e Yannis Varoufakis. Podemos argumentar, assim, que a diversidade significativa n\u00e3o depende da expans\u00e3o irrestrita, mas de governan\u00e7a respons\u00e1vel, de sele\u00e7\u00e3o, de repondera\u00e7\u00e3o, de desenho metodol\u00f3gico.<\/p>\n

Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/p>\n

Tal vis\u00e3o das coisas que transforma prote\u00e7\u00e3o em entrave desloca a responsabilidade t\u00e9cnica para o corpo social, como se o cidad\u00e3o, ao exigir seus pr\u00f3prios direitos, criasse, por externalidade negativa, sistemas enviesados.<\/p>\n

\u00c9 supor, ademais, uma esp\u00e9cie de animismo tecnol\u00f3gico, no qual a tecnologia \u201cquer\u201d algo, que demanda ser alimentada, como se fosse uma for\u00e7a inevit\u00e1vel da natureza. Entretanto, a IA n\u00e3o \u00e9 uma criatura aut\u00f4noma: \u00e9 obra de institui\u00e7\u00f5es, empresas, governos e seres humanos que fazem escolhas \u2013 sobre quem \u00e9 inclu\u00eddo, quem \u00e9 exclu\u00eddo, quem \u00e9 vigiado e quem \u00e9 o destinat\u00e1rio dos lucros.<\/p>\n

Nesse sentido, Urs Gasser e Viktor Mayer-Sch\u00f6nberger<\/a> bem lembram que \u201cnem todos os vieses podem ser completamente eliminados. Mesmo medidas sofisticadas para eliminar um tipo de vi\u00e9s podem solidificar outro, n\u00e3o apenas porque essas medidas s\u00e3o insuficientes, mas porque as realidades sociais s\u00e3o complexas\u201d.<\/p>\n

Assim, o argumento de que \u201cmais dados geram mais justi\u00e7a\u201d precisa ser examinado com cautela num pa\u00eds profundamente desigual, em que analfabetos funcionais representam assustadores 29% da popula\u00e7\u00e3o adulta<\/a>, coletar mais dados significa, muitas vezes, aprofundar (j\u00e1 gritantes) assimetrias de poder.<\/p>\n

A prop\u00f3sito, Daniel Solove diz que \u201calgoritmos de IA est\u00e3o longe de serem n\u00e3o enviesados porque s\u00e3o alimentados com dados da sociedade, onde os vieses s\u00e3o abundantes\u201d<\/a>. De fato, pensando metaforicamente, n\u00e3o \u00e9 ampliando o espelho que se combate a distor\u00e7\u00e3o: afinal, a pr\u00f3pria realidade j\u00e1 \u00e9 distorcida. Em verdade, um \u201cespelhismo do real\u201d cria novas condi\u00e7\u00f5es de distor\u00e7\u00e3o.<\/p>\n

Sem negar a import\u00e2ncia dos dados pessoais para o desenvolvimento de diversos sistemas de IA, cabe ressaltar que \u00e9tica e governan\u00e7a adequadas dependem, muito mais, de participa\u00e7\u00e3o coletiva, da democratiza\u00e7\u00e3o dos espa\u00e7os deliberativos dos quais surgem as normas orientadoras do desenvolvimento dos mecanismos de IA, da ado\u00e7\u00e3o de cautelas e salvaguardas adequadas para se evitar os (h\u00e1 muito) conhecidos riscos decorrentes do enviesamento algor\u00edtmico.<\/p>\n

Em suma, antes de mais dados, o que a IA respons\u00e1vel precisa \u00e9 de mais abertura democr\u00e1tica e de processos de inova\u00e7\u00e3o que incorporem, cognitivamente, essas perspectivas.<\/p>\n

A cren\u00e7a de que \u201cmais dados = menos vieses\u201d \u00e9 insustent\u00e1vel na teoria e na empiria. Grandes modelos treinados com trilh\u00f5es de tokens continuam reproduzindo racismos, misoginias, exclus\u00e3o de povos origin\u00e1rios e invisibiliza\u00e7\u00f5es regionais porque o problema n\u00e3o \u00e9 \u201cs\u00f3\u201d aus\u00eancia de dado, mas m\u00e9tricas e designs, par\u00e2metros, abuso da chamada \u201cfun\u00e7\u00e3o de perda\u201d, problema de alinhamento (allignment problem<\/em>), etiquetagem preconceituosa nas mec\u00e2nicas de aprendizado por refor\u00e7o e tantos outros fatores.<\/p>\n

O dadocentrismo propagando por muitos, ao ignorar isso, reencena o velho argumento modernista de que a t\u00e9cnica, se suficientemente abundante, resolver\u00e1 seus pr\u00f3prios problemas. H\u00e1 aqui o mesmo modo de operar que Hans Blumenberg, no livro Trabalho sobre o Mito<\/em>, identifica no mito t\u00e9cnico moderno: uma promessa de completude que, ao n\u00e3o se realizar, culpa tudo aquilo que p\u00f4s restri\u00e7\u00f5es sobre ela, inclusive o direito. Mas a restri\u00e7\u00e3o jur\u00eddica n\u00e3o \u00e9 impeditiva, ela \u00e9 contrapeso frente a tecnologias que tendem a reduzir o mundo a recurso dispon\u00edvel<\/a>.<\/p>\n

O mantra da inova\u00e7\u00e3o \u00e9 outro ponto que precisa ser questionado. Inovar para quem? Para qu\u00ea? Em nome de qual projeto de sociedade? N\u00e3o \u00e9 poss\u00edvel discutir inova\u00e7\u00e3o como valor neutro, dissociado dos interesses econ\u00f4micos e geopol\u00edticos que orientam a tecnologia.<\/p>\n

A promessa de que mais coleta de dados conduzir\u00e1 a uma IA brasileira \u201cmais competitiva\u201d ou \u201cmodelos mais representativos\u201d omite que essa mesma coleta concentra poder nas m\u00e3os de poucos, fragiliza direitos fundamentais e produz depend\u00eancia tecnol\u00f3gica. A inova\u00e7\u00e3o n\u00e3o pode funcionar como salvo-conduto para atropelar limites jur\u00eddicos, como a prote\u00e7\u00e3o de dados pessoais, al\u00e7ada ao patamar de direito fundamental h\u00e1 menos de quatro anos.<\/p>\n

Quando se afirma a necessidade de \u201cinterpretar a LGPD para que n\u00e3o n\u00e3o atrapalhe o acesso aos dados pessoais\u201d, exp\u00f5e-se n\u00e3o uma preocupa\u00e7\u00e3o com equidade, mas um projeto pol\u00edtico de flexibiliza\u00e7\u00e3o e viola\u00e7\u00e3o de direitos, baseados num marco legal constru\u00eddo justamente para conter excessos, impedir vigil\u00e2ncia e mitigar assimetrias de poder. A LGPD \u00e9 (ou busca ser), em sua ess\u00eancia, um freio democr\u00e1tico contra a l\u00f3gica extrativista de dados, sobretudo quando aplicada a popula\u00e7\u00f5es marginalizadas.<\/p>\n

O que fazer? Temos outras vias: modelos menos dependentes de dados pessoais, especialmente os chamados small models<\/em><\/a>, governan\u00e7a p\u00fablica forte<\/a>, avalia\u00e7\u00e3o de impacto algor\u00edtmico, participa\u00e7\u00e3o social nos processos decis\u00f3rios<\/a>, limites normativos claros e inegoci\u00e1veis. H\u00e1, sobretudo, a possibilidade (e mesmo a necessidade) de recusar a transforma\u00e7\u00e3o da vida social em mat\u00e9ria-prima tecnol\u00f3gica como um processo inescap\u00e1vel.<\/p>\n

O dadocentrismo propagado com boas inten\u00e7\u00f5es contribui para processos epistemicidas na medida em que amplia hegemonias e invisibiliza periferias e, ainda, em externalidades ambientais ao transformar o pr\u00f3prio territ\u00f3rio \u2013 pessoas, comunidades, \u00e1gua, energia<\/a> \u2013 em mera condi\u00e7\u00e3o de possibilidade para alimentar arquiteturas que n\u00e3o foram desenhadas para esses contextos.<\/p>\n

A justi\u00e7a algor\u00edtmica n\u00e3o pode ser tratada como um problema t\u00e9cnico a ser resolvido por engenheiros com datasets<\/em> maiores. Ela \u00e9, tamb\u00e9m e necessariamente, um problema pol\u00edtico e jur\u00eddico, exigindo da sociedade considerar quem controla a tecnologia, quem fiscaliza, quem audita, quem lucra, quem \u00e9 afetado e quem \u00e9 silenciado.<\/p>\n

Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/p>\n

A pergunta nunca foi sobre o \u201cquanto podemos coletar?\u201d, mas \u201cque projeto de sociedade estamos autorizando quando decidimos que a solu\u00e7\u00e3o para injusti\u00e7as hist\u00f3ricas \u00e9 apenas extrair mais dados do mundo?\u201d. Se h\u00e1 algo que a experi\u00eancia recente revela, \u00e9 o erro de cultores acr\u00edticos da tecnologia. N\u00e3o \u00e9 a minimiza\u00e7\u00e3o da coleta que empobrece a IA, \u00e9 a modeliza\u00e7\u00e3o da sociedade, tendo a IA como cinzel, que empobrece a estabilidade social e aumenta a viol\u00eancia contra todos.<\/p>\n

Uma IA respons\u00e1vel \u2013 e, aqui, \u00e9 preciso pensar de forma normativa mais estrita \u2013 n\u00e3o nasce do excesso, mas de uma incid\u00eancia adequada da regra jur\u00eddica para organizar o fen\u00f4meno, dar limite e caminho, deixando passar apenas aquilo que interessa \u00e0 sociedade e que impede que o poder t\u00e9cnico se converta em arb\u00edtrio. Se queremos uma IA que sirva ao interesse coletivo, nossa tarefa n\u00e3o \u00e9 aliment\u00e1-la com ainda mais dados, flexibilizando a LGPD.<\/p>","protected":false},"excerpt":{"rendered":"

A ideia de que o aprofundamento da coleta de dados pessoais \u00e9 necess\u00e1rio para construir uma intelig\u00eancia artificial supostamente \u201cmais justa\u201d revela um argumento sedutor, por\u00e9m profundamente problem\u00e1tico. Tal defesa assume como dado que a IA s\u00f3 poder\u00e1 ser mais \u00e9tica se for alimentada com volumes cada vez maiores de informa\u00e7\u00f5es sobre nossas vidas, reproduzindo […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/19426"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=19426"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/19426\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=19426"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=19426"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=19426"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}