O presidente do Supremo Tribunal Federal (STF), ministro Edson Fachin, disse nesta segunda-feira (15/6) que as inovações tecnológicas da sociedade digital produziram a “vulnerabilidade algorítmica”, que exclui e segrega as pessoas a partir de critérios geralmente opacos e de difícil contestação.
Segundo Fachin, o direito não deve combater a inovação, mas “orientá-la” para que a tecnologia “permaneça subordinada aos valores humanos”.
“Não se trata apenas de desenvolver inteligência artificial. Trata-se de preservar inteligência moral. Não se trata apenas de criar sistemas mais eficientes. Trata-se de construir uma sociedade mais justa”, afirmou. A fala foi feita durante a abertura da 10ª Jornada de Direito Civil, evento realizado no Conselho da Justiça Federal, em Brasília.
Conforme Fachin, os algoritmos operam por meio de códigos, bases de dados e modelos preditivos “muitas vezes inacessíveis à compreensão daqueles que são por eles afetados”.
“Um algoritmo pode negar crédito. Pode dificultar o acesso ao emprego. Pode influenciar decisões de consumo. Pode direcionar informações. Pode estabelecer classificações invisíveis. Pode reproduzir preconceitos históricos. Pode ampliar desigualdades preexistentes”, declarou o magistrado. “Tudo isso sem que a pessoa compreenda exatamente como a decisão foi produzida. O problema não reside na tecnologia. O problema reside na assimetria de poder”.
O ministro disse que, quando algoritmos passam a influenciar a concessão de crédito, a seleção para empregos, a circulação de informações, a formação de reputações ou o acesso a bens e serviços, surgem questões sobre sua transparência, responsabilidade e respeito à dignidade humana.
Ao comentar sobre a inteligência artificial (IA), Fachin afirmou que os desafios jurídicos abertos por essa tecnologia surgem não da inovação em si, mas de novas estruturas sociais decorrentes dela e das assimetrias de poder.
“Se os algoritmos passaram a desempenhar funções institucionais, sua legitimidade deverá ser aferida à luz dos mesmos valores que justificam toda ordem jurídica democrática: a dignidade da pessoa humana, a igualdade, a liberdade, a responsabilidade e a proteção dos vulneráveis”, declarou.
Fachin defendeu que o desafio é garantir que a tecnologia siga subordinada aos valores humanos. “Nenhum algoritmo possui dignidade. Nenhuma máquina possui consciência moral. Nenhum sistema automatizado é titular de responsabilidade ética”.
O presidente do STF citou problemas futuros com os quais o direito civil deve se deparar, como a responsabilidade por decisões automatizadas, a proteção contra discriminações algorítmicas, a transparência dos sistemas inteligentes, o direito à revisão humana, a governança de dados e o patrimônio digital.
Nesse ponto, ele elogiou a Lei Geral de Proteção de Dados (LGPD) e disse que a norma representa “um dos mais importantes marcos normativos do Direito brasileiro contemporâneo”, fruto de uma “opção civilizatória” de que os dados pessoais constituam “projeções da própria personalidade humana”.
Fachin afirmou ainda que os algoritmos já não podem ser vistos apenas como instrumentos técnicos que processam informações. Segundo ele, a importância e a presença desses algoritmos permite dizer que eles se tornaram “instituições algorítmicas”, com relevância semelhante ao mercado, à burocracia estatal ou às instituições sociais tradicionais.