{"id":12386,"date":"2025-07-01T10:59:03","date_gmt":"2025-07-01T13:59:03","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/07\/01\/a-moderacao-automatizada-e-o-algoritmo-imperfeito\/"},"modified":"2025-07-01T10:59:03","modified_gmt":"2025-07-01T13:59:03","slug":"a-moderacao-automatizada-e-o-algoritmo-imperfeito","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/07\/01\/a-moderacao-automatizada-e-o-algoritmo-imperfeito\/","title":{"rendered":"A modera\u00e7\u00e3o automatizada e o algoritmo imperfeito"},"content":{"rendered":"

Modera\u00e7\u00e3o de conte\u00fado \u00e9 o assunto da vez. Est\u00e1 no centro dos principais debates regulat\u00f3rios contempor\u00e2neos \u2013 do julgamento da constitucionalidade do artigo 19 do Marco Civil da Internet<\/a> no STF<\/a> \u00e0 implementa\u00e7\u00e3o do Digital Services Act na Uni\u00e3o Europeia. Com mais de 5 bilh\u00f5es de pessoas conectadas a redes sociais, \u00e9 imposs\u00edvel falar sobre o tema sem discutir os mecanismos automatizados que operam para lidar com a escala desse desafio.<\/p>\n

A modera\u00e7\u00e3o automatizada consiste no uso de sistemas de software para detectar, classificar e tomar decis\u00f5es sobre conte\u00fados gerados por usu\u00e1rios, com pouca ou nenhuma interfer\u00eancia humana. Com bilh\u00f5es de postagens di\u00e1rias nas maiores plataformas, trata-se do principal mecanismo de aplica\u00e7\u00e3o das respectivas regras de uso.<\/p>\n

Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/h3>\n

O discurso e a linguagem sobre modera\u00e7\u00e3o de conte\u00fado<\/h3>\n

No in\u00edcio dos anos 2000, Lawrence Lessig popularizou a ideia de que code is law<\/em>: o c\u00f3digo, isto \u00e9, a arquitetura de software, regularia comportamentos online com a mesma for\u00e7a normativa de uma lei. A partir da d\u00e9cada de 2010, essa express\u00e3o deu lugar a um termo equivalente, algorithmic governance<\/em>, centrando o debate em torno da regula\u00e7\u00e3o de tecnologias automatizadas que utilizam algoritmos.<\/p>\n

Ao posicionar o regulador e a pr\u00f3pria regula\u00e7\u00e3o no centro do debate, exp\u00f5e-se tamb\u00e9m a dupla limita\u00e7\u00e3o: tanto dos sistemas em desempenhar de maneira efetiva suas tarefas, como das pr\u00f3prias ambi\u00e7\u00f5es legislativas. E \u00e9 nesse ponto que o Teorema da Impossibilidade de Masnick\u00a0ganha import\u00e2ncia.<\/p>\n

Inspirado no teorema de Arrow, que demonstra a impossibilidade de um sistema eleitoral ideal, Mike Masnick prop\u00f4s em 2019 o seguinte:\u00a0n\u00e3o existe modera\u00e7\u00e3o de conte\u00fado em larga escala que funcione bem para todos. Essa impossibilidade \u00e9 tanto\u00a0pr\u00e1tica\u00a0(por limita\u00e7\u00f5es de tempo, contexto e tecnologia) quanto conceitual (n\u00e3o h\u00e1 defini\u00e7\u00e3o universal do que \u00e9 aceit\u00e1vel).<\/p>\n

Como funciona a modera\u00e7\u00e3o automatizada<\/h3>\n

T\u00e9cnicas comunit\u00e1rias e humanas de modera\u00e7\u00e3o existem e s\u00e3o importantes, mas s\u00e3o apenas complementos para o trabalho dos sistemas automatizados.<\/p>\n

Como mostra Drolsbach e Pr\u00f6llochs, a maioria do conte\u00fado ilegal \u00e9 detectada e processada por meios automatizados em vez de interven\u00e7\u00e3o manual, e existe uma correla\u00e7\u00e3o entre os m\u00e9todos de identifica\u00e7\u00e3o e tomada de decis\u00e3o. Na modera\u00e7\u00e3o totalmente automatizada, mais de 99% do conte\u00fado moderado foi identificado automaticamente, enquanto nas outras categorias, essa propor\u00e7\u00e3o cai para 76,06% (parcialmente automatizada) e 71,75% (n\u00e3o automatizada). Ou seja, a identifica\u00e7\u00e3o automatizada geralmente leva \u00e0 decis\u00e3o automatizada.<\/p>\n

Essas t\u00e9cnicas de modera\u00e7\u00e3o s\u00e3o diversas e envolvem estat\u00edstica, aprendizado de m\u00e1quina e redes neurais, sendo aplicadas a textos, \u00e1udios, imagens e v\u00eddeos (Gorwa et al). Podem ser classificadas, de modo simplificado, em dois grandes grupos:<\/p>\n

Correspond\u00eancia: compara conte\u00fados novos com bases curadas previamente (ex.: combate a imagens de abuso sexual infantil ou viola\u00e7\u00f5es de copyright); e
\nClassifica\u00e7\u00e3o: usa padr\u00f5es aprendidos a partir de grandes bases para prever e categorizar novos conte\u00fados (ex.: spam, discurso de \u00f3dio, terrorismo).<\/p>\n

A correspond\u00eancia depende de curadoria humana pr\u00e9via, (pense nos captchas<\/em> que pedem para voc\u00ea, ao entrar num site, clicar no sem\u00e1foro). J\u00e1 a classifica\u00e7\u00e3o trabalha com generaliza\u00e7\u00f5es e, portanto, acarreta maior risco de erro e vi\u00e9s, seja pela indefini\u00e7\u00e3o de conceitos chave como discurso de \u00f3dio e terrorismo, seja pela dificuldade de compreens\u00e3o de contexto da linguagem utilizada.<\/p>\n

Sejam cr\u00edticas pol\u00edticas: \u201cEsse vereador faltou a todas as sess\u00f5es do m\u00eas, segue embolsando sal\u00e1rio e ainda tem a cara de pau de posar como defensor do povo\u201d. Relatos de experi\u00eancias pessoais: \u201cEsse m\u00e9dico destruiu minha vida. Fui v\u00edtima de viol\u00eancia obst\u00e9trica. Cuidado com ele\u201d. Ou humor popular: \u201cSe meu chefe aparecer com mais uma planilha hoje, eu juro que vou cometer um pequeno crime contra a humanidade\u201d.<\/p>\n

A experi\u00eancia online reflete a linguagem humana, que \u00e9 muito mais complexa do que qualquer sistema de reconhecimento de palavras ou padr\u00f5es lingu\u00edsticos. E essas dificuldades n\u00e3o s\u00e3o meramente hipot\u00e9ticas: mesmo usando sistemas modernos, baseados em modelos de linguagem de larga escala (LLMs), conforme estudo de Gadhvi et al, os sistemas sinalizaram desproporcionalmente conte\u00fado postado por grupos minorizados como infringente, e apresentaram maior dificuldade de entender sarcasmo e ironia.<\/p>\n

Com mais de 600 milh\u00f5es de conte\u00fados publicados diariamente nas redes sociais (uma estimativa conservadora), mesmo um sistema com taxa de acerto de 99,99% ainda permitiria a circula\u00e7\u00e3o de 60 mil conte\u00fados inadequados. Essa realidade possibilita a sele\u00e7\u00e3o pontual de casos equivocados, que s\u00e3o ent\u00e3o destacados publicamente como evid\u00eancia da suposta \u201cfal\u00eancia do sistema de modera\u00e7\u00e3o\u201d, sem considerar a efic\u00e1cia global, que \u00e9 significativamente superior a qualquer alternativa dispon\u00edvel.<\/p>\n

Evidentemente, isso n\u00e3o deve servir como justificativa para ina\u00e7\u00e3o. \u00c9 imprescind\u00edvel que investimentos em aprimoramentos dos sistemas persistam, mantendo abordagens que integrem modera\u00e7\u00e3o automatizada e supervis\u00e3o humana.<\/p>\n

Por exemplo, diversos problemas podem ser enfrentados de maneira mais eficaz por sistemas h\u00edbridos, nos quais algoritmos filtram conte\u00fados potencialmente nocivos e auxiliam processos decis\u00f3rios, enquanto humanos assumem as delibera\u00e7\u00f5es que exigem maior sensibilidade contextual. Erros devem ser identificados, corrigidos e, quando n\u00e3o o forem, as empresas precisam ser responsabilizadas.<\/p>\n

No entanto, trabalhar com a premissa regulat\u00f3ria de efic\u00e1cia absoluta mostra-se incompat\u00edvel com a realidade. Uma abordagem que busque 100% de precis\u00e3o, al\u00e9m de ut\u00f3pica, corre o risco de silenciar conte\u00fados leg\u00edtimos por excesso de cuidado sem abordar os fatores estruturais que impulsionam manifesta\u00e7\u00f5es problem\u00e1ticas online.<\/p>\n

Em outras palavras: n\u00e3o podemos discutir modera\u00e7\u00e3o apenas pela lente da culpa ou da responsabilidade civil, negligenciando quest\u00f5es fundamentais como a educa\u00e7\u00e3o de usu\u00e1rios e reguladores sobre as complexidades desse processo e cria\u00e7\u00e3o de mecanismos que fomentem a transpar\u00eancia, responsabilidade e reconhecimento do papel ativo de todos os envolvidos nos dilemas da modera\u00e7\u00e3o.<\/p>\n

\u00c9 importante reconhecer que n\u00e3o existe uma solu\u00e7\u00e3o perfeita para a modera\u00e7\u00e3o de conte\u00fado em uma democracia, afinal, essa \u00e9 imperfeita. Buscar solu\u00e7\u00f5es equilibradas exige di\u00e1logo multisetorial, m\u00e9todos de pesquisa s\u00f3lidos com evid\u00eancias emp\u00edricas e compromisso com o interesse p\u00fablico.<\/p>","protected":false},"excerpt":{"rendered":"

Modera\u00e7\u00e3o de conte\u00fado \u00e9 o assunto da vez. Est\u00e1 no centro dos principais debates regulat\u00f3rios contempor\u00e2neos \u2013 do julgamento da constitucionalidade do artigo 19 do Marco Civil da Internet no STF \u00e0 implementa\u00e7\u00e3o do Digital Services Act na Uni\u00e3o Europeia. Com mais de 5 bilh\u00f5es de pessoas conectadas a redes sociais, \u00e9 imposs\u00edvel falar sobre […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/12386"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=12386"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/12386\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=12386"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=12386"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=12386"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}