Enquanto o Brasil debate a regula\u00e7\u00e3o de plataformas digitais e o impacto das redes sociais sobre crian\u00e7as e adolescentes, um tribunal em Los Angeles est\u00e1 julgando um caso que pode redefinir a rela\u00e7\u00e3o entre a sociedade e as big techs em escala global.<\/p>\n
Pela primeira vez, um j\u00fari popular nos Estados Unidos vai decidir se empresas como Meta e Google podem ser responsabilizadas pelos danos que seus produtos causam a jovens usu\u00e1rios. N\u00e3o pelo conte\u00fado que terceiros publicam nessas plataformas, mas pelas decis\u00f5es de design que as tornam deliberadamente viciantes.<\/p>\n
Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/p>\n Este n\u00e3o \u00e9 um caso qualquer. Ele re\u00fane centenas de demandantes, representados pelo caso-teste da jovem K.G.M., no \u00e2mbito de um Procedimento de Coordena\u00e7\u00e3o do Conselho Judicial (JCCP) da Calif\u00f3rnia,<\/a> incluindo fam\u00edlias e distritos escolares. A solu\u00e7\u00e3o desta disputa influenciar\u00e1 diversos processos estaduais e federais em andamento em todos os EUA.<\/p>\n O desfecho ter\u00e1 consequ\u00eancias que ultrapassar\u00e3o as fronteiras dos Estados Unidos \u2014 e o Brasil, com seu pr\u00f3prio debate sobre regula\u00e7\u00e3o digital e prote\u00e7\u00e3o infantil, tem muito a aprender com o que est\u00e1 acontecendo naquela corte.<\/p>\n O argumento central da defesa das big techs \u00e9 conhecido: a Se\u00e7\u00e3o 230 da Lei de Dec\u00eancia nas Comunica\u00e7\u00f5es, de 1996, as protege de responsabilidade pelo conte\u00fado publicado por usu\u00e1rios. Essa prote\u00e7\u00e3o foi fundamental para o crescimento da internet como a conhecemos. Mas o caso K.G.M. desloca a quest\u00e3o de territ\u00f3rio: n\u00e3o se trata do que as pessoas postam, mas de como as plataformas s\u00e3o constru\u00eddas. O enfoque est\u00e1 no design das arquiteturas informacionais. Desta forma, entramos no espa\u00e7o de responsabilidade por produtos defeituosos e, se o caso fosse no Brasil, de direitos do consumidor.<\/p>\n Rolagem infinita. Reprodu\u00e7\u00e3o autom\u00e1tica. Notifica\u00e7\u00f5es calibradas para gerar ansiedade. Sistemas de recompensa vari\u00e1vel que funcionam segundo a mesma l\u00f3gica dos ca\u00e7a-n\u00edqueis. Essas n\u00e3o s\u00e3o publica\u00e7\u00f5es de usu\u00e1rios; s\u00e3o decis\u00f5es de engenharia, tomadas por equipes de produto e otimizadas por algoritmos de aprendizado de m\u00e1quina, cujo objetivo \u00e9 maximizar o tempo de perman\u00eancia, pois esse tempo se converte em receita publicit\u00e1ria.<\/p>\n A ju\u00edza Carolyn Kuhl, do Tribunal Superior da Calif\u00f3rnia, entendeu que essa distin\u00e7\u00e3o deve ser analisada por um j\u00fari. Ao permitir que o caso prosseguisse, ela sinalizou algo profundo: que decis\u00f5es algor\u00edtmicas podem ser tratadas como decis\u00f5es de produto, e, portanto, sujeitas \u00e0s mesmas obriga\u00e7\u00f5es de seguran\u00e7a e dilig\u00eancia que qualquer outro setor industrial.<\/p>\n Para compreender a gravidade do que est\u00e1 em julgamento, \u00e9 preciso entender o que esses sistemas fazem. Os algoritmos de recomenda\u00e7\u00e3o das grandes plataformas s\u00e3o treinados com volumes massivos de dados comportamentais. Eles n\u00e3o \u201centendem\u201d conte\u00fado como humanos; otimizam as probabilidades. Funcionam em tr\u00eas camadas: coleta e modelagem do perfil do usu\u00e1rio, classifica\u00e7\u00e3o preditiva do conte\u00fado dispon\u00edvel e ranqueamento personalizado em tempo real.<\/p>\n A literatura acad\u00eamica e documentos internos j\u00e1 revelados em processos judiciais mostram que esses sistemas tendem a amplificar conte\u00fado que gera rea\u00e7\u00f5es emocionais intensas (indigna\u00e7\u00e3o, medo e excita\u00e7\u00e3o) porque esse tipo de conte\u00fado provoca maior intera\u00e7\u00e3o. O sistema aprende continuamente com o comportamento do usu\u00e1rio, criando ciclos de retroalimenta\u00e7\u00e3o que podem levar \u00e0 radicaliza\u00e7\u00e3o progressiva, \u00e0 polariza\u00e7\u00e3o e \u00e0 exposi\u00e7\u00e3o repetitiva a conte\u00fados prejudiciais.<\/p>\n E aqui est\u00e1 o ponto que transforma este caso em algo compar\u00e1vel \u00e0 litig\u00e2ncia contra a ind\u00fastria do tabaco: as empresas sabiam. Os chamados Facebook Papers, vazados em 2021, revelaram que a pr\u00f3pria Meta possu\u00eda pesquisas internas que demonstravam que o Instagram agravava problemas de imagem corporal entre adolescentes. A empresa optou por priorizar o engajamento. A analogia com o tabaco n\u00e3o \u00e9 ret\u00f3rica, \u00e9 estrutural.<\/p>\n O instituto Project Liberty, dos EUA, utilizou a express\u00e3o \u201cmomento tabaco\u201d para designar a conjuntura atual das big techs. H\u00e1 dezenas de documentos internos que foram intencionalmente afastados do grande p\u00fablico e produzem ind\u00edcios de cogni\u00e7\u00e3o por parte de lideran\u00e7as dessas empresas sobre o car\u00e1ter aditivo de certas escolhas de design.<\/p>\n Do ponto de vista cient\u00edfico, o debate sobre se as redes sociais causam \u201cv\u00edcio\u201d no sentido cl\u00ednico ainda est\u00e1 em aberto. O DSM-5 n\u00e3o classifica o uso de redes sociais como transtorno aditivo. Pesquisadores preferem falar em \u201cpadr\u00f5es de uso problem\u00e1tico com caracter\u00edsticas aditivas\u201d.Mas essa cautela terminol\u00f3gica n\u00e3o deve obscurecer o que j\u00e1 sabemos com clareza: crian\u00e7as e adolescentes s\u00e3o neurologicamente mais vulner\u00e1veis aos mecanismos que essas plataformas empregam.<\/p>\n O c\u00f3rtex pr\u00e9-frontal, respons\u00e1vel pelo controle de impulsos e pela tomada de decis\u00f5es, s\u00f3 se desenvolve plenamente por volta dos 25 anos. Isso significa que um adolescente exposto a sistemas de recompensa vari\u00e1vel, otimizados por intelig\u00eancia artificial para maximizar o engajamento, est\u00e1 numa posi\u00e7\u00e3o radicalmente diferente da de um adulto que usa a mesma plataforma. Desenhar produtos que exploram essa vulnerabilidade n\u00e3o \u00e9 inova\u00e7\u00e3o respons\u00e1vel, \u00e9 neglig\u00eancia que busca lucro a qualquer custo.<\/p>\n O Brasil n\u00e3o \u00e9 observador passivo nesse debate. Com mais de 180 milh\u00f5es de usu\u00e1rios de internet e uma das maiores popula\u00e7\u00f5es de redes sociais do mundo, o pa\u00eds \u00e9, ao mesmo tempo, um dos maiores mercados dessas plataformas e uma das sociedades mais expostas a seus efeitos.<\/p>\n O Marco Civil da Internet<\/a>, aprovado em 2014, foi inovador ao estabelecer princ\u00edpios de neutralidade da rede e de prote\u00e7\u00e3o de dados. Mas foi desenhado para uma internet que j\u00e1 n\u00e3o existe. A quest\u00e3o central que o caso K.G.M. coloca \u2014 se o design algor\u00edtmico constitui conduta pr\u00f3pria da empresa, distinta da mera publica\u00e7\u00e3o de conte\u00fado de terceiros \u2014 ainda n\u00e3o foi adequadamente enfrentada pelo marco regulat\u00f3rio brasileiro.<\/p>\n A Lei Geral de Prote\u00e7\u00e3o de Dados (LGPD<\/a>) avan\u00e7ou em mat\u00e9ria de consentimento e tratamento de dados pessoais, mas n\u00e3o aborda diretamente o tema do design persuasivo e seus efeitos sobre popula\u00e7\u00f5es vulner\u00e1veis.<\/p>\nDesign como produto, n\u00e3o como express\u00e3o<\/h2>\n
O que os algoritmos fazem e o que as empresas sabiam<\/h2>\n
Crian\u00e7as n\u00e3o s\u00e3o adultos em miniatura<\/strong><\/h2>\n
O que isso tem a ver com o Brasil<\/strong><\/h2>\n