O debate sobre regula\u00e7\u00e3o de plataformas digitais no Brasil frequentemente parte de uma premissa equivocada: a de que o ordenamento jur\u00eddico seria insuficiente para disciplinar o poder exercido por grandes provedores de aplica\u00e7\u00e3o e que \u201cmais regula\u00e7\u00e3o\u201d seja necess\u00e1ria.<\/p>\n
Essa leitura n\u00e3o se sustenta diante de an\u00e1lise da legisla\u00e7\u00e3o vigente. O Brasil disp\u00f5e de arcabou\u00e7o normativo abrangente, com instrumentos como o Marco Civil da Internet, a Lei Geral de Prote\u00e7\u00e3o de Dados Pessoais, o C\u00f3digo de Defesa do Consumidor e o C\u00f3digo Civil, por\u00e9m tais normativas n\u00e3o s\u00e3o necessariamente implementados da maneira mais contundente poss\u00edvel.<\/p>\n
Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/p>\n Nos parece que uma aplica\u00e7\u00e3o mais incisiva de tais normas seria capaz de submeter plataformas digitais a um regime consistente de responsabiliza\u00e7\u00e3o, transpar\u00eancia e prote\u00e7\u00e3o de direitos fundamentais. A quest\u00e3o central, portanto, n\u00e3o \u00e9 a aus\u00eancia de normas, mas a insufici\u00eancia de fiscaliza\u00e7\u00e3o, enforcement<\/em> e de coordena\u00e7\u00e3o institucional, como j\u00e1 destacamos em v\u00e1rios estudos emp\u00edricos<\/a>.<\/p>\n Dois casos recentes colocaram essa contradi\u00e7\u00e3o em evid\u00eancia: o chatbot Grok e a busca e indexa\u00e7\u00e3o de sites de \u201cnudifica\u00e7\u00e3o\u201d pelo Google, ambos ferindo ativamente direitos de mulheres e crian\u00e7as e adolescentes e violando precedentes jur\u00eddicos j\u00e1 consolidados.<\/p>\n Em rela\u00e7\u00e3o ao primeiro caso, o Grok, chatbot desenvolvido pela xAI de Elon Musk e integrado ao X (antigo Twitter), foi alertado por pesquisadores durante mais de um ano sobre aus\u00eancia de salvaguardas contra gera\u00e7\u00e3o de imagens sexualizadas que colocaria menores em risco. A empresa optou por lan\u00e7ar e manter o sistema sem prote\u00e7\u00f5es eficazes, como as j\u00e1 implementadas por seus principais competidores (DALL-E e Midjourney)<\/a>, provavelmente porque implementar barreiras atrasaria o crescimento de usu\u00e1rios.<\/p>\n Ferramentas dessa natureza j\u00e1 encontram \u00f3bices claros no ordenamento vigente. O art. 21 do Marco Civil estabelece regime espec\u00edfico para imagens de nudez ou atos sexuais de car\u00e1ter privado, com responsabiliza\u00e7\u00e3o de provedores que n\u00e3o removem conte\u00fado ap\u00f3s notifica\u00e7\u00e3o. A Lei 15.123\/2025<\/a> reconheceu explicitamente a intelig\u00eancia artificial como instrumento de viol\u00eancia psicol\u00f3gica de g\u00eanero. Al\u00e9m disso, a LGPD veda o tratamento de dados pessoais de menores de idade sem consentimento de seus representantes legais, em seu artigo 14, \u00a72\u02da.<\/p>\n Embora o Enunciado CD\/ANPD n\u00ba 1\/2023<\/a> autorize o tratamento de dados de crian\u00e7as e adolescentes independentemente de consentimento, ele somente pode ser realizado nas hip\u00f3teses legais previstas do art. 7\u02da e 11 da LGPD e com a finalidade de se atender ao seu melhor interesse. De tal modo, a utiliza\u00e7\u00e3o de tais dados para alimentar ferramentas de nudifica\u00e7\u00e3o ou de falsifica\u00e7\u00e3o de imagens constitui finalidade incompat\u00edvel com o referido princ\u00edpio do melhor interesse. Ainda assim, a xAI continua a operar livremente no Brasil sem implementar filtros e medidas de adequa\u00e7\u00e3o, sem (at\u00e9 o momento) enfrentar san\u00e7\u00f5es dom\u00e9sticas significativas.<\/p>\n Em rela\u00e7\u00e3o ao segundo caso, recente estudo<\/a> elaborado pelo CTS-FGV, considerando dados do Google Trends revelou a dimens\u00e3o de um problema correlato: a listagem de sites com ferramentas de \u201cnudify<\/em>\u201d (uso de machine learning<\/em> para despir roupas) no Google e a busca ativa de usu\u00e1rios por sites que permitissem, at\u00e9 mesmo gratuitamente, a opera\u00e7\u00e3o dessa ferramenta. Foram encontradas, por exemplo, varia\u00e7\u00f5es das buscas at\u00e9 mesmo em portugu\u00eas, com usu\u00e1rios apresentando alto grau de interesse em termos como \u201cdespir IA\u201d, \u201cnudes<\/em> IA\u201d e \u201cnudify<\/em> gr\u00e1tis\u201d.<\/p>\n Ao indexar p\u00e1ginas e canais que proporcionam o acesso a tais ferramentas, o Google facilita a identifica\u00e7\u00e3o e at\u00e9 legitima tais instrumentos de abuso, que afetam principalmente mulheres, crian\u00e7as e adolescentes. De tal modo, eles s\u00e3o tratados da mesma forma que um mero conte\u00fado convencional de seus resultados, amplificando exponencialmente o alcance de tais sites e reduzindo barreiras psicol\u00f3gicas.<\/p>\n Considerando a pr\u00f3xima vig\u00eancia do ECA Digital<\/a>, a empresa precisa ainda implementar salvaguardas espec\u00edficas para evitar que crian\u00e7as e adolescentes n\u00e3o s\u00f3 sejam v\u00edtimas desse tipo de abuso, mas tamb\u00e9m\u00a0 que possam ter acesso a esse tipo de conte\u00fado e ferramenta. Ressalta-se que o Google n\u00e3o atua como intermedi\u00e1rio neutro quando legitima sites cuja arquitetura foi desenhada precisamente para viabilizar viola\u00e7\u00f5es em massa de direitos fundamentais, lucrando indiretamente com a busca por tais sites. H\u00e1 precedentes da pr\u00f3pria empresa para a desindexa\u00e7\u00e3o para conte\u00fado de abuso sexual infantil (CSAM) e terrorismo. Nesse sentido, a mesma l\u00f3gica deveria se aplicar a ferramentas que instrumentalizam viola\u00e7\u00e3o de intimidade em escala industrial.<\/p>\n Apesar do arcabou\u00e7o legal aplic\u00e1vel, ANPD, Senacon e Minist\u00e9rio P\u00fablico Federal tem atuado de forma t\u00edmida, com emiss\u00e3o de meras recomenda\u00e7\u00f5es ao X no caso do Grok. Nos parece necess\u00e1rio que tais entidades atuem de forma coordenada para exigir maior transpar\u00eancia sobre crit\u00e9rios de modera\u00e7\u00e3o ou auditoria de algoritmos de recomenda\u00e7\u00e3o que amplificam acesso a esses sites.<\/p>\n Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/p>\n De outro lado, importa dizer que a dificuldade de aplica\u00e7\u00e3o das normas vigentes decorre da assimetria estrutural entre Estado brasileiro e empresas transnacionais de tecnologia. Autoridades reguladoras frequentemente n\u00e3o disp\u00f5em de recursos humanos e tecnol\u00f3gicos compat\u00edveis com a complexidade dos sistemas que devem supervisionar. Contudo, sem investimento em auditoria t\u00e9cnica e capacita\u00e7\u00e3o de servidores, o potencial regulat\u00f3rio das normas existentes permanece subaproveitado. Na aus\u00eancia fiscaliza\u00e7\u00e3o, padroniza\u00e7\u00e3o e enforcement<\/em>, a ado\u00e7\u00e3o de regula\u00e7\u00e3o corre o risco de ser \u201cpara ingl\u00eas ver<\/a>\u201d.<\/p>\n