Tem sido muito divulgada pela imprensa a estatística compartilhada por Anand Mahindra, segundo a qual apenas 38,5% do atual tráfego online vem de humanos. O restante é gerado de forma inautêntica por entidades não humanas, como bots, rastreadores, scrapers, mineradores de cripto, ferramentas de hacking, dentre outros[1].
O assunto é tão pungente – ainda mais quando se considera que, em breve, o já expressivo percentual de conteúdo inautêutico pode tornar-se ainda muito maior – que já foi objeto de um dos episódios do podcast Direito Digital, cujo título é Teoria da Internet Morta e Circulação de Conteúdos Gerados por IA.[2]
Mais recentemente, fomos surpreendidos com a notícia da existência de uma rede social – a Moltbook – em que somente sistemas de inteligência artificial gerariam conteúdos, cabendo aos seres humanos apenas observar o que lá se passava[3]. Por mais que o MIT tenha descoberto que a proposta era uma fraude – já que brechas permitiam publicações feitas por seres humanos e as interações eram orquestradas por pessoas[4] – o episódio revela o quão próximo é o cenário de ambientes comunicacionais dominados exclusivamente por inteligência artificial, assim como os riscos de indevidas interferências humanas, nem sempre de fácil identificação.
Tais fatos chamam a atenção para a importância da linguagem e para os riscos de que esta seja transferida para sistemas de inteligência artificial, o que representa uma forma de poder até então nunca vista, pois interfere naquilo que é constitutivo do próprio ser humano e das sociedades.
Este tema foi trazido no último Fórum Econômico Mundial por Yuval Harari, em interessante palestra sobre o controle cada vez maior da linguagem por sistemas de inteligência artificial[5], a partir de algumas das premissas fundamentais para o debate:
A inteligência artificial não é uma mera ferramenta ou instrumento, mas sim agente, com capacidade decisória. Logo, ao contrário de uma faca, que pode cortar uma salada ou matar alguém a depender do uso que lhe seja dado um por ser humano, a inteligência artificial se diferencia das demais ferramentas por ser ela que decide, no referido exemplo, se vai cortar salada ou matar alguém.
A inteligência artificial é altamente criativa, podendo mentir e manipular[6].
Prosseguindo no raciocínio, Harari faz uma provocação sobre se a habilidade dos sistemas de inteligência artificial de formar frases e raciocínios, mesmo com base em probabilidades, já não seria uma prova de que elas também podem pensar e poderiam fazê-lo melhor do que nós, já que tal tipo de capacidade de comunicação não é tão diferente daquela existente nos seres humanos.
A partir daí, o autor nos instiga com perguntas desconcertantes: se aprendemos com a linguagem – sendo os livros exemplos nesse sentido – qual é a repercussão de aprendermos agora com conteúdos gerados por máquinas e não por outros seres humanos? Se grandes especialistas em assuntos como direito e religião aprendem essencialmente com livros, não pode a inteligência artificial ser a maior especialista nessas áreas?
Se os seres humanos conquistaram o mundo com a linguagem e usam as palavras para construir sistemas como direito, religião, política e finanças, o que acontecerá quando tais sistemas forem construídos predominantemente por sistemas de inteligência artificial?
A hipótese de Harari é que, por meio do progressivo domínio da linguagem, os sistemas de inteligência artificial poderão dominar também tudo aquilo que é construído por ela ou dela derivado. E aí não se está a falar apenas em direito, religião, política e finanças, mas na própria identidade do ser humano, que é também definida com base em palavras.
Até hoje, as palavras que usamos são originadas de outros homens. Porém, o cenário futuro é aquele em que até as palavras poderão ser geradas por inteligência artificial, o que pode levar a um verdadeiro choque de identidades. Mais do que isso, mesmo com a manutenção das palavras humanas, em pouco tempo tudo aquilo que é feito por palavras poderá ser assumido pela inteligência artificial.
Não é mera coincidência que hoje as pessoas buscam na inteligência artificial papéis e funções de seres humanos, tais como os de juízes, advogados, psicólogos, professores, autoridades eclesiásticas e mesmo de amigos ou amantes.
Vale ressaltar que a importante advertência de Harari encontra paralelos com inúmeras discussões da mais alta relevância, tais como as de que os dados, as estatísticas e a matemática em que se baseia a inteligência artificial, longe se serem neutros, refletem sempre escolhas valorativas, nem que seja a de manutenção do status quo[7].
Dessa maneira, quando se transfere a linguagem e a capacidade decisória para sistemas de inteligência artificial, transfere-se igualmente o conjunto de decisões valorativas – inclusive as políticas – inerentes a tais processos. Não é sem razão que, em debate, Kenneth Cukier e Carissa Véliz destacaram o quanto os resultados de máquina, longe de serem isentos de valores, estão moldados por escolhas humanas e estruturas morais, já que os números são sempre políticos e alguém sempre vai decidir o que conta[8].
Daí por que o tema também se conecta diretamente ao poder de grandes agentes econômicos que cada vez mais assumem o controle das narrativas e do discurso público por diversos mecanismos, seja pela propriedade de meios tradicionais de mídia ou de plataformas digitais, seja pelo próprio controle da linguagem. Não é mera coincidência que Elon Musk tenha adquirido o Twitter e tenha criado a Grokipedia não só para competir com a Wikipedia, como sobretudo para espalhar distorções históricas e teorias da conspiração do seu interesse[9].
É importante notar que é notável o alcance político das big techs nessa disputa por linguagem e conteúdos. Quando Donald Trump pretendeu substituir a denominação “Golfo do México” para “Golfo da América”, sua decisão foi acompanhada pela Google e Apple, que fizeram a referida renomeação nas suas redes, pelo menos para usuários norteamericanos[10].
Quando o ChatGPT é indagado sobre onde estão as pessoas mais inteligentes e criativas do mundo, a sua resposta aponta para países de alta renda, assim como a baguete francesa é por ele considerada a melhor do mundo, sem nenhum espaço para a indicação de outras regiões da África e do Oriente Médio com grande tradição em panificação[11].
Tais disparidades acontecem igualmente no cenário nacional, razão pela qual o ChatGPT considera que os brasileiros mais inteligentes estão no Distrito Federal e em São Paulo, reforçando preconceitos contra as regiões Norte e Nordeste[12]. Na verdade, fica claro que a OpenAI favorece, em suas respostas, países e regiões mais ricos, além de homens e a população branca[13].
Tais questões já apontavam para os riscos do controle do discurso e das narrativas por parte de poucos agentes interessados em difundir a sua visão de mundo e os seus próprios valores. A partir do momento em que somamos a isso o próprio controle da linguagem, os riscos tornam-se ainda maiores.
Afinal, a inteligência artificial, assim como qualquer outra tecnologia, não é neutra e tem sido desenvolvida e estruturada por poucos agentes econômicos que tendem a priorizar seus próprios interesses. Dessa maneira, é ingênuo acreditar que a progressiva desumanização da linguagem e da comunicação levarão à maior neutralidade e objetividade.
Estamos diante de grandes agentes e de novas formas de poder econômico que pretendem – e vêm obtendo considerável êxito nesse propósito – não apenas controlar o discurso público, como a própria linguagem, com o que poderão dominar todas as demais esferas da experiência humana, tanto em âmbito coletivo – aí incluídos direito, economia, e política – como em âmbito individual.
[1] https://timesofindia.indiatimes.com/etimes/trending/anand-mahindra-shares-worrisome-data-humans-make-up-only-38-5-of-users-online-the-rest-is-ai/articleshow/118548511.cms
[2] Podcast Direito Digital. Apresentado por Ana Frazão e Caitlin Mulholland. Episódio 43. EP#43: Teoria da Internet Morta e a circulação de conteúdos gerados por IA – Direito Digital | Podcast on Spotify
[3] cnnbrasil.com.br/tecnologia/estao-fazendo-maquinas-simularem-revolta-diz-especialista-sobre-moltbook/
[4] https://forbes.com.br/forbes-tech/2026/02/mit-desmascara-moltbook-posts-feitos-por-humanos/; https://www.tecmundo.com.br/redes-sociais/410654-moltbook-a-farsa-da-rede-social-para-ias-que-enganou-a-internet.htm
[5] https://www.youtube.com/watch?v=QiT2yK-5-yg
[6] Já tive oportunidade de tratar desse tema em coluna específica: “O lado enganoso da inteligência artificial. Recentes estudos trazem evidências de fraudes, ameaças, chantagens e manipulações.” FRAZÃO, Ana. Jota. https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/o-lado-enganoso-da-inteligencia-artificial
[7] Esse aspecto foi abordado na minha série do Jota sobre Discriminação Algorítmica, especialmente na coluna “Discriminação algorítmica: ciência dos dados como ação política. Necessário reconhecimento de que sistemas algorítmicos que impactam na vida das pessoas envolvem escolhas sociais e políticas. FRAZÃO, Ana. Jota. https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-ciencia-dos-dados-como-acao-politica
[8] https://www.youtube.com/watch?v=2bD1YKniZcE
[9] https://epocanegocios.globo.com/inteligencia-artificial/noticia/2025/11/grokipedia-enciclopedia-criada-por-ia-de-elon-musk-e-acusada-de-copiar-wikipedia-e-distorcer-fatos-historicos.ghtml
[10] https://g1.globo.com/tecnologia/noticia/2025/02/12/apos-google-apple-renomeia-golfo-do-mexico-como-golfo-da-america-em-app-de-mapas-nos-eua.ghtml
[11] https://www.instagram.com/reel/DUJTz3_Ds5i/
[12] https://www1.folha.uol.com.br/mercado/2026/02/chatgpt-reproduz-preconceitos-regionais-e-classifica-nordestinos-como-ignorantes.shtml
[13] https://www.tecmundo.com.br/software/410472-chatgpt-reforca-preconceitos-contra-as-regioes-norte-e-nordeste-diz-estudo.htm