No conto \u201cFunes, o Memorioso\u201d, Jorge Luis Borges descreve a hist\u00f3ria de um homem que adquire uma mem\u00f3ria perfeita ap\u00f3s um acidente de cavalo que o deixa paral\u00edtico. Lembra de tudo: cada dobra de uma nuvem, cada varia\u00e7\u00e3o de luz entre dois segundos. Impedido de esquecer, Funes tamb\u00e9m se torna incapaz de pensar abstratamente. Para ele, as palavras perdem a coes\u00e3o categ\u00f3rica que lhes d\u00e1 sentido \u2014 inundado de detalhes, cada objeto se torna incompar\u00e1vel no espa\u00e7o e no tempo.<\/p>\n
At\u00e9 ent\u00e3o, a intelig\u00eancia artificial<\/a> generativa de texto, como o ChatGPT, era entendida, grosso modo, como um Funes que lera milhares de p\u00e1ginas do Google, de modo a lembrar, para cada palavra, quais complementos usualmente lhe sucediam, criando, com isso, textos intelig\u00edveis em resposta ao comando do usu\u00e1rio.<\/p>\n Como Funes, os modelos de linguagem de grande escala (Large Language Models \u2013 LLM) n\u00e3o criariam categorias abstratas, nem haveria maiores etapas em seu racioc\u00ednio, al\u00e9m de um sucessivo sequenciamento de verbetes \u00e0 luz do que fora aprendido em seu material de treinamento.<\/p>\n Contudo, os mecanismos de funcionamento dos LLM ainda seguem, em parte, opacos, o que lhes gera a alcunha de black box<\/em> e tem motivado diversas pesquisas no \u00e2mbito da ci\u00eancia da computa\u00e7\u00e3o. A regulamenta\u00e7\u00e3o da IA, nesse contexto, incide sobre uma tecnologia em evolu\u00e7\u00e3o cont\u00ednua, cujos fundamentos ainda n\u00e3o s\u00e3o plenamente compreendidos.<\/p>\n No final de mar\u00e7o, a Anthropic, uma das principais empresas de IA, divulgou resultados de uma pesquisa<\/a> sobre interpretabilidade de seu modelo LLM (Claude), colocando em xeque a vis\u00e3o de que os LLM s\u00e3o meros regurgitadores de palavras.<\/p>\n Uma das v\u00e1rias facetas incr\u00edveis dos LLM \u00e9 que eles s\u00e3o perfeitamente multil\u00edngues. Mas haveria um sistema paralelo para cada idioma? A pesquisa da Anthropic e outros trabalhos cient\u00edficos[1]<\/a> recentes sobre modelos menores mostraram ind\u00edcios de mecanismos gramaticais compartilhados e caracter\u00edsticas centrais para os conceitos entre as diversas l\u00ednguas, o que indicaria alguma esp\u00e9cie de universalidade conceitual, \u201cum espa\u00e7o abstrato compartilhado onde significados existem e onde o pensamento pode acontecer antes de ser traduzido para l\u00ednguas espec\u00edficas<\/em>\u201d. Como consequ\u00eancia disso, um LLM \u201cpode aprender algo em uma l\u00edngua e aplicar esse conhecimento ao falar outra<\/em>\u201d.<\/p>\n A pesquisa divulgada pela Anthropic revelou, tamb\u00e9m, que o modelo executa etapas de racioc\u00ednio, por exemplo, ao fazer c\u00e1lculos de adi\u00e7\u00e3o. Isso \u00e9 impressionante principalmente quando se considera que esses modelos foram treinados apenas com materiais de texto, n\u00e3o tendo sido programados para funcionar como uma calculadora. Apesar disso, de alguma forma, os LLM conseguem somar n\u00fameros corretamente.<\/p>\n Uma hip\u00f3tese seria de que, no material de treinamento, haveria tabuadas de adi\u00e7\u00e3o enormes, de modo que a IA as teria memorizado no estilo Funes. Em vez disso, o que a Anthropic descobriu \u00e9 que seu modelo empregava m\u00faltiplos racioc\u00ednios paralelos para efetivamente realizar o c\u00e1lculo. E que partes de sua estrat\u00e9gia eram bem diferentes dos m\u00e9todos de soma que as pessoas usualmente aprendem no col\u00e9gio.<\/p>\n Apesar disso, quando perguntado qual m\u00e9todo havia utilizado para realizar a soma, a IA descreveu o m\u00e9todo padr\u00e3o usado por pessoas, a despeito de n\u00e3o ter sido esse seu funcionamento interno. Isso pode indicar que a IA entende a resolu\u00e7\u00e3o da adi\u00e7\u00e3o como um problema e a explica\u00e7\u00e3o de tal resolu\u00e7\u00e3o como outro. Sendo a explica\u00e7\u00e3o um problema verbal, ela encontra materiais de apoio em sua mem\u00f3ria.<\/p>\n Para o problema matem\u00e1tico, por outro lado, ela se obriga a desenvolver suas pr\u00f3prias metodologias. Tal disson\u00e2ncia refor\u00e7a que a compreens\u00e3o destes algoritmos n\u00e3o \u00e9 trivial, n\u00e3o sendo poss\u00edvel confiar na resposta da pr\u00f3pria IA generativa para entend\u00ea-la.<\/p>\n Paralelamente aos esfor\u00e7os t\u00e9cnicos de compreens\u00e3o dos LLM, projetos de regula\u00e7\u00e3o da IA avan\u00e7am no mundo, prevendo a transpar\u00eancia algor\u00edtmica como pilar.<\/p>\n No Brasil, o PL 2338\/2023<\/a>, aprovado pelo Senado em dezembro de 2024, que pretende regular a IA, prev\u00ea, em seu art. 3\u00ba, que o desenvolvimento, a implementa\u00e7\u00e3o e o uso de sistemas de intelig\u00eancia artificial observar\u00e3o os princ\u00edpios da transpar\u00eancia, da auditabilidade e da inteligibilidade.<\/p>\n J\u00e1 o art. 8\u00ba prev\u00ea que a \u201cpessoa afetada por sistema de intelig\u00eancia artificial poder\u00e1 solicitar explica\u00e7\u00e3o<\/em>\u201d sobre \u201ca racionalidade e a l\u00f3gica do sistema<\/em>\u201d, bem como \u201ca revis\u00e3o de decis\u00f5es, recomenda\u00e7\u00f5es ou previs\u00f5es geradas por tal sistema que produzam efeitos jur\u00eddicos relevantes<\/em>\u201d (art. 9\u00ba), incluindo \u201ca interven\u00e7\u00e3o ou revis\u00e3o humana<\/em>\u201d (art. 10). Contudo, tal interven\u00e7\u00e3o humana n\u00e3o seria exigida \u201ccaso a sua implementa\u00e7\u00e3o seja comprovadamente imposs\u00edvel<\/em>\u201d (art. 10, par\u00e1grafo \u00fanico).<\/p>\n O art. 18, por sua vez, prev\u00ea que a autoridade competente poder\u00e1 categorizar uma IA como de risco excessivo pelo crit\u00e9rio de \u201cbaixo grau de transpar\u00eancia, explicabilidade e auditabilidade do sistema de intelig\u00eancia artificial, que dificulte o seu controle ou supervis\u00e3o<\/em>\u201d.<\/p>\n Como visto, o conceito de transpar\u00eancia algor\u00edtmica, se levado ao extremo, pode oferecer desafios t\u00e9cnicos significativos. A esses desafios somam-se os avan\u00e7os mais recentes em IA generativa, como a introdu\u00e7\u00e3o de mecanismos de mem\u00f3ria cont\u00ednua, capazes de reter informa\u00e7\u00f5es de intera\u00e7\u00f5es passadas com um mesmo usu\u00e1rio.<\/p>\n No entanto, ao contr\u00e1rio do Funes de Borges, que n\u00e3o escolhia o que lembrar, os sistemas atuais come\u00e7am a desenvolver formas de esquecimento seletivo, reten\u00e7\u00e3o controlada e personaliza\u00e7\u00e3o da mem\u00f3ria. Tais recursos ampliam as possibilidades de uso da IA, mas tamb\u00e9m as discuss\u00f5es sobre privacidade, consentimento e responsabilidade.<\/p>\n Os modelos de IA, dos quais os LLM s\u00e3o apenas esp\u00e9cie, seguem em evolu\u00e7\u00e3o, e o completo funcionamento desses modelos ainda precisa ser melhor decifrado. Nesse contexto, o PL 2338, ora em an\u00e1lise pela C\u00e2mara dos Deputados, se aprovado, exigir\u00e1 que a autoridade competente indique \u00e0 ind\u00fastria padr\u00f5es de explicabilidade aceit\u00e1veis, ainda que imperfeitos.<\/p>\n [1]<\/a> Olsson, Catherine; Schwettmann, Sarah; Williams, Neel Nanda et al. In-Context Learning and Induction Heads<\/em>. OpenReview, 2022. Dispon\u00edvel em: https:\/\/openreview.net\/forum?id=0ku2hIm4BS<\/a>. Acesso em: 25 abr. 2025. No conto \u201cFunes, o Memorioso\u201d, Jorge Luis Borges descreve a hist\u00f3ria de um homem que adquire uma mem\u00f3ria perfeita ap\u00f3s um acidente de cavalo que o deixa paral\u00edtico. Lembra de tudo: cada dobra de uma nuvem, cada varia\u00e7\u00e3o de luz entre dois segundos. Impedido de esquecer, Funes tamb\u00e9m se torna incapaz de pensar abstratamente. Para […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/10904"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=10904"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/10904\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=10904"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=10904"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=10904"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/h3>\n
\nElhage, Nelson; Nanda, Neel; Olsson, Catherine et al. Reverse-Engineering Toy Models of Natural Language<\/em>. arXiv, 2024. Dispon\u00edvel em: https:\/\/arxiv.org\/abs\/2410.06496<\/a>. Acesso em: 25 abr. 2025.<\/p>","protected":false},"excerpt":{"rendered":"