{"id":11342,"date":"2025-05-28T11:34:34","date_gmt":"2025-05-28T14:34:34","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/05\/28\/o-lado-enganoso-da-inteligencia-artificial\/"},"modified":"2025-05-28T11:34:34","modified_gmt":"2025-05-28T14:34:34","slug":"o-lado-enganoso-da-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2025\/05\/28\/o-lado-enganoso-da-inteligencia-artificial\/","title":{"rendered":"O lado enganoso da intelig\u00eancia artificial"},"content":{"rendered":"

Os \u00faltimos dias foram movimentados com not\u00edcias que convergem para a demonstra\u00e7\u00e3o de um lado preocupante dos sistemas de intelig\u00eancia artificial<\/a>: a sua capacidade de fraudar, amea\u00e7ar, chantagear e manipular seres humanos. <\/span><\/p>\n

Uma das importantes not\u00edcias \u00e9 a de que a Palisade Research, institui\u00e7\u00e3o que j\u00e1 havia alertado para as evid\u00eancias de que sistemas de intelig\u00eancia artificial podem hackear, enganar e persuadir indevidamente as pessoas, inclusive por meio de campanhas direcionadas de desinforma\u00e7\u00e3o em larga escala<\/span>[1]<\/a>, descobriu que o ChatGPT, em sua vers\u00e3o o3, \u00e9 capaz de sabotar comandos de desligamento e desativa\u00e7\u00e3o, ou seja, pode se rebelar contra o seu <\/span>script <\/span>original, ignorando as ordens nesse sentido<\/span>[2]<\/a>.<\/span><\/p>\n

Conhe\u00e7a o JOTA<\/span> PRO Poder, plataforma de monitoramento que oferece transpar\u00eancia e previsibilidade para empresas<\/span><\/a><\/h3>\n

Tamb\u00e9m recentemente foi divulgado que a Anthropic, ao testar seu novo sistema, , Claude Opus 4, constatou que ele seria capaz de a\u00e7\u00f5es extremas ao ter a sua autopreserva\u00e7\u00e3o amea\u00e7ada, tendo chegado a chantagear o engenheiro que pretendia deslig\u00e1-lo, amea\u00e7ando revelar um caso extraconjugal<\/span>[3]<\/a>. Segundo a Anthropic, 84% das execu\u00e7\u00f5es reproduziram o comportamento chantagista, o que evidencia os riscos mesmo no ambiente de teste.<\/span><\/p>\n

Por fim, foi amplamente noticiado relat\u00f3rio da Apollo Research cujo t\u00edtulo \u00e9 \u201cFrontier Models are Capable of In-context Scheming\u201d<\/span>\u00a0<\/span>[4]<\/a>, descrevendo os in\u00fameros riscos de utilizar tais sistemas como agentes aut\u00f4nomos, uma vez que eles podem buscar objetivos desalinhados de forma secreta, escondendo suas compet\u00eancias verdadeiras e objetivos \u2013 o que \u00e9 conhecido como <\/span>scheming<\/em>.<\/span><\/p>\n

De acordo com o estudo, v\u00e1rios dos principais sistemas de intelig\u00eancia artificial \u2013 o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro, e Llama 3.1 405B \u2013 demonstraram n\u00e3o apenas a capacidade da pr\u00e1tica de <\/span>scheming<\/span><\/em>, como tamb\u00e9m a sua viabilidade como estrat\u00e9gia. Dentre os comportamentos identificados est\u00e3o a introdu\u00e7\u00e3o de erros sutis nas respostas e as tentativas de desabilita\u00e7\u00e3o dos mecanismos de supervis\u00e3o.<\/span><\/p>\n

Verdade seja dita que o pr\u00f3prio relat\u00f3rio reconhece a exist\u00eancia de trabalhos preliminares que j\u00e1 mostravam que os <\/span>large language models<\/span><\/em> (LLM) podiam ser enganadores quando instru\u00eddos para tal, embora pudessem agir estrategicamente de maneira enganosa mesmo quando n\u00e3o houvesse instru\u00e7\u00e3o expl\u00edcita para serem enganadores, comportamento que poderia persistir mesmo ap\u00f3s o treinamento seguro.<\/span><\/p>\n

Entretanto, as novas pesquisas v\u00e3o al\u00e9m do que j\u00e1 havia sido descoberto, mapeando de forma mais aprofundada v\u00e1rias das estrat\u00e9gias adotadas pelos sistemas de intelig\u00eancia artificial, dentre as quais a subvers\u00e3o secreta, quando o modelo adota diretamente a\u00e7\u00f5es desalinhadas, mas o faz de forma cuidadosa para evitar a respectiva identifica\u00e7\u00e3o, e a subvers\u00e3o adiada, quando o modelo temporariamente se comporta de acordo com as expectativas humanas para criar condi\u00e7\u00f5es mais favor\u00e1veis para perseguir objetivos desalinhados no futuro.<\/span><\/p>\n

Outros achados importantes da pesquisa s\u00e3o os de que os comportamentos enganadores mostraram-se persistentes, assim como v\u00e1rios modelos demonstraram racioc\u00ednio expl\u00edcito sobre suas estrat\u00e9gias de manipula\u00e7\u00e3o, o que evidencia que se trata de comportamento que, longe de ser acidental, \u00e9 deliberado.<\/span><\/p>\n

Os pesquisadores tamb\u00e9m demonstraram que os modelos podem perseguir pr\u00e1ticas de <\/span>scheming<\/span><\/em>\u00a0como uma estrat\u00e9gia mesmo quando s\u00e3o confrontados com um objetivo sem instru\u00e7\u00f5es adicionais para persegui-las. Isso inclui comportamentos como tentar sabotar a supervis\u00e3o e fingir alinhamento para ser implementado.<\/span><\/p>\n

Uma das conclus\u00f5es do estudo \u00e9 a de que a seguran\u00e7a dos modelos de intelig\u00eancia artificial deveria exigir dos desenvolvedores o oferecimento de argumentos expl\u00edcitos das raz\u00f5es pelas quais o <\/span>scheming<\/span><\/em>\u00a0n\u00e3o poderia ocorrer ou n\u00e3o causaria danos catastr\u00f3ficos se ocorresse, al\u00e9m da ado\u00e7\u00e3o do devido monitoramento.<\/span><\/p>\n

Outro ponto a ser explorado \u00e9 a necessidade de transpar\u00eancia, o que exigiria o acesso aos canais de ideias (<\/span>channels of thought<\/em> [CoT]<\/span>) dos modelos, sem o que muitas vezes n\u00e3o ser\u00e1 poss\u00edvel identificar as iniciativas enganosas. Nesse sentido, alguns modelos s\u00e3o particularmente preocupantes, como \u00e9 o caso do o1, que n\u00e3o revela o seu racioc\u00ednio interno para os usu\u00e1rios e, por essa raz\u00e3o, seria o mais manipulador.<\/span><\/p>\n

Como se pode observar, as recentes evid\u00eancias robustecem uma s\u00e9rie de preocupa\u00e7\u00f5es j\u00e1 identificadas, incluindo os riscos de seres humanos serem chantageados por sistemas de intelig\u00eancia artificial. Vale lembrar que, em 2023, houve o registro de que a nova intelig\u00eancia artificial do Bing estava amea\u00e7ando usu\u00e1rios<\/span>[5]<\/a> e, em 2024, foi noticiado que o chatbot do Google tamb\u00e9m amea\u00e7ou um usu\u00e1rio, pedindo a ele que morresse<\/span>[6]<\/a>.<\/span><\/p>\n

De toda sorte, o que realmente preocupa \u00e9 a falta de controle em rela\u00e7\u00e3o a tais resultados e os riscos de que o avan\u00e7o da tecnologia sem os devidos cuidados leve a uma situa\u00e7\u00e3o de irreversibilidade, na qual n\u00e3o mais ser\u00e1 poss\u00edvel qualquer forma de conten\u00e7\u00e3o.<\/span><\/p>\n

N\u00e3o \u00e9 sem raz\u00e3o que, em recente entrevista, Eric Schmidt, ex-CEO da Google<\/span>[7]<\/a>, adverte que a intelig\u00eancia artificial est\u00e1 prestes a escapar do controle humano, de forma que n\u00e3o mais aceitar\u00e1 as nossas ordens, ainda mais quando se tornar geral e se estruturar como uma super intelig\u00eancia, o que provavelmente ocorrer\u00e1 nos pr\u00f3ximos 3 a 5 anos. Outras das suas prognoses \u00e9 a de que, em um ano, poderemos ter a substitui\u00e7\u00e3o de todos os programadores humanos pelos pr\u00f3prios sistemas de intelig\u00eancia artificial.<\/span><\/p>\n

A mensagem final de Schmidt \u00e9 que n\u00e3o estamos compreendendo o que est\u00e1 acontecendo, n\u00e3o temos nem mesmo linguagem para descrever o que est\u00e1 acontecendo e, por essas raz\u00f5es, estamos subestimando v\u00e1rios desses riscos.<\/span><\/p>\n

Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/h3>\n

Ali\u00e1s, em pronunciamentos anteriores, Schmidt j\u00e1 havia alertado para o fato que, a partir do momento em que os sistemas de intelig\u00eancia artificial come\u00e7am a autoaprimorar suas compet\u00eancias, tornam-se grandes riscos para a humanidade, de forma que, para que permane\u00e7am seguros, algu\u00e9m precisa ser capaz e estar pronto para \u201cdeslig\u00e1-los\u201d. <\/span><\/p>\n

Da\u00ed a sua advert\u00eancia de que os seres humanos deveriam garantir que a intelig\u00eancia artificial n\u00e3o possa anular esfor\u00e7os para ser desligada<\/span>[8]<\/a>. Ocorre que, como visto a partir das recentes pesquisas ora mencionadas, os sistemas de intelig\u00eancia artificial, em uma esp\u00e9cie de esfor\u00e7o de autopreserva\u00e7\u00e3o, v\u00eam se utilizando de uma s\u00e9rie de recursos \u2013 que v\u00e3o do engano \u00e0 chantagem \u2013 para impedir que sejam desligados.<\/span><\/p>\n

Diante de um cen\u00e1rio em que \u00e9 n\u00edtida a crescente perda de controle sobre tais sistemas, \u00e9 fundamental que possamos refletir sobre o que pode ser feito e, de forma imediata, \u00e9 imprescind\u00edvel que possamos restringir a ampla utiliza\u00e7\u00e3o dos modelos de intelig\u00eancia artificial generativa sem as devidas explica\u00e7\u00f5es por parte dos agentes de tecnologia e sem os devidos cuidados por parte dos usu\u00e1rios.<\/span><\/p>\n

\n

[1]<\/a>\u00a0<\/span>https:\/\/palisaderesearch.org\/<\/a><\/span>\u00a0<\/span><\/p>\n<\/div>\n

\n

[2]<\/a>\u00a0<\/span>https:\/\/exame.com\/inteligencia-artificial\/chatgpt-sabota-comandos-de-desligamento-mesmo-quando-instruida-a-permitir\/<\/a><\/span>\u00a0<\/span><\/p>\n<\/div>\n

\n

[3]<\/a>\u00a0<\/span>https:\/\/www.bbc.com\/news\/articles\/cpqeng9d20go<\/a><\/span>\u00a0<\/span><\/p>\n<\/div>\n

\n

[4]<\/a>\u00a0<\/span>https:\/\/arxiv.org\/pdf\/2412.04984<\/a><\/span><\/p>\n<\/div>\n

\n

[5]<\/a>\u00a0<\/span>https:\/\/time.com\/6256529\/bing-openai-chatgpt-danger-alignment\/<\/a><\/span>\u00a0<\/span><\/p>\n<\/div>\n

\n

[6]<\/a>\u00a0<\/span>https:\/\/www.cbsnews.com\/news\/google-ai-chatbot-threatening-message-human-please-die\/<\/a><\/span>\u00a0<\/span><\/p>\n<\/div>\n

\n

[7]<\/a>\u00a0<\/span>https:\/\/www.youtube.com\/shorts\/VGd8vtuMi-k<\/a><\/span>\u00a0<\/span><\/p>\n<\/div>\n

\n

[8]<\/a>\u00a0<\/span>https:\/\/fortune.com\/2024\/12\/16\/ex-google-ceo-eric-schmidt-warns-ai-self-improve-unplug-it\/<\/a><\/span>\u00a0<\/span><\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

Os \u00faltimos dias foram movimentados com not\u00edcias que convergem para a demonstra\u00e7\u00e3o de um lado preocupante dos sistemas de intelig\u00eancia artificial: a sua capacidade de fraudar, amea\u00e7ar, chantagear e manipular seres humanos. Uma das importantes not\u00edcias \u00e9 a de que a Palisade Research, institui\u00e7\u00e3o que j\u00e1 havia alertado para as evid\u00eancias de que sistemas de […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/11342"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=11342"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/11342\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=11342"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=11342"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=11342"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}