{"id":8434,"date":"2024-12-20T21:47:15","date_gmt":"2024-12-21T00:47:15","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2024\/12\/20\/ameacas-da-ia-a-saude-e-existencia-humana-exigem-regulacao-e-acao\/"},"modified":"2024-12-20T21:47:15","modified_gmt":"2024-12-21T00:47:15","slug":"ameacas-da-ia-a-saude-e-existencia-humana-exigem-regulacao-e-acao","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2024\/12\/20\/ameacas-da-ia-a-saude-e-existencia-humana-exigem-regulacao-e-acao\/","title":{"rendered":"Amea\u00e7as da IA \u00e0 sa\u00fade e exist\u00eancia humana exigem regula\u00e7\u00e3o e a\u00e7\u00e3o"},"content":{"rendered":"

O Senado aprovou no \u00faltimo dia 10 de dezembro o projeto de lei que regulamenta a intelig\u00eancia artificial<\/a> no pa\u00eds. O texto aprovado \u00e9 um substitutivo do senador Eduardo Gomes (PL-TO) que tem como base o PL 2338\/2023<\/a>, apresentado pelo senador Rodrigo Pacheco (PSD-MG), presidente da Casa.<\/p>\n

A aprova\u00e7\u00e3o veio em boa hora, e agora devemos acompanhar a sua tramita\u00e7\u00e3o na C\u00e2mara dos Deputados. H\u00e1 uma grande corrente contr\u00e1ria \u00e0 regula\u00e7\u00e3o da IA no Brasil, com argumentos focados principalmente em uma suposta \u201csupervaloriza\u00e7\u00e3o\u201d dos riscos da IA, de um lado, e no potencial inibidor de inova\u00e7\u00e3o brasileira no setor, que nos relegaria ao atraso.<\/p>\n

Com not\u00edcias direto da Anvisa e da ANS, o JOTA<\/span> PRO Sa\u00fade entrega previsibilidade para empresas do setor. Conhe\u00e7a!<\/a><\/h3>\n

Dada a controv\u00e9rsia, vale a pena resgatar os argumentos trazidos por Federspiel e colegas, em artigo publicado no BMJ Global Health, no qual trazem importantes contribui\u00e7\u00f5es sobre as amea\u00e7as da IA \u00e0 sa\u00fade e \u00e0 exist\u00eancia humana e sobre a necessidade de se regular estas novas tecnologias.<\/p>\n

Inicialmente, os autores lembram alguns riscos j\u00e1 conhecidos relacionados \u00e0 aplica\u00e7\u00e3o da IA no campo da sa\u00fade, tais como: o potencial de erros da IA, pass\u00edveis de causar danos ao paciente; os problemas com privacidade e seguran\u00e7a de dados; os riscos da IA aprofundar as desigualdades sociais e de sa\u00fade, reproduzindo em algoritmos automatizados preconceitos humanos existentes e padr\u00f5es de discrimina\u00e7\u00e3o no acesso \u00e0 assist\u00eancia m\u00e9dica.<\/p>\n

Segundo os autores, embora j\u00e1 se tenha um bom conhecimento dos riscos e danos potenciais associados \u00e0 aplica\u00e7\u00e3o da IA \u200b\u200bna sa\u00fade, ainda h\u00e1 pouca discuss\u00e3o sobre as amea\u00e7as sociais, pol\u00edticas, econ\u00f4micas e de seguran\u00e7a mais amplas, com reflexos para a sa\u00fade p\u00fablica que devem ser melhor tratados.<\/p>\n

S\u00e3o listadas amea\u00e7as reais associadas ao uso indevido da IA, que instigam a comunidade jur\u00eddica e de sa\u00fade p\u00fablica a aprofundar sua compreens\u00e3o sobre o poder emergente e o potencial transformacional da intelig\u00eancia artificial, \u200b\u200be a se envolver nos debates pol\u00edticos atuais sobre como os riscos e amea\u00e7as da IA \u200b\u200bpodem ser mitigados por meio de regula\u00e7\u00e3o adequada, sem perder as recompensas e benef\u00edcios potenciais destas novas tecnologias.<\/p>\n

Amea\u00e7as do uso indevido da intelig\u00eancia artificial<\/h3>\n

O primeiro conjunto de amea\u00e7as mencionado pelos autores vem da capacidade da IA \u200b\u200bde coletar, limpar, organizar e analisar rapidamente conjuntos de dados massivos compostos por dados pessoais, incluindo imagens coletadas pela presen\u00e7a cada vez mais onipresente de c\u00e2meras, e de desenvolver campanhas de marketing e informa\u00e7\u00e3o altamente personalizadas e direcionadas, bem como sistemas de vigil\u00e2ncia amplamente expandidos.<\/p>\n

Os autores citam o exemplo de como o uso desse poder para gerar receita comercial para plataformas de m\u00eddia social foi aproveitado pelo mercado para criar uma infraestrutura de marketing personalizada capaz de manipular o comportamento do consumidor sobre o consumo de produtos e servi\u00e7os estrat\u00e9gicos para a sa\u00fade individual e coletiva, tais como alimentos, medicamentos, cosm\u00e9ticos e tratamentos est\u00e9ticos.<\/p>\n

A vigil\u00e2ncia orientada por IA tamb\u00e9m pode ser usada por governos e outros atores poderosos para controlar e oprimir as pessoas diretamente. O exemplo dado \u00e9 o do Sistema de Cr\u00e9dito Social da China, que combina software de reconhecimento facial e an\u00e1lise de reposit\u00f3rios de \u201cbig data\u201d de transa\u00e7\u00f5es financeiras, movimentos, registros policiais e relacionamentos sociais das pessoas para produzir avalia\u00e7\u00f5es de comportamento individual e confiabilidade, o que resulta na san\u00e7\u00e3o autom\u00e1tica de indiv\u00edduos considerados como tendo se comportado mal.<\/p>\n

As san\u00e7\u00f5es incluem multas, nega\u00e7\u00e3o de acesso das pessoas a servi\u00e7os banc\u00e1rios e de seguros, ou impedimento de viajar ou enviar seus filhos para escolas pagas. O uso destas tecnologias e informa\u00e7\u00f5es para determinar o acesso ou n\u00e3o a bens, servi\u00e7os ou seguros de sa\u00fade, por exemplo, \u00e9 uma possibilidade real.<\/p>\n

Outro conjunto de amea\u00e7as listado pelos autores surge da perda de empregos que acompanhar\u00e1 a implanta\u00e7\u00e3o generalizada da tecnologia de IA. As proje\u00e7\u00f5es da velocidade e escala das perdas de empregos devido \u00e0 automa\u00e7\u00e3o orientada por IA variam de dezenas a centenas de milh\u00f5es na pr\u00f3xima d\u00e9cada.<\/p>\n

J\u00e1 \u00e9 previsto que nesta d\u00e9cada, a automa\u00e7\u00e3o orientada por IA impactar\u00e1 desproporcionalmente os pa\u00edses de baixa\/m\u00e9dia renda, substituindo empregos menos qualificados, e ent\u00e3o continuar\u00e1 subindo a escada de profiss\u00f5es que demanda maiores habilidades, substituindo segmentos cada vez mais amplos da for\u00e7a de trabalho global, incluindo em pa\u00edses de alta renda.<\/p>\n

Embora haja muitos benef\u00edcios em acabar com o trabalho repetitivo, perigoso e desagrad\u00e1vel, j\u00e1 sabemos que o desemprego est\u00e1 fortemente associado a resultados e comportamentos adversos para a sa\u00fade, incluindo o consumo prejudicial de \u00e1lcool e drogas il\u00edcitas, a obesidade, a redu\u00e7\u00e3o da qualidade de vida e sa\u00fade e maiores n\u00edveis de depress\u00e3o e suic\u00eddio.<\/p>\n

Os autores alertam que a automa\u00e7\u00e3o crescente tende a transferir renda e riqueza do trabalho para os donos do capital, e parece contribuir para o grau crescente de m\u00e1 distribui\u00e7\u00e3o de riqueza em todo o mundo. Al\u00e9m disso, n\u00e3o se sabe como a sociedade responder\u00e1 psicol\u00f3gica e emocionalmente a um mundo onde o trabalho \u00e9 indispon\u00edvel ou desnecess\u00e1rio, nem se est\u00e1 pensando muito sobre as pol\u00edticas e estrat\u00e9gias que seriam necess\u00e1rias para quebrar a associa\u00e7\u00e3o entre desemprego e problemas de sa\u00fade.<\/p>\n

Amea\u00e7as da intelig\u00eancia artificial generativa<\/h3>\n

A IA generativa, que pode aprender e executar toda a gama de tarefas que s\u00e3o tradicionalmente \u201chumanas\u201d, pode tamb\u00e9m, teoricamente, aprender a contornar quaisquer restri\u00e7\u00f5es em seu c\u00f3digo e come\u00e7ar a desenvolver seus pr\u00f3prios prop\u00f3sitos, ou simplesmente pode ser equipada com essa capacidade desde o in\u00edcio pelos humanos.<\/p>\n

O que se avizinha s\u00e3o m\u00e1quinas muito mais inteligentes e poderosas do que os seres humanos em muitos aspectos. O potencial de tais m\u00e1quinas aplicarem essa intelig\u00eancia e poder \u2014 deliberadamente ou n\u00e3o \u2014 de forma a prejudicar ou subjugar os humanos \u00e9 real.<\/p>\n

Se concretizada, a conex\u00e3o da IA generativa com a internet e o mundo real, incluindo por meio de ve\u00edculos, rob\u00f4s, armas e todos os sistemas digitais que cada vez mais administram nossas sociedades, pode muito bem representar o \u201cmaior evento da hist\u00f3ria humana\u201d, com consequ\u00eancias ainda inimagin\u00e1veis.<\/p>\n

Os autores trabalham ent\u00e3o com alguns poss\u00edveis cen\u00e1rios para o futuro. De um lado, s\u00e3o apresentados cen\u00e1rios em que a IA, apesar de sua intelig\u00eancia e poder superiores, permanece sob controle humano e \u00e9 usada para beneficiar a humanidade ou em que a IA opera independentemente dos humanos e com eles coexiste de forma benigna.<\/p>\n

De outro lado, h\u00e1 cen\u00e1rios em que a IA generativa pode representar uma amea\u00e7a aos humanos, e possivelmente uma amea\u00e7a existencial, ao causar danos direta ou indiretamente, intencionalmente ou n\u00e3o, ao atacar ou subjugar humanos ou ao interromper os sistemas ou usar recursos dos quais dependemos.<\/p>\n

Avaliando riscos e prevenindo danos<\/h3>\n

Segundo os autores, muitas das amea\u00e7as descritas surgem do uso deliberado, acidental ou descuidado da IA \u200b\u200bpor humanos. At\u00e9 mesmo o risco e a amea\u00e7a representados por uma forma de IA que existe e opera independentemente do controle humano ainda est\u00e3o atualmente nas m\u00e3os dos humanos. No entanto, h\u00e1 opini\u00f5es divergentes sobre o grau de risco representado pela IA e sobre as compensa\u00e7\u00f5es relativas entre risco e recompensa potencial, e danos e benef\u00edcios.<\/p>\n

No entanto, alertam Federspiel e colegas, com o crescimento exponencial na pesquisa e com o ritmo acelerado de desenvolvimento da IA, a janela de oportunidade para evitar danos s\u00e9rios e potencialmente existenciais est\u00e1 se fechando.<\/p>\n

Diferentes partes do sistema da ONU est\u00e3o engajadas em um esfor\u00e7o desesperado para garantir que nossas institui\u00e7\u00f5es sociais, pol\u00edticas e legais internacionais acompanhem os r\u00e1pidos avan\u00e7os tecnol\u00f3gicos que est\u00e3o sendo feitos com a IA.<\/p>\n

Em 2020, por exemplo, a ONU estabeleceu um Painel de Alto N\u00edvel sobre Coopera\u00e7\u00e3o Digital para promover o di\u00e1logo global e abordagens cooperativas para um futuro digital seguro e inclusivo.<\/p>\n

Em setembro de 2021, o chefe do Gabinete do Comiss\u00e1rio de Direitos Humanos da ONU apelou a todos os estados para que colocassem uma morat\u00f3ria na venda e utiliza\u00e7\u00e3o de sistemas de IA at\u00e9 que salvaguardas adequadas fossem postas em pr\u00e1tica para evitar os riscos \u201cnegativos, at\u00e9 mesmo catastr\u00f3ficos\u201d representados por eles.<\/p>\n

E em novembro de 2021, os 193 Estados-membros da Unesco adotaram um acordo para orientar a constru\u00e7\u00e3o da infraestrutura legal necess\u00e1ria para garantir o desenvolvimento \u00e9tico da IA. No entanto, a ONU ainda carece de um instrumento juridicamente vinculativo para regular a IA e garantir a responsabiliza\u00e7\u00e3o a n\u00edvel global.<\/p>\n

Em 18 de janeiro de 2024, visando estabelecer uma governan\u00e7a global para o futuro da intelig\u00eancia artificial na sa\u00fade, a entidade lan\u00e7ou um Guia em que estabelece suas diretrizes sobre \u00e9tica e governan\u00e7a de Grandes Modelos Multimodais de IA.<\/p>\n

No n\u00edvel regional, a Uni\u00e3o Europeia aprovou tamb\u00e9m neste ano de 2024 o seu Regulamento de Intelig\u00eancia Artificial, que classifica os sistemas de IA em tr\u00eas categorias: risco inaceit\u00e1vel, alto risco e risco limitado e m\u00ednimo. Esta norma pode servir como um trampolim para um tratado global, embora ainda fique aqu\u00e9m dos requisitos necess\u00e1rios para proteger v\u00e1rios direitos humanos fundamentais e impedir que a IA seja usada de maneiras que agravariam as desigualdades e a discrimina\u00e7\u00e3o existentes.<\/p>\n

O que a comunidade jur\u00eddica e de sa\u00fade p\u00fablica pode e deve fazer?<\/h3>\n

Para Federspiel e colegas, o mais importante a ser feito no presente momento \u00e9 dar o alarme sobre os riscos e amea\u00e7as representados pela IA, e argumentar sobre a necessidade de se acelerar a regulamenta\u00e7\u00e3o adequada para evitar usos nocivos \u00e0 humanidade.<\/p>\n

Nesse sentido, deve-se criar salvaguardas e prote\u00e7\u00f5es jur\u00eddicas e legais adequadas que busquem evitar as v\u00e1rias consequ\u00eancias prejudiciais e potencialmente catastr\u00f3ficas da IA para a sa\u00fade e exist\u00eancia humana.<\/p>\n

O campo da sa\u00fade est\u00e1 bem familiarizado com o princ\u00edpio da precau\u00e7\u00e3o e demonstrou sua capacidade de moldar a opini\u00e3o p\u00fablica e pol\u00edtica sobre amea\u00e7as existenciais no passado. Por exemplo, os M\u00e9dicos Internacionais para a Preven\u00e7\u00e3o da Guerra Nuclear receberam o Pr\u00eamio Nobel da Paz em 1985 porque reuniram argumentos baseados em princ\u00edpios, autoridade e evid\u00eancias sobre as amea\u00e7as da guerra nuclear.<\/p>\n

Os autores sugerem que se deve fazer o mesmo com a IA, mesmo que (grande) parte da nossa comunidade apoie os benef\u00edcios da IA \u200b\u200bnas \u00e1reas da sa\u00fade e da medicina.<\/p>\n

Tamb\u00e9m \u00e9 importante que n\u00e3o direcionemos nossas preocupa\u00e7\u00f5es apenas para a IA, mas tamb\u00e9m para os atores que est\u00e3o impulsionando o desenvolvimento da IA \u200b\u200bmuito rapidamente ou de forma imprudente, e para aqueles que buscam apenas implantar a IA para interesse pr\u00f3prio ou prop\u00f3sitos malignos.<\/p>\n

Se a IA deve cumprir sua promessa de beneficiar a humanidade e a sociedade, precisamos proteger a democracia, fortalecer nossas institui\u00e7\u00f5es de interesse p\u00fablico e diluir o poder dessas grandes corpora\u00e7\u00f5es para que haja freios e contrapesos eficazes. Isso inclui garantir transpar\u00eancia e responsabiliza\u00e7\u00e3o das partes do complexo industrial militar-corporativo que impulsionam os desenvolvimentos da IA \u200b\u200be das empresas de m\u00eddia social que est\u00e3o permitindo desinforma\u00e7\u00e3o direcionada e orientada por IA, violando direitos fundamentais.<\/p>\n

Finalmente, os autores argumentam que, dado que o mundo do trabalho e do emprego mudar\u00e1 drasticamente nas pr\u00f3ximas d\u00e9cadas, devemos empregar nossa expertise em sa\u00fade p\u00fablica e em advocacia em sa\u00fade para uma reformula\u00e7\u00e3o fundamental e radical da pol\u00edtica social e econ\u00f4mica, de forma a permitir que as gera\u00e7\u00f5es futuras prosperem em um mundo no qual o trabalho humano n\u00e3o seja mais um componente central ou necess\u00e1rio para a produ\u00e7\u00e3o de bens e servi\u00e7os.<\/p>\n

Certamente que a aprova\u00e7\u00e3o, pelo Congresso Nacional, do PL que regula IA no Brasil ser\u00e1 um passo importante e fundamental para a prote\u00e7\u00e3o dos direitos fundamentais face \u00e0s novas tecnologias digitais, mas devemos estar cientes que os desafios e perspectivas da IA para a sa\u00fade p\u00fablica e para o direito s\u00e3o muito mais amplos e abrangentes do que aparentam atualmente.<\/p>\n

Federspiel F, Mitchell R, Asokan A, Umana C, McCoy D. Threats by artificial intelligence to human health and human existence. BMJ Glob Health. 2023 May;8(5):e010435. doi: 10.1136\/bmjgh-2022-010435. PMID: 37160371; PMCID: PMC10186390.<\/p>","protected":false},"excerpt":{"rendered":"

O Senado aprovou no \u00faltimo dia 10 de dezembro o projeto de lei que regulamenta a intelig\u00eancia artificial no pa\u00eds. O texto aprovado \u00e9 um substitutivo do senador Eduardo Gomes (PL-TO) que tem como base o PL 2338\/2023, apresentado pelo senador Rodrigo Pacheco (PSD-MG), presidente da Casa. A aprova\u00e7\u00e3o veio em boa hora, e agora […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/8434"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=8434"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/8434\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=8434"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=8434"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=8434"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}