{"id":5777,"date":"2024-02-02T23:24:56","date_gmt":"2024-02-03T02:24:56","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2024\/02\/02\/oms-define-principios-eticos-para-inteligencia-artificial-na-saude\/"},"modified":"2024-02-02T23:24:56","modified_gmt":"2024-02-03T02:24:56","slug":"oms-define-principios-eticos-para-inteligencia-artificial-na-saude","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2024\/02\/02\/oms-define-principios-eticos-para-inteligencia-artificial-na-saude\/","title":{"rendered":"OMS define princ\u00edpios \u00e9ticos para intelig\u00eancia artificial na sa\u00fade"},"content":{"rendered":"

A Organiza\u00e7\u00e3o Mundial de Sa\u00fade (OMS<\/a>) lan\u00e7ou neste in\u00edcio de 2024 o Guia para Modelos Multimodais de Intelig\u00eancia Artificial<\/a> para a Sa\u00fade, oferecendo orienta\u00e7\u00f5es \u00e9ticas e de governan\u00e7a para o uso de IA em sa\u00fade nos diferentes Estados-membros da Organiza\u00e7\u00e3o. O Brasil, como membro desta ag\u00eancia de sa\u00fade da ONU desde sua funda\u00e7\u00e3o, tem o dever de conhecer e observar essas diretrizes em seu territ\u00f3rio, zelando para a prote\u00e7\u00e3o dos seus habitantes no que se refere aos poss\u00edveis riscos que estas novas tecnologias podem trazer \u00e0 sociedade e aos pacientes.\u00a0<\/span><\/p>\n

Conforme consta do documento da OMS, os Modelos Multimodais de Intelig\u00eancia Artificial (MMIAs), embora relativamente novos e n\u00e3o suficientemente testados, est\u00e3o produzindo um impacto enorme na sociedade em v\u00e1rios dom\u00ednios, incluindo na \u00e1rea da sa\u00fade. Para ficar com o exemplo mais vistoso da dissemina\u00e7\u00e3o do uso deste tipo de modelo de IA, vale lembrar que o ChatGPT tinha, em janeiro de 2023, apenas dois meses ap\u00f3s seu lan\u00e7amento, aproximadamente 100 milh\u00f5es de usu\u00e1rios ativos no m\u00eas.\u00a0<\/span><\/p>\n

A OMS alerta ainda que, atualmente, v\u00e1rias empresas est\u00e3o desenvolvendo MMIAs de forma integrada a aplicativos e produtos j\u00e1 amplamente utilizados, tais como os aplicativos de busca na internet e aplicativos de servi\u00e7os variados, e tamb\u00e9m em novos produtos e aplicativos. H\u00e1 uma verdadeira corrida global, com vultosos investimentos p\u00fablicos e privados, para o desenvolvimento de MMIAs concorrentes. Mais recentemente vem emergindo os MMIAs de c\u00f3digo aberto, que surgem de forma mais r\u00e1pida e barata do que aqueles desenvolvidos pelas maiores empresas, com potencial de uso e dissemina\u00e7\u00e3o ainda maior.<\/span><\/p>\n

De acordo com o guia da OMS, o advento dos MMIAs est\u00e1 induzindo investimentos no setor e novos produtos est\u00e3o sendo lan\u00e7ados em ritmo acelerado. A ag\u00eancia da ONU alerta que, embora os modelos multimodais de IA estejam sendo difundidos e usados amplamente, algumas empresas desenvolvedoras admitem que n\u00e3o entendem totalmente por que estes aplicativos\/produtos geram certas respostas.<\/span><\/p>\n

Mesmo com a utiliza\u00e7\u00e3o de seres humanos para refor\u00e7ar o aprendizado das m\u00e1quinas, os MMIAs podem gerar resultados que nem sempre s\u00e3o previs\u00edveis ou controlados, como por exemplo a participa\u00e7\u00e3o em \u201cconversas\u201d sem serem convidados, o que pode ser no m\u00ednimo desconfort\u00e1vel para os usu\u00e1rios, ou a publica\u00e7\u00e3o de conte\u00fado errado, enviesado ou defeituoso, mas bastante convincente e com alto potencial danoso.\u00a0<\/span><\/p>\n

A OMS alerta ainda que grande parte do apoio generalizado aos MMIAs que existe em v\u00e1rios setores das sociedades modernas n\u00e3o deriva apenas do entusiasmo pela sua funcionalidade, mas tamb\u00e9m por afirma\u00e7\u00f5es n\u00e3o qualificadas e acr\u00edticas sobre o desempenho dos MMIAs em publica\u00e7\u00f5es que n\u00e3o foram revisadas por pares.<\/span><\/p>\n

Sabe-se hoje que os MMIAs foram adotados ampla e rapidamente sem que os conjuntos de dados usados para trein\u00e1-los tenham sido divulgados, tornando dif\u00edcil ou imposs\u00edvel saber, por exemplo: se os dados s\u00e3o tendenciosos; se os dados foram adquiridos legalmente e de acordo com as regras e princ\u00edpios de prote\u00e7\u00e3o de dados; se o desempenho da tecnologia para resolver uma tarefa ou responder uma consulta reflete que ela foi treinada no mesmo problema ou, ao menos, em ou um problema semelhante; ou, ainda, se ela adquiriu a capacidade de resolver problemas. Outras preocupa\u00e7\u00f5es sobre os dados usados para treinar os modelos multimodais, incluindo a consist\u00eancia com as leis de prote\u00e7\u00e3o de dados, tamb\u00e9m s\u00e3o abordadas pelo documento da OMS.\u00a0<\/span><\/p>\n

Nesse sentido, o documento da OMS refere um estudo que descobriu que um grande modelo multimodal de linguagem, o GPT-3, pode, ao mesmo tempo, em compara\u00e7\u00e3o com humanos, produzir informa\u00e7\u00f5es precisas e mais f\u00e1ceis de entender ou produzir \u201cmais desinforma\u00e7\u00e3o convincente\u201d. O grande problema \u00e9 que os humanos nem sempre conseguem distinguir o conte\u00fado gerado pelo MMIAs daquele gerado por um ser humano, nem tampouco se a informa\u00e7\u00e3o \u00e9 \u201cprecisa\u201d ou se \u00e9 \u201cdesinforma\u00e7\u00e3o\u201d.<\/span><\/p>\n

A ag\u00eancia da ONU entende que nem os indiv\u00edduos nem os governos est\u00e3o preparados para o lan\u00e7amento de MMIAs na escala que se avizinha. Expressa preocupa\u00e7\u00e3o com o fato de que os indiv\u00edduos n\u00e3o foram treinados no uso eficaz destas novas tecnologias e podem n\u00e3o entender que as respostas nem sempre s\u00e3o precisas ou confi\u00e1veis, mesmo que um <\/span>chatbot<\/span> com tecnologia de modelo multimodal crie tal impress\u00e3o nas pessoas.\u00a0<\/span><\/p>\n

A OMS avalia que os governos est\u00e3o despreparados para enfrentar essa nova onda tecnol\u00f3gica. Regulamentos e leis escritas para governar o uso da IA podem n\u00e3o ser adequadas para enfrentar os desafios ou oportunidades associados com os MMIAs. Nesse sentido, a OMS entende como necess\u00e1rio o movimento da Uni\u00e3o Europeia para aprovar uma regula\u00e7\u00e3o espec\u00edfica para IA, inclusive incluindo dispositivos sobre o uso de MMIAs no territ\u00f3rio europeu. Tamb\u00e9m destaca as a\u00e7\u00f5es de outros governos ao redor do mundo que est\u00e3o desenvolvendo rapidamente novas leis ou regulamentos, ou institu\u00edram proibi\u00e7\u00f5es tempor\u00e1rias para estes produtos.<\/span><\/p>\n

A estimativa \u00e9 que, nos pr\u00f3ximos meses, ser\u00e3o lan\u00e7ados mais produtos que se utilizam de MMIAs, cada vez mais poderosos e com poder de introduzir novos benef\u00edcios, gerando novos desafios em termos de regulamenta\u00e7\u00e3o. Neste ambiente din\u00e2mico, a OMS elenca algumas orienta\u00e7\u00f5es sobre \u00e9tica e governan\u00e7a do uso dos MMIAs na \u00e1rea da sa\u00fade.\u00a0<\/span><\/p>\n

A primeira orienta\u00e7\u00e3o da OMS sobre \u00e9tica e governan\u00e7a da IA para a sa\u00fade, publicada em 2021, examinou v\u00e1rias abordagens para aprendizado de m\u00e1quina e diversas aplica\u00e7\u00f5es de IA na \u00e1rea da sa\u00fade, mas n\u00e3o especificamente a IA generativa ou os modelos multimodais. Quando publicada, n\u00e3o havia evid\u00eancias de que a IA generativa e os MMIAs estariam amplamente dispon\u00edveis t\u00e3o cedo e seriam globalmente aplicados a cuidados cl\u00ednicos, pesquisas em sa\u00fade e sa\u00fade p\u00fablica.<\/span><\/p>\n

O novo documento publicado neste in\u00edcio de 2024 apresenta princ\u00edpios \u00e9ticos e recomenda\u00e7\u00f5es de governan\u00e7a da intelig\u00eancia artificial em sa\u00fade valiosos, que devem ser conhecidos por todos os atores envolvidos na incorpora\u00e7\u00e3o destas tecnologias aos sistemas de sa\u00fade, nos setores p\u00fablico e privado. No texto de hoje, destaco os princ\u00edpios \u00e9ticos que a OMS estabeleceu para o uso da IA na \u00e1rea da sa\u00fade, que devem ser seguidos em todos os Estados-membros.<\/span><\/p>\n

Princ\u00edpios \u00e9ticos consensuais da OMS para o uso da IA na sa\u00fade<\/h3>\n

O documento publicado pela OMS apresenta seis princ\u00edpios \u00e9ticos basilares para a IA na \u00e1rea da sa\u00fade:<\/span><\/p>\n

Proteger a autonomia: garantir que os seres humanos continuem a controlar os sistemas de sa\u00fade e as decis\u00f5es m\u00e9dicas; que os provedores t\u00eam as informa\u00e7\u00f5es necess\u00e1rias para usar sistemas de IA de forma segura e eficaz; que as pessoas entendem o papel que os sistemas de IA desempenham sobre os seus cuidados; que a privacidade e a confidencialidade dos dados s\u00e3o protegidas; que as informa\u00e7\u00f5es utilizada nos aprendizados de m\u00e1quina sejam v\u00e1lidas e obtidas com consentimento, regulados por quadros jur\u00eddicos apropriados para a prote\u00e7\u00e3o de dados.<\/span>
\n Promover o bem-estar humano, a seguran\u00e7a humana e o interesse p\u00fablico: garantir que os projetistas de IA atendem aos requisitos regulat\u00f3rios de seguran\u00e7a, precis\u00e3o e efic\u00e1cia para usos ou indica\u00e7\u00f5es bem definidas; que medidas de controle de qualidade na pr\u00e1tica e de melhoria da qualidade no uso da IA ao longo do tempo sejam adotadas; que a IA n\u00e3o seja usada se resultar em dano mental ou f\u00edsico que poderia ser evitado pelo uso de uma pr\u00e1tica ou abordagem tradicional ou alternativa.<\/span>
\n Garantir transpar\u00eancia, \u201cexplicabilidade\u201d e inteligibilidade: as tecnologias de IA devem ser intelig\u00edveis ou compreens\u00edveis para desenvolvedores, profissionais m\u00e9dicos, pacientes, usu\u00e1rios e reguladores; as informa\u00e7\u00f5es sobre os produtos devem ser suficientes e publicadas ou documentadas antes do projeto ou implanta\u00e7\u00e3o da IA; as informa\u00e7\u00f5es devem facilitar consultas p\u00fablicas e debate sobre como a IA \u00e9 projetada e como deve ou n\u00e3o ser usada; a IA deve ser explic\u00e1vel de acordo com a capacidade daqueles a quem \u00e9 explicado.<\/span>
\nPromover a responsabilidade e a presta\u00e7\u00e3o de contas: garantir que a IA seja usada sob condi\u00e7\u00f5es apropriadas e por pessoas devidamente treinadas; que os pacientes e os m\u00e9dicos avaliam o desenvolvimento e a implanta\u00e7\u00e3o da IA; que os princ\u00edpios regulat\u00f3rios s\u00e3o aplicados e que o algoritmo esteja sujeito \u00e0 supervis\u00e3o humana; que mecanismos apropriados estejam dispon\u00edveis para questionamento e para repara\u00e7\u00e3o de indiv\u00edduos e grupos que sejam prejudicados por decis\u00f5es baseadas em IA.<\/span>
\n Garantir a inclus\u00e3o e a equidade: garantir que a IA seja concebida e partilhada para encorajar o uso e acesso mais amplo, apropriado e equitativo poss\u00edvel, independentemente de idade, sexo, identidade de g\u00eanero, renda, ra\u00e7a, etnia, orienta\u00e7\u00e3o sexual, habilidade ou outras caracter\u00edsticas; garantir que a IA n\u00e3o codifique preconceitos para a desvantagem de grupos identific\u00e1veis; zelar para que a IA seja monitorada e avaliada para identificar efeitos desproporcionais sobre grupos espec\u00edficos de pessoas.<\/span>
\n Promover uma IA que seja responsiva e sustent\u00e1vel: as tecnologias de IA devem promover a sustentabilidade dos sistemas de sa\u00fade e devem ser harmoniosas com os ambientes de trabalho.<\/span><\/p>\n

Os princ\u00edpios \u00e9ticos e de governan\u00e7a de IA generativa e dos MMIAs podem servir de base para a constru\u00e7\u00e3o, no Brasil, de uma regula\u00e7\u00e3o indutora do desenvolvimento de tecnologias de intelig\u00eancia artificial em sa\u00fade que n\u00e3o causem danos e que sejam utilizadas sempre em benef\u00edcio do sistema de sa\u00fade brasileiro e dos pacientes.<\/span><\/p>","protected":false},"excerpt":{"rendered":"

A Organiza\u00e7\u00e3o Mundial de Sa\u00fade (OMS) lan\u00e7ou neste in\u00edcio de 2024 o Guia para Modelos Multimodais de Intelig\u00eancia Artificial para a Sa\u00fade, oferecendo orienta\u00e7\u00f5es \u00e9ticas e de governan\u00e7a para o uso de IA em sa\u00fade nos diferentes Estados-membros da Organiza\u00e7\u00e3o. O Brasil, como membro desta ag\u00eancia de sa\u00fade da ONU desde sua funda\u00e7\u00e3o, tem o […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/5777"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=5777"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/5777\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=5777"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=5777"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=5777"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}