JOTA<\/span> PRO Sa\u00fade entrega previsibilidade e transpar\u00eancia para empresas do setor<\/span><\/a><\/p>\nN\u00e3o faz sentido continuar permitindo que sejam desenvolvidas, comercializadas ou usadas tecnologias com IA aplicadas \u00e0 sa\u00fade que apresentam riscos ou problemas, tais como:<\/p>\n
O diagn\u00f3stico e as propostas terap\u00eauticas oferecidas por IA nem sempre s\u00e3o superiores ao diagn\u00f3stico e ao tratamento preconizados por humano.
\nOs programas de IA podem ser dif\u00edceis de entender e excessivamente ambiciosos.
\nAlucina\u00e7\u00e3o e degrada\u00e7\u00e3o algor\u00edtmica.
\nProblemas de implementa\u00e7\u00e3o e uso.
\nQuest\u00f5es de transpar\u00eancia e riscos com o uso e o compartilhamento de dados.
\nVieses de ra\u00e7a, g\u00eanero e etnia.
\nErros no diagn\u00f3stico e nas orienta\u00e7\u00f5es terap\u00eauticas para o tratamento de doen\u00e7as.
\nAus\u00eancia de crit\u00e9rios claros de responsabiliza\u00e7\u00e3o por erros de IA.
\nDisponibilidade e acessibilidade dos dados de sa\u00fade utilizados e produzidos pela IA.
\nDesafios sociais relacionados \u00e0 equidade e ao acesso \u00e0s novas tecnologias.
\nAus\u00eancia de mecanismos estatais de avalia\u00e7\u00e3o de seguran\u00e7a, efic\u00e1cia e qualidade dos produtos digitais inseridos no mercado
\nAus\u00eancia de crit\u00e9rios de incorpora\u00e7\u00e3o das tecnologias digitais com IA aplicadas \u00e0 sa\u00fade ao sistema de sa\u00fade brasileiro, inclusive no que se refere \u00e0 rela\u00e7\u00e3o custo-efetividade.<\/p>\n
O cen\u00e1rio atual \u00e9 preocupante.<\/p>\n
A capacidade de resposta das sociedades \u00e0 inunda\u00e7\u00e3o de tecnologias com IA nos sistemas de sa\u00fade do mundo tem se mostrado extremamente morosa, absolutamente inadequada e insuficiente aos desafios que se colocam \u00e0 frente. A sensa\u00e7\u00e3o \u00e9 que estamos aguardando o pior acontecer para nos mobilizarmos finalmente a respeito.<\/p>\n
No Brasil, o PL 2338\/2023, voltado a regular a IA no Brasil, tramita lentamente no Congresso Nacional, a passos de tartaruga. O descaso legislativo deixa evidente a dificuldade da sociedade brasileira para aprovar um texto que finalmente venha a colocar regras e condi\u00e7\u00f5es m\u00ednimas de desenvolvimento e comercializa\u00e7\u00e3o de tecnologias de IA aplicadas \u00e0 sa\u00fade no pa\u00eds, contra a verdadeira selva digital que est\u00e1 se instalando e difundindo.<\/p>\n
No campo da prote\u00e7\u00e3o de dados, a Ag\u00eancia Nacional de Prote\u00e7\u00e3o de Dados (ANPD) ainda est\u00e1 se consolidando e n\u00e3o p\u00f4de dar a devida aten\u00e7\u00e3o a este tema. Os avan\u00e7os mais consistentes para regular os produtos de maior risco que se utilizam de IA na \u00e1rea da sa\u00fade foram feitos pela Anvisa, ao regular, ainda que de forma t\u00edmida, os softwares como dispositivos m\u00e9dicos.<\/p>\n
Eis o quadro em que estamos: de um lado, h\u00e1 evid\u00eancias robustas e concretas dos riscos \u00e0 sa\u00fade individual e coletiva derivados das tecnologias digitais aplicadas \u00e0 sa\u00fade que se utilizam da IA. De outro lado, h\u00e1 a morosidade estatal e a ina\u00e7\u00e3o regulat\u00f3ria para enfrentar os riscos j\u00e1 identificados.<\/p>\n
Essa constata\u00e7\u00e3o f\u00e1tica nos leva a uma conclus\u00e3o simples: os problemas atuais da IA \u200b\u200bs\u00e3o principalmente problemas da IA \u200b\u200bn\u00e3o regulamentada, uma IA que ignora suas consequ\u00eancias e responsabilidades sociais e distributivas mais amplas. \u00c9 temer\u00e1rio esperar que mercados n\u00e3o regulados, dominados por poucas e gigantes corpora\u00e7\u00f5es privadas, fa\u00e7am as escolhas certas entre os males sociais e os lucros da monopoliza\u00e7\u00e3o de dados e da comercializa\u00e7\u00e3o livre de produtos com IA \u00e0 popula\u00e7\u00e3o.<\/p>\n
A regula\u00e7\u00e3o estatal \u00e9 o principal instrumento a ser utilizado para induzir positivamente a mudan\u00e7a tecnol\u00f3gica, direcionando-a para que sirvam \u00e0 cria\u00e7\u00e3o de capacidades e oportunidades para trabalhadores e cidad\u00e3os. A regula\u00e7\u00e3o deve priorizar o controle sistem\u00e1tico sobre a coleta e extra\u00e7\u00e3o de dados, sobre o uso de novas t\u00e9cnicas de IA voltados a manipular o comportamento do usu\u00e1rio e sobre comunica\u00e7\u00e3o e troca online de informa\u00e7\u00f5es relacionadas \u00e0 sa\u00fade.<\/p>\n
Para as tecnologias digitais com uso de IA deve-se adotar o princ\u00edpio regulat\u00f3rio da precau\u00e7\u00e3o, por meio de uma regula\u00e7\u00e3o que seja capaz de reduzir os riscos destas novas tecnologias e induzir o seu desenvolvimento e uso para a prote\u00e7\u00e3o dos direitos fundamentais e da universaliza\u00e7\u00e3o do acesso \u00e0 sa\u00fade.<\/p>\n
Inova\u00e7\u00e3o tecnol\u00f3gica apartada de uma finalidade social voltada \u00e0 prote\u00e7\u00e3o dos direitos humanos fundamentais e ao fortalecimento do Sistema \u00danico de Sa\u00fade n\u00e3o representa benef\u00edcio \u00e0 sociedade e, portanto, n\u00e3o deve ser permitida. O Estado deve induzir, por meio da regula\u00e7\u00e3o, uma inova\u00e7\u00e3o tecnol\u00f3gica que fa\u00e7a sentido \u00e0 sociedade e que n\u00e3o represente pura e simplesmente os interesses de lucro privado de empresas de tecnologia ou do pr\u00f3prio setor sa\u00fade.<\/p>\n
As iniciativas regulat\u00f3rias sobre a IA em sa\u00fade ainda s\u00e3o bastante t\u00edmidas, tanto no Brasil quanto no mundo. Salvo no exemplo do caso europeu, as normas existentes, em geral, s\u00e3o t\u00edpicas regula\u00e7\u00f5es indutoras, que estimulam o desenvolvimento e uso. S\u00e3o poucas as normas focadas em definir princ\u00edpios e diretrizes e balizas de orienta\u00e7\u00e3o sobre o desenvolvimento e uso destas tecnologias.<\/p>\n
N\u00e3o h\u00e1, at\u00e9 o momento, previs\u00e3o clara sobre quais tecnologias devem ser proibidas e quais devem estar sujeitas a controle rigoroso do Estado. Tamb\u00e9m ainda \u00e9 incipiente, no Brasil ou no plano do direito internacional, a cria\u00e7\u00e3o de normas que limitem e condicionem o uso da IA aplicado \u00e0 sa\u00fade, ou que criem san\u00e7\u00f5es legais a serem aplicadas contra os que desenvolverem e colocarem no mercado tecnologias com IA nocivas \u00e0 sa\u00fade e que resultem em danos aos cidad\u00e3os e aos pacientes.<\/p>\n
Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/p>\nA ina\u00e7\u00e3o regulat\u00f3ria da comunidade internacional e dos Estados representa um risco \u00e0s pessoas e \u00e0s sociedades em geral, na medida em que deixam o caminho livre para que a inova\u00e7\u00e3o tecnol\u00f3gica da IA seja desenvolvida e comercializada tendo como norte apenas a l\u00f3gica do lucro, sem a exist\u00eancia de quaisquer crit\u00e9rios objetivos e legais que protejam o interesse p\u00fablico ou a sa\u00fade f\u00edsica, mental e social das pessoas.<\/p>\n
Regular tecnologias digitais com IA aplicadas \u00e0 \u00e1rea da sa\u00fade \u00e9 um imperativo global e nacional para a prote\u00e7\u00e3o do direito \u00e0 sa\u00fade no Brasil e no mundo. Os desafios existentes s\u00e3o muitos e somente a mobiliza\u00e7\u00e3o social e democr\u00e1tica em \u00e2mbito global e nacional poder\u00e1 fazer frente aos poderosos interesses econ\u00f4micos envolvidos neste novo campo tecnol\u00f3gico da humanidade.<\/p>","protected":false},"excerpt":{"rendered":"
Os riscos derivados da aplica\u00e7\u00e3o da intelig\u00eancia artificial no campo da sa\u00fade j\u00e1 s\u00e3o bem conhecidos e possuem evid\u00eancias cient\u00edficas s\u00f3lidas reportadas em diversos artigos cient\u00edficos sobre o tema publicados em jornais especializados. Uma revis\u00e3o narrativa publicada no BMJ em 2024 j\u00e1 destacava os seguintes riscos evidenciados em produ\u00e7\u00f5es cient\u00edficas de diferentes partes do mundo […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/23511"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=23511"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/23511\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=23511"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=23511"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=23511"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}