{"id":6569,"date":"2024-05-10T05:35:23","date_gmt":"2024-05-10T08:35:23","guid":{"rendered":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2024\/05\/10\/a-necessidade-de-regulacao-da-ia-aplicada-a-saude\/"},"modified":"2024-05-10T05:35:23","modified_gmt":"2024-05-10T08:35:23","slug":"a-necessidade-de-regulacao-da-ia-aplicada-a-saude","status":"publish","type":"post","link":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/2024\/05\/10\/a-necessidade-de-regulacao-da-ia-aplicada-a-saude\/","title":{"rendered":"A necessidade de regula\u00e7\u00e3o da IA aplicada \u00e0 sa\u00fade"},"content":{"rendered":"

A introdu\u00e7\u00e3o do uso da intelig\u00eancia artificial<\/a> (IA) nos sistemas de sa\u00fade ao redor do mundo, incluindo no Brasil, \u00e9 um fen\u00f4meno j\u00e1 cristalizado e em r\u00e1pido crescimento. A literatura cient\u00edfica, o movimento regulat\u00f3rio europeu, norte-americano e canadense, e uma s\u00e9rie cada vez mais robusta de casos espec\u00edficos evidenciam cada vez mais os riscos \u00e0 sa\u00fade individual e coletiva que as novas tecnologias digitais que utilizam IA no campo da sa\u00fade podem trazer \u2013 ou j\u00e1 trazem.<\/p>\n

No campo da sa\u00fade p\u00fablica, a gest\u00e3o de riscos de doen\u00e7as e outros agravos \u00e0 sa\u00fade configura-se como um dever do Estado brasileiro, de acordo com o art. 196 da Constitui\u00e7\u00e3o Federal. Pode-se afirmar, portanto, que o Estado brasileiro, Uni\u00e3o \u00e0 frente, tem o dever de construir uma regula\u00e7\u00e3o setorial da IA em sa\u00fade no Brasil. N\u00e3o se trata de uma simples quest\u00e3o de escolha discricion\u00e1ria dos pol\u00edticos e gestores p\u00fablicos de plant\u00e3o, mas sim de um dever imperativo ditado pela Constitui\u00e7\u00e3o Federal a fim de proteger os cidad\u00e3os dos potenciais riscos \u00e0 sa\u00fade advindos destas novas tecnologias.<\/p>\n

\u00c9 preciso avan\u00e7ar com o debate sobre a regula\u00e7\u00e3o da IA em sa\u00fade antes que os danos comecem a se fazer vistos e vultosos. No texto de hoje ser\u00e3o apresentados alguns pontos estrat\u00e9gicos para que o Brasil avance rumo a uma regula\u00e7\u00e3o eficiente para a IA em sa\u00fade.<\/p>\n

Conceitos estrat\u00e9gicos para pensar a IA em sa\u00fade<\/h3>\n

Importante apresentar introdutoriamente, ainda que de forma bastante sint\u00e9tica, alguns dos conceitos mais importantes que j\u00e1 vem sendo tratados em regula\u00e7\u00f5es internacionais e tamb\u00e9m nas incipientes regula\u00e7\u00f5es editadas no Brasil:<\/p>\n

Intelig\u00eancia artificial <\/strong>\u00e9 o uso de sistemas de computador para executar tarefas que tradicionalmente requerem cogni\u00e7\u00e3o humana. Ap\u00f3s a programa\u00e7\u00e3o inicial, as tarefas s\u00e3o executadas sem interven\u00e7\u00e3o humana direta. Os humanos fornecem entradas em um sistema de computador que permite que a m\u00e1quina execute as tarefas programadas sem ajuda humana posterior. IA de aprendizado de m\u00e1quina<\/strong> \u00e9 uma IA que coleta novas informa\u00e7\u00f5es por meio de sua pr\u00f3pria opera\u00e7\u00e3o e se adapta para produzir resultados novos, esperan\u00e7osamente melhorados (previs\u00f5es, an\u00e1lises etc.).
\nRedes neurais<\/strong> conectam muitos n\u00f3s de processamento simples em processos algor\u00edtmicos que podem ser treinados para oferecer respostas por meio da imita\u00e7\u00e3o da cogni\u00e7\u00e3o humana. As redes neurais s\u00e3o uma forma de aprendizado de m\u00e1quina<\/strong>. O aprendizado de m\u00e1quina profundo<\/strong> \u00e9 uma esp\u00e9cie de rede neural de alta pot\u00eancia, com numerosas \u201ccamadas\u201d de n\u00f3s de processamento, muitos dos quais podem estar ocultos (ou seja, n\u00e3o s\u00e3o, estritamente falando, camadas de entrada ou sa\u00edda).
\nIA relacionada \u00e0 sa\u00fade<\/strong> \u00e9 um conceito heterog\u00eaneo. Abrange computadores que leem e interpretam exames m\u00e9dicos; monitores card\u00edacos baseados em smartwatches; <\/em>algoritmos que fazem recomenda\u00e7\u00f5es de condutas \u00e0s pessoas ou aos profissionais de sa\u00fade; algoritmos que fazem avalia\u00e7\u00f5es iniciais de triagem sobre se um paciente precisa consultar um m\u00e9dico (e de qual especialidade); algoritmos que fornecem resultados diagn\u00f3sticos ou terap\u00eauticos reais; algoritmos que fazem recomenda\u00e7\u00f5es de tempo sobre como melhorar a cirurgia; dentre outros.<\/p>\n

A IA relacionada \u00e0 sa\u00fade pode ser usada sob a supervis\u00e3o de humanos (IA supervisionada<\/strong>) ou de forma aut\u00f4noma (IA aut\u00f4noma<\/strong>). Neste tipo de IA, os rob\u00f4s poder\u00e3o eventualmente at\u00e9 realizar cirurgias sem supervis\u00e3o humana. A enorme heterogeneidade da IA reflete a heterogeneidade de necessidades e respostas em mat\u00e9ria de cuidados de sa\u00fade e torna mais complexa a concep\u00e7\u00e3o de uma governan\u00e7a e regula\u00e7\u00e3o adequadas.<\/p>\n

Riscos j\u00e1 identificados<\/h3>\n

A utiliza\u00e7\u00e3o da IA nos cuidados de sa\u00fade levanta preocupa\u00e7\u00f5es de seguran\u00e7a.<\/p>\n

Uma quest\u00e3o \u00e9 como garantir que apenas ferramentas seguras de IA estejam no mercado, sejam elas adotadas pelo Sistema \u00danico de Sa\u00fade (SUS<\/a>), sejam elas adotadas pelo sistema privado. Algumas caracter\u00edsticas da IA tornam especialmente dif\u00edcil prever riscos ou identificar eventos adversos.<\/p>\n

Por exemplo, o aprendizado de m\u00e1quina profundo \u201cadaptativo<\/strong>\u201d muda suas caracter\u00edsticas ao longo do tempo, por defini\u00e7\u00e3o, \u00e0 medida que aprende. Consequentemente, nem todos os riscos decorrentes do uso deste tipo de tecnologia s\u00e3o identific\u00e1veis antes da tecnologia ser adotada nos cuidados de sa\u00fade. Uma licen\u00e7a ex ante<\/em> que demonstre a seguran\u00e7a da IA em sa\u00fade no momento em que um pedido \u00e9 feito ao regulador pode ter valor limitado.<\/p>\n

O desafio para regular esse tipo de tecnologia \u00e9 significativo. A natureza de alguns \u201ctomadores de decis\u00e3o\u201d da IA, como as redes neurais de aprendizagem profunda, significa que nem os reguladores nem os profissionais de sa\u00fade conseguem compreender como \u00e9 que uma decis\u00e3o \u00e9 tomada. Esse \u201cracioc\u00ednio\u201d da IA pode at\u00e9 permanecer opaco para os criadores da IA, transformando a IA numa \u201ccaixa preta\u201d.<\/p>\n

A opacidade de certas IAs pode dificultar a identifica\u00e7\u00e3o pr\u00e9via de problemas (eventos adversos, preconceitos etc.), assim como durante o uso na pr\u00e1tica. Exigir IA explic\u00e1vel pode n\u00e3o resolver todos esses problemas: explica\u00e7\u00f5es geralmente fornecem uma aproxima\u00e7\u00e3o de como a IA funciona, n\u00e3o a compreens\u00e3o direta; ainda, algumas ferramentas de IA podem ser seguras e eficazes sem serem explic\u00e1veis.<\/p>\n

Outra preocupa\u00e7\u00e3o relacionada \u00e0 seguran\u00e7a \u00e9 a do vi\u00e9s algor\u00edtmico. A IA depende dos dados que alimentam seu aprendizado. Se os conjuntos de dados de treinamento usados por programadores de IA sistematicamente sub-representam grupos (por exemplo, mulheres, povos ind\u00edgenas, povos negros e povos de cor, ou outros grupos que foram marginalizados), a ferramenta pode resultar em preconceitos e\/ou erros crassos. O preconceito est\u00e1 intimamente ligado a preocupa\u00e7\u00f5es de seguran\u00e7a, pois o preconceito pode minar a precis\u00e3o do diagn\u00f3stico ou das recomenda\u00e7\u00f5es de tratamento, como, por exemplo, quando o diagn\u00f3stico do cancro da pele \u00e9 preciso para pessoas brancas, mas n\u00e3o para pessoas de cor.<\/p>\n

Outro problema que se mostra no horizonte refere-se \u00e0 tend\u00eancia dos seres humanos de serem excessivamente confiantes e indevidamente respeitosos com as recomenda\u00e7\u00f5es baseadas em m\u00e1quinas. Em que medida IAs aplicadas \u00e0 sa\u00fade n\u00e3o ir\u00e3o substituir o ser humano no processo de cuidado ainda \u00e9 uma inc\u00f3gnita. Certo \u00e9 que, sem uma regula\u00e7\u00e3o adequada que induza a forma\u00e7\u00e3o e o letramento de pacientes e profissionais para o uso cr\u00edtico destas ferramentas, os riscos de discrimina\u00e7\u00e3o e erros ser\u00e3o enormes.<\/p>\n

N\u00e3o se pode presumir que estes problemas possam ser resolvidos atrav\u00e9s da vigil\u00e2ncia p\u00f3s-comercializa\u00e7\u00e3o ou por meio de IAs que evoluam para as necessidades do mundo real. No mundo real, aqueles que foram marginalizados podem n\u00e3o ter acesso \u00e0s tecnologias de IA porque n\u00e3o fazem parte de planos p\u00fablicos ou n\u00e3o s\u00e3o cobertos por seguros de sa\u00fade privados. Portanto, n\u00e3o se pode presumir que os problemas de preconceito algor\u00edtmico ou de erros de programa\u00e7\u00e3o inicial ir\u00e3o desaparecer com o tempo, \u00e0 medida que as ferramentas de IA evoluem e aprendem com dados do mundo real.<\/p>\n

As preocupa\u00e7\u00f5es com a privacidade tamb\u00e9m est\u00e3o relacionadas \u00e0s quest\u00f5es de seguran\u00e7a e preconceito algor\u00edtmico. A IA precisa agregar e coletar grandes quantidades de informa\u00e7\u00f5es de sa\u00fade para ser precisa. Al\u00e9m disso, esses dados podem ser potencialmente reaproveitados e compartilhados com terceiros.<\/p>\n

Muitas prote\u00e7\u00f5es de privacidade devem ser aplicadas no contexto de dispositivos m\u00e9dicos, mas at\u00e9 o momento a legisla\u00e7\u00e3o sobre informa\u00e7\u00f5es de sa\u00fade pessoais ao redor do mundo, Brasil incluso, normalmente isenta dados \u201cdesidentificados\u201d de suas prote\u00e7\u00f5es. A quest\u00e3o \u00e9 que, atualmente, ferramentas poderosas de IA aumentam os riscos de reidentifica\u00e7\u00e3o de indiv\u00edduos.<\/p>\n

A constru\u00e7\u00e3o de uma regula\u00e7\u00e3o para a IA em sa\u00fade deve buscar o equil\u00edbrio necess\u00e1rio entre o incentivo ao desenvolvimento e incorpora\u00e7\u00e3o destas novas tecnologias e a prote\u00e7\u00e3o aos direitos fundamentais do homem, notadamente os direitos de privacidade, intimidade, n\u00e3o discrimina\u00e7\u00e3o e da sa\u00fade.<\/p>\n

Se quadros jur\u00eddicos coerentes n\u00e3o abordarem as preocupa\u00e7\u00f5es aqui levantadas sobre preconceitos algor\u00edtmicos e privacidade, isso poder\u00e1 minar a confian\u00e7a do p\u00fablico na utiliza\u00e7\u00e3o da IA nos cuidados de sa\u00fade e criar um abismo significativo entre o desenvolvimento e a implementa\u00e7\u00e3o de uma inova\u00e7\u00e3o. Alguns autores chamam esta diverg\u00eancia de a \u201cverdade mais inconveniente\u201d sobre a IA (Da Silva et al, 2022). Poderia resultar na perda de muitas oportunidades para desenvolvimentos valiosos de IA, suscept\u00edveis de melhorar o sistema de sa\u00fade brasileiro.<\/p>\n

O desafio<\/h3>\n

A abordagem destas quest\u00f5es \u00e9 complexa no Brasil devido \u00e0 divis\u00e3o constitucional de poderes regulat\u00f3rios e \u00e0 sobreposi\u00e7\u00e3o de leis\/regulamentos. Tal complexidade n\u00e3o pode nos levar \u00e0 ina\u00e7\u00e3o.<\/p>\n

J\u00e1 h\u00e1 elementos suficientes para que o Brasil desenvolva o seu ecossistema de governan\u00e7a aplicado \u00e0 IA nos cuidados de sa\u00fade, notadamente por meio da: edi\u00e7\u00e3o de normas gerais pela Uni\u00e3o; edi\u00e7\u00e3o de normas complementares pelos n\u00edveis estadual e municipal; de normas editadas pelos conselhos profissionais e; desenvolvimento do sistema de autorregula\u00e7\u00e3o privada na \u00e1rea.<\/p>","protected":false},"excerpt":{"rendered":"

A introdu\u00e7\u00e3o do uso da intelig\u00eancia artificial (IA) nos sistemas de sa\u00fade ao redor do mundo, incluindo no Brasil, \u00e9 um fen\u00f4meno j\u00e1 cristalizado e em r\u00e1pido crescimento. A literatura cient\u00edfica, o movimento regulat\u00f3rio europeu, norte-americano e canadense, e uma s\u00e9rie cada vez mais robusta de casos espec\u00edficos evidenciam cada vez mais os riscos \u00e0 […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/6569"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=6569"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/6569\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=6569"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=6569"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=6569"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}