JOTA<\/span> PRO Sa\u00fade entrega previsibilidade e transpar\u00eancia para empresas do setor<\/span><\/a><\/p>\nConforme nos informa o texto, agentes de imigra\u00e7\u00e3o dos EUA est\u00e3o usando um aplicativo desenvolvido pela Palantir que utiliza os registros de sa\u00fade de milh\u00f5es de americanos para encontrar e deter imigrantes ilegais. A Palantir \u00e9 uma das maiores desenvolvedoras de intelig\u00eancia artificial do mundo.<\/p>\n
A revela\u00e7\u00e3o surge em um momento em que o Servi\u00e7o de Imigra\u00e7\u00e3o e Alf\u00e2ndega dos EUA (ICE) est\u00e1 sob crescente suspeita de a\u00e7\u00f5es ilegais ap\u00f3s o assassinato de Alex Pretti, um enfermeiro de UTI de 37 anos, por agentes do ICE em Minneapolis. Segundo o texto, dados do Departamento de Sa\u00fade e Servi\u00e7os Humanos (HHS) est\u00e3o sendo inseridos \u2014 juntamente com outros conjuntos de dados comerciais e p\u00fablicos \u2014 em um aplicativo de an\u00e1lise desenvolvido pela Palantir.<\/p>\n
Depoimentos de um funcion\u00e1rio do ICE e documentos internos mostram que o aplicativo\u00a0Enhanced Leads Identification and Targeting for Enforcement (Elite) mapeia \u00e1reas para ajudar os agentes a decidir onde realizar batidas de deten\u00e7\u00e3o.<\/p>\n
A ferramenta teria sido usada em opera\u00e7\u00f5es recentes, incluindo uma batida no Oregon em outubro, na qual 30 pessoas foram presas. O Elite extrai nomes, endere\u00e7os e fotos de registros de sa\u00fade, funcionando como o Google Maps, de modo que mostra aos agentes do ICE quais \u00e1reas t\u00eam maior densidade de pessoas que poderiam ser detidas. O software tamb\u00e9m gera dossi\u00eas sobre indiv\u00edduos, incluindo nome, foto e \u201cpontua\u00e7\u00f5es de confian\u00e7a\u201d de que est\u00e3o em casa.<\/p>\n
Segundo o texto, n\u00e3o est\u00e3o claras quais informa\u00e7\u00f5es foram fornecidas ao ICE, mas o HHS argumenta que o compartilhamento de informa\u00e7\u00f5es \u00e9 permitido pela legisla\u00e7\u00e3o nacional. No entanto, organiza\u00e7\u00f5es de direitos humanos afirmam que o uso de segmenta\u00e7\u00e3o baseada em localiza\u00e7\u00e3o \u00e9 indiscriminado e viola o devido processo legal, e alguns estados dos EUA contestaram a medida na justi\u00e7a, levando a uma suspens\u00e3o tempor\u00e1ria do compartilhamento de informa\u00e7\u00f5es.<\/p>\n
Resumo: na aus\u00eancia de uma proibi\u00e7\u00e3o legal clara sobre esse tipo de uso de dados de sa\u00fade (como existe no Regulamento Europeu para IA, por exemplo), as autoridades dos EUA est\u00e3o fazendo o que querem com esses dados para fins de \u201cseguran\u00e7a p\u00fablica\u201d. Um excelente instrumento a servi\u00e7o do autoritarismo e a desservi\u00e7o da democracia e da sa\u00fade p\u00fablica.<\/p>\n
Fato 2: Dados gen\u00e9ticos de mais de 20 mil crian\u00e7as americanas s\u00e3o usados \u200b\u200bindevidamente para \u201cci\u00eancia racial\u201d<\/strong><\/p>\nPesquisadores da \u00e1rea da gen\u00e9tica nos EUA buscaram crian\u00e7as para um ambicioso projeto financiado pelo governo federal norte-americano, cujo objetivo era acompanhar o desenvolvimento cerebral \u2014 um estudo que, segundo eles, poderia revelar descobertas valiosas sobre o impacto do DNA no comportamento e em doen\u00e7as.<\/p>\n
Estes pesquisadores se comprometeram a proteger os dados sens\u00edveis das crian\u00e7as durante os dez anos de dura\u00e7\u00e3o do estudo, que teve in\u00edcio em 2015. O material promocional que utilizavam \u00e0 \u00e9poca para captar as crian\u00e7as, que seriam os sujeitos de pesquisa do projeto, inclu\u00eda um desenho animado de uma crian\u00e7a negra dizendo que se sentia bem em saber que \u201cos cientistas est\u00e3o tomando medidas para manter minhas informa\u00e7\u00f5es seguras\u201d.<\/p>\n
No entanto, os cientistas n\u00e3o protegeram os dados e o vazamento teve consequ\u00eancias tenebrosas.<\/p>\n
Um grupo de pesquisadores marginais do projeto frustrou as medidas de seguran\u00e7a dos Institutos Nacionais de Sa\u00fade (NIH) e obteve acesso a dados de milhares destas crian\u00e7as que participavam do estudo. Os membros do grupo de pesquisa n\u00e3o tinham autoriza\u00e7\u00e3o para obter dados do projeto, mas um deles conseguiu acesso por meio de um professor americano que j\u00e1 estava sendo investigado pelo NIH (Instituto Nacional de Sa\u00fade dos EUA) por sua atua\u00e7\u00e3o em outro estudo sobre o c\u00e9rebro infantil.<\/p>\n
Este grupo de pesquisadores que acessou indevidamente os dados sens\u00edveis das crian\u00e7as e adolescentes produziu pelo menos 16 artigos \u201ccient\u00edficos\u201d com base nestes dados, nos quais alegam ter encontrado evid\u00eancias biol\u00f3gicas de que existem diferen\u00e7as de intelig\u00eancia entre ra\u00e7as, classificando etnias por pontua\u00e7\u00e3o de QI e sugerindo que pessoas negras ganham menos porque s\u00e3o menos inteligentes.<\/p>\n
Geneticistas renomados rejeitaram o trabalho deles, considerando-o tendencioso e anticient\u00edfico. No entanto, ao se basearem em dados gen\u00e9ticos e outros dados pessoais do projeto, conhecido como \u201cEstudo do Desenvolvimento Cognitivo do C\u00e9rebro Adolescente\u201d, os pesquisadores conferiram \u00e0s suas teorias uma apar\u00eancia de rigor anal\u00edtico.<\/p>\n
Os artigos racistas publicados serviram de muni\u00e7\u00e3o para postagens racistas em redes sociais e f\u00f3runs de supremacistas brancos, que foram visualizadas milh\u00f5es de vezes. Alguns dos artigos s\u00e3o citados por bots de intelig\u00eancia artificial como ChatGPT e Grok em resposta a perguntas sobre ra\u00e7a e intelig\u00eancia. Na plataforma de m\u00eddia social X, o Grok direcionou usu\u00e1rios para a pesquisa mais de duas dezenas de vezes somente no m\u00eas de janeiro.<\/p>\n
Fato 3: Software de IA da empresa Doctronic j\u00e1 libera receita m\u00e9dica sem supervis\u00e3o humana para pacientes<\/strong><\/p>\nUma nova tecnologia com IA desenvolvida pela empresa norte-americana Doctronic est\u00e1 testando at\u00e9 que ponto podem ir no desenvolvimento e comercializa\u00e7\u00e3o de produtos de sa\u00fade digital com intelig\u00eancia artificial sem supervis\u00e3o humana. Querem testar at\u00e9 onde pacientes e governos ir\u00e3o permitir e aceitar que o \u201cmercado inove\u201d e comercialize produtos que podem, potencialmente, causar s\u00e9rios preju\u00edzos \u00e0 sa\u00fade individual e coletiva.<\/p>\n
Por apenas US$ 4, pacientes com doen\u00e7as cr\u00f4nicas no estado norte-americano de Utah j\u00e1 conseguem obter a renova\u00e7\u00e3o de receita m\u00e9dica sem precisar sequer falar com o m\u00e9dico (e nem com o enfermeiro). A iniciativa \u00e9 parte de um teste realizado pela empresa Doctronic, health tech<\/em> em atividade desde 2023. A empresa desenvolveu um assistente m\u00e9dico por IA em que o usu\u00e1rio descreve sintomas e recebe orienta\u00e7\u00e3o com indica\u00e7\u00e3o de um diagn\u00f3stico e uma proposta de tratamento terap\u00eautico que pode ou n\u00e3o incluir a necessidade de uma consulta com o m\u00e9dico.<\/p>\nO software de IA permite que o paciente renove prescri\u00e7\u00f5es de 190 medicamentos relacionados a patologias cr\u00f4nicas que exigem tratamento cont\u00ednuo. Por enquanto, n\u00e3o entram no projeto alguns medicamentos, tais como analg\u00e9sicos potentes. Por enquanto.<\/p>\n
A renova\u00e7\u00e3o da receita \u00e9 feita pelo software de IA, desenhado para atualizar receitas \u201ccom rapidez, privacidade e personaliza\u00e7\u00e3o\u201d, segundo nos informa a Doctronic. Por apenas US$ 4 (em torno de R$ 20), o usu\u00e1rio escolhe a receita que deseja renovar e faz uma consulta breve com o chamado \u201cm\u00e9dico de IA\u201d. Com base nas informa\u00e7\u00f5es fornecidas pelo paciente, e ap\u00f3s a IA verificar o email, validar a identidade do paciente e confirmar que est\u00e1 localizado em Utah (tudo de forma automatizada), o software de IA encontra as prescri\u00e7\u00f5es registradas em nome do paciente e prescreve a nova receita m\u00e9dica.<\/p>\n
O objetivo da empresa \u00e9 verificar se a IA pode assumir uma tarefa importante da rotina m\u00e9dica, que por ser \u201crepetitiva\u201d s\u00e3o eleg\u00edveis para solu\u00e7\u00f5es por IA. Trata-se de um enorme nicho de mercado. No Brasil, por exemplo, h\u00e1 um debate enorme sobre se profissionais de enfermagem poderiam prescrever tais medicamentos no lugar dos m\u00e9dicos, pr\u00e1tica que encontra no Conselho Federal de Medicina severa oposi\u00e7\u00e3o. Se nem enfermeiros de carne e osso podem, a IA poderia?<\/p>\n
Aparentemente, no entanto, o debate sobre se enfermeiros poderiam prescrever medicamentos de uso cont\u00ednuo e com protocolos e diretrizes terap\u00eauticas consagrada s\u00f3lidas j\u00e1 est\u00e1 ficando ultrapassado. Sem uma regula\u00e7\u00e3o adequada, em breve quem prescrever\u00e1 estes e outros medicamentos \u00e9 a IA.<\/p>\n
O novo software est\u00e1 provocando rea\u00e7\u00f5es do governo e da classe m\u00e9dica, mas o que fica evidente na ousadia da empresa \u00e9 que os desenvolvedores de IA ir\u00e3o testar ao m\u00e1ximo os limites da regula\u00e7\u00e3o para colocar no mercado os produtos que considerarem potencialmente lucrativos, independente de considera\u00e7\u00f5es pr\u00e9vias sobre quest\u00f5es \u00e9ticas envolvidas, ou ainda sobre os riscos \u00e0 sa\u00fade dos pacientes e da sociedade como um todo que tais produtos podem causar.<\/p>\n
Como nos EUA n\u00e3o h\u00e1 uma regula\u00e7\u00e3o nacional sobre IA, os limites ser\u00e3o testados at\u00e9 que a sociedade e os governos resolvam se contrapor.<\/p>\n
A necessidade de regula\u00e7\u00e3o<\/strong><\/p>\nOs tr\u00eas fatos acima relatados demonstram claramente os enormes riscos que as sociedades e os indiv\u00edduos est\u00e3o correndo ao deixar os desenvolvedores de IA e as big techs colocarem no mercado os produtos que bem entenderem.<\/p>\n
At\u00e9 quando vamos aceitar o argumento de que regular a IA ir\u00e1 \u201csufocar a inova\u00e7\u00e3o\u201d? Esse argumento \u00e9 falacioso e busca apenas tumultuar o debate.<\/p>\n
Regular a IA n\u00e3o \u00e9 mais apenas uma op\u00e7\u00e3o perante o fen\u00f4meno de seu uso na sa\u00fade, que cresce exponencialmente a olhos vistos. Regular a IA e seus usos na \u00e1rea da sa\u00fade (incluindo a prote\u00e7\u00e3o dos dados usados pela IA) mostra-se cada vez mais claramente como uma necessidade de sobreviv\u00eancia individual e coletiva do ser humano. Deixar o mercado se autorregular com uma tecnologia da dimens\u00e3o da IA \u00e9 um risco demasiadamente alto que n\u00e3o podemos nos dar ao luxo de correr, sob pena de, quando nos dermos conta, ser tarde demais.<\/p>\n
Regular n\u00e3o \u00e9 necessariamente proibir (embora tamb\u00e9m possa ser). Regular \u00e9 impor limites e condi\u00e7\u00f5es para que seres humanos, no uso de suas liberdades, n\u00e3o fa\u00e7am mal a outros seres humanos. Liberdade de iniciativa tem limites, e estes limites devem ser impostos pela sociedade como um todo, por meio do Estado. Portanto, a liberdade de iniciativa para o desenvolvimento de tecnologias de sa\u00fade digital com IA devem ter limites claros definidos na regula\u00e7\u00e3o estatal.<\/p>\n
Assine gratuitamente a newsletter \u00daltimas Not\u00edcias do JOTA<\/span> e receba as principais not\u00edcias jur\u00eddicas e pol\u00edticas do dia no seu email<\/span><\/a><\/p>\nVale lembrar a defini\u00e7\u00e3o de liberdade que consta da Declara\u00e7\u00e3o dos Direitos do Homem e do Cidad\u00e3o, que emergiu logo ap\u00f3s a Revolu\u00e7\u00e3o Francesa em 1789:<\/p>\n
\u201cArt. 4\u00ba. A liberdade consiste em poder fazer tudo aquilo que n\u00e3o prejudique outrem: assim, o exerc\u00edcio dos direitos naturais de cada homem n\u00e3o tem por limites sen\u00e3o os que asseguram aos outros membros da sociedade o gozo dos mesmos direitos. Estes limites apenas podem ser determinados pela Lei\u201d.<\/em><\/p>\nSe assim \u00e9, j\u00e1 passou da hora de termos leis e autoridades regulat\u00f3rias adequadas para controlar esse fen\u00f4meno ao mesmo tempo fascinante e amedrontador da intelig\u00eancia artificial no mundo digital. Esperar que os \u201cempreendedores\u201d se autoconter\u00e3o e s\u00f3 colocar\u00e3o no mercado produtos seguros, de qualidade e eficazes \u00e9 uma ingenuidade que serve a interesses que nem sempre est\u00e3o em conson\u00e2ncia com a prote\u00e7\u00e3o dos direitos fundamentais do ser humano.<\/p>","protected":false},"excerpt":{"rendered":"
Apenas no \u00faltimo m\u00eas, tr\u00eas fatos ao mesmo tempo surpreendentes e amedrontadores tornaram-se p\u00fablicos. Vamos a eles: Fato 1: uso de dados de sa\u00fade pelo Estado para fins de \u201cseguran\u00e7a\u201d Publicado pela revista cient\u00edfica British Medical Journal recentemente, artigo de autoria de Luke Taylor possui um t\u00edtulo contundente: \u201cICE e Palantir: Agentes dos EUA usam […]<\/p>\n","protected":false},"author":0,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/20108"}],"collection":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/comments?post=20108"}],"version-history":[{"count":0,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/posts\/20108\/revisions"}],"wp:attachment":[{"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/media?parent=20108"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/categories?post=20108"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aprimora.site\/carvalhoalmeidaadvogados\/wp-json\/wp\/v2\/tags?post=20108"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}