Há imensa inovação em robôs orientados por IA, como este robô ARI-V2, para utilização na área da saúde, mas os quadros regulamentares e os padrões éticos estão atrasados.
Os avanços tecnológicos nas aplicações de Inteligência Artificial para cuidados de saúde estão a ultrapassar rapidamente as salvaguardas regulamentares e éticas, criando uma lacuna perigosa na segurança dos pacientes, alerta um relatório importante sobre IA nos Sistemas de Saúde, publicado quarta-feira pela Região Europeia da Organização Mundial de Saúde (OMS/EURO).
Paradoxalmente, o apelo urgente da OMS para uma regulamentação mais rigorosa da IA coincidiu com uma proposta de longo alcance da Comissão Europeia (CE) na quarta-feira para afrouxar certas regulamentações de IA nos 27 estados membros da União Europeia – como parte de um novo pacote “Digital Omnibus”. O pacote visa reduzir a burocracia para a IA e outras indústrias digitais na UE, mas os críticos argumentam que enfraqueceria gravemente a proteção de dados dos indivíduos.
As conclusões do relatório da OMS baseiam-se no primeiro inquérito abrangente sobre a implementação da IA realizado na Região Europeia da OMS entre 2024-2025. Os resultados recolhidos em 50 dos 53 Estados-membros da Região Europeia da OMS – cujas fronteiras se estendem do Reino Unido à Rússia, e através da Ásia Central até à Turquia e Israel – destacam como os países estão a lutar para acompanhar o ritmo da mudança.
“A rápida ascensão da IA nos cuidados de saúde está a acontecer sem as redes de segurança jurídicas básicas necessárias para proteger os pacientes e os profissionais de saúde”, alertou Hans Kluge, Diretor Regional da OMS para a Europa.
O relatório surge num momento em que a IA está a transformar fundamentalmente os cuidados de saúde, ajudando médicos, enfermeiros e outros profissionais de saúde a diagnosticar e monitorizar doenças e a comunicar melhor com os pacientes. Os elevados custos envolvidos no desenvolvimento e adoção da IA nos sistemas de saúde públicos também ameaçam aprofundar a exclusão digital.
O relatório identifica a “insegurança jurídica” (relatada por 86% dos estados) e a “acessibilidade financeira (78% dos estados) como as maiores barreiras à adoção da IA. Mas, juntamente com as barreiras à adoção, normas regulamentares vagas ou inexistentes colocam novas questões em termos de segurança, responsabilidade e privacidade dos pacientes.
Alerta da OMS colide com medidas de desregulamentação da UE
Os Comissários da UE Henna Virkkunen, Valdis Dombrovskis e Michael McGrath apresentam o pacote “Digital Omnibus” em Bruxelas.
Em termos do pacote “Omnibus” proposto, a Comissão, o poder executivo da UE, afirma que simplificaria as regulamentações digitais, reduzindo os custos administrativos da adoção da IA, especialmente para as pequenas e médias empresas, bem como melhoraria a harmonização das regras entre os estados membros da UE.
Mas um elemento-chave da proposta envolve alterações ao Regulamento Geral de Proteção de Dados (RGPD) da UE de 2018, alardeado como a “lei de privacidade e segurança de dados mais rigorosa do mundo”, para alterar a definição de dados sensíveis.
Os críticos afirmam que isto também terá um impacto negativo na protecção dos dados de saúde. Antes do anúncio da Comissão, mais de 120 organizações da sociedade civil criticaram fortemente o pacote Omnibus, classificando-o como o “maior revés para os direitos fundamentais digitais na história da UE”.
‘Nosso DNA poderia ser usado para treinar os sistemas de IA de grandes empresas’
Outra alteração proposta ao GDPR permitiria que as empresas utilizassem dados pessoais para desenvolver e operar sistemas de IA com base em “interesse legítimo”.
Ella Jakubowska, EDRi
“De acordo com essa mudança, uma empresa gigante de cuidados de saúde poderia simplesmente declarar a utilização de dados sensíveis para treinar os seus sistemas de IA como interesse legítimo”, disse Ella Jakubowska, especialista em políticas de IA da ONG European Digital Rights (EDRi), uma associação de organizações de direitos civis e humanos de toda a Europa.
“Nosso DNA poderia ser usado para treinar os sistemas de IA de grandes empresas”, alertou Jakubowska em entrevista ao Health Policy Watch.
A Comissão, entretanto, sustenta que, ao abrigo das novas regras Omnibus, as empresas ainda teriam de aderir a critérios de transparência específicos, bem como preservar o direito incondicional de oposição das pessoas a quem os dados dizem respeito.
A Comissão Europeia também pretende adiar a implementação de novas regras de IA específicas para dispositivos médicos
Noutra medida que preocupa os defensores dos pacientes, a Comissão também propôs o adiamento da implementação de novas regras específicas para dispositivos médicos na nova Lei de Inteligência Artificial da UE, que entrou em vigor no ano passado. As regras visam salvaguardar a saúde, a segurança e os direitos fundamentais dos pacientes no que diz respeito aos sistemas de IA de alto risco utilizados em determinados procedimentos médicos.
As regras deveriam entrar em vigor em agosto de 2026, mas a Comissão quer adiar isso em até 16 meses. A Lei de IA é o primeiro conjunto abrangente de regulamentos de IA do mundo elaborado por uma grande autoridade reguladora.
Lei de IA da União Europeia, que entrou em vigor em 2024.
Grupos industriais fizeram lobby para um adiamento ainda maior, argumentando que a aplicação da Lei de IA juntamente com as leis existentes sobre dispositivos médicos criaria requisitos sobrepostos. Alegaram que esta “dupla carga regulamentar” iria sufocar a inovação e impulsionar o desenvolvimento de tecnologias que salvam vidas para fora da Europa.
A Comissão não respondeu a um pedido da Health Policy Watch para responder ao relatório da OMS ou elaborar a lógica do pacote Omnibus, no que diz respeito ao sector da saúde, antes da publicação.
Contudo, numa declaração da sede da UE em Bruxelas, Michael McGrath, o Comissário da UE para a Democracia, a Justiça, o Estado de Direito e a Protecção do Consumidor, defendeu a nova legislação Omnibus da UE, dizendo: “As alterações propostas respeitam plenamente o elevado nível de protecção dos dados pessoais com que estamos empenhados”.
Ele acrescentou que a proposta “Digital Omnibus” ainda exigiria a aprovação do Conselho de Ministros da UE, bem como do Parlamento Europeu.
A falta de regras de responsabilidade coloca os pacientes em risco
As lacunas nas leis existentes e nas normas de responsabilidade pela utilização da IA são generalizadas, existindo apenas quatro países com regras de IA específicas para a saúde em vigor.
O esforço da UE para aliviar os encargos regulamentares para as empresas surge no momento em que o relatório da OMS destaca as graves consequências de um vazio jurídico já existente nos cuidados de saúde, tanto na UE como em toda a região europeia da OMS. A incapacidade de regulamentar estritamente a IA deixou as populações vulneráveis expostas a riscos críticos, especialmente em áreas de responsabilidade e padrões éticos, acusa o relatório.
Na ausência de regulamentos claros, o pessoal hospitalar e os pacientes enfrentam questões críticas de responsabilidade, tais como: quem é responsável quando um sistema de IA comete um erro?
Apenas quatro países da Região Europeia da OMS estabeleceram normas de responsabilidade para a IA nos cuidados de saúde, revela o relatório, estando mais três em processo de introdução de requisitos legais. Esta falta de clareza deixa os médicos expostos e os pacientes vulneráveis a arcar sozinhos com o fardo de diagnósticos e tratamentos errados.
Além da responsabilidade relacionada a um diagnóstico ou tratamento individual equivocado, escondem-se os perigos do viés algorítmico, afirma o relatório. Por exemplo, se os sistemas de IA forem treinados utilizando dados não representativos, podem discriminar sistematicamente populações vulneráveis. Os críticos dizem que ocorrem frequentemente distorções em termos de género, origem ou estatuto social, fazendo com que os pacientes sejam invisíveis para o sistema ou sejam injustamente alvo dele.
Outras preocupações éticas críticas destacadas incluem a falta de salvaguardas em torno da privacidade dos dados.
Os governos também não estão a ouvir o público. Embora a maioria dos países consulte os criadores de IA e os prestadores de cuidados de saúde, apenas 42% dos países incluíram associações de pacientes na conversa. Apenas 22% dos países consultaram o público em geral. O relatório alerta que este “envolvimento limitado” pode resultar no desenvolvimento de ferramentas que não satisfazem as necessidades do mundo real.
Um aprofundamento da exclusão digital também na regulamentação
O público em geral foi consultado apenas por 22% dos estados membros da OMS/EURO no desenvolvimento de políticas sobre a utilização de tecnologias baseadas na IA nos sistemas de saúde.
Em termos de processos regulamentares, por si só, a região europeia também sofre de uma grave fragmentação, com uma divisão clara entre nações que estão prontas para governar a IA, como o Reino Unido e nações de elevado rendimento na UE e no Espaço Económico Europeu, e nações menos desenvolvidas na Ásia Central e noutros lugares, que estão apenas a começar a considerar a questão. Além disso, a grande maioria dos países que possuem regulamentações (33) baseiam-se em medidas intersectoriais que muitas vezes carecem da especificidade necessária para abordar os riscos para o sistema de saúde.
Enquanto isso, as nações mais ricas estão avançando. O Reino Unido, por exemplo, está a abordar proativamente as lacunas regulamentares, testando dispositivos médicos de IA em ambientes clínicos controlados através de iniciativas como o sistema AI Airlock.
De acordo com a análise da OMS, isto garante que os novos dispositivos baseados em IA cumprem os padrões de segurança e eficácia antes da implantação completa. Este requisito básico para dispositivos médicos também é preservado mesmo nas medidas regulatórias mais flexíveis da proposta “Digital Omnibus” da UE.
Em contrapartida, países como a Geórgia referem enfrentar obstáculos em todas as frentes, desde a incerteza jurídica até deficiências de infra-estruturas básicas.
As restrições financeiras foram identificadas como um grande obstáculo por 78% dos Estados-Membros. O elevado custo da infraestrutura e as elevadas taxas de subscrição de sistemas avançados correm o risco de transformar a IA num luxo e não num serviço público.
Kluge sublinhou que “a equidade deve continuar a ser o nosso princípio orientador, garantindo que os benefícios da IA se estendem não apenas aos Estados-Membros, mas também dentro deles, atingindo todas as comunidades, independentemente da geografia, do rendimento ou da capacidade digital”.
OMS apela ao reforço do financiamento e à harmonização transfronteiriça
Os investimentos do sector privado estão concentrados nas regiões mais ricas.
Com o investimento privado largamente concentrado na Europa Ocidental e do Norte, a OMS apela também aos países para que definam claramente quais as responsabilidades em matéria de cuidados de saúde relacionadas com a IA que devem permanecer públicas e o que é ou será delegado a intervenientes privados. Os países também precisam de garantir a transparência em todas as parcerias público-privadas e garantir o acesso às tecnologias de IA para defender os direitos.
Para superar os desafios de implementação e harmonizar a regulamentação em toda a região, as parcerias transfronteiriças também devem ser reforçadas, afirma a OMS.
São necessários fluxos de financiamento dedicados e modelos de reembolso de saúde pública sensíveis à IA, semelhantes aos utilizados para medicamentos ou procedimentos médicos, para aliviar a lacuna de financiamento da IA. Segundo esses modelos, os prestadores de cuidados de saúde, como hospitais e clínicas, seriam compensados pela utilização de um sistema de IA aprovado no atendimento aos pacientes, por exemplo.
A OMS enfatiza a importância de aderir aos princípios fundamentais ao integrar a IA. Estas incluem colocar os pacientes no centro dos cuidados, defender a equidade e os direitos humanos, garantir a segurança do sistema e o bem-estar público, manter a transparência e estabelecer linhas claras de responsabilidade e responsabilização.
“Estamos numa bifurcação”, disse Natasha Azzopardi-Muscat, Diretora de Sistemas de Saúde da OMS. “Ou a IA será utilizada para melhorar a saúde e o bem-estar das pessoas, reduzir a carga sobre os nossos trabalhadores de saúde exaustos e reduzir os custos dos cuidados de saúde, ou poderá minar a segurança dos pacientes, comprometer a privacidade e consolidar as desigualdades nos cuidados de saúde. A escolha é nossa.”
Créditos de imagem: União Europeia, União Europeia, EDRi, UE, OMS/União Europeia, OMS/Região Europeia, OMS/Região Europeia.
Combater a infodemia na informação sobre saúde e apoiar a elaboração de relatórios sobre políticas de saúde do Sul global. A nossa crescente rede de jornalistas em África, Ásia, Genebra e Nova Iorque liga os pontos entre as realidades regionais e os grandes debates globais, com notícias e análises baseadas em evidências e de acesso aberto. Para fazer uma contribuição pessoal ou organizacional clique aqui no PayPal.
