Saúde

Confia no processo? Healthcare AI está lutando contra a segurança e a complexidade regulatória

Os sistemas de saúde europeus encontram-se num momento crucial. Há muito considerados pilares da solidariedade, enfrentam agora um duplo desafio: suportar pressões fiscais e choques ambientais, juntamente com os riscos emergentes do rápido avanço da inteligência artificial. No Fórum Europeu de Saúde de Gastein, as conversas dominadas pela IA – mesmo em sessões não formalmente dedicadas ao tema – sublinharam o seu potencial disruptivo.

O clima oscilou entre o otimismo cauteloso e o ceticismo informado.

As tecnologias digitais prometem avanços científicos, ganhos de eficiência na prestação de cuidados e alívio para a escassez crónica de mão-de-obra. No entanto, a histórica Lei da IA ​​da UE, concebida para regular a tecnologia em todos os sectores, será fundamental para determinar se estes benefícios se materializam sem comprometer a segurança e a confiança. Para a saúde, o sucesso não é opcional – é existencial.

O presidente do EHFG, Clemens Martin Auer, alertou sobre a adoção imprudente da IA. Durante a primeira sessão plenária, afirmou: “O maior desafio político e social para os sistemas de solidariedade ainda temos pela frente: a rápida digitalização e a IA, especialmente no seu impacto potencial no mercado de trabalho”, afirmou, acrescentando a preocupação de que “a IA mudará drasticamente ou poderá até obliterar os próprios fundamentos do contrato social tal como o conhecemos hoje”.

Por outro lado, Lucilla Sioli, diretora de IA e indústria digital na direção de comunicações e tecnologia da Comissão Europeia, observou durante a discussão sobre a Lei da IA, “a inteligência artificial tem o potencial de revolucionar completamente o setor da saúde, e talvez até mais rápido, em princípio, do que outros setores económicos”.

Para Steffen Thirstrup, diretor médico da Agência Europeia de Medicamentos (EMA), é essencial garantir que a IA seja confiável. “Que o resultado seja confiável e seja usado de forma ética e correta”, disse ele à Diário da Feira à margem do EHFG.

Preenchendo lacunas

Durante uma discussão sobre a Lei da IA ​​da UE, Ricardo Baptista Leite, CEO da Health AI (a agência global para a IA responsável na saúde), também observou que os custos aumentaram ao longo das décadas sem melhorar os resultados de saúde.

Ao mesmo tempo, o fardo das doenças continua a aumentar, minando o objectivo de alcançar a cobertura universal de saúde para todos.

“Aqueles que têm dinheiro no bolso encontrarão sempre uma forma de ter acesso aos cuidados. São sempre aqueles que se encontram em condições mais vulneráveis ​​que serão deixados para trás. E, portanto, inevitavelmente, existe o risco de criar um ciclo vicioso de aumento das desigualdades e da pobreza se não quebrarmos esse ciclo”, acrescentou.

Os médicos normalmente analisam apenas cerca de 10% do que realmente impacta a saúde do paciente – os fatores clínicos. “Os factores genómicos e biológicos desempenham um papel, mas cerca de 60% do que afecta a nossa saúde está fora do sistema de saúde: o ar que respiramos, os ambientes em que vivemos e as decisões que tomamos todos os dias”, observou.

“Cada um desses fatores gera grandes quantidades de dados que ainda precisamos aproveitar e traduzir em melhores decisões clínicas. É aí que acredito que reside uma das maiores oportunidades da inteligência artificial”, disse ele.

No entanto, explicou que não é a tecnologia, por si só, que resolverá todos os problemas. “Não deveríamos usar a IA para modernizar os cuidados de saúde, mas sim reimaginar a forma como a saúde deve ser prestada.”

Para os pacientes, confiança e transparência são essenciais.

“Neste caso, uma regulamentação mais forte não seria um fardo, mas sim uma salvaguarda, ajudando a construir a confiança necessária para uma verdadeira adesão”, observou Valentina Strammiello, diretora executiva interina do Fórum Europeu de Doentes.

Barreiras à inovação

No entanto, a difusão da tecnologia tem sido extremamente lenta nos sistemas de saúde, observou Baptista Leite, com muitos inovadores a baterem numa parede de tijolos, incapazes de escalar.

As barreiras que atrasam o progresso vão desde a legislação fragmentada e a rápida mudança tecnológica até à capacidade institucional limitada para acompanhar o ritmo. A governação de dados, a segurança cibernética e a vigilância pós-comercialização também são preocupações críticas. “Garantir que possamos detectar riscos e danos potenciais precocemente será essencial”, disse ele.

“Além disso, precisamos de quadros claros para a avaliação e reembolso de tecnologias de saúde, mas, acima de tudo, precisamos de construir confiança. Sem isso, os profissionais de saúde não utilizarão estas ferramentas e os pacientes hesitarão em adotá-las”, acrescentou.

Voltando à confiança, Thirstrup também discutiu o desafio de lidar com informações comercialmente confidenciais. “É necessário que haja algumas barreiras de segurança à sua volta. Precisamos de desenvolver e implementar soluções de IA que sejam seguras para informações confidenciais.”

A transparência pode ser outro desafio, segundo Thirstrup. “Hoje somos muito transparentes. Publicamos o nosso relatório de avaliação. Continuaremos a fazê-lo”, disse, acrescentando que há uma preocupação quando, em algum momento, parte desse relatório de avaliação será construído com a ajuda da IA.

“No entanto, não posso prever que abandonaremos completamente o cérebro humano por causa disso”, observou ele.

No final das contas, Thirstrup vê a IA mais como uma ferramenta para lidar com a carga de trabalho e as atividades rotineiras, e tudo o que for produzido deve ser verificado por alguém que saiba, pois o maior medo permanece de que a IA produza algo impreciso que possa prejudicar a credibilidade da Agência.

Afua van Haasteren, diretora de política de saúde e assuntos externos da Roche, falou da “lasanha regulamentar” da Europa, as camadas de regras sobrepostas. Neste caso, abrangem desde a Lei da IA ​​e o MDR até à EHDS, a Lei dos Dados, e assim por diante.

“Embora cada um vise melhorar o atendimento ao paciente, juntos eles criam um cenário complexo que é especialmente desafiador para as pequenas e médias empresas navegarem”, observou ela, acrescentando que essas estruturas precisam ser alinhadas e levar em conta os produtos existentes, permitindo arranjos práticos que apoiem a inovação em vez de sufocá-la.

Diana McGhie, líder de política de saúde no Fórum Económico Mundial, acrescentou que, juntamente com a sobreposição nas regulamentações existentes, existe preocupação com os custos de conformidade que poderiam “espremer os inovadores e as pequenas e médias empresas”.

Possíveis benefícios

As ferramentas digitais também poderão tornar-se uma “pílula amarga”, disse Stefan Eichwalder, diretor da divisão de sistemas de saúde do Ministério da Saúde e Assuntos Sociais da Áustria. Ele explicou suas preocupações sobre o potencial de esgotamento. “Muitas vezes, a tecnologia destinada a apoiar os profissionais de saúde acaba por prejudicá-los. Um inquérito alemão recente descobriu que a utilização de registos de saúde eletrónicos estava associada a um maior stress e esgotamento entre os médicos de família”, disse ele.

No entanto, estudos mostram que as ferramentas de IA, como o reconhecimento de voz, podem poupar aos médicos até uma hora por dia, tempo que pode ser reinvestido no atendimento ao paciente.

Marco Marsella, diretor de modernização digital, EU4Health e de sistemas de saúde na direção de saúde e segurança alimentar da Comissão Europeia, discutiu a IA responsável nos sistemas de saúde que poderia gerar um duplo dividendo.

Deu o exemplo da prevenção e da deteção precoce, onde a IA poderia ser implantada, o que pode produzir elevados retornos, acrescentando que a IA poderia atrair investimento, mas também reforçar a soberania tecnológica europeia.

Confie na Lei

Citando a confiança como uma obrigação, Sioli estimou que a Lei da IA ​​foi projetada para fornecê-la.

“Introduz requisitos específicos em termos de transparência, supervisão humana, governação de dados e monitorização pós-comercialização. Cria as condições para minimizar o risco que a inteligência artificial traz.”

Para Sioli, a grande vantagem da Lei é que se trata de “uma lei única no mercado único”, em contraste com os frequentemente citados EUA, onde existem mais de 90 peças legislativas sobre IA nos diferentes estados.

Nesse sentido, a Comissão está a trabalhar para alinhar a regulamentação dos dispositivos médicos e a Lei da IA, para que as empresas passem por um único processo de certificação para um dispositivo médico, quer inclua IA ou não. Além disso, o omnibus digital terá como objetivo agilizar regulamentos e procedimentos.

Strammiello alerta para a não inclusão de disposições para sistemas de IA de baixo risco no quadro jurídico para proteger os cidadãos. “O que hoje é considerado de ‘baixo risco’ poderá representar riscos maiores amanhã”, explicou ela.

Ela sublinhou a importância de apoiar as comunidades de pacientes e os cidadãos através da educação e de competências digitais em saúde, para garantir que possam interagir com soluções de IA de forma segura e significativa.

A transformação deve ser prosseguida de forma inclusiva, “preenchendo lacunas e garantindo que nenhum grupo seja deixado para trás”, sublinhou Eichwalder.

Virginia Mahieu, diretora de neurotecnologia do Centro para Gerações Futuras, observou durante a última plenária do EHFG que “a mudança está chegando”, mas não se sabe como será o futuro da saúde.

Ela disse: “Essa incerteza é exatamente a razão pela qual precisamos pensar fora da caixa para testar a resistência dos nossos sistemas de saúde, do nosso estado de bem-estar social e do nosso contrato social contra futuros possíveis muito diferentes”.

(BM)