A utilização da Inteligência Artificial (IA) no setor da saúde promove melhorias significativas na qualidade dos serviços prestados, mas o uso da mesma também suscita inquietações fundadas. No decorrer deste artigo é apresentada uma análise sobre o panorama atual da Inteligência Artificial, no setor da saúde em Portugal, e são expostas soluções que permitem sustentar soluções de política pública para Portugal.
O artigo aprofunda os três desafios mais significativos da utilização de IA. Na primeira parte, aborda-se o tema da opacidade destes sistemas (derivada do efeito black box), que poderá pôr em causa um efetivo consentimento informado dos cidadãos. Em seguida, dá-se enfâse à da verificação de enviesamentos e discriminação, por parte dos sistemas. Finalmente, destaca-se a problemática intrínseca à proteção de dados e à privacidade, que adquire particular relevância dada a sensibilidade dos dados envolvidos.
Os sistemas de Inteligência Artificial, utilizados no setor da saúde, serão enquadrados à luz do Artificial Intelligence Act (AI Act), relevando-se algumas das obrigações estipuladas por este regulamento, recentemente aprovado. Destaca-se a necessidade da obrigação de supervisão humana, avaliando a sua eficácia e aplicabilidade.
Como objetivo fundamental, pretende-se analisar os impactos que poderão advir do desenvolvimento e uso da IA neste setor, e como os mesmos poderão ser mitigados através da implementação de medidas regulatórias. Neste sentido, serão analisadas as medidas já tomadas a nível europeu, e serão propostas medidas adicionais, que garantam a salvaguarda dos direitos dos cidadãos.
Em última análise, pretende-se delinear um equilíbrio saudável entre a manutenção do incentivo ao desenvolvimento e uso da IA, mais concretamente na área da saúde, e a garantia da segurança destes sistemas.
