Inteligência Artificial na saúde: desafios para a adoção de tecnologias digitais no SUS é tema do Centro de Estudos do Icict

por

Assessoria de Comunicação do Icict/Fiocruz

12/09/2022

Nos últimos anos, aplicações que utilizam técnicas de Machine Learning (ML; em português, aprendizagem de máquina) têm se tornado onipresentes em nosso cotidiano. Elas estão disponíveis em celulares, computadores, meios de transporte, serviços de saúde e sistemas de segurança, por exemplo. Entretanto, apesar do seu uso em situações com grande impacto nas vidas das pessoas, nem sempre é possível compreender razoavelmente como determinadas decisões são tomadas por essas aplicações.

Os desafios para a adoção dessa e outras formas de Inteligência Artificial pelo Sistema Único de Saúde são o tema do próximo Centro de Estudos do Icict, que tem como o objetivo abordar aspectos éticos, de transparência e de interpretabilidade relativos a este tema.

O palestrante da sessão será Jefferson da Costa Lima, servidor do Icict que atua na área de Tecnologia da Informação e da Comunicação, e que recentemente concluiu o doutorado no PPGICS/Icict/Fiocruz discutindo essa questão do ponto de vista da pesquisa.

Para os organizadores da atividade, o uso dessas tecnologias na justiça, acesso a bens e serviços dentre outros pontos fazem parte dos dilemas éticos associados à sua adoção. Por exemplo, os critérios e mecanismos utilizados para diferenciar pessoas pode gerar desigualdades.

Algumas das questões que as pessoas afetadas podem desejar, em especial quando a avaliação é feita por sistemas automatizados ou com apoio deles, podem ser: 'Por que tive o meu pedido de financiamento negado? Por que fui identificado como suspeito pela polícia? Por que tive acesso negado a um serviço de saúde?, dentre outras.

Além disso, destacam-se também os aspectos éticos e as restrições ligadas à propriedade intelectual ou as que se justificam pela proteção da privacidade. "Em função da sua complexidade interna ou de restrições no acesso aos dados utilizados, modelos de ML costumam ser pouco transparentes e muitos sistemas são vendidos ou fornecidos como “caixas-pretas”, explicam os organizadores.

Participa deste seminário o pesquisador e docente do Icict Marcel Pedroso, coordenador da Plataforma de Ciência de Dados em Saúde (PCDaS). O evento será realizado online, com transmissão pela VideoSaúde Distribuidora da Fiocruz, na sexta-feira, 16 de setmbro, às 14h.

Assista: www.youtube.com/videosaudedistribuidoradafiocruz