blog

Aug 04, 2023

Falta de confiança retardando a revolução da IA ​​em ambientes médicos: relatório da GE Healthcare

Junte-se aos principais executivos em São Francisco de 11 a 12 de julho para saber como os líderes estão

Junte-se aos principais executivos em São Francisco de 11 a 12 de julho para saber como os líderes estão integrando e otimizando os investimentos em IA para o sucesso. Saber mais

Em um momento em que a IA está na moda, uma nova pesquisa da GE Healthcare destacou um nível significativo de desconfiança e ceticismo em relação ao seu uso em ambientes médicos.

O estudo Reimagining Better Health com 5.500 pacientes e defensores de pacientes e 2.000 médicos descobriu que a maioria dos médicos acredita que a IA tem o potencial de transformar a saúde. Ao mesmo tempo, muitos acham que a tecnologia ainda não está pronta – e continua prejudicada por obstáculos como preconceitos.

As descobertas surgem enquanto vários gigantes da saúde continuam a observar e experimentar modelos de IA, incluindo tecnologias generativas como ChatGPT e IA de conversação, para melhorar a experiência e os resultados do paciente, automatizar tarefas e aumentar a produtividade.

Hoje, sempre que alguém fala sobre IA, menciona como a tecnologia está revolucionando o atendimento ao paciente, seja por meio da descoberta de medicamentos ou da previsão do melhor plano de tratamento de um indivíduo. Na pesquisa da GE Healthcare, os médicos repetiram benefícios semelhantes, com 61% dizendo que a tecnologia pode ajudar na tomada de decisões, 54% dizendo que permite intervenções de saúde mais rápidas e 55% sugerindo que pode ajudar a melhorar a eficiência operacional.

Transforme 2023

Junte-se a nós em São Francisco de 11 a 12 de julho, onde os principais executivos compartilharão como eles integraram e otimizaram os investimentos em IA para o sucesso e evitaram armadilhas comuns.

As possibilidades são infinitas, mas muitos continuam preocupados com os riscos associados à adoção da IA ​​no campo. Especificamente, 55% dos entrevistados disseram que a tecnologia de IA ainda não está pronta para uso médico e 58% insinuaram que não confiam nos dados de IA. Para médicos com mais de 16 anos de experiência, o nível de ceticismo foi ainda maior, com 67% sem confiança na IA.

Os médicos indicaram que o maior motivo dessa desconfiança é o potencial dos algoritmos de produzir resultados injustos ou discriminatórios devido a vários fatores, como dados de treinamento incompletos, algoritmos defeituosos ou processos de avaliação inadequados. Até 44% dos entrevistados disseram que a tecnologia está sujeita a vieses embutidos.

Em segundo lugar, a conscientização do clínico sobre as tecnologias envolvidas nem sempre é adequada. O estudo constatou que apenas 55% dos médicos entrevistados acham que recebem treinamento adequado sobre como usar a tecnologia médica.

Como aponta o CTO da GE Healthcare, Taha Kass-Hout, uma abordagem cuidadosa e orientada por dados – em que são feitos esforços para garantir a qualidade e a transparência dos dados – é a chave para criar confiança entre os médicos que estão em dúvida sobre a tecnologia de IA.

“Prestamos atenção especial à origem dos conjuntos de dados e às características da população amostrada”, disse Kass-Hout ao VentureBeat. “Também avaliamos os algoritmos que classificam e organizam os dados e observamos a própria formulação da IA ​​e o feedback dos médicos ao atualizar esses algoritmos”.

Para dar o pontapé inicial, disse o CTO, as empresas devem conduzir programas de treinamento/educação em que os médicos sejam orientados sobre todas as coisas relacionadas à IA, desde como ela funciona até como pode aumentar seu trabalho.

"Como uma indústria, precisamos construir uma compreensão clínica de onde e como usá-lo e quando pode ser totalmente confiável, em vez de depender de outras ferramentas e experiência humana", disse Kass-Hout. "Eu me refiro a isso como 'quebrar a caixa preta da IA' para ajudar os médicos a entender o que há no modelo de IA".

Isso inclui quais dados ele contém – idade, sexo, resultados de laboratório, monitoramento remoto, histórico médico, variante genética ou biomarcador, progressão da lesão em imagens subsequentes – para que os médicos possam entender melhor o que está influenciando a produção de IA.

“A transparência sobre o que influencia o modelo e como ele pode ser ajustado com um ciclo de feedback consistente ao longo do tempo é fundamental para aumentar a confiança na tecnologia de IA entre os médicos”, observou ele.

Como os sistemas de saúde em todo o mundo enfrentam pressões extremas, os médicos estão se esgotando e pensando em deixar o setor. De fato, de acordo com a Organização Mundial da Saúde, pode haver uma escassez de 10 milhões de profissionais de saúde até 2030, quando 1,4 bilhão de pessoas terão 60 anos ou mais.