Sumário
A inteligência artificial pode revolucionar a medicina. Mas quais padrões de qualidade devem ser aplicados? Pesquisadores dos EUA estão fazendo uma proposta.
Os sistemas de IA podem beneficiar muitas áreas da medicina. Em particular, as aplicações de IA estão mostrando sucesso inicial em diagnósticos e potencialmente no desenvolvimento de medicamentos. Pesquisadores dos EUA apresentaram agora uma abordagem para fatores de qualidade de algoritmos médicos na revista científica “PLOS Digital Health”.
Seis características para inteligência artificial positiva na medicina
Os pesquisadores descrevem as seguintes seis características:
- Explicável: Os algoritmos mostram a quais fatores eles dão peso e como a saída é obtida.
- Dinâmico: Os algoritmos podem incorporar novos dados no processo de tomada de decisão.
- Preciso: Os algoritmos são tão complexos quanto necessário. Eles também são capazes de coletar dados em uma frequência adequada – ou seja, são sintonizados, por exemplo, com a rapidez com que uma alteração fisiológica do paciente, que o algoritmo deve incluir em seus cálculos, pode levar a um evento clinicamente significativo.
- Autônomo: Os algoritmos funcionam no aplicativo com o mínimo de intervenção humana.
- Feira: Os algoritmos avaliam e minimizam vieses implícitos e desigualdades sociais que podem surgir, por exemplo, de dados de treinamento desbalanceados.
- Reprodutível: Os algoritmos são validados externamente e compartilhados com a comunidade científica. Isso significa que os resultados podem ser reproduzidos e, assim, verificados por outros pesquisadores.
Em sua revisão, os pesquisadores examinaram oito algoritmos comumente citados em estudos médicos. De acordo com os resultados, nenhum dos algoritmos revisados atendeu a todas as oito características.
Concentre-se em pontos problemáticos na pesquisa de IA
Centro de mídia científica entrevistou dois especialistas sobre suas opiniões sobre o uso de IA na medicina e os atributos de qualidade estabelecidos na revisão.
“Os autores destacam alguns dos ‘pontos problemáticos’ da pesquisa de IA, por exemplo, reprodutibilidade e interpretabilidade, ambas áreas de pesquisa muito ativas na pesquisa de IA”, diz Anton Becker, MD, diretor de serviços de análise e imagens corporais do Memorial Sloan Kettering em Nova York.
No entanto, diz ele, algumas categorias são “definidas vagamente” e nem “todas são sempre atraentes”, como em diagnósticos de emergência. No geral, Becker chama as oito características de um “bom guia”.
De acordo com o Prof. Dr. Robert Ranisch, professor assistente de ética médica com foco em
digitalização na Universidade de Potsdam, a lista de verificação contribui para um “debate importante” sobre o uso de inteligência artificial na medicina.
No entanto, ele diz que resta saber até que ponto a proposta pode ser adotada na prática. Ranisch acredita que uma discussão mais aprofundada sobre procedimentos de certificação ou licenciamento seria útil.
Uso de IA na medicina: resultados de laboratório versus realidade
“Atualmente, há muita especulação sobre a IA na medicina e, de fato, muitos estudos, por exemplo, sobre a análise de dados de imagem, parecem extremamente promissores”, diz Ranisch.
No entanto, alguns sistemas de IA estão sendo “trazidos para a clínica sem testes abrangentes” e são menos capazes em condições do mundo real, e alguns são até “inúteis ou até perigosos”.
“É necessária uma pesquisa clínica mais extensa para aumentar a eficácia e a segurança da IA em condições do mundo real. Aqui, as inovações digitais devem estar à altura dos padrões estabelecidos
padrões metodológicos”, diz Ranisch, ao criticar a digitalização na medicina como um todo.
“Tanto quanto lemos sobre o potencial da inteligência artificial em diagnósticos ou cuidados, até agora isso raramente foi sentido pelos pacientes. Arquivos de pacientes escritos à mão ou descobertas em CD ainda são a realidade – Big Data e IA são a exceção”, diz Ranisch.
Leia mais sobre IA:
- Inteligência artificial geral: “Não temos nada”
- Deepfakes agora são ainda mais versáteis
- Meta mostra algoritmo de aprendizado para IA multitarefa