Por que isso importa
"Eventualmente, a IA provavelmente se tornará amplamente usada na assistência médica. Há muitas implicações a serem consideradas. A preparação pode começar agora."
Recentemente, mais de 300 participantes assistiram a um webinar de uma hora do Institute for Healthcare Improvement (IHI) sobre o uso de IA generativa para melhoria da qualidade. Embora tenhamos respondido a perguntas, adotamos principalmente uma abordagem de "todos ensinam, todos aprendem" para nossa discussão sobre como as ferramentas de IA generativa podem ser aplicadas em um contexto de QI e aprendemos o que entusiasma e preocupa os participantes sobre a atual lista de ferramentas disponíveis.
Nossa conversa levantou necessidades de educação contínua, desenvolvimento de políticas e consideração cuidadosa dos impactos éticos, de privacidade e ambientais à medida que a IA se torna mais integrada à prática de assistência médica.
Aqui, resumimos nossas conclusões da sessão.
- A IA generativa ainda não está sendo amplamente utilizada, mas está ocorrendo adoção . Fizemos uma pesquisa com os participantes e descobrimos que a maioria (65%) não está usando IA em trabalho de qualidade. Aqueles que estão usando IA estão usando para fazer brainstorming de mudanças (25%), analisar problemas (16%) e construir soluções como trabalho padrão (16%). Muitos participantes estavam ativos no chat e compartilharam os seguintes tipos de casos de uso:
Gerenciamento de dados — Os casos descritos envolveram o uso de IA para manipulação e resumo de dados para simplificar tarefas complexas ou demoradas.
Registros clínicos — Um projeto piloto usando IA generativa para registros em cuidados primários demonstrou seu potencial para automatizar a documentação.
Escrita e pesquisa médica — Os participantes notaram que os problemas de precisão amplamente documentados exigem cautela. Qualquer pessoa que use IA para suporte de pesquisa não deve usar ou citar informações geradas por IA sem verificar as fontes.
Tradução — Os participantes compartilharam experiências mistas com o uso de IA para traduzir informações entre idiomas, observando sua utilidade, mas também a necessidade de revisão cuidadosa por um humano com experiência nos idiomas de interesse, especialmente quando termos técnicos estão envolvidos.
Criação de conteúdo — Os participantes usaram IA generativa para ajudar a preparar apresentações, painéis de discussão e desenvolver propostas, ilustrando assim como a IA pode desempenhar uma função criativa e ser uma parceira eficiente de brainstorming.
Prognóstico e análise preditiva — Este caso de uso é relevante para a IA de forma mais ampla (em vez da IA generativa especificamente), e pelo menos um participante já estava usando IA para um projeto de previsão de sepse. - Limitações e perigos das ferramentas de IA existentes restringem a disposição de usá-las . Os participantes destacaram desafios pesados, como garantir a precisão do conteúdo gerado pela IA (por exemplo, identificar alucinações e verificar referências dada a propensão da IA para gerar referências realistas, mas fictícias), promover a transparência em relação às limitações da IA e abordar o viés.
Os participantes levantaram a questão de informações desatualizadas. Por exemplo, a versão gratuita do ChatGPT (GPT-3.5) inclui apenas dados disponíveis até janeiro de 2022. Uma possível solução para lidar com o problema de informações desatualizadas que as ferramentas de IA podem fornecer é solicitar referências verificáveis para avaliar os resultados.
Transparência e confiança são vitais para o uso contínuo de ferramentas de IA. Se os profissionais de saúde não confiarem nos resultados, eles não usarão as ferramentas. Uma melhor compreensão dos algoritmos e como eles geram suas respostas pode ajudar a abordar as preocupações dos usuários. Um participante perguntou sobre empresas de IA reconhecendo a probabilidade de resultados imprecisos. Notavelmente, a OpenAI adicionou um aviso de isenção de responsabilidade à interface do ChatGPT, observando a possibilidade de imprecisão.
Os participantes também expressaram preocupação sobre o viés em algoritmos de IA que resultam em tomada de decisão clínica que não se alinha com as melhores práticas de cuidados baseadas em evidências. Essas ações podem ser prejudiciais e injustas. Algumas empresas criam precauções como Aprendizado por Reforço com Feedback Humano em suas ferramentas, mas os usuários devem estar cientes de que elas não são infalíveis. - A crescente adoção de IA generativa levou a uma série de preocupações . Um participante expressou apreensão sobre os usuários se tornarem excessivamente dependentes de plataformas de IA. Três colaboradores discutiram as implicações para a privacidade, incluindo o manuseio de dados confidenciais e a conformidade com regulamentações como HIPAA nos Estados Unidos. (Notavelmente, no momento em que este artigo foi escrito, as ferramentas comerciais de IA não são compatíveis com HIPAA , portanto, nenhuma informação de saúde protegida deve ser inserida ao usá-las.) Um participante comparou a pegada ambiental da IA ao impacto da mineração de Bitcoin . A questão do acesso surgiu quando discutimos se ferramentas amigáveis para iniciantes democratizariam a melhoria da qualidade ao tornar as ferramentas e os recursos mais amplamente disponíveis ou se elas aumentariam as lacunas entre os ambientes com muitos e poucos recursos.
- Há espaço para otimismo ao lado de preocupações profundas . Outros casos de uso e políticas cobriram o tópico de integração de IA em sistemas de saúde (por exemplo, sistemas de triagem de IA). O potencial para coprodução habilitada por IA com comunidades carentes surgiu e levantou a possibilidade de promover as melhores práticas de melhoria de qualidade e codesign equitativo como um contraponto à discussão do viés algorítmico.
- Eventualmente, a IA provavelmente se tornará amplamente usada na assistência médica. Há muitas implicações a serem consideradas. A preparação pode começar agora. Dada a rápida aceitação da IA na comunidade QI, os colaboradores levantaram a necessidade de treinar alunos e profissionais no uso da IA de forma eficaz e segura. Discutimos uma série de questões a serem consideradas agora e no futuro próximo para se envolver de forma responsável com a IA.
Grandes organizações com volumes significativos de propriedade intelectual que desejam empregar IA generativa devem começar agora (se ainda não o fizeram) a criar políticas sobre o uso organizacional responsável e o risco de sacrificar suas informações proprietárias ao enviá-las ao domínio público.
Será que algum dia será considerado negligência não utilizar IA para assistência médica? Considerando seu crescente impacto e potencial para produzir previsões e diagnósticos altamente precisos, esta é outra possibilidade que vale a pena estudar.
Recursos para aprender mais
Dado o ritmo rápido de mudança e a riqueza de novas informações que chegam online quase diariamente, é útil saber como se manter atualizado conforme a IA se desenvolve. A discussão trouxe à tona três podcasts a serem considerados: Everyday AI , The AI Breakdown e Perspectives . Além disso, os facilitadores aconselharam os participantes a procurar cursos online abertos e massivos (MOOCs) gratuitos que ensinam habilidades como engenharia rápida e fornecem informações básicas para cientistas não computacionais sobre como essas novas ferramentas funcionam.
Gareth S. Kantor, MD, é consultor clínico, Insight Actuaries & Consultants. Marina Renton, MPhil, é uma IHI Research Associate, Innovation and Design. Jeffrey Rakover, MPP, é um IHI Director, Innovation and Design. Pierre M. Barker, MD, MBChB, é Chief Scientific Officer, Institute for Healthcare Improvement do IHI.
Você também pode estar interessado em:
Você ainda pode se registrar para ouvir a gravação do webinar IA para Melhoria da Qualidade .
Discurso principal do IHI Forum 2023 — Peter Lee, PhD, vice-presidente corporativo de pesquisa e incubações da Microsoft
A geração atual de ferramentas de IA: três considerações para líderes de qualidade
Inteligência Artificial na Assistência à Saúde: Peter Lee sobre Empatia, Empoderamento e Equidade
Inteligência artificial, privacidade de dados e como manter os pacientes seguros online