Participe dos webinars sobre Segurança do Paciente e IA em 19 de agosto e 11 de setembro .

Relatório do Painel de Especialistas

Segurança do paciente e inteligência artificial: oportunidades e desafios para a prestação de cuidados

O painel de especialistas do IHI Lucian Leape Institute (LLI) revisou e discutiu três casos de uso que destacam áreas onde a inteligência artificial generativa (genAI) pode impactar significativamente a segurança do paciente: suporte à documentação, suporte à decisão clínica e chatbots voltados para o paciente. O painel também discutiu as implicações mais amplas da genAI para o campo da segurança do paciente e o trabalho dos profissionais de segurança.

O objetivo do painel de especialistas era identificar áreas onde a IA genética poderia melhorar a segurança, nomear ameaças potenciais e sugerir maneiras de maximizar os benefícios e minimizar os danos.

Com base na revisão e discussão do painel de especialistas sobre as implicações da IA ​​para a segurança do paciente, o LLI publicou um relatório, Segurança do Paciente e Inteligência Artificial: Oportunidades e Desafios para a Prestação de Cuidados , que resume:

• Para os três casos de uso, os potenciais benefícios, riscos e desafios da implementação da genAI no atendimento clínico;
• Uma revisão detalhada das estratégias de mitigação e monitoramento e recomendações do painel de especialistas; e
• Uma avaliação das implicações da genAI para o campo da segurança do paciente.

Juntamente com essas recomendações, outras medidas de proteção devem ser implementadas com base nas seguintes preocupações destacadas pelo painel:

• Confiar apenas nos médicos para verificar novamente a precisão dos resultados e recomendações de IA é uma estratégia de segurança não confiável.
• O risco de desqualificação é alto e exigirá estratégias proativas de mitigação.
• As eficiências impulsionadas pela IA simplesmente resultarão em mais tarefas atribuídas aos médicos, sem alívio de sua carga de trabalho e carga cognitiva atuais.

Principais descobertas

• A GenAI veio para ficar e crescerá e evoluirá rapidamente.
• Há benefícios e riscos potenciais que devem ser abordados.
• Muitas das preocupações com segurança estão relacionadas à confiabilidade, que decorrem em parte da precisão e em parte dos desafios de descobrir quais informações são confiáveis.
• Outras questões importantes relacionadas à segurança precisam ser consideradas, incluindo transparência, a importância da conexão humana, equidade e muito mais.
• Alguns desafios serão abordados por órgãos reguladores ou de acreditação em nível federal; muito será determinado localmente, particularmente por programas de governança e segurança dentro dos sistemas de saúde.

Recomendações do Painel de Especialistas

Os membros do painel estão entusiasmados com o potencial das ferramentas genAI para reduzir o esgotamento e a carga cognitiva dos clínicos, facilitar o fornecimento de práticas baseadas em evidências, melhorar a precisão do diagnóstico e potencialmente reduzir custos. Eles também levantaram preocupações sobre vários riscos potenciais à segurança do paciente que devem ser identificados, mitigados e monitorados.

Na busca pelo desenvolvimento contínuo de ferramentas genAI e sua integração na prestação de cuidados clínicos, o painel de especialistas fez estas recomendações:

• Atender e proteger o paciente.
• Aprenda com os médicos, envolva-se e ouça-os.
• Avaliar e garantir a eficácia da IA ​​e a ausência de preconceitos.
• Estabelecer governança, supervisão e orientação rigorosas de IA tanto para sistemas individuais de prestação de serviços de saúde quanto para o governo federal.
• Seja intencional com o design, implementação e avaliação contínua de ferramentas de IA.
• Participe da aprendizagem colaborativa em todos os sistemas de saúde.

Considerações para grupos-chave

O relatório também inclui recomendações específicas e estratégias de mitigação para grupos-chave:

• Pacientes e defensores dos pacientes
• Clínicos
• Profissionais de qualidade e segurança do paciente
• Sistemas de saúde
• Desenvolvedores GenAI
• Pesquisadores
• Reguladores e formuladores de políticas

O IHI é grato à Fundação Gordon e Betty Moore pelo generoso financiamento que apoiou a convocação do painel de especialistas e a criação e disseminação do relatório.

Painel de especialistas

O IHI Lucian Leape Institute (LLI) agradece aos especialistas que contribuíram para este trabalho. [Asterisco (*) denota membros do LLI.]

Co-Presidentes

• Robert Wachter, MD,* Professor e Presidente, Departamento de Medicina, Universidade da Califórnia, São Francisco
• Kaveh Shojania, MD, Professor e Vice-Presidente (Qualidade e Inovação), Departamento de Medicina, Universidade de Toronto

Participantes especialistas

• Nasim Afsar, MD, MBA, MHM, Diretor de Saúde, Oracle
• David Bates, MD, MS, Chefe de Medicina Interna Geral, Brigham and Women's Hospital; Professor de Medicina, Harvard Medical School
• Leah Binder, MA, MGA, Presidente e CEO, The Leapfrog Group
• David Classen, MD, MS, Professor de Medicina, Faculdade de Medicina da Universidade de Utah; Diretor de Informações Médicas, Pascal Metrics
• Pamela Cipriano, PhD, RN, NEA-BC, FAAN, Presidente, Conselho Internacional de Enfermeiros; Professora, Escola de Enfermagem da Universidade da Virgínia
• Patricia Folcarelli, PhD, MA, RN, Vice-presidente Sênior, Serviços de Atendimento ao Paciente e Diretora de Enfermagem, Beth Israel Deaconess Medical Center
• Tejal Gandhi, MD, MPH, CPPS, Diretor de Segurança e Transformação, Press Ganey
• Eric Horvitz, MD, PhD, Diretor Científico, Microsoft
• Gary Kaplan, MD, FACMPE,* Ex-CEO, Virginia Mason Franciscan Health; Presidente, Lucian Leape Institute
• Della Lin, MS, MD, FASA, Consultora; Diretora Executiva, Anesthesia Patient Safety Foundation; Médico Líder, Hawaii Safer Care
• Kedar Mate, MD,* Presidente e CEO, Institute for Healthcare Improvement
• Muhammad Mamdani, MPH, MA, PharmD, Vice-presidente, Ciência de Dados e Análise Avançada, Unity Health Toronto
• Patricia McGaffigan, MS, CPPS, Vice-presidente, Segurança do Paciente, Institute for Healthcare Improvement
• Genevieve Melton-Meaux, MD, PhD, Diretora de Análise e Inovação em Cuidados, M Health Fairview
• Eric Poon, MD, MPH, Diretor de Informações de Saúde, Duke Health
• Vardit Ravitsky, PhD, Presidente e CEO, The Hastings Center
• Tina Shah, MD, MPH, Diretora Clínica, Abridge
• Rod Tarrago, MD, Líder de Informática Clínica, Amazon Web Services, Medicina Acadêmica
• Beth Daley Ullem, MBA, cofundadora, Patients for Patient Safety; copresidente, SPS AI Steering Committee; conselho de diretores, Institute for Healthcare Improvement

Revisores externos: Especialistas em segurança do paciente e IA e membros do LLI*

• Julia Adler-Milstein, PhD, Professora e Chefe da Divisão de Informática Clínica e Transformação Digital, Universidade da Califórnia, São Francisco
• Brian Anderson, MD, Presidente e CEO, Coalition for Health AI (CHAI)
• Joanne Disch, PhD, RN, FAAN,* Professora ad Honorem, Escola de Enfermagem da Universidade de Minnesota
• Michael Howell, MD, MPH, Diretor Clínico e Diretor Adjunto de Saúde, Google
• Bob Kocher, MD, Professor Adjunto, Departamento de Política de Saúde da Universidade de Stanford; Pesquisador Sênior Não Residente, USC Schaffer Center; Parceiro, Venrock
• Julianne Morath, BSN, MS, CPPS,* Coach de liderança e consultora; corpo docente afiliado, Departamento de Medicina, Universidade de Washington, Seattle
• Charles Vincent, PhD, MPhil,* Professor de Psicologia, Universidade de Oxford; Professor Emérito de Pesquisa em Segurança Clínica, Imperial College, Londres
• Daniel Yang, MD, Vice-presidente, IA e Tecnologias Emergentes, Kaiser Permanente

Recursos adicionais

• Relatório de Inovação do IHI : Inteligência Artificial em Cuidados de Saúde: Implicações para a Segurança do Paciente e da Força de Trabalho
• Aprendendo juntos: perguntas e insights sobre inteligência artificial e melhoria da qualidade
• 5 conclusões de uma discussão sobre IA generativa e QI
• Inteligência Artificial, Privacidade de Dados e Como Manter os Pacientes Seguros Online
• A geração atual de ferramentas de IA: três considerações para líderes de qualidade
• Inteligência Artificial na Assistência à Saúde: Peter Lee sobre Empatia, Empoderamento e Equidade
  

Sobre o IHI Lucian Leape Institute

Composto por líderes de pensamento internacionais com um interesse comum na segurança do paciente, o IHI Lucian Leape Institute (LLI) funciona como um grupo de reflexão para identificar novas abordagens para melhorar a segurança do paciente.

Saiba mais sobre o LLI