Segurança do paciente e inteligência artificial: oportunidades e desafios para a prestação de cuidados

A introdução do ChatGPT da OpenAI no final de 2022 marcou um marco significativo na evolução da inteligência artificial generativa (genAI), atraindo atenção em todos os setores da economia. Na área da saúde, há esperança de que a genAI possa melhorar a segurança e a qualidade do atendimento, reduzir custos e aprimorar as experiências do paciente e do clínico. No entanto, também há preocupações de que a genAI possa introduzir novas ameaças à segurança do paciente.

Em janeiro de 2024, o IHI Lucian Leape Institute convocou um painel de especialistas para explorar ainda mais a promessa e os riscos potenciais do genAI para a segurança do paciente. O objetivo do painel de especialistas era identificar áreas onde o genAI poderia melhorar a segurança, nomear ameaças potenciais e sugerir maneiras de maximizar os benefícios e minimizar os danos. O painel revisou a literatura sobre IA e segurança do paciente e se envolveu em uma discussão presencial robusta que se concentrou em três prováveis ​​casos de uso para genAI na assistência médica: suporte à documentação, suporte à decisão clínica e chatbots voltados para o paciente.

Com base na revisão e discussão do painel de especialistas do IHI Lucian Leape Institute sobre as implicações da IA ​​para a segurança do paciente, este relatório resume:

• Para os três casos de uso, os potenciais benefícios, riscos e desafios da implementação da genAI no atendimento clínico;
• Uma revisão detalhada das estratégias de mitigação e monitoramento e recomendações do painel de especialistas; e
• Uma avaliação das implicações da genAI para o campo da segurança do paciente.

Como parte de seu trabalho para explorar a promessa da genAI e seus riscos potenciais para a segurança do paciente, o painel de especialistas também revisou considerações para grupos-chave e forneceu recomendações específicas e estratégias de mitigação para esses públicos:

• Pacientes e Defensores de Pacientes
• Clínicos
• Profissionais de Segurança e Qualidade
• Sistemas de Saúde
• Desenvolvedores GenAI
• Pesquisadores
• Reguladores e formuladores de políticas

Como citar este documento:
Lucian Leape Institute. Segurança do Paciente e Inteligência Artificial: Oportunidades e Desafios para a Prestação de Cuidados. Boston: Institute for Healthcare Improvement; 2024. (Disponível em ihi.org)

Conteúdo Relacionado

• Inteligência Artificial na Assistência à Saúde: Implicações para a Segurança do Paciente e da Força de Trabalho : Este Relatório de Inovação do IHI serve como conteúdo fundamental para o relatório do IHI Lucian Leape Institute .