Seguridad del paciente e inteligencia artificial: oportunidades y desafíos para la prestación de atención

La introducción de ChatGPT de OpenAI a finales de 2022 marcó un hito importante en la evolución de la inteligencia artificial generativa (genAI), atrayendo la atención en todos los sectores de la economía. En el ámbito de la atención sanitaria, existe la esperanza de que la genAI pueda mejorar la seguridad y la calidad de la atención, reducir los costes y mejorar las experiencias tanto de los pacientes como de los médicos. Sin embargo, también existe la preocupación de que la genAI pueda introducir nuevas amenazas a la seguridad del paciente.

En enero de 2024, el Instituto IHI Lucian Leape convocó a un panel de expertos para explorar más a fondo la promesa de genAI y los riesgos potenciales para la seguridad del paciente. El objetivo del panel de expertos era identificar áreas donde la genAI podría mejorar la seguridad, nombrar amenazas potenciales y sugerir formas de maximizar los beneficios y minimizar los daños. El panel revisó la literatura sobre IA y seguridad del paciente y participó en una sólida discusión en persona que se centró en tres posibles casos de uso de genAI en la atención médica: soporte de documentación, soporte de decisiones clínicas y chatbots de cara al paciente.

Basado en la revisión y discusión del panel de expertos del Instituto IHI Lucian Leape sobre las implicaciones de la IA para la seguridad del paciente, este informe resume:

• Para los tres casos de uso, los posibles beneficios, riesgos y desafíos de la implementación de genAI en la atención clínica;
• Una revisión detallada de las estrategias de mitigación y monitoreo y las recomendaciones del panel de expertos; y
• Una evaluación de las implicaciones de genAI para el campo de la seguridad del paciente.

Como parte de su trabajo para explorar la promesa de genAI y sus riesgos potenciales para la seguridad del paciente, el panel de expertos también revisó consideraciones para grupos clave y brindó recomendaciones y estrategias de mitigación específicas para estas audiencias:

• Pacientes y defensores de pacientes
• Médicos
• Profesionales de Seguridad y Calidad
• Sistemas de atención de salud
• Desarrolladores GenAI
• Investigadores
• Reguladores y formuladores de políticas

Cómo citar este documento:
Instituto Lucian Leape. Seguridad del paciente e inteligencia artificial: oportunidades y desafíos para la prestación de atención. Boston: Instituto para la Mejora de la Atención Médica; 2024. (Disponible en ihi.org)

contenido relacionado

• Inteligencia artificial en la atención médica: implicaciones para la seguridad del paciente y la fuerza laboral : este informe de innovación del IHI sirve como contenido fundamental para el informe del Instituto IHI Lucian Leape.