Por qué es importante
"Es probable que, con el tiempo, la IA se utilice ampliamente en el ámbito de la atención sanitaria. Hay muchas implicaciones que tener en cuenta. Los preparativos pueden empezar ahora".
Recientemente, más de 300 asistentes se conectaron a un seminario web de una hora de duración del Institute for Healthcare Improvement (IHI) sobre el uso de la IA generativa para la mejora de la calidad. Si bien respondimos preguntas, en su mayoría adoptamos un enfoque de "todos enseñan, todos aprenden" en nuestro debate sobre cómo se pueden aplicar las herramientas de IA generativa en un contexto de mejora de la calidad y aprendimos qué entusiasma y preocupa a los participantes sobre la lista actual de herramientas disponibles.
Nuestra conversación puso de manifiesto la necesidad de una educación continua, el desarrollo de políticas y la consideración cuidadosa de los impactos éticos, ambientales y de privacidad a medida que la IA se integra más en la práctica de la atención médica.
Aquí resumimos las conclusiones que sacamos de la sesión.
- La IA generativa aún no se utiliza ampliamente, pero se está adoptando cada vez más . Encuestamos a los asistentes y descubrimos que la mayoría (65 por ciento) no usa IA en trabajos de calidad. Quienes sí la usan la usan para generar ideas (25 por ciento), analizar problemas (16 por ciento) y crear soluciones como trabajos estándar (16 por ciento). Muchos asistentes participaron activamente en el chat y compartieron los siguientes tipos de casos de uso:
Gestión de datos: los casos descritos implicaron el uso de IA para la manipulación y el resumen de datos con el fin de simplificar tareas complejas o que consumen mucho tiempo.
Historial clínico: un proyecto piloto que utiliza IA generativa para el registro clínico en atención primaria demostró su potencial para automatizar la documentación.
Redacción e investigación médica: los participantes señalaron que los problemas de precisión, ampliamente documentados, requieren precaución. Cualquiera que utilice inteligencia artificial para respaldar la investigación no debe usar ni citar información generada por inteligencia artificial sin verificar las fuentes.
Traducción — Los participantes compartieron experiencias mixtas con el uso de IA para traducir información entre idiomas, destacando su utilidad pero también la necesidad de una revisión cuidadosa por parte de un humano con experiencia en los idiomas de interés, especialmente cuando se trata de términos técnicos.
Creación de contenido: los participantes utilizaron IA generativa para ayudar a preparar presentaciones, mesas redondas y desarrollar propuestas, ilustrando así cómo la IA puede cumplir una función creativa y ser un socio eficiente para la lluvia de ideas.
Pronóstico y análisis predictivo: este caso de uso es relevante para la IA en un sentido más amplio (en lugar de la IA generativa específicamente) y al menos un participante ya estaba usando IA para un proyecto de predicción de sepsis. - Las limitaciones y los peligros de las herramientas de IA existentes limitan la voluntad de usarlas . Los participantes destacaron importantes desafíos, como garantizar la precisión del contenido generado por IA (por ejemplo, identificar alucinaciones y verificar referencias dada la propensión de la IA a generar referencias realistas pero ficticias), promover la transparencia con respecto a las limitaciones de la IA y abordar los sesgos.
Los participantes plantearon el problema de la información obsoleta. Por ejemplo, la versión gratuita de ChatGPT (GPT-3.5) solo incluye datos disponibles hasta enero de 2022. Una posible solución para abordar el problema de la información obsoleta que pueden proporcionar las herramientas de IA es solicitar referencias verificables para evaluar los resultados.
La transparencia y la confianza son fundamentales para el uso continuo de las herramientas de IA. Si los profesionales de la salud no confían en los resultados, no utilizarán las herramientas. Una mejor comprensión de los algoritmos y de cómo generan sus respuestas podría ayudar a abordar las inquietudes de los usuarios. Un participante preguntó si las empresas de IA reconocen la probabilidad de que los resultados sean inexactos. Cabe destacar que OpenAI ha agregado una exención de responsabilidad a la interfaz ChatGPT que advierte sobre la posibilidad de inexactitud.
Los participantes también expresaron su preocupación por el sesgo en los algoritmos de IA que dan como resultado una toma de decisiones clínicas que no se ajusta a las mejores prácticas de atención basada en la evidencia. Estas acciones pueden ser perjudiciales e inequitativas. Algunas empresas incorporan precauciones como el aprendizaje por refuerzo con retroalimentación humana en sus herramientas, pero los usuarios deben ser conscientes de que no son infalibles. - La creciente adopción de la IA generativa ha generado una serie de inquietudes . Un participante expresó su aprensión por la excesiva dependencia de los usuarios de las plataformas de IA. Tres colaboradores analizaron las implicaciones para la privacidad, incluido el manejo de datos confidenciales y el cumplimiento de regulaciones como HIPAA en los Estados Unidos. (Cabe destacar que, al momento de escribir este artículo, las herramientas de IA comerciales no cumplen con la HIPAA , por lo que no se debe ingresar información de salud protegida al usarlas). Un participante comparó la huella ambiental de la IA con el impacto de la minería de Bitcoin . La cuestión del acceso surgió mientras discutíamos si las herramientas para principiantes democratizarían la mejora de la calidad al hacer que las herramientas y los recursos estuvieran más ampliamente disponibles o si exacerbarían las brechas entre los entornos con altos y bajos recursos.
- Hay margen para el optimismo, junto con preocupaciones profundas . Otros casos de uso y políticas abordaron el tema de la integración de la IA en los sistemas de atención de la salud (por ejemplo, los sistemas de triaje de IA). Surgió el potencial de coproducción habilitada por IA con comunidades desatendidas y planteó la posibilidad de promover las mejores prácticas de mejora de la calidad y el codiseño equitativo como contrapunto al debate sobre el sesgo algorítmico.
- Con el tiempo, es probable que la IA se utilice ampliamente en la atención sanitaria. Hay muchas implicaciones que considerar. La preparación puede comenzar ahora. Dada la rápida adopción de la IA en la comunidad de mejora de la calidad, los participantes plantearon la necesidad de capacitar a los estudiantes y profesionales en el uso eficaz y seguro de la IA. Analizamos una serie de cuestiones que se deben tener en cuenta ahora y en el futuro cercano para interactuar de manera responsable con la IA.
Las grandes organizaciones con volúmenes significativos de propiedad intelectual que quieran emplear IA generativa deberían comenzar ahora (si aún no lo han hecho) a crear políticas respecto del uso organizacional responsable y el riesgo de sacrificar su información patentada al enviarla al dominio público.
¿Se considerará algún día una negligencia no utilizar la IA en el ámbito de la atención sanitaria? Teniendo en cuenta su creciente impacto y su potencial para producir predicciones y diagnósticos sumamente precisos, esta es otra posibilidad que merece la pena estudiar.
Recursos para aprender más
Dado el rápido ritmo de cambio y la gran cantidad de nueva información que aparece en línea casi a diario, es útil saber cómo mantenerse actualizado a medida que se desarrolla la IA. El debate dio lugar a tres podcasts para tener en cuenta: Everyday AI , The AI Breakdown y Perspectives . Además, los facilitadores recomendaron a los participantes que buscaran cursos en línea masivos y abiertos (MOOC) gratuitos que enseñen habilidades como ingeniería rápida y brinden información básica para quienes no son científicos informáticos sobre cómo funcionan estas nuevas herramientas.
El Dr. Gareth S. Kantor es consultor clínico de Insight Actuaries & Consultants. Marina Renton, MPhil, es investigadora asociada de Innovación y Diseño del IHI . Jeffrey Rakover, MPP, es director de Innovación y Diseño del IHI . El Dr. Pierre M. Barker, MBChB, es director científico del Institute for Healthcare Improvement del IHI.
También te puede interesar:
Todavía puedes registrarte para escuchar la grabación del webinar IA para la mejora de la calidad .
Discurso inaugural del IHI Forum 2023 : Peter Lee, PhD, vicepresidente corporativo de investigación e incubaciones de Microsoft
Inteligencia artificial, privacidad de datos y cómo mantener seguros a los pacientes en línea
