Por que isso importa
Os produtos de inteligência artificial (IA) generativa que evoluíram desde o lançamento público do ChatGPT podem mudar o jogo para as equipes de qualidade da assistência médica, mas as organizações precisam considerar cuidadosamente os custos e benefícios de seu uso.
Em um futuro não muito distante, um dia de trabalho para um profissional de melhoria de qualidade pode ser algo como:
Manhã: Você se prepara para uma reunião com seu diretor de qualidade para discutir os PDSAs em andamento da sua equipe. Seu “assistente” de inteligência artificial generativa (IA) segura pesquisa seus arquivos e caixa de entrada em busca de informações relevantes e cria um resumo de 300 palavras. Você percebe que não atualizou seus gráficos de execução com dados das últimas duas semanas, então fornece os dados para a ferramenta de IA e pede que ela gere um gráfico de execução atualizado. Agora você tem todas as informações necessárias para fazer uma apresentação sucinta.
Meio-dia: Cinco novas diretrizes clínicas para serviços de alto volume em seu hospital foram publicadas. (O processo de desenvolvimento e promulgação de diretrizes — da revisão de evidências à aprovação — costumava levar pelo menos um ano, mas agora leva apenas algumas semanas porque os desenvolvedores de diretrizes usam IA para dar suporte à pesquisa de antecedentes e à análise de dados.) Você se reúne com os líderes clínicos para elaborar uma estratégia para incorporar essas novas diretrizes à prática. A ferramenta de IA que você consulta recomenda pequenos testes de mudança e uma estratégia de medição para avaliar o progresso. Todos na reunião contribuem totalmente para a discussão. A IA transcreve e resume a reunião e distribui as atas.
Tarde: Você precisa analisar os resultados das sessões de coaching de gestão de qualidade que sua equipe vem liderando com equipes clínicas ao longo do último ano. Você usa uma ferramenta de IA para revisar as transcrições das aproximadamente 500 sessões. A ferramenta usa estruturas pré-existentes para identificar lacunas nas sessões de coaching e temas do feedback dos participantes. Em seguida, você solicita que ela escreva um resumo de 500 palavras da análise e crie o esboço de uma apresentação de 10 minutos para a reunião de amanhã com sua equipe de qualidade.
Saiba mais sobre Inteligência Artificial no IHI Forum
Acreditamos que esse cenário habilitado por IA representa o provável futuro do trabalho de QI. Ao longo de um projeto de inovação de 90 dias, uma equipe de pesquisa do Institute for Healthcare Improvement (IHI) concluiu que toda a tecnologia para executar essas atividades já existe. Os produtos de IA generativa que evoluíram desde a estreia pública do ChatGPT em novembro de 2022 podem ser um divisor de águas para equipes de qualidade de assistência médica, mas as organizações precisam considerar cuidadosamente os custos e benefícios de seu uso. Chegamos a três conceitos-chave durante o ciclo de inovação que compartilhamos abaixo.
O que é IA generativa?
Ferramentas de IA generativas diferem da tecnologia anterior em sua capacidade de gerar novos conteúdos. Em outras palavras, as ferramentas pegam conteúdo existente e podem responder perguntas (em parágrafos), bem como analisar dados e fornecer recomendações e conclusões. Grandes modelos de linguagem, como ChatGPT, Bard do Google, Claude e Microsoft Bing, atraíram milhões de usuários nos últimos meses, ao mesmo tempo em que geraram controvérsia. Para treinar grandes modelos de linguagem, os desenvolvedores usaram grandes quantidades de conteúdo existente — principalmente da Internet — para processar e gerar novos conteúdos. Em resposta a uma consulta, eles podem fornecer respostas e direcionar os usuários para informações existentes e potencialmente úteis.
A IA generativa pode suportar a maioria das modalidades de QI, incluindo o ensino
Embora nossa pesquisa tenha sugerido que a maioria dos profissionais está apenas nas fases iniciais do uso de ferramentas de IA para trabalho de QI, essas tecnologias provavelmente melhorarão drasticamente ao longo do tempo e mudarão a forma como fazemos QI nos próximos anos. Já podemos usar ferramentas de IA para criar a maioria dos materiais de QI . Nossa pesquisa descobriu que grandes modelos de linguagem (como ChatGPT) podem ajudar usuários experientes a construir gráficos de execução e controle, identificar ideias de mudança, elaborar diagramas de causa e efeito e rascunhar diagramas de driver.
Ferramentas de IA também podem ajudar a ensinar conceitos de QI . Por exemplo, podem oferecer explicações de ideias complexas adaptadas a um público específico. Ferramentas de IA podem elaborar planos de aula, esboços de cursos, quebra-gelos e muito mais. Alguns especialistas em qualidade começaram a usar ferramentas de IA para visualizar dados e lidar com questões básicas de QI, como gerar um conjunto preliminar de ideias de mudança ou produzir uma explicação em linguagem simples de um conceito de QI.
A IA é propensa a erros e arriscada
O uso de IA traz riscos legais e éticos. Houve, por exemplo, uma enxurrada de litígios questionando se é legal usar obras protegidas por direitos autorais sem autorização para treinar grandes modelos de linguagem. A IA também pode comprometer a privacidade de seus pacientes ou organização. Não é permitido compartilhar informações de saúde protegidas com um modelo de acesso público como o ChatGPT porque qualquer entrada de dados se torna propriedade da empresa que possui a ferramenta. Da mesma forma, se você compartilhar, por exemplo, dados organizacionais estrategicamente importantes com a ferramenta, poderá encontrar as informações reutilizadas de maneiras inesperadas e indesejáveis. Antes de usar qualquer ferramenta com tecnologia de IA para dar suporte ao seu trabalho, é importante consultar suas políticas de TI e equipes de privacidade de dados ou jurídicas.
A precisão também é uma preocupação significativa com as ferramentas de IA atuais. O ChatGPT-3.5, por exemplo, a versão disponível gratuitamente, só tem dados até janeiro de 2022; ele já está desatualizado. Modelos de IA também são conhecidos por “ alucinar ” — inventar informações que parecem plausíveis em resposta a um prompt. Além disso, modelos baseados em linguagem não têm desempenho consistente em tarefas matemáticas (por exemplo, o ChatGPT piorou ao longo do tempo na identificação de números primos ).
Além disso, os modelos de IA apresentam preocupações de equidade, dado seu treinamento em grandes conjuntos de dados que provavelmente refletem os preconceitos da sociedade em geral. Embora ferramentas importantes como o ChatGPT coloquem salvaguardas em prática — como o Reinforcement Learning with Human Feedback (RLHF) que usa supervisores humanos para treinar os modelos e orientá-los para longe de resultados inadequados — elas ainda podem falhar e produzir conteúdo que pode ser ofensivo ou tendencioso.
Não está claro qual impacto essas ferramentas de IA terão na força de trabalho de qualidade e segurança. Até agora, os usuários mais bem-sucedidos implantaram as ferramentas para complementar e estender seu trabalho. As ferramentas não são maduras o suficiente para substituir totalmente qualquer fluxo de trabalho específico no dia típico de um gerente de QI.
Recomendações
Recomendamos que os líderes considerem as seguintes ações para responder ao crescente interesse — e aos riscos claros — do uso de ferramentas de IA:
- Convoque grupos multidisciplinares (incluindo representantes com expertise jurídica, de TI, clínica, de qualidade e pesquisa) para desenvolver políticas específicas de governança e uso aceitável para novas ferramentas de IA de estilo de modelo de linguagem grande. Por exemplo, muitas organizações permitirão apenas que a equipe use versões "empresariais" das ferramentas (projetadas para uso comercial ou governamental seguro) para tarefas relacionadas ao trabalho.
- Treine a equipe sobre as políticas de uso aceitável da sua organização.
- Treine a equipe sobre como usar IA generativa por meio de “engenharia de prompts”. As saídas dessas ferramentas são tão boas quanto as entradas, e “prompts” se referem às perguntas de texto ou instruções inseridas no sistema para obter os resultados desejados. Vários recursos estão surgindo online para ajudar os usuários a fazer as perguntas certas.
- Colete feedback da equipe sobre IA. Pergunte como eles já estão usando. Pergunte por que eles estão entusiasmados com ela ou por que eles têm dúvidas.
- Ajude a equipe a integrar a IA em seu trabalho atual com uma consciência dos possíveis efeitos cascata, incluindo como ela pode aumentar a produtividade, mudar as tarefas do dia a dia e mudar o conjunto de responsabilidades dos funcionários. Ao introduzir a IA no trabalho diário, os líderes e a equipe precisarão ser ágeis, pois as tecnologias disponíveis estão mudando rapidamente, e novas ferramentas estão sendo introduzidas em um ritmo acelerado.
Marina Renton, MPhil, é uma associada de pesquisa do IHI , inovação e design. Pierre M. Barker, MD, MBChB, é o diretor científico do IHI, Institute for Healthcare Improvement. Gareth S. Kantor, MD, é um consultor clínico, Insight Actuaries & Consultants. Jeffrey Rakover, MPP, é um diretor do IHI , inovação e design. Para saber mais, participe da sessão A24 “When AI Meets QI” no IHI Forum (10 a 13 de dezembro de 2023).
Inteligência Artificial na Assistência à Saúde: Peter Lee sobre Empatia, Empoderamento e Equidade
Podcast Everyday AI: Como a IA transforma ensaios clínicos em conhecimento médico