En los últimos años, las organizaciones de salud han comenzado a integrar agresivamente diferentes herramientas de inteligencia artificial en sus sistemas y procesos. Sin embargo, este complejo esfuerzo puede ir mal de muchas maneras, por lo que las organizaciones de salud necesitan ser juiciosas en su elección de herramientas y proveedores.
Como dijo recientemente un CEO, “La gente no demanda a las computadoras; demanda a los médicos o a la institución para la que trabajan los médicos.” Esto subraya la necesidad crucial de comprender completamente los desafíos de integrar la IA en los sistemas de salud y la gestión de la atención.
Cualquier falta de visibilidad en el cuadro de salud preciso de un paciente y la incapacidad de profundizar en los problemas subyacentes puede dificultar la toma de decisiones. La IA puede ayudar en este proceso, pero si no está bien diseñada, puede convertirse en una barrera para lograr esta capacidad crítica. Por lo tanto, es necesario comprender y monitorear de cerca dónde pueden surgir problemas. Estos son problemas críticos porque pueden tener consecuencias reales para las personas.
La gestión de la atención debe integrarse sistemáticamente en cualquier estrategia de gestión de la salud de la población. A pesar de su complejidad, la gestión de la atención tiene un inmenso potencial de mejora a través de la integración de la IA. Al incorporar de manera fluida diversas tecnologías de IA en flujos de trabajo y casos de uso, las organizaciones de salud pueden mejorar los resultados de los pacientes y agilizar la prestación de servicios de salud. El uso de soluciones de IA que estén estrechamente integradas en los procesos de gestión de la atención puede llevar a mejoras significativas. Este enfoque, que implica el uso simultáneo de múltiples modelos de IA como análisis predictivo, algoritmos prescriptivos, procesamiento de lenguaje natural (PLN) y modelos generativos, puede revolucionar la forma en que gestionamos la salud.
La IA, por el simple hecho de tener IA, es una receta para problemas. Cuando se integra cuidadosamente en los flujos de trabajo y procesos adecuados, las tecnologías de IA pueden mejorar significativamente los resultados de los pacientes y agilizar la prestación de servicios de salud. Sin embargo, no está exento de desafíos. Los proveedores de salud deben considerar alucinaciones de IA, calidad de datos y preocupaciones de estabilidad del modelo.
Es crucial que estas capacidades de IA no sean simplemente complementos a los diferentes pasos de los flujos de trabajo de la gestión de la atención, sino que estén estratégicamente integradas. Esta integración estratégica debería mejorar la identificación de riesgos, la participación de los pacientes, la toma de decisiones clínicas y la presentación de informes sobre resultados. Los proveedores deben evaluar cuidadosamente cómo se pueden integrar estratégicamente diferentes modelos de IA para optimizar el ciclo de vida de la gestión de la atención y abordar las complejas necesidades de sus pacientes y poblaciones.
Hay cuatro tipos distintos de tecnologías de IA cuando hablamos de IA en la gestión de la atención. Cada uno desempeña un papel único en la mejora de los flujos de trabajo de la gestión de la atención, desde la predicción de riesgos hasta la participación de los pacientes y el análisis de resultados:
– IA predictiva: aprovechando datos históricos, los modelos de IA predictiva pueden prever eventos futuros, predecir tendencias y anticipar resultados potenciales, permitiendo a las organizaciones abordar los riesgos emergentes y optimizar la atención al paciente de manera proactiva.
– IA prescriptiva: yendo más allá de las predicciones, la IA prescriptiva utiliza algoritmos basados en reglas para recomendar acciones e intervenciones específicas. Este modelo se basa en un enfoque restringido y utiliza reglas bien definidas para recomendar acciones específicas basadas en evidencia para lograr resultados deseados. Esta capacidad de restringir el modelo es una propiedad crucial de la IA prescriptiva.
– Procesamiento de lenguaje natural (PLN): el PLN analiza e interpreta el lenguaje natural utilizado en entornos de salud, como las notas de los médicos. Al extraer y codificar información valiosa de datos no estructurados, el PLN mejora la capacidad de aprovechar conocimientos clínicos para mejorar la gestión de la atención.
– IA generativa: los modelos de IA generativa son máquinas probabilísticas que buscan patrones que aprenden en su entrenamiento y los utilizan para predecir la siguiente palabra en cualquier secuencia dada. Estos modelos están entrenados para imitar la comunicación humana y pueden ayudar a desarrollar estrategias personalizadas de participación del paciente y agilizar los flujos de comunicación.
Sin embargo, incluso con modelos de IA bien diseñados, pequeñas perturbaciones en los datos pueden llevar a salidas inesperadas y potencialmente dañinas o “alucinaciones” de IA.
Alucinaciones de IA
Todos los modelos de IA generativa alucinan. La pregunta es, ¿cómo minimizamos esas alucinaciones y cuál es su impacto? Lo que hacen los modelos de IA generativa es mirar muchos datos y aprender patrones en el sentido de que la palabra E es probable que siga a la palabra ABCD. Si eso tiene sentido desde un punto de vista del mundo real es irrelevante desde la perspectiva de la IA generativa. Un ejemplo algo preocupante es el chatbot (SARAH) que la Organización Mundial de la Salud (OMS) lanzó basado en ChatGPT 3.5, que se informa que ha cometido numerosos errores. En una ocasión, SARAH inventó una lista de clínicas inexistentes en San Francisco.
La idea aquí no es criticar a la OMS, pero incluso si estos errores ocurren muy raramente, digamos una vez en cada cien mil respuestas, todavía son muchos errores, dada la cantidad de uso que estos modelos podrían recibir.
La conclusión es que las organizaciones de salud deben estar atentas a la precisión de los datos, monitorear el rendimiento de la IA y abordar tales problemas.
Hay tres formas en las que pueden surgir problemas al integrar la IA en los sistemas de salud:
– Los datos de entrenamiento utilizados en los modelos de IA
– Los propios modelos de IA generativa y
– Los desafíos inherentes en los diseños de IA
Para los modelos de IA prescriptiva, la alucinación y la estabilidad no son una preocupación, pero pueden ser preocupaciones significativas para la IA predictiva y especialmente para la IA generativa.
En el caso de la IA generativa, están específicamente entrenados en grandes cantidades de datos, y esos datos pueden contener contenido preciso e inexacto, así como varios tipos de sesgos. Como hemos visto, estos modelos predicen patrones basados en sus datos de entrenamiento sin discernir la verdad. Si bien proporcionan buenas respuestas la mayoría de las veces, pueden producir falsedades o sesgos, que pueden ser difíciles de detectar. Por lo tanto, debemos ser muy conscientes de los posibles peligros en el uso de modelos de IA generativa, lo que nos lleva al problema de los límites de los modelos generativos.
Existen ciertos desafíos inherentes en el diseño de modelos de IA generativa, como sugiere el nombre mismo. Estos modelos “generan” información utilizando modelos probabilísticos y se asemejan más a una Máquina de Zoltar que a una enciclopedia. Sin embargo, la mayoría de los usuarios tienden a asumir que están buscando información en una enciclopedia al usar herramientas de IA generativa.
Las organizaciones de salud deben ser muy cuidadosas y deben trabajar con proveedores que posean un profundo conocimiento de la información clínica, los datos de los pacientes y la aplicación adecuada de tecnologías de IA para mitigar los riesgos y las consecuencias no deseadas que puedan surgir. También deben comprender los problemas en torno a las alucinaciones y asegurarse de que sus proveedores hayan tomado medidas adecuadas para limitar los modelos y utilizar tecnologías para minimizar, si no eliminar, cualquier resultado indeseable.
A medida que la industria de la salud evoluciona, abrazar el potencial de la IA mientras se prioriza la seguridad de los pacientes y las consideraciones éticas será clave para el éxito. Al integrar estratégicamente la IA en los flujos de trabajo de la gestión de la atención y abordar los desafíos de frente, los proveedores de salud pueden allanar el camino para un futuro donde la atención mejorada por la IA brinde mejores resultados para los pacientes y los proveedores por igual.
Foto: Dilok Klaisataporn, Getty Images
Dr. Mansoor Khan es el Director Ejecutivo de Persivia. Inc. Dr. Mansoor Khan es un veterano de 20 años de las industrias del software y la salud. Es un empresario en serie que ha estado desarrollando tecnologías avanzadas y software de vanguardia desde mediados de los años 90. Con el tiempo, ha liderado equipos que han desarrollado tecnología y aplicaciones para la Vigilancia de Enfermedades, Inteligencia Artificial, Gestión de Calidad, Análisis, Gestión de la Atención y Costos y Gestión de Utilización. Estos esfuerzos han ganado numerosos premios a lo largo de los años, incluido el mejor Sistema de Apoyo a Decisiones para ACOs (Blackbook) y las 100 principales empresas de IA.
Esta publicación aparece a través del programa MedCity Influencers. Cualquiera puede publicar su perspectiva sobre negocios e innovación en atención médica en MedCity News a través de MedCity Influencers. Haga clic aquí para averiguar cómo.