En atención médica, la mentalidad de la IA está cambiando. Ya no se trata de la carrera por adoptar una tecnología transformadora; se trata de la necesidad apremiante de garantizar que el uso de la IA no explote en la cara de todos. O, al menos, que no resulte en tiempo, energía y recursos desperdiciados.
En otras palabras, estamos pasando del FOMO, el miedo a perderse el potencial de la IA, al FOMU – el miedo a equivocarse.
A medida que la IA madura, avanzamos a su próxima fase y a medida que los comités de revisión dedicados se vuelven cada vez más comunes, hemos desarrollado un marco de tres partes para ayudar a los líderes de atención médica a garantizar que hagan las cosas bien la primera vez.
Evaluación: Poniendo orden en el oeste salvaje
Hasta este punto, no ha habido ninguna orientación estándar sobre cómo evaluar las herramientas de IA. Hemos escuchado de clientes y socios que muchas organizaciones están ideando tácticas y estándares de evaluación sobre la marcha.
La atención médica es una industria altamente regulada, y cualquier uso de IA dentro de ella maneja los datos más sensibles. Para garantizar que no esté poniéndose a usted, a su empresa o a los pacientes en riesgo, recomendamos un marco de evaluación para cualquier herramienta de IA que considere:
Cumplimiento: ¿Las herramientas de IA que está utilizando cumplen con estándares de seguridad generales como HIPAA y SOC 2? ¿Siguen protocolos de retención de datos, de modo que solo se utilicen datos anonimizados – y no PHI – para entrenar directamente modelos de aprendizaje automático, y que toda la PHI sea eliminada por la herramienta de IA dentro de un período especificado? Por último, ¿lo apoyan para lograr su propio cumplimiento (por ejemplo, en el mundo de la atención médica, ¿le ayudan a cumplir con sus obligaciones de detección de eventos adversos?).
Seguridad: ¿Existen medidas de seguridad humanas para evaluar continuamente el rendimiento? ¿Qué métricas se siguen y qué tan grande es el conjunto de datos de evaluación humana? ¿Qué tan continuamente se siguen las métricas de rendimiento? Por último, si las herramientas utilizan IA generativa, ¿qué medidas de seguridad hay en su lugar para reducir la tasa de alucinaciones?
Ética: Es importante que las herramientas de IA estén libres de prejuicios. ¿La herramienta realiza pruebas regulares de prejuicios? ¿Puede asegurar que funcione igual de bien en diferentes demografías de usuarios?
Implementación: Elegir el punto de entrada adecuado
La implementación va de la mano con la evaluación, y desarrollar y seguir una estrategia integral de implementación es crítico. Las organizaciones deben decidir si comenzar de manera pequeña o abordar despliegues a gran escala y cómo estas decisiones impactarán el ROI y la escalabilidad dentro de sus negocios.
Además, es crucial considerar la naturaleza evolutiva de los roles de IA dentro de la organización. Mientras que los CTO y CIO tradicionalmente han manejado las integraciones tecnológicas, en muchos casos el surgimiento de la IA ha requerido roles especializados centrados en la IA. Estos roles podrían centrarse en supervisar iniciativas de IA, por ejemplo, y garantizar que las estrategias de IA se alineen con los objetivos comerciales generales y los estándares éticos.
Gestión del cambio: Mantener a sus humanos en el ciclo
Más de lo que me gustaría admitir, he visto organizaciones emocionarse quizás un poco demasiado con un nuevo caso de uso de IA y desplegarlo pobremente. La idea de transformación puede generar ansiedad cuando los puestos de trabajo pueden estar en juego. Un enfoque centrado en el humano es importante.
Los empleados deben ser educados sobre cómo y por qué se está adoptando la IA, porque si no entienden el “por qué”, probablemente no la apoyarán. Y ese “por qué” no solo debe tratarse de cómo la tecnología beneficiará al negocio, sino también de cómo beneficiará a las personas. Los líderes de atención médica deben pensar en los trabajadores humanos en conjunto con cualquier trabajo que la IA pueda asumir. Para tener éxito, también necesitas su aprobación.
La forma correcta de tomar estas decisiones, y cualquiera de las decisiones mencionadas anteriormente, depende de su organización específica y de las circunstancias específicas. Pero si saca algo de esta publicación, es que ha llegado el momento de desarrollar un marco de evaluación de IA, para darle a su estrategia de IA la mejor oportunidad de éxito.
Foto: steved_np3, Getty Images
Brian Haenni se unió a Infinitus en 2021. Antes de Infinitus, pasó más de una década trabajando en acceso de pacientes, en ambos lados de proveedores y farmacéuticas, con posiciones de liderazgo en estrategia y transformación empresarial, operaciones y ventas. Antes de su trabajo con el acceso de pacientes, trabajó con empresas de consultoría y tecnología en todo el mundo.
Brian tiene una licenciatura en Negocios Internacionales de la Universidad de Georgia. Vive en Charlotte con su esposa y sus dos hijos. Sus pasatiempos incluyen tratar de mantenerse al día con dos hijos activos, dominar el perro boca abajo y compartir buena comida con amigos y familiares.
Esta publicación aparece a través del programa MedCity Influencers. Cualquiera puede publicar su perspectiva sobre negocios e innovación en atención médica en MedCity News a través de MedCity Influencers. Haga clic aquí para averiguar cómo.