Por qué la gobernanza de la IA es el principal problema en la mente de este ejecutivo del sistema de salud.

No te equivoques: la emoción en torno a la inteligencia artificial generativa en el sector de la salud sigue siendo fuerte. En general, la industria está emocionada por el potencial de la tecnología para aliviar el agotamiento, aumentar la eficiencia operativa y mejorar los resultados de los pacientes, pero los líderes de la salud todavía tienen mucho trabajo que hacer cuando se trata de poner los guardrails apropiados alrededor de una forma tan novedosa de tecnología.

Cuando le pregunté a Jason Hill, el oficial de innovación de Ochsner Health, sobre el estado de la gobernanza de la inteligencia artificial en la salud, dijo que el problema pesa mucho en su mente.

“Me acuesto la mayoría de las noches y me despierto la mayoría de las mañanas preocupándome por eso”, comentó durante una entrevista el mes pasado en HLTH en Las Vegas.

En su opinión, los proveedores y otras organizaciones de salud necesitan con urgencia marcos estandarizados que puedan adoptar para garantizar que sus herramientas de inteligencia artificial sean seguras y funcionen bien con el tiempo.

“Si tuviera millones de dólares en este momento para crear una startup, crearía una empresa que pudiera proporcionar un marco de aseguramiento de calidad para la IA. En mi opinión, no se trata de si se va a regular, sino de cuándo se va a regular y cómo. La primera empresa en llegar al mercado que tenga un sistema establecido para eso, cuando esa regulación suceda, que no sabemos cuándo sucederá, será la ganadora”, explicó Hill.

Cree que las futuras regulaciones de IA abarcarán dos categorías: el lado tecnológico y el lado operativo.

LEAR  Cinco claves para la exitosa implementación de un mercado basado en el estado

Para el lado tecnológico, Hill cree que las regulaciones de IA se centrarán en si los modelos de IA generativa están alucinando y si esas alucinaciones son clínicamente relevantes. En el lado operativo, los sistemas de salud tendrán que hacer un mejor trabajo para asegurarse de que no estén infectados con el “síndrome de la nueva cosa brillante”, dijo.

“Si la cardiología viene a mí y me dice, ‘Oye, mira esta cosa de estetoscopio genial, en realidad detecta la estenosis valvular y nos ayuda a llevar a las personas a la valvuloplastia’. Lo que luego le diría a la cardiología es, ‘Genial. Necesito que revises 50 de lo que esa IA produce a la semana, y luego necesito que juzgues su efectividad en una escala de calificación de 1-10’. Luego eso se incorporará en el contrato, y si no veo esos resultados durante más de cuatro semanas, vamos a cancelar el contrato. Operativo necesita tener algo en juego para ver si funciona su cosa”, explicó.

Desde el punto de vista de Hill, le gustaría ver a los líderes hospitalarios “aprovechar parte de la emoción y convertirla en un compromiso”.

Él cree que la gobernanza de la IA no solo se aplica a las verificaciones de seguridad que se realizan antes de que un sistema de salud decida poner una herramienta en práctica. Para él, la garantía de calidad continua es igual de importante.

Foto: SIphotography, Getty Images