La conversación sobre la inteligencia artificial en el cuidado de la salud está madurando, según un ejecutivo de hospital.
Durante una entrevista el mes pasado, Zafar Chaudry, director digital y director de IA e información en Seattle Children’s, dijo que ha habido mucha más conversación en torno a la gobernanza y regulación de la IA en el cuidado de la salud en el último año más o menos.
“Recuerden, no se trata solo de tecnología. La gente y el proceso son un gran problema en todo esto”, declaró.
Durante el último año, Chaudry dijo que ha notado que la industria de la salud está aumentando su enfoque en las consideraciones éticas y de seguridad de la IA, así como en el aspecto de transparencia.
Por ejemplo, algunos legisladores han dado la voz de alarma sobre los pagadores que utilizan la IA para denegar reclamaciones. Y organizaciones como la Coalición para la Cobertura de IA en Salud (CHAI) y VALID AI están intensificando sus esfuerzos para desarrollar marcos de gobernanza de IA estandarizados.
A medida que la industria continúa tomando en serio la IA, ha quedado claro que las herramientas de IA rara vez funcionan como soluciones listas para usar, agregó Chaudry.
“No he visto muchos casos de uso reales y tangibles que [las compañías de IA] estén resolviendo. Algunos, pero muchos son muy ‘Si nos dices cuál es el problema, construiremos la solución para ti'”, explicó. “Lo comparo un poco con cuando obtienes tu iPhone, descargas un montón de aplicaciones y luego puedes hacer un montón de cosas”.
Cuando los hospitales firman contratos con desarrolladores de IA para construir herramientas que sean adecuadas, las dos partes deberían compartir el riesgo, comentó Chaudry.
Este tipo de contrato no es popular. Dijo que la mayoría de los desarrolladores de IA quieren ser compensados por su tiempo y materiales.
“El problema con el contrato basado en el tiempo y los materiales es que, si tengo una gran idea y acuerdas construirla para mí, ¿no te encantaría construirla durante mucho tiempo porque entonces mi factura sigue subiendo? Es muy difícil controlar los costos de esa manera”, explicó Chaudry.
Idealmente, el hospital y la compañía de IA deberían redactar un contrato en el que el hospital pague por hitos, y solo si el producto funciona bien, dijo.
Según está ahora, los contratos de los hospitales con proveedores de tecnología por lo general no garantizan que el producto en el que están invirtiendo entregará el resultado previsto, declaró Chaudry.
“Si quieres un coche azul y te entregan un coche rojo, ¿aceptarías simplemente el coche rojo? Dirías, ‘Oye, algo está mal aquí’. Pero con la IA en la salud, parece ser ‘Bueno, te daremos lo que quieras y luego ya está'”, afirmó.
Foto: sinemaslow, Getty Images