Micky Tripathi, jefe de la Oficina del Coordinador Nacional de Tecnología de la Información en Salud (ONC), cree que la reciente regla de transparencia sobre IA de su oficina empoderará tanto a los proveedores como a los desarrolladores tecnológicos.
“Creo que va a impulsar una mayor adopción de herramientas basadas en IA en la prestación de servicios de salud, y espero que establezca una especie de mecanismo para impulsar herramientas basadas en IA de mayor calidad”, afirmó durante una entrevista este mes en la conferencia de Salud Digital de Reuters en San Diego.
En diciembre, la ONC finalizó una nueva regla que estableció requisitos de transparencia para el uso de IA en entornos de salud. Requiere que los desarrolladores de IA en salud proporcionen más datos sobre sus productos a los clientes, lo que podría ayudar a los proveedores a determinar los riesgos y la efectividad de las herramientas de IA.
Bajo la nueva regla, los proveedores de IA deben compartir información sobre cómo funciona su software y cómo se desarrolló. Eso significa divulgar información sobre quién financió el desarrollo de sus productos, qué datos se utilizaron para entrenar el modelo, medidas que utilizaron para prevenir el sesgo, cómo validaron el producto y para qué casos de uso se diseñó la herramienta.
La regla no solo se aplica a modelos de IA que están explícitamente involucrados en la atención clínica, sino también a herramientas que afectan indirectamente la atención al paciente, como aquellas que ayudan con la programación o la gestión de la cadena de suministro. Está previsto que entre en vigor el primer día de 2025.
Hay muchos médicos que están aprensivos sobre el uso de nuevos modelos de IA, señaló Tripathi. Algunos médicos ven formas avanzadas de IA como un territorio inexplorado y temen que estos productos puedan cometer errores graves.
Al establecer esta regla, la ONC busca brindar a los proveedores más visibilidad sobre las herramientas de IA que tienen a su disposición para que puedan tomar decisiones informadas sobre qué soluciones son las más confiables y cuáles podrían ser adecuadas para sus flujos de trabajo, explicó Tripathi.
Esta información se mostrará en la HCE, haciéndola accesible a los médicos que deseen conocer el diseño, validación y casos de uso de las herramientas disponibles, añadió.
Tripathi también señaló que la nueva regla brinda a los desarrolladores de IA en salud la oportunidad de diferenciarse de la competencia.
Dijo que ha escuchado de organizaciones proveedoras que planean integrar las próximas divulgaciones de transparencia de los desarrolladores en su estrategia general de gobernanza de IA. Algunos de estos proveedores también han comenzado a exigir los mismos tipos de divulgaciones de transparencia a los desarrolladores de terceros con los que están pensando en asociarse, agregó.
Foto: Natali_Mis, Getty Images