“La conclusión es que la regulación de la IA realmente se trata de transparencia. No sabemos todo”, declaró Luke Ralston, quien ha sido ingeniero biomédico y revisor científico en la FDA durante casi dos décadas, durante una presentación la semana pasada en la conferencia HRX de la Sociedad del Ritmo Cardíaco en Atlanta. La FDA sigue considerando la regulación de la IA como una ciencia en evolución que es altamente específica para cada dispositivo y su uso previsto, dijo. A medida que la FDA continúa trabajando para garantizar que la IA se implemente de manera segura y ética dentro del cuidado de la salud, hay un par de problemas prevalentes con los que los revisores se encuentran con frecuencia, declaró Ralston. El primero tiene que ver con el desempeño. Como revisor, Ralston dijo que le gustaría ver datos de las empresas sobre sus productos siendo utilizados en situaciones clínicas reales. “Todos tenemos conjuntos de datos que recopilamos, adjudicamos y entrenamos los modelos, y luego los implementamos. Esa formación está bien, pero ¿cómo funciona cuando se implementa? ¿La población de usuarios prevista cambia de tal manera que las métricas comienzan a deteriorarse? Ese es un problema real. Y eso es lo que hemos visto”, afirmó. Las empresas pueden querer pensar más en llevar a cabo un monitoreo post-mercado para que puedan rastrear qué tan bien están funcionando sus modelos en el mundo real, agregó Ralston. La generalización de los datos es el segundo problema más importante con la IA en la salud. Ralston afirmó que los conjuntos de datos deben ser grandes, limpios y representativos. Para entrenar de manera efectiva un modelo de IA en salud, los desarrolladores necesitan miles, idealmente decenas de miles, de puntos de datos, señaló. “Ahora mismo, los datos retrospectivos son un poco lo mejor que tenemos en muchas áreas, y no es perfecto. Hay muchos datos faltantes y muchos datos no representativos, pero si se pone en trabajo, creo que podemos llegar a esos conjuntos de datos lo suficientemente grandes para el entrenamiento y luego para las pruebas”, dijo Ralston. También señaló que el mundo de la salud necesita ampliar su idea de lo que son datos representativos. Para él, es obvio que “no puedes tener hombres blancos de 60 años en cada prueba de fibrilación auricular y decir que esto se generalizará a toda la población”. Sin embargo, los líderes de la salud no siempre reconocen lo importante que es recopilar datos que sean diversos en más formas que solo demográficamente, declaró Ralston. “¿Cuál es el hardware utilizado para adquirir [los datos]? ¿Cuáles son los sistemas hospitalarios que se utilizan para adquirirlos? Cada sistema hospitalario tiene flujos de trabajo ligeramente diferentes”, comentó. “¿Qué estamos haciendo para examinar esos flujos de trabajo, para asegurarnos de que sean verdaderamente representativos de la población de pacientes prevista y del uso previsto del dispositivo?” A medida que la IA continúa evolucionando en el mundo de la salud, las empresas tendrán que comenzar a encontrar buenas respuestas a estas preguntas, señaló Ralston. Nota del editor: Esta historia se basa en discusiones en HRX, una conferencia en Atlanta organizada por la Sociedad del Ritmo Cardíaco. La reportera senior de MedCity News, Katie Adams, fue invitada a asistir y hablar en la conferencia, y todos sus gastos de viaje y relacionados fueron cubiertos por la Sociedad del Ritmo Cardíaco. Sin embargo, los funcionarios de la empresa no tuvieron ninguna influencia en la cobertura editorial. Foto: Gerd Altmann, Pixabay”
