Edición Médica

Los comités de ética pueden estar desbordados.

Redacción. Quito
La Organización Mundial de la Salud ha publicado el informe ‘Investigación sanitaria relacionada con la inteligencia artificial: revisión ética y supervisión’ donde ha concluido que la investigación sanitaria con inteligencia artificial se ha transformado a una velocidad que los sistemas de ética no han podido seguir.
 
El documento ha advertido que “la investigación sanitaria relacionada con la IA también podría socavar principios éticos establecidos y vulnerar las protecciones de los derechos humanos si no se prevén ni se abordan adecuadamente los riesgos novedosos y los posibles daños”.
 
La OMS ha definido la investigación sanitaria relacionada con IA en tres categorías que han estructurado todo el informe: a) investigación con datos que usa IA; b) investigación con herramientas y tecnologías de IA; c) investigación sobre herramientas y tecnologías de IA.
 
El informe ha identificado dos rasgos que han agravado el riesgo. Primero, ha descrito un ciclo de vida comprimido que va de la investigación al producto, lo que significa que los riesgos no abordados durante la investigación pueden manifestarse en resultados y productos que se difunden ampliamente o de los que se depende. El ciclo investigación-producto se ha acortado hasta unos 12 meses, frente a la década que ha requerido el desarrollo farmacéutico tradicional.
 
Segundo, el organismo ha señalado que existen pocas barreras de entrada para llevar a cabo investigaciones en salud relacionadas con la IA, incluso por parte de equipos de investigación que pueden carecer de credenciales o formación en ética de la investigación.
 
La OMS ha señalado que los comités de ética de la investigación han quedado desbordados y estiman que han examinado la investigación demasiado temprano, han actuado de forma descentralizada sin coordinación multicéntrica, han carecido de pericia en IA y no han recibido los protocolos de empresas privadas, que han eludido la revisión por afán comercial o por usar datos anonimizados, secundarios o de redes sociales.
 
Para Ecuador el alcance del informe puede ser directo, ya que el informe ha situado la problemática también para los países de ingresos bajos y medios con efectos en hospitales, universidades, institutos de investigación y comités de ética que utilizan cada vez más modelos predictivos, análisis de imágenes, datos secundarios y herramientas generativas, pero han operado con marcos pensados para investigación con participantes presenciales y consentimiento tradicional.
 
En ese sentido, el informe ha exigido que toda investigación con datos no anonimizados haya sido sometida a un Comité de Ética, que se haya transparentado el uso de IA y que se haya evaluado si el algoritmo ha sido válido para la población local.
 
El capítulo 6 ha concentrado los riesgos que pueden enfrentar los países de bajos ingresos como nuestro país y otros de la región de las Américas, los cuales enfrentan “exclusión e inequidad”, pues la mayoría de la investigación ha sido financiada, diseñada y liderada en Norteamérica, Europa y Asia Oriental.
 
En ese sentido, el informe ha señalado que “actualmente, una cantidad insuficiente de investigación en IA y desarrollo tecnológico está liderada por entidades de estos países y regiones”. Los conjuntos de datos, por ejemplo, genómicos, han excluido a estas poblaciones y los modelos no han sido generalizables.
 
Así mismo ha mencionado al “colonialismo de datos sanitarios y ‘ethics dumpin’” es decir la obtención de datos de países de ingresos bajos y medios para promover objetivos comerciales o los fines de un estudio, sin la debida consideración ni el respeto por el consentimiento, la privacidad y la autonomía”.
 
Como la situación en que “las debilidades y lagunas en las políticas y sistemas éticos de los países de ingresos más bajos son explotadas deliberadamente por países de ingresos más altos para obtener beneficios intelectuales o económicos a través de la investigación y la publicación”, dice el informe.
 
A eso se suma la “inequidad de poder y falta de beneficio compartido”, donde los socios locales han participado como socios menores, han aceptado diseños ajenos por necesidad de financiación y no han recibido acceso equitativo a la tecnología final, que no se ha introducido, optimizado ni actualizado para sus sistemas de salud.
 
Ante ello, la OMS no propone ampliar sin límites el mandato de los Comité de Ética en Salud, sino que ha planteado una responsabilidad compartida a lo largo del ciclo de vida, donde los investigadores deben formarse, identificar riesgos temprano y transparentarlos; los financiadores deben exigir requisitos éticos y financiar capacidad local; y espacios de datos, comités de acceso a datos, revistas científicas, sociedades médicas y agencias reguladoras que deben reforzar o sustituir la revisión cuando los estudios hayan quedado exentos.
 
El informe ha concluido en que los organismos normativos (como la Asociación Médica Mundial, CIOMS) deben actualizar sus guías y que, con el tiempo, la IA se volverá tan común que sus consideraciones se integrarán plenamente en la ética general de la investigación.

---