Edición Médica

César Paz-y-Miño. Investigador en Genética y Genómica Médica. Universidad UTE.
 
La inteligencia artificial ya entró en la medicina, pero lo hizo por dos puertas. Por una ingresa con el médico, que la utiliza para interpretar imágenes, electrocardiogramas, variantes genéticas, calcular riesgos, ordenar diagnósticos diferenciales o apoyar decisiones terapéuticas. Por la otra entra directamente con el paciente, que pregunta a un chatbot qué enfermedad podría tener, interpreta sus análisis, cuestiona el diagnóstico recibido e incluso consulta qué tratamiento debería seguir.
 
Esta doble entrada cambia profundamente la relación médico paciente y abre una pregunta incómoda: cuando intervienen médico, paciente y algoritmo, ¿quién responde si la decisión termina causando daño?
 
Cuando la IA aconseja al médico
 
La discusión bioética ha planteado que, cuando una decisión clínica está apoyada sustancialmente por inteligencia artificial, el paciente debería conservar el derecho a una segunda opinión independiente. La propuesta toca uno de los problemas centrales de algunos sistemas algorítmicos: podemos conocer su resultado sin comprender completamente cómo ponderaron las variables para producirlo.
 
Esta falta de explicabilidad importa porque predecir no es lo mismo que ejercer medicina. Un algoritmo puede calcular que una lesión tiene 92 por ciento de probabilidad de malignidad, pero el paciente no es un porcentaje. Tiene edad, antecedentes familiares, exposiciones ambientales, enfermedades concomitantes, genética, condiciones sociales y preferencias. El médico debe integrar esas dimensiones, explicar la incertidumbre y asumir responsabilidad por la decisión.
 
Una encuesta entre médicos encontró que 88,7 por ciento apoyaba el derecho del paciente a cuestionar una recomendación producida con participación de IA y solicitar otra opinión. Entre quienes defendían ese derecho, 95,6 por ciento consideraba que la segunda opinión debía proceder de una persona y no simplemente de otro algoritmo.
 
La razón es poderosa: dos inteligencias artificiales no equivalen necesariamente a dos opiniones independientes. Pueden haber aprendido de fuentes semejantes, compartir sesgos poblacionales o reproducir los mismos errores. Por eso, ante decisiones de consecuencias importantes, debería existir la posibilidad de revisión humana.
 
Pero aparece también el peligro contrario, el sesgo de automatización. Un médico puede terminar aceptando una recomendación porque procede de una tecnología percibida como matemáticamente objetiva. Si el profesional simplemente firma lo que propone la máquina, la llamada supervisión humana se convierte en una ficción administrativa. La medicina necesita médicos capaces de utilizar la IA, pero también de contradecirla.
 
Cuando es el paciente quien consulta
 
El problema cambia de dirección cuando el paciente llega al consultorio después de haber preguntado a una IA. Puede traer una hipótesis diagnóstica acertada, parcialmente correcta o completamente equivocada. Incluso puede haber iniciado un tratamiento.
 
No deberíamos ridiculizar esta conducta. La IA puede democratizar conocimiento médico, traducir informes incomprensibles, identificar señales de alarma, ayudar a formular mejores preguntas e incluso sugerir diagnósticos que habían sido pasados por alto. La propia OMS reconoce entre las aplicaciones de los grandes modelos multimodales la investigación de síntomas y tratamientos dirigida por pacientes, pero advierte simultáneamente que estos sistemas pueden producir información falsa, inexacta, sesgada o incompleta. La evidencia confirma que ambas posibilidades coexisten.
 
Un estudio evaluó 888 respuestas de cuatro chatbots a 222 preguntas médicas planteadas desde la perspectiva del paciente. Según el modelo, entre 21,6 por ciento y 43,2 por ciento de las respuestas fueron consideradas problemáticas y entre 5 por ciento y 13 por ciento, inseguras.
 
Existe además un problema que suele olvidarse: una IA solo puede razonar sobre la información que recibe. Un paciente puede omitir que toma anticoagulantes, desconocer sus antecedentes familiares, interpretar incorrectamente una lesión, olvidar una alergia, no mencionar un embarazo o describir de manera imprecisa el dolor. Una respuesta algorítmica técnicamente coherente construida sobre información incompleta puede terminar siendo clínicamente falsa.
 
La genética complica aún más la ecuación
 
Dos personas con síntomas aparentemente iguales no necesariamente padecen la misma enfermedad, ni responden igual al mismo medicamento. Variantes en genes CYP2D6, CYP2C19, CYP2C9, DPYD, TPMT, NUDT15, SLCO1B1 y determinados alelos HLA, pueden modificar metabolismo, eficacia o toxicidad de diversos fármacos.
 
A esto se suman edad, sexo, función renal y hepática, microbioma, interacciones farmacológicas, comorbilidades y exposiciones ambientales.
 
La IA puede recomendar correctamente el tratamiento promedio y equivocarse en el individuo específico.
 
Esta limitación adquiere especial importancia en América Latina, donde poblaciones mestizas, indígenas y afrodescendientes continúan insuficientemente representadas en numerosas bases genómicas internacionales. Un algoritmo entrenado predominantemente con determinada ascendencia genética, no adquiere automáticamente validez universal.
 
La medicina personalizada exige precisamente reconocer que el paciente estadístico y el paciente real no siempre coinciden.
 
¿Dónde comienza la mala praxis?
 
Aquí aparece el problema jurídico más interesante. La mala praxis tradicional, presupone un profesional con deber de cuidado que, mediante negligencia, imprudencia o impericia, ocasiona un daño causalmente relacionado con su actuación. Pero la IA introduce nuevos actores y fragmenta la cadena de decisión.
 
Si un médico utiliza un algoritmo, acepta acríticamente una recomendación incorrecta y produce daño, no parece razonable que pueda defenderse afirmando que “lo dijo la IA”. El juicio clínico sigue siendo suyo.
 
Pero imaginemos el escenario inverso. El paciente consulta autónomamente una IA, recibe una recomendación, se automedica y sufre una complicación antes de acudir al médico. Allí ya no existe la estructura clásica de mala praxis médica. Aparecen preguntas nuevas sobre responsabilidad del usuario, del desarrollador, de la empresa que ofrece el sistema y de las advertencias o salvaguardas incorporadas al producto.
 
Existe un tercer escenario aún más complejo. El paciente llega con un diagnóstico sugerido por la IA. El médico lo descarta sin evaluarlo razonablemente y posteriormente se demuestra que era correcto. La responsabilidad no surgiría por haber contradicho a una máquina, sino por no haber actuado conforme al estándar profesional exigible ante la información disponible.
 
Y también puede ocurrir lo contrario: el paciente insiste en una hipótesis algorítmica equivocada y rechaza la recomendación médica. La autonomía permite tomar decisiones, pero exige información adecuada y no convierte al profesional en responsable automático, de toda consecuencia derivada de una decisión informada, que el paciente adopta contra su recomendación.
 
La IA, por tanto, no debe transformarse ni en autoridad diagnóstica ni en coartada jurídica.
 
De la culpa individual a la cadena de responsabilidad
 
Tal vez el concepto clásico de mala praxis resulte insuficiente para algunos conflictos de la medicina algorítmica. Será necesario reconstruir la cadena completa: qué información conocía el paciente, qué comunicó a la IA, qué respondió el sistema, qué decisiones tomó, qué información recibió posteriormente el médico, cómo la evaluó y cuál de esas acciones tuvo relación causal con el daño.
 
También habrá responsabilidades institucionales. Hospitales y sistemas sanitarios deberán conocer qué algoritmos utilizan, cómo fueron validados y para qué poblaciones. Los desarrolladores deberán demostrar seguridad, transparencia y límites de uso. Los médicos deberán conservar independencia clínica. Los pacientes necesitarán alfabetización sanitaria digital.
 
Los médicos y profesionales de la salud, debemos insistir precisamente en autonomía, seguridad, transparencia, explicabilidad, responsabilidad, inclusión y equidad, como principios de gobernanza de la IA sanitaria.
 
Y hay un componente social que no debemos ignorar. Muchas personas consultarán una IA porque una cita médica cuesta demasiado, tarda semanas o sencillamente no está disponible.
 
En sistemas sanitarios desiguales, el autodiagnóstico algorítmico puede convertirse en sustituto involuntario de servicios que, el Estado no proporciona. Culpar exclusivamente al paciente sería desconocer el determinante social que lo empujó hacia la máquina.
 
La IA puede mejorar extraordinariamente la medicina. Puede detectar patrones que escapan al ojo humano, ampliar diagnósticos diferenciales y acercar conocimiento a millones de personas. Rechazarla sería absurdo. Pero convertirla en una autoridad infalible sería igualmente anticientífico.
 
El nuevo escenario ya no tiene dos actores, médico y paciente. Tiene tres: médico, paciente y algoritmo. Los dos primeros poseen autonomía, derechos y responsabilidades. El tercero posee capacidad creciente para influir en ambos, pero no conciencia moral ni responsabilidad personal. Ese desequilibrio constituye el verdadero problema.
 
La pregunta del futuro no será simplemente quién se equivocó, sino quién sabía qué, quién decidió qué y por qué. Una IA puede ser una excelente segunda opinión para el médico y también para el paciente. Lo que no puede convertirse es en el lugar donde ambos depositen su responsabilidad cuando algo sale mal.
 
Por eso Ecuador debería incorporar este nuevo escenario, en cualquier futura regulación de inteligencia artificial y salud. Debería diferenciar claramente entre IA informativa, IA de apoyo clínico e IA destinada a diagnóstico o tratamiento, exigir transparencia sobre sus limitaciones y establecer mecanismos de trazabilidad, cuando una recomendación algorítmica influya sustancialmente en una decisión sanitaria.
 
La tecnología debe ampliar el razonamiento clínico y la autonomía del paciente, no sustituirlos. Porque en medicina, por sofisticado que sea el algoritmo, la decisión final sigue ocurriendo sobre una persona concreta, biológicamente única y socialmente situada.