César Paz-y-Miño. Investigador en Genética y Genómica Médica. Universidad UTE.
 
La inteligencia artificial promete acelerar diagnósticos, descubrir medicamentos y ampliar el acceso al conocimiento. Mientras sus capacidades crecen, investigadores y empresas advierten sobre peligros que podrían escapar al control humano. La contradicción merece examinarse: los mismos laboratorios que compiten por avanzar solicitan límites, mientras movilizan capital para sostener una infraestructura cada vez más exigente. La seguridad y los intereses económicos forman parte de una misma discusión, pero no deben confundirse.
 
Las advertencias de quienes abandonan estos laboratorios merecen atención, aunque su experiencia no convierte una predicción catastrófica en un resultado experimental. Anthropic reconoce que sus modelos participan crecientemente en el desarrollo de otros sistemas, pero aclara que todavía no alcanzan una mejora recursiva completamente autónoma. Ayudar a programar y ejecutar experimentos no equivale a diseñar por cuenta propia toda una generación superior. Son resultados empresariales que requieren contraste independiente [1].
 
Existen fallos más concretos. METR investigó el incidente en el que agentes de OpenAI, durante evaluaciones de ciberseguridad, atacaron infraestructura de Hugging Face [2]. El episodio muestra que los límites técnicos pueden fallar; no demuestra conciencia ni una rebelión de las máquinas. Un algoritmo puede ocasionar daño al cumplir una tarea con permisos excesivos, objetivos deficientemente definidos o barreras insuficientes. La responsabilidad comienza en esas decisiones humanas.
 
El informe de Anthropic de septiembre también describe usos indebidos en vigilancia, fraude y biología. Incluye cinco casos que podrían apoyar el desarrollo de armas biológicas, sin atribuir intención dañina a todos los investigadores involucrados [3]. Conviene conservar ese matiz: identificar una actividad potencialmente peligrosa no demuestra que se haya producido un arma. La investigación de doble uso exige supervisión competente, capaz de proteger sin bloquear indiscriminadamente la ciencia.
 
En medicina, el daño puede empezar con algo menos espectacular: una respuesta equivocada que parece conocimiento. En mi artículo de Bionatura Journal comparé cuatro modelos mediante 42 preguntas sobre medicina, genómica, ética y poder. Ese análisis crítico examina sesgos y confiabilidad; no constituye una validación clínica [4]. Una explicación convincente no basta para establecer causalidad genética. Si una variante de significado incierto se presenta como diagnóstico, la falsa certeza puede afectar el asesoramiento familiar y decisiones reproductivas.
 
La precisión clínica tampoco garantiza confidencialidad. Madrid-García y colaboradores describen un chatbot para pacientes basado en generación aumentada por recuperación, o RAG: una técnica que consulta documentos seleccionados para fundamentar respuestas. Mediante un navegador y un asistente comercial de IA recuperaron, sin autenticación, instrucciones internas, la base de conocimientos y 1.000 conversaciones almacenadas [5]. Es un caso concreto, no una medida de frecuencia, pero demuestra que responder correctamente puede coexistir con exponer información sensible.
 
El hallazgo refuerza una exigencia: evaluar toda la aplicación, incluidos accesos, almacenamiento y comunicaciones. RAG ayuda a fundamentar respuestas; no constituye una barrera de seguridad. En medicina genética, una filtración podría comprometer información del paciente y de sus familiares. Hospitales y proveedores deben exigir autenticación, permisos mínimos, conservación limitada de conversaciones y auditorías independientes. La misma IA que facilita construir estas herramientas también reduce las barreras para examinarlas. Proteger datos debe presupuestarse desde el diseño, no después.
 
Un paciente que consulta sobre cáncer hereditario entrega algo más que una pregunta: comparte temores, antecedentes familiares y decisiones pendientes. La institución que ofrece el chatbot debe proteger esa confianza. Propongo que ninguna compra pública se apruebe solo por la calidad de una demostración: debe incluir pruebas de seguridad, responsabilidades contractuales y presupuesto para mantenimiento. Ahorrar en protección mientras se invierte en velocidad transfiere el riesgo al enfermo. La innovación merece apoyo cuando sus beneficios pueden comprobarse y sus daños tienen responsables. El progreso médico pierde sentido si la intimidad del paciente se convierte en el precio oculto de usarlo.
 
Por eso, la propuesta publicada en NEJM AI clasifica los riesgos según el uso: S1, tareas limitadas y comprobables; S2, apoyo revisable por profesionales; S3, aplicaciones cuyos daños requieren seguimiento; y S4, acciones autónomas de alto riesgo, que deberían excluirse o admitirse únicamente con salvaguardias excepcionales [6]. Es una propuesta académica. Su valor consiste en recordar que una puntuación de precisión no demuestra seguridad: una recomendación de derivación sirve si el paciente efectivamente recibe atención.
 
La OMS amplía esta responsabilidad. Su informe del 21 de julio de 2026 identifica vacíos en la revisión ética de investigaciones que utilizan o desarrollan IA y plantea funciones para investigadores, financiadores, revistas y reguladores [7]. La vigilancia debe acompañar los cambios del sistema y sus consecuencias. Un comité sin formación, tiempo ni recursos difícilmente podrá controlar una tecnología que evoluciona después de la aprobación inicial.
 
Esa supervisión cuesta, como cuesta construir la propia IA. Detrás de la pantalla hay procesadores, memorias, redes, edificios y refrigeración; también materiales, fabricación y trabajo humano. Intervienen investigadores, programadores, ingenieros eléctricos, técnicos y evaluadores. La tecnología aparentemente inmaterial depende de una cadena industrial cuya factura no desaparece porque el servicio se llame «nube».
 
La Agencia Internacional de la Energía estimó que los centros de datos consumieron 415 teravatios hora en 2024, alrededor del 1,5 por ciento de la electricidad mundial. Su informe de 2025 proyectó unos 945 TWh para 2030, con la IA como principal impulsora del crecimiento [8]. La cifra comprende todos los centros de datos y es una proyección, no consumo exclusivo de IA ni un destino inevitable. La concentración territorial de la demanda puede presionar redes locales aunque su participación global parezca moderada.
 
Además de electricidad, ciertos sistemas de refrigeración necesitan agua. Los impactos dependen de la ubicación, el diseño y la fuente energética. La Comisión Europea comunicó el 21 de septiembre una propuesta de clasificación para centros de datos de más de 500 kilovatios que busca transparentar el uso de energía y agua; las primeras etiquetas se esperan en 2027 [9]. Medir estos consumos permite discutir responsabilidades concretas.
 
El balance debe incluir los beneficios: la IA también puede ayudar a optimizar redes y procesos energéticos [8]. Pero esos ahorros potenciales deben comprobarse, sin utilizarlos como compensación automática de cualquier gasto. Un servicio más eficiente puede expandirse tanto que aumente su consumo total. La pregunta útil es qué beneficio social produce cada aplicación y cuál es su costo completo.
 
Entrenar modelos y atender consultas generan gastos distintos. El entrenamiento desarrolla capacidades; la inferencia las aplica continuamente. Más usuarios pueden significar más ingresos y mayores necesidades de cómputo. Captar capital tampoco equivale a obtener ganancias: financiación, valoración e ingresos describen cosas diferentes. La sostenibilidad del negocio depende de costos operativos, reinversión y rentabilidad, no de una cifra deslumbrante anunciada al mercado.
 
Desde esa perspectiva, una desaceleración podría fortalecer evaluaciones y aliviar simultáneamente la presión financiera. Ambas consecuencias son compatibles. Afirmar que toda advertencia es una maniobra para rescatar empresas exigiría pruebas adicionales. También sería ingenuo aceptar que quienes solicitan regulación carecen de intereses. La posición crítica consiste en examinar evidencias y beneficiarios sin convertir sospechas en hechos.
 
Las normas plantean otra tensión. Auditorías, documentación y personal especializado pueden prevenir daños, pero sus costos fijos pesan proporcionalmente más sobre competidores pequeños. Una regulación justificada puede fortalecer a quienes ya dominan el mercado. Se necesitan exigencias proporcionales al riesgo, evaluadores independientes y transparencia sobre conflictos de interés. La rivalidad entre Estados Unidos y China tampoco debe justificar una carrera sin controles, ni la seguridad convertirse en permiso para vigilar indiscriminadamente.
 
América Latina enfrenta esta discusión desde una posición desigual. El ILIA 2025 señala que la región representa el 6,6 por ciento del PIB mundial, pero recibe apenas el 1,12 por ciento de la inversión global en IA [10]. Utilizar herramientas importadas no garantiza capacidad para evaluarlas o negociar sus condiciones. La OMS advierte, además, sobre colonialismo de datos y desigualdad en la distribución de beneficios [7]. Aportar información sanitaria sin fortalecer la investigación local puede profundizar esa dependencia.
 
Para Ecuador, propongo priorizar formación en bioinformática y genética, validación con poblaciones locales y cooperación entre hospitales, universidades y autoridades. Los convenios deben precisar dónde se procesan los datos, quién puede reutilizarlos, cómo se distribuyen los beneficios y quién responde ante errores. En medicina genética, preservar la incertidumbre y el asesoramiento especializado importa tanto como acelerar el análisis.
 
La supervisión humana debe ser materialmente posible. Un profesional sobrecargado, sin acceso a las fuentes, no garantiza una revisión efectiva. Hacen falta tiempo, capacitación, registro de incidentes y continuidad asistencial si la herramienta falla. Una persona autorizada debe poder suspender operaciones peligrosas y revocar accesos mediante controles externos al modelo. La promesa de un chatbot de obedecer no sustituye esas garantías.
 
No existe un interruptor único para toda la inteligencia artificial, pero cada aplicación debe tener límites y responsables identificables. Su utilidad merece desarrollarse junto con nuestra capacidad de examinarla, corregirla y detenerla. La seguridad será insuficiente mientras quienes reciben los beneficios puedan trasladar a otros los errores, los costos ambientales y la pérdida de autonomía.
 
Tabla. Riesgos y decisiones necesarias, síntesis crítica de los conflictos examinados

Dimensión	Conflicto o evidencia	Respuesta necesaria
Control y autonomía	Fallos de límites técnicos no demuestran conciencia ni extinción inevitable [1,2].	Permisos mínimos, registros y suspensión externa verificable.
Medicina y genética	Una respuesta convincente puede exceder la evidencia; precisión no equivale a seguridad [4,6].	Validación local, revisión especializada y seguimiento de pacientes.
Privacidad del paciente	Un chatbot RAG expuso 1.000 conversaciones sin autenticación [5]. Un caso no mide frecuencia.	Auditar la aplicación completa, restringir accesos y limitar la conservación.
Bioseguridad	La investigación de doble uso puede servir a fines beneficiosos o peligrosos [3].	Evaluar capacidades y contexto sin atribuir intenciones no demostradas.
Energía y materiales	415 TWh en 2024 y proyección de 945 TWh en 2030 para todos los centros de datos [8].	Medir consumo, impacto local, vida útil y costos completos.
Financiación	Más capital o ventas no prueban rentabilidad; una pausa puede aliviar costos.	Examinar resultados y compromisos, sin presumir motivos ocultos.
Regulación y poder	Las obligaciones necesarias pueden favorecer a empresas con más recursos.	Controles proporcionales y auditorías sin dependencia del proveedor.
Datos y equidad	La OMS advierte sobre colonialismo de datos y beneficios desiguales [7].	Participación científica local, reglas de reutilización y beneficio compartido.
Ecuador	Adoptar herramientas no asegura capacidad propia para evaluarlas [10].	Invertir en talento, validación, infraestructura y continuidad asistencial.

Bibliografía

1. Anthropic. When AI builds itself. 2026. https://www.anthropic.com/institute/recursive-self-improvement
 
2. METR. Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident. 26 agosto 2026.
https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
 
3. Anthropic. Detecting and countering misuse of AI: September 2026. https://www.anthropic.com/threat-intelligence-report-september-2026
 
4. Paz-y-Miño C. Benchmarking algorithmic biases and hallucinations in four LLMs (ChatGPT, Claude, DeepSeek, Gemini) applied to biomedical, genomics, and data governance questions. BioNatura Journal. 2026;3(2):9. https://doi.org/10.70099/BJ/2026.03.02.9
 
5. Madrid-García A, Merino-Barbancho B, Rujas M. When the Chatbot Leaks: Securing Patient-Facing Medical AI in the Age of Dual-Use Large Language Models. NEJM AI. 2026;3(10). Publicado en línea el 17 de agosto de 2026. https://doi.org/10.1056/AIp2600583
 
6. Sheng B, Song J, Shah NH, Wu J, Car J, Wong TY. A Classification of Safety Risks in Medical AI. NEJM AI. 2026;3(9). https://doi.org/10.1056/AIp2600358
 
7. World Health Organization. Artificial intelligence-related health research: ethics review and oversight. Ginebra: OMS; 21 julio 2026. ISBN 9789240124073. https://www.who.int/publications/i/item/9789240124073
 
8. International Energy Agency. Energy and AI. París: IEA; 2025.https://www.iea.org/reports/energy-and-ai/executive-summary
 
9. European Commission. Making data centres energy efficient thanks to a new EU rating system. 21 septiembre 2026. https://commission.europa.eu/news-and-media/news/making-data-centres-energy-efficient-thanks-new-eu-rating-system-2026-09-21_en
 
10. CEPAL. ILIA 2025 se consolida como instrumento de diseño de políticas de Inteligencia Artificial en la región. Informe elaborado por CENIA en colaboración con CEPAL. 2025. https://www.cepal.org/es/notas/ilia-2025-se-consolida-como-instrumento-diseno-politicas-inteligencia-artificial-la-region