Revista Oficial del Poder Judicial

Vol. 18, n.o 25, enero-junio, 2026, 251-290

ISSN: 2663-9130 (En línea)

DOI: https://doi.org/10.35292/ropj.v18i25.1590

Explicabilidad algorítmica en IA genómica desde una perspectiva comparada con propuestas para América Latina

Algorithmic Explainability in Genomic AI: A Comparative Perspective with Proposals for Latin America

Explicabilidade algorítmica na IA genômica sob uma perspectiva comparada, com propostas para a América Latina

Olga Alejandra Alcántara Francia

Universidad Científica del Sur

(Lima, Perú)

Contacto: oalcantara@cientifica.edu.pe

https://orcid.org/0000-0001-9159-1245

Jennifer Guiselle Rojas Alvarado

Universidad Ricardo Palma

(Lima, Perú)

Contacto: jennifer.rojas@urp.edu.pe

https://orcid.org/0000-0002-1016-3140

Enrico Marcel Huarag Guerrero

Universidad Ricardo Palma

(Lima, Perú)

Contacto: enrico.huarag@urp.edu.pe

https://orcid.org/0000-0001-9985-5313

RESUMEN

La convergencia de inteligencia artificial y genómica ha generado sistemas de procesamiento automatizado de información genética aplicables a contextos médicos, aseguradores y laborales, alcanzando niveles de precisión previamente inalcanzables. Este avance contrasta con la opacidad inherente de los mecanismos decisorios algorítmicos, lo que origina conflictos entre el desarrollo tecnológico y la salvaguarda de garantías fundamentales.

La presente investigación desarrolla un examen crítico de los marcos jurídicos vigentes sobre transparencia algorítmica aplicada a sistemas genómicos de inteligencia artificial, y pone en evidencia limitaciones sustanciales en el abordaje de características distintivas de los datos genéticos: su naturaleza hereditaria, su estabilidad genómica relativa, su capacidad predictiva y su sensibilidad social. Mediante el análisis doctrinal cualitativo que fusiona la investigación jurídica comparada con el estudio de casos paradigmáticos, se examinan los marcos normativos del Reglamento General de Protección de Datos (GDPR), el Reglamento de Inteligencia Artificial (AI Act) europeo, el Reglamento Relativo al Espacio Europeo de Datos de Salud (EEDS), el Convenio de Oviedo y los desarrollos regulatorios comparados.

Esta investigación pone de manifiesto deficiencias normativas cruciales: la falta de consideración específica de los efectos familiares, la falta de marcos temporales adaptativos para las predicciones genómicas, y la carencia de principios para gestionar la incertidumbre científica inherente. Frente a ello, se plantea la «explicabilidad genómica diferenciada» como una nueva categoría jurídica que incorpora la contextualización familiar, la temporalidad adaptativa, la gestión explícita de la incertidumbre y la proporcionalidad distintiva. Los descubrimientos subrayan la imperiosa necesidad de establecer marcos regulatorios específicos que armonicen la salvaguarda de derechos fundamentales con el avance científico.

Palabras clave: inteligencia artificial genómica; explicabilidad algorítmica; protección de datos genéticos; decisiones automatizadas genómicas; transparencia algorítmica; derecho tecnológico.

ABSTRACT

The convergence of artificial intelligence and genomics has generated systems for the automated processing of genetic information applicable to medical, insurance, and employment contexts, achieving levels of accuracy previously unattainable. This progress contrasts with the inherent opacity of algorithmic decision-making mechanisms, giving rise to conflicts between technological development and the protection of fundamental guarantees.

This research conducts a critical examination of existing legal frameworks concerning algorithmic transparency applied to genomic artificial intelligence systems and reveals substantial limitations in addressing the distinctive characteristics of genetic data: its hereditary nature, relative genomic stability, predictive capacity, and social sensitivity. Through qualitative doctrinal analysis that combines comparative legal research with the study of landmark cases, the paper examines the regulatory frameworks of the General Data Protection Regulation (GDPR), the European Artificial Intelligence Act (AI Act), the Regulation on the European Health Data Space (EHDS), the Oviedo Convention, and other comparative regulatory developments.

The study highlights crucial regulatory shortcomings: the lack of specific consideration of familial effects, the absence of adaptive temporal frameworks for genomic predictions, and the lack of principles for managing inherent scientific uncertainty. In response, it proposes “differentiated genomic explainability” as a new legal category incorporating familial contextualization, adaptive temporality, explicit uncertainty management, and distinctive proportionality. The findings underscore the urgent need to establish specific regulatory frameworks that reconcile the protection of fundamental rights with scientific advancement.

Keywords: genomic artificial intelligence; algorithmic explainability; genetic data protection; automated genomic decisions; algorithmic transparency; technology law.

RESUMO

A convergência entre a inteligência artificial e a genômica tem dado origem a sistemas de processamento automatizado de informações genéticas aplicáveis a contextos médicos, securitários e laborais, alcançando níveis de precisão anteriormente inalcançáveis. Esse avanço contrasta com a opacidade inerente aos mecanismos decisórios algorítmicos, o que dá origem a conflitos entre o desenvolvimento tecnológico e a salvaguarda de garantias fundamentais.

A presente pesquisa desenvolve um exame crítico dos marcos jurídicos vigentes em matéria de transparência algorítmica aplicada a sistemas genômicos de inteligência artificial e evidencia limitações substanciais na abordagem de características distintivas dos dados genéticos: sua natureza hereditária, sua relativa estabilidade genômica, sua capacidade preditiva e sua sensibilidade social. Por meio da análise doutrinária qualitativa que combina a pesquisa jurídica comparada com o estudo de casos paradigmáticos, examinam-se os marcos normativos do Regulamento Geral de Proteção de Dados (GDPR), do Regulamento Europeu de Inteligência Artificial (AI Act), do Regulamento Relativo ao Espaço Europeu de Dados de Saúde (EEDS), da Convenção de Oviedo e dos desenvolvimentos regulatórios comparados.

Esta pesquisa evidencia deficiências normativas cruciais: a ausência de consideração específica dos efeitos familiares, a falta de marcos temporais adaptativos para as predições genômicas e a carência de princípios para gerir a incerteza científica inerente. Diante disso, propõe-se a «explicabilidade genômica diferenciada» como uma nova categoria jurídica que incorpora a contextualização familiar, a temporalidade adaptativa, a gestão explícita da incerteza e a proporcionalidade distintiva. As constatações ressaltam a imperiosa necessidade de estabelecer marcos regulatórios específicos que harmonizem a salvaguarda dos direitos fundamentais com o avanço científico.

Palavras-chave: inteligência artificial genômica; explicabilidade algorítmica; proteção de dados genéticos; decisões automatizadas genômicas; transparência algorítmica; direito da tecnologia.

Recibido: 26/2/2026

Revisado: 23/3/2026

Aceptado: 14/5/2026

Publicado en línea: 30/6/2026

1. INTRODUCCIÓN

La inteligencia artificial aplicada a genómica constituye una revolución en la capacidad predictiva de predisposiciones patológicas y en la justificación de decisiones clínicas. Los algoritmos de machine learning procesan volúmenes masivos de información genética generando predicciones que condicionan el acceso a coberturas aseguradoras, oportunidades laborales y terapias médicas.

Esta capacidad predictiva contrasta radicalmente con la opacidad inherente a los procesos decisorios algorítmicos. Los algoritmos de aprendizaje profundo empleados en genómica funcionan como «cajas negras» que, pese a su precisión, no proporcionan explicaciones comprensibles (Rudin, 2019). Esta opacidad adquiere dimensiones críticas por la naturaleza íntima, inalterable y hereditaria de los datos genéticos (Quinn et al., 2021).

La tensión entre capacidad predictiva y transparencia algorítmica se intensifica en genómica porque las decisiones automatizadas afectan no solo al individuo analizado, sino a parientes que comparten información genética; los sistemas perpetúan sesgos históricos, con bases de datos sesgadas hacia poblaciones europeas (86.3 %) (Sirugo et al., 2019), lo que resulta en predicciones menos precisas para grupos minoritarios (Martin et al., 2019); y la naturaleza predictiva a largo plazo introduce marcos temporales complejos que los sistemas jurídicos actuales no contemplan adecuadamente.

En el contexto latinoamericano, la diversidad genética de poblaciones amerindias, mestizas y afrodescendientes permanece subrepresentada en repositorios globales de datos, generando riesgo de predicciones sistemáticamente imprecisas. La carencia de marcos normativos específicos sobre transparencia algorítmica puede consolidar una asimetría estructural entre desarrollo tecnológico y salvaguarda de garantías fundamentales.

En este sentido, la pregunta de investigación que guía este trabajo es: ¿en qué medida los marcos jurídicos actuales garantizan el derecho a la explicabilidad en decisiones automatizadas genómicas, y qué elementos normativos requiere un régimen de «explicabilidad genómica diferenciada»?

El objetivo general consiste en examinar críticamente los marcos regulatorios vigentes, evidenciar sus deficiencias estructurales y desarrollar componentes normativos para un sistema de «explicabilidad genómica diferenciada». Los objetivos específicos incluyen: sistematizar marcos normativos aplicables, identificar vacíos normativos críticos mediante casos paradigmáticos, y desarrollar fundamentos conceptuales para estándares específicos de explicabilidad genómica.

La investigación adopta un enfoque cualitativo de análisis doctrinal que integra investigación jurídica comparada con análisis de casos paradigmáticos, y se estructura en tres ejes: descriptivo (sistematización normativa), crítico-analítico (evaluación de adecuación) y propositivo (desarrollo de estándares específicos).

Finalmente, el artículo se organiza en cinco secciones: el análisis comparado de los marcos regulatorios vigentes en torno a la explicabilidad genómica diferenciada; el estudio de casos paradigmáticos y sus lecciones jurídicas; los fundamentos conceptuales para futuros desarrollos normativos; los desafíos y las limitaciones identificados; y las conclusiones.

2. HACIA UNA «EXPLICABILIDAD GENÓMICA DIFERENCIADA»

La singularidad de los datos genéticos, caracterizados por su naturaleza hereditaria, inalterable, predictiva y socialmente sensible, requiere un tratamiento jurídico diferenciado que reconozca tanto la complejidad científica como las implicaciones éticas específicas. Esta sección realiza un análisis crítico de los marcos normativos vigentes con el objetivo de identificar fortalezas utilizables y vacíos críticos que faciliten la creación de un sistema de «explicabilidad genómica diferenciada».

2.1. Fundamentos conceptuales de la explicabilidad algorítmica en el contexto genómico

El desarrollo de un régimen específico para inteligencia artificial genómica demanda distinguir diferencias sustanciales entre fundamentación jurídica y explicación técnica. Kaminski y Malgieri (2021) distinguen la transparencia habilitadora de derechos (rights-enabling), que proporciona explicaciones comprensibles a personas afectadas, de la transparencia técnica y protectiva, para comprensión causal del funcionamiento sistémico. En ordenamientos donde el principio de motivación exige fundamentación comprensible —como el artículo 139.5 de la Constitución Política del Perú—, esta distinción adquiere dimensiones constitucionales específicas.

Los datos genéticos justifican un tratamiento diferenciado porque presentan cuatro características fundamentales: (i) carácter hereditario y familiar, que afecta no solo al sujeto analizado, sino a parientes con información genética similar; (ii) estabilidad genética relativa, pues si bien el genoma permanece estable en su mayor parte a lo largo de la vida del individuo, no es estrictamente inmutable (se producen mutaciones somáticas y epimutaciones); (iii) predictibilidad temporal, lo cual genera predicciones sobre condiciones futuras que pueden manifestarse décadas después; y (iv) sensibilidad social, con potencial discriminatorio históricamente documentado.

Se plantea la expresión «explicabilidad genómica diferenciada» como la garantía de acceder a información inteligible sobre mecanismos decisorios, elementos determinantes y consecuencias de resoluciones automatizadas fundamentadas en evaluación genética predictiva, que integran: (i) contextualización familiar, (ii) temporalidad predictiva, (iii) explicitación de incertidumbre, y (iv) proporcionalidad adaptativa.

2.2. El régimen europeo del GDPR: protección reforzada insuficiente para genómica

El Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos —Reglamento General de Protección de Datos (en adelante, GDPR)— constituye el referente paradigmático para protección de datos genéticos, con influencia creciente en legislaciones latinoamericanas. El artículo 22 establece el derecho a no estar sujeto a decisiones basadas únicamente en tratamiento automatizado con efectos jurídicos significativos. En contraste, Wachter et al. (2017) demuestran que el GDPR no establece un «derecho a la explicación» comprehensivo, sino únicamente derecho a recibir «información significativa sobre la lógica implicada» (arts. 13-15). Esta formulación genérica resulta inadecuada para el contexto genómico, donde la complejidad científica requiere niveles de explicación cualitativamente diferentes1.

De otro lado, el artículo 22.4 establece una protección reforzada para las categorías especiales del artículo 9 —incluyendo datos genéticos— mediante remisión, pero no define «medidas adecuadas» en contextos de explicabilidad algorítmica (Bygrave, 2020; Malgieri, 2019), con lo cual genera un vacío interpretativo crítico. En este contexto, podríamos afirmar que el GDPR presenta algunas insuficiencias estructurales que se manifiestan en tres dimensiones: primera, la ausencia de consideración de efectos familiares. El marco se construye sobre consentimiento individual, sin contemplar qué decisiones automatizadas genómicas pueden revelar información sobre terceros no consentidores. Segunda, la falta de reconocimiento de dimensión temporal. El GDPR establece principios de exactitud (art. 5.1.d), pero no contempla qué interpretaciones genómicas evolucionan constantemente. Una variante clasificada como «benigna» puede reclasificarse como «patogénica» años después, sin mecanismos claros de actualización. Y, finalmente, la ausencia de protección frente a discriminación genética sistémica. El GDPR prohíbe la discriminación (considerando 71), pero no establece obligaciones específicas para mitigar sesgos en bases de datos no representativas, perpetuando así la discriminación algorítmica estructural.

2.3. El AI Act europeo: del modelo de protección de datos hacia la regulación por riesgos

Reconociendo las limitaciones del enfoque centrado exclusivamente en protección de datos, el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (en adelante, AI Act), adopta un paradigma complementario cuyo objeto es armonizar el mercado interior (unidad del mercado interior de la Unión Europea), pues establece normas para el desarrollo y el uso de la IA, y se basa en una clasificación de riesgos y obligaciones de transparencia diferenciadas (Pizzetti et al., 2025). Este modelo introduce elementos que, al menos teóricamente, podrían subsanar algunas deficiencias identificadas en el GDPR respecto a la explicabilidad genómica. Los sistemas de IA para «evaluación de riesgos y fijación de precios en seguros de vida y salud» se consideran de alto riesgo (anexo III, punto 5, letra c), aplicable a IA genómica en contextos aseguradores.

El artículo 13 exige que los sistemas de IA de alto riesgo vayan acompañados de instrucciones de uso con «información concisa, completa, correcta y clara» sobre sus «características, capacidades y limitaciones del funcionamiento», disposición dirigida principalmente a los responsables del despliegue, lo que para sistemas genómicos debería incluir limitaciones de predicción genética, márgenes de incertidumbre y sesgos poblacionales.

Sin embargo, este reglamento presenta también algunas limitaciones, como que la definición de alto riesgo excluye aplicaciones en investigación o empleo, lo que limita su alcance protector; o que los requisitos permanezcan formulados en términos generales sin especificaciones para particularidades genómicas. No establece obligaciones de divulgar composición poblacional de datos de entrenamiento ni limitaciones predictivas para poblaciones subrepresentadas; asimismo, el marco no contempla autoridades especializadas en genómica. El artículo 64 regula la Oficina Europea de IA —establecida mediante Decisión de la Comisión— sin mandato específico para estándares técnicos en explicabilidad genómica; el artículo 70 regula la designación de autoridades nacionales competentes y puntos de contacto único.

2.4. El Espacio Europeo de Datos de Salud: gobernanza digital de datos genómicos

El marco regulatorio europeo se complementa con el Reglamento (UE) 2025/327 del Parlamento Europeo y del Consejo, de 11 de febrero de 2025, relativo al Espacio Europeo de Datos de Salud (en adelante, EEDS), publicado en el Diario Oficial de la Unión Europea el 5 de marzo de 2025 y en vigor desde el 26 de marzo de 2025. Este instrumento introduce una arquitectura jurídica de gobernanza para el acceso, la portabilidad y la reutilización de datos de salud electrónicos —incluidos expresamente los datos genéticos— en entornos digitales transfronterizos, por lo cual constituye un complemento sectorial al GDPR y al AI Act, de especial relevancia para los sistemas de IA genómica. Su entrada en vigor marca el inicio de una fase de transición hacia la aplicación plena de sus disposiciones, cuya arquitectura de gobernanza incide directamente sobre los contextos de tratamiento algorítmico de datos genómicos analizados en este trabajo.

En lo que respecta a la explicabilidad en IA genómica, el Reglamento (UE) 2025/327 introduce tres desarrollos de particular interés. Primero, refuerza el derecho de acceso de los titulares a sus propios datos de salud electrónicos y su control efectivo sobre ellos, incluyendo datos genómicos procesados por sistemas algorítmicos; esta disposición fortalece las condiciones materiales para el ejercicio del derecho a la explicación en entornos digitales integrados. Segundo, regula la reutilización de datos de salud —categoría que abarca explícitamente los datos genéticos— con fines de investigación e innovación; ámbito donde los algoritmos genómicos operan frecuentemente sin el nivel de escrutinio previsto para dispositivos médicos. El Reglamento introduce condiciones de acceso y transparencia sobre las finalidades del procesamiento secundario, incidiendo sobre la opacidad algorítmica estructural identificada en las secciones precedentes. Tercero, establece mecanismos de gobernanza para la infraestructura digital de datos de salud, cuya articulación con los requisitos de explicabilidad del GDPR (arts. 13-15 y 22) y del AI Act (art. 13) podría fundamentar estándares sectoriales específicos para sistemas de IA genómica, particularmente en lo relativo a los usos secundarios de información genómica en investigación y en entornos aseguradores.

No obstante, el EEDS presenta limitaciones relevantes para los propósitos del presente análisis. El Reglamento no establece estándares técnicos vinculantes sobre divulgación de sesgos poblacionales en datos de entrenamiento, no contempla la dimensión hereditaria y relacional de los datos genéticos, y no introduce obligaciones específicas de actualización frente a la reclasificación de variantes genéticas conforme evoluciona el conocimiento científico. Su valor principal reside en la construcción de una infraestructura digital de gobernanza sobre la que podrían edificarse, en desarrollos normativos posteriores, los estándares específicos de explicabilidad genómica diferenciada propuestos en este trabajo. En esa medida, el EEDS representa una oportunidad normativa que los sistemas latinoamericanos, y en particular el peruano, podrían considerar como referente en sus desarrollos regulatorios propios, en articulación con las bases constitucionales identificadas en la sección 6.3.

2.5. Marcos internacionales: principios estructurales del Convenio de Oviedo

El Convenio para la Protección de los Derechos Humanos y la Dignidad del Ser Humano con Respecto a las Aplicaciones de la Biología y la Medicina: Convenio sobre Derechos Humanos y Biomedicina, también conocido como el Convenio de Oviedo (1997) constituye el instrumento internacional jurídicamente vinculante más relevante en el ámbito de la biomedicina, con efecto obligatorio para los Estados miembros del Consejo de Europa que lo han ratificado, y establece principios fundamentales para la regulación de tecnologías emergentes de aplicación general2.

El artículo 11 prohíbe «toda forma de discriminación de una persona a causa de su patrimonio genético», aplicable a sistemas de IA genómica. El artículo 12 establece que tests predictivos «solo podrán efectuarse con fines sanitarios», limitando significativamente su uso en contextos aseguradores o laborales (Andorno, 2005).

La Declaración Universal sobre el Genoma Humano y los Derechos Humanos —adoptada por la Conferencia General de la Unesco en 1997 (en adelante, Declaración Unesco3)—, instrumento de soft law4 carente de fuerza jurídica vinculante directa, pero dotado de destacada autoridad moral y política en el ámbito internacional, complementa este marco prohibiendo discriminaciones «cuyo objeto o efecto» atente contra derechos humanos, incluyendo sesgos algorítmicos no intencionales derivados de bases de datos no representativas.

Estos instrumentos establecen tres principios estructurales: la restricción finalista del uso de información genética a propósitos sanitarios legítimos; la prohibición de discriminación genética intencional y de efecto; y la dignidad humana como límite a aplicaciones tecnológicas.

2.6. Lecciones de marcos normativos comparados

Estados Unidos: la Genetic Information Nondiscrimination Act de 2008 (GINA) establece protección contra discriminación en seguros de salud y empleo, pero excluye seguros de vida, discapacidad y cuidados prolongados, con lo cual deja desprotegidos a sectores críticos (Suter, 2018).

Reino Unido: el Information Commissioner’s Office (ICO) establece que el procesamiento de datos genéticos «requiere una Evaluación de Impacto de Protección de Datos (DPIA)» (ICO, 2021). Este enfoque de autorregulación supervisada presenta flexibilidad, pero carece de fuerza normativa vinculante para establecer estándares mínimos uniformes.

América Latina: la tabla 1 sistematiza el desarrollo de algunos marcos emergentes que revelan una oportunidad estratégica, puesto que ninguna jurisdicción ha desarrollado aún marcos comprehensivos para la explicabilidad genómica diferenciada.

Tabla 1

Marcos latinoamericanos

País	Marco	Fortaleza	Limitación
Chile	Ley Datos Personales 2024 + Proyecto IA	Primera legislación con datos genéticos específicos	Sin requisitos explicabilidad algorítmica
Argentina	Resolución 161/2023 Agencia de Acceso a la Información Pública (AAIP)	Marco institucional más consolidado	Instrumentos soft law sin fuerza vinculante
Brasil	Lei Geral de Proteção de Dados Pessoais (LGPD) 2020, art. 20	Derecho explícito a explicación	Sin estándares técnicos específicos
Colombia	Sentencia T-067/2025	Precedente transparencia algorítmica	Alcance limitado a aplicaciones algorítmicas de entidades públicas
Perú	Ley n.o 29733 + Reglamento Constitución	Bases constitucionales sólidas	DS 016-2024-JUS (nov. 2024): primera inclusión expresa de datos genéticos como sensibles

Perú dispone de regulación desde 2013 mediante la Ley de Protección de Datos Personales; su reglamento original fue sustituido en 2024 por el Decreto Supremo n.o 016-2024-JUS (Reglamento de la Ley n.o 29733), el cual categoriza datos genéticos como «datos sensibles» (art. III.6) y «datos personales relacionados con salud» (art. III.5), demanda consentimiento escrito reforzado (art. 8) y habilita evaluaciones de impacto de carácter facultativo (art. 40).

2.7. Vacíos normativos críticos identificados

El examen sistemático revela deficiencias estructurales fundamentales. Primero, se constata carencia de definiciones jurídicas precisas para conceptos como «explicabilidad genómica», «decisión automatizada genética» o «discriminación algorítmica genética», generando ambigüedad interpretativa crítica. En segundo lugar, la inexistencia de estándares técnicos vinculantes sobre divulgación de composición poblacional de datos de entrenamiento, de comunicación de márgenes de error estratificados por ancestría, o de explicación de limitaciones temporales.

A esto se suma la ausencia de mecanismos de protección para efectos familiares. Los marcos regulatorios se centran en la protección individual sin contemplar que algunas predicciones algorítmicas pueden perjudicar a familiares no consentientes. Y la falta de regulación de aspectos temporales de predicciones puede extenderse en décadas, sin obligaciones de actualización conforme evoluciona el conocimiento científico.

Finalmente, se advierte la carencia de autoridades con expertise genómico especializado necesario para evaluar la adecuación de explicaciones en sistemas complejos. Estos vacíos demuestran que la protección efectiva requiere desarrollar marcos conceptuales específicos que aborden las particularidades identificadas.

Los vacíos normativos identificados no constituyen meras deficiencias teóricas, sino que generan consecuencias prácticas documentables en la implementación real de sistemas de IA genómica. Para evidenciar estas consecuencias y extraer lecciones aplicables a contextos regulatorios diversos, la siguiente sección examina tres casos paradigmáticos que ilustran cómo la ausencia de marcos específicos de explicabilidad afecta tanto la protección de derechos fundamentales como la innovación responsable.

3. ESTUDIO DE CASOS PARADIGMÁTICOS Y LECCIONES JURÍDICAS

La selección de casos obedece a: (i) establecimiento de precedente regulatorio vinculante; (ii) pertinencia genómica directa; (iii) influencia en construcción de marcos de explicabilidad; y (iv) representatividad de contextos diversos. Este criterio permite derivar enseñanzas aplicables a sistemas jurídicos en desarrollo con recursos institucionales y marcos normativos variados.

3.1. Caso Paige AI: explicabilidad como requisito regulatorio en diagnóstico oncológico

En septiembre de 2021, la Food and Drug Administration de los Estados Unidos (FDA) otorgó autorización a Paige Prostate, primer software de patología basado en IA con requisitos específicos de explicabilidad algorítmica (Business Wire, 2021), a fin de que analizara biopsias prostáticas mediante redes neuronales profundas para identificar adenocarcinoma; se estableció así un precedente fundamental sobre estándares mínimos de transparencia en aplicaciones médicas genómicas.

Sin embargo, pese a su precisión diagnóstica, el sistema operaba como «caja negra» sin información sobre características histológicas contribuyentes, ponderación de marcadores, limitaciones para casos atípicos, o validación en poblaciones diversas. Esto generaba problemas de responsabilidad profesional y planteaba la siguiente interrogante sobre cómo ejercer supervisión sin comprender el razonamiento algorítmico.

La FDA (2024) estableció que la información que genere riesgos debe comunicarse a todos los interactuantes, lo que se tradujo en la obligación de brindar la documentación comprehensiva sobre la arquitectura, los datos de entrenamiento y las métricas estratificadas; de explicar en tiempo real los mapas de activación y los niveles de confianza; y los protocolos de supervisión humana cualificada especificando el uso de un sistema de IA como herramienta de soporte. El análisis del caso llevó a tres constataciones básicas; en primer término, que la explicabilidad técnica es necesaria pero insuficiente. Los mapas de activación proporcionan transparencia para expertos, mas no resuelven la comunicación con pacientes. En genómica, la divulgación de ponderaciones de variantes no constituye explicación comprensible para los no especialistas.

En segundo término, la validación poblacional debe ser explícita y estratificada. La FDA exigió una demostración de rendimiento en poblaciones diversas, dada la existencia de sesgos hacia poblaciones europeas en bases de datos genómicas.

Adicionalmente, la supervisión humana cualificada es insustituible. En genómica predictiva, los algoritmos de riesgo poligénico no podrían fundamentar decisiones sin intervención de genetistas certificados. Esto muestra que la autorización de la FDA se limita a dispositivos médicos comercializados, sin alcanzar algoritmos genómicos en investigación, contextos aseguradores o aplicaciones directas al consumidor, lo cual genera fragmentación regulatoria.

El caso Paige AI ilustró las tensiones de explicabilidad en el contexto de diagnóstico clínico individual con supervisión médica directa. Sin embargo, la explicabilidad genómica enfrenta otras complejidades cuando se trata de predicciones basadas en riesgos poligénicos que afectan a poblaciones enteras. El siguiente caso examina estas dimensiones poblacionales y la gestión de incertidumbre inherente.

3.2. Caso eMERGE: complejidad de explicabilidad en riesgos poligénicos clínicos

La red eMERGE implementó un sistema para comunicación de evaluaciones de riesgo genómico fundamentadas en polygenic risk scores (PRS) aplicado a 25 000 participantes de ancestrías diversas (Lennon et al., 2024). Los PRS agregan efectos de numerosas variantes para predecir predisposiciones a enfermedades complejas, generando predicciones probabilísticas emergentes que no pueden descomponerse en factores causales comprensibles.

El sistema de IA operaba con limitaciones críticas donde el personal clínico y los pacientes recibían puntajes numéricos sin información sobre variantes contribuyentes, ponderaciones, poblaciones de entrenamiento, validación en grupos diversos, o limitaciones para ancestrías no europeas. Al respecto, Martin et al. (2017) documentan que la historia demográfica impacta en la predicción, lo que resulta en puntajes sistemáticamente menos precisos para la ascendencia no europea y genera una discriminación algorítmica que compromete los principios de no discriminación establecidos en el artículo 11 del Convenio de Oviedo —vinculante para sus Estados parte— y los estándares análogos de la Declaración Unesco.

Las agencias reguladoras establecieron que los PRS necesitaban marcos de transparencia específicos debido a su complejidad algorítmica y su influencia en las decisiones clínicas. Entonces, si la FDA desea proporcionar información completa para algoritmos poligénicos, debe solicitar el código correspondiente, que incluya los riesgos pre-test de enfermedad derivados de combinaciones de edad, sexo, etnicidad y otros predictores pertinentes.

Mientras que los casos Paige y eMERGE se desarrollaron primariamente en contextos clínicos y de investigación bajo marcos regulatorios específicos, en el caso Illumina/GRAIL se introducen dimensiones adicionales relacionadas con concentración de mercado, acceso equitativo a tecnologías genómicas de detección y el papel de autoridades de competencia en la supervisión de transparencia algorítmica. El siguiente caso nos demuestra cómo la explicabilidad algorítmica se entrelaza con consideraciones antimonopolio y de salud pública.

3.3. Caso Illumina/GRAIL: transparencia algorítmica en detección multicáncer

El caso Illumina/GRAIL representa un precedente significativo para requisitos de transparencia algorítmica en sistemas genómicos de detección oncológica. La Federal Trade Commission (FTC) presentó una denuncia administrativa con objetivo de bloquear la adquisición de $7.1 billones por Illumina de GRAIL, compañía desarrolladora de pruebas de detección temprana multicáncer mediante secuenciación de ADN (FTC, 2024). A pesar de que el caso se centró en asuntos vinculados al antimonopolio, se instauraron precedentes fundamentales para la divulgación de algoritmos genómicos empleados en un diagnóstico clínico.

GRAIL desarrolló el test Galleri, sistema algorítmico identificador de hasta cincuenta tipos de cáncer en pacientes asintomáticos, y es actualmente la única compañía que produce una prueba efectiva multioncológica a este nivel. Sin embargo, operaba con limitaciones de transparencia: clínicos y pacientes recibían resultados sin información comprensible sobre algoritmos específicos procesadores de datos, entrenamiento de modelos, bases de datos de calibración, validación de rendimiento, ni limitaciones predictivas para neoplasias raras o poblaciones subrepresentadas.

En respuesta, surgieron inquietudes sistemáticas acerca de la ausencia de transparencia en algoritmos genómicos comerciales críticos para la salud. La FTC sostuvo que (i) la concentración vertical podría limitar la innovación en algoritmos de detección más explicables y accesibles; y que (ii) la fusión «amenaza con sofocar la competencia en curso en la carrera para desarrollar y comercializar pruebas de detección temprana de múltiples cánceres» (Manalac, 2023).

La situación sugiere que los futuros algoritmos genómicos de identificación de enfermedades deben exhibir no solo precisión en el diagnóstico, sino también accesibilidad a un nivel competitivo y transparencia en términos algorítmicos para prevenir la formación de monopolios que limiten la innovación hacia sistemas más comprensibles.

3.4. Patrones jurídicos recurrentes: síntesis transversal

3.4.1. Tensión estructural: complejidad algorítmica versus comprensibilidad jurídica

Los casos revisados evidencian una problemática clara, en primer lugar, la precisión predictiva óptima requiere algoritmos complejos que integran millones de variables; y, en segundo lugar, la legitimidad jurídica demanda comprensibilidad para lograr una supervisión efectiva. Esto nos lleva a preguntarnos ¿hasta qué punto podemos aceptar decisiones precisas, pero incomprensibles, frente a decisiones comprensibles, pero menos precisas? Un PRS con primas de seguros que integran dos millones de variantes puede ser estadísticamente óptimo, pero jurídicamente ilegítimo si los asegurados no pueden comprender ni impugnar sus fundamentos.

3.4.2. Sesgos poblacionales y discriminación algorítmica por efecto

Los PRS muestran una reducción del 20-80 % en precisión para poblaciones africanas, asiáticas o latinoamericanas mestizas (Lennon et al., 2024). Esta disparidad estructural constituye discriminación algorítmica por efecto —prohibida por la Declaración Unesco de 1997 en su artículo 6—, lo cual requiere del sustento a través de una documentación de la composición poblacional, de la validación del rendimiento en poblaciones diversas, y de la comunicación de las limitaciones de forma clara, así como de la implementación de medidas correctivas.

La diversidad genética con contribuciones amerindias, europeas y africanas vuelve a las poblaciones latinoamericanas particularmente vulnerables. Los PRS desarrollados con datos europeos generarían predicciones imprecisas para la población mestiza, lo cual constituiría una suerte de discriminación estructural.

3.4.3. Ausencia de marcos temporales adaptativos

Las predicciones genómicas operan en décadas. Un PRS que estime el riesgo de Alzheimer puede predecir que la condición podría manifestarse 30-40 años después, período donde el conocimiento científico evolucionaría sustancialmente. En tal sentido, los marcos actuales no contemplan la adopción de obligaciones de actualización temporal; ni los mecanismos de notificación sobre reclasificaciones; ni tampoco los protocolos de revisión cuando cambia la base científica. A modo de ejemplo hipotético ilustrativo de esta problemática, supóngase que una aseguradora deniega la cobertura en 2020 basándose en un PRS y clasificándolo como variante de «alto riesgo»5. La investigación publicada en 2024 reclasificó la variante como de «riesgo moderado». Esta situación plantea una serie de cuestionamientos: ¿tiene el asegurado un derecho a revisión? ¿Tiene la aseguradora una obligación de monitoreo activo? Los marcos actuales no proporcionan respuestas.

3.4.4. Indeterminación en supervisión humana cualificada

Los casos revisados revelan que la supervisión humana funciona como una salvaguarda esencial. Sin embargo, persiste la indeterminación acerca de lo que constituye supervisión «cualificada»; ello deja sin respuesta algunos cuestionamientos como los siguientes: ¿qué formación en IA necesitan los patólogos para una supervisión efectiva?, ¿cuántos genetistas comprenden las bases metodológicas GWAS o los modelos bayesianos de los sistemas que validan? Esta indeterminación genera problemas de responsabilidad cuando las decisiones resultan erróneas o fracasan.

El análisis transversal de problemas jurídicos repetitivos revela patrones consistentes que trascienden contextos regulatorios específicos y evidencian la necesidad de articular principios doctrinales generales que puedan orientar desarrollos normativos futuros, independientemente de las particularidades jurisdiccionales.

3.5. Principios doctrinales emergentes

Este análisis sustenta la formulación de cinco principios básicos:

a) Proporcionalidad diferenciada según impacto. La exigibilidad de decisiones algorítmicas debe establecerse en correlación con la gravedad de las consecuencias. Las decisiones con efectos irreversibles sobre la integridad física (mastectomía preventiva BRCA) requieren de una explicabilidad reforzada respecto de intervenciones reversibles (screening adicional).

b) Divulgación obligatoria de sesgos poblacionales. Los desarrolladores tienen la obligación de revelar la composición poblacional de datos de entrenamiento y las limitaciones predictivas derivadas. Las fórmulas divulgativas deben ser cuantitativas: «este PRS fue entrenado con 92 % de datos europeos; precisión para latinoamericanos mestizos puede ser 30-60 % inferior».

c) Contextualización temporal explícita. Las explicaciones deben incluir marcos temporales de predicciones, el carácter evolutivo del conocimiento científico, los límites de validez temporal del modelo y mecanismos de actualización. La explicabilidad es un proceso continuo, no un evento único.

d) Explicabilidad estratificada por destinatario. Los sistemas deben proporcionar explicaciones adaptadas a diferentes niveles de expertise: pacientes, clínicos, investigadores, reguladores. La información debe estar centrada en impacto vital para los pacientes, una fundamentación científico-clínica para profesionales, detalle metodológico para investigadores, y la trazabilidad completa para autoridades.

e) Supervisión humana cualificada obligatoria en alto riesgo. En los contextos críticos, los sistemas algorítmicos deben diseñarse como herramientas de soporte, no una decisión automatizada completa. La supervisión debe ejercerse por profesionales con formación genómica, comprensión de limitaciones algorítmicas, capacidad evaluativa y autoridad para anular recomendaciones.

4. FUNDAMENTOS CONCEPTUALES PARA DESARROLLOS NORMATIVOS FUTUROS

El examen sistemático de marcos regulatorios vigentes y el análisis de casos paradigmáticos evidencian la necesidad de desarrollar fundamentos conceptuales específicos que orienten la elaboración de marcos normativos para explicabilidad en IA genómica, equilibrando: (i) rigor científico, (ii) viabilidad jurídica, y (iii) adaptabilidad regional. Las propuestas desarrolladas buscan proporcionar herramientas que guíen a legisladores considerando particularidades de sistemas latinoamericanos con recursos institucionales variados.

4.1. Taxonomía de decisiones automatizadas genómicas: marco tridimensional

Siguiendo a Barocas et al. (2019), los sistemas algorítmicos demandan marcos clasificatorios específicos para comprensión de riesgos particulares. La taxonomía desarrollada opera en tres dimensiones interdependientes, lo cual genera una matriz operativa para actores jurídicos con flexibilidad adaptativa regional.

Tabla 2

Taxonomía tridimensional de decisiones automatizadas genómicas

Nivel de riesgo	Sector	Tipo de predicción	Requisitos explicabilidad
ALTO Enfermedades monogénicas graves, intervenciones irreversibles, análisis en menores	Salud (diagnóstico, oncología)	Diagnóstica (variantes causales alta penetrancia)	Explicación técnica completa + supervisión obligatoria por genetista + divulgación validación + incertidumbre cuantificada
MEDIO Enfermedades multifactoriales, farmacogenómica, estudios portadores	Seguros (salud), empleo (screening específico)	Predictiva corto-medio plazo (PRS 5-20 años)	Explicación sustancial + divulgación sesgos poblacionales + supervisión recomendada + limitaciones temporales
BAJO Análisis ancestrales, genealogía, rasgos no médicos	Investigación, consumidor directo (ancestría)	Predictiva largo plazo (>20 años o vida completa)	Explicación básica + transparencia limitaciones + consentimiento estándar

El despliegue de sistemas predictivos genómicos demanda análisis diferenciado según el sector aplicativo. En el ámbito clínico, donde resoluciones algorítmicas afectan directamente la vida y la salud de personas, rige un estándar reforzado de explicabilidad: toda predicción diagnóstica o recomendación terapéutica demanda transparencia algorítmica completa, dada la trascendencia médica de sus consecuencias (European Data Protection Board [EDPB], 2018).

El ámbito asegurador enfrenta restricciones adicionales: el artículo 12 del Convenio de Oviedo circunscribe los análisis predictivos genéticos exclusivamente a finalidades sanitarias, lo que limita considerablemente su utilización legítima en procesos de valoración actuarial o selección de riesgos.

Las relaciones de empleo presentan prohibiciones específicas: GINA impide a los empleadores solicitar o utilizar información genética de trabajadores. Este veto debe extenderse, por interpretación teleológica, a sistemas de decisión automatizada que, sin acceder directamente a genomas, procesen información correlacionada o inferencias genéticas indirectas.

4.2. Marco de cinco principios estructurales para explicabilidad genómica diferenciada

4.2.1. Principio de contextualización familiar

Los datos genómicos exceden el ámbito individual e impactan a familiares con información genética compartida (Burke et al., 2013). Por ejemplo, cuando un algoritmo detecta una variante BRCA1 patogénica, la explicación debe incluir la probabilidad del 50 % de herencia en hijos/as; el riesgo del 72 % acumulativo de cáncer de mama en portadoras (Kuchenbaecker et al., 2017); y el riesgo incrementado en varones portadores. Esta contextualización faculta a las personas para ejercer decisiones autónomas e informadas sobre la comunicación de hallazgos genéticos a sus familiares. En el contexto latinoamericano, en donde los marcos constitucionales protegen a la familia (como ocurre, por ejemplo, con el artículo 4 de la Constitución peruana), la explicabilidad debe contemplar efectos en grupos familiares vulnerables.

4.2.2. Principio de transparencia temporal

Las predicciones genómicas no operan sobre horizontes temporales uniformes ni estáticos, dado que el significado clínico de las variantes genéticas se modifica continuamente conforme avanza la investigación científica (Green et al., 2020; Khoury et al., 2013). Esta característica exige que, por ejemplo, un score poligénico que estime susceptibilidad a enfermedad de Alzheimer incorpore delimitación temporal precisa («riesgo acumulado entre los 65 y 85 años»), advertencia sobre provisionalidad («esta interpretación puede experimentar revisiones sustanciales en 10-20 años»), explicitación de límites predictivos («este score NO determina el momento de manifestación sintomática»), e identificación de factores ambientales modificables, como nivel educativo, patrones alimentarios y actividad física. Esta complejidad temporal obliga a que los marcos regulatorios instituyan obligaciones de actualización periódica cuando emerja nueva evidencia científica que modifique la interpretación de variantes o la validez de los modelos predictivos.

4.2.3. Principio de incertidumbre explícita

La comunicación efectiva de la incertidumbre constituye un requisito esencial para la explicabilidad algorítmica en genómica (MacArthur et al., 2014; Wand et al., 2021). Un PRS orientado a estimar riesgo de enfermedad coronaria debe transparentar, como mínimo, cuatro dimensiones de incertidumbre: la algorítmica, expresada cuantitativamente mediante intervalos de confianza («precisión 68 %, IC 95 %: 64-72 %»); la científica, vinculada al estado provisional del conocimiento («basado en 147 variantes identificadas mediante GWAS hasta 2024; el descubrimiento de nuevas variantes podría modificar esta estimación»); la biológica, referida a la variabilidad individual no capturada por el modelo («individuos con PRS idénticos pueden presentar trayectorias clínicas diferentes debido a factores ambientales, modificaciones epigenéticas y variantes raras no incluidas»); y la derivada de sesgos poblacionales en los datos de entrenamiento («desarrollado con datos 89 % europeos; la precisión para poblaciones latinoamericanas mestizas puede experimentar reducción del 30-50 %»).

4.2.4. Principio de proporcionalidad adaptativa

La profundidad explicativa debe modularse según la severidad de las consecuencias de cada predicción genómica (Bunnik et al., 2013; Miller et al., 2017). En pruebas de alto riesgo como Huntington, se requiere explicación técnica completa que abarque metodología de secuenciación, validación independiente, consejería genética obligatoria, discusión de implicaciones familiares y opciones reproductivas. Para riesgos medios como PRS de diabetes, la explicación debe incluir factores genéticos principales, riesgo relativo y absoluto con intervalos de confianza, factores modificables y limitaciones por ancestría. En análisis de bajo riesgo como ancestría genética, basta una explicación básica de metodología, transparencia sobre limitaciones y advertencia sobre implicaciones sociales.

4.2.5. Principio de comprensibilidad especializada

La explicabilidad efectiva exige adaptar el contenido y el formato informativo a las necesidades específicas de cada audiencia. Los pacientes requieren lenguaje no técnico, analogías comprensibles, visualizaciones claras, información accionable y recursos de apoyo. Los clínicos no genetistas necesitan resúmenes orientados a decisiones, referencias a guías clínicas, interpretación según criterios ACMG y recomendaciones de screening. Los genetistas clínicos demandan metodología técnica completa, identificación precisa de variantes, clasificación ACMG/AMP y evidencia funcional y poblacional. Los investigadores precisan acceso al código algorítmico, especificaciones de datos de entrenamiento y validación, protocolos de control de calidad y análisis de sensibilidad. Las autoridades regulatorias requieren evaluación de equidad algorítmica, análisis de impacto diferencial entre poblaciones, protocolos formalizados de actualización y mecanismos de vigilancia posimplementación.

4.3. Componentes normativos fundamentales para marco regulatorio específico

Los principios requieren traducción en elementos normativos concretos:

4.3.1. Definiciones legales precisas

• «Decisión automatizada genómica». Decisión mediante procesamiento algorítmico de datos genéticos con efectos jurídicos significativos o que afecta al interesado o a familiares biológicos.
• «Explicabilidad genómica diferenciada». Derecho a información comprensible sobre proceso decisorio, factores determinantes, limitaciones científicas, sesgos poblacionales e implicaciones familiares.
• «Discriminación algorítmica genética». Trato diferenciado perjudicial por procesamiento algorítmico sin justificación objetiva, incluyendo discriminación por efecto derivada de sesgos poblacionales.

4.3.2. Obligaciones diferenciadas por nivel de riesgo

• Alto riesgo. Evaluación de impacto obligatoria, supervisión humana cualificada obligatoria, auditoría técnica independiente, registro público, monitoreo continuo.
• Medio riesgo. Evaluación de impacto simplificada, supervisión humana recomendada, documentación técnica disponible, notificación a autoridad.
• Bajo riesgo. Transparencia básica, consentimiento informado estándar, derecho de acceso a información.

4.3.3. Procedimientos de impugnación y reparación

Derecho a revisión humana cualificada, acceso a una segunda opinión independiente, procedimientos expeditos para casos urgentes, mecanismos de reparación efectiva considerando irreversibilidad de decisiones, inversión de carga probatoria en discriminación presunta.

4.3.4. Marco institucional de supervisión

Para sistemas latinoamericanos: comisión técnica interdisciplinaria en autoridad de datos existente; consejo asesor con genetistas, bioeticistas, juristas y organizaciones de pacientes; coordinación con autoridades sanitarias; mecanismos de cooperación regional.

5. DESAFÍOS Y LIMITACIONES IDENTIFICADOS

Los fundamentos conceptuales propuestos —taxonomía tridimensional, cinco principios rectores y elementos normativos esenciales— configuran un marco coherente para la explicabilidad genómica diferenciada. Sin embargo, su viabilidad práctica enfrenta desafíos complejos en dimensiones técnicas, jurídicas, institucionales y evolutivas, lo que genera tensiones que demandan decisiones normativas sobre trade-offs inevitables.

Para sistemas latinoamericanos, estos desafíos vinculan recursos limitados con marcos constitucionales que priorizan derechos fundamentales, pero operan con restricciones presupuestarias. El reconocimiento de estas limitaciones no impide el desarrollo regulatorio, sino que fundamenta estrategias realistas y sostenibles.

5.1. Tensiones jurídicas fundamentales sin solución técnica perfecta

5.1.1. Trade-off estructural: precisión algorítmica versus transparencia

Se presenta una correlación inversa ineludible entre complejidad algorítmica e interpretabilidad. Rudin et al. (2020) demuestran que arquitecturas complejas (redes neuronales) alcanzan mayor precisión sacrificando transparencia, mientras modelos interpretables (regresión logística) facilitan comprensión, pero exhiben rendimiento inferior. En su investigación, los autores Caruana et al. (2015) demostraron empíricamente este fenómeno en contextos médicos.

En genómica, la tensión es crítica; la predicción precisa de riesgos poligénicos, requiere integrar millones de variantes en relaciones no lineales, donde las redes neuronales sobresalen, pero carecen de interpretabilidad (Novakovsky et al., 2023). Simplificar para mejorar la interpretabilidad implica una pérdida de precisión predictiva.

Los marcos regulatorios deben decidir explícitamente sobre este trade-off. ¿Hasta qué punto se puede sacrificar la precisión —potencialmente salvadora de vidas— por la transparencia? Para decisiones médicas irreversibles, podría pensarse en adoptar modelos interpretables, aunque menos precisos. Para un screening poblacional con consecuencias graves de falsos negativos, podría justificarse una mayor opacidad compensada con supervisión humana. En los sistemas de salud pública con recursos limitados, la presión por maximizar precisión con presupuestos restringidos puede generar incentivos perversos hacia sistemas opacos, pero baratos, sin inversión en supervisión especializada.

5.1.2. Tensión entre divulgación algorítmica y propiedad intelectual

Los desarrolladores enfrentan la disyuntiva entre divulgación necesaria para la explicabilidad y la protección de secretos comerciales. Al respecto, Selbst (2018) ha analizado la problemática que se presenta cuando la transparencia completa compromete ventajas competitivas. En el sector de la genómica, este conflicto se intensifica debido al uso de algoritmos evolutivos que requieren actualización continua con nueva evidencia científica, lo que implica inversiones recurrentes que las empresas buscan proteger mediante estrategias de opacidad.

Este contexto nos plantea una interrogante fundamental acerca de ¿hasta qué punto la protección comercial justifica la opacidad en sistemas con efectos jurídicos sobre derechos fundamentales? Al respecto, la Sentencia T-067/2025 colombiana reconoció que la transparencia es un derecho fundamental en aplicaciones gubernamentales, pero no se pronunció sobre esta misma problemática en los contextos comerciales privados.

Un modelo de divulgación estratificada resultaría más adecuado, y se establecerían tres niveles diferenciados: (i) divulgación completa a las autoridades reguladoras bajo compromisos de confidencialidad; (ii) divulgación sustancial a los profesionales encargados de la supervisión clínica; y (iii) divulgación simplificada y comprensible para las personas afectadas. Este esquema permitiría preservar la protección comercial razonable sin comprometer la supervisión efectiva del sistema.

5.2. Limitaciones técnicas con implicancias jurídicas directas

5.2.1. Opacidad inherente a arquitecturas de deep learning

Las redes neuronales profundas que sobresalen en tareas genómicas presentan opacidad inherente ineliminable sin sacrificar la capacidad predictiva. Al respecto, Talukder et al. (2021) señalan que «las DNNs son desafiadas por su naturaleza de caja negra» pese a su precisión.

Esta limitación genera problemas de responsabilidad. Cuando una DNN clasifica incorrectamente una variante patogénica como benigna, retrasando el diagnóstico, ¿quién es responsable si nadie puede trazar cómo el sistema llegó a esa conclusión? Técnicas post-hoc como SHAP o LIME proporcionan aproximaciones con limitaciones: (i) son aproximaciones, no representaciones exactas; (ii) técnicas diferentes generan explicaciones contradictorias; (iii) pueden ser inestables con pequeñas variaciones (Novakovsky et al., 2023).

Los estándares de responsabilidad civil deberían adaptarse a contextos donde la causalidad algorítmica no puede determinarse con certeza, justificando regímenes de responsabilidad objetiva para desarrolladores de sistemas de alto riesgo.

5.2.2. Complejidad biológica: penetrancia incompleta y expresividad variable

La expresión genética opera sujeta a múltiples factores ambientales y epigenéticos. Los autores Kingdom y Wright (2022) señalan en su investigación que la penetrancia incompleta (portadores que nunca desarrollan enfermedad) y la expresividad variable (severidad diferente en individuos) son ubicuos. Factores modificadores incluyen: edad, sexo, dieta, medicamentos, actividad física, exposiciones, educación, estatus socioeconómico, y modificadores genéticos —muchos desconocidos o imposibles de modelar—. Incluso algoritmos perfectos generarían predicciones probabilísticas con márgenes sustanciales de incertidumbre.

Las explicaciones deberían comunicar explícitamente incertidumbres variadas que distingan: (i) incertidumbre algorítmica (limitaciones del modelo); (ii) incertidumbre científica (limitaciones del conocimiento actual); y (iii) incertidumbre biológica fundamental (variabilidad inherente). Los marcos actuales no diferencian estos tipos, lo que genera el riesgo de interpretaciones deterministas cuando son probabilísticas, viciando consentimiento informado.

5.3. Evolución científica acelerada y obsolescencia regulatoria

El ritmo de descubrimientos genómicos supera la capacidad de adaptación jurídica. Sobre este tema, los autores Goodwin et al. (2016) señalaron que los costos de secuenciación cayeron de $100 millones (2001) a <$1000 (2024), acelerando dramáticamente descubrimientos. Por su parte, los autores Green et al. (2020) precisaron que el 5-10 % de variantes «patogénicas» son reclasificadas como «benignas» cuando se acumula evidencia con implicancias para quienes tomaron decisiones basándose en interpretaciones iniciales posteriormente invalidadas.

Los marcos jurídicos tradicionales operan con supuestos de estabilidad; en genómica, este supuesto es inválido. Las regulaciones que contienen o detallan técnicas concretas pueden quedar obsoletas en corto tiempo. En este sentido, sería necesario desarrollar una estructura de principios-estándares donde el basamento recaiga en (i) principios fundamentales con carácter estable; (ii) estándares técnicos mediante instrumentos de soft law actualizables; y (iii) mecanismos de revisión periódica obligatoria (cada 2-3 años). Este enfoque —similar al de la FDA— permite flexibilidad sin sacrificar seguridad jurídica.

5.4. Desafíos institucionales para sistemas jurídicos en desarrollo

La implementación efectiva requiere capacidades especializadas con retos particulares para sistemas latinoamericanos, vinculados a recursos presupuestarios y masa crítica de profesionales. El primero de ellos recae en la necesidad de una formación interdisciplinaria. La supervisión requiere comprensión de genética, machine learning, estudios GWAS, sesgos en bases de datos, y marco jurídico —combinación extremadamente rara—. Desarrollar esta capacidad requiere inversión sustancial en programas especializados costosos en contextos con presupuestos limitados. La alternativa —equipos interdisciplinarios— requiere marcos de coordinación inexistentes.

En segundo lugar, se presenta la necesidad de contar con autoridades que posean un expertise técnico. La evaluación del cumplimiento requiere capacidad de analizar códigos, evaluar validación, identificar sesgos y verificar comunicaciones. Las autoridades de datos (típicamente juristas) carecen de expertise; pero también las autoridades sanitarias pueden carecer de conocimiento en IA.

En tercer lugar, encontramos que los marcos desarrollados con recursos abundantes (ej.: 4 niveles eMERGE) pueden ser inviables en hospitales públicos latinoamericanos con personal y presiones extremas, generando riesgo de regulaciones como «letra muerta». Esta realidad nos lleva a sugerir el desarrollo de una estrategia de implementación gradual, sobre todo para sistemas con recursos limitados que podría organizarse así:

• Fase I (0-2 años). Principios fundamentales en legislación, creación de autoridad coordinadora (en autoridad de datos existente), capacitación básica para operadores clave.
• Fase II (2-5 años). Estándares técnicos mediante colaboración con universidades, implementación de requisitos para alto riesgo únicamente, registros públicos de algoritmos en uso clínico.
• Fase III (5+ años). Extensión a medio riesgo, supervisión proactiva, evaluación sistemática de efectividad.

Este enfoque reconoce limitaciones sin renunciar a protecciones fundamentales, priorizando contextos de mayor impacto donde la explicabilidad resulta crítica.

6. CONCLUSIONES

6.1. Hallazgos principales y contribuciones conceptuales

Esta investigación evidencia sistemáticamente que los actuales marcos regulatorios —GDPR, AI Act, Reglamento (UE) 2025/327 (EEDS), Convenio de Oviedo, GINA, y marcos latinoamericanos— son estructuralmente insuficientes para tratar las particularidades de la explicabilidad en la inteligencia artificial genómica. Estos marcos fueron concebidos con el objetivo de salvaguardar datos individuales convencionales o de inteligencia artificial general, sin tener en cuenta atributos relacionales, temporales, probabilísticos y hereditarios de la información genómica.

Este trabajo desarrolla tres aportes conceptuales originales. Primero, la construcción de «explicabilidad genómica diferenciada» como categoría jurídica novedosa que integra: (i) contextualización familiar (efectos hereditarios); (ii) temporalidad adaptativa (horizontes temporales extendidos y evolución científica); (iii) explicitación de incertidumbre (limitaciones científicas y sesgos poblacionales); y (iv) proporcionalidad adaptativa (intensidad según impacto).

Adicionalmente, el desarrollo de una taxonomía tridimensional que propone una categorización de decisiones automatizadas genómicas en función del impacto (bajo/medio/alto riesgo), según el sector (seguros/empleo/salud/investigación), y por tipo de predicción (diagnóstica/predictiva corto-largo plazo), ofrece una base sistemática para la aplicación diferenciada de requisitos regulatorios.

Por último, la adopción de cinco principios doctrinales fundamentales, tales como la proporcionalidad diferenciada según impacto; la divulgación obligatoria de sesgos poblacionales; la contextualización temporal explícita; la explicabilidad estratificada por audiencia; y la supervisión humana cualificada obligatoria en alto impacto. El análisis de casos —Paige AI y eMERGE— confirma que la ausencia de marcos específicos genera vacíos críticos que afectan tanto la protección de derechos como la innovación responsable.

6.2. Vacíos normativos críticos y urgencia regulatoria

La presente investigación evidencia cinco deficiencias estructurales. Primero, carencia de definiciones jurídicas precisas («explicabilidad genómica», «decisión automatizada genética», «discriminación algorítmica genética»), situación que genera ambigüedad, pues permite sistemas opacos sin consecuencias jurídicas. En segundo lugar, la inexistencia de estándares técnicos vinculantes sobre divulgación de composición poblacional de datos, de comunicación de márgenes de error estratificados por ancestría, o de explicación de limitaciones temporales. En tercer lugar, la ausencia de mecanismos de protección para efectos familiares, con marcos anclados en paradigmas individualistas inadecuados para la información genética compartida. En cuarto lugar, la falta de regulación de aspectos temporales sin obligaciones de actualización cuando evoluciona el conocimiento científico ni protocolos de revisión cuando cambia la base científica. Y, finalmente, la carencia de autoridades con expertise genómico especializado para evaluar la adecuación de explicaciones en sistemas complejos.

Estos vacíos adquieren dimensiones críticas en Latinoamérica donde la diversidad genética permanece subrepresentada en bases globales, incrementando riesgos de sesgos y discriminación. La urgencia deriva de que la inacción permite la consolidación de prácticas opacas progresivamente más difíciles de modificar.

6.3. Implicancias para los sistemas jurídicos peruano y latinoamericano

En el Perú, la ausencia de marcos específicos constituye un desafío y una oportunidad para establecer marcos conceptualmente sólidos desde el origen. Sin embargo, no podemos dejar de señalar que el marco constitucional peruano proporciona bases sólidas; así lo podemos observar con los artículos 2.6 (intimidad personal y familiar aplicable a información genética compartida), 2.7 (dignidad vulnerable ante decisiones algorítmicas estigmatizantes), 7 (protección de salud afectada por decisiones médicas opacas) y 139.5 (motivación de resoluciones extensible a decisiones automatizadas). Esta arquitectura permite fundamentar la explicabilidad genómica como un derecho derivado de garantías constitucionales expresas.

En esta misma línea, la Ley n.o 29733 con su reglamento el D. S. n.o 016-2024-JUS prevén una protección reforzada al incorporar a los datos genéticos como sensibles (art. III.6 del Reglamento), colocar el consentimiento escrito como un requisito ineludible (art. 8) y establecer evaluaciones de impacto (art. 40). Estas medidas permiten una interpretación evolutiva para incluir exigencias de explicabilidad. El Código de Protección y Defensa del Consumidor (art. 65, Ley n.o 29571) consagra el derecho a información veraz sobre productos y servicios, disposición que es aplicable a seguros fundamentados en análisis genómico.

Ahora bien, en relación con los sistemas latinoamericanos en general, observamos que la experiencia de Chile, Argentina, Brasil y Colombia demuestra viabilidad de desarrollos jurídicos específicos mediante implementación gradual y cooperación regional.

6.4. Reflexión final: hacia marcos sostenibles y adaptativos

Los desafíos identificados, trade-offs precisión-transparencia, presentan tensiones entre derechos conflictivos, opacidad técnica inherente, evolución científica acelerada, capacidades limitadas; sin embargo, no impiden el desarrollo regulatorio, sino que fundamentan estrategias realistas y sostenibles.

No obstante, podemos señalar que los marcos regulatorios requieren de adaptabilidad temporal mediante estructuras principios-estándares permitiendo actualización sin modificación legislativa continua; de proporcionalidad regulatoria evitando una sobrerregulación paralizante y una subrregulación permisiva; y la necesidad de viabilidad institucional mediante implementación gradual que desarrolle capacidades progresivamente.

Para los sistemas latinoamericanos, esto implica la oportunidad de desarrollar modelos reconociendo las limitaciones de recursos mientras mantienen estándares fundamentales. Las propuestas —explicabilidad genómica diferenciada, taxonomía tridimensional, cinco principios— pueden servir como una guía orientadora para un futuro desarrollo gradual.

La medicina genómica personalizada promete revolucionar prevención, diagnóstico y tratamiento, con potencial de salvar millones de vidas. Sin embargo, esta promesa solo puede materializarse legítimamente fundamentándose en marcos que equilibren innovación con protección de derechos. El desarrollo de marcos específicos de explicabilidad genómica no constituye un obstáculo, sino una condición necesaria para progreso socialmente legítimo, éticamente responsable y jurídicamente sostenible.

Los hallazgos evidencian que tal equilibrio es técnicamente posible, normativamente necesario y prácticamente viable. La ventana de oportunidad permanece abierta, pero se cierra progresivamente conforme se implementan sistemas sin supervisión adecuada. La urgencia no es alarmismo, sino reconocimiento realista de que decisiones regulatorias —o su ausencia— tomadas hoy configurarán el ecosistema de IA genómica por décadas venideras.

Referencias

American Society of Human Genetics (s. f.). The Genetic Information Nondiscrimination Act (GINA). https://www.ashg.org/advocacy/gina/

Andorno, R. (2005). The Oviedo Convention: A European Legal Framework at the Intersection of Human Rights and Health Law. Journal of International Biotechnology Law, 2(4), 133-143.

Barocas, S., Hardt, M., y Narayanan, A. (2019). Fairness and Machine Learning: Limitations and Opportunities. MIT Press.

Botkin, J. R. (2016). Ethical Issues in Pediatric Genetic Testing and Screening. Current Opinion in Pediatrics, 28(6), 700-704.

Bunnik, E. M., Janssens, A. C. J. W., y Schermer, M. H. (2013). Personal Utility in Genomic Testing: Is There Such a Thing? Journal of Medical Ethics, 41(4), 322-326.

Burke, W., Antommaria, A. H. M., Bennett, R., Botkin, J., Clayton, E. W., Henderson, G. E., Holm, I. A., Jarvik, G. P., Khoury, M. J., Knoppers, B. M., Press, N. A., Ross, L. F., Rothstein, M. A., Saal, H., Uhlmann, W. R., Wilfond, B., Wolf, S. M., y Zimmern, R. (2013). Recommendations for Returning Genomic Incidental Findings? We Need to Talk! Genetics in Medicine, 15(11), 854-859.

Business Wire (2021, 22 de septiembre). Paige Receives First Ever FDA Approval for AI Product in Digital Pathology [Nota de prensa]. https://www.businesswire.com/news/home/20210922005369/en/Paige-Receives-First-Ever-FDA-Approval-for-AI-Product-in-Digital-Pathology

Bygrave, L. A. (2020). Article 22 Automated individual decision-making, including profiling. En C. Kuner, L. A. Bygrave y C. Docksey (eds.), The EU General Data Protection Regulation (GDPR): A Commentary (pp. 522-542). Oxford University Press.

Caruana, R., Lou, Y., Gehrke, J., Koch, P., Sturm, M., y Elhadad, N. (2015). Intelligible Models for Healthcare: Predicting Pneumonia Risk and Hospital 30-Day Readmission. En Proceedings of the 21th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 1721-1730). Association for Computing Machinery.

Council of Europe (2023, 29 de septiembre). Oviedo Convention and its Protocols. https://www.coe.int/en/web/human-rights-and-biomedicine/oviedo-convention

European Data Protection Board (2018). Guidelines on Automated Individual Decision-Making and Profiling for the Purposes of Regulation 2016/679 (wp251rev.01). https://ec.europa.eu/newsroom/article29/items/612053

Federal Trade Commission (2024). Illumina, Inc., and GRAIL, Inc., In the Matter of. https://www.ftc.gov/legal-library/browse/cases-proceedings/201-0144-illumina-inc-grail-inc-matter

Food and Drug Administration (2024). Transparency for Machine Learning-Enabled Medical Devices: Guiding Principles. U. S. Department of Health and Human Services.

Goodwin, S., McPherson, J. D., y McCombie, W. R. (2016). Coming of Age: Ten Years of Next-Generation Sequencing Technologies. Nature Reviews Genetics, 17(6), 333-351. https://doi.org/10.1038/nrg.2016.49

Green, R. C., Berg, J. S., Grody, W. W., Kalia, S. S., Korf, B. R., Martin, C. L., McGuire, A. L., Nussbaum, R. L., O’Daniel, J. M., Ormond, K. E., Rehm, H. L., Watson, M. S., y Biesecker, L. G. (2020). ACMG Recommendations for Reporting of Incidental Findings in Clinical Exome and Genome Sequencing. Genetics in Medicine, 22(7), 1131-1139.

Information Commissioner’s Office (2021). Guidance on AI and Data Protection. https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/artificial-intelligence/guidance-on-ai-and-data-protection/

Kaminski, M. E., y Malgieri, G. (2021). Varieties of AI Explanations Under the Law. From the GDPR to the AIA, and Beyond. En Research Handbook on the Law of Artificial Intelligence (pp. 329-355). Edward Elgar Publishing.

Khoury, M. J., Janssens, A. C. J. W., y Ransohoff, D. F. (2013). How can Polygenic Inheritance be Used in Population Screening for Common Diseases? Genetics in Medicine, 15(6), 437-443. https://doi.org/10.1038/gim.2012.182

Kingdom, R., y Wright, C. F. (2022). Incomplete Penetrance and Variable Expressivity: From Clinical Studies to Population Cohorts. Frontiers in Genetics, 13, Artículo 920390. https://doi.org/10.3389/fgene.2022.920390

Kuchenbaecker, K. B., Hopper, J. L., Barnes, D. R., Phillips, K.-A., Mooij, T. M., Roos-Blom, M.-J., Jervis, S., Leeuwen, F. E. van, Milne, R. L., Andrieu, N., Goldgar, D. E., Terry, M. B., Rookus, M. A., Easton, D. F., Antoniou, A. C., BRCA1 y BRCA2 Cohort Consortium (2017). Risks of Breast, Ovarian, and Contralateral Breast Cancer for BRCA1 and BRCA2 Mutation Carriers. JAMA, 317(23), 2402-2416. https://doi.org/10.1001/jama.2017.7112

Lennon, N. J., Kottyan, L. C., Kachulis, C., Abul-Husn, N. S., Arias, J., Belbin, G., Below, J. E., Berndt, S. I., Chung, W. K., Cimino, J. J., Clayton, E. W., Connolly, J. J., Crosslin, D. R., Dikilitas, O., Velez Edwards, D. R., Feng, Q., Fisher, M., Freimuth, R. R., Ge, T., … Kenny, E. E. (2024). Selection, Optimization and Validation of Ten Chronic Disease Polygenic Risk Scores for Clinical Implementation in Diverse US Populations. Nature Medicine, 30, 480-487. https://doi.org/10.1038/s41591-024-02796-z

MacArthur, D. G., Manolio, T. A., Dimmock, D. P., Rehm, H. L., Shendure, J., Abecasis, G. R., Adams, D. R., Altman, R. B., Antonarakis, S. E., Ashley, E. A., Barrett, J. C., Biesecker, L. G., Conrad, D. F., Cooper, G. M., Cox, N. J., Daly, M. J., Gerstein, M. B., Goldstein, D. B., Hirschhorn, J. N., ... Gunter, C. (2014). Guidelines for Investigating Causality of Sequence Variants in Human Disease. Nature, 508(7497), 469-476. https://doi.org/10.1038/nature13127

Malgieri, G. (2019). Automated Decision-Making in the EU Member States: The Right to Explanation and Other «Suitable Safeguards» in the National Legislations. Computer Law & Security Review, 35(5), Artículo 105327. https://doi.org/10.1016/j.clsr.2019.05.002

Manalac, T. (2023, 18 de diciembre). Illumina Loses Long Antitrust Battle, Readies to Divest GRAIL. BioSpace. https://www.biospace.com/illumina-loses-long-antitrust-battle-readies-to-divest-grail

Martin, A. R., Gignoux, C. R., Walters, R. K., Wojcik, G. L., Neale, B. M., Gravel, S., Daly, M. J., Bustamante, C. D., y Kenny, E. E. (2017). Human Demographic History Impacts Genetic Risk Prediction Across Diverse Populations. American Journal of Human Genetics, 100(4), 635-649. https://doi.org/10.1016/j.ajhg.2017.03.004

Martin, A. R., Kanai, M., Kamatani, Y., Okada, Y., Neale, B. M., y Daly, M. J. (2019). Clinical Use of Current Polygenic Risk Scores May Exacerbate Health Disparities. Nature Genetics, 51(4), 584-591. https://doi.org/10.1038/s41588-019-0379-x

Miller, T., Howe, P., y Sonenberg, L. (2017). Explainable AI: Beware of Inmates Running the Asylum [Preprint]. arXiv. https://arxiv.org/abs/1712.00547

Novakovsky, G., Fornes, O., Saraswat, M., Mostafavi, S., y Wasserman, W. W. (2023). ExplaiNN: Interpretable and Transparent Neural Networks for Genomics. Genome Biology, 24, Artículo 154. https://doi.org/10.1186/s13059-023-02985-y

Pizzetti, F., Calzolaio, S., Iannuzzi, A., Longo, E., y Orofino, M. (2025). La regolazione europea dell’intelligenza artificiale nella società digitale. Giappichelli Editore.

Quinn, T. P., Jacobs, S., Senadeera, M., Le, V., y Coghlan, S. (2021). The Three Ghosts of Medical AI: Can the Black-Box Present Deliver? Artificial Intelligence in Medicine, 124, Artículo 102158. https://doi.org/10.1016/j.artmed.2021.102158

Rudin, C. (2019). Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead. Nature Machine Intelligence, 1(5), 206-215. https://doi.org/10.1038/s42256-019-0048-x

Rudin, C., Wang, C., y Coker, B. (2020). The Age of Secrecy and Unfairness in Recidivism Prediction. Harvard Data Science Review, 2(1). https://doi.org/10.1162/99608f92.6ed64b30

Selbst, A. D. (2018). Disparate Impact in Big Data Policing. Georgia Law Review, 52(1), 109-195.

Sirugo, G., Williams, S. M., y Tishkoff, S. A. (2019). The Missing Diversity in Human Genetic Studies. Cell, 177(1), 26-31. https://doi.org/10.1016/j.cell.2019.02.048

Suter, S. M. (2018). GINA at 10 years: The battle over ‘genetic information’ continues in court. Journal of Law and the Biosciences, 5(3), 495-526. https://doi.org/10.1093/jlb/lsz002

Talukder, A., Barham, C., Li, X., y Hu, H. (2021). Interpretation of Deep Learning in Genomics and Epigenomics. Briefings in Bioinformatics, 22(3), Artículo bbaa177. https://doi.org/10.1093/bib/bbaa177

Wachter, S., Mittelstadt, B., y Floridi, L. (2017). Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. International Data Privacy Law, 7(2), 76-99. https://doi.org/10.1093/idpl/ipx005

Wand, H., Lambert, S. A., Tamburro, C., Iacocca, M. A., O’Sullivan, J. W., Sillari, C., Kullo, I. J., Rowley, R., Dron, J. S., Brockman, D., Venner, E., McCarthy, M. I., Antoniou, A. C., Easton, D. F., Hegele, R. A., Khera, A. V., Chatterjee, N., Kooperberg, K. E., ... Wojcik, G. L. (2021). Improving Reporting Standards for Polygenic Scores in Risk Prediction Studies. Nature, 591(7849), 211-219. https://doi.org/10.1038/s41586-021-03243-6

Fuentes normativas y jurisprudenciales

Convention for the Protection of Human Rights and Dignity of the Human Being with regard to the Application of Biology and Medicine: Convention on Human Rights and Biomedicine. Council of Europe (1997). https://www.coe.int/en/web/conventions/full-list/-/conventions/treaty/164

Decreto Supremo n.o 016-2024-JUS. Decreto Supremo que Aprueba el Reglamento de la Ley n.o 29733, Ley de Protección de Datos Personales. Diario Oficial El Peruano (30 de noviembre de 2024).

Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos. Diario Oficial de la Unión Europea, L 119/1 (2016). https://eur-lex.europa.eu/eli/reg/2016/679/oj

Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea, L 1689/1 (2024). https://eur-lex.europa.eu/eli/reg/2024/1689/oj

Reglamento (UE) 2025/327 del Parlamento Europeo y del Consejo, de 11 de febrero de 2025, relativo al Espacio Europeo de Datos de Salud, y por el que se modifican la Directiva 2011/24/UE y el Reglamento (UE) 2024/2847. Diario Oficial de la Unión Europea (5 de marzo de 2025). https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=OJ:L_202500327

Universal Declaration on the Human Genome and Human Rights. Unesco (1997). https://www.unesco.org/en/legal-affairs/universal-declaration-human-genome-and-human-rights

---

Financiamiento

Autofinanciado.

Conflicto de intereses

Los autores declaran no tener conflicto de intereses.

Contribución de autoría

Olga Alejandra Alcántara Francia: adquisición y selección de fuentes bibliográficas, análisis, interpretación de datos para el trabajo, la concepción y el diseño del trabajo, redacción del trabajo y su revisión crítica al contenido intelectual importante.

Jennifer Guiselle Rojas Alvarado: redacción y revisión del trabajo, análisis e interpretación de datos para el trabajo, verificación de bibliografía.

Enrico Marcel Huarag Guerrero: revisión crítica al contenido intelectual importante; aprobación final de la versión que se publicará.

Uso de herramientas de inteligencia artificial

Los autores declaran que usaron la herramienta Gemini 3 exclusivamente como apoyo auxiliar y supervisado, sin sustituir la actividad intelectual ni producir el contenido científico o jurídico del artículo. La herramienta fue utilizada para la traducción del resumen del artículo al inglés y al portugués. Los autores revisaron y validaron íntegramente el contenido final del manuscrito y asumen plena responsabilidad por este.

Biografía de los autores

Olga Alejandra Alcántara Francia es abogada, doctora en Derecho por la Universidad Carlos III de Madrid. Profesora investigadora de la Facultad de Derecho de la Universidad Científica del Sur, registrada en Renacyt-Perú. Es autora de artículos y capítulos de libros en materia de derecho civil, derecho del consumidor e inteligencia artificial. Es colaboradora en diferentes revistas internacionales y nacionales de prestigio.

Jennifer Guiselle Rojas Alvarado es abogada, magíster en Derecho Tributario por la Università Cattolica del Sacro Cuore (Italia). Docente de la Facultad de Derecho y Ciencia Política de la Universidad Ricardo Palma (Lima, Perú), donde ejerce como jefa de la Biblioteca Especializada en Derecho. Cuenta con experiencia en gestión universitaria como exdirectora de la Escuela Profesional de Derecho de la Universidad Femenina del Sagrado Corazón. Sus líneas de investigación comprenden el derecho tributario, behavioral economics, el derecho y la economía, la inteligencia artificial.

Enrico Marcel Huarag Guerrero es abogado con un máster en Derecho Privado por la Universidad Carlos III de Madrid. Se desempeña como director de la Escuela Profesional de Derecho en la Universidad Ricardo Palma, donde también es profesor asociado en áreas de Derecho y Economía, Propiedad Intelectual y Derecho Informático. Su experiencia abarca cargos docentes en instituciones como la Academia de la Magistratura y la Universidad Peruana de Ciencias Aplicadas (UPC). Es autor de diversas publicaciones jurídicas y posee conocimientos avanzados en inteligencia artificial y entornos de software libre.

Correspondencia

olga.alcantara.francia@gmail.com

---

Este artículo se encuentra disponible en acceso abierto bajo la licencia Creative Commons Attribution 4.0 International License

---

1. 1 Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (Reglamento General de Protección de Datos).

2. 2 El Convenio de Oviedo es un convenio del Consejo de Europa, organización internacional distinta de la Unión Europea. El Consejo de Europa agrupa a cuarenta y seis Estados miembros y tiene como misión la protección de los derechos humanos, la democracia y el Estado de derecho; la Unión Europea, por su parte, es una organización de integración económica y política que actualmente agrupa a veintisiete Estados. El Convenio de Oviedo reconoce también el derecho a no saber (art. 10.2), que podría verse vulnerado por sistemas de IA que realizan diagnósticos no solicitados. Asimismo, el artículo 10.3 especifica que la información genética de una persona puede no ser secreta si afecta a sus familiares, lo que introduce una dimensión colectiva en la privacidad genómica.

3. 3 No debe confundirse con la Declaración Universal sobre Bioética y Derechos Humanos, adoptada por la Conferencia General de la Unesco el 19 de octubre de 2005, que es un instrumento diferente de alcance más amplio sobre cuestiones éticas en medicina y ciencias de la vida en general.

4. 4 La Declaración Universal sobre el Genoma Humano y los Derechos Humanos (1997) es un documento de carácter simbólico y no vinculante. A diferencia de los tratados internacionales o convenios, no genera obligaciones jurídicas directas para los Estados, sino que expresa principios éticos de alcance orientador.

5. 5 Caso documentado en Botkin (2016).