Explicabilidad algorítmica en IA genómica desde una perspectiva comparada con propuestas para América Latina
Resumen
La convergencia de inteligencia artificial y genómica ha generado sistemas de procesamiento automatizado de información genética aplicables a contextos médicos, aseguradores y laborales, alcanzando niveles de precisión previamente inalcanzables. Este avance contrasta con la opacidad inherente de los mecanismos decisorios algorítmicos, lo que origina conflictos entre el desarrollo tecnológico y la salvaguarda de garantías fundamentales.
La presente investigación desarrolla un examen crítico de los marcos jurídicos vigentes sobre transparencia algorítmica aplicada a sistemas genómicos de inteligencia artificial, y pone en evidencia limitaciones sustanciales en el abordaje de características distintivas de los datos genéticos: su naturaleza hereditaria, su estabilidad genómica relativa, su capacidad predictiva y su sensibilidad social. Mediante el análisis doctrinal cualitativo que fusiona la investigación jurídica comparada con el estudio de casos paradigmáticos, se examinan los marcos normativos del Reglamento General de Protección de Datos (GDPR), el Reglamento de Inteligencia Artificial (AI Act) europeo, el Reglamento Relativo al Espacio Europeo de Datos de Salud (EEDS), el Convenio de Oviedo y los desarrollos regulatorios comparados.
Esta investigación pone de manifiesto deficiencias normativas cruciales: la falta de consideración específica de los efectos familiares, la falta de marcos temporales adaptativos para las predicciones genómicas, y la carencia de principios para gestionar la incertidumbre científica inherente. Frente a ello, se plantea la «explicabilidad genómica diferenciada» como una nueva categoría jurídica que incorpora la contextualización familiar, la temporalidad adaptativa, la gestión explícita de la incertidumbre y la proporcionalidad distintiva. Los descubrimientos subrayan la imperiosa necesidad de establecer marcos regulatorios específicos que armonicen la salvaguarda de derechos fundamentales con el avance científico.
Estadísticas de descarga
Métricas alternativas
Referencias citadas
American Society of Human Genetics (s. f.). The Genetic Information Nondiscrimination Act (GINA). https://www.ashg.org/advocacy/gina/
Andorno, R. (2005). The Oviedo Convention: A European Legal Framework at the Intersection of Human Rights and Health Law. Journal of International Biotechnology Law, 2(4), 133-143.
Barocas, S., Hardt, M., y Narayanan, A. (2019). Fairness and Machine Learning: Limitations and Opportunities. MIT Press.
Botkin, J. R. (2016). Ethical Issues in Pediatric Genetic Testing and Screening. Current Opinion in Pediatrics, 28(6), 700-704.
Bunnik, E. M., Janssens, A. C. J. W., y Schermer, M. H. (2013). Personal Utility in Genomic Testing: Is There Such a Thing? Journal of Medical Ethics, 41(4), 322-326.
Burke, W., Antommaria, A. H. M., Bennett, R., Botkin, J., Clayton, E. W., Henderson, G. E., Holm, I. A., Jarvik, G. P., Khoury, M. J., Knoppers, B. M., Press, N. A., Ross, L. F., Rothstein, M. A., Saal, H., Uhlmann, W. R., Wilfond, B., Wolf, S. M., y Zimmern, R. (2013). Recommendations for Returning Genomic Incidental Findings? We Need to Talk! Genetics in Medicine, 15(11), 854-859.
Business Wire (2021, 22 de septiembre). Paige Receives First Ever FDA Approval for AI Product in Digital Pathology [Nota de prensa]. https://www.businesswire.com/news/home/20210922005369/en/Paige-Receives-First-Ever-FDA-Approval-for-AI-Product-in-Digital-Pathology
Bygrave, L. A. (2020). Article 22 Automated individual decision-making, including profiling. En C. Kuner, L. A. Bygrave y C. Docksey (eds.), The EU General Data Protection Regulation (GDPR): A Commentary (pp. 522-542). Oxford University Press.
Caruana, R., Lou, Y., Gehrke, J., Koch, P., Sturm, M., y Elhadad, N. (2015). Intelligible Models for Healthcare: Predicting Pneumonia Risk and Hospital 30-Day Readmission. En Proceedings of the 21th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 1721-1730). Association for Computing Machinery.
Council of Europe (2023, 29 de septiembre). Oviedo Convention and its Protocols. https://www.coe.int/en/web/human-rights-and-biomedicine/oviedo-convention
European Data Protection Board (2018). Guidelines on Automated Individual Decision-Making and Profiling for the Purposes of Regulation 2016/679 (wp251rev.01). https://ec.europa.eu/newsroom/article29/items/612053
Federal Trade Commission (2024). Illumina, Inc., and GRAIL, Inc., In the Matter of. https://www.ftc.gov/legal-library/browse/cases-proceedings/201-0144-illumina-inc-grail-inc-matter
Food and Drug Administration (2024). Transparency for Machine Learning-Enabled Medical Devices: Guiding Principles. U. S. Department of Health and Human Services.
Goodwin, S., McPherson, J. D., y McCombie, W. R. (2016). Coming of Age: Ten Years of Next-Generation Sequencing Technologies. Nature Reviews Genetics, 17(6), 333-351. https://doi.org/10.1038/nrg.2016.49
Green, R. C., Berg, J. S., Grody, W. W., Kalia, S. S., Korf, B. R., Martin, C. L., McGuire, A. L., Nussbaum, R. L., O’Daniel, J. M., Ormond, K. E., Rehm, H. L., Watson, M. S., y Biesecker, L. G. (2020). ACMG Recommendations for Reporting of Incidental Findings in Clinical Exome and Genome Sequencing. Genetics in Medicine, 22(7), 1131-1139.
Information Commissioner’s Office (2021). Guidance on AI and Data Protection. https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/artificial-intelligence/guidance-on-ai-and-data-protection/
Kaminski, M. E., y Malgieri, G. (2021). Varieties of AI Explanations Under the Law. From the GDPR to the AIA, and Beyond. En Research Handbook on the Law of Artificial Intelligence (pp. 329-355). Edward Elgar Publishing.
Khoury, M. J., Janssens, A. C. J. W., y Ransohoff, D. F. (2013). How can Polygenic Inheritance be Used in Population Screening for Common Diseases? Genetics in Medicine, 15(6), 437-443. https://doi.org/10.1038/gim.2012.182
Kingdom, R., y Wright, C. F. (2022). Incomplete Penetrance and Variable Expressivity: From Clinical Studies to Population Cohorts. Frontiers in Genetics, 13, Artículo 920390. https://doi.org/10.3389/fgene.2022.920390
Kuchenbaecker, K. B., Hopper, J. L., Barnes, D. R., Phillips, K.-A., Mooij, T. M., Roos-Blom, M.-J., Jervis, S., Leeuwen, F. E. van, Milne, R. L., Andrieu, N., Goldgar, D. E., Terry, M. B., Rookus, M. A., Easton, D. F., Antoniou, A. C., BRCA1 y BRCA2 Cohort Consortium (2017). Risks of Breast, Ovarian, and Contralateral Breast Cancer for BRCA1 and BRCA2 Mutation Carriers. JAMA, 317(23), 2402-2416. https://doi.org/10.1001/jama.2017.7112
Lennon, N. J., Kottyan, L. C., Kachulis, C., Abul-Husn, N. S., Arias, J., Belbin, G., Below, J. E., Berndt, S. I., Chung, W. K., Cimino, J. J., Clayton, E. W., Connolly, J. J., Crosslin, D. R., Dikilitas, O., Velez Edwards, D. R., Feng, Q., Fisher, M., Freimuth, R. R., Ge, T., … Kenny, E. E. (2024). Selection, Optimization and Validation of Ten Chronic Disease Polygenic Risk Scores for Clinical Implementation in Diverse US Populations. Nature Medicine, 30, 480-487. https://doi.org/10.1038/s41591-024-02796-z
MacArthur, D. G., Manolio, T. A., Dimmock, D. P., Rehm, H. L., Shendure, J., Abecasis, G. R., Adams, D. R., Altman, R. B., Antonarakis, S. E., Ashley, E. A., Barrett, J. C., Biesecker, L. G., Conrad, D. F., Cooper, G. M., Cox, N. J., Daly, M. J., Gerstein, M. B., Goldstein, D. B., Hirschhorn, J. N., ... Gunter, C. (2014). Guidelines for Investigating Causality of Sequence Variants in Human Disease. Nature, 508(7497), 469-476. https://doi.org/10.1038/nature13127
Malgieri, G. (2019). Automated Decision-Making in the EU Member States: The Right to Explanation and Other «Suitable Safeguards» in the National Legislations. Computer Law & Security Review, 35(5), Artículo 105327. https://doi.org/10.1016/j.clsr.2019.05.002
Manalac, T. (2023, 18 de diciembre). Illumina Loses Long Antitrust Battle, Readies to Divest GRAIL. BioSpace. https://www.biospace.com/illumina-loses-long-antitrust-battle-readies-to-divest-grail
Martin, A. R., Gignoux, C. R., Walters, R. K., Wojcik, G. L., Neale, B. M., Gravel, S., Daly, M. J., Bustamante, C. D., y Kenny, E. E. (2017). Human Demographic History Impacts Genetic Risk Prediction Across Diverse Populations. American Journal of Human Genetics, 100(4), 635-649. https://doi.org/10.1016/j.ajhg.2017.03.004
Martin, A. R., Kanai, M., Kamatani, Y., Okada, Y., Neale, B. M., y Daly, M. J. (2019). Clinical Use of Current Polygenic Risk Scores May Exacerbate Health Disparities. Nature Genetics, 51(4), 584-591. https://doi.org/10.1038/s41588-019-0379-x
Miller, T., Howe, P., y Sonenberg, L. (2017). Explainable AI: Beware of Inmates Running the Asylum [Preprint]. arXiv. https://arxiv.org/abs/1712.00547
Novakovsky, G., Fornes, O., Saraswat, M., Mostafavi, S., y Wasserman, W. W. (2023). ExplaiNN: Interpretable and Transparent Neural Networks for Genomics. Genome Biology, 24, Artículo 154. https://doi.org/10.1186/s13059-023-02985-y
Pizzetti, F., Calzolaio, S., Iannuzzi, A., Longo, E., y Orofino, M. (2025). La regolazione europea dell’intelligenza artificiale nella società digitale. Giappichelli Editore.
Quinn, T. P., Jacobs, S., Senadeera, M., Le, V., y Coghlan, S. (2021). The Three Ghosts of Medical AI: Can the Black-Box Present Deliver? Artificial Intelligence in Medicine, 124, Artículo 102158. https://doi.org/10.1016/j.artmed.2021.102158
Rudin, C. (2019). Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead. Nature Machine Intelligence, 1(5), 206-215. https://doi.org/10.1038/s42256-019-0048-x
Rudin, C., Wang, C., y Coker, B. (2020). The Age of Secrecy and Unfairness in Recidivism Prediction. Harvard Data Science Review, 2(1). https://doi.org/10.1162/99608f92.6ed64b30
Selbst, A. D. (2018). Disparate Impact in Big Data Policing. Georgia Law Review, 52(1), 109-195.
Sirugo, G., Williams, S. M., y Tishkoff, S. A. (2019). The Missing Diversity in Human Genetic Studies. Cell, 177(1), 26-31. https://doi.org/10.1016/j.cell.2019.02.048
Suter, S. M. (2018). GINA at 10 years: The battle over ‘genetic information’ continues in court. Journal of Law and the Biosciences, 5(3), 495-526. https://doi.org/10.1093/jlb/lsz002
Talukder, A., Barham, C., Li, X., y Hu, H. (2021). Interpretation of Deep Learning in Genomics and Epigenomics. Briefings in Bioinformatics, 22(3), Artículo bbaa177. https://doi.org/10.1093/bib/bbaa177
Wachter, S., Mittelstadt, B., y Floridi, L. (2017). Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. International Data Privacy Law, 7(2), 76-99. https://doi.org/10.1093/idpl/ipx005
Wand, H., Lambert, S. A., Tamburro, C., Iacocca, M. A., O’Sullivan, J. W., Sillari, C., Kullo, I. J., Rowley, R., Dron, J. S., Brockman, D., Venner, E., McCarthy, M. I., Antoniou, A. C., Easton, D. F., Hegele, R. A., Khera, A. V., Chatterjee, N., Kooperberg, K. E., … Wojcik, G. L. (2021). Improving Reporting Standards for Polygenic Scores in Risk Prediction Studies. Nature, 591(7849), 211-219. https://doi.org/10.1038/s41586-021-03243-6
Fuentes normativas y jurisprudenciales
Convention for the Protection of Human Rights and Dignity of the Human Being with regard to the Application of Biology and Medicine: Convention on Human Rights and Biomedicine. Council of Europe (1997). https://www.coe.int/en/web/conventions/full-list/-/conventions/treaty/164
Decreto Supremo n.º 016-2024-JUS. Decreto Supremo que Aprueba el Reglamento de la Ley n.º 29733, Ley de Protección de Datos Personales. Diario Oficial El Peruano (30 de noviembre de 2024).
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos. Diario Oficial de la Unión Europea, L 119/1 (2016). https://eur-lex.europa.eu/eli/reg/2016/679/oj
Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial Diario Oficial de la Unión Europea, L 1689/1 (2024). https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Reglamento (UE) 2025/327 del Parlamento Europeo y del Consejo, de 11 de febrero de 2025, relativo al Espacio Europeo de Datos de Salud, y por el que se modifican la Directiva 2011/24/UE y el Reglamento (UE) 2024/2847 Diario Oficial de la Unión Europea (5 de marzo de 2025). https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=OJ:L_202500327
Universal Declaration on the Human Genome and Human Rights. Unesco (1997). https://www.unesco.org/en/legal-affairs/universal-declaration-human-genome-and-human-rights
Derechos de autor 2026 Olga Alejandra Alcántara Francia, Jennifer Guiselle Rojas Alvarado, Enrico Marcel Huarag Guerrero
Esta obra está bajo licencia internacional Creative Commons Reconocimiento 4.0.
Los autores conservan sus derechos de autor y se inscriben bajo la licencia Creative Commons Attribution 4.0 International License (CC BY 4.0), la cual permite usar lo publicado (adaptar —remezclar, transformar y construir— y compartir —copiar y redistribuir— el material en cualquier medio o formato).
1. La revista permite a los autores conservar sus derechos de autor de los artículos sometidos sin ningún tipo de restricciones.
2. Los autores retienen el derecho de compartir, distribuir, copiar, ejecutar y comunicar públicamente el artículo publicado en la Revista Oficial del Poder Judicial (por ejemplo, colocarlo en un repositorio institucional).
3. Los autores retienen el derecho a hacer una posterior publicación de su trabajo, de utilizar el artículo o cualquier parte de aquel (por ejemplo: una compilación de sus trabajos, notas para conferencias, tesis, o para un libro), siempre que indiquen la fuente de publicación (autores del trabajo, revista, volumen, número y fecha).
