Explicabilidade algorítmica na IA genômica sob uma perspectiva comparada, com propostas para a América Latina
Resumo
A convergência entre a inteligência artificial e a genômica tem dado origem a sistemas de processamento automatizado de informações genéticas aplicáveis a contextos médicos, securitários e laborais, alcançando níveis de precisão anteriormente inalcançáveis. Esse avanço contrasta com a opacidade inerente aos mecanismos decisórios algorítmicos, o que dá origem a conflitos entre o desenvolvimento tecnológico e a salvaguarda de garantias fundamentais.
A presente pesquisa desenvolve um exame crítico dos marcos jurídicos vigentes em matéria de transparência algorítmica aplicada a sistemas genômicos de inteligência artificial e evidencia limitações substanciais na abordagem de características distintivas dos dados genéticos: sua natureza hereditária, sua relativa estabilidade genômica, sua capacidade preditiva e sua sensibilidade social. Por meio da análise doutrinária qualitativa que combina a pesquisa jurídica comparada com o estudo de casos paradigmáticos, examinam-se os marcos normativos do Regulamento Geral de Proteção de Dados (GDPR), do Regulamento Europeu de Inteligência Artificial (AI Act), do Regulamento Relativo ao Espaço Europeu de Dados de Saúde (EEDS), da Convenção de Oviedo e dos desenvolvimentos regulatórios comparados.
Esta pesquisa evidencia deficiências normativas cruciais: a ausência de consideração específica dos efeitos familiares, a falta de marcos temporais adaptativos para as predições genômicas e a carência de princípios para gerir a incerteza científica inerente. Diante disso, propõe-se a «explicabilidade genômica diferenciada» como uma nova categoria jurídica que incorpora a contextualização familiar, a temporalidade adaptativa, a gestão explícita da incerteza e a proporcionalidade distintiva. As constatações ressaltam a imperiosa necessidade de estabelecer marcos regulatórios específicos que harmonizem a salvaguarda dos direitos fundamentais com o avanço científico.
Downloads
Métricas alternativas
Referências
American Society of Human Genetics (s. f.). The Genetic Information Nondiscrimination Act (GINA). https://www.ashg.org/advocacy/gina/
Andorno, R. (2005). The Oviedo Convention: A European Legal Framework at the Intersection of Human Rights and Health Law. Journal of International Biotechnology Law, 2(4), 133-143.
Barocas, S., Hardt, M., y Narayanan, A. (2019). Fairness and Machine Learning: Limitations and Opportunities. MIT Press.
Botkin, J. R. (2016). Ethical Issues in Pediatric Genetic Testing and Screening. Current Opinion in Pediatrics, 28(6), 700-704.
Bunnik, E. M., Janssens, A. C. J. W., y Schermer, M. H. (2013). Personal Utility in Genomic Testing: Is There Such a Thing? Journal of Medical Ethics, 41(4), 322-326.
Burke, W., Antommaria, A. H. M., Bennett, R., Botkin, J., Clayton, E. W., Henderson, G. E., Holm, I. A., Jarvik, G. P., Khoury, M. J., Knoppers, B. M., Press, N. A., Ross, L. F., Rothstein, M. A., Saal, H., Uhlmann, W. R., Wilfond, B., Wolf, S. M., y Zimmern, R. (2013). Recommendations for Returning Genomic Incidental Findings? We Need to Talk! Genetics in Medicine, 15(11), 854-859.
Business Wire (2021, 22 de septiembre). Paige Receives First Ever FDA Approval for AI Product in Digital Pathology [Nota de prensa]. https://www.businesswire.com/news/home/20210922005369/en/Paige-Receives-First-Ever-FDA-Approval-for-AI-Product-in-Digital-Pathology
Bygrave, L. A. (2020). Article 22 Automated individual decision-making, including profiling. En C. Kuner, L. A. Bygrave y C. Docksey (eds.), The EU General Data Protection Regulation (GDPR): A Commentary (pp. 522-542). Oxford University Press.
Caruana, R., Lou, Y., Gehrke, J., Koch, P., Sturm, M., y Elhadad, N. (2015). Intelligible Models for Healthcare: Predicting Pneumonia Risk and Hospital 30-Day Readmission. En Proceedings of the 21th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 1721-1730). Association for Computing Machinery.
Council of Europe (2023, 29 de septiembre). Oviedo Convention and its Protocols. https://www.coe.int/en/web/human-rights-and-biomedicine/oviedo-convention
European Data Protection Board (2018). Guidelines on Automated Individual Decision-Making and Profiling for the Purposes of Regulation 2016/679 (wp251rev.01). https://ec.europa.eu/newsroom/article29/items/612053
Federal Trade Commission (2024). Illumina, Inc., and GRAIL, Inc., In the Matter of. https://www.ftc.gov/legal-library/browse/cases-proceedings/201-0144-illumina-inc-grail-inc-matter
Food and Drug Administration (2024). Transparency for Machine Learning-Enabled Medical Devices: Guiding Principles. U. S. Department of Health and Human Services.
Goodwin, S., McPherson, J. D., y McCombie, W. R. (2016). Coming of Age: Ten Years of Next-Generation Sequencing Technologies. Nature Reviews Genetics, 17(6), 333-351. https://doi.org/10.1038/nrg.2016.49
Green, R. C., Berg, J. S., Grody, W. W., Kalia, S. S., Korf, B. R., Martin, C. L., McGuire, A. L., Nussbaum, R. L., O’Daniel, J. M., Ormond, K. E., Rehm, H. L., Watson, M. S., y Biesecker, L. G. (2020). ACMG Recommendations for Reporting of Incidental Findings in Clinical Exome and Genome Sequencing. Genetics in Medicine, 22(7), 1131-1139.
Information Commissioner’s Office (2021). Guidance on AI and Data Protection. https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/artificial-intelligence/guidance-on-ai-and-data-protection/
Kaminski, M. E., y Malgieri, G. (2021). Varieties of AI Explanations Under the Law. From the GDPR to the AIA, and Beyond. En Research Handbook on the Law of Artificial Intelligence (pp. 329-355). Edward Elgar Publishing.
Khoury, M. J., Janssens, A. C. J. W., y Ransohoff, D. F. (2013). How can Polygenic Inheritance be Used in Population Screening for Common Diseases? Genetics in Medicine, 15(6), 437-443. https://doi.org/10.1038/gim.2012.182
Kingdom, R., y Wright, C. F. (2022). Incomplete Penetrance and Variable Expressivity: From Clinical Studies to Population Cohorts. Frontiers in Genetics, 13, Artículo 920390. https://doi.org/10.3389/fgene.2022.920390
Kuchenbaecker, K. B., Hopper, J. L., Barnes, D. R., Phillips, K.-A., Mooij, T. M., Roos-Blom, M.-J., Jervis, S., Leeuwen, F. E. van, Milne, R. L., Andrieu, N., Goldgar, D. E., Terry, M. B., Rookus, M. A., Easton, D. F., Antoniou, A. C., BRCA1 y BRCA2 Cohort Consortium (2017). Risks of Breast, Ovarian, and Contralateral Breast Cancer for BRCA1 and BRCA2 Mutation Carriers. JAMA, 317(23), 2402-2416. https://doi.org/10.1001/jama.2017.7112
Lennon, N. J., Kottyan, L. C., Kachulis, C., Abul-Husn, N. S., Arias, J., Belbin, G., Below, J. E., Berndt, S. I., Chung, W. K., Cimino, J. J., Clayton, E. W., Connolly, J. J., Crosslin, D. R., Dikilitas, O., Velez Edwards, D. R., Feng, Q., Fisher, M., Freimuth, R. R., Ge, T., … Kenny, E. E. (2024). Selection, Optimization and Validation of Ten Chronic Disease Polygenic Risk Scores for Clinical Implementation in Diverse US Populations. Nature Medicine, 30, 480-487. https://doi.org/10.1038/s41591-024-02796-z
MacArthur, D. G., Manolio, T. A., Dimmock, D. P., Rehm, H. L., Shendure, J., Abecasis, G. R., Adams, D. R., Altman, R. B., Antonarakis, S. E., Ashley, E. A., Barrett, J. C., Biesecker, L. G., Conrad, D. F., Cooper, G. M., Cox, N. J., Daly, M. J., Gerstein, M. B., Goldstein, D. B., Hirschhorn, J. N., ... Gunter, C. (2014). Guidelines for Investigating Causality of Sequence Variants in Human Disease. Nature, 508(7497), 469-476. https://doi.org/10.1038/nature13127
Malgieri, G. (2019). Automated Decision-Making in the EU Member States: The Right to Explanation and Other «Suitable Safeguards» in the National Legislations. Computer Law & Security Review, 35(5), Artículo 105327. https://doi.org/10.1016/j.clsr.2019.05.002
Manalac, T. (2023, 18 de diciembre). Illumina Loses Long Antitrust Battle, Readies to Divest GRAIL. BioSpace. https://www.biospace.com/illumina-loses-long-antitrust-battle-readies-to-divest-grail
Martin, A. R., Gignoux, C. R., Walters, R. K., Wojcik, G. L., Neale, B. M., Gravel, S., Daly, M. J., Bustamante, C. D., y Kenny, E. E. (2017). Human Demographic History Impacts Genetic Risk Prediction Across Diverse Populations. American Journal of Human Genetics, 100(4), 635-649. https://doi.org/10.1016/j.ajhg.2017.03.004
Martin, A. R., Kanai, M., Kamatani, Y., Okada, Y., Neale, B. M., y Daly, M. J. (2019). Clinical Use of Current Polygenic Risk Scores May Exacerbate Health Disparities. Nature Genetics, 51(4), 584-591. https://doi.org/10.1038/s41588-019-0379-x
Miller, T., Howe, P., y Sonenberg, L. (2017). Explainable AI: Beware of Inmates Running the Asylum [Preprint]. arXiv. https://arxiv.org/abs/1712.00547
Novakovsky, G., Fornes, O., Saraswat, M., Mostafavi, S., y Wasserman, W. W. (2023). ExplaiNN: Interpretable and Transparent Neural Networks for Genomics. Genome Biology, 24, Artículo 154. https://doi.org/10.1186/s13059-023-02985-y
Pizzetti, F., Calzolaio, S., Iannuzzi, A., Longo, E., y Orofino, M. (2025). La regolazione europea dell’intelligenza artificiale nella società digitale. Giappichelli Editore.
Quinn, T. P., Jacobs, S., Senadeera, M., Le, V., y Coghlan, S. (2021). The Three Ghosts of Medical AI: Can the Black-Box Present Deliver? Artificial Intelligence in Medicine, 124, Artículo 102158. https://doi.org/10.1016/j.artmed.2021.102158
Rudin, C. (2019). Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead. Nature Machine Intelligence, 1(5), 206-215. https://doi.org/10.1038/s42256-019-0048-x
Rudin, C., Wang, C., y Coker, B. (2020). The Age of Secrecy and Unfairness in Recidivism Prediction. Harvard Data Science Review, 2(1). https://doi.org/10.1162/99608f92.6ed64b30
Selbst, A. D. (2018). Disparate Impact in Big Data Policing. Georgia Law Review, 52(1), 109-195.
Sirugo, G., Williams, S. M., y Tishkoff, S. A. (2019). The Missing Diversity in Human Genetic Studies. Cell, 177(1), 26-31. https://doi.org/10.1016/j.cell.2019.02.048
Suter, S. M. (2018). GINA at 10 years: The battle over ‘genetic information’ continues in court. Journal of Law and the Biosciences, 5(3), 495-526. https://doi.org/10.1093/jlb/lsz002
Talukder, A., Barham, C., Li, X., y Hu, H. (2021). Interpretation of Deep Learning in Genomics and Epigenomics. Briefings in Bioinformatics, 22(3), Artículo bbaa177. https://doi.org/10.1093/bib/bbaa177
Wachter, S., Mittelstadt, B., y Floridi, L. (2017). Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. International Data Privacy Law, 7(2), 76-99. https://doi.org/10.1093/idpl/ipx005
Wand, H., Lambert, S. A., Tamburro, C., Iacocca, M. A., O’Sullivan, J. W., Sillari, C., Kullo, I. J., Rowley, R., Dron, J. S., Brockman, D., Venner, E., McCarthy, M. I., Antoniou, A. C., Easton, D. F., Hegele, R. A., Khera, A. V., Chatterjee, N., Kooperberg, K. E., … Wojcik, G. L. (2021). Improving Reporting Standards for Polygenic Scores in Risk Prediction Studies. Nature, 591(7849), 211-219. https://doi.org/10.1038/s41586-021-03243-6
Fuentes normativas y jurisprudenciales
Convention for the Protection of Human Rights and Dignity of the Human Being with regard to the Application of Biology and Medicine: Convention on Human Rights and Biomedicine. Council of Europe (1997). https://www.coe.int/en/web/conventions/full-list/-/conventions/treaty/164
Decreto Supremo n.º 016-2024-JUS. Decreto Supremo que Aprueba el Reglamento de la Ley n.º 29733, Ley de Protección de Datos Personales. Diario Oficial El Peruano (30 de noviembre de 2024).
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos. Diario Oficial de la Unión Europea, L 119/1 (2016). https://eur-lex.europa.eu/eli/reg/2016/679/oj
Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial Diario Oficial de la Unión Europea, L 1689/1 (2024). https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Reglamento (UE) 2025/327 del Parlamento Europeo y del Consejo, de 11 de febrero de 2025, relativo al Espacio Europeo de Datos de Salud, y por el que se modifican la Directiva 2011/24/UE y el Reglamento (UE) 2024/2847 Diario Oficial de la Unión Europea (5 de marzo de 2025). https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=OJ:L_202500327
Universal Declaration on the Human Genome and Human Rights. Unesco (1997). https://www.unesco.org/en/legal-affairs/universal-declaration-human-genome-and-human-rights
Copyright (c) 2026 Olga Alejandra Alcántara Francia, Jennifer Guiselle Rojas Alvarado, Enrico Marcel Huarag Guerrero
This work is licensed under a Creative Commons Attribution 4.0 International License.
Os autores mantêm seus direitos autorais e se registram sob a licença Creative Commons Attribution 4.0 International License (CC BY 4.0), que permite o uso do material publicado (adaptar - remixar, transformar e construir sobre - e compartilhar - copiar e redistribuir - o material em qualquer meio ou formato).
1. A revista permite que os autores mantenham seus direitos autorais dos artigos enviados sem nenhuma restrição.
2. Os autores mantêm o direito de compartilhar, distribuir, copiar, executar e comunicar publicamente o artigo publicado na Revista Oficial del Poder Judicial (por exemplo, colocá-lo em um repositório institucional).
3. Os autores mantêm o direito de fazer publicações posteriores de seu trabalho, de usar o artigo ou qualquer parte dele (por exemplo, uma compilação de seu trabalho, notas para conferências, teses ou para um livro), desde que indiquem a fonte de publicação (autores do trabalho, revista, volume, número e data).
