The Algorithmic bias generated by artificial intelligence as an act of discrimination in employment relations
Abstract
This study analyzes the new challenges posed for law and in the field of labor law with the use of artificial intelligence. The research problem is oriented towards examining the impact of this intelligent system on the employer's decision-making during the employment relationship through the use of algorithms as biases or filters employed in workforce management. The main objective is to determine whether the application of algorithmic biases generated by artificial intelligence constitutes acts of discrimination that violate the Principle of Equality and Non-Discrimination in employment relations. The methodology employed was a qualitative approach with a hermeneutic research design, without using instruments as it is a theoretical investigation. Information was obtained from the internet, selecting relevant documents for the research consisting of scientific articles, e-books, websites, and electronic theses at the master's level, all in Spanish and published from 2020 onwards. The results confirmed the hypothesis that the use of algorithmic biases constitutes discriminatory acts in labor relations by negatively influencing business decision-making. It is concluded that it is necessary for there to be normative protection in our country and in the international normative system to avoid vulnerability in the protection of workers' fundamental rights.
Downloads
Metrics
References
Aguirre, J. (2022). Modelos y buenas prácticas evaluativas para detectar impactos, riesgos y daños de la inteligencia artificial. PAAKAT: Revista de Tecnología y Sociedad, 12 (23), 1-20. https://doi.org/10.32870/pk.a12n23.742
Aliaga, C. (11 de marzo de 2024). Inteligencia artificial y sesgos de género: Entrenar a los algoritmos para no perpetuar discriminaciones. Blog Universidad de Chile. https://uchile.cl/noticias/213982/avances-y-desafios-sobre-inteligencia-artificial-y-sesgos-de-genero
Arguelles, E. y Amaro, M. (2023). Preocupaciones éticas en el uso de la inteligencia artificial, transparencia y derecho de acceso a la información. El caso de los chatbots en el gobierno de México, en el contexto de la COVID-19. Revista Estudios en Derecho a la Información, (15), 85-111. https://doi.org/10.22201/iij.25940082e.2023.15.17472
Barrios, H., Díaz H. y Guerra, Y. (2020). Subjetividades e inteligencia artificial: desafíos para ‘lo humano’. Veritas, (47), 81-107. http://dx.doi.org/10.4067/S0718-92732020000300081
Belloso, N. (2022). La problemática de los sesgos algorítmicos (con especial referencia a los de género) ¿Hacia un derecho a la protección contra los sesgos? En J. Garrido y R. Valdivia (coords.), Inteligencia Artificial y Filosofía del Derecho (pp. 45- 78). Ediciones Laborum. https://www.iltras.com.mx/_files/ugd/e3d2a3_829f4f5ac60346e6811f87566d8a32c6.pdf#page=45
Eguíluz, J. (2020). Desafíos y retos que plantean las decisiones automatizadas y los perfilados para los derechos fundamentales. Estudios de Deusto, 68 (2), 325-367. https://doi.org/10.18543/ed-68(2)-2020pp325-367
Figueroa, E. (2024). Inteligencia artificial (IA) emergente: ¿riesgo potencial para los derechos humanos? Ius Inkarri, 13 (15), 143-167. https://revistas.urp.edu.pe/index.php/Inkarri/article/view/6464/11719
Foro Económico Mundial (4 de octubre de 2023). Así es como la inteligencia artificial transformará la toma de decisiones. Foro Económico Mundial. https://es.weforum.org/agenda/2023/10/la-inteligencia-artificial-transformara-la-toma-de-decisiones-asi-es-como/
Gómez, L. (2022): Inteligencia artificial y derechos fundamentales. En J. Garrido y R. Valdivia (coords.) Inteligencia Artificial y Filosofía del Derecho (pp. 91-114). Ediciones Laborum https://academikaonline.com/wp-content/uploads/2023/02/Inteligencia-artificial-y-derechos-fundamentales_Gomez-Abeja_compressed.pdf
Iturmendi, J. (2023). La discriminación algorítmica y su impacto en la dignidad de la persona y los derechos humanos. Especial referencia a los inmigrantes. Deusto Journal of Human Rights, (12), 257-284. https://doi.org/10.18543/djhr.2910
López, J. (2021). Desenmascarando datos: Igualdad e Inteligencia Artificial. Revista IUS, 15 (48), 137-156. https://doi.org/10.35487/rius.v15i48.2021.740
Morales, D. (2021). Implicaciones jurídicas del algoritmo: derechos intelectuales y privacidad. Foro: Revista de Derecho, (36), 111- 130. https://doi.org/10.32719/26312484.2021.36.6
Morales, G. (2023). Problemática antropológica detrás de la discriminación generada a partir de los algoritmos de la inteligencia artificial. Medicina y Ética, 34 (2), 429-455. https://doi.org/10.36105/mye.2023v34n2.04
Muñoz, C. (2021). La discriminación en una sociedad automatizada: Contribuciones desde América Latina. Revista Chilena de Derecho y Tecnología, 10(1), 271-307. http://dx.doi.org/10.5354/0719-2584.2021.58793
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura [Unesco] (2024). Recomendación sobre la ética en la inteligencia artificial. Unesco. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa
Osornio, A. (23 de septiembre de 2023). Discriminación digital: algoritmos de IA retratan los prejuicios de sus desarrolladores. Wired. https://es.wired.com/articulos/discriminacion-digital-algoritmos-de-ia-retratan-prejuicios-de-desarrolladores
Prieto-Pérez, T. (2023). Implicaciones jurídico laborales de la Inteligencia Artificial. [Tesis de Máster Universitario, Universidad de León]. https://buleria.unileon.es/handle/10612/17383
Puntriano, C. (2024). Las tecnologías de la información y de las comunicaciones y las relaciones de trabajo. Relevancia jurídica y operativa de las TIC en el ámbito laboral (1.a edición, tomo I). Editorial Gaceta Jurídica S. A.
Ramírez, R. (2023). Sesgos y discriminaciones sociales de los algoritmos en Inteligencia Artificial: una revisión documental. Entretextos, 15 (39), 1-17. https://doi.org/10.59057/iberoleon.20075316.202339664
Real Academia Española (2023). Diccionario de la lengua española (23.a ed.), [versión 23.7 en línea]. Asociación de Academias de la Lengua Española. https://dle.rae.es/algoritmo
Salvatierra, E. (2 de octubre de 2023). La inteligencia artificial discrimina en los procesos de selección. Blog Cadena Ser. https://cadenaser.com/nacional/2023/10/02/la-inteligencia-artificial-discrimina-en-los-procesos-de-seleccion-cadena-ser/
Sánchez, M. (2022). Los riesgos de la inteligencia artificial para el principio de igualdad y no discriminación. Planteo de la problemática y algunas aclaraciones conceptuales necesarias bajo el prisma del Sistema Interamericano de Derechos Humanos. Revista elDial.com, Contenidos Jurídicos. Editorial Albrematica S. A. https://acortar.link/gT5nu1
Segovia, J. (25 de abril de 2024). Riesgos de sesgo y discriminación en Inteligencia Artificial (IA). BDO. https://www.bdo.es/es-es/blogs-es/coordenadas-bdo/riesgos-de-sesgo-y-discriminacion-en-inteligencia-artificial-(ia)
Villegas, A. (7 de abril de 2024). Sesgos algorítmicos y discriminación de la inteligencia artificial y formas educativas de abordarlo. AVD aprendizaje digital. https://adrianvillegasd.com/sesgos-algoritmicos-y-discriminacion-de-la-inteligencia-artificial-y-formas-educativas-de-abordarlo
Ley n.° 31814. Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país. Diario Oficial El Peruano. (5 de julio de 2023). https://www.gob.pe/institucion/congreso-de-la-republica/normas-legales/4565760-31814
Resolución Ministerial n.° 132-2024-PCM. Presidencia del Consejo de Ministros (2 de mayo del 2024). https://www.gob.pe/institucion/pcm/normas-legales/5516872-132-2024-pcm
This work is licensed under a Creative Commons Attribution 4.0 International License.
Authors retain their copyrights and register under the Creative Commons Attribution 4.0 International License (CC BY 4.0), which allows them to use what is published (adapt - remix, transform and build - and share - copy and redistribute - the material in any medium or format).
1. The journal allows authors to retain their copyrights of submitted articles without any restrictions.
2. Authors retain the right to share, distribute, copy, perform and publicly communicate the article published in the Revista de Derecho Procesal del Trabajo (e.g., place it in an institutional repository).
3. Authors retain the right to make a subsequent publication of their work, to use the article or any part of it (e.g., a compilation of their work, notes for conferences, thesis, or for a book), provided they indicate the source of publication (authors of the work, journal, volume, number and date).
