El sesgo algorítmico generado por la inteligencia artificial como acto de discriminación en las relaciones de trabajo
Resumen
El presente estudio analiza los nuevos retos planteados para el derecho, en particular el derecho laboral ante el avance y la implementación de la inteligencia artificial. El problema de investigación se orienta a examinar el impacto de este sistema inteligente en la toma de decisiones del empleador durante la relación laboral mediante el uso de algoritmos como sesgos o filtros empleados en la gestión de la fuerza de trabajo. El objetivo principal es determinar si la aplicación de los sesgos algorítmicos generados por la inteligencia artificial constituye algún tipo de acto de discriminación que vulnere el principio de igualdad y de no discriminación en las relaciones de trabajo. La metodología empleada corresponde a un enfoque cualitativo con un diseño de investigación hermenéutico, sin el empleo de instrumentos, dado que se trata de una investigación teórica. Se obtuvo información de internet, de la que se seleccionaron los documentos relevantes para la investigación, consistentes en artículos científicos, libros electrónicos, páginas web y tesis electrónicas a nivel de máster universitario. Todos ellos se encontraban en español y fueron publicados desde 2020 en adelante. Los resultados obtenidos confirmaron la hipótesis de que el uso de los sesgos algorítmicos constituye un tipo de acto discriminatorio en las relaciones laborales, al incidir negativamente en la toma de decisiones empresariales. Se concluye que resulta necesaria la existencia de una protección normativa en nuestro país y en el sistema normativo internacional con el fin de evitar situaciones de indefensión en la protección de los derechos fundamentales de los trabajadores.
Estadísticas de descarga
Estadísticas de uso
Referencias citadas
Aguirre, J. (2022). Modelos y buenas prácticas evaluativas para detectar impactos, riesgos y daños de la inteligencia artificial. PAAKAT: Revista de Tecnología y Sociedad, 12 (23), 1-20. https://doi.org/10.32870/pk.a12n23.742
Aliaga, C. (11 de marzo de 2024). Inteligencia artificial y sesgos de género: Entrenar a los algoritmos para no perpetuar discriminaciones. Blog Universidad de Chile. https://uchile.cl/noticias/213982/avances-y-desafios-sobre-inteligencia-artificial-y-sesgos-de-genero
Arguelles, E. y Amaro, M. (2023). Preocupaciones éticas en el uso de la inteligencia artificial, transparencia y derecho de acceso a la información. El caso de los chatbots en el gobierno de México, en el contexto de la COVID-19. Revista Estudios en Derecho a la Información, (15), 85-111. https://doi.org/10.22201/iij.25940082e.2023.15.17472
Barrios, H., Díaz H. y Guerra, Y. (2020). Subjetividades e inteligencia artificial: desafíos para ‘lo humano’. Veritas, (47), 81-107. http://dx.doi.org/10.4067/S0718-92732020000300081
Belloso, N. (2022). La problemática de los sesgos algorítmicos (con especial referencia a los de género) ¿Hacia un derecho a la protección contra los sesgos? En J. Garrido y R. Valdivia (coords.), Inteligencia Artificial y Filosofía del Derecho (pp. 45- 78). Ediciones Laborum. https://www.iltras.com.mx/_files/ugd/e3d2a3_829f4f5ac60346e6811f87566d8a32c6.pdf#page=45
Eguíluz, J. (2020). Desafíos y retos que plantean las decisiones automatizadas y los perfilados para los derechos fundamentales. Estudios de Deusto, 68 (2), 325-367. https://doi.org/10.18543/ed-68(2)-2020pp325-367
Figueroa, E. (2024). Inteligencia artificial (IA) emergente: ¿riesgo potencial para los derechos humanos? Ius Inkarri, 13 (15), 143-167. https://revistas.urp.edu.pe/index.php/Inkarri/article/view/6464/11719
Foro Económico Mundial (4 de octubre de 2023). Así es como la inteligencia artificial transformará la toma de decisiones. Foro Económico Mundial. https://es.weforum.org/agenda/2023/10/la-inteligencia-artificial-transformara-la-toma-de-decisiones-asi-es-como/
Gómez, L. (2022): Inteligencia artificial y derechos fundamentales. En J. Garrido y R. Valdivia (coords.) Inteligencia Artificial y Filosofía del Derecho (pp. 91-114). Ediciones Laborum https://academikaonline.com/wp-content/uploads/2023/02/Inteligencia-artificial-y-derechos-fundamentales_Gomez-Abeja_compressed.pdf
Iturmendi, J. (2023). La discriminación algorítmica y su impacto en la dignidad de la persona y los derechos humanos. Especial referencia a los inmigrantes. Deusto Journal of Human Rights, (12), 257-284. https://doi.org/10.18543/djhr.2910
López, J. (2021). Desenmascarando datos: Igualdad e Inteligencia Artificial. Revista IUS, 15 (48), 137-156. https://doi.org/10.35487/rius.v15i48.2021.740
Morales, D. (2021). Implicaciones jurídicas del algoritmo: derechos intelectuales y privacidad. Foro: Revista de Derecho, (36), 111- 130. https://doi.org/10.32719/26312484.2021.36.6
Morales, G. (2023). Problemática antropológica detrás de la discriminación generada a partir de los algoritmos de la inteligencia artificial. Medicina y Ética, 34 (2), 429-455. https://doi.org/10.36105/mye.2023v34n2.04
Muñoz, C. (2021). La discriminación en una sociedad automatizada: Contribuciones desde América Latina. Revista Chilena de Derecho y Tecnología, 10(1), 271-307. http://dx.doi.org/10.5354/0719-2584.2021.58793
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura [Unesco] (2024). Recomendación sobre la ética en la inteligencia artificial. Unesco. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa
Osornio, A. (23 de septiembre de 2023). Discriminación digital: algoritmos de IA retratan los prejuicios de sus desarrolladores. Wired. https://es.wired.com/articulos/discriminacion-digital-algoritmos-de-ia-retratan-prejuicios-de-desarrolladores
Prieto-Pérez, T. (2023). Implicaciones jurídico laborales de la Inteligencia Artificial. [Tesis de Máster Universitario, Universidad de León]. https://buleria.unileon.es/handle/10612/17383
Puntriano, C. (2024). Las tecnologías de la información y de las comunicaciones y las relaciones de trabajo. Relevancia jurídica y operativa de las TIC en el ámbito laboral (1.a edición, tomo I). Editorial Gaceta Jurídica S. A.
Ramírez, R. (2023). Sesgos y discriminaciones sociales de los algoritmos en Inteligencia Artificial: una revisión documental. Entretextos, 15 (39), 1-17. https://doi.org/10.59057/iberoleon.20075316.202339664
Real Academia Española (2023). Diccionario de la lengua española (23.a ed.), [versión 23.7 en línea]. Asociación de Academias de la Lengua Española. https://dle.rae.es/algoritmo
Salvatierra, E. (2 de octubre de 2023). La inteligencia artificial discrimina en los procesos de selección. Blog Cadena Ser. https://cadenaser.com/nacional/2023/10/02/la-inteligencia-artificial-discrimina-en-los-procesos-de-seleccion-cadena-ser/
Sánchez, M. (2022). Los riesgos de la inteligencia artificial para el principio de igualdad y no discriminación. Planteo de la problemática y algunas aclaraciones conceptuales necesarias bajo el prisma del Sistema Interamericano de Derechos Humanos. Revista elDial.com, Contenidos Jurídicos. Editorial Albrematica S. A. https://acortar.link/gT5nu1
Segovia, J. (25 de abril de 2024). Riesgos de sesgo y discriminación en Inteligencia Artificial (IA). BDO. https://www.bdo.es/es-es/blogs-es/coordenadas-bdo/riesgos-de-sesgo-y-discriminacion-en-inteligencia-artificial-(ia)
Villegas, A. (7 de abril de 2024). Sesgos algorítmicos y discriminación de la inteligencia artificial y formas educativas de abordarlo. AVD aprendizaje digital. https://adrianvillegasd.com/sesgos-algoritmicos-y-discriminacion-de-la-inteligencia-artificial-y-formas-educativas-de-abordarlo
Ley n.° 31814. Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país. Diario Oficial El Peruano. (5 de julio de 2023). https://www.gob.pe/institucion/congreso-de-la-republica/normas-legales/4565760-31814
Resolución Ministerial n.° 132-2024-PCM. Presidencia del Consejo de Ministros (2 de mayo del 2024). https://www.gob.pe/institucion/pcm/normas-legales/5516872-132-2024-pcm
Esta obra está bajo licencia internacional Creative Commons Reconocimiento 4.0.
Los autores conservan sus derechos de autor y se inscriben bajo la licencia Creative Commons Attribution 4.0 International License (CC BY 4.0), la cual permite usar lo publicado (adaptar —remezclar, transformar y construir— y compartir —copiar y redistribuir— el material en cualquier medio o formato).
1. La revista permite a los autores conservar sus derechos de autor de los artículos sometidos sin ningún tipo de restricciones.
2. Los autores retienen el derecho de compartir, distribuir, copiar, ejecutar y comunicar públicamente el artículo publicado en la Revista de Derecho Procesal del Trabajo (por ejemplo, colocarlo en un repositorio institucional).
3. Los autores retienen el derecho a hacer una posterior publicación de su trabajo, de utilizar el artículo o cualquier parte de aquel (por ejemplo: una compilación de sus trabajos, notas para conferencias, tesis, o para un libro), siempre que indiquen la fuente de publicación (autores del trabajo, revista, volumen, número y fecha).
