O Viés Algorítmico Gerado pela Inteligência Artificial como um Ato de Discriminação nas Relações de Trabalho

Palavras-chave: discriminação, discriminação algorítmica, inteligência artificial, relações de trabalho, sesgo algorítmico

Resumo

Este estudo analisa os novos desafios apresentados para o direito e no campo do direito do trabalho com o uso da inteligência artificial. O problema de pesquisa está orientado a examinar o impacto deste sistema inteligente na tomada de decisões do empregador durante a relação de trabalho, por meio do uso de algoritmos como vieses ou filtros empregados na gestão da força de trabalho. O objetivo principal é determinar se a aplicação dos vieses algorítmicos gerados pela inteligência artificial constitui atos de discriminação que violam o Princípio da Igualdade e da Não Discriminação nas relações de trabalho. A metodologia empregada foi a abordagem qualitativa com um desenho de pesquisa hermenêutico, sem o uso de instrumentos, uma vez que se trata de uma investigação teórica. Foram obtidas informações da internet, selecionando documentos relevantes para a pesquisa consistentes em artigos científicos, livros eletrônicos, páginas da web e teses eletrônicas em nível de mestrado, todos em espanhol e publicados a partir de 2020. Os resultados obtidos confirmaram a hipótese de que o uso dos vieses algorítmicos constitui atos discriminatórios nas relações de trabalho ao influenciar negativamente a tomada de decisões empresariais. Conclui-se que é necessário que exista proteção normativa em nosso país e no sistema normativo internacional para evitar a vulnerabilidade na proteção dos direitos fundamentais dos trabalhadores.

Downloads

Não há dados estatísticos.

Metrics

Carregando Métricas ...

Biografia do Autor

Karla Paola Castillo-Castro, Corte Superior de Justicia de La Libertad, Trujillo, Perú

Abogada, graduada y titulada en la Universidad Nacional de Trujillo (UNT). Maestra en Derecho con mención en Derecho Civil y Comercial en la misma casa de estudios, magíster en Gestión Pública y doctora en Derecho por la Universidad Privada César Vallejo. Labora en la Corte Superior de Justicia de La Libertad desde octubre de 2006 hasta la fecha. Desde 2014 viene desempeñándose como jueza supernumeraria en los Juzgados de Paz Letrado y Juzgados Especializados Laborales de Trujillo. Se encuentra a cargo de procesos tramitados con la Nueva Ley Procesal del Trabajo.

Referências

Aguirre, J. (2022). Modelos y buenas prácticas evaluativas para detectar impactos, riesgos y daños de la inteligencia artificial. PAAKAT: Revista de Tecnología y Sociedad, 12 (23), 1-20. https://doi.org/10.32870/pk.a12n23.742

Aliaga, C. (11 de marzo de 2024). Inteligencia artificial y sesgos de género: Entrenar a los algoritmos para no perpetuar discriminaciones. Blog Universidad de Chile. https://uchile.cl/noticias/213982/avances-y-desafios-sobre-inteligencia-artificial-y-sesgos-de-genero

Arguelles, E. y Amaro, M. (2023). Preocupaciones éticas en el uso de la inteligencia artificial, transparencia y derecho de acceso a la información. El caso de los chatbots en el gobierno de México, en el contexto de la COVID-19. Revista Estudios en Derecho a la Información, (15), 85-111. https://doi.org/10.22201/iij.25940082e.2023.15.17472

Barrios, H., Díaz H. y Guerra, Y. (2020). Subjetividades e inteligencia artificial: desafíos para ‘lo humano’. Veritas, (47), 81-107. http://dx.doi.org/10.4067/S0718-92732020000300081

Belloso, N. (2022). La problemática de los sesgos algorítmicos (con especial referencia a los de género) ¿Hacia un derecho a la protección contra los sesgos? En J. Garrido y R. Valdivia (coords.), Inteligencia Artificial y Filosofía del Derecho (pp. 45- 78). Ediciones Laborum. https://www.iltras.com.mx/_files/ugd/e3d2a3_829f4f5ac60346e6811f87566d8a32c6.pdf#page=45

Eguíluz, J. (2020). Desafíos y retos que plantean las decisiones automatizadas y los perfilados para los derechos fundamentales. Estudios de Deusto, 68 (2), 325-367. https://doi.org/10.18543/ed-68(2)-2020pp325-367

Figueroa, E. (2024). Inteligencia artificial (IA) emergente: ¿riesgo potencial para los derechos humanos? Ius Inkarri, 13 (15), 143-167. https://revistas.urp.edu.pe/index.php/Inkarri/article/view/6464/11719

Foro Económico Mundial (4 de octubre de 2023). Así es como la inteligencia artificial transformará la toma de decisiones. Foro Económico Mundial. https://es.weforum.org/agenda/2023/10/la-inteligencia-artificial-transformara-la-toma-de-decisiones-asi-es-como/

Gómez, L. (2022): Inteligencia artificial y derechos fundamentales. En J. Garrido y R. Valdivia (coords.) Inteligencia Artificial y Filosofía del Derecho (pp. 91-114). Ediciones Laborum https://academikaonline.com/wp-content/uploads/2023/02/Inteligencia-artificial-y-derechos-fundamentales_Gomez-Abeja_compressed.pdf

Iturmendi, J. (2023). La discriminación algorítmica y su impacto en la dignidad de la persona y los derechos humanos. Especial referencia a los inmigrantes. Deusto Journal of Human Rights, (12), 257-284. https://doi.org/10.18543/djhr.2910

López, J. (2021). Desenmascarando datos: Igualdad e Inteligencia Artificial. Revista IUS, 15 (48), 137-156. https://doi.org/10.35487/rius.v15i48.2021.740

Morales, D. (2021). Implicaciones jurídicas del algoritmo: derechos intelectuales y privacidad. Foro: Revista de Derecho, (36), 111- 130. https://doi.org/10.32719/26312484.2021.36.6

Morales, G. (2023). Problemática antropológica detrás de la discriminación generada a partir de los algoritmos de la inteligencia artificial. Medicina y Ética, 34 (2), 429-455. https://doi.org/10.36105/mye.2023v34n2.04

Muñoz, C. (2021). La discriminación en una sociedad automatizada: Contribuciones desde América Latina. Revista Chilena de Derecho y Tecnología, 10(1), 271-307. http://dx.doi.org/10.5354/0719-2584.2021.58793

Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura [Unesco] (2024). Recomendación sobre la ética en la inteligencia artificial. Unesco. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

Osornio, A. (23 de septiembre de 2023). Discriminación digital: algoritmos de IA retratan los prejuicios de sus desarrolladores. Wired. https://es.wired.com/articulos/discriminacion-digital-algoritmos-de-ia-retratan-prejuicios-de-desarrolladores

Prieto-Pérez, T. (2023). Implicaciones jurídico laborales de la Inteligencia Artificial. [Tesis de Máster Universitario, Universidad de León]. https://buleria.unileon.es/handle/10612/17383

Puntriano, C. (2024). Las tecnologías de la información y de las comunicaciones y las relaciones de trabajo. Relevancia jurídica y operativa de las TIC en el ámbito laboral (1.a edición, tomo I). Editorial Gaceta Jurídica S. A.

Ramírez, R. (2023). Sesgos y discriminaciones sociales de los algoritmos en Inteligencia Artificial: una revisión documental. Entretextos, 15 (39), 1-17. https://doi.org/10.59057/iberoleon.20075316.202339664

Real Academia Española (2023). Diccionario de la lengua española (23.a ed.), [versión 23.7 en línea]. Asociación de Academias de la Lengua Española. https://dle.rae.es/algoritmo

Salvatierra, E. (2 de octubre de 2023). La inteligencia artificial discrimina en los procesos de selección. Blog Cadena Ser. https://cadenaser.com/nacional/2023/10/02/la-inteligencia-artificial-discrimina-en-los-procesos-de-seleccion-cadena-ser/

Sánchez, M. (2022). Los riesgos de la inteligencia artificial para el principio de igualdad y no discriminación. Planteo de la problemática y algunas aclaraciones conceptuales necesarias bajo el prisma del Sistema Interamericano de Derechos Humanos. Revista elDial.com, Contenidos Jurídicos. Editorial Albrematica S. A. https://acortar.link/gT5nu1

Segovia, J. (25 de abril de 2024). Riesgos de sesgo y discriminación en Inteligencia Artificial (IA). BDO. https://www.bdo.es/es-es/blogs-es/coordenadas-bdo/riesgos-de-sesgo-y-discriminacion-en-inteligencia-artificial-(ia)

Villegas, A. (7 de abril de 2024). Sesgos algorítmicos y discriminación de la inteligencia artificial y formas educativas de abordarlo. AVD aprendizaje digital. https://adrianvillegasd.com/sesgos-algoritmicos-y-discriminacion-de-la-inteligencia-artificial-y-formas-educativas-de-abordarlo

Ley n.° 31814. Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país. Diario Oficial El Peruano. (5 de julio de 2023). https://www.gob.pe/institucion/congreso-de-la-republica/normas-legales/4565760-31814

Resolución Ministerial n.° 132-2024-PCM. Presidencia del Consejo de Ministros (2 de mayo del 2024). https://www.gob.pe/institucion/pcm/normas-legales/5516872-132-2024-pcm

Publicado
2025-06-30
Como Citar
Castillo-Castro, K. P. (2025). O Viés Algorítmico Gerado pela Inteligência Artificial como um Ato de Discriminação nas Relações de Trabalho. Revista De Direito Processual Do Trabalho, 8(11), 72-97. https://doi.org/10.47308/rdpt.v8i11.1133
Seção
Artigos de pesquisa