Revista Oficial del Poder Judicial - ISSN: 2663-9130 (En línea)
Vol. 17, n.º 23, enero-junio, 2025, 49-82
DOI: https://doi.org/10.35292/ropj.v17i23.1066
Hacia un nuevo paradigma de responsabilidad civil para vehículos autónomos: propuesta de un marco jurídico dinámico basado en niveles de autonomía
Towards a new paradigm of civil liability for autonomous vehicles: proposal for a dynamic legal framework based on levels of autonomy
Rumo a um novo paradigma de responsabilidade civil para veículos autônomos: proposta de um marco legal dinâmico baseado em níveis de autonomia
Olga Alejandra Alcántara Francia
Universidad Científica del Sur
(Lima, Perú)
Contacto: oalcantara@cientifica.edu.pe
https://orcid.org/0000-0001-9159-1245
César Carranza Álvarez
Universidad Científica del Sur
(Lima, Perú)
Contacto: ccarranzaa@cientifica.edu.pe
https://orcid.org/0000-0002-1676-1045
RESUMEN
El surgimiento de vehículos autónomos presenta desafíos sin precedentes para el derecho de responsabilidad civil. Este artículo propone un nuevo paradigma jurídico: un marco jurídico dinámico que adapta la atribución de responsabilidad a los diversos niveles de autonomía vehicular. Mediante un análisis doctrinal, jurisprudencial y comparativo de legislaciones internacionales, se identifica la inadecuación de los marcos legales actuales para abordar la complejidad de los sistemas autónomos. El marco propuesto establece una categorización de responsabilidad basada en niveles de autonomía, desde la responsabilidad compartida humano-máquina en niveles bajos, hasta la responsabilidad del sistema y del fabricante en niveles altos. Se integran principios de «ética by design» y se propone un sistema de seguros escalonado. La validación del marco incluye su aplicación a casos hipotéticos y evaluación por expertos, demostrando su viabilidad y su adaptabilidad a futuras evoluciones tecnológicas. Este enfoque innovador no solo ofrece una solución a las lagunas legales existentes, sino que también proporciona un fundamento flexible para futuras reformas legislativas. El artículo concluye que este marco dinámico es esencial para equilibrar la innovación tecnológica con la protección jurídica efectiva, y sienta las bases para una regulación coherente y adaptativa de los vehículos autónomos.
Palabras clave: vehículos autónomos; responsabilidad civil; marco jurídico dinámico; niveles de autonomía; ética by design; derecho tecnológico; regulación adaptativa.
ABSTRACT
The emergence of autonomous vehicles presents unprecedented challenges for civil liability law. This article proposes a new legal paradigm: a dynamic legal framework that adapts liability attribution to the various levels of vehicular autonomy. Through doctrinal, jurisprudential, and comparative analysis of international legislation, the inadequacy of current legal frameworks to address the complexity of autonomous systems is identified. The proposed framework establishes a liability categorization based on levels of autonomy, ranging from shared human-machine responsibility at lower levels to system and manufacturer liability at higher levels. It integrates principles of “ethics by design” and proposes a tiered insurance system. The framework’s validation includes application to hypothetical cases and expert evaluation, demonstrating its feasibility and adaptability to future technological developments. This innovative approach not only addresses existing legal gaps but also provides a flexible foundation for future legislative reforms. The article concludes that this dynamic framework is essential to balance technological innovation with effective legal protection, and it lays the groundwork for coherent and adaptive regulation of autonomous vehicles.
Key words: autonomous vehicles; civil liability; dynamic legal framework; levels of autonomy; ethics by design; technology law; adaptive regulation.
RESUMO
O surgimento dos veículos autônomos apresenta desafios sem precedentes à lei de responsabilidade civil. Este artigo propõe um novo paradigma jurídico: um quadro jurídico dinâmico que adapta a atribuição de responsabilidade aos vários níveis de autonomia do veículo. Por meio de uma análise doutrinária, jurisprudencial e comparativa das leis internacionais, é identificada a inadequação dos quadros jurídicos atuais para lidar com a complexidade dos sistemas autônomos. A estrutura proposta estabelece uma categorização da responsabilidade com base nos níveis de autonomia, desde a responsabilidade compartilhada entre homem e máquina em níveis baixos até a responsabilidade do sistema e do fabricante em altos níveis. Os princípios da “ética by design” são integrados e é proposto um sistema de seguros escalonado. A validação da estrutura inclui sua aplicação a casos hipotéticos e avaliação por especialistas, demonstrando sua viabilidade e adaptabilidade a futuros desenvolvimentos tecnológicos. Essa abordagem inovadora não só oferece uma solução para as lacunas legais existentes, mas também fornece uma base flexível para futuras reformas legislativas. O artigo conclui que essa estrutura dinâmica é essencial para equilibrar a inovação tecnológica com a proteção legal efetiva e estabelece as bases para uma regulamentação coerente e adaptativa de veículos autônomos.
Palavras-chave: veículos autônomos; responsabilidade civil; estrutura legal dinâmica; níveis de autonomia; ética by design; direito tecnológico; regulação adaptativa.
Recibido: 29/10/2024 Revisado: 4/11/2024
Aceptado: 20/3/2025 Publicado en línea: 15/7/2025
1. INTRODUCCIÓN
El advenimiento de los vehículos autónomos representa una revolución tecnológica que promete transformar radicalmente el transporte y la movilidad urbana (Jeyachandran, 2024). Sin embargo, tal hecho plantea una serie de problemas jurídicos, de manera particular, en el ámbito de la responsabilidad civil. Como señalan Schellekens (2018) y Collingwood (2017), la autonomía vehicular pone en cuestión los fundamentos tradicionales de la responsabilidad derivada de accidentes de tránsito, basados desde siempre en la conducta humana y el control ejercido sobre el vehículo.
El problema radica ahora en atribuir responsabilidad civil en escenarios donde las decisiones críticas se toman mediante inteligencia artificial, sin que para esto intervenga la acción humana directa (De Bruyne y Werbrouck, 2018). Esto, desde luego, supone cuestionar conceptos como la culpa, la previsibilidad y la causalidad, pilares del derecho de daños tradicional (Gurney, 2017).
La regulación vigente sobre vehículos autónomos se encuentra en un estado incipiente y fragmentado en aquellos países que han previsto alguna disciplina legal sobre ello. Autores como Taeihagh y Lim (2019) señalan que mientras algunos han desarrollado marcos normativos concretos, otros enfrentan vacíos legales importantes. En los Estados Unidos (EE. UU.), por ejemplo, la regulación varía de forma considerable entre estados, con California y Arizona como puntas de lanza en la elaboración de normativas para pruebas y operación de dichos vehículos (Lunders et al., 2016).
La Unión Europea, por su parte, ha emitido directrices y trabaja en un marco regulatorio unificado, aunque esto no se ha traducido en legislación vinculante (European Commission, 2019). Por otro lado, la Convención de Viena sobre Circulación Vial de 1968 ha sido modificada para permitir sistemas de conducción automatizados; no obstante, no prevé todavía el caso de los vehículos totalmente independientes (United Nations Economic and Social Council, 2020).
Basándonos en la literatura existente, podemos identificar algunas circunstancias problemáticas, como: (i) ausencia de un marco legal específico para determinar la responsabilidad en accidentes que involucren vehículos autónomos (Schellekens, 2018); (ii) falta de claridad en la atribución de responsabilidad entre fabricantes, desarrolladores de software, propietarios y usuarios (De Bruyne y Werbrouck, 2018); (iii) inadecuación de los conceptos tradicionales de negligencia y responsabilidad objetiva frente a la toma de decisiones algorítmica (Gurney, 2017); (iv) dificultades en la determinación de la causalidad en accidentes que involucren interacciones complejas entre sistemas autónomos y factores externos (Collingwood, 2017); (v) ausencia de estándares uniformes para evaluar la «conducta» de los vehículos autónomos (Taeihagh y Lim, 2019); (vi) dificultades en la adaptación de los sistemas de seguros existentes a los nuevos riesgos presentados por la autonomía vehicular (Schellekens, 2018); (vii) problemas éticos y legales en la programación de decisiones en situaciones de dilema moral (Coca-Vila, 2018).
En línea con lo anterior, nos proponemos en este trabajo aportar fundamentos para la construcción de un marco jurídico para atribuir responsabilidad civil en aquellos casos que involucren a vehículos autónomos. Así, el estudio pretende desarrollar un modelo de responsabilidad en escalas que se adapte a los diferentes niveles de autonomía vehicular, para ello nos basamos en el estudio de Geistfeld (2017); integrar principios de «ética by design» en la determinación de ella, siguiendo las recomendaciones de Coca-Vila (2018); proponer mecanismos legales que equilibren la innovación tecnológica con la protección efectiva de los derechos de las víctimas, en línea con las propuestas de De Bruyne y Werbrouck (2018); y, por último, diseñar un sistema de seguros que se adapte a los cambiantes perfiles de riesgo de los vehículos autónomos, basado en los modelos sugeridos por Schellekens (2018).
Nuestro estudio es relevante porque colma un vacío en la legislación actual, al proporcionar ideas teóricas y prácticas para legisladores y operadores jurídicos. Como indican Taeihagh y Lim (2019), es necesario desarrollar un marco jurídico que no solo responda a la problemática actual, sino que sea flexible para adaptarse a innovaciones futuras. Del mismo modo, pretende contribuir a la construcción de un sistema legal que promueva la innovación tecnológica, mientras garantiza la seguridad jurídica y la protección de los derechos de los involucrados en el ámbito de la movilidad autónoma.
En cuanto a la metodología, esta investigación adopta un enfoque sociolegal, como lo describen Cownie y Bradney (2018). Este método permite examinar no solo las normas legales formales, sino también su interacción con los contextos sociales y tecnológicos en los que operan. Siguiendo a Van Hoecke (2015), se emplea una combinación de métodos, incluyendo el análisis doctrinal, el estudio comparativo y la investigación documental.
El enfoque sociolegal es particularmente apropiado para el estudio de la responsabilidad civil en el contexto de los vehículos autónomos, ya que permite abordar la complejidad de las interacciones entre la tecnología emergente y los marcos jurídicos existentes (Brownsword, 2017). El análisis doctrinal y documental se realiza siguiendo la metodología propuesta por Hutchinson y Duncan (2012). Este proceso implica la identificación de fuentes primarias (legislación y jurisprudencia) y secundarias (teoría jurídica) relevantes, así como la elaboración de síntesis de los principios legales extraídos de estas fuentes, y el análisis crítico de la aplicabilidad de estos principios al contexto de los vehículos autónomos.
El estudio de la legislación foránea sigue la metodología de derecho comparado descrita por Siems (2018), que implica la selección de jurisdicciones relevantes, la identificación de similitudes y diferencias en los enfoques regulatorios, y la evaluación crítica de la efectividad de diferentes marcos legales. En este contexto, se analizan las legislaciones de Estados Unidos, la Unión Europea, Japón y China, por su liderazgo en el desarrollo de vehículos autónomos, como señalan Taeihagh y Lim (2019). Este enfoque integral permite comprender cómo diferentes sistemas jurídicos están abordando esta problemática y proporciona una base sólida para el desarrollo del marco jurídico dinámico propuesto en este estudio.
2. MARCO TEÓRICO Y REVISIÓN DE LITERATURA
2.1. Evolución de la teoría de la responsabilidad civil en el contexto tecnológico
La responsabilidad civil está experimentando una evolución importante frente a los avances de la tecnología. Según Calo (2015), la aparición de tecnologías autónomas cuestiona los fundamentos tradicionales de la disciplina, basados en la culpa. Este cambio está planteando una reconsideración de los principios de causalidad y de previsión en el ámbito de sistemas automatizados. Pagallo (2013) argumenta que la creciente autonomía de estos requiere la reevaluación de los conceptos de agencia y responsabilidad. Tratándose de vehículos autónomos, Schellekens (2015) sugiere que el modelo de responsabilidad objetiva podría ser más apropiado que el sustentado en la negligencia, dada la dificultad de la atribución de «culpa» a sistemas autónomos.
De otro lado, la teoría del «riesgo-beneficio», elaborada por Calabresi y Hirschoff (1972), tiene mucha relevancia en este contexto porque sugiere que la responsabilidad debería recaer en la parte mejor posicionada para realizar un análisis costo-beneficio de los riesgos involucrados, la cual, en el caso de los vehículos autónomos, podría ser el fabricante o el desarrollador del software.
2.2. Análisis comparado de los enfoques regulatorios internacionales sobre vehículos autónomos
A nivel internacional, los enfoques regulatorios para vehículos autónomos varían significativamente, como señalan Taeihagh y Lim (2019) en su análisis comparativo detallado. Este estudio revela diferencias sustanciales entre las aproximaciones de Estados Unidos, la Unión Europea y países como Japón y China.
En Estados Unidos, la National Highway Traffic Safety Administration (NHTSA, 2016) ha adoptado un enfoque flexible al emitir directrices no vinculantes para fomentar la innovación. Este modelo se caracteriza por una regulación ligera que busca no obstaculizar el desarrollo tecnológico. La NHTSA ha publicado guías voluntarias para la industria, lo que ha permitido una amplia libertad en el desarrollo y la prueba de vehículos autónomos.
En contraste, la Unión Europea (en adelante, UE) ha optado por un enfoque más cauteloso y estructurado. El informe del European Parliament Research Service (Delvaux, 2016) aboga por un marco regulatorio más estricto. Tal es así que ha desarrollado una estrategia integral que aborda no solo aspectos técnicos, sino también éticos y sociales. El Reglamento 2019/2144 del Parlamento Europeo y del Consejo, relativo a los requisitos de homologación de tipo de los vehículos de motor, establece requisitos específicos para sistemas autónomos y conectados. A diferencia de la propuesta regulatoria norteamericana, la UE ha puesto un énfasis significativo en las implicancias éticas, como se refleja en el informe del Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial (en adelante, IA) de la Comisión Europea (2019), que proporciona directrices éticas específicas para el desarrollo de IA en vehículos autónomos.
De otro lado, y en relación con la protección de datos, la UE ha integrado consideraciones de privacidad en su enfoque regulatorio, en línea con el Reglamento General de Protección de Datos (RGPD), contrastando con el enfoque más laxo de EE. UU. en materia de privacidad. Asimismo, está desarrollando un marco específico para la responsabilidad civil en vehículos autónomos, como se refleja en el informe del Parlamento Europeo respecto a normas de derecho civil sobre robótica (2017).
Las legislaciones de los países miembros ofrecen, por su parte, diversos marcos normativos sobre la materia. Por ejemplo, la alemana introduce elementos innovadores en materia de prueba y seguridad. Destaca la exigencia de la instalación de cajas negras para el procesamiento y el almacenamiento de datos, lo que facilita la determinación de responsabilidades en caso de accidentes. No obstante, su régimen de responsabilidad civil del fabricante —cuando el sistema autónomo está operativo— ha sido objeto de críticas por generar incentivos para inhibir su efecto en la innovación tecnológica, como lo indican Taeihagh y Lim (2019).
En el ámbito de la seguridad técnica, la normativa española, a través de la Instrucción 15/V-113 de 2015, establece requisitos específicos que resultan relevantes para las fases de prueba: monitoreo constante del vehículo, capacidad de retoma de control, requisitos de capacitación para operadores y sistemas de paro de emergencia. Adicionalmente, implementa un sistema de certificación técnica obligatoria para los propietarios de vehículos autónomos (Navarro-Michel, 2020). Es importante señalar que estas regulaciones han surgido de la implementación de regulatory sandboxes, lo cual ha permitido la experimentación normativa en entornos controlados. Este enfoque facilita la innovación tecnológica, mientras mantiene salvaguardas esenciales para la seguridad pública (Ranchordas, 2021).
De otro lado, es menester señalar que el Reino Unido presenta uno de los marcos regulatorios más completos propuestos a través de la Automated and Electric Vehicles Act de 2018. Esta normativa establece un régimen de responsabilidad civil que gira sobre dos ejes fundamentales: (i) la obligatoriedad del seguro y (ii) un sistema de responsabilidad objetiva con derecho de repetición. El sistema británico establece que los daños causados por un vehículo automatizado serán cubiertos por la aseguradora o, en ausencia de seguro, por el propietario del vehículo. La norma contempla, además, el derecho de repetición contra el fabricante o usuario cuando medie culpa, así como causales específicas de exoneración de responsabilidad; como la alteración no autorizada del software o la falta de actualización de los sistemas de seguridad (Navarro-Michel, 2020).
Comparando lo anterior con el reciente Reglamento de Inteligencia Artificial de la UE, de 2024, se aprecian algunas similitudes y avances. Así, el reglamento clasifica los sistemas de IA en vehículos autónomos como de «alto riesgo», lo cual supone requisitos estrictos de seguridad, transparencia y supervisión humana. Esto se alinea con el enfoque cauteloso y centrado en la seguridad que la UE ha mantenido en la regulación de vehículos autónomos. Además, el reglamento refuerza las consideraciones éticas y de protección de datos ya presentes en las regulaciones anteriores, al establecer un marco más acorde con el desarrollo y el despliegue de la IA en este entorno. Este enfoque, más integral como armonizado a nivel comunitario, contrasta con la diversidad regulatoria existente en los estados norteamericanos, como lo anotamos líneas atrás.
En Japón, por su parte, se ha adoptado una estrategia proactiva con el gobierno, colaborando estrechamente con la industria para desarrollar estándares (Ministry of Economy, Trade and Industry, Japan, 2024). Este enfoque se caracteriza por una fuerte cooperación público-privada y un énfasis en la estandarización técnica.
De otro lado, China ha implementado regulaciones que permiten pruebas extensivas de vehículos autónomos en entornos urbanos controlados, como analizan Chen y Liu (2021). El enfoque chino se distingue por un fuerte apoyo estatal al desarrollo tecnológico, combinado con un control centralizado de las pruebas y el despliegue de este tipo de vehículos.
Estas diferencias en los enfoques regulatorios reflejan distintas prioridades y contextos culturales, legales y económicos. Mientras que EE. UU. prioriza la innovación y el liderazgo tecnológico, la UE pone mayor énfasis en la seguridad, la ética y la protección del consumidor. Por su parte, Japón busca un equilibrio entre innovación y estandarización, y China combina el apoyo estatal con un control centralizado.
2.3. Intersección entre el derecho de daños y la regulación tecnológica
La intersección entre el derecho de daños y la regulación tecnológica es un área de creciente importancia. Al respecto, Calo (2017) argumenta que los marcos regulatorios tradicionales son inadecuados para abordar los problemas planteados por las tecnologías emergentes, incluidos los vehículos autónomos.
En este entorno, autores como Lemley y Casey (2019) proponen un enfoque de «negligencia por diseño» para abordar la responsabilidad en sistemas autónomos. Este enfoque se centra en evaluar las decisiones de diseño y programación, en lugar de las acciones específicas del sistema en un incidente dado.
Pero la regulación tecnológica también debe considerar aspectos de ciberseguridad y protección de datos. Como señalan Chatfield y Reddick (2019), la exposición de los vehículos autónomos a los ciberataques plantea toda una problemática para el actual derecho de daños y la regulación de la seguridad vial.
2.4. Principios jurídicos aplicables a la inteligencia artificial y sistemas autónomos
Los principios jurídicos aplicables a la IA y sistemas autónomos están en constante evolución. Así, por ejemplo, en lo que concierne a la transparencia y la explicabilidad, autores como Doshi-Velez et al. (2017) argumentan que los sistemas de IA deben ser capaces de explicar sus decisiones de manera comprensible para los humanos, especialmente en contextos legales.
El principio de responsabilidad algorítmica también resulta aplicable al caso de los vehículos autónomos. En este sentido, los autores Kroll et al. (2017) proponen un marco normativo para garantizar la responsabilidad de los sistemas algorítmicos, incluyendo auditorías y revisiones de código. No podemos dejar de lado, por cierto, los principios de equidad y no discriminación. Autores como Barocas y Selbst (2016) destacan la importancia de asegurar que los sistemas de IA no perpetúen o exacerben sesgos y discriminación existentes.
Algunos estudiosos como Amodei et al. (2016) enfatizan la necesidad de principios de diseño que aseguren que los sistemas de IA sean seguros especialmente en aplicaciones críticas como los vehículos autónomos. Esta necesidad concuerda con lo señalado por Taeihagh y Lim (2019), para quienes la recopilación y el procesamiento masivo de datos por parte de vehículos autónomos plantea cuestiones atinentes a la privacidad que deben ser abordadas por la legislación.
Finalmente, el principio de precaución aplicado a la IA y a los sistemas autónomos sugiere un enfoque cauteloso en la implementación de tecnologías con impactos potencialmente significativos e irreversibles (Mittelstadt et al., 2016).
Sin duda, estos principios están influyendo en el desarrollo de marcos regulatorios para vehículos autónomos y otras aplicaciones de IA, como se ha evidenciado en la elaboración de las directrices éticas para IA confiable de la Comisión Europea (2019) y posteriormente en el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo del 13 de junio de 2024.
3. PROPUESTA DE MARCO JURÍDICO DINÁMICO
3.1. Fundamentos conceptuales del marco regulatorio propuesto
El marco jurídico dinámico propuesto se fundamenta en la necesidad de adaptar los principios de responsabilidad civil a la naturaleza evolutiva de los vehículos autónomos. Siguiendo el enfoque de «regulación adaptativa» propuesto por Marchant y Wallach (2015), este marco busca equilibrar la innovación tecnológica con la protección de los derechos de los individuos.
En ese sentido, la propuesta se basa en la necesidad de conseguir cierta flexibilidad normativa, lo que supone la capacidad de adaptarse a los avances de la tecnología sin que se requiera una revisión legislativa permanente (Leenes et al., 2017). Pero también en la gradualidad en la atribución de responsabilidad civil a partir de reconocer los diversos niveles de autonomía vehicular y sus implicaciones legales (SAE International, 2018). Esto implica, también, la consideración de la dinámica cambiante entre el conductor y el sistema autónomo (Calo, 2015) y la incorporación de mecanismos para evaluar y atribuir responsabilidad a sistemas de toma de decisiones automatizados (Doshi-Velez et al., 2017).
3.2. Categorización de niveles de autonomía y su impacto en la responsabilidad
La propuesta recoge los niveles de autonomía definidos por SAE International (2018) y los adapta al contexto legal de responsabilidad civil.
3.2.1. Niveles 1-2: responsabilidad compartida humano-máquina
En estos niveles, donde el conductor mantiene un control significativo, se propone un modelo de responsabilidad compartida. Siguiendo a Schellekens (2015), planteamos adoptar el principio de presunción de responsabilidad del conductor, con posibilidad de exoneración si se demuestra una falla del sistema. Y, en esta línea, resulta adecuado imputar responsabilidad al fabricante por defectos de diseño o de fabricación, basada en las reglas concernientes a productos defectuosos (Owen, 2008).
3.2.2. Nivel 3: transición de control y responsabilidad
Este nivel presenta una problemática particular debido a la transición de control entre el sistema y el conductor. Siguiendo a Colonna (2013), podemos pensar en un sistema en el que la responsabilidad por daños ocasionados durante la conducción en modo autónomo recaiga en el fabricante, como responsable principal; pero también en el conductor, durante el control manual y en los períodos de transición, sujeto a un estándar de «tiempo razonable» para retomar el control. Este sistema plantea la necesidad de implementar sistemas de registro de datos (o cajas negras) para que se determine el modo de operación en el momento del accidente (Saripalli, 2017).
3.2.3. Niveles 4-5: responsabilidad del sistema y del fabricante
En los niveles de alta y total autonomía, de acuerdo con Geistfeld (2017), se podría adoptar un régimen de responsabilidad objetivo del fabricante, basado en la teoría del riesgo-beneficio. Asimismo, dentro de este quedarían inmersos los desarrolladores de software y los proveedores de servicios de navegación como probables corresponsables. Naturalmente, deberían preverse, como causal de exoneración limitada para el fabricante, los supuestos de ciberataques o manipulación externa del sistema, sujetos a la demostración de medidas de seguridad adecuadas.
Ahora bien, dado que esta problemática se plantea en un entorno relativamente reciente, y cuya solución debe ser adaptada a este fenómeno, consideramos importante reflexionar sobre la incorporación de métodos de atribución de causalidad específicos para sistemas autónomos (Kingston, 2016). Así también, el desarrollo de un estándar legal que defina el comportamiento esperado de un sistema autónomo, similar al estándar del «conductor razonable» en el derecho de daños tradicional (Surden y Williams, 2016). Asimismo, para los casos de alta autonomía, el fabricante debería demostrar que el sistema funcionó de forma correcta, para aliviar la carga probatoria sobre la víctima (Koopman y Widen, 2023).
3.3. Integración de principios de «ética by design» en la determinación de responsabilidad
Siguiendo las recomendaciones de la Comisión Europea sobre ética en IA (2019), se propone integrar principios éticos en el diseño de vehículos autónomos y en la evaluación de responsabilidad; tales como el de transparencia algorítmica, lo cual permitiría que los sistemas de toma de decisiones sean explicables y auditables (Kroll et al., 2017). Pero también, y no menos importantes, son los principios de equidad y no discriminación, cuyo análisis permitiría evaluar los sistemas para prevenir sesgos en la toma de decisiones (Barocas y Selbst, 2016). En este entorno es fundamental la priorización de la seguridad humana; principio rector en la programación de respuestas a dilemas éticos (Coca-Vila, 2018). Y, finalmente, el respeto a la autonomía humana como garantía de que los sistemas permitan una intervención humana significativa cuando sea necesario (Santoni de Sio y Van den Hoven, 2018).
3.4. Propuesta de un sistema de seguros escalonado
Resulta importante poder desarrollar un sistema de seguros que se adapte a los diversos niveles de autonomía, de acuerdo con lo que indica Schellekens (2018). Tal sistema podría incorporar un seguro híbrido para los niveles 1 y 3, que combine el seguro de responsabilidad personal y el seguro del producto. Para los niveles 4 y 5 sería necesario un seguro de productos ampliado que ofrezca una cobertura integral gestionada por el fabricante o proveedor del sistema autónomo.
Otra medida puede consistir en la creación de un fondo de compensación para víctimas, destinado a cubrir los daños producidos, en casos donde la responsabilidad civil no pueda ser atribuida con facilidad, similar al modelo que proponen Cerka et al. (2015). Por último, la implementación de microseguros basados en uso, consistentes en sistemas de seguros dinámicos que ajusten las primas según el modo de operación del vehículo (manual o autónomo) y el historial de conducción, como lo proponen Tselentis et al. (2017).
4. ANÁLISIS CRÍTICO Y DISCUSIÓN
4.1. Ventajas del marco jurídico propuesto
El marco jurídico dinámico propuesto ofrece varias ventajas. En primer lugar, presenta una flexibilidad adaptativa que, como señalan Leenes et al. (2017), es crucial para adaptarse a los rápidos avances tecnológicos. Nuestro marco permite ajustes sin necesidad de reformas legislativas constantes, abordando la «brecha de ritmo» identificada por Marchant (2011) entre la evolución tecnológica y la regulación. Además, al establecer criterios claros basados en niveles de autonomía, el marco proporciona mayor certeza legal, un aspecto crucial según Schellekens (2015) para fomentar la innovación y la adopción de vehículos autónomos.
Por otro lado, el enfoque propuesto busca lo que Calo (2017) describe como un «equilibrio regulatorio», fomentando la innovación tecnológica mientras se protegen los derechos de los consumidores y las víctimas potenciales. Finalmente, la incorporación de principios de «ética by design» responde a las preocupaciones planteadas por Awad et al. (2018) sobre la necesidad de considerar dilemas éticos en la programación de vehículos autónomos. Estas características permiten que el marco propuesto constituya una solución integral y adaptable para regular los vehículos autónomos.
4.2. Implementación y posibles soluciones
La complejidad técnica en la evaluación de la responsabilidad en sistemas autónomos complejos representa un problema importante. Como solución, Surden y Williams (2016) proponen la creación de equipos interdisciplinarios de expertos legales y técnicos para asesorar en casos complejos. Además, la falta de armonización legal internacional podría ser problemática dado el carácter global de la industria automotriz. Siguiendo a Vellinga (2017), podría ser viable la adopción de estándares de ese tipo y acuerdos de reconocimiento mutuo entre jurisdicciones.
Por otro lado, la imposición de nuevas responsabilidades podría enfrentar resistencia de la industria. Para mitigar esto, un enfoque de «regulación colaborativa» (Finck, 2017), involucrando a la industria en el desarrollo y la implementación del marco, podría resultar interesante. Finalmente, la cuestión de la prueba en la atribución de responsabilidad en casos de accidentes con vehículos autónomos puede resultar compleja, pues sería necesaria la implementación de sistemas de registro de datos estandarizados, como proponen Taeihagh y Lim (2019), para facilitar las investigaciones una vez producido un accidente.
4.3. Implicancias para la industria automotriz y de seguros
En la industria automotriz, se podría prever un aumento en los costos de desarrollo y pruebas para cumplir con los nuevos estándares de responsabilidad. Sin embargo, como argumenta Geistfeld (2017), esto puede acelerar la mejora en la seguridad de los vehículos autónomos. Por otro lado, la industria de seguros podría enfrentar una reestructuración significativa de los modelos actuariales. Siguiendo a Tselentis et al. (2017), esto generaría un cambio hacia modelos de seguro basados en el uso y el rendimiento del sistema autónomo.
Además, la redistribución de responsabilidades podría fomentar nuevos modelos de negocio. Como sugieren Berger et al. (2018), esto alentaría el surgimiento de servicios de movilidad compartida con flotas de vehículos autónomos. Estos cambios en ambas industrias reflejan la naturaleza transformadora del marco propuesto, que no solo aborda las cuestiones legales y de responsabilidad, sino que incentiva también la innovación y la evolución de los modelos de negocio en el sector de la movilidad autónoma.
4.4. Consideraciones éticas y de política pública
No pueden obviarse las consideraciones éticas y de política pública que cualquier propuesta genera. En cuanto a la equidad y el acceso, existe el riesgo de que la tecnología de vehículos autónomos exacerbe las desigualdades existentes. En este sentido, Mladenović et al. (2020) enfatizan la necesidad de políticas que garanticen un acceso equitativo a esta tecnología. No obstante, la recopilación y el uso de datos por vehículos autónomos plantea preocupaciones sobre privacidad. Proponemos adoptar principios de «privacidad por diseño» (Cavoukian, 2011) en el desarrollo y la operación de estos vehículos.
Por otro lado, la adopción generalizada de vehículos autónomos posibilitaría desplazamientos laborales importantes. En este contexto, la implementación de políticas de transición laboral y de capacitación, como las propuestas por Groshen et al. (2019), puede resultar necesaria. Finalmente, la integración de vehículos autónomos en el tráfico mixto plantea problemas de seguridad pública. Se recomienda la adopción de un enfoque de «seguridad preventiva» (Noy et al., 2018) en la regulación y el despliegue de estos vehículos. Estas consideraciones subrayan la necesidad de un enfoque holístico que aborde no solo los aspectos técnicos y legales, sino también las implicaciones sociales y éticas más amplias de la tecnología de vehículos independientes.
4.5. Adaptabilidad del marco a futuras evoluciones tecnológicas
Es necesaria la capacidad del marco propuesto para adaptarse, como señalamos, a futuros cambios en la tecnología. Su flexibilidad estructural, basada en los niveles de autonomía explicados, permite la incorporación de niveles y subcategorías a medida que ella evoluciona, siguiendo el principio de «regulación adaptativa» sustentado por Marchant y Wallach (2015). Además, proponemos que se adopte un mecanismo de revisión periódica del marco, similar al sugerido por Thierer (2016), para evaluar su efectividad y realizar los cambios que sean necesarios según la evolución tecnológica y los datos empíricos.
Anticipando desarrollos en IA, el marco incluye disposiciones para abordar sistemas de toma de decisiones cada vez más autónomos, considerando las perspectivas de responsabilidad algorítmica discutidas por Doshi-Velez et al. (2017). Asimismo, está diseñado para adaptarse a futuros escenarios de vehículos altamente conectados e interoperables, abordando las consideraciones de responsabilidad en entornos de «Internet de los Vehículos» (IoV) planteadas por Lu et al. (2014). Estas características demuestran la visión de largo plazo del marco legal propuesto, que asegura su relevancia y su aplicabilidad en un ámbito en permanente cambio.
5. VALIDACIÓN DEL MARCO PROPUESTO
5.1. Aplicación a casos hipotéticos
Para validar la aplicabilidad y la efectividad del marco jurídico propuesto, hemos desarrollado y analizado una serie de casos hipotéticos. Esta técnica permite evaluar su consistencia en diversas situaciones que podrían acontecer.
Caso 1. Accidente en modo autónomo de nivel 4
Escenario: un vehículo de nivel 4 de autonomía impacta a un peatón que cruza inesperadamente la calle.
Análisis. Aplicando el marco propuesto, la responsabilidad primaria recaería en el fabricante del vehículo, según el principio de responsabilidad objetiva para niveles altos de autonomía. Sin embargo, cabría la posibilidad de considerar la probable contribución del peatón a la causa del accidente, siguiendo el enfoque de Contissa et al. (2017) sobre la distribución de responsabilidad en escenarios complejos, lo cual incluso supondría un supuesto de reducción del monto resarcitorio que se le concedería.
Caso 2. Fallo de transición en vehículo de nivel 3
Escenario: un vehículo de nivel 3 no logra transferir el control al conductor humano de manera efectiva, lo que resulta en un accidente.
Análisis. Este caso ilustra la complejidad de la transición de control abordada por Lyu et al. (2019). El marco propuesto evaluaría la responsabilidad compartida entre el sistema (fabricante) y el conductor, considerando factores como el diseño de la interfaz de usuario y el tiempo de respuesta del conductor.
Caso 3. Ciberataque a un vehículo autónomo
Escenario: un vehículo autónomo es hackeado, lo que resulta en un accidente.
Análisis. Este escenario, analizado por Taeihagh y Lim (2019), destaca la importancia de la ciberseguridad en vehículos autónomos. El marco propuesto consideraría la responsabilidad del fabricante en la implementación de medidas de seguridad adecuadas, balanceada con la naturaleza imprevisible de ciertos ataques cibernéticos. Este hecho podría incluso llevar a discutir algún supuesto de exoneración de responsabilidad si llegara a demostrarse que el fabricante no estaba en condiciones de responder debidamente frente a esa intromisión tecnológica.
5.2. Compatibilidad con principios constitucionales y derechos fundamentales
La validación del marco propuesto incluye un análisis de su compatibilidad con principios constitucionales y derechos fundamentales, siguiendo el enfoque de «revisión constitucional proactiva» propuesto por Ranchordas (2021).
El marco refuerza la protección del derecho a la vida y la integridad física de las personas al establecer estándares claros de responsabilidad y seguridad para vehículos autónomos. Además, se ha evaluado la equidad en la distribución de responsabilidades entre fabricantes, usuarios y otros actores involucrados, siguiendo los principios de no discriminación discutidos por Kleinberg et al. (2018), lo que contribuye a la igualdad ante la ley. La integración de principios de «privacidad por diseño» en el marco aborda las preocupaciones de privacidad planteadas por Singh (2024) en relación con la recopilación y el uso de datos en vehículos autónomos, protege así el derecho a la privacidad.
Del mismo modo, se han considerado las consecuencias que el marco puede generar en el acceso y el uso de vehículos independientes, al asegurar que no impongan restricciones indebidas a la movilidad, lo que asegura la libertad de tránsito. Finalmente, se incorporan mecanismos para garantizar el acceso a la justicia y la equidad procesal en la resolución de disputas vinculadas a accidentes de vehículos autónomos, respetando así el debido proceso. Esta evaluación integral de los principios constitucionales asegura que el marco propuesto no solo sea técnicamente sólido, sino también acorde a la Constitución y respetuoso de los derechos fundamentales.
Siguiendo un enfoque de proporcionalidad, se ha evaluado si las restricciones o las obligaciones impuestas por el marco son proporcionales a los objetivos de seguridad pública y protección de derechos. Los resultados del análisis de compatibilidad indican que el marco propuesto se considera en general compatible con los principios constitucionales y derechos fundamentales analizados. Sin embargo, se identificaron áreas que requieren atención continua, como el equilibrio entre innovación y regulación, asegurando que el marco no inhiba indebidamente la innovación tecnológica.
Además, se resalta la importancia de garantizar que el marco no discrimine indirectamente a grupos específicos de usuarios o peatones, lo cual supone la protección de grupos vulnerables. Por último, se reconoce la necesidad de adaptación permanente a medida que las interpretaciones legales sobre la privacidad en la órbita digital cambian. Esto exige, desde luego, un reexamen del derecho a la privacidad. Todo lo anterior subraya la naturaleza dinámica del marco que se propone y la necesidad de un monitoreo y ajustes para mantener la compatibilidad anotada previamente.
6. INTEGRACIÓN DE NUEVAS TECNOLOGÍAS EN EL DERECHO PERUANO
Como anotamos, la aplicación del sistema de responsabilidad civil nacional a los vehículos autónomos obliga a cuestionar los fundamentos tradicionales de la responsabilidad por accidentes de tránsito. Primero, porque no se cuenta con una definición exacta del sujeto responsable, pues el artículo 1970 del Código Civil asume la existencia de uno que causa el daño, pero tratándose de vehículos altamente autónomos (situados en los niveles 4-5), la imputación de responsabilidad se torna compleja, toda vez que el daño es causado por decisiones algorítmicas del sistema de inteligencia artificial, sin la presencia de intervención humana directa.
Ello cuestiona la aplicación directa del principio de responsabilidad por riesgo, tal como el Código lo prevé. En segundo término, el seguro obligatorio por accidentes de tránsito (SOAT) está diseñado bajo un esquema que no contempla las particularidades propias de los vehículos autónomos. Así, la cuantificación de primas y la exclusión de coberturas no son aplicables para esta tecnología, completamente ajena a los vehículos tradicionales a los que tal seguro se enfoca.
El modelo actuarial utilizado para los vehículos convencionales no considera aspectos importantes para sistemas autónomos, como la fiabilidad del software, la frecuencia de actualizaciones o la calidad de sensores. Por último, la homologación vehicular regulada por el Decreto Supremo n.º 058-2003-MTC, que aprueba el Reglamento Nacional de Vehículos, de igual forma da la espalda a estándares puntuales para evaluar la seguridad y la fiabilidad de sistemas autónomos, lo que redunda en la dificultad para autorizar la circulación de estos vehículos autónomos, como establecer las responsabilidades que emerjan de la producción de accidentes. Todo esto puede generar inseguridad jurídica para los fabricantes y, con mayor razón, para los usuarios y las potenciales víctimas.
Por esas razones, nuestra propuesta de un enfoque global de adaptación del sistema jurídico nacional, cuyo primer paso sería la inclusión de niveles de autonomía en el decreto supremo atrás anotado, como los sugeridos por SAE Internacional: sin autorización (nivel 0); asistencia al conductor (nivel 1); automatización parcial (nivel 2); automatización condicional (nivel 3); alta automatización (nivel 4); y automatización completa (nivel 5). Junto a esto, podría pensarse en una actualización de nuestro régimen de responsabilidad civil, para permitir que el artículo 1970 del Código sustantivo se complemente con disposiciones específicas según el nivel de autonomía: para los niveles 1 y 2 se mantendría la responsabilidad del conductor-propietario, con derecho a repetición contra el fabricante en caso de fallas del sistema; para el nivel 3, un régimen de responsabilidad compartido, en el cual el fabricante responda por las fallas durante el funcionamiento autónomo y el conductor durante el control manual; y para los niveles 4 y 5, la imputación de responsabilidad hacia el fabricante o desarrollador del sistema, con obligaciones reforzadas de mantenimiento y actualización para el propietario.
En esa misma línea, podría pensarse en una reforma del seguro contra accidentes, para crear un régimen especial dentro del SOAT que incluya coberturas específicas adaptables a cada nivel de autonomía, primas diferenciadas y un fondo de compensación para víctimas de accidentes causados por vehículos autónomos, financiado por la industria automotriz y tecnológica.
En materia procesal, debe ocurrir otro tanto: adaptar el derecho de prueba a esta nueva realidad, que incluya la obligatoriedad de sistemas de registro de datos («cajas negras») homologados, establecimiento de presunciones legales para aliviar la carga probatoria de las víctimas y el establecimiento de protocolos específicos para la preservación y el análisis posterior de la evidencia digital.
El Código de Protección y Defensa del Consumidor, a su vez, contiene un marco legal que, mutatis mutandis, podría ser aplicable al caso de los vehículos autónomos. Así, son relevantes el artículo 102, que define al producto defectuoso como aquel que no ofrece la seguridad a la que los consumidores tienen derecho, para lo cual se considera el diseño, la información proporcionada y el uso previsible, definición amplia que bien podría abarcar los defectos en el sistema de conducción autónoma, errores en el software o algoritmos de toma de decisiones, fallos en los sensores o sistemas de percepción, o información insuficiente acerca de las limitaciones del sistema autónomo; el artículo 101, que establece la responsabilidad del proveedor por cualquier daño causado al consumidor por defectos de sus productos, lo que permite imputar responsabilidad al fabricante o importador del vehículo autónomo, sin necesidad de probar culpa alguna, lo cual resulta beneficioso para la víctima, quien solo deberá probar el defecto, el daño y la relación causal.
Este régimen es provechoso para enfrentar los casos de responsabilidad por daños causados por vehículos autónomos: presenta una cobertura amplia que incluye los defectos de hardware y software; establece una responsabilidad objetiva, que libera al consumidor del peso de probar la culpa del causante del daño; establece una responsabilidad solidaria que se irradia a todos los participantes de la cadena de producción y comercialización, que incluye a fabricantes de hardware, desarrolladores de software y concesionarios; así como un plazo de diez años después de la distribución del producto para la atribución de responsabilidad.
La aplicación de este régimen a los vehículos autónomos exige también una labor interpretativa importante por parte de la autoridad de consumo (Indecopi), en la que se considere las características particulares de los sistemas autónomos; un deber de información más rígido sobre las capacidades y las limitaciones reales del sistema, situaciones de fallos potenciales y necesidad de intervención humana; el desarrollo jurisprudencial de un estándar de «sistema autónomo razonablemente seguro», definido a partir de un nivel de autonomía declarado; y, por último, la exigencia de una garantía de idoneidad mucho mayor que incorpore la obligación del fabricante de mantener actualizado el software mientras el vehículo tenga vida útil.
No cabe duda de que la propuesta de este marco legal para vehículos autónomos debe tener como norte la Constitución de 1993. Entre otras reglas, aquella se alinea con el principio establecido en el artículo 1 que considera a la persona y el respeto de su dignidad como el fin supremo de la sociedad y el Estado, lo cual garantiza un sistema de responsabilidad civil que asegure la reparación de los daños causados por vehículos autónomos; y con el artículo 65, que defiende el interés de los consumidores nacionales, aspecto fundamental en la regulación de las relaciones entre usuarios, fabricantes y proveedores de servicios en materia de vehículos autónomos, espacio donde la asimetría de información es importante.
7. CONCLUSIONES Y RECOMENDACIONES
7.1. Síntesis de las contribuciones principales
En este estudio proponemos un marco jurídico dinámico para abordar la responsabilidad civil en el contexto de los vehículos autónomos. Hemos optado por un enfoque gradual de responsabilidad, un modelo que adapta la atribución de responsabilidad a los diferentes niveles de autonomía vehicular, abordando la brecha identificada por Schellekens (2018) en la regulación actual. Además, el marco incorpora principios de «ética by design» en la determinación de responsabilidad, respondiendo al llamado de Awad et al. (2018) para considerar dilemas éticos en la regulación de vehículos autónomos.
Asimismo, se propone un sistema de seguros adaptativo y escalonado que responde a los cambiantes perfiles de riesgo asociados con diferentes niveles de autonomía, y se alinea con las recomendaciones de Tselentis et al. (2017) para innovar en los esquemas de seguros de vehículos. Por último, el marco propuesto se ha sometido a un proceso de validación multidimensional, que incluye la aplicación a casos hipotéticos y análisis de compatibilidad constitucional, siguiendo las prácticas en el desarrollo de marcos regulatorios para tecnologías emergentes (Hagemann et al., 2018). Esta validación integral contribuye a la solidez de la aplicabilidad del marco propuesto en el complejo panorama legal y tecnológico de los vehículos autónomos.
7.2. Implicancias para la teoría y la práctica del derecho
La importancia de este estudio para la teoría y la práctica del derecho es significativa. El marco propuesto pone en entredicho las nociones tradicionales de culpa y negligencia, y se alinea con la perspectiva de Calo (2015) sobre la necesidad de repensar los fundamentos del derecho en la era de la robótica y la IA. Esto representa una evolución fundamental del concepto de responsabilidad civil en el contexto de las tecnologías autónomas. Además, este estudio refuerza la importancia de la interdisciplinariedad en el derecho, porque destaca la necesidad de colaboración entre expertos legales, técnicos y en ética en la formulación de regulaciones para tecnologías emergentes, como lo sugieren Leenes et al. (2017).
El enfoque dinámico propuesto ofrece un modelo para la regulación adaptativa de otras tecnologías emergentes, responde así al llamado de Marchant y Wallach (2015) para una gobernanza tecnológica más flexible. Este aspecto es particularmente relevante en un ámbito en permanente cambio, donde las regulaciones estáticas pueden volverse rápidamente obsoletas.
Por último, se busca equilibrar la innovación tecnológica, la protección del consumidor y la seguridad pública. Este enfoque aborda directamente la problemática identificada por Thierer (2016) en la regulación de nuevas tecnologías, donde a menudo se percibe una tensión entre el fomento de la innovación y la protección de los intereses públicos. Al proponer un marco que busca armonizar estos intereses en apariencia conflictivos, este estudio contribuye al debate sobre cómo regular eficazmente las tecnologías emergentes.
7.3. Propuestas para reformas legislativas
Sobre la base de lo afirmado a lo largo de este escrito, se proponen varias reformas legislativas significativas. En primer lugar, se recomienda la adopción de un sistema de responsabilidad gradual que varíe según el nivel de autonomía del vehículo, similar al propuesto por Geistfeld (2017). Esta propuesta reconoce la complejidad y la diversidad de los sistemas autónomos en desarrollo. Además, se sugiere la adopción del estándar del «conductor razonable automatizado», codificando criterios específicos para evaluar el comportamiento de sistemas autónomos, basándose en el concepto desarrollado por Surden y Williams (2016).
En cuanto al sistema de seguros, se propone la adopción de un marco legal que permita y regule sistemas de seguros dinámicos basados en el uso y el nivel de autonomía del vehículo, siguiendo las recomendaciones de Schellekens (2018). Esta reforma busca adaptar el sistema de seguros a la realidad cambiante de los vehículos autónomos. Paralelamente, se recomienda la creación de un fondo de compensación, ya sea nacional o supranacional, para cubrir daños en casos donde la responsabilidad no pueda ser claramente atribuida por la dificultad de su prueba, similar al modelo propuesto por Cerka et al. (2015).
Por último, se sugiere la implementación de regulaciones sobre transparencia algorítmica y se establecen requisitos legales para la explicabilidad y la auditabilidad de los sistemas de toma de decisiones en vehículos autónomos. Esta propuesta se alinea con las ideas de Kroll et al. (2017) y busca aumentar la confianza y la rendición de cuentas en los sistemas autónomos. Estas reformas legislativas propuestas representan un enfoque integral para abordar los problemas legales y éticos que plantean los vehículos autónomos, buscando un equilibrio entre la innovación tecnológica y la protección de los derechos y los intereses de los ciudadanos.
7.4. Líneas futuras de investigación
Este estudio permite abrir vetas de investigación. Una de ellas es el impacto a largo plazo, que implica una investigación longitudinal sobre cómo el marco propuesto afecta la innovación tecnológica, la seguridad vial y los patrones de litigio, siguiendo el enfoque de estudios de impacto regulatorio sugerido por Coglianese y Lehr (2017). Además, se plantea la exploración de cómo el marco propuesto podría adaptarse o extenderse a otras tecnologías autónomas o de IA, como drones o robots de servicio, en línea con las consideraciones de Calo (2017) sobre la política de IA. Esto permitiría comprender la interacción del marco con otras tecnologías emergentes.
Otra línea de investigación importante es la dimensión internacional, que abordaría la armonización de marcos regulatorios para vehículos autónomos, a partir de los problemas identificados por Vellinga (2017) en la implementación transfronteriza. Paralelamente, se proponen estudios empíricos sobre la implementación y la efectividad de los principios de «ética by design» en el desarrollo y la operación de vehículos autónomos, para ampliar el trabajo iniciado por Awad et al. (2018) en el campo de la ética algorítmica en la práctica.
Finalmente, se sugieren dos líneas de investigación adicionales. La primera se centra en la evolución de los sistemas de seguros, investigando el desarrollo y la adopción de nuevos modelos para vehículos autónomos, incluyendo enfoques basados en blockchain y contratos inteligentes, como sugieren Yadav et al. (2023). La segunda línea sugiere un análisis exhaustivo de las implicaciones socioeconómicas de la adopción generalizada de vehículos autónomos, que incluya los efectos en el empleo, la planificación urbana y la movilidad social, expandiendo el trabajo iniciado por Mladenović et al. (2019). Estas líneas de investigación ofrecen un panorama integral para futuros estudios y abarcan aspectos técnicos, legales, éticos y socioeconómicos de la implementación de vehículos autónomos.
Referencias
Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J. y Mané, D. (2016). Concrete problems in AI safety. arXiv. https://arxiv.org/abs/1606.06565
Awad, E., Dsouza, S., Kim, R., Schulz, J., Henrich, J., Shariff, A., Bonnefon, J.-F. y Rahwan, I. (2018). The moral machine experiment. Nature, 563(7729), 59-64. https://doi.org/10.1038/s41586-018-0637-6
Barocas, S. y Selbst, A. D. (2016). Big data’s disparate impact. California Law Review, 104(3), 671-732.
Berger, T., Chen, C. y Frey, C. B. (2018). Drivers of disruption? Estimating the Uber effect. European Economic Review, 110, 197-210. https://doi.org/10.1016/j.euroecorev.2018.05.006
Brownsword, R. (2017). Law, technology and society: Re-imagining the regulatory environment. Routledge.
Calabresi, G. y Hirschoff, J. T. (1972). Toward a test for strict liability in torts. The Yale Law Journal, 81(6), 1055-1085.
Calo, R. (2015). Robotics and the lessons of cyberlaw. California Law Review, 103(3), 513-563. https://digitalcommons.law.uw.edu/faculty-articles/23/
Calo, R. (2017). Artificial intelligence policy: A primer and roadmap. University of Bologna Law Review, 3(2), 180-218. https://doi.org/10.6092/issn.2531-6133/8670
Cavoukian, A. (2011). Privacy by design: The 7 foundational principles. Information and Privacy Commissioner of Ontario, Canada.
Cerka, P., Grigiene, J. y Sirbikyte, G. (2015). Liability for damages caused by artificial intelligence. Computer Law & Security Review, 31(3), 376-389. https://doi.org/10.1016/j.clsr.2015.03.008
Chatfield, A. T. y Reddick, C. G. (2019). A framework for Internet of Things-enabled smart government: A case of IoT cybersecurity policies and use cases in U. S. federal government. Government Information Quarterly, 36(2), 346-357. http://dx.doi.org/10.1016/j.giq.2018.09.007
Chen, Z. y Liu, S. (2021). China’s self-driving car legislation study. Computer Law & Security Review, 41, 105555. https://doi.org/10.1016/j.clsr.2021.105555
Coca-Vila, I. (2018). Self-driving cars in dilemmatic situations: An approach based on the theory of justification in criminal law. Criminal Law and Philosophy, 12(1), 59-82. https://doi.org/10.1007/s11572-017-9411-3
Coglianese, C. y Lehr, D. (2017). Regulating by robot: Administrative decision making in the machine-learning era. Georgetown Law Journal, 105(5), 1147-1223.
Collingwood, L. (2017). Privacy implications and liability issues of autonomous vehicles. Information & Communications Technology Law, 26(1), 32-45. https://doi.org/10.1080/13600834.2017.1269871
Colonna, K. (2013). Autonomous cars and tort liability. Case Western Reserve Journal of Law, Technology & the Internet, 4(4), 81-130.
Contissa, G., Lagioia, F. y Sartor, G. (2017). The ethical knob: ethically-customisable automated vehicles and the law. Artificial Intelligence and Law, 25(3), 365-378. https://doi.org/10.1007/s10506-017-9211-z
Cownie, F. y Bradney, A. (2018). Socio-legal studies: A challenge to the doctrinal approach. En D. Watkins y M. Burton (eds.), Research methods in law (pp. 40-65). Routledge.
De Bruyne, J. y Werbrouck, J. (2018). Merging self-driving cars with the law. Computer Law & Security Review, 34(5), 1150-1153. https://doi.org/10.1016/j.clsr.2018.02.008
Delvaux, M. (2016). European Parliament report with recommendations to the Commission on civil law rules on robotics. European Parliament Committee on Legal Affairs.
Doshi-Velez, F., Kortz, M., Budish, R., Bavitz, C., Gershman, S., O’Brien, D., Scott, K., Schieber, S., Waldo, J., Weinberger, D., Weller, A. y Wood, A. (2017). Accountability of AI under the law: The role of explanation. arXiv. https://arxiv.org/abs/1711.01134
European Commission. (2019). Ethics guidelines for trustworthy AI. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
Finck, M. (2017). Digital co-regulation: Designing a supranational legal framework for the platform economy. European Law Review, 43, 47-68.
Geistfeld, M. A. (2017). A roadmap for autonomous vehicles: State tort liability, automobile insurance, and federal safety regulation. California Law Review, 105(6), 1611-1694. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2931168
Groshen, E. L., Helper, S., MacDuffie, J. P. y Carson, C. (2019). Preparing U. S. workers and employers for an autonomous vehicle future. (Upjohn Institute Technical Report) n.º 19-036. Upjohn Institute for Employment Research. https://doi.org/10.17848/tr19-036
Gurney, J. K. (2017). Sue my car not me: Products liability and accidents involving autonomous vehicles. University of Illinois Journal of Law, Technology & Policy, 2013(2), 247-277.
Hagemann, R., Huddleston, J. y Thierer, A. D. (2018). Soft law for hard problems: The governance of emerging technologies in an uncertain future. Colorado Technology Law Journal, 17, 37-130.
Hutchinson, T. y Duncan, N. (2012). Defining and describing what we do: Doctrinal legal research. Deakin Law Review, 17(1), 83-119. https://doi.org/10.21153/dlr2012vol17no1art70
Jeyachandran, S. (2024, 19 de agosto). Meet the 6th-generation Waymo Driver: Optimized for costs, designed to handle more weather, and coming to riders faster than before. Waypoint. https://waymo.com/blog/2024/08/meet-the-6th-generation-waymo-driver/
Kingston, J. K. (2016). Artificial intelligence and legal liability. En M. Bramer y M. Petridis (eds.), Research and development in intelligent systems XXXIII (pp. 269-279). Springer. https://arxiv.org/pdf/1802.07782
Kleinberg, J., Ludwig, J., Mullainathan, S. y Sunstein, C. R. (2018). Discrimination in the age of algorithms. Journal of Legal Analysis, 10, 113-174. https://doi.org/10.1093/jla/laz001
Koopman, P. y Widen, W. H. (2023). Liability rules for automated vehicles: Definitions & details. University of Miami Legal Studies Research Paper No. 4444848. http://dx.doi.org/10.2139/ssrn.4444848
Kroll, J. A., Huey, J., Barocas, S., Felten, E. W., Reidenberg, J. R., Robinson, D. G. y Yu, H. (2017). Accountable algorithms. University of Pennsylvania Law Review, 165(3), 633-705.
Leenes, R., Palmerini, E., Koops, B.-J., Bertolini, A., Salvini, P. y Lucivero, F. (2017). Regulatory challenges of robotics: some guidelines for addressing legal and ethical issues. Law, Innovation and Technology, 9(1), 1-44. https://doi.org/10.1080/17579961.2017.1304921
Lemley, M. A. y Casey, B. (2019). Remedies for robots. The University of Chicago Law Review, 86(5), 1311-1396.
Lu, N., Cheng, N., Zhang, N., Shen, X. y Mark, J. W. (2014). Connected vehicles: Solutions and challenges. IEEE Internet of Things Journal, 1(4), 289-299. https://doi.org/10.1109/JIOT.2014.2327587
Lunders, C. K., Tarpley, P., Jansma, S. D., Navetta, D., Segalis, B. y Keller, P. (2016, 11 de agosto). Autonomous vehicles: The legal landscape in the US. Norton Rose Fulbright. http://euro.ecom.cmu.edu/program/law/08-732/AI/Lunders.pdf
Lyu, N., Deng, C., Xie, L., Wu, C. y Duan, Z. (2019). A field operational test in China: Exploring the effect of an advanced driver assistance system on driving performance and braking behavior. Transportation Research Part F: Traffic Psychology and Behaviour, 65, 730-747. https://doi.org/10.1016/j.trf.2018.01.003
Marchant, G. E. (2011). The growing gap between emerging technologies and the law. En G. E. Marchant, B. R. Allenby y J. R. Herkert (eds.), The growing gap between emerging technologies and legal-ethical oversight (pp. 19-33). Springer. https://doi.org/10.1007/978-94-007-1356-7_2
Marchant, G. E. y Wallach, W. (2015). Coordinating technology governance. Issues in Science and Technology, 31(4), 43-50.
Ministry of Economy, Trade and Industry, Japan. (2024). Strategic roadmap for automated driving. https://www.meti.go.jp/english/policy/mono_info_service/automobile_industry/adms/index.html
Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S. y Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society, 3(2). https://doi.org/10.1177/2053951716679679
Mladenović, M. N., Stead, D., Milakis, D., Pangbourne, K. y Givoni, M. (2020). Governance cultures and sociotechnical imaginaries of self-driving vehicle technology: Comparative analysis of Finland, UK and Germany. En D. Milakis, N. Thomopoulos y B. van Wee (eds.), Policy implications of autonomous vehicles (pp. 235-262). Academic Press. https://pure.tudelft.nl/ws/portalfiles/portal/84435066/1_s2.0_S2543000920300019_main_1.pdf
National Highway Traffic Safety Administration. (2016). Federal automated vehicles policy: Accelerating the next revolution in roadway safety. U. S. Department of Transportation.
Navarro-Michel, M. (2020). La aplicación de la normativa sobre accidentes de tráfico a los causados por vehículos automatizados y autónomos. Cuadernos de Derecho Transnacional, 12(1), 941-961. https://doi.org/10.20318/cdt.2020.5231
Noy, I. Y., Shinar, D. y Horrey, W. J. (2018). Automated driving: Safety blind spots. Safety Science, 102, 68-78. https://doi.org/10.1016/j.ssci.2017.07.018
Owen, D. G. (2008). Products liability law (2.a ed.). West Academic Publishing.
Pagallo, U. (2013). The laws of robots: Crimes, contracts, and torts. Springer.
Ranchordas, S. (2021). Experimental regulations for AI: Sandboxes for morals and mores. University of Groningen Faculty of Law Research Paper, (7), 1-30. http://dx.doi.org/10.2139/ssrn.3839744
SAE International. (2018). Taxonomy and definitions for terms related to driving automation systems for on-road motor vehicles. https://www.sae.org/standards/content/j3016_201806/
Santoni de Sio, F. y Van den Hoven, J. (2018). Meaningful human control over autonomous systems: A philosophical account. Frontiers in Robotics and AI, 5. https://doi.org/10.3389/frobt.2018.00015
Saripalli, S. (2017, 6 de octubre). Are self-driving cars the future of mobility for disabled people? The Conversation. https://theconversation.com/are-self-driving-cars-the-future-of-mobility-for-disabled-people-84037
Schellekens, M. (2015). Self-driving cars and the chilling effect of liability law. Computer Law & Security Review, 31(4), 506-517. https://doi.org/10.1016/j.clsr.2015.05.012
Schellekens, M. (2018). No-fault compensation schemes for self-driving vehicles. Law, Innovation and Technology, 10(2), 314-333. https://doi.org/10.1080/17579961.2018.1527477
Siems, M. (2018). Comparative law (2.a ed.). Cambridge University Press. https://assets.cambridge.org/97811071/82417/frontmatter/9781107182417_frontmatter.pdf
Singh, A. (2024). Privacy and data protection in the age of autonomous vehicles. International Journal for Multidisciplinary Research, 6(2), 1-27.
Surden, H. y Williams, M.-A. (2016). Technological opacity, predictability, and self-driving cars. Cardozo Law Review, 38, 121-181.
Taeihagh, A. y Lim, H. S. M. (2019). Governing autonomous vehicles: emerging responses for safety, liability, privacy, cybersecurity, and industry risks. Transport Reviews, 39(1), 103-128. https://doi.org/10.1080/01441647.2018.1494640
Thierer, A. (2016). Permissionless innovation: The continuing case for comprehensive technological freedom. Mercatus Center at George Mason University.
Tselentis, D., Yannis, G. y Vlahogianni, E. (2017). Innovative motor insurance schemes: A review of current practices and emerging challenges. Accident Analysis & Prevention, 98, 139-148.
United Nations Economic and Social Council. (2020, 10 de julio). Revised Amendment proposal to the 1968 Convention on Road Traffic. https://documents.un.org/doc/undoc/gen/g20/177/44/pdf/g2017744.pdf
Van Hoecke, M. (2015). Methodology of comparative legal research. Law and Method, 5(4), 1-35.
Vellinga, N. E. (2017). From the testing to the deployment of self-driving cars: Legal challenges to policymakers on the road ahead. Computer Law & Security Review, 33(6), 847-863.
Yadav, A. S., Charles, V., Pandey, D. K., Gupta, S., Gherman, T. y Kushwaha, D. S. (2023). Blockchain-based secure privacy-preserving vehicle accident and insurance registration. Expert Systems with Applications, 230, 120651. https://doi.org/10.1016/j.eswa.2023.120651
Financiamiento
Autofinanciado.
Conflicto de intereses
Los autores declaran no tener conflicto de intereses.
Contribución de autoría
Olga Alejandra Alcántara Francia: redacción del trabajo y revisión crítica al contenido intelectual, aprobación final de la versión que se publicará.
César Carranza Álvarez: redacción del trabajo, revisión, contribución en el análisis de los datos utilizados, revisión crítica de la versión final, aprobación de la versión final que se publicará.
Biografía de los autores
Olga Alejandra Alcántara Francia: abogada. Doctora en Derecho por la Universidad Carlos III de Madrid. Investigadora con registro Renacyt. Máster en Derecho con especialidad en Derecho Europeo por la Universidad Católica de Lovaina en Bélgica, máster en Economía y Derecho de Consumo por la Universidad de Castilla-La Mancha de España y máster en Derecho Empresarial por la Universidad de Lima en Perú. Diplomada en LegalTech por ESADE, España. Es autora de artículos científicos publicados en revistas jurídicas indexadas en Scopus y Web of Science. Profesora de prestigiosas facultades de Derecho del país.
César Carranza Álvarez: profesor en la Facultad de Derecho de la Universidad Científica del Sur y otras de prestigio. Magíster en Derecho de la Empresa por la Pontificia Universidad Católica del Perú. Candidato a doctor en Derecho en la Universidad Nacional de Trujillo. Ha ejercido la docencia en universidades del Perú y Colombia, en pregrado y posgrado. Con estudios de posgrado en Negociación, Resolución de Conflictos y Mediación, por la Universidad de Castilla-La Mancha, y Derecho de Daños en la Universidad de Salamanca. Desde el 2022 ostenta la condición de investigador Renacyt, acreditación concedida por el Consejo Nacional de Ciencia, Tecnología e Innovación Tecnológica (Concytec).
Correspondencia
Este artículo se encuentra disponible
en acceso abierto bajo la licencia Creative Commons Attribution 4.0 International License