Un marco ético para los vehículos autónomos
Por Mark Patrick, Mouser Electronics.
guía o brújula moral preparada a partir de una encuesta con más de 2,3 millones de personas
¿De qué hablaremos en esta serie de blogs?
- Las tecnologías de conducción autónoma: una revolución en el mundo del motor
- Cómo superar las percepciones y abrirse al mundo de la conducción autónoma
- Las etapas fundamentales en la autonomía del vehículo
- Tecnologías de detección para vehículos autónomos
- Sistemas V2V y V2I: datos rápidos para vehículos autónomos
- Un marco ético para los vehículos autónomos
Conducir un coche puede resultar un poco monótono. A veces, nos limitamos a meternos en el coche y conducir, sin una idea precisa de la hora a la que debemos llegar. A pesar de que sea una tarea rutinaria, debemos seguir atentos durante todo el trayecto y vigilar los posibles peligros, sobre todo cuando hay mal tiempo o en áreas urbanas con mucho tráfico. Utilizamos la experiencia que hemos ido adquiriendo con los años para decidir lo que puede causar un accidente, qué situaciones debemos vigilar y qué medidas debemos tomar rápidamente.
Como ya hemos visto en esta serie, las tecnologías de detección ofrecen los datos básicos para que los sistemas del vehículo generen un mapa virtual y en tiempo real del entorno en el que se encuentra. La información obtenida a través de las comunicaciones V2V y V2I contribuye a mejorar este mapa. Con estas fuentes de información esenciales, las redes neuronales autónomas y de aprendizaje automático dirigen el trayecto con seguridad, vigilando en todo momento y tomando medidas ante posibles peligros.
Un vehículo autónomo es intrínsecamente más concienzudo y fiable que un conductor humano, que puede distraerse o cometer un error al decidir. Sin embargo, esto no significa que no vaya a haber situaciones en las que pueda haber accidentes mortales. El hecho de que un vehículo autónomo deba tomar decisiones en situaciones de vida o muerte presenta una serie de retos de carácter moral y ético.
A medida que nos vayamos acercando a la existencia de vehículos totalmente autónomos en las carreteras, los dilemas éticos y morales a los que se enfrentarán estos sistemas deben contar con la participación de todas las partes: el sector del automóvil, los consumidores, los legisladores, las aseguradoras y los fabricantes.
Habrá que tomar decisiones difíciles, y es posible que estas sean las que obtengan una mayor cobertura en los medios de comunicación de todo el mundo, que parecen estar deseando publicar noticias de accidentes con coches autónomos. Por desgracia, ha habido accidentes mortales por errores con vehículos autónomos; por ejemplo, los algoritmos de detección no valoraron correctamente el potencial de un accidente cercano o no detectaron que otro vehículo estaba pasando por delante de ellos acercándose demasiado. Aunque estos sistemas pasen por pruebas muy duras y utilicen las técnicas de simulación más sofisticadas, siempre va a haber alguna posibilidad de que ocurra algo impredecible y aleatorio.
conducción por una ciudad
Los factores éticos en situaciones de vida o muerte
Las decisiones que tomamos en situaciones en las que una muerte es inevitable son extremadamente complejas. Son decisiones instantáneas, que se toman más por instinto que por un análisis detallado de la situación. ¿Cómo puede una persona, y mucho menos un vehículo autónomo, decidir si evita atropellar a un peatón para acabar chocando contra la terraza de una cafetería y poner en peligro a muchas personas? ¿Se puede programar a un sistema autónomo para saber, por ejemplo, cuánta gente hay en un autobús o en un bar? Además, las actitudes hacia lo que una persona haría también son distintas en cada zona, como lo muestra un artículo de la revista Nature sobre el problema ético del que estamos hablando (ver la imagen 1).
El proyecto de investigación, dirigido por un equipo global, tenía el objetivo de llevar a cabo un estudio y desarrollar un conjunto de principios globales y socialmente aceptables para aquellos momentos en los que los vehículos autónomos deban enfrentarse a dilemas éticos o morales. Las diferencias de actitud según la zona se pueden tener en cuenta con parámetros precisos de redes neuronales, siempre y cuando se aceptasen en el ámbito nacional.
En Europa, la Comisión Europea está trabajando para permitir el uso de vehículos totalmente autónomos en algunos tramos específicos de la red de carreteras. En julio de 2022, el Reglamento sobre la seguridad general de los vehículos estipuló un conjunto normativo mínimo de sistemas avanzados de asistencia a la conducción (SAAC) necesario en todos los vehículos de carretera, además de los requisitos técnicos para vehículos totalmente autónomos de nivel 4 y 5 (véase el blog 3 «Las etapas fundamentales en la autonomía del vehículo»).
Dentro de la UE, el progreso que se ha hecho sobre los temas éticos más delicados ha sido relativo y, de hecho, algunos países han decidido hacer su camino de forma individual. Un ejemplo es Alemania, que estableció un código ético de conducta para vehículos autónomos en 2017. Algo esencial como requisito de aprendizaje para los algoritmos de aprendizaje automático al enfrentarse a un accidente inevitable es la priorización de los daños humanos sobre los animales o los objetos o bienes. El Gobierno del Reino Unido aún no participa en este debate ético, aunque ya ha emitido directrices para las pruebas de vehículos autónomos en carreteras públicas dentro de unos criterios establecidos.
¿Quién es el culpable?
Otro problema interesante es quién se responsabiliza cuando ocurre un accidente. Cuando hay conductores humanos, las aseguradoras utilizan los partes de accidente de todos los implicados y los informes de los servicios de emergencia para, normalmente, llegar a un acuerdo sobre quién causó el accidente. En el caso de los vehículos totalmente autónomos (nivel 4 y 5 de la SAE), no hay ningún conductor ni ningún método de intervención del pasajero. En estos casos, es posible que, para determinar el causante del accidente, haya que valorar el papel del fabricante, el desarrollador de los algoritmos, los fabricantes de los sensores o, incluso, el conductor humano de algún otro vehículo.
Puede haber una zona gris con el nivel 3, ya que estipula que un humano debe tomar el control si el sistema autónomo lo considera necesario. Evidentemente, es posible que el conductor designado no haya tenido tiempo de reaccionar o no haya podido hacer nada para evitar el accidente.
Una posible ventaja en la investigación de un accidente con vehículos autónomos es el acceso a los registros de datos o la caja negra del mismo. En California, es obligatorio que los vehículos autónomos en pruebas aporten un conjunto de datos del sistema completo con los últimos 30 segundos antes del choque. Sin embargo, aún está por ver si este requisito acabará por generalizarse en los vehículos autónomos de todo el mundo.
A pesar de los numerosos desafíos que habrá que superar, tanto técnicos como éticos, el objetivo del vehículo autónomo es aumentar la seguridad vial para todos, así como reducir los atascos y la contaminación. El camino hacia lograr un marco moral socialmente aceptable es solo una cuestión de tiempo.
www.mouser.com
