Selección de la Redacción

La conducción autónoma y los dilemas éticos que se plantean

coche-autonomo-dilemas-eticos

¿A quién debe matar un coche autónomo en caso de un accidente inevitable? ¿Debe primar a los ocupantes del vehículo o a los peatones? ¿Matar antes a alguien con multas de tráfico que a un niño? Son solo algunas consideraciones éticas de la conducción autónoma, junto con su impacto en el empleo o la aceptación social de esta tecnología.

Upday

El coche autónomo es, sin duda, una de las grandes revoluciones tecnológicas que nos aguardan en el futuro más inmediato. Una nueva contienda en la que pugnan por el liderazgo desde compañías nacidas al calor de la era digital (como Waymo -filial de Google/Alphabet-, Uber o Tesla) hasta fabricantes de automóviles de toda la vida (BMW, Mercedes-Benz o Toyota son sólo algunos de ellos), pasando por los distintos proveedores de la cadena de valor (Bosch) y los encargados de poner en funcionamiento los nuevos componentes que faciliten esa conducción sin conductor (como los sensores LIDAR, la cartografía y navegación, las comunicaciones 5G o la computación en el extremo).

Aunque estamos ante el gran despegue de esta tendencia, hemos de remontarnos a mediados del siglo pasado para entender de dónde viene todo este interés por vehículos que no necesiten a un humano al volante. Fue en la Expo Universal de 1939, celebrada en Nueva York, cuando un tal Norman Bel Geddes presentó un coche que se mantenía en el asfalto gracias a un circuito eléctrico construido en el pavimento de la carretera y que enviaba señales al vehículo para que se mantuviera dentro de la vía y circulara a la velocidad adecuada.

Los coches autónomos: ¿avance o retroceso para el hombre?

Aunque este primitivo planteamiento dista mucho del coche autónomo que se mueve gracias al Internet de las Cosas y la inteligencia artificial, lo cierto es que fue el primer aviso de que el modelo de conducción tradicional estaba bajo amenaza. Una advertencia de que el placer de conducir podría verse sustituido próximamente por máquinas capaces de circular mejor, más rápido y más seguras que nosotros. En definitiva, una alerta de que una gran transformación estaba por llegar, con sus implicaciones económicas, sociales y, por supuesto, éticas.

Acabar (teóricamente) con los accidentes

Cada año mueren en las carreteras alrededor de 1,24 millones de personas en todo el mundo, según la World Health Organization. De todos los accidentes de tráfico, se estima que nueve de cada diez casos se deben a errores humanos. Los coches autónomos eliminan al humano de la ecuación. Sumen uno más uno.

De acuerdo a los defensores de la conducción autónoma, esta clase de vehículos prometen la práctica desaparición de los accidentes de tráfico, de los fallecidos y discapacidades que éstos provocan y, en definitiva, el transporte seguro que tanto ansían reguladores y gobiernos de todo el planeta. Y cualquiera con algo de sentido común, ¿verdad? La pregunta a renglón seguido es si esta promesa es tan cierta como parece.

Un estudio de la Universidad de Virginia Tech echa algo de luz al respecto. Mediante una investigación naturalista, monitorizando la experiencia de conducción de 3.300 vehículos reales que recorrieron un total de 54 millones de kilómetros, los científicos compararon esa información con los resultados obtenidos del programa de coches autónomos de Google. Los resultados fueron esclarecedores: los conductores humanos tienen una media de 4,2 accidentes por cada 1,6 millones de kilómetros rodados, mientras que los coches autónomos reducen esa cifra una cuarta parte: a 3,2 accidentes por cada 1,6 millones de kilómetros.

Los propios investigadores admiten que aún se necesitarían muchos más coches autónomos para afirmar con rotundidad que este tipo de vehículos reducen los accidentes más graves, pero sí que se muestran convencidos de que sí reducen los incidentes más leves respecto a la conducción tradicional.

La difícil convivencia

La cuestión clave que impide afirmar con rotundidad que el coche autónomo tendrá esa gran ventaja -la de la seguridad- frente a otros modelos de conducción pasa no sólo por la falta de datos suficientes para hacer estudios comparativos, sino por las enormes dudas sobre cómo será la implantación de estos vehículos.

En un reciente foro celebrado en Madrid, José María Armingol, investigador del Laboratorio de Sistemas Inteligentes de la Universidad Carlos III de Madrid explicaba que “quizás el coche esté disponible en unos años, pero ¿será capaz de circular con normalidad en una ciudad grande congestionada? No lo tengo claro”.

Hemos de tener en cuenta que hay seis niveles distintos de conducción autónoma, cada uno de ellos con distintas implicaciones y responsabilidades para el ser humano. Mientras todos ellos convivan en las carreteras, desde los coches tradicionales hasta los más automatizados, la gestión del tráfico no va a ser nada sencilla: los vehículos más avanzados no podrán predecir el comportamiento de los conductores de carne y hueso con la misma facilidad que lo hacen con otros automóviles informatizados, mientras que para los humanos podrá ser difícil de comprender algunas de las pautas que seguirán los coches inteligentes al pie de la letra. Si eso desemboca sólo en enfados y cabreos entre personas y máquinas, todo irá bien; el problema es si esa disonancia clave genera accidentes de tráfico…

El dilema moral: ¿a quién salvar?

Pero vamos a dar por supuesto que hemos logrado ese ansiado objetivo de que todos los coches que circulen por nuestras carreteras sean autónomos y que el reto de la ‘accidentalidad cero’ está más cerca que nunca. Sigue habiendo un factor que nunca seremos capaces de controlar: los imprevistos que surgen cuando introducimos a peatones o elementos ajenos al control y la predicción de las máquinas. 

Como ha demostrado el reciente atropello mortal provocado por un coche autónomo de Uber, los sistemas automatizados siguen fallando notablemente a la hora de actuar en estas situaciones críticas. Pero vayamos incluso más allá y demos de nuevo por supuesto que son capaces de anticiparse a estos momentos. También viviremos situaciones en las que el coche ha de elegir entre dos alternativas para evitar un accidente y, en muchas de esas elecciones, ambas opciones provocarán fallecidos, ya sean ocupantes del vehículo, peatones o personas que van en otros coches.

Coche autónomo de Intel

Nos ponemos entonces ante un dilema muy considerable, ya que estaremos obligando a una máquina a tomar una decisión moral sobre a quién debe matar, qué vidas primar por encima de otras. Si bien resulta obvio que estos sistemas serán siempre programados para salvar antes a los humanos que a bienes materiales e incluso animales, no es tan sencillo valorar la ecuación cuando las vidas en juego son de personas.

Sobre este tema precisamente debatió hace unos meses un comité de 14 expertos (entre los cuales había filósofos, tecnólogos y analistas de tráfico) promovido por el gobierno alemán. De acuerdo a su veredicto, “la vida humana siempre tiene la máxima prioridad”, por encima de cualquier consideración animal o material. Y, en el caso de que el sistema autónomo tenga que elegir entre ‘matar’ a un humano u a otro, los expertos germanos se limitan a asegurar que la inteligencia artificial no debe “interpretar” las leyes, sino aplicar las normas de tráfico a rajatabla y minimizar los daños en la medida de lo posible. Y si, por ejemplo, el atropello es inevitable, el sistema no debe jamás “establecer preferencias en base a la edad, sexo o condiciones físicas o mentales de los afectados“.

Poco aclara dicho documento sobre a quién matar (entendemos que con “respetar las normas” se basa en obligar al sistema a elegir la opción más fácil sin importar las consecuencias, una suerte de ‘lavarse las manos’ para no entrar en el fondo del debate).

Más profundamente están trabajando los investigadores del Media Lab del Massachusetts Institut of Technology (MIT) y del departamento de Machine Learning de la Universidad Carnegie Mellon (CMU) con un experimento, cuanto menos, polémico. Estas dos universidades proponen que seamos todos los ciudadanos del mundo los que decidamos estos principios éticos del coche autónomo y, para ello, nada mejor que llevar a cabo un macroexperimento a escala global.

En la página web dispuesta a tal efecto, se nos pregunta a quién veríamos más ético atropellar: víctimas de distinto género, edad, salud, nivel económico e, incluso, si son infractores habituales de las normas de tráfico. ¿Se imaginan que un coche autónomo decida matar a un peatón porque tiene varias multas de tráfico en su haber? Resulta paradójico, pero esas situaciones pueden darse en un futuro no tan lejano. ¿O que el sistema decida salvar la vida de una mujer en lugar de la de un hombre? ¿O que la vida de una determinada profesión valga más que otra? Veremos cuáles son las perspectivas que salen de semejante encuesta, que sigue abierta en el portal del MIT.

Todos ellos son escenarios derivados del famoso y extraordinariamente manido dilema del tranvía, en el que se nos pide si debemos salvar la vida de cinco personas atrapadas en la vía del tren o sacrificar la de una única persona atada en la otra. También existen variantes más agresivas, como la que propone que para evitar la muerte de esos cinco sujetos debemos lanzar (pasamos de una muerte pasiva a un asesinato en toda regla) a una persona obesa que frene al tren. En cualquier caso, dilemas morales que no nos ponen de acuerdo a los propios humanos… como para hacerlos extensibles a las máquinas.

Volvemos al MIT para cerrar este capítulo porque esta institución también ha llevado a cabo otro experimento, menos ambicioso y menos controvertido, con la Toulouse School of Economics. En él se invitó a varios participantes a ponerse en la mente del programador de uno de estos coches autónomos para elegir a quién matar en diferentes escenarios: al propietario del automóvil, a diez peatones, a un único peatón… Según este estudio, cuando se trata de una relación de 1 a 1 (un conductor ‘vs’ un peatón), los encuestados respondían de forma dividida con un 50% de los votos, pero cuando la elección estaba entre un conductor y diez peatones, la mayoría de ellos (75%) optaba por ‘matar’ al conductor sin dudarlo. ¿Dirán eso si en lugar de un experimento estuvieran ellos en la tienda a punto de comprar un coche que, llegado el momento, podría decidir acabar con tu vida?

Conducción autónoma y empleo

Como estamos viendo, el dilema ético que se plantea ante la llegada del coche autónomo es de dimensiones épicas… pero todavía hay más. Conforme más y más vehículos puedan circular sin un humano al volante, ¿qué ocurrirá con las profesiones que dependen directamente de esta gestión personal del transporte? Hablamos de camioneros -una de las profesiones más extendidas en muchas regiones del mundo-, taxistas, conductores privados, conductores de ambulancias, transporte militar y policial, repartidores, autobuses, etc.

La Casa Blanca encargó, en la era de Barack Obama en el despacho oval, un informe al White House Council of Economic Advisers, sobre el impacto del coche autónomo en el empleo. Según el documento hecho público, entre dos y tres millones de trabajadores podrían quedarse en la calle según se vaya extendiendo la IA en las carreteras. Esta cifra, puesta en contexto, equivale a entre el 60% y el 80% de todos los empleos del sector transporte en Estados Unidos. De entre todos estos profesionales de las cuatro ruedas amenazados por la tecnología, en torno a 1,6 millones son conductores de tractores o camiones de gran tamaño, otros 826.000 son conductores de camiones pequeños o furgonetas de reparto; 505.000 son conductores de autobuses escolares o pasajeros con discapacidades y tercera edad; 364.000 serán conductores particulares; 180.960 se cuentan entre taxistas y chóferes profesionales; y, por último, unos 168.000 conductores de autobús urbanos e interurbanos.

¿Acabarán los robots con el trabajo humano? Una visión optimista

Enlazamos así el debate ético del coche autónomo con la discusión mucho más amplia sobre las implicaciones socioeconómicas de la inteligencia artificial, los discursos alarmistas sobre el impacto de la IA en el empleo y las llamadas de atención a la formación y el reciclaje de los profesionales hacia labores de valor añadido en la era digital. Por no hablar de otras consideraciones que van incluso más allá, como la de la renta básica universal o la imposición de impuestos a las máquinas para compensar las pérdidas de ingresos que se van a producir en esas actividades ante la falta de humanos a cargo de tareas tan nuestras como conducir.

¿Querremos conducir un coche autónomo?

Sin embargo, todas las discusiones anteriores dejan de tener sentido alguno si no existe un mercado interesado en utilizar esta clase de vehículos, de no haber demanda suficiente de esta clase de tecnologías. Y en gran parte de ese interés comercial, uno de los factores que más pesan en la balanza es precisamente la seguridad y el dilema moral de esta clase de vehículos.

Un estudio del IEEE (Instituto de Ingeniería Eléctrica y Electrónica) señaló recientemente que más de dos tercios de los consumidores admitían no verse preparados para ceder la conducción a la máquina, principalmente por la incapacidad de los ocupantes del automóvil de tomar las riendas en caso de imprevisto o de un incidente inminente.

coche autonomo

Según otra encuesta de Cetelem, el 54% de los españoles conoce el coche autónomo y afirma que será una realidad, al mismo tiempo que el 80% afirma que estará interesado en su uso. Nuestro país está por encima de países como Estados Unidos o Alemania en esa percepción sobre el futuro y utilidad del coche autónomo. Pero también en este informe encontramos que los usuarios están preocupados por “no ser completamente el amo del vehículo” (24% de los encuestados), por el uso de información personal (22% en el mundo vs 21% en España); la seguridad (21% vs 18% en España) o la pérdida del “placer de conducir” (12% en España).

Seguimos tirando de datos, ahora de Deloitte, para concluir que mientras tres cuartas partes de la población estadounidense confía en la seguridad de los aviones, tan sólo una cuarta parte se sentiría cómodo montado en un coche autónomo.

¿Problema de concienciación? ¿Falta de formación ante una tecnología tan innovadora y disruptiva como ésta? ¿O hay consideraciones y preocupaciones morales que subyacen a todo este fenómeno y que están frenando su adopción social? Solo el tiempo marcará el devenir de la que puede ser la gran revolución del transporte en nuestra generación.

Sobre el autor de este artículo

Alberto Iglesias Fraga

Periodista especializado en tecnología e innovación que ha dejado su impronta en medios como TICbeat, La Razón, El Mundo, ComputerWorld, CIO España, Business Insider, Kelisto, Todrone, Movilonia, iPhonizate o el blog Think Big, entre otros. También ha sido consultor de comunicación en Indie PR. Ganador del XVI Premio Accenture de Periodismo, ganador del Premio Día de Internet 2018 a mejor marca personal en RRSS y finalista en los European Digital Mindset Awards 2016, 2017 y 2018.