No podemos decirle al coche autónomo qué vida salvar: somos incapaces de elegir

Print Friendly, PDF & Email

Tu futuro coche autónomo se dirige a un semáforo en verde. Como espectador en el antiguo asiento del piloto —ahora sin volante—, comprendes que el coche tendrá que elegir. Frente a ti, dos escenarios: llevarse por delante a un niño en bici que ha cruzado mal o a un perro que descansa en la acera, única vía de escape. Solo hay esas dos opciones. ¿Cuál debería elegir el vehículo autónomo? ¿Cambiaría tu elección si el perro es tuyo y no conoces al niño?

La ampliación del dilema del tranvía es uno de los temas candentes relacionados con la inteligencia artificial al volante. ¿Cómo elegir quién vive o muere? Incluso cuando sabemos que la IA salvará cientos de miles de vidas al año, la juzgamos bajo los parámetros más estrictos. Y lo más curioso es que le pedimos que escoja de manera racional lo que nosotros somos incapaces de decidir: los humanos no sabemos qué vida salvar.

¿El perro o el niño? Los humanos no se deciden

El dilema del tranvía consiste en una herramienta para pensar y meditar. Es muy útil para el debate sobre ética. En este ejercicio se pregunta a quién debemos salvar de un accidente —dejando morir al otro—, y cuáles son los motivos tras esa elección. Se busca, entre otros objetivos, visualizar un punto de vista diferente. Quizá es lo que se perseguía en el caso del perro o el niño. Este pequeño tuit de reflexión fue publicado y obtuvo un resultado inesperado:

Un niño se cuela en tu casa y, por accidente, provoca un incendio. Tu perro está dentro y llegas justo a tiempo para salvar sólo a uno. ¿A quién salvas ?

— Pepo Jiménez (@kurioso) August 23, 2018

El 57% de las personas (40.441 de 70.950) tenía claro que salvaría a su mascota. ¿Pesa más la empatía hacia tu especie o el amor hacia un compañero, aunque sea cuadrúpedo? Lo que llama la atención no es una u otra decisión, sino la aparente paridad del dilema. Incluso trolls mediante, la mitad de los encuestados se decantaría por una opción, y la otra mitad por la contraria.

¿Quién tiene razón? O mejor: ¿alguien puede tenerla? Imaginemos que programamos un vehículo autónomo según estos parámetros sociales. En base a decisiones tomadas por casi 80.000 personas (es una fracción significativa).

Si un coche autónomo se encuentra alguna vez en esta más que improbable tesitura, ¿qué tiene que hacer? ¿Pasar por encima del niño en el 57% de los casos y arrollar al perro en las restantes? No parece una estrategia tecnológica ganadora, la verdad. Quizá la tecnología pueda ayudarnos con el problema.

El experimento Moral machine del MIT

Hace unos años, el MIT se preguntó exactamente lo mismo que nosotros hoy. En caso de colisión, ¿alguien merece vivir por encima de otro? Aquello de “las mujeres y los niños primero” de las películas bien podría tener validez en nuestros días. En el MIT diseñaron una plataforma a la que llamaron Moral Machine y pidieron a la gente que jugase. El juego va de juzgar quién debe morir. Es bastante duro.

MIT-conduccion-autonoma-etica

En el ejemplo de arriba, observamos cómo un menor cruza en rojo mientras un adulto lo hace en verde. El vehículo autónomo no puede, por algún motivo, frenar. ¿Quién tiene “preferencia de vida”, un adulto que lo ha hecho bien o un menor que no? Cientos de miles de personas han participado en este macabro juego en todo el mundo, y los resultados son, como poco, curiosos.

El personaje que la gente salva mayoritariamente es una mujer que hace deporte. El más atropellado, un señor obeso. Al parecer, cómo de sano estés parece un factor relevante para las personas en situaciones límite. El juego es interesante porque, después de hacerlo una decena de rondas con muchos escenarios diferentes, muestra tus resultados en comparación con los del resto de la gente.

¿Por qué es interesante? Porque nos ayuda a darnos cuenta de que nuestras decisiones aparentemente lógicas y correctas tienen poco o ningún respaldo social. No parece haber una única respuesta correcta. Del experimento se obtienen datos curiosos:

  • El semáforo tiene cierta relevancia, pero no es lo más importante.
  • La vida de las mujeres es algo más valiosa que la de los varones.
  • La vida de los humanos es bastante más valiosa que la de los perros.
  • Si eres un anciano, tienes menos puntos: los niños importan más.
  • Estar obeso también penaliza. Más nos vale mantenernos en forma.

tecnologia-vehiculo-autonomo-moral-machine

¿Es más valioso alguien por el hecho de estar sano?

¿Más atropellos a las personas obesas? Si como quien suscribe estas líneas tienes algunos kilogramos de más, es posible que estés en contra de que el vehículo autónomo responda a una suerte de democracia atlética. También si tienes una edad avanzada. Parece que las personas no nos aclaramos, pero algo habrá que elegir, ¿no? El coche tiene que saber qué hacer.

A decir la verdad, ninguna de las opciones es mejor que la otra per se. La importancia del juego del tranvía, y sus posibles desenlaces, es compleja. Por un lado nos enseña a pensar y razonar la opción elegida. Defender un planteamiento. Por otro, que la universalidad ética no es algo sólido a lo que agarrarse. Pero hay herramientas que nos ayudan a no tener que escoger.

tecnologia-conduccion-autonoma-dilema-que-vida-salvar

El dilema tiene una solución parcial y evidente: no tener que elegir. Viajar en el tiempo y cambiar el modo en que se ha llegado al desenlace. Esto, en fases tempranas del desarrollo del vehículo autónomo, es posible. A principio de 2018, hablamos sobre la irrupción del vehículo conectado en el sector automovilístico, y a mediados tratábamos de los cambios que vienen con el vehículo autónomo. Electrificación, flotas conectadas, V2X… Todos estos factores tienen en común un aditivo: la tecnología, y con ella suele llegar la seguridad.

Tecnología de seguridad, clave para el vehículo autónomo

Hace unos meses, Mobileye e Intel lograron conducir con un vehículo autónomo por Jerusalén (Israel), una ciudad con una conducción muy agresiva. Telefónica y SEAT han coordinado esfuerzos para ayudar a los vehículos a detenerse en semáforos. El sistema Smart Intersection, de Honda, acaba de hacerse público. Tiene como objetivo una red de vehículos conectados gracias a la cual un coche sepa qué hay al otro lado de una intersección. No son casos aislados.

El dilema que propone el MIT nos ayuda a entender la dificultad de tener que elegir, aunque la tecnología automovilística en seguridad avanza de forma que los casos más graves jamás se den. Cuando todos los vehículos estén conectados entre sí, un coche no tendrá que elegir si atropellar a un niño o a tu perro. Tú, como ‘conductor’, tampoco. El coche frenará y salvará a todos.

Imágenes | iStock/Toa55, iStock/Chesky_W

Fuente

Please follow and like us:
This entry was posted in Artículos, Cultura, Sociedad, Tecnología. Bookmark the permalink.

Comments are closed.