¿Debe tu robot sacrificar tu vida para salvar dos?

car_cliffOcurre rápidamente, más rápidamente de lo que tu, como ser humano, puedas procesar.

Un neumático delantero estalla y tu coche autónomo gira. Sin embargo, en lugar de girar hacia la izquierda, el vehículo robótico se dirige hacia la derecha. Los frenos se activan, el sistema trata de corregirse a sí mismo, pero hay demasiado impulso. Y cuando se quiera dar cuenta, usted ya está sobre el acantilado, en caída libre.

Su robot, por el que pagó una buena cantidad dinero, ha decidido matarle. De hecho, sus algoritmos de respuesta a la colisión decidieron sobre una colisión frontal de alta velocidad con un pequeño coche no autónomo en el que había dos personas, mientras que en el de usted sólo había un ocupante.  Unos números fáciles de resolver para dicho algoritmo.

Este, en términos generales, es el problema presentado por Patrick Lin, profesor de filosofía asociado y director del Grupo de Ciencias Emergentes y Ética en California Polytechnic State University. En un reciente artículo de opinión, Lin explora una de las preguntas más inquietantes de la ética robótica: Si un accidente es inevitable, debe un coche autónomo debe elegir contra quién choca.

Puede parecer un sencillo ejercicio de reflexión, un giro al clásico “problema del tranvía”, un dilema ético que se pregunta si salvarías a cinco personas en tranvía fuera de control, si en ello es inevitable matar a una persona en las vías. Pero cuanto más detallada son las situaciones del hipotético choque, más difícil es adentrarse en el dilema. Supongamos que el robot tiene ‘sentidos ultrahumanos’ y la velocidad de reacción adecuada, gracias a sus reflejos robóticos y un conjunto de sensores avanzados. En el momento de la verdad, antes de la colisión, ¿debe el vehículo dirigirse a un coche pequeño, en lugar de uno grande con mas personas, para proteger a su dueño? ¿O debería hacer lo contrario, siendo el objetivo de la colisión el propio coche autónomo, incluso si esto significa reducir las posibilidades de supervivencia de su dueño?

Lin aclara que los coches autónomos actuales son más bien como un aprendiz de conductor que un superhéroe, incapaz de percatarse de  un automovilista humano informándole a través de una intersección, y mucho menos el procesamiento a través de una compleja matriz de impactos proyectados, el número de muertos, y lo que Lin llama “matemáticas morales ” en los momentos previos a la colisión.

Pero los sensores, procesadores y software son los elementos de la robótica que tienden a avanzar rápidamente (mientras el accionamiento y la densidad de potencia, por ejemplo, avanza con dificultad, con la típica terquedad analógica). Mientras que el plazo temporal no está claro, los coches autónomos están probados para que finalmente hagan lo que la gente no puede, ya sea como dispositivos sensores, o porque se comuniquen con otros vehículos y anticipándose a los acontecimientos, como sólo una mente colectiva podría.

Siguiendo esta línea de razonamiento hasta sus últimas consecuencias, las cosas comienzan a ponerse un poco de ciencia ficción. Si los robots han demostrado capaces de salvar la vida humana, sacrificando a unos pocos por el bien de la mayoría, ¿qué clase de persona los programaría para hacer lo contrario?

Y, aún con todo, nadie en su sano juicio compraría un coche autónomo que avisa explícitamente al cliente que su seguridad no es su primera prioridad.

Ese es el dilema al que los fabricantes de vehículos robot finalmente se podrían enfrentar, si tomar el camino moral y ético, y los diseña para limitar las lesiones a los humanos o la muerte. Decir que tal situación retrasaría la aceptación de vehículos autónomos es una obviedad. “Compre nuestro coche, pero tenga en cuenta que podría saltar por un acantilado en lugar de golpear a un coche con dos personas”

coche-google

Pero también sería algo difícil la de convencer a los fabricantes de automóviles de arrojar a sus clientes hacia la muerte, por no hablar de las modificaciones normativas y la de demandas judiciales que podría acarrearles. Tendría, por tanto, una implicación legal subyacente. Porque lo que sea que elijas hacer, matar a la las otras personas del coche ajeno, o el conductor del coche autónomo, o al azar elegir un objetivo, estas son decisiones éticas que se hacen antes de tiempo.

Es aterrador pensar que su chofer robótico  podría no cubrirle las espaldas, y que podría, sin dudarlo un momento, optar por que lanzarle ese acantilado. O más original aún, urdir un plan entre sus compañeros, los vehículos robóticos conectados en red, haciendo girar su coche hacia un camión por exceso de velocidad, para desviarlo lejos de un autobús escolar con todos esos niños dentro. Pero si los robots desarrollan ese grado de poder sobre la vida y la muerte, ¿no deberían tener que, en primera instancia, conducir de forma responsable para evitar que se lleguen a dar este tipo de situaciones de decisión forzosa?

Isaac_Asimov_on_Throne

Es una manera de verlo, la belleza de los robots es que no tienen relaciones con nadie. Ellos pueden tomar decisiones que son mejores para todo el mundo. No obstante, si viviésemos en ese mundo, donde los robots toman todas las decisiones, podríamos pensar que viviríamos en una distopía bajo el yugo de los fríos e impersonales robots.

No podía terminar esta entrada sin acordarme de la posibilidad de programar a los robots, en cualquiera de sus denominaciones, mediante las Tres Leyes de la Robótica, propuestas por la prominente figura de Isaac Asimov en su relato de 1942, Runaround.

  1. Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
  2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
  3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.

 

Fuentes de información:

Asimov, I. (1942). Runaround. Astounding Science Fiction. March.

The Robot Car of Tomorrow May Just Be Programmed to Hit You

The Trolley Problem

Anuncios