El Problema del Tranvía: ¿Cómo Deciden los Vehículos Autónomos?

Supongamos que de repente un ciclista aparece delante de tu coche. Si hubieras estado al volante, habrías hecho algo por reflejo - quizás ni siquiera recordarías qué hiciste. Pero, ¿y si no hay nadie al volante? En ese instante, en milésimas de segundo, el software tiene que tomar una decisión. ¿A quién atropellar? ¿Desviarse al carril contrario? Esta es la pregunta que los medios nos llevan haciendo durante una década - y, para ser honestos, la pregunta en sí está algo mal planteada. En este artículo vamos a hablar realmente de cómo toman decisiones los vehículos autónomos; no desde una clase de filosofía, sino desde la mesa de ingeniería.
¿Qué es el Problema del Tranvía y por qué se Hizo tan Famoso?
Primero, un resumen rápido del clásico: En el experimento mental propuesto por Philippa Foot en 1967 y desarrollado por Judith Jarvis Thomson en 1976 y 1985, un tranvía fuera de control avanza por las vías hacia cinco personas. Tú puedes tirar de una palanca: el tranvía se desvía a otra vía, pero ahí hay una persona. ¿Matas a una persona para salvar a cinco? La segunda versión es aún más inquietante: esta vez detienes el tranvía empujando a la persona que te importa desde el puente hacia las vías. Mientras la mayoría de los filósofos considera defendible accionar la aguja del primer escenario, gran parte del público no puede digerir la idea de empujar al hombre del puente ni años después.
Cuando los vehículos autónomos entraron en escena, pareció que este experimento se trasladaba de golpe a la vida real: ¿debería el coche atropellar al ciclista o desviarse al carril contrario? Suena como un tema de debate estupendo. Pero aquí hay un problema - y esta es la idea central de este artículo: los software reales de conducción autónoma no se escriben intentando resolver el problema del tranvía. ¿Entonces cómo se escriben? Llegaremos a eso, pero primero cerremos definitivamente la parte de la especulación.
¿Realmente Decide un Vehículo Autónomo "a Quién Salvar" o No?

La respuesta corta: no - pero para ganarnos esa respuesta necesitamos mirar cómo piensa el software. Un vehículo autónomo no toma una única decisión en un solo instante, como lo hace tu cerebro. El modelo en la literatura de ingeniería es POMDP, es decir, el Proceso de Decisión de Markov Parcialmente Observable. No temas, no es tan complicado como suena: el vehículo, con información incompleta - alcance de los sensores, oclusiones de la vista, latencia de procesamiento - toma pequeñas decisiones consecutivas dentro de una maraña de probabilidades que fluye continuamente. Un momento blanco y negro de "elijo a quién" ni siquiera encaja en esta estructura.
Además, está esto: los sistemas de inteligencia artificial necesitan miles de ejemplos de un escenario para aprenderlo, y en cada ejemplo debe estar definido de antemano cuál es la "respuesta correcta". Los filósofos llevan dos mil años sin ponerse de acuerdo en un solo dilema moral; ¿quién va a darle al software esa respuesta correcta como dato? Además, el coste del entrenamiento tiene dimensiones absurdas: en los registros consta que un avión autónomo se estrelló 11.500 veces solo para aprender navegación básica. los registros constan de que un avión autónomo se estrelló 11.500 veces solo para aprender navegación básica. Por supuesto que no existe la opción de entrenar los coches chocando contra personas reales.
Aspectos destacados
- Los vehículos autónomos no se programan con dilemas éticos que eligen víctimas, sino con políticas neutrales que minimizan el riesgo
- La Comisión de Ética de Alemania publicó en junio de 2017 20 reglas éticas para la conducción automática; se prohibieron las distinciones basadas en edad, cualidades u otros criterios
- En datos reales de accidentes no se encontró ningún caso tipo tranvía cuya ocurrencia haya sido documentada incluso para conductores humanos
- ISO 26262 cubre la seguridad ante fallos, mientras que ISO 21448 (SOTIF) abarca los peligros derivados de los límites del diseño
Las 20 Reglas Éticas de Alemania: La Madre de la Prohibición de Elegir Víctimas
El paso más concreto del lado regulatorio llegó de Alemania. La Comisión de Ética, dependiente del Ministerio de Transporte, publicó 20 reglas éticas para la conducción automática y conectada en junio de 2017. El principio básico es claro: los sistemas de conducción automática deben servir prioritariamente a la seguridad de todos los usuarios de la vía y la protección de las personas debe mantenerse por encima de todo.
La parte realmente interesante es esta: la comisión exige que los sistemas no deban determinar si hay vidas humanas y no deben intentar resolver dilemas éticos discriminando por edad, género, condición física u otras cualidades. Es decir, cálculos del tipo "¿joven o mayor, médico o desempleado" no pueden dejarse a la preferencia de una sola empresa; son materia de reglas universales. Este es en realidad el golpe más claro dado a nivel regulatorio al debate del tranvía: el Estado no pone sobre la mesa la pregunta "¿a quién eliges?" sino la respuesta "no vas a elegir a nadie". Nota: la respuesta "no vas a elegir a nadie" se sitúa en la frase anterior: el Estado pone sobre la mesa no la pregunta "¿a quién eliges?" sino la respuesta "no vas a elegir a nadie".
Alemania también fue pionera con su Ley de Conducción Autónoma, que estableció el primer marco jurídico nacional para vehículos autónomos de Nivel 4. Por su parte, en la UE se preparó un informe ético con recomendaciones sobre seguridad vial, privacidad, equidad, explicabilidad y responsabilidad para vehículos conectados y automáticos. Y 2026 es un año en movimiento: EE. UU. anunció en septiembre su estrategia nacional de automatización, en el marco de la ONU se avanza hacia un estándar global que unificará la regulación fragmentada de vehículos autónomos, y Euro NCAP introduce protocolos más estrictos de evitación de colisiones que incluyen escenarios de motocicletas e intersecciones. Las reglas éticas y de seguridad se están plasmando rápidamente en el papel.
¿ISO 26262 o SOTIF? El Impacto de los Estándares de Seguridad en los Árboles de Decisión
Ahora respiremos un poco de ingeniería, prometo que no será aburrido. El clásico de la seguridad funcional en el mundo automotriz es ISO 26262: esta norma se ocupa de lo que sucede cuando un componente falla. ¿Pero qué pasa si ninguna pieza se averió y aun así el sistema se comportó de forma peligrosa? Es decir, los sensores están intactos, el software no se ha caído; simplemente se atascó en los límites del diseño, ante una situación de tráfico imprevista?
Justo ese vacío lo llena ISO 21448, es decir, SOTIF. Esta norma, publicada en 2022, tiene como objetivo reducir los peligros derivados no de fallos de componentes, sino de limitaciones del diseño y del uso incorrecto previsible. Uno de sus conceptos más importantes es el Campo de Diseño Operacional (ODD): la definición explícita de las condiciones de velocidad, clima, vía y geografía en las que operará el sistema. El escenario se prueba con simulaciones y los peligros se anticipan de antemano. En el mundo académico, en 2026 se proponen marcos integrados de garantía de seguridad que unen ISO 26262, SOTIF y UL 4600 bajo un mismo techo. En resumen, en lugar de la pregunta de "a quién salvar en el momento del accidente" toda la industria está construyendo un conjunto de estándares que dicen "que nunca lleguemos a ese momento de accidente".
La aproximación de Chris Gerdes, de la escuela de Stanford, mira en la misma dirección: a los fabricantes no se les enseña al vehículo "a quién considera más valioso", sino que se le enseña al vehículo un comportamiento de seguridad. Dentro del marco del contrato social formado por las leyes de tráfico y las interpretaciones judiciales, el vehículo está obligado al deber de cuidado hacia todos los que están en la vía. Si alguien se salta un semáforo en rojo y crea un peligro, la tarea del vehículo no es incluir a esa persona en una "cuenta"; sino intentar evitar chocar con todos hasta sus límites físicos. Según Gerdes, un vehículo que sacrifique una vida para salvar cinco deja a su fabricante frente a una seria responsabilidad legal; además, realizar ese cálculo de beneficio momentáneo en tiempo real ya es prácticamente imposible.
¿Qué Sucede en el Momento del Accidente? RSS y la Lógica de Protección en Capas
Entonces, si nadie elige a una víctima, ¿qué hace realmente el software en ese instante de la huella de neumático? La respuesta tiene dos partes. La primera es RSS, es decir, el enfoque de Seguridad Responsable: se definen márgenes de distancia en los que, si todos respetan estas reglas, la colisión es matemáticamente imposible. Una especie de conducción defensiva amable y constante: dejar un cordón de seguridad para todos.
La segunda es no intentar entrar desde el principio en el escenario de colisión inevitable. Como resume la unidad de soluciones autónomas de Volvo: el objetivo de diseño es que ese momento nunca ocurra; en los datos de accidentes del mundo real no se ha demostrado ningún evento de tipo tranvía que haya ocurrido ni siquiera a conductores humanos. Salvo por terceros excesivamente negligentes o malintencionados, el sistema hace todo lo posible por reducir el daño en cualquier condición. También existe la cara económica de la medalla: el número de capas de protección es en realidad una elección social. Un sistema de protección con capas infinitas no puede existir debido a su costo. Somos nosotros como sociedad quienes trazamos la línea de "suficientemente seguro"; nadie nos cuenta esta parte, pero la decisión se toma todos los días sobre las mesas.
¿Pasajero o Peatón? La Excepción de Mercedes y los Datos de la Opinión Pública
Claro que el tema tampoco está exento de debate. Mercedes fue la primera marca en ofrecer automatización de Nivel 3 en un automóvil personal: el sistema DRIVE PILOT permite conducir con las manos y la mirada libres, pero solo en condiciones estrictamente definidas. Los directivos de la empresa habían indicado previamente, de forma explícita, que en situaciones inevitables se dará prioridad a la seguridad del pasajero; esta declaración es la excepción más citada tanto en la literatura legal como ética, y también se lee en contra del espíritu de la prohibición de discriminación de la Comisión de Ética Alemana.
Por su parte, la opinión pública también está dividida. La plataforma Moral Machine del MIT recopiló datos con la participación de más de 2 millones de personas para medir cómo las personas ven las decisiones morales de las máquinas. Las investigaciones muestran que peatones y conductores exhiben preferencias diferentes en cuanto a su disposición a sacrificarse o protegerse, y que la creencia pública sobre si los pasajeros pueden ser sacrificados para salvar a los peatones es también un asunto medible.
Y también está el panorama general: el error humano desempeña un papel en aproximadamente el 94% de las muertes por accidentes, y se estima que con la eliminación de estos errores por parte de los vehículos autónomos, las muertes en el tráfico podrían reducirse hasta en un 90%. Pero aquí hay que pisar el freno: el análisis de los institutos de seguros sugiere que la eliminación del error humano por sí sola no borrará automáticamente la mayoría de los accidentes, y que los vehículos autónomos también podrían tener dificultades para evitar los mismos tipos de errores. Es decir, todavía hay distancia entre la promesa y la realidad.
¿Es el Problema del Tranvía Completamente Sin Sentido? Defensa y Crítica
Para ser justos, también hay defensores del problema del tranvía. La opinión del ético Patrick Lin es que el experimento funciona como una bomba de intuición: hace pensar en si los números son moralmente importantes, en la diferencia entre matar y dejar morir, y abre la puerta a responsabilizar a los programadores por las consecuencias. Este argumento debe tomarse en serio.
Pero el peso del campo está del otro lado. La evaluación de los círculos del IEEE dice que la paradigma del tranvía es útil para crear conciencia, pero que el marco se plantea en el lugar equivocado. El enfoque de la "ética del riesgo" propuesto en 2021 en la literatura filosófica sostiene que los verdaderos desafíos éticos de la conducción autónoma no están en los escenarios del tranvía; sino en la transparencia de las funciones de valor y objetivo, en la incertidumbre probabilística y en los comportamientos imprevisibles del sistema. Un estudio de 2024, por su parte, critica que se exija a los vehículos sin conductor resolver el problema del tranvía como una imposición moral. En los círculos de ingeniería domina la objeción pragmática: los requisitos previos del escenario del tranvía - la aparición repentina de una persona, un fallo de frenos al mismo tiempo, una percepción perfecta - no se dan juntos en la práctica en el flujo del tráfico real.
Respuesta Corta: ¿Cómo Deciden los Vehículos Autónomos?
Como prometí, una respuesta simple y citable: Los vehículos autónomos no deciden mediante ecuaciones éticas que calculan qué vida es más valiosa, sino mediante políticas de seguridad neutras que minimizan el riesgo aplicado por igual a todos. Los estándares y las leyes orientan estas decisiones no hacia elecciones tipo tranvía, sino hacia que el accidente nunca ocurra. El verdadero debate no está en los dilemas filosóficos; sino en la transparencia de las funciones de valor, en el costo de las capas de protección y en quién traza la línea de "suficientemente seguro". en quién traza esa línea.
Si me preguntas, el problema del tranvía le hará a este sector su mayor servicio justo al terminar de completarlo: nos enseñó a preguntar por los mecanismos de decisión de las máquinas. Pero la próxima vez que alguien pregunte "cómo elige el coche a quién va a matar", ya sabes la respuesta: esa pregunta está muy lejos de lo que el software realmente hace. La pregunta que deberíamos hacernos es la siguiente: cuánta seguridad es suficiente y quién toma esa decisión? Este debate avanza sobre un terreno mucho más real que las vías del tranvía.
Fuentes
- Designing Ethical Self-Driving Cars | Stanford HAI
- La insensatez de los tranvías: desafíos éticos y vehículos autónomos
- El dilema equivocado del problema del tranvía
- El "problema del tranvía" no funciona para los coches autónomos
- Comisión de Ética sobre la conducción automatizada y conectada
- Consideraciones éticas del problema del tranvía en la conducción autónoma
- Moral Machine | MIT
- Un ingeniero de coches autónomos desmonta el problema del tranvía