Otomobilgi.comOtomobilgi.com
  • Türkçe
  • English
  • Deutsch
  • Français
  • Italiano
  • Español
  • Português
  • Polski
  • Magyar
  • Azərbaycanca
  • Bahasa Indonesia
  • Русский
  • 中文
  • 日本語
  • 한국어
  • हिन्दी
  • Tiếng Việt
  • ไทย
  • বাংলা
  • العربية
  • فارسی
  • Türkçe
  • English
  • Deutsch
  • Français
  • Italiano
  • Español
  • Português
  • Polski
  • Magyar
  • Azərbaycanca
  • Bahasa Indonesia
  • Русский
  • 中文
  • 日本語
  • 한국어
  • हिन्दी
  • Tiếng Việt
  • ไทย
  • বাংলা
  • العربية
  • فارسی
  • PAGE D'ACCUEIL
  • ACTUALITÉS
    Actualités du secteur automobile en Türkiye
    Actualités mondiales du secteur automobile
    Actualités sur le sport automobile en Türkiye
    Actualités mondiales du sport automobile
  • VOITURES
    COMBUSTION INTERNE
    • Modèles à combustion interne
    • Technologies des moteurs à combustion interne
    • Carburant et Consommation
    • Émissions et Environnement
    • Propriété d'un Véhicule à Combustion Interne
    • Histoire de l'automobile à combustion interne
    ÉLECTRIQUE
    • Modèles électriques
    • Technologies des véhicules électriques
    • Recharge et Infrastructure
    • Technologie de batterie
    • Portée et Consommation
    • La possession d'un véhicule électrique
    • Histoire de la voiture électrique
    HYBRIDE
    • Modèles hybrides
    • Systèmes hybrides
    • Batterie et charge
    • Consommation et Efficacité
    • Propriété Hybride
    • Histoire de la voiture hybride
    SUPERCAR
    HYPERCAR
  • TECHNOLOGIE
    Systèmes d'Aide à la Conduite
    Technologies de sécurité
    Technologies d'éclairage et de visibilité
    Infodivertissement et Connectivité
    Conduite Autonome et Intelligence Artificielle
    Technologies du Futur
  • GUIDES
    Guides d'achat
    Guides de vente
    Entretien et Utilisation
    Propriété et Coûts
    Pneus et Jantes
    Assurance et Contrôle Technique
  • HISTOIRE & CULTURE
    Histoire de l'automobile
    Modèles Iconiques
    Classiques et Collections
    L'Aventure Automobile de la Turquie
    Design Automobile
    L'automobile et la culture populaire
  • SPORTS MÉCANIQUES
    Formule 1
    Rallye (WRC)
    Rallycross
    MotoGP
    Formule 2 & Formule 3
    Karting
    24 Heures du Mans
    WEC
    NASCAR
    IndyCar
    DTM
    GT Courses
    Drift
    Courses de dragsters
  • Découvrez-nous
    À PROPOS DE NOUS
    CONTACT
  • Türkçe
  • English
  • Deutsch
  • Français
  • Italiano
  • Español
  • Português
  • Polski
  • Magyar
  • Azərbaycanca
  • Bahasa Indonesia
  • Русский
  • 中文
  • 日本語
  • 한국어
  • हिन्दी
  • Tiếng Việt
  • ไทย
  • বাংলা
  • العربية
  • فارسی
  • Türkçe
  • English
  • Deutsch
  • Français
  • Italiano
  • Español
  • Português
  • Polski
  • Magyar
  • Azərbaycanca
  • Bahasa Indonesia
  • Русский
  • 中文
  • 日本語
  • 한국어
  • हिन्दी
  • Tiếng Việt
  • ไทย
  • বাংলা
  • العربية
  • فارسی
  1. PAGE D'ACCUEIL
  2. TECHNOLOGIE
  3. Conduite Autonome et Intelligence Artificielle
  4. Le problème du tramway : comment les véhicules autonomes prennent-ils leurs décisions ?

Le problème du tramway : comment les véhicules autonomes prennent-ils leurs décisions ?

  • Conduite autonome et intelligence artificielle
  • Auteur: Lütfi Mete Odabaşı
  • Création: 3 Novembre 2026
Quand il n'y a plus d'humain au volant, c'est l'algorithme qui réagit au lieu des réflexes, et le problème du tramway cesse d'être une curiosité philosophique pour devenir une réalité d'ingénierie.
Quand il n'y a plus d'humain au volant, c'est l'algorithme qui réagit au lieu des réflexes, et le problème du tramway cesse d'être une curiosité philosophique pour devenir une réalité d'ingénierie.

Imagine qu'un cycliste surgisse soudain devant ta voiture. Si tu avais été au volant, tu aurais fait quelque chose par réflexe - tu ne t'en souviendrais peut-être même pas. Mais si personne n'était au volant ? À cet instant, en une milliseconde, le logiciel doit prendre une décision. Contre qui foncer ? Doit-il éviter dans la voie opposée ? Voilà la question que les médias nous posent depuis dix ans - et honnêtement, la question elle-même est un peu mal posée. Dans cet article, nous allons vraiment parler de la manière dont les véhicules autonomes prennent leurs décisions ; non pas depuis un cours de philosophie, mais depuis la table d'ingénierie.

Qu'est-ce que le Problème du Tramway et Pourquoi Est-il Devenu Si Célèbre ?

Commençons par un résumé rapide du classique : Dans l'expérience de pensée proposée par Philippa Foot en 1967 et développée par Judith Jarvis Thomson en 1976 et 1985, un tramway hors de contrôle se dirige vers cinq personnes sur les rails. Tu peux tirer un levier : le tramway dévie vers une autre voie, mais une personne s'y trouve. Sauves-tu cinq personnes en en tuant une ? La deuxième version est encore plus troublante : cette fois, tu arrêtes le tramway en poussant la personne qui t'est chère du pont vers les rails. Alors que la plupart des philosophes considèrent défendable de manœuvrer l'aiguillage dans le premier scénario, la grande majorité du public n'arrive toujours pas, même des années plus tard, à digérer l'idée de pousser l'homme du pont.

Lorsque les véhicules autonomes sont apparus sur scène, cette expérience a semblé soudainement être transportée dans la vie réelle : la voiture doit-elle foncer sur le cycliste ou éviter dans la voie opposée ? Cela semble être un excellent sujet de débat. Mais il y a un problème ici - et voici l'idée principale de cet article : les vrais logiciels de conduite autonome ne sont pas écrits en essayant de résoudre le problème du tramway. Alors comment sont-ils écrits ? Nous y arriverons, mais terminons d'abord complètement avec la partie spéculation.

Le Véhicule Autonome Décide-t-il Vraiment "Qui Il Va Sauver" ?

Otonom araç kaza anında tek bir dramatik seçim yapmaz; eksik bilgiyle sürekli akan binlerce küçük kararın sonunda duruma dönüşür.

Réponse courte : non - mais pour mériter cette réponse, nous devons examiner comment le logiciel pense. Un véhicule autonome ne prend pas une seule décision en un seul instant, comme ton cerveau. Le modèle dans la littérature d'ingénierie est le POMDP, c'est-à-dire le Processus Décisionnel de Markov Partiellement Observable. N'aie pas peur, ce n'est pas aussi compliqué que son nom : le véhicule, avec des informations incomplètes - portée des capteurs, angles morts, latence de traitement - prend une série de petites décisions au sein d'une trame de probabilités en flux continu. Un moment blanc-noir de "qui je choisis" ne s'inscrit même pas dans cette structure.

Il y a aussi ceci : les systèmes d'intelligence artificielle ont besoin de milliers d'exemples d'un scénario pour l'apprendre, et dans chaque exemple, ce qu'est la "bonne réponse" doit être défini à l'avance. Alors que les philosophes n'arrivent pas à se mettre d'accord sur un seul dilemme moral depuis deux mille ans, qui fournira cette bonne réponse au logiciel en tant que donnée ? De plus, le coût de l'entraînement atteint des proportions absurdes : il est enregistré qu'un avion autonome s'est écrasé 11 500 fois juste pour apprendre une simple navigation. Il n'existe bien sûr aucune option consistant à entraîner les voitures en les faisant percuter de vraies personnes.

À Retenir

  • Les véhicules autonomes ne sont pas programmés avec des dilemmes éthiques choisissant des victimes, mais avec des politiques neutres minimisant le risque
  • La Commission d'éthique allemande a publié en juin 2017 20 règles éthiques pour la conduite automatisée ; les distinctions basées sur l'âge ou les caractéristiques ont été interdites
  • Aucun type d'événement de tramway n'a été trouvé dans les données réelles d'accidents, alors même que son occurrence a été documentée chez des conducteurs humains
  • ISO 26262 couvre la sécurité liée aux défaillances, tandis que ISO 21448 (SOTIF) couvre les dangers découlant des limites de conception

Les 20 règles éthiques de l'Allemagne : La mère de l'interdiction de choisir des victimes

L'étape la plus concrète du côté réglementaire est venue d'Allemagne. Rattachée au Ministère des Transports, la Commission d'éthique a publié 20 règles éthiques pour la conduite automatisée et connectée en juin 2017. Le principe fondamental est clair : les systèmes de conduite automatisée doivent avant tout servir la sécurité de tous les usagers de la route et la protection des personnes doit primer sur tout.

Le plus intéressant, c'est ceci : la commission exige que les systèmes déterminent s'il s'agit d'une vie humaine, mais leur interdit de résoudre des dilemmes éthiques en opérant des distinctions selon l'âge, le sexe, l'état physique ou d'autres caractéristiques. Autrement dit, des calculs du genre « jeune ou vieux, médecin ou sans emploi » ne peuvent être laissés à la préférence d'une seule entreprise - ils relèvent de règles universelles. C'est en fait le coup le plus net porté au débat du tramway au niveau réglementaire : l'État met sur la table non pas la question « qui choisis-tu ? » mais la réponse « tu ne choisiras personne ». comme réponse.

L'Allemagne a également été pionnière avec sa loi sur la conduite autonome, qui a établi le premier cadre juridique national pour les véhicules autonomes de niveau 4. Du côté de l'UE, un rapport éthique a été préparé contenant des recommandations sur la sécurité routière, la confidentialité, l'équité, la transparence et la responsabilité pour les véhicules connectés et autonomes. Et 2026 s'annonce comme une année mouvementée : Les règles d'éthique et de sécurité se traduisent désormais rapidement sur le papier. ISO 26262 ou SOTIF ?

ISO 26262 ou SOTIF ? L'impact des normes de sécurité sur les arbres de décision

Prenons maintenant un petit air d'ingénierie, je promets que ce ne sera pas ennuyeux. Le classique de la sécurité fonctionnelle dans le monde automobile, ISO 26262 : Mais que se passe-t-il si aucune pièce n'est défaillante et que le système se comporte néanmoins de manière dangereuse ? Et si aucune pièce n'était défaillante alors que le système se comporte néanmoins de manière dangereuse ? Donc, les capteurs sont en bon état, le logiciel n'a pas planté - le système s'est simplement retrouvé bloqué aux limites de sa conception, dans une situation de trafic imprévue ?

C'est précisément ce vide que comble ISO 21448, c'est-à-dire SOTIF. Publiée en 2022, cette norme vise à réduire les dangers liés non pas à une défaillance de composant, mais à une limitation de conception et à une utilisation incorrecte prévisible. L'un de ses concepts les plus importants est le domaine de conception opérationnelle (ODD) : la définition explicite des conditions de vitesse, de météo, de route et de géographie dans lesquelles le système fonctionnera. Le scénario est testé par des simulations et les dangers sont anticipés à l'avance. Dans le monde académique, en 2026, des cadres intégrés d'assurance sécurité combinant ISO 26262, SOTIF et UL 4600 sous un même toit sont proposés. En bref, au lieu de la question « qui sauver en cas d'accident » toute l'industrie construit un ensemble de normes qui dit « ne nous laissons jamais arriver à ce moment d'accident ».

L'approche de Chris Gerdes, issu de l'école de Stanford, sur ce sujet va dans le même sens : les constructeurs n'apprennent pas à la voiture « qui elle considère comme le plus précieux », ils lui enseignent un comportement de sécurité. Dans le cadre du contrat social formé par les lois de la circulation et les interprétations des tribunaux, la voiture est redevable d'un devoir de diligence envers chacun sur la route. Si quelqu'un grille un feu rouge et crée un danger, la mission de la voiture n'est pas de mettre cette personne dans un « décompte » ; à inclure ; essayer d'éviter toute collision avec tout ce qui se trouve jusqu'à ses limites physiques. Selon Gerdes, un véhicule qui sacrifie une vie pour en sauver cinq expose son fabricant à de lourdes responsabilités juridiques - sans compter qu'il est déjà pratiquement impossible d'effectuer ce calcul d'utilité en temps réel.

RSS et la logique de protection multicouche RSS et la logique de protection par couches

Alors, si personne ne choisit de victime, que fait réellement ce logiciel qui s'active au moment du premier marquage de pneus ? La réponse comporte deux parties. La première est RSS, c'est-à-dire l'approche Safety Responsable vis-à-vis de la responsabilité : Une sorte de conduite courtoise et défensive en permanence - laisser une corde de sécurité pour tout le monde. La seconde, c'est de s'efforcer de ne jamais entrer dans un scénario de collision inévitable.

Comme le résume l'unité de solutions autonomes de Volvo : l'objectif de conception, c'est que ce moment n'arrive jamais ; aucun événement de type tramway n'a été prouvé dans les données d'accidents du monde réel, même chez les conducteurs humains. Hormis les tiers extrêmement défectueux ou mal intentionnés, le système fait tout son possible pour réduire les dommages dans toutes les conditions. Il y a aussi le versant économique de la médaille : le nombre de couches de protection est en réalité un choix de société. Un système de protection à couches infinies ne peut pas exister en raison de son coût. La ligne du « suffisamment sûr », « Suffisamment sûr » est une ligne que nous traçons en tant que société - personne ne nous explique cette partie, mais la décision est prise chaque jour autour des tables.

Passager ou piéton ? L'exception Mercedes et les données de l'opinion publique

Bien sûr, le sujet ne fait pas non plus l'unanimité. Mercedes est devenue la première marque à proposer l'automatisation de niveau 3 sur une voiture particulière - le système DRIVE PILOT permet une conduite avec mains libres et regards libres, mais uniquement dans des conditions strictement définies. Les dirigeants de l'entreprise avaient précédemment clairement indiqué qu'en cas de situations inévitables, la priorité serait donnée à la sécurité des passagers ; cette déclaration est également lue comme étant à la fois l'exception la plus citée dans la littérature juridique et éthique et en contradiction avec l'esprit de l'interdiction de discrimination de la Commission d'éthique allemande.

L'opinion publique est également partagée. La plateforme Moral Machine du MIT a collecté des données avec la participation de plus de 2 millions de personnes afin de mesurer la façon dont les humains perçoivent les décisions morales des machines. Les recherches montrent que les piétons et les conducteurs affichent des préférences différentes en matière de volonté de se sacrifier ou de se protéger, et que la croyance publique quant à savoir si les passagers peuvent être sacrifiés pour sauver des piétons constitue une question mesurable.

Il y a aussi le tableau d'ensemble : l'erreur humaine intervient dans environ 94% des décès liés aux accidents, et des estimations prévoient que les accidents de la route pourraient diminuer jusqu'à 90% grâce à l'élimination de ces erreurs par les véhicules autonomes. Mais il faut ici freiner - l'analyse des instituts d'assurance suggère que la suppression de l'erreur humaine n'effacera pas automatiquement à elle seule la majorité des accidents, et que les véhicules autonomes pourraient également avoir du mal à éviter les mêmes types d'erreurs. Autrement dit, il reste encore une distance entre la promesse et la réalité.

Le Problème du Tramway est-il Totalement Insensé ? Défense et Critique

Pour être juste, il existe aussi des défenseurs du problème du tramway. L'opinion de l'éthicien Patrick Lin veut que l'expérience serve d'intuitionniste : elle invite à réfléchir sur l'importance morale des chiffres, sur la différence entre tuer et laisser mourir, et elle entrouvre la porte à la tenue des programmeurs responsables des conséquences. Cet argument doit être pris au sérieux.

Mais le poids du domaine se trouve du côté opposé. L'évaluation des cercles de l'IEEE indique que le paradigme du tramway est utile pour sensibiliser, mais que le cadre est posé au mauvais endroit. L'approche de « l'éthique du risque » proposée en 2021 dans la littérature philosophique soutient que les véritables défis éthiques de la conduite autonome ne se trouvent pas dans les scénarios de tramway ; mais dans la transparence des fonctions de valeur et d'objectif, dans l'incertitude probabiliste et dans les comportements imprévisibles des systèmes. Une étude de 2024, quant à elle, critique le fait de demander à des véhicules sans conducteur de résoudre le problème du tramway comme une imposition morale. Dans les milieux d'ingénierie, l'objection pragmatique prédomine : les prérequis du scénario du tramway - l'apparition soudaine d'un humain, une panne de frein simultanée, une perception parfaite - ne se réunissent pratiquement pas dans le flux du trafic réel.

Réponse courte : Comment les Véhicules Autonomes Prennent-ils leurs Décisions ?

Comme promis, une réponse simple et citable : Les véhicules autonomes ne décident pas avec des équations éthiques calculant quelle vie a plus de valeur, mais avec des politiques de sécurité neutres minimisant le risque appliqué de manière égale à tous. Les normes et les lois orientent ces décisions non pas vers des choix de type tramway, mais vers la non-occurrence de l'accident. Le véritable débat ne se trouve pas dans les dilemmes philosophiques ; mais dans la transparence des fonctions de valeur, dans le coût des couches de protection et dans la question de savoir par qui la ligne du « suffisamment sûr » de la ligne est tracée, et par qui.

Si vous me demandez mon avis, le problème du tramway rendra son plus grand service à ce secteur précisément au moment où il s'achève : il nous a appris à nous interroger sur les mécanismes de décision des machines. Mais la prochaine fois que quelqu'un demande « comment une voiture choisit qui elle va tuer », vous saurez répondre - cette question est très loin de ce que le logiciel fait réellement. La vraie question que nous devrions nous poser est la suivante : quel niveau de sécurité est suffisant et qui prend cette décision ? Ce débat avance sur un terrain bien plus réel que celui des rails de chariot.

Sources

  • Concevoir des voitures autonomes éthiques | Stanford HAI
  • La folie des chariots : défis éthiques et véhicules autonomes
  • Le dilemme erroné du problème du chariot
  • Le « problème du chariot » ne fonctionne pas pour les voitures autonomes
  • Commission d'éthique pour la conduite automatisée et connectée
  • Considérations éthiques du problème du chariot dans la conduite autonome
  • Moral Machine | MIT
  • Un ingénieur en voitures autonomes démonte le problème du chariot

Partagez cette page

Éditeur de catégorie

Lütfi Mete Odabaşı

Lütfi Mete Odabaşı

Passionné d'automobile et de sport automobile, jeune, dynamique, aimant la recherche et l'apprentissage. Mette apporte une valeur ajoutée à notre plateforme d'actualités, d'informations et de culture automobile avec le point de vue des jeunes. Il suit de près les innovations dans les technologies automobiles et les développements dans le sport automobile, et transforme ce qu'il apprend en contenus riches et utiles pour otomobilgi.com.

Contenus associés

Ce n'est pas une promesse publicitaire qui autorise un véhicule autonome à circuler, mais bien le sceau de l'organisme d'homologation officiel ; Mercedes DRIVE PILOT a été le premier système à en apporter la preuve.
Conduite autonome et intelligence artificielleComment les systèmes de conduite autonome arrivent-ils sur la route ?
Mercedes-Benz a présenté le premier système de niveau 3 approuvé au monde assumant la responsabilité en cas d'accident ; mais cette liberté ne s'applique encore que dans un couloir très étroit.
Conduite autonome et intelligence artificielleMercedes Drive Pilot tient sa promesse de niveau 3
Le robotaxi de Waymo vient jusqu'à votre porte à San Francisco, mais dans une petite ville ordinaire à quelques kilomètres de là, l'application ne répond tout simplement pas.
Conduite autonome et intelligence artificiellePourquoi la carte de Waymo se limite-t-elle à certaines villes seulement ?
La technologie est prête, les modèles sont prêts, mais ce siège vide sur l'autoroute américaine reste occupé par un chauffeur, car le véritable obstacle n'est pas le logiciel, mais l'économie et le règlement.
Conduite autonome et intelligence artificiellePourquoi les camions autonomes roulent-ils encore avec chauffeur sur les autoroutes américaines ?
Comme la voiture ne peut pas encore lire la route elle-même, les caméras surveillent désormais seconde par seconde les clignements des yeux et l'attention de la personne au volant.
Conduite autonome et intelligence artificiellePourquoi les caméras surveillent-elles le conducteur au volant ?
Les États-Unis font d'abord rouler les véhicules à conduite autonome avant d'écrire les règles, tandis que l'Europe ne laisse pas un véhicule dans la rue sans qu'il ait passé l'homologation par type centralisée.
Conduite autonome et intelligence artificiellePourquoi les États-Unis et l'Europe divergent-ils dans la réglementation de la conduite autonome ?
L'abonnement FSD à 99 dollars de Tesla promet une autonomie complète, mais l'obtention d'un retour sur votre investissement dépend du nombre de kilomètres que vous parcourez chaque jour.
Conduite autonome et intelligence artificielleEst-il logique de payer un abonnement mensuel pour la conduite autonome ?
Depuis dix ans, les dates promises pour l'autonomie totale ont été dépassées une à une ; aujourd'hui, ce qu'on tient encore au volant sur les routes, c'est de l'assistance de conduite de niveau 2.
Conduite autonome et intelligence artificielleLes promesses différées de la conduite autonome depuis 2015
Les 271 millions de kilomètres sans conducteur de Waymo montrent que les robotaxis ont 68 % moins d'accidents que les humains, mais la sécurité dépend toujours des questions de où et comment.
Conduite autonome et intelligence artificielleLes véhicules autonomes sont-ils vraiment sûrs ? Que disent les accidents ?
Waymo roule sans conducteur sur un périmètre restreint, Tesla fonctionne sous supervision partout ; cette différence n'est pas un hasard, elle est au cœur même du modèle économique des deux entreprises.
Conduite autonome et intelligence artificiellePourquoi Tesla a-t-il encore besoin d'un conducteur alors que Waymo circule seul en ville ?

Mots-clés

  • conduite autonome
  • sécurité des véhicules autonomes
  • domaine opérationnel de conception
  • niveau 3 d'automatisation
  • automatisation de niveau 4
  • mercedes-benz
  • tesla
  • waymo
  • responsabilité légale
  • problème du tramway
  • sûreté de la fonctionnalité prévue
  • iso 26262

Suivez-nous sur les réseaux sociaux

  • À propos de nous
  • Texte d'information conformément à la KVKK
  • Politique de confidentialité
  • Contact
Otomobilgi.com
PLATEFORME INDÉPENDANTE DE CULTURE AUTOMOBILE
Propulsé par Virgo CMS