Otomobilgi.comOtomobilgi.com
  • Türkçe
  • English
  • Deutsch
  • Français
  • Italiano
  • Español
  • Português
  • Polski
  • Magyar
  • Azərbaycanca
  • Bahasa Indonesia
  • Русский
  • 中文
  • 日本語
  • 한국어
  • हिन्दी
  • Tiếng Việt
  • ไทย
  • বাংলা
  • العربية
  • فارسی
  • Türkçe
  • English
  • Deutsch
  • Français
  • Italiano
  • Español
  • Português
  • Polski
  • Magyar
  • Azərbaycanca
  • Bahasa Indonesia
  • Русский
  • 中文
  • 日本語
  • 한국어
  • हिन्दी
  • Tiếng Việt
  • ไทย
  • বাংলা
  • العربية
  • فارسی
  • 首页
  • 新闻
    土耳其汽车行业新闻
    全球汽车行业新闻
    土耳其赛车新闻
    全球赛车运动新闻
  • 汽车
    内燃机
    • 内燃机车型
    • 内燃机技术
    • 燃油与消耗
    • 排放与环境
    • 内燃机车辆所有权
    • 内燃机汽车历史
    电动
    • 电动车型
    • 电动汽车技术
    • 充电与基础设施
    • 电池技术
    • 续航与能耗
    • 电动汽车所有权
    • 电动汽车历史
    混动
    • 混合动力车型
    • 混合系统
    • 电池与充电
    • 消费与效率
    • 混合所有权
    • 混合动力汽车的历史
    超级跑车
    超级跑车
  • 技术
    驾驶员辅助系统
    安全技术
    照明与视野技术
    信息娱乐与互联
    自动驾驶与人工智能
    未来科技
  • 指南
    购买指南
    销售指南
    维护与使用
    所有权与费用
    轮胎和轮毂
    保险与车检
  • 历史与文化
    汽车历史
    标志性车型
    经典与合集
    土耳其的汽车之旅
    汽车设计
    汽车与流行文化
  • 赛车运动
    一级方程式
    拉力赛 (WRC)
    越野拉力赛
    MotoGP
    Formula 2 与 Formula 3
    卡丁车
    勒芒24小时耐力赛
    WEC
    NASCAR
    IndyCar
    DTM
    GT 赛事
    漂移
    直线加速赛
  • 了解我们
    关于我们
    联系方式
  • Türkçe
  • English
  • Deutsch
  • Français
  • Italiano
  • Español
  • Português
  • Polski
  • Magyar
  • Azərbaycanca
  • Bahasa Indonesia
  • Русский
  • 中文
  • 日本語
  • 한국어
  • हिन्दी
  • Tiếng Việt
  • ไทย
  • বাংলা
  • العربية
  • فارسی
  • Türkçe
  • English
  • Deutsch
  • Français
  • Italiano
  • Español
  • Português
  • Polski
  • Magyar
  • Azərbaycanca
  • Bahasa Indonesia
  • Русский
  • 中文
  • 日本語
  • 한국어
  • हिन्दी
  • Tiếng Việt
  • ไทย
  • বাংলা
  • العربية
  • فارسی
  1. 首页
  2. 技术
  3. 自动驾驶与人工智能
  4. 电车难题:自动驾驶汽车如何做决策?

电车难题:自动驾驶汽车如何做决策?

  • 自动驾驶与人工智能
  • 作者: Lütfi Mete Odabaşı
  • 创建时间: 3 十一月 2026
当方向盘后没有人类时,取代本能的是算法,电车难题也不再只是哲学思考,而成为工程现实.
当方向盘后没有人类时,取代本能的是算法,电车难题也不再只是哲学思考,而成为工程现实.

假设一辆自行车突然出现在你的车前. 如果方向盘在你手里,你会本能地做出反应——可能连你自己都记不清做了什么. 但如果方向盘前没有人呢? 那一刻,在千分之一秒内,软件必须做出一个决定. 撞向谁? 还是躲到对向车道? 这就是媒体十年来一直在问我们的问题——说实话,这个问题本身就问得有点不对. 在这篇文章中,我们将真正探讨自动驾驶汽车是如何做出决策的; 不是从哲学课的角度,而是从工程工作台的角度.

电车难题是什么?它为什么如此出名?

先来一个简短的经典概述: 在这个由Philippa Foot于1967年提出、Judith Jarvis Thomson于1976年和1985年发展的思想实验中,一辆失控的电车正驶向轨道上的五个人. 你可以拉动一个拉杆: 电车转向另一条轨道,但那里有一个人. 你会牺牲一个人来拯救五个人吗? 第二个版本更加令人不安: 这一次,你要把你所爱的人从桥上推下轨道,以阻止电车. 大多数哲学家认为第一个情景中的扳道岔是可以辩护的,而绝大多数民众即使在多年之后也无法接受把人从桥上推下去的想法.

当自动驾驶汽车登上舞台时,这个实验似乎一下子被搬进了现实生活: 汽车应该撞向骑车人,还是躲到对向车道? 这听起来像是一个绝佳的讨论话题. 但这里有一个问题——而这正是这篇文章的核心观点: 真正的自动驾驶软件并不是通过解决电车难题而编写的.那么它是如何编写的呢? 我们稍后会讲到这一点,但先让我们把猜测的部分彻底说完.

自动驾驶汽车究竟会“拯救谁” 吗?

Otonom araç kaza anında tek bir dramatik seçim yapmaz; eksik bilgiyle sürekli akan binlerce küçük kararın sonunda duruma dönüşür.

简短的回答是: 不是——但要真正理解这个答案,我们需要看看软件是如何思考的. 自动驾驶汽车不像你的大脑那样在某一瞬间做出单一决策. 工程文献中的模型是POMDP,即部分可观测马尔可夫决策过程. 别害怕,它并没有名字听起来那么复杂: 车辆在不完整的信息下——传感器范围、视野遮挡、处理延迟——在不断流动的概率网络中,连续做出一系列微小的决策. 一个非黑即白的"我选择撞谁" 的时刻根本无法融入这个结构之中.

还有一点: 人工智能系统要学习一个场景,需要该场景的数千个样本,而每个样本中“正确答案” 是什么都必须事先定义好. 当哲学家们在单个道德困境上争论了两千年仍无法达成一致时,谁来把这个正确答案作为数据提供给软件呢? 而且训练成本高得离谱: 记录显示,一架自动驾驶飞机仅仅为了学习简单的导航,就坠毁了11,500次. 当然,不存在通过让汽车撞向真人来训练它们这种选项.

亮点回顾

  • 自动驾驶汽车并非通过选择牺牲对象的伦理方程来编程,而是通过将风险降至最低的中立策略
  • 德国伦理委员会于2017年6月发布了自动驾驶的20条伦理规则; 禁止根据年龄、资质等进行区分
  • 在真实事故数据中,未发现任何连人类驾驶员都曾遭遇过的有轨电车式案例
  • ISO 26262涵盖故障引发的安全问题,而ISO 21448 (SOTIF)则涵盖设计局限导致的危险

德国的20条伦理规则: 牺牲选择禁令的由来

监管方面最具体的一步来自德国. 隶属于交通部的伦理委员会于2017年6月发布了针对自动驾驶和联网驾驶的20条伦理规则. 基本原则很明确: 自动驾驶系统应首先服务于所有道路使用者的安全,必须将保护人置于一切之上.

最有趣的部分则是: 委员会要求,系统必须判断眼前是否涉及人的生命,但不得通过在年龄、性别、身体状况或其他属性之间进行区分来求解伦理方程. 也就是说,"是年轻还是年老,是医生还是失业者" 这类计算不能交由任何一家公司自行决定 - 这些属于普遍规则的范畴. 这实际上是在监管层面对电车难题打出的最明确一击: 国家给出的答案不是"你选择谁" 的问题,而是"你不得选择任何人" .

此外,德国还通过为L4级自动驾驶汽车建立首个国家法律框架的《自动驾驶法》成为先驱. 在欧盟方面,则编写了一份伦理报告,其中包含针对联网和自动驾驶车辆的道路安全、隐私、公平性、可解释性和责任建议. 而2026年是动作频频的一年: 美国于9月公布了国家自动化战略,在联合国框架下,碎片化的自动驾驶法规正朝着统一全球标准的方向推进,Euro NCAP则推出了涵盖摩托车和交叉路口场景的更严格的碰撞避免协议. 伦理与安全规则正迅速落成白纸黑字.

ISO 26262还是SOTIF? 安全标准对决策树的影响

现在让我们来感受一点工程气息,我保证不会枯燥. 汽车领域功能安全的经典之作ISO 26262: 该标准关注的是组件发生故障时会发生什么. 但如果没有任何部件损坏,系统却仍然表现出危险行为呢? 也就是说,传感器完好,软件没有崩溃 - 只是在设计的边界内,在未曾预见的交通状况中陷入了困境?

正是这一空白由ISO 21448,即SOTIF来填补. 这项于2022年发布的标准,目标不是减少部件故障,而是减少由设计局限和可预见的误用所导致的危险. 其中最重要的概念之一是运行设计域 (ODD): 明确定义系统将在何种速度、天气、道路和地理条件下运行. 场景通过仿真进行测试,危险会被提前规避. 而在学术界,2026年有学者提出将ISO 26262、SOTIF和UL 4600整合在统一框架下的集成式安全保证框架. 简而言之,行业正在构建的标准不是"事故发生时该救谁" 而是整个行业都在贯彻"让我们根本不要走到事故那一刻" "让我们根本不要走到事故那一刻"的理念.

斯坦福学派的Chris Gerdes对这一问题的看法也是同一方向: 制造商教给车辆的并非“谁更有价值”,而是教给它安全行为.在交通法规和法院判例构成的社会契约框架下,车辆对路上的每个人都负有注意义务. 如果有人闯红灯并制造危险,车辆的任务不是将这个人"算一笔账", 而是 尽力避免与任何人发生碰撞,直到其物理极限. 据Gerdes所说,为拯救五条生命而牺牲一条生命的车辆,将使其制造商面临严重的法律责任——而且实时进行这种即时利益计算本身在实践中也是不可能的.

事故发生时到底发生了什么? RSS与分层保护逻辑

既然没有人被选为牺牲品,那么轮胎痕出现的那一刻,软件究竟在做什么? 答案分为两部分. 第一是RSS,即责任敏感安全(RSS)方法: 它定义了这样一种距离余量——只要所有人都遵守这些规则,碰撞在数学上就是不可能发生的. 这是一种礼貌且持续的防御性驾驶——为每个人留出安全缓冲.

第二,是尽力从一开始就不要进入不可避免的碰撞场景. 正如Volvo自动驾驶解决方案部门所总结的: 设计目标是让那一刻永远不会发生; 在真实世界的事故数据中,尚未证实存在连人类驾驶员都会遭遇的有轨电车式事件. 除了严重过错或恶意的第三方之外,系统在任何情况下都会尽力减少伤害. 此外,还有问题的经济一面: 保护层的数量实际上是一种社会选择. 无限层级的保护系统因成本原因无法存在. "足够安全" 这条线是我们作为社会划定的——没有人向我们解释这一部分,但决定每天都在谈判桌上做出.

保护乘客还是行人? Mercedes的例外与舆论数据

当然,这个话题并非没有争议. Mercedes是首个提供L3级自动驾驶的个人汽车品牌—— DRIVE PILOT系统允许解放双手和眼睛的驾驶,但仅在严格定义的条件下. 公司高管此前曾明确表示,在无法避免的情况下将优先保障乘客的安全; 这一声明在法律和伦理文献中都是被引用最多的例外,也被解读为与德国伦理委员会的禁止区分原则精神相悖.

舆论方面也存在分歧. MIT的Moral Machine平台为了解人们对机器道德决策的看法,收集了超过200万人的数据. 研究表明,行人和驾驶员在牺牲自己还是保护自己方面表现出不同的偏好,而公众对能否为拯救行人而牺牲乘客的看法也是一个可以衡量的问题.

还有更大的图景: 人为失误在约94%的致死事故中扮演角色,据估计,自动驾驶车辆消除这些失误后,交通死亡人数可减少多达90%. 但这里需要踩一下刹车——保险机构的分析指出,仅仅消除人为失误并不会自动消除大多数事故,自动驾驶车辆同样可能在同类错误上遇到困难. 也就是说,承诺与现实之间仍有距离.

电车难题完全毫无意义吗? 辩护与批评

公平地说,有轨电车问题的辩护者也是存在的. 伦理学家Patrick Lin的观点是,这个实验作为一种"直觉泵"发挥了作用: 它促使人们思考人数在道德上是否重要、杀人跟放任死亡之间的区别,并打开了让程序员对结果负责的大门. 这个论点值得认真对待.

但学界的重心还是偏向另一边. IEEE相关界的评估认为,电车范式在唤起意识方面是有用的,但其框架设置在了错误的地方. 哲学文献中2021年提出的"风险伦理" 方法认为,自动驾驶真正的伦理挑战并不在于电车场景; 方法认为,真正的挑战在于价值与目标函数的透明性、概率性不确定性以及不可预测的系统行为. 2024年的一项研究则批评要求无人驾驶车辆解决有轨电车难题是一种道德上的强加. 在工程界则盛行务实的反对意见: 电车场景的前提条件——行人突然出现、刹车同时失灵、感知完美无缺——在真实交通流中实际上并不会同时出现.

简短回答: 自动驾驶汽车如何做出决策?

正如我承诺的,简单且可引用的答案: 自动驾驶汽车的决策并非依靠计算谁的生命更有价值的伦理方程,而是依靠对所有人平等适用、将风险降至最低的中立安全政策. 标准和法律引导这些决策远离电车式的取舍,而朝着事故根本不发生的目标前进. 真正的争论不在于哲学困境; 而在于价值函数的透明性、保护层的成本以及"足够安全" 这条界限究竟由谁来划定.

要我说,电车难题对这个行业最大的贡献恰恰在它功成身退之时: 它教会了我们去追问机器的决策机制. 但如果下次有人问“汽车如何选择该杀谁” 这个问题,你已经知道答案了——这个问题远超出软件真正做的事情. 我们真正该问的问题是: 多少安全保障才算足够,这个决定又由谁来做出? 这场讨论所立足的现实,远比电车轨道更加真实.

参考资料

  • 设计道德的自动驾驶汽车 | Stanford HAI
  • 有轨电车的愚蠢:伦理挑战与自动驾驶汽车
  • 电车难题被误导的困境
  • "电车难题"不适用于自动驾驶汽车
  • 自动驾驶与网联驾驶伦理委员会报告
  • 自动驾驶中有轨电车难题的伦理考量
  • 道德机器 | MIT
  • 自动驾驶汽车工程师驳斥有轨电车难题

分享此页面

分类编辑

Lütfi Mete Odabaşı

Lütfi Mete Odabaşı

一位年轻、充满活力、热爱探索和学习的汽车与赛车运动爱好者.Mete 以年轻人的视角为我们的汽车新闻、知识和文化平台增添价值.他密切关注汽车技术创新和赛车运动的发展,并将所学转化为 otomobilgi.com 的充实而实用的内容.

相关内容

让自动驾驶汽车上路的不是广告承诺,而是官方认证机构的印章;Mercedes DRIVE PILOT是首个证明这一点的系统.
自动驾驶与人工智能自动驾驶系统是如何上路的?
Mercedes-Benz推出了全球首个获得认证、由车企承担事故责任的Level 3系统,但这份自由目前仍只在非常狭窄的范围内适用.
自动驾驶与人工智能Mercedes Drive Pilot 兑现了 Level 3 的承诺
Waymo的无人驾驶出租车可以开到旧金山你的家门口,但在几公里外的一个普通小镇上,应用只会返回空白.
自动驾驶与人工智能Waymo的地图为什么只覆盖特定城市?
技术已经就绪,模式也已成熟,但美国高速公路上那个空着的座位仍然坐着一名司机,因为真正的障碍不是软件,而是经济账和规则手册.
自动驾驶与人工智能自动驾驶卡车为何在美国高速公路上仍未摆脱配备司机的模式?
由于汽车尚不能自己读懂道路,摄像头如今正在逐秒监测方向盘前驾驶者的眨眼和注意力.
自动驾驶与人工智能摄像头为什么要盯着方向盘后的驾驶员?
美国在自动驾驶上先让车上路,之后再制定规则;而欧洲则不经过中央型式认证,绝不会让车辆上街.
自动驾驶与人工智能美国与欧洲为何在自动驾驶法规上产生分歧?
Tesla售价99美元的FSD订阅虽然名为完全自动驾驶,但你的钱花得值不值,取决于你每天开多少公里.
自动驾驶与人工智能为自动驾驶支付月费是否合理?
十年来,每年给出的完全自动驾驶时间表一个个过去了;而如今道路上人们实际能摸到的,仍然是Level 2驾驶辅助.
自动驾驶与人工智能自动驾驶自2015年以来一直被推迟的承诺
Waymo无人驾驶里程达2.71亿公里,数据显示robotaxi的事故率比人类驾驶低68%,但安全性仍然取决于在哪里以及如何运行这些问题.
自动驾驶与人工智能自动驾驶汽车真的安全吗?事故数据说明了什么?
Waymo只在极少数区域实现无人驾驶,而Tesla到处都在安全监督下运行;这一差异并非偶然,而是两家公司商业模式本身使然.
自动驾驶与人工智能当Waymo已能在城市中独自穿行时,特斯拉为何仍然需要驾驶员?

标签

  • 自动驾驶
  • 自动驾驶安全
  • 运行设计域
  • 3级自动驾驶
  • 四级自动化
  • 梅赛德斯-奔驰
  • 特斯拉
  • waymo
  • 法律责任
  • 电车难题
  • 预期功能安全
  • iso 26262

在社交媒体上关注我们

  • 关于我们
  • KVKK信息披露声明
  • 隐私政策
  • 联系
Otomobilgi.com
独立汽车文化平台
由 Virgo CMS 强力驱动