返回时间流

失控电车六十年——一个课堂虚构事故,如何变成真实的工程问题

1967 年一篇讨论堕胎的论文里顺手编的电车案例,经过 Thomson、fMRI、四千万次网络投票和德国联邦法规,最终得到的官方回应是:不许扳道岔,修护栏。

1967 年,牛津。《Oxford Review》第五期上刊登了一篇论文:《堕胎问题与双重效果原则》。作者 Philippa Foot,Somerville 学院的哲学教师。双重效果原则是阿奎那留下的中古遗产:一个行为同时带来好结果和坏结果时,什么样的坏结果可以被原谅。Foot 想用它讨论堕胎。为了说明「意图造成的伤害」和「仅仅预见的伤害」不是一回事,她在论文中段顺手编了一个例子:一辆刹车失灵的有轨电车,司机可以转向。正前方的轨道上绑着五个人,侧线上绑着一个人。转向,死一个;不转,死五个。司机应该转向吗?

她又放了一个对照组:一位外科医生,手边有五个垂死的病人,都等着器官移植;隔壁坐着一个健康的体检者。把这一个健康人拆了,能救五个。可以吗?

几乎所有人的直觉都一样:电车司机可以转向,外科医生绝对不行——哪怕算术一模一样,都是一换五。这个不对称,才是她真正想解释的东西。电车在这个论证里只是个道具,而且是个刻意过时的道具:写论文的 1967 年,英语世界的有轨电车大半已经退役,成了怀旧明信片上的物件。她拿一件博物馆展品,装了一个新问题。

Foot 本人比这个例子有意思得多。她 1920 年生于林肯郡,外祖父是美国总统格罗弗·克利夫兰,父亲经营约克郡一座大型钢铁厂。用她自己的话说,她成长的环境「打猎、射击、钓鱼,女孩根本不上大学」,幼年教育全部来自几位家庭女教师,效果差到她后来承认,自己连「罗马人和希腊人谁在先」都不知道。她靠函授拉丁语和一位牛津入学教练考进了 Somerville——那所女子学院后来被称为二十世纪哲学的奇迹孵化器:与她同期的还有 Elizabeth Anscombe、Iris Murdoch 和 Mary Midgley。她以康德研究拿学位,战时在伦敦做文职工作,战后回到 Somerville,1949 年拿到 fellowship。她一生最看重的工作是复兴亚里士多德式的美德伦理学;让全世界记住她名字的,却是论文中段顺手编的那个例子。

让道具获得自己生命的是另一个人。Judith Jarvis Thomson,长期任教于 MIT 的哲学教授。1976 年她把 Foot 的司机换成了站在道岔旁的旁观者——你不再是责任人,只是一个恰好握着操纵杆的路人。1985 年她在《耶鲁法学杂志》发表《The Trolley Problem》,正式给这个问题起了名字。也是在她手里,诞生了那个最著名的变体:天桥版。你站在横跨轨道的天桥上,身边是一个体格庞大的陌生人。挡住电车、救下五人的唯一办法,是把这个大个子推下去。

算术没变,还是一换五。但直觉整个翻转了。大多数人说自己会拉杆;到了天桥上,愿意亲手推人的比例掉到两成以下。同样的五条命,同样的一条命,隔着一根操纵杆和一双直接接触的手,道德判断就换了方向。此后几十年,哲学家围着它造出越来越多的变体——环轨版、陷阱门版、器官移植版——每一个都在精准拨动人的某一种直觉,试图找出藏在所有案例背后的那条原则。争论没有结果。最妙的情节在结尾:2008 年,Thomson 发表《Turning the Trolley》,公开承认自己当年想错了——被她否掉的 Foot 的旧答案,也许才是对的。发明这个问题的人和命名这个问题的人,晚年一个兴趣不大,一个临阵反水。

然后,这个哲学玩具开始跨界。

2001 年,Joshua Greene 把它推进了 fMRI。《科学》上的那篇论文把道德困境分成两类:个人化的(要亲手施加伤害,比如推胖子)激活的是与情绪和社会认知相关的脑区;非个人化的(拉杆这类)更多激活与冷计算相关的区域。Greene 由此提出道德判断的双重加工理论:一套快而热的情感系统,一套慢而冷的计算系统;电车难题之所以「难」,是因为两套系统给出了相反的判决。接下来的十几年,这个思想实验成了实验心理学的标准刺激材料,证据链越拉越长:腹内侧前额叶受损的病人明显更愿意推人(Koenigs 2007);额颞叶痴呆病人推人的概率是常人的三倍(Mendez 2005);短期服用抗抑郁药西酞普兰会让人更偏义务论,抗焦虑药劳拉西泮则相反(Crockett 2010);用外语作答时,愿意推人的比例从不到两成涨到一半左右(Costa 2014);甚至用手机答题都比用电脑更功利一点(Barque-Duran)。一个 1967 年的哲学脚注,变成了给人类道德底层做扫描的探针。

流行文化随后赶到。哈佛的桑德尔把它放进《公正》公开课的第一讲,那大概是全球观看人数最多的哲学课。2017 年 10 月,NBC 喜剧《善地》第二季第六集,标题就叫「The Trolley Problem」——恶魔建筑师迈克尔真的开着一辆电车,把伦理学教授齐迪的课堂变成一场滑稽的肉体事故,然后两人在事故现场继续争论。那几年,「trolley problem meme」在英语互联网上是一整类表情包的类目名。一门最古老的学科里最学院化的难题,罕见地完成了一次完全出圈的流行。2013 年,David Edmonds 甚至把它的学术史写成了一本畅销书《你会杀死那个胖子吗?》,开篇讲的是一个真实的历史版本——「丘吉尔的困境」:1944 年德军的 V-1 飞弹无人驾驶、不可谈判,落点集中在伦敦南部较贫困的街区;情报部门有没有办法让落点偏一点、又该不该让它偏向别处?书里的考证说,这段战时决策的细节多半已成传说,但结构是真的:有时你能选择伤害落在哪里,却无法选择没有人受伤。

真正让它从玩具变回问题的,是自动驾驶。

其实早在 1960 年,控制论之父 Norbert Wiener 就在《科学》上写过《自动化的若干道德与技术后果》。他举的例子是二战时的防空火控系统:它必须预测飞行员的规避动作并抢先射击,决策速度超出人类斟酌的极限。他警告:如果我们为了自己的目的,启用一台一旦启动就无法有效干预的机械装置,「那我们最好非常确定,放进机器的目的,就是我们真正想要的目的。」这段话 1960 年是对火控计算机说的,今天读起来一字不用改,说的就是自动驾驶和 AI。

2016 年,Bonnefon、Shariff、Rahwan 三人在《科学》发表《自动驾驶汽车的社会困境》,结论精确得让人不舒服:人们原则上赞赏那种愿意牺牲车上乘客、救更多路人的车;轮到自己掏钱,都想买保命的。而如果政府强制要求「功利主义车」,人们干脆不买了。道德赞美和购买意愿之间的裂缝,就是自动驾驶落地的社会困境。为了搞清楚全人类的直觉分布,他们接着搭了 Moral Machine:一个多语言网站,让人在十三种自动驾驶事故场景里二选一——救年轻的还是年老的,救守规矩的还是闯红灯的,救五个还是救一个。十八个月,233 个国家和地区、数百万人、四千万次决定。结果 2018 年发表在《自然》:全球最强的几条偏好高度一致——救人优先于救动物,救多优先于救少,救年轻优先于救老;再往下细分,233 个国家聚成三个大集群,边界与制度和文化特质显著相关。道德直觉并不是均匀分布在地球表面的。

而到目前为止最硬的一次官方回应,来自德国。2017 年,德国交通部的伦理委员会发布了全球第一套自动驾驶伦理准则,二十条。其中几条几乎是逐字对着电车难题写的:系统不得按年龄、性别、身心状况对交通参与者作区别对待;禁止把「牺牲谁、保住谁」编进程序——不许「撞一救五」;自动驾驶系统解决不了电车困境,它的任务是防止电车困境发生;事故无可避免时,人的生命优先于财产和动物。

这是哲学史上罕见的事:一个政府的伦理委员会,用二十条成文规则,正式回应了一个 1967 年的课堂思想实验。而回应的方式不是解答它,而是取消它。哲学家的电车开进了工程部门,工程师看完说:我们不扳道岔,我们修护栏。

回头看这六十年,这个例子走出了一条思想实验里罕见的完整路径:期刊论文 → 直觉泵 → fMRI 探针 → 《自然》数据集 → 联邦法规 → 网络表情包。Foot 在 90 岁生日当天去世,2010 年 10 月 3 日。Thomson 也在 2020 年走了。问题本身还停在原地,没有答案,六十年没有答案。

但它做成了一件别的东西做不到的事:让一个物种在把道德直觉写成代码之前,第一次集体认真地检查了一遍——我们的直觉到底长什么样,它们从哪里来,它们在人群之间差多远。电车难题最好的用途,也许从来不是被解答,而是被防止。

返回时间流