自动驾驶汽车的日常道德挑战

作者:卫奄

<p>关于自动驾驶汽车的大量讨论和道德思考都集中在悲剧性的困境上,比如假设汽车必须决定是否要跑过一群学童或者从悬崖上跳下来,杀死自己的乘客但是那种情况极端情况正如最近一次车祸 - 一辆自驾车撞死亚利桑那州坦佩的一名行人 - 表明,每一个人行横道,转弯和十字路口的平凡日常生活都呈现出更为艰难和更广泛的道德困境作为与工程师合作的哲学家在斯坦福大学汽车研究中心,我最初感到惊讶的是,我们在实验室会议上讨论了我认为简单的问题:自动驾驶汽车如何接近人行横道</p><p>我的假设是,我们会考虑汽车应该如何决定乘客的生活和行人的生活,我知道如何思考这种困境,因为这些碰撞情景类似于着名的哲学脑力激荡器,称为“手推车问题”想象一下失控的小车正在沿着轨道向下奔跑并且必然要击中一组五人或一个人 - 你会杀死一个以节省五个人吗</p><p>然而,现在许多哲学家怀疑调查这些问题是一项富有成效的研究途径,例如,斯坦福大学的同事芭芭拉·弗里德认为,悲惨的困境使人们相信道德窘境主要发生在极端和极端的情况下事实上,道德困境是无处不在每天,平凡的情况都是令人惊讶的混乱和复杂,往往是微妙的方式例如:你的城市应该花钱在糖尿病预防计划或更多的社会工作者</p><p>您当地的公共卫生部门是否应聘请其他检查员了解餐厅卫生标准,或继续提供免费针头和注射用品的计划</p><p>这些问题极难回答,因为后果的不确定性 - 例如谁将受到影响以及哲学家在极端和绝望的情况下提出的解决方案在这里几乎没有帮助这个问题类似于自动驾驶汽车</p><p>极端情况和崩溃情景无法帮助回答平凡局势中出现的问题有人可能会问,对于平凡的交通情况,例如接近人行横道,驾车穿越十字路口或左转,即使人行横道上的能见度有限也会如此困难并且有时很难判断附近的行人是否真的想要过马路,司机每天都在应对这种情况但是对于自动驾驶汽车来说,这种平凡的情况在两个方面构成了挑战首先,有一个事实是什么是容易的对于人类来说,通常很难用于机器无论是识别面部还是骑自行车,我们都擅长感知和机械任务因为进化为我们建立了这些技能然而,这使得这些技能难以教授或工程师这被称为“莫拉维克的悖论”第二,在未来所有汽车都是自动驾驶汽车,驾驶行为的微小变化会使换句话说,当今工程师所做出的总体决策的巨大差异将决定一辆车是如何驱动的,而不是所有汽车如何推动算法成为政策工程师教授计算机如何使用机器学习方法识别面部和物体他们也可以使用机器学习帮助自动驾驶汽车模仿人类如何驾驶但这不是一个解决方案:它无法解决工程师对安全性和机动性作出广泛决定的问题此外,自动驾驶汽车不应该像人一样驾驶人类实际上并不是非常好的司机而且他们以道德上令人不安的方式开车,根据行人的年龄,种族和收入决定是否在人行横道上屈服</p><p>例如,re波特兰的搜索者发现,黑人行人通过汽车的数量是汽车的两倍,并且必须比白人行人等三分之一才能穿越自驾车应该更安全地行驶,并且比人们做得更公平道德问题会在你加深时加深关注在人行横道,转弯和十字路口等世俗环境中出现的利益冲突例如,自动驾驶汽车的设计需要平衡他人的安全 - 行人或骑自行车者 - 以及汽车乘客的利益 一旦汽车行驶速度超过步行速度,它就无法防止撞到可能在最后一秒跑到路上的孩子</p><p>但步行速度当然太慢了每个人都需要去的地方所以如何工程师应该在安全和移动性之间取得平衡吗</p><p>什么速度足够安全</p><p>还有其他道德问题,工程师需要在移动性和环境影响之间进行权衡当它们应用于该国的所有汽车时,计算机控制加速,转弯和制动的微小变化会产生巨大影响能源使用和污染排放工程师应如何在环境影响下权衡旅行效率</p><p>世俗的情况带来了新的工程和道德问题,但它们也引导人们质疑交通系统的基本假设对于我自己,我开始质疑我们是否需要一个名为“人行横道”的地方</p><p>毕竟,自动驾驶汽车可以安全地穿越任何地方的道路并且不仅是人行横道变得不必要交叉路口的交通灯也可能成为过去人类需要交通信号灯以确保每个人都能穿越没有碰撞和混乱的十字路口但是自动驾驶的汽车可以顺利地协调它们这里更大的问题是:鉴于自动驾驶汽车比人类驾驶员更好,为什么汽车必须遵守为人类易犯错而设计的规则人为错误</p><p>为了扩展这个思想实验,还要考虑更普遍的问题:如果我们作为一个社会,可以从头开始设计我们的交通系统,我们希望它看起来像什么</p><p>因为这些难题涉及城市或社会中的每个人,所以他们需要城市或社会就答案达成一致意味着以适合每个人的方式平衡竞争利益 - 无论人们只考虑人行横道还是交通系统整个自动驾驶汽车,社会可以重新设计他们的交通系统从人行横道到整体交通设计 - 这是一个平凡的情况,提出了非常困难的问题极端的情况是分心的手推车问题没有回答这些难题Johannes Himmelreich是一个跨学科的道德斯坦福大学McCoy家庭社会伦理中心本文最初出现在The Conversation中阅读文章Logo照片:....