据国外媒体报道,好奇心旺盛的孩子一旦抓到烫的东西会本能地放手,以避免进一步灼伤。长大后建立在一定认知程度上的人们,通常会用有意识的推理来进行预判,比如开水是烫的,不能直接触摸。因此,人们会有意识地做出决定避免危险。本能反应和经过深思熟虑的推理之间存在一种微妙的平衡,有时甚至会互相矛盾。
自动驾驶汽车的关键领域同样存在这种本能特征和某种更精细的人工智能推理之间的微妙平衡,尤其是发生在自动驾驶汽车刹车时,这种平衡尤为重要,最近提起的特斯拉撞车诉讼案便是一个很好的例子。
优步事件是系统本能与推理的案例
优步自动驾驶汽车去年曾发生一起致命事件,导致一名行人不幸死亡。事件发生后,美国国家运输安全委员会(NTSB)发布的报告表明车辆存在与系统相关的制动问题。事实证明,优步的自动驾驶汽车工程师此前已禁用沃尔沃固有的紧急制动功能,这种功能通常被称为自动紧急制动(AEB)。该公司工程师设计了自己的人工智能引导的紧急制动系统,并担心在自动驾驶汽车上安装两种制动系统会导致实际运行过程中的不稳定行为。
自动紧急制动可以作为一种简单化与本能化的制动方式,一旦车辆检测到前方有物体存在,而AEB判断该物体会被汽车撞到,就会启动紧急制动。使用刹车。另外,自动紧急制动还可能是一种更“理性”的能力,包括一个强大的人工智能系统,对各种因素和感官数据进行评估后做出更复杂的制动决定。
更本能的AEB往往是一种更快的反应方式,但也可能导致在现实情景可能并不需要的情况下错误地刹车。采用人工智能分析方法的AEB往往更全面,但需要判断时间,因此可能会错失时机。
人类司机有时需要做出同样的即时决定。比如在行驶过程中发现马路上有一只负鼠,与此同时车后还紧跟着其他车辆,这时如果踩刹车可能会被后面的车辆撞上。因此,这时不主动地踩刹车而是继续前进才是“更安全”的选择。这也是本能和推理之间的微妙平衡。
自动驾驶汽车可以同时拥有这两种类型的AEB,但二者之间也许会发生冲突。那么,拥有强大人工智能版本的AEB是否可以取代更简单的本能化AEB?如果人工智能版AEB尚未确定是否需要紧急制动,本能版是否能够发挥作用?这些问题都有待解决。
特斯拉撞车诉讼案与自动紧急制动系统
在导致司机死亡的特斯拉撞车诉讼一案中,有声明称“2017年型Model X是在没有配备有效的自动紧急制动系统的情况下设计、制造并投入商业运营的。”此外,该声明还表示“尽管特斯拉Model X汽车是作为一种最先进的汽车进行营销,但该车并没有安装能够在碰撞时发挥作用的,安全而有效的自动紧急制动安全装置。”
此前有分析师指出,该案将涉及到自动驾驶领域。在这种情况下,需要密切关注的问题是特斯拉在设计、生产和部署自动驾驶汽车功能方面做了什么以及未能注意到的问题。
这无疑会迫使很多关于自动驾驶汽车的工程选择浮出水面,这些选择只发生在后台和开发实验室,目前基本上未对公众开放。一旦诉讼结束,这些选择可能会被披露出来。
分析师指出,事故发生时可行性的问题将变得至关重要,包括其他汽车制造商和科技公司当时投入运营的情况,以及自动驾驶汽车制造商是否遵守或偏离了被认为是“标准”的做法。
结语
此外,还有一个问题需要注意,特别是涉及2级和3级半自动驾驶汽车的撞车事故,这被认为是半自动驾驶系统与人类司机共同承担的驾驶任务,肯定不是真正的5级全自动驾驶汽车。5级全自动驾驶不会考虑人类司机是否对AEB的性能和状态有所了解,以及二者是否会产生冲突这类问题。
一些2级和3级半自动驾驶汽车甚至允许人类司机关闭AEB,这对于不希望自动系统突然做出刹车决定的人类司机来说可能是明智的。
因此,诉讼或将考虑这方面的共同分担关系,以及特斯拉是否对关闭或开通AEB的风险做了充分的说明。当前正在进入一个半自动驾驶汽车的时代,当人类司机和自动系统之间存在共同分担关系时,这预示着过多的风险,有时可能会导致令人遗憾的结果发生。