80小说网

手机浏览器扫描二维码访问

第四章 对智能机器的信任（第10页）

对此，我们得建立正确的心理模型。

当我们的心理模型与现实不符时，即事情没有严格按照我们的想象推进、反馈回路无法帮助我们理解时，可怕的事情就会发生。

我们看到，那些驾驶员不了解特斯拉的自动驾驶功能，他们就录制一些负面视频，比如那条“特斯拉自动驾驶，险些让我丧命！”

。

或许最尴尬的就是特斯拉将这项新功能称为自动驾驶。

通过这样做，特斯拉将自动驾驶汽车该做什么置于用户的头脑当中。

他们邀请用户就“自动驾驶”

提供自己的想法，然后将其付诸实践。

因此当特斯拉的自动驾驶功能与用户的想象存在差距时，悲剧发生了。

5月7日，约书亚·布朗坐在他心爱的特斯拉ModelS的方向盘前，汽车正在自动驾驶。

他是一名退伍海军，曾经效力于海豹六队，负责拆除简易爆炸装置。

他是个不怕死的技术狂人，是特斯拉的理想客户。

他买这辆车，是因为他觉得特斯拉正在挑战人类的极限。

迎面车道上驶来一辆卡车，在布朗前方左转，他似乎没有注意到。

而他的特斯拉也没有。

这是在佛罗里达，天气温暖，万里无云，阳光照耀下的天空一片洁白，而对面的卡车也是白色，特斯拉没有分辨出来。

布朗也没有。

特斯拉根本没有刹车，直接向卡车撞去，冲进了卡车车底，车顶被剐掉，布朗当场死亡。

（瑞秋·艾布拉姆斯，安娜琳·库尔茨，《测试特斯拉无人驾驶极限的约书亚·布朗不幸意外身亡》，《纽约时报》，2016.07.01，.nytimes.20160702businessjoshua-brown-technology-enthusiast-tested-the-limits-of-his-tesla.html；戴维·谢泼德森，《自动驾驶死亡事故中的特斯拉驾驶员收到美国政府的无数次警告》，路透社，2017.06.19，.reuters.articleus-tesla-crashtesla-driver-in-fatal-autopilot-crash-got-numerous-warnings-u-s-government-idUSKBN19A2XC；《特斯拉死亡事故说明交通安全缺乏规则保障》，《卫报》，2017.12.12，.theguardian.technology2017sep12tesla-crash-joshua-brown-safety-self-driving-cars。

）

事故发生仅几周之后，我从大众公司的宣传车队借了一辆奥迪SUV（运动型多用途汽车），该款车型采用了奥迪最新的驾驶辅助技术。

这或许是市场上奥迪此类车的最后几代之一，类似于我之前看到的原型，之后奥迪就开始推出自动驾驶汽车。

这辆SUV和约书亚·布朗开的特斯拉有着天壤之别。

它采用了相同的基本配置，即用于识别车道标线和周围车辆的雷达和摄像头，这样在你启动巡航控制系统后，汽车就能保持在车道内行驶，如果是在公路上，它还会在必要时刹车，与其他车辆保持适当距离。

与特斯拉不同的是，这辆奥迪不允许驾驶员的手离开方向盘太久，最多也就几秒钟的时间，否则汽车会持续发出响声，而且响声越来越大。

不仅如此，虽然我能感觉到汽车自己在车道上行驶，但并不是一直处于无人驾驶状态。

当我把车大约保持在车道中间位置的时候，它什么也不做，只有靠近分道线时，我才感觉到方向盘开始自动转向，慢慢把车拉回来。

这次互动体验棒极了，从中我获取了很多信息。

自动驾驶汽车能够随时行驶在车道标线中间位置，但它没有，而是让我始终处于专注驾驶的状态。

我的心理模型与约书亚·布朗对他的ModelS所建立的心理模型大相径庭。

我的奥迪SUV一直在提醒我，你在开车，你得集中精力。

但我注意到，这辆车监控着周围的一切，它在这方面做得非常好。

在高速公路上，一辆拖挂卡车开始转向我的盲点，我的车立刻侧身让过，从而避免了剐擦，然后迅速刹车，让卡车先过。

显然，这辆车能在多种环境下自动驾驶：它会看路，会看周围车辆，能应对危险状况。

但它并没有把这些功能完全发挥出来。

它没有让我手离方向盘，因为它并不能应对所有的情况。

我们也是一样。

约书亚·布朗去世一年多以后，NTSB（美国国家运输安全委员会）发布了事故报告。

从报告上看，根据特斯拉的设计，其自动驾驶功能使用起来实际上有很大的余地，在行驶过程中，布朗应该始终保持专注。