80小说网

手机浏览器扫描二维码访问

第四章 对智能机器的信任（第11页）

换句话说，问题出在驾驶员身上，有力回应了二战期间保罗·费茨调查的所有由“飞行员失误”

导致的飞机失事，以及那些指责飞行员的工程师。

情况跟原来一样，因为到最后我们都知道要指责用户，这是最令人欣慰的做法，因为这意味着至少我们需要做出改变。

让我们来看看近期的两个例子：在亚利桑那州，一辆优步无人驾驶汽车在夜间驾驶时撞死了一名行人；在夏威夷，一次例行演习中，一名倒霉的员工向数万人发出了核导弹警报。

2018年3月18日晚，在亚利桑那州坦佩市，一辆优步无人驾驶汽车以每小时40英里的速度撞死了过马路的伊莱恩·赫兹伯格，在这之前，优步曾花了几年时间在开阔路段测试其无人驾驶汽车。

一周后，坦佩警察局局长表示，她怀疑责任不在优步。

第二天，我从手机上看到了这样的新闻标题：无人驾驶车事故遇难女性有可能是个无家可归者。

结论很明显：也许是死者的错，无家可归者就容易这样。

这种说法本来或许还站得住脚，不过很快出现了视频。

视频中清楚地显示赫兹伯格过马路时，汽车开了过来，车头灯的强光打在她身上，而车根本没有减速，直接撞向了她。

接下来的一段时间里，优步暂停了无人驾驶汽车服务，后来又悄悄恢复了。

在夏威夷，一个外泄的屏幕截图表明，员工只要在下拉菜单中选择一项，就能在全州范围内发送核攻击警报。

设计界一片哗然。

唐纳德·诺曼曾在推文中指出，这个界面少了一项关键功能——确认指令是否真的符合用户意图。

然而，它的提示语却异常温和：“确定发送警报？”

该员工点了“是”

。

（想象一下，如果弹出的菜单能提示用户：“确定想要告诉成千上万的人，他们的家人将在几分钟内化为乌有吗？”

或者其他有类似效果的语言，结果又会怎样呢？）后来有人说，发生这个错误只是因为涉事员工在演习过程中，误以为这只是一次测试。

（埃里克·利维茨，《演习过于真实，造成夏威夷导弹恐慌》，《纽约》，2018.01.30，http:nymag.intelligencer201801the-hawaii-missile-scare-was-caused-by-too-realistic-drill.html；尼克·格鲁伯，《误发导弹警报者，十年来“备受关注”

》，HonoluluCivilBeat，2018.01.30，.civilbeat.cc201801hawaii-fires-man-who-sent-out-false-missile-alert-topadministrator-resigns；吉恩·帕克，《夏威夷无能者受到嘉奖，导弹机构员工酿成大错》，《华盛顿邮报》，2018.02.01，.washingtonpost.newsposteverythingwp20180201the-missile-employee-messed-up-be-cause-hawaii-rewards-inpetence。

）这样的系统显然太可怕了，几天后，政府似乎只能被迫将其重新设计一下了。

但是，由于要追究个人责任，这个说法也就不了了之。

每当出现问题，我们都会归咎于人，这样我们心里会舒服一些。

NTSB调查约书亚·布朗的死亡事故之后，也持这样的观点：他的特斯拉发出过指令，而他一直在往前开。

显然，他过于相信这辆车的性能，没有意识到它的局限性。

但是为什么这辆特斯拉会让驾驶员的信任感超越其实际性能呢？我们要求新技术不仅要达到它们承诺的标准，还要具备我们想象的能力。

就算我们以前从来没用过，我们也要求它们按照我们预想的方式来运行。

可是实现这一目标意味着我们必须对机器加以设计，以保证机器不会与我们的想象力相差太远。

否则，一切将陷入混乱。

智能助手的出现，让这个问题得以及时解决，像亚马逊的Alexa、苹果的Siri，以及谷歌的Assistant。

它们都具备理解和回应我们人类语言的功能，因此用户认为，确实可以利用它们来完成一些常识性的工作。

然而，很多事情是超出它们能力范围的。

跟朋友说，“明天6点老地方一起吃晚饭”

，大家都明白你的意思。

把同样的话告诉你的智能助手，它甚至不知道帮你在日程表上安排时间。

虽然它们一直在模仿与人交流，但它们的能力根本达不到。

这些小工具可以模仿语言，可是相比我们人类能用语言做的事情，它们还差得远。

口头语言是我们最灵活的交流方式，能够清楚地表达我们的所思所想。