人们有时会遇到道德困境，从而不得不面对两难选择。在人工智能越来越发达的今天，机器也会遇到同样的问题。
最近，Uber在美国宾夕法尼亚州匹兹堡推出无人驾驶汽车，这是一个令人兴奋的消息。
但是，如果无人驾驶汽车面临一种道德困境，它会如何选择，设计者是否已经为它们设计好了应对方式？
例如，假使无人驾驶汽车快要撞上另一辆汽车，那辆车里坐着三个人。它可以转弯闪开，但这样它就会撞上人行道上的三个孩子。
它会如何选择？
巧合的是，谷歌的工程总监Ray Kurzweil本周在奇点大学演讲时为这个问题提供了一个答案：我们不知道。
Ray Kurzweil解释说，“不可杀人”的戒律过于简单。他说，如果有人将要炸毁一幢建筑物或一个城市，那么除掉这个人就是符合道德的。
就无人驾驶汽车来说，他认为有必要进行“道德设计”。他说，艾萨克阿西莫夫(Isaac Asimov)的机器人三法则（Three RulesofRobotics）是一个很好的示范。
这三条法则是：
机器人不得伤害人类，也不得因为不作为而使人类受到伤害。
机器人必须服从人类的命令，除非这样做违背第一条法则。
在不违背第一条和第二条法则的情况下，机器人必须保护自己。
Ray Kurzweil不知道，不作为——你可以挽救某人的生命却没有这样做——是否等同于杀戮。
他承认，在无人驾驶汽车的道德品性方面，他现在完全没有现成的答案。
“我要考虑更长的时间。我还没有做过这种分析。”他说。
谷歌的首席工程师Andrew Chatham认为，当无人驾驶汽车面临两难选择时，“答案差不多总是‘踩刹车’。”
他承认，这可能并不总是正确的答案。但他表示，如果连踩刹车都不是一种正确的应对，那就是面临极端情形了。
但是，这个世界上不是充满了极端情况吗？
美国麻省理工学院的研究人员最近创建了一个名为道德机器（Moral Machine）的调查平台。此举意在调查人们希望无人驾驶汽车在面临道德困境时如何选择。
“研究人员不仅想知道人类会做出怎样的选择。他们也希望‘清楚地了解人类如何看待在道德困境下作出了某种选择的机器智能’。”
这似乎是相当明智的。
Uber没有回复记者的置评请求，因此目前还不清楚该公司是怎样处理无人驾驶汽车的“道德设计”问题的。
