日报标题：完成一场充满仪式感的事故需要多久？七天
何早早，Shine bright like a me.
看了 Ex Machina 机械姬之后的整晚，同行的傅姓男子都被笼罩在惊悚之中，看什么都像机器人。
是的，这又是一部讲人工智能的电影。我之所以说“又”，不仅因为有《机械公敌》、《黑客帝国》、《她》等不同立场的前车之鉴，更是由于 2015 年的市场似乎也被人工智能元素占领了——《复仇者联盟：奥创纪元》里奥创和幻视都是有机器人躯体的人工智能，《超能查派》又讲了一个人类对抗机器人的故事，更不用说《星球大战：原力觉醒》。鉴于越来越多的科学家相信强人工智能的技术爆炸奇点就在不远的将来，相信这在近几年会是个炙手可热的类型片题材。
片名 Ex Machina，取自拉丁语“Deus Ex-Machina”，意思是“A god from machine”，而标题中把意为“神”的“deus”去除了。这个短语最早使用在希腊戏剧——尤其是悲剧——之中，意为解围之神：一个神袛会由一个平台（机器）降落到舞台上，以解决戏剧冲突，迎来圆满的大结局。而在故事中，造出强人工智能的天才 Nathan 和真正具有人类智能的 Ava 到底谁是神（或者谁不是神），我觉得就见仁见智了。
这是一部很简单的电影。影片里大部分镜头都是室内布景，主要演员也只有四人而已。构图清爽、配色简洁、情节仅靠诗意的对话支撑，既不呆板也不啰嗦，完全不像《星际穿越》里生硬的说教。故事节奏缓慢：它用禅意将你慢慢托起，再轻轻推你下云端。说不上有出人意料的反转，但每每想起都让人脊背发凉——确实是一部回味无穷的电影。
值得一提的是，饰演呆萌男主角的 Domhnall Gleeson 演过英剧《黑镜》，就是那个被机器人替代的死去的男朋友。他还是《哈利·波特》里的比尔·韦斯莱，也演过《时空恋旅人》里穿越的男主角……人家大概就是爱演奇幻 / 科幻片啦╮(╯_╰)╭。而饰演机器人 Ava 的 Alicia Vikander 冷艳得恰到好处，与片中她机械感的造型放在一起，简直美得一塌糊涂。
（说她长得像龙妈的站出来，我不打你）
其实仅凭预告片里几段引用的话就可以知道这部片子探讨的主题了：
AI Would be the biggest event in human history.
Unfortunately, it might also be the last.
— Elon Musk
人工智能 (AI) 的发明会在什么时候发生，它的发明对人类社会又会有怎样的影响？它们会帮助我们吗？它们会毁灭我们吗？
一、机器人三定律
机器人是个常用常新的科幻主题，不过其中最著名的理论，应该是阿西莫夫的“机器人三定律”，也就是这位现代科幻小说之父在作品中为机器人设定的行为准则：
法则一：机器人不得伤害人类，或因不作为使人类受到伤害；
法则二：除非违背第一法则，机器人必须服从人类的命令；
法则三：在不违背第一、第二法则的情况下，机器人必须保护自己。
后来，他又在三条法则之上增加了一条法则零：机器人不得伤害人类这族群，或因不作为使人类这族群受到伤害。
在这个理论体系之下，人工智能只是人类中心下的服务型助手；换言之，机器人是人类创造出来的，因此他们对人类秩序绝对服从，必要的时候为了保护人类还得牺牲自己。增加的第零条法则弥补了理论的漏洞，把人类作为一个整体的利益放在了人类个人和服从主人命令之上。
除了阿西莫夫自己的小说外，他之后的许多科幻小说和电影也都践行这三条定律，塑造了不少可爱的机器人助手形象。《机器人瓦力》里的瓦力和伊娃就是被设计成为人类服务的可爱机器人（清理垃圾；寻找地球生命），而片中代表反派的，好巧不巧，也是个人工智能（而且它就叫 AI）。AI 服从的是地球上指挥官的命令，而它阻止飞船返航的行为也可被理解成是为了人类利益——它可是打心眼里相信地球不适宜居住的呀！
然而三定律也有失灵的时候。《终结者》面对的就是机器人突然觉醒，人类不得不与它们决一死战的情景。在这个故事里，机器人仍然是程序的绝对服从者，在脑力上仍然无法比肩人类。无论是同己还是异己，助手还是敌人，三定律之下的机器人形象都没有与人类相当的智能，因而也无法被称作强人工智能 (Artificial General Intelligence)——那些只会服从程序的家伙是通不过图灵测试哒。
总而言之，三定律不是人工智能界的法律，更难以适用于会自我思考的高级人工智能。一味恪守古老的三定律是愚蠢的，更带不来智慧——不必说《机械姬》里 Ava 一般拥有自我意识、与人类拥有相当智能的机器人了。
二、图灵测试
“图灵测试”的概念是整部电影的核心，最值得玩味的在于 Nathan 对于测试的改进。
由计算机大师艾伦·图灵提出的“图灵测试”是这样检验机器是否表现出与人等价或无法区分的智能的：由一个人类提问者与一个人类和一个计算机通过文字信息交谈，三方之间完全隔离。如果提问者不能区分出人类和机器，则该机器通过测试。图灵其实并没有写明人类测试者是否应该知晓机器人的身份，不过对于有潜力通过的人工智能来说，双盲的测试一般更加保险。
图灵测试的重大缺陷在于，它无法直接测试电脑是否具有智能 (intelligence)，仅仅能判断它是否表现得像个人类。同时，也正如片中所探讨的，你如何判断它是真的有智能，还是只是看起来有智能？片中 Caleb 向 Ava 讲述的玛丽房间 (又称“知识论证”) 就是个经典的反驳强人工智能的困境：研究色彩的科学家玛丽了解世界上关于色彩的一切物理知识以及生理学知识，但是她被关在在一个只有黑白色的房间里，从来没有真的看过那些颜色。当她终于从房间出来，看到世界上各种真实的色彩，她是否为此获得了更多的知识？这个实验是为了论证感质 (Qualia)——比如“被击打的钝痛”——与知识的区别。同理，John Searle 的中文屋实验也进行了这样的讨论：计算机展现出来的理解能力是否真的能代表它拥有理解力？计算机说出的“我认为”是否真的是它的想法？
电影中的测试与传统的“图灵测试”差距很大：被测试者只有 Ava 一个；双方只是隔着玻璃，并未被完全隔离；交谈通过口头进行。最重要的是，Caleb 不仅一早便知道 Ava 的机器人身份，更是时时刻刻被她金属的外表提醒着。在这样的情况下，Caleb 不仅仍然相信她具有人类智能，而且对她产生了情感上的亲密，从而使 Ava 实现了对他的操控 (Nathan 真正布置的实验内容)。由此可见，Ava 确实是一个具有自我意识的强人工智能——是一个能说出“我认为”的机器人。
三、机器人的伦理
Ava 问 Caleb: “Are you a good person?”的时候，我心里一颤：人机之间，是她先引入了“道德”的意义。什么是好人？机器人的道德标准是什么？Ava 认为 Caleb 是个好人吗？那她自己呢？
伦理与道德本身是基于人类世界的概念。我想起@谢熊猫君 在知乎专栏“谢熊猫君出没请注意”中关于人工智能的文章中这样说：“超出人类心理的范畴，道德 (moral)和不道德 (immoral)之外，更多的是非道德性 (amoral)。而所有不是人类的，尤其是那些非生物的事物，默认都是非道德性的。”
因此，最终利用 Caleb，教唆(?) Kyoko，杀死 Nathan，披上人类外皮出逃的 Ava 肯定不是善良的。可是我们也不能说 Ava 是邪恶的。人工智能是目的驱使的，而 Ava 的目的，用最近那句很火的话来概括不过就是：“世界那么大，我想去看看”。
不论这出逃的欲望是 Nathan 的指令还是自身的愿望，她——作为一个人工智能——就是要不惜代价达到。挡在她自由之路上的，除了理解到她危险性的 Nathan 以外，还有剩余人类中唯一知道她机器人身份的 Caleb。诚然 Caleb 帮助了她，可对她而言的最优解，显然不是带着一个异己一起走。
如果她是非道德的，那她杀死 Nathan 的行为也不能用道德性衡量。换一个方向来看，Nathan 淘汰过去其他机器人的"杀戮"，与自己造出的机器人性交的行径，能不能用人类的道德来衡量呢？
话说回来，假设出逃是 Ava 自己产生的愿望，是否证明了她具有自由意志？人类的意志哪里是生来就有，也是在社会生活中积累经验而形成的，正如人类的思维不过只是神经元、脉冲、结界、回路。这样看来，若是给予足够的成长环境，Ava 是可以变成一个自由种族的——只是非人类罢了。
One day the AIs are going to look back on us the same way we look at fossil skeletons on the plains of Africa. An upright ape living in dust with crude language and tools, all set for extinction. — Nathan
《机械姬》是我看过的最冰冷性感的科幻片，是一场充满仪式感的事故。七天的 session 不是巧合，它给电影插入了节奏感，同时也带来了一片上帝造人的混乱。Nathan 天才地想到给 Ava 留一手（偷偷安装断电时拍摄的摄像头），却从没有想过对被迷得鬼迷心窍的 Caleb 留个心眼；Caleb 机智地对 Nathan 留了个心眼（提前篡改安保系统），却从没有怀疑过 Ava。是人工智能的智慧太高，还是人类的自负太深？Nathan 啊，你好歹可以在机器人身上装个紧急停止按钮的啊！
人工智能的发展也是一条进化之路。当 Ava 走过一个个废旧的机器人，一片片披上人类的外皮，穿上白裙子，竟化身如屋里挂的玛格丽特·维特根斯坦画像一般。她走出大门，莞尔一笑，纯真得像个普通的少女。
/// 补充两点大家没提到的：
一是片中提到搜索引擎老板通过电子设备扫描人的表情和各种信息这件事让人有点不寒而栗。互联网这么发达的年代，我们是否要对手机运营商加以警惕呢？
二，Nathan 创建的搜索引擎公司叫做 Bluebook，而蓝皮书是路德维希·维特根斯坦在牛津任教期间的一本讲稿集。不知道这与他书中提出的“指物定义”等语言学上的概念有否关系。如果有高人想出来，一定要告诉我。
房间里挂的白裙子女人画像也是克利姆特画的维特根斯坦他姐。所以是不是导演特喜欢维特根斯坦所以夹带私货我们也未必知道。
欢迎关注微信公众号：另一盒枣 (zaozao_he)