Andy Lee，皇帝的新头像
这个问题是很有趣的，我来科普一下各个名词和它们背后的关系。
强人工智能：是指由人类制造出一类能在所有领域达到至少人类水平的机器，这个机器可以是虚拟机器。我们已经在很多电影、游戏、小说等作品中看到了强人工智能。目前（截至 2016 年 12 月 8 日）人类还未发明出强人工智能机器。
弱人工智能：是指由人类制造出一类能在部分领域达到部分实现人类智能的机器。人类早已经制作出这种机器。典型的像大家手中的能理解自然语言的 Siri、能实现翻译功能的谷歌翻译，能在各种棋类游戏中打败人类的程序等等。
一部分人认为强人工智能是不可实现的，这些人包括极少数哲学家，极少数科学家，相当部分宗教人士，以及很多不明真相的吃瓜群众。如果我们以某种恶意来揣测这些人持有如此信念的动机的话，那么这些人可能执着于人类的优越性而无法自拔，拒绝承认人类可能被其他东西（人造机器或其他生物）超越。
图灵测试：由数学家图灵提出的一个检验机器是否达到人类智能水平的标准。该标准受到智识人士的广泛认同。它是指，由一个人类和黑箱里的东西进行文字上的交流，黑箱里可能是人类，也可能是机器。如果人类无法准确地区分出和他进行文字交流的是人类还是机器，那么就判定那个黑箱里的机器实现了强人工智能。目前尚无机器通过严格的图灵测试。
中文屋思想实验：由美国哲学家约翰·塞尔提出，他想要强调像计算机这种机器是无法实现人类智能的。他的底层论证是：智能需要语义层面的处理，而计算机只能实现形式（语形）上的处理。所以计算机无法实现人类智能，人类有智能是因为人类有意向性，这种意向性来源于人类是一种极为复杂的生物。塞尔并不认为机器无法实现智能，毕竟他也认为人类是一种机器，只不过他认为人类这种复杂的生物机器可以实现智能，但计算机这种逻辑电路门机器是没有智能的。回到中文屋思想实验，这个实验是要描述一个场景，哪怕一个机器通过了图灵测验，也不能称之为有智能。比如，一个不懂中文的人待在一个房间里，房间外的人通过写中文纸条然后通过门缝塞给房间里的人。房间里的人通过一本纯粹形式的中文操作手册，比如“如果看见 XXX 图样，就写上 OOO 图样，然后递给门外的人。”如此，门外懂中文的人，可能会以为门里面的人也懂中文，不过，实际上门里面的人不懂中文。对应于图灵测验，一个表现出人类智能水平的机器，不一定真的就具备人类的智能。
对中文屋思想实验的反驳：中文屋思想实验遭到了哲学界和科学界极为广泛的反驳，这从侧面体现出了约翰·塞尔是一个极为优秀的哲学家，只有真正重要的思想洞见，才值得整个学界最优秀的头脑们进行反驳。这些反驳各种各样，塞尔本人也做过一些反驳之反驳。不过，对于中文屋思想实验来说，最强的反驳在于，中文屋思想实验本身太强了。如果我们不能把表现出懂中文看作是真正懂中文。那么我们甚至无法判断一个中国人是否懂中文了。比如正在用中文写这些文字的我，大家怎么知道我懂中文呢？说不定我的脑袋里就安装了一个中文操作芯片，说不定我的右耳道里安装了一个自动翻译机器，当我听到中文时，就自动翻译成英文，然后我理解英文后，把我想表达的意思再翻译成中文语音（这个机器可以安装再左耳道里）。这样，和我正常用中文交流的人，其实无法判断我是真的懂中文，还是利用微型翻译机器和他们进行交流。
所以，我们认为中文屋思想实验无法证明强人工智能不存在。对于强人工智能的坚持，主要的理由有如下几点：
1：人类本身并不神秘。人类可以看作由一个个微小但是机械化的蛋白质组成，蛋白质组成细胞，细胞组成更高层级的生物组织。人类本质上就是机器，只是这个机器非常复杂。对于人类的逆向工程，在本质上可以实现，只是成本很高。随着技术水平的提高，对人类的逆向工程的成本会越来越低，强人工智能一定会实现。
2：科技界的发展现状表明，人造机器正在不断接近强人工智能。这一点可以从各种各样弱人工智能机器的不断发展可以看出。机器对自然语言理解的能力越来越强，机器翻译越来越准确，机器不仅能在国际象棋上打败人类，还能在围棋上打败人类，很可能还将在星际争霸这款电子竞技游戏上打败人类。
总结一下，那就是人类的科技水平在不断提高，而人类本身的自然属性（非神秘性）使得对人类的逆向工程再理论上是可以实现的。这导致对人类的逆向工程的成本会不断降低，当它降低到一个适合的程度，强人工智能就会出现。
更多讨论，查看 知乎圆桌 · 人工智能 · 自动驾驶