马斯克坐不住了 呼吁禁止使用“杀人机器人”

　　原标题：马斯克坐不住了 呼吁禁止使用“杀人机器人”

　　前一阵，狂人马斯克等116名机器人和AI公司创始人和CEO联手签署了一封给联合国的公开信，呼吁禁止使用机器人武器，也就是传说中的“杀人机器人”。

　　骤闻此事，我在朋友圈感慨：“问题是，禁止有用吗？”腾讯总编辑李方先生很快留言评论：“有用，拉特兰宗教会议禁止了基督徒之间用弩，冷战冻结核武器，历史可以看的。”

　　余温未了，马斯克再次发推：“所有国家都会专注于发展计算机科学，各国对人工智能统治权的争夺可能引发第三次世界大战。”马斯克认为，人工智能时代的战争不是由某国领导人发起的，这一切都将自动化。换言之，人工智能会自动规划战略，找出获胜几率 的战法。作为 的反对人工智能的人士，马斯克认为人工智能可能是人类生存的最大威胁。

　　我有些坐不住了！

　　难道人类作茧自缚的那一天近在咫尺了？倒退十年，不，五年，人们还对人工智能持怀疑态度，没几个人相信一个连着正负电极的金属疙瘩能代替人类进行复杂而深度的思考。

　　据说人类大脑是宇宙中最复杂的构造，连上帝都为这万物之灵而赞叹。从逻辑上推论，既然机器人是人制造的，那它的可能性就限定在它的制造者那里。任何事物都不可能越过它的造物主的边界。

　　这就好比一个人无法设想，他居然能制造一个打败自己的人。假如我制造了一个能打败我的人，那就证明我能够打败自己，即A›A。从守恒角度说，A只能等于A。这是个悖论。在AlphaGo出现之前，所有围棋高手都不可能认为自己会输给一个或一群不懂围棋的程序员。然而，他们输了。人工智能给人类上了一课。

　　2

　　实际上，只要看看计算器的计算速度——随意找个数字开根号二，人就应该意识到计算机具有超出人脑的独特优势。它们冷静、专注、心无旁骛，严格且毫无纰漏地执行命令，速度接近于光速，这不是一个处在“人世间”，内心装着酸甜苦辣的人能够做到的。

　　人类是情绪的囚徒，机器人却是逻辑的神祇。

　　回顾一下历史，不难发现，人类自身的学习和探索能力可以引起一系列的科学变革，从而改变整个世界的文明进程。其中又夹杂着许多不可解释的偶然性。但是，无论历史演进到何种程度，有一件事确定无疑，那就是在制造武器这件事上，我们总是倾尽全力。它带来的后果往往十分可怕。

　　试想想，如果不是航海技术和工业革命，整个美洲大陆仍然在印加帝国、玛雅文明和阿兹特克文明的缓慢进程中。但是几百个携带着新式武器的冒险者就将整个大陆的文明毁灭了。

　　过去的科幻电影，常出现令人惊悚的情节，一些铁甲巨型机器人狂奔在人类的战场上，而他们的始作俑者四处躲藏，等待善良的机器人来扭转战局。变形金刚就是最典型的案例。无论影院的视听效果多么具有科技含量，我们在享受故事情节和宏大场景的时候，绝不会为自己的安危担心——因为这都是虚构的！

　　3

　　说到这里，我们可以探讨一下人工智能在武器上的诸种可能。

　　首先，毋庸置疑，杀人机器人一定会出现，只是时间问题。

　　从广义角度来说，杀人机器人早就出现了，无人机就是典型的杀人机器人。它们虽然受幕后的人类操纵，但自己可以跨越时空执行军事任务，轰炸既定的目标，改变任务的方向，等等不一而足。

　　再看巡航导弹——尤其是弹道拦截技术，具有极高的智能特性，可以自动调整自己的行动。比之人本身，效率更高。可以断定的是，所有在这个领域具有研究能力的国家，早已全力以赴地将自己的武器系统往更先进的角度在推进，只不过常人不知道而已。