原标题：湛庐大师行 | 2000多位AI专家联手抵制，人类与AI该如何共存？

近日，AI与人类的命运，再一次因为自主武器而被推上了舆论风口。

从产能“地狱”归来的马斯克，刚刚领衔2000多名AI专家签署了一份特殊协议。

这份协议核心目的有且只有一个：承诺永不发展致命的AI武器系统。 在瑞典斯德哥尔摩举行的IJCAL 2018上，由MIT著名物理学家迈克斯·泰格马克发起，其任职主席的生命未来研究所起草。

泰格马克说：“我很高兴看到人工智能的领军人物从对话转向行动，实施一项政治家们迄今未能实施的政策。人工智能有巨大的帮助世界的潜力——如果我们不能容忍其滥用，并致力于防止其滥用。自主杀人的AI武器就像生化武器一样令人厌恶和不安，我们应该以对待生化武器的方式来处理自主武器。“

该协议一经发出就应者如云，其中包含企业领域的马斯克、DeepMind联合创始人哈萨比斯、穆斯塔法，Shane Legg；Skype创始人Jaan Tallinn；全球顶尖AI学者Yoshua Bengio、斯图尔特·罗素、Jürgen Schmidhuber等2400全球AI科学家，都郑重签下了大名。

就国籍和企业归属而言，他们分属90个国家、160多家AI企业或机构。 这也是全球首个AI武器系统开发的民间反对组织，不出意外，也将是影响力最大的一个。

《致命性自主武器宣言》

2000多名AI学者共同签署的这份协议全称《致命性自主武器宣言》（lethal autonomous weapons pledge），核心内容就是宣誓不参与致命性自主武器系统（LAWS）的开发、研制工作，而且LAWS的研发及使用应当被严格禁止。

这份协议成为会议国际人工智能联合会议上的一项重要议题，这也是学界史上最大规模针对“自主武器”的联合签名宣言。

宣言称：人类个体生死的决定权，决不能交给机器。这一方面是出于道德层面的考虑，“掌控他人生死”这件让人产生负罪感的事，绝不能由没有感情的机器做出。而且致命的AI武器，不受人类干涉、自主选择攻击目标，可归责性与难度都前所未有，它们将成为暴力活动中的强大工具，尤其是与监控、数据系统相结合时。

宣言在最后部分号召所有的参加者，应当呼吁政府和领导，建立严格的国际公约以及政策和法规，抵制自动武器。所有的技术企业和组织，以及领导人和政策制定者，乃至其他行业领袖，都应加入到这次宣言当中。

我们为何应当抵制AI武器？

AI致命的话题，早已不新鲜。

在AI的所有应用场景中，这是最具争议的一个，而且由于不同组织怀抱不同利益诉求，状态非常尴尬。

在军方，自主武器从2013年开始就开始在美国、英国、以色列和韩国等军方实验室中诞生。

于是从AI致命武器出现开始，舆论反对的声音就未曾停歇。在科学界，史蒂芬·霍金、马斯克等知名人士早在2015年就联合116名全球人工智能和机器人领域的专家发表联名公开信，呼吁联合国采取行动禁止“自主杀人机器”，称其为“恐怖武器”。“警示AI致命武器潜在风险，以及正在发生的军备竞赛，呼吁颁布相关禁令。

并且，为了演示在自主杀人无人机的威胁下的生活，生命未来研究所协助制作了一个名为“Slaughterbots”（《屠杀机器人》）的影片，视频中的一个片段描绘了数千名大学生被杀人机器人屠杀的景象。这些学生在社交媒体上分享了一段揭露腐败的视频后，被不知名的“黑影人”盯上，机器通过面部识别系统识别学生的身份，进而实施屠杀。

这段视频是由“制止杀人机器人运动”组织制作的，该组织是一个致力于禁止自主武器的国际联盟，生命未来研究所是其中一员。

在新书《生命3.0》中，泰格马克教授也谈到自己对武器问题的关键看法：

自动化武器能在无人干涉的情况下选择和袭击目标。这些武器可能包括4轴飞行器，它们能够搜索和杀死满足某些预定标准的人。不过，这些武器中不包括导弹或遥控无人机，因为它们的目标决策都是由人类做出的。人工智能技术已经到达了一个临界点，过不了几年，就可能出现实际可行的系统部署，尽管这不一定合法。不用等到几十年后，自动化武器就会带来很大的风险：继火药和核武器之后，它被认为是第三次武器革命。

与核武器不同，自动化武器将变得廉价并且是一种非常有效的武器，它们不需要昂贵或稀有的原材料，因此，它们会变得无处不在，能够被所有主要军事力量大规模生产。

但是，正式的AI致命武器国际公约，现在仍未达成共识。难道，我们就真的无法阻止这个世界在未来充满杀人机器人？

有一个很好的历史先例表明禁止是可行的。以化学武器为例，虽然它也像自动化武器一样便宜，背后使用的技术广泛存在，不可能完全禁止。但现在我们也并没有禁止化学，而禁止的是化学武器，因为使用这些武器的人在道德上会被人类所唾弃，这也是我们能够防止未来会充满杀人机器人的原因。

而且，值得庆幸的是，泰格马克发起的“AI有益运动”正在以星火燎原之势，引发学界、企业界、政府乃至联合国的高度关注。

未来生命研究所，保证人工智能的发展对人类的未来是有益的

发起这次宣言行动的未来生命研究所“身世显赫”。

2015年，研究所刚创立仅1年就收到了来自马斯克1千万美元的捐赠，并且得到了很多社会精英和著名组织的支持，包括伟大的物理学家霍金以及亚马逊、谷歌、Facebook、微软、IBM等企业，以及研发了AlphaGo的Deepmind公司。

未来生命研究所的目标是要保证人工智能的发展对人类的未来是有益的。他们想帮助人工智能的研究者，不只看到高科技带来的锦绣前程，还要随时关注可能给人类带来的危险。

目前，该机构已经募集资金超过1亿美元，汇聚了8000多位全世界顶级的人工智能专家，成功地让 “人工智能安全性”研究迅速在全世界成为了一场轰轰烈烈的运动。

当然，在未来生命研究所关注的同时，AI带来的改变正在前所有未地改变人类生活：Uber自动驾驶车祸致命事件告诉人们技术安全的重要性；谷歌千人抗议与军方合作的项目让人们思考AI应用的边界；美国制裁中兴事件让国人意识到“缺芯”的现实和掌握自主技术的迫切，国与国之间在AI领域的竞争比任何时候都要激烈。

凡此种种，都将对世界和中国的AI产业造成巨大而深远的影响，在这个过程中间，我们的自研核心技术、基础科研和原创理论将如何支撑产业健康发展？

《生命3.0》成《人类简史》之后又一划时代力作，泰格马克9月相约北京继续探索生命未来

除了创办未来生命研究所，泰格马克还著有《生命3.0》一书，向世界展现了一种看待AI的新视角——AI也是一种生命，甚至是比人类更加先进的生命形式。

在书中，泰格马克认为，智能终将摆脱自然演化的束缚，成为自己命运的主人。在不远的未来，在任何人类水平的通用人工智能在所有任务上赶超人类之前，人工智能可能会对一些问题产生巨大影响，这些问题包括我们如何看待自己、我们在人工智能的帮助下做什么，以及我们与人工智能竞争时如何才能挣到钱。

泰格马克书中描绘12种人与人工智能的未来，有远虑也有近忧，给人们带去无限思考。

《生命3.0》中文版自7月9日由湛庐文化正式发售，被评为继《人类简史》之后又一划时代力作。

此前，泰格马克已经在对平行宇宙的研究上获得了很多成就，曾经写过一本非常受欢迎的科普畅销书《穿越平行宇宙》。他本人还成为《科学》杂志“2003年度突破奖”第一名获得者，被誉为“最接近理查德·费曼的科学家”。

现在，这位科学家要来中国了，将把他对AI和生命的最新观点，当面分享给大家。相信也定将给中国产业界带来极大启发，为中国AI发展提供一份指南，让更多中国人思考自己的命运，思考这个世界未来的命运。

同时，我们也盛情邀请你，与全球AI产学研代表共聚一堂，一同探讨当前国人最关心的议题和最前沿的AI技术动态。现在，9月14日在字里行间书店，与创新工场董事长兼首席执行官李开复博士的巅峰对谈，报名通道已全线开通，坐席仅限50人，湛庐读者优先报名。

湛庐文化经授权转载，有部分删减