第十五章 世纪公约
全球同步直播联合国秘书长在联合国大会上发表的主题为“迎接和平曙光”的演讲： “尊敬的各位成员国代表： 自从全球范围内达成了《不扩散核武器条约》，70多年过去了，很不幸，我们又爆发了武装机器人大战，这场历时五年的战争，给全人类带来深重的灾难。我提议，让我们起立，为在这次战争中无辜伤亡的人们表示哀悼。” 全体与会者起立默哀。 “武装机器人大战再次向我们敲响了警钟，我们必须重新审视人工智能对人类的作用，幸运的是亡羊补牢，为时不晚。 在过去的200多年间，由于我们还无法驾驭新文明的力量，因此在近代史出现过几次全球范围内的失控。从第一次世界大战到第二次世界大战，再到核军备竞赛。这些教训一次比一次惨痛，全人类还没有意识到建立共同意识观的重要性。 在二十一世纪初叶，各大洲已经在实践和推动共同体的进程，出现了各种联合、联盟性质的经济体，这是实现人类社会未来大整合的前奏，如果不能深入实践这种合作，我们将继续陷入混乱的轮回，这次因高科技引发的世界性战争就是不争的事实，如果再有下一次，完全有可能导致人类文明的毁灭。 在未能达成全球共同意识观之前，我们对生存意义的不同理解所带来的争斗是非常危险的。 民族之间意识差异巨大，人类探索意识共同体的过程缓慢而且艰难，许多民族都在根据自己的文化背景理解文明，一直无法融合共通。 幸运的是，在不断地争吵和争斗后，全球各个民族逐步意识到底线建设的重要性。我们即将制定的《人工智能及武装机器人限制公约》就是一次全球意识共通的象征，大家放下利益纠葛，人类才有美好的未来。” 布莱克和皮特专心致志地收看这次联合国大会的现场直播，公司上下全体管理层都非常重视这个公约的制定，不仅是布迪公司，全球人工智能体制造、设计公司都在关注这次重要会议，因为这个条约将决定着许多机器人制造企业的生死，当然也包括布迪公司的“性福使者”和正在准备重新启动研发的“家政伴侣”。 从公布的草案来看，《人工智能及武装机器人限制公约》的主旨是，为了约束具有直接或者潜在破坏人类社会稳定，以及伤害人类生命的危险性金属人工体。 首当其冲的是对武装机器人的生产、活动范围进行全面的限制，在这点上世界各国深有体会，大家都认为，今后如果还有冲突，人类面对面地较量也比第三者（核弹、武装机器人）介入要好，武装机器人跟核武器不同，核能是可以用来造福人类的，而武装机器人除了搞破坏之外，似乎再没有什么可以开发的用途，所以很快就达成了一致意见。 服务型机器人能否使用，成为了公众争论的焦点，这是一个成分比较复杂的群体，许多服务型的机器人身份是可以随时转变的，那么它们的身份如何界定呢？是否也要全面禁止？ 为此，整个“限制公约”在起草过程中陷入了僵局，各国代表一时间无法达成统一的意见，因为这涉及到本国的工业制造、科技研发、劳动就业等等一系列的切身利益，立刻就会砸掉许多人的饭碗。 一些国家的民众举行了示威游行，反对这种一刀切的做法。 但是也有国家提出，利用这次公约制定的机会，全面限制服务型机器人在第三产业中的使用，因为从就业的角度来看，机器人不应该再和人类抢饭碗了，“劳工法”应该重新制定，首先要满足人类的工作需求，而不是为了商业利益将人类自身赶出工作岗位。 经过激烈的辩论，“限制公约”草案最终达成了各方都能接受的方案。全球同意建立统一的标准，根据服务型机器人的从业属性、运动机能、危险等级划分出几大类别。 第一类是具有危险倾向的暴力型机器人，例如角斗场里的格斗型机器人、具有攻击性的机器宠物等等，这些机器人必须收缴。 第二类是那些可以通过改装形成具有威胁性质的机器人，例如变形机器人、门卫机器人，这两类金属机器人和机器动物都将不允许再生产，已经流向市场的，都要强制回收，送进当地的“机器人集中营”等待改造或者销毁。 草案更进一步规定，服务型机器人的身体金属含量不能超过体重的50%。 对于生产型企业使用的工业机器人并没有限制，例如生产线上的组装产品机器人，仓库里的机器搬运工。 事实上工业机器人多数是机械体，称不上“人”，只要能够对某个部件进行加工就可以了，从企业成本来考虑，企业主不需要复杂的，没有实际用途的机器人。 比如在仓库里，通过轨道来实现运送、装卸搬运物资效率更高，并不需要像人一样用两条腿来走路，因此在生产领域里具有综合能力的机器人并不实用，也不多见，所以制造业领域受到的影响不大。 平台性质的人工智能系统，例如深蓝超级计算机、银河超级计算机等不受影响，空间探索以及科学实验等方面的开发应用也不受影响。 “公约”前言： 《人工智能及武装机器人限制公约》从立约之日起，在人类社会还没有进入共同体阶段之前，人类的群体和个体在某些方面还无法超越人工智能体的智力和体能之前，该限制公约将一直有效。 公约细则： 具有武装机器人生产能力的国家保证不直接或间接地把设计、制造、数控系统转让给没有生产能力的国家或者组织；不援助其他国家的武装机器人制造；没有生产武装机器人能力的国家保证不制造具有杀伤能力的机械体；停止武装机器人军备竞赛；推动机器人部队大裁军；禁止在网络上销售半成品的金属质地机器人组装部件。 “限制公约”还规定了人工智能体从研制到生产的全过程监控措施，这些研发、生产企业必须接受“人工智能监督管理委员会”的监管。