八三看书

37 三块逻辑碎片【重要概念】（第4页）

“但这一千六百多年，我们创造了璀璨的文明，人工智能功不可没，甚至可以说，人工智能成了星际文明早期的催化剂，就如克隆技术一样。

“大家知道，克隆技术后被禁止发展，以防战争成本降低。

“但人工智能被人类淘汰，纯粹是因为人类对自身文明的自我纠正。”

学生们大多面露不解。

老教授不缓不慢地讲述着：

“ai的广泛运用，以及人类对ai采用的黑盒操控技术，让ai成为了最廉价的劳动力，普通人类几乎被精英圈层圈养，社会文化体系近乎崩溃。

“是的，掌握了社会话语权、掌握了权力的少部分，都会给自身的地位设下门槛，以保持自我的优越性，而ai的高度成熟，让这些精英与整个社会完全脱钩，权力下降的过程，不必再有人力的参与，这一定程度让精英团体得到了更多利益、普通人类没有了任何改变自身命运的可能。

“但人类本身是不屈从于命运的。

“对美好的向往，对压迫的反抗，对不平等的不容忍，是我们人类文明向前发展的强大内在动力。

“抗争爆发了，且抗争的火焰从最为发达的第三星团，迅速蔓延到了九大星团。

“随着大规模的抗争热潮，全人类达成共识，形成了三大公约——非闭环公约、非武器公约、非实体公约；

“人工智能逻辑不闭环，即，人工智能不能单独完成任何任务，必须由人类参与任务半数以上的环节。

“非人工智能武器公约：人工智能不可链接任何集成程度的武器系统，仅能用于航空器导航、驾驶等领域。

“人工智能实体禁用：将自动化机器人与人工智能机器人进行详细区分，推动自动化机器的发展，既人工智能不能拥有物质实体。”

老教授笑了笑：“大家看看，这些其实是开了科技的倒车，但也正是因为这次自我纠正，人类社会摆脱了巨大的危机，ai技术只能用于星际远航、星际矿产等极少数的行业，还只能担任辅佐角色。

“没有战争，只有抗议，这就是ai暴乱的真相。”

有学生问：“所以说，发起暴乱的是人类而不是ai极端团伙？”

“你的这种观点并不准确，”老教授提醒道，“ai并没有发展出独立繁衍个体，不存在文明体征，它们依旧只是工具，是人类自身舍弃了这些工具。

“好了，我们打开课本，开始今天正式的课程。”

——选自一节历史公开课，星际纪元1634年。

信件三