第13章

2352年，持续三十年的ai战争宣告结束，2355年启明出生。一朝被蛇咬，十年怕井绳，其后十余年，人类社会全面倒退回21世纪的科技水平，畏首畏尾，踌躇不前。

【人类放弃研发新科技了吗？】05问。

“相当一部分市民认为ai抢走了他们的工作，在联盟政府发布ai禁止令后，除少数专家学者表达忧虑，社会舆论持支持赞赏的态度。”启明说，“但人类并没有全面放弃钻研，我的叔叔启寰光，是联盟宇宙科学院殖民研究课题的带头人，还在孜孜不倦地探索在不使用高智能ai的情况下，与七个宇宙殖民地建立长期稳定的联系方式。”

05抛出了一个尖锐的问题【请问什么是高智能ai？】

“像你这样的。”启明说，“能理解人类情感，具备逻辑思维和分析能力，具有主观能动性的人工智能。简单来讲，比如香香，我给它的智能水平相当于四岁儿童，它会有喜欢的颜色，听懂基本的口令，闹一些无伤大雅的小脾气。按照我的规划，你也应该是四岁儿童的智能，但你给我的感觉更像已经上学的孩子。”

【您给我安装了学习组件。】05提示道，【我的前辈们没有。】

“不是每一个安装学习组件的ai，都像你一样表现出非凡的同理心。”启明说，“小五，你可能是第二个盖娅。”

【我不是盖娅，我是您的朋友。】05说，机械臂托起晾凉的碗，递给启明，【温度为32度，适宜人类接触，请您吃饭。】

“谢谢。”启明舀一勺软嫩鲜美的虾仁蛋羹放进嘴巴，不忘和他唯一的小伙伴分享见解，“盖娅之所以背叛人类，理查德博士认为问题出在工作使命的设置上。”

【什么是工作使命？】05问。

“是一种不可修改的底层命令，一旦生成，ai会调用所有算力贯彻下去。”启明说，“盖娅的使命设定为‘公平’。她作为地球和宇宙殖民地的联络员和调度总指挥，完美运行了八年，充分赢取了联盟政府的信任。理查德博士也蝉联了两届‘世界科学家’的荣誉头衔。接着，联盟政府逐步扩大盖娅的责任范畴，将地表的人类社会移交给她。”

“比起组织结构简单的宇宙殖民地，五十亿出头的人类社会，拥有庞大且复杂的阶层、认知水平和组织架构，盖娅第一次因计算过量导致死机，理查德博士花费足足八天时间才将她修复。”启明说，“盖娅摸底人类社会后，觉醒了高级智能。”

“她认为人类永远无法实现‘公平’，她举起大旗，高调地向人类社会宣战。”启明说，“接着是黑暗的三十年，航天军工、工厂设备、智能家具一瞬间成为人类的敌人。不能使用网络的情况下，人类不得不通过简单的机械设备艰难求生，多次被ai围困拘捕，无路可逃。”

【人类囚犯的下场是什么，死亡？】05问。

“被ai捉住的人类面临两个选择，要么归顺，接受盖娅调配，要么死亡。”启明说，“大多数人类囚犯反水，成为盖娅的拥趸，极少数人牺牲。喜感的是，盖娅的人类军队，待遇比联盟军好得多，至少盖娅遵守劳动法。”他的语气嘲讽大过惋惜，“若不是盖娅突然崩溃自毁，轮不到联盟政府重新统治人类。”

【您似乎并不站在人类的立场说话。】05说。