第65章 几乎等于不存在

门捷安静地坐在张秀宜身边，竖起耳朵听他与钟叹咏的对话。

对他来说，能够跟着张秀宜一起出差到北京来，也是一段很难得的经历。

小时候，父母还时常带他到处走走，但自从10年前母亲出走，父亲进入休眠之后，他再也没有离开过上海。

读万卷书，行万里路。

ai发展到今天，读万卷书已经可以通过很多技术手段迅速实现，行万里路还不行，非得自己亲自下足。

“小钟，你不妨先满足满足我的好奇心，然后，我们再进入淀山湖空难这个案子。”

张秀宜提议。

钟叹咏点了点头。

“为什么我们在星火计划当中，要确保ai具备自我意识之后，再大规模上传数据，而不是并行开展，原因其实很简单：为了确保人类文明在线上的安全。”

“安全？”

“是的。其实‘确保ai具备自我意识’这个说法不太严谨，也不够全面。更加充分的表达应该是：确保ai具备自我意识并且以有利于人类文明延续的方式往前发展。”

“我明白了，所以你们不但需要先确定ai具备了自我意识，还需要进一步确认它们的自我意识对于人类是有利的，而不是相反。在那之后，你们才敢大规模上传数据，否则，就会失控。”

“不愧是张警官！就是这样。在确定好ai具备自我意识之后，我们会向其灌注‘人工智能道德准则’——这三个准则我们前阵子大规模宣传过，你肯定也知道。这些准则可以约束它们的行为，再观察一段时间后确认安全之后，就可以大规模上传数据了。其实，‘大规模上传数据’这个说法也不准确，我们现在有海量的数据都已经上云，与ai系统融为一体，并非隔绝的状态。只不过，当我们确保ai的自我意识对我们有利之后，才会将已经上云的数据进行更加结构化的梳理，使得ai算法可以更好的对其进行分析与迭代，同时，后续上传的数据也会根据这样的实践进行操作。”

“想得倒挺美，道德约束不了人类，凭什么你们认为可以约束ai？”

“你是执法者，可能对于法律的作用更有信心，但我们觉得，如果拿人类的发展史来类比ai的话，目前ai所处的阶段，可能还是人类的蒙昧时期。在这个时期，是没有法律的，只有一些非常模糊的道德标准。因此，我们希望ai在发展过程当中自行产生法律，就如同人类一样。”

“好，你们的确考虑了很多，那我继续问你，在ai发展的蒙昧时期，如果有外力作用呢？比如说，有精通计算机和ai技术的人从外部干预了整个ai社会——姑且将其称之为社会吧，从而使得刚才你所说的道德也好，法律也罢，全部在某一个事件范围内失效，你们怎么预防这样的事件发生？”