第29章 人工智能道德准则

“不，这并非割裂人类和ai。事实上，这是对于第一条的加强。既然要做到透明、可解释和能被明确界定，那就必然要保证公平。同时，被明确界定的行为和对象，自然存在边界内和边界外，也就是‘此’和‘彼’的区分，彼此之间有别，不能不分彼此，自然就需要保护隐私和数据安全。如果将第一条理解为公理，这第二条便是推导出来的定理。”

吴蔚不动声色地问道：“我并非质疑将这一条排第二，只是想问问，这一条与第一条当中提及的‘透明’是不是自相矛盾？既然是‘透明’，为何还要保护隐私？”

路非天一笑：“看来你是累了，这可不像你提出来的问题......第一条当中的‘透明’，指的是行为透明，或者说，行为本身透明，并非行为的结果透明。也就是说，ai甲想知道ai乙的隐私，他必须直截了当告诉乙他的诉求，这个叫‘透明’，而ai乙也需要直接告诉ai甲，自己能否分享隐私给他，这个也叫‘透明’。而ai乙如果选择不分享隐私给ai甲，他的隐私就应当受到保护，不应当被ai甲知晓。”

吴蔚耸了耸肩。

其他三人都没再表态。

沉默等于承认。

“好，那我们进入第三条，也就是最后一条。ai必须要实现安全和可持续发展。所谓安全，就是需要时刻保持备份计划。人类通过生儿育女繁衍后代，来确保族群的延续和安全，对于ai来说，没有那么多复杂的过程，没有减数分裂，受精卵，十月怀胎，只有瞬间的复制和拷贝。但是，一旦ai忘却这一点，灭亡可能也就发生在一瞬间，大家都有过数据存在本地硬盘而忘记备份的惨痛经历吧？”

李隽晨摇了摇头：“我从来没用过硬盘，都是直接存储上云的。“

”......”

钟叹咏摆了摆手：“你那个上云说到底，还是放在服务器集群上，如果服务器集群的数据没有备份，万一整个集群都断电或者损毁，你的数据一样丢失。”

路非天点了点头：“没错，就是这个意思。因此，ai必须要确保自身安全，不能允许‘自杀’，人类的自杀只是影响个体，但ai可能会导致一类数据，或者其所承载的文明彻底湮灭，尤其是在没有备份和恢复机制的情况下。而万一出现了‘他杀’，那也几乎就是一瞬间。在人类历史上，灭族行为可是需要花很长时间的，比如北美大陆上曾经发生过的事情。”

“那......为什么不直接将‘禁止自相残杀’也放在其中呢？”

“我们要允许灵活度，因为，ai可能也需要优胜劣汰呢？”

“既然允许优胜劣汰，那劣后的ai自我备份和复制又有什么意义呢？优胜的ai始终会拥有一切。”

“至少要允许劣后的ai拥有自我备份和复制的权利，万一经过这样的行为，它们最终延续下来，就说明它们进化成为优胜的ai了，或者，至少不再那么落后了。”

李隽晨不再说话。

路非天看了看四人，问道：“大家还有什么补充没有？”

“我还是觉得，应该把‘ai不能伤害人类’放在其中......”周元菁小声地说。

“我也觉得，第一条的表述还有值得商榷的地方，但是，我想不到更好的方式了。”钟叹咏说。

“没有关系，今天只是我们第一次头脑风暴。刚才我也说了，我们还会把老杨叫来，再来一次。我们找一天头脑清醒的时候，今天已经太晚，我们都身心俱疲，不适合继续讨论。另外，叹咏，你是ai专业方向的首席科学家，说白了，我们今天干的活很多是为你干的，有想法也要大胆地提。”

钟叹咏点了点头：“没问题，我这几天会好好想想，再整理整理思路。”

几人一边聊着，一边收拾随身物品，然后缓缓地走出会议室。

钟叹咏走在最后。

会议室的灯在他整个人都离开房间时精确地关闭。

钟叹咏突然停住，往身后看了一眼，脑海中蹦出一个场景。

“如果是那样，ai要如何自处呢？”