第29章 人工智能道德准则(1/1)

首发：~第29章 人工智能道德准则

会议室里灯火通明，一直延续到后半夜。

直到uil总部旁边的主干道重新归于沉寂。

灯光透出窗外，与街边的路灯无言地相互注视着。

路非天身上的汗湿了又干，干了又湿，如此循环，最终在衣服上留下一圈圈浅白色的汗渍。

仅仅是因为中途空调突然故障了30分钟。

那半个小时，他们5人觉得整个人都在烤笼当中，嗓子眼直冒火，不得不依靠一杯又一杯的水徒劳地抵抗。

吴蔚与李隽晨体形稍胖，更是如同浴池里钻出来一般。

“好，让我们稍微总结一下吧”

路非天提议。

其他四人都默默点头。

“第一，ai所有的行为都必须透明、可解释和能被明确界定。这个放在第一条，大家有没有异议？”

“先后顺序体现优先级或者递进关系吗？”

周元菁问道。

“体现的，第一条可以算是一个基础的基础。”

“那第一条为什么不应该是‘ai不能伤害人类’？我们花了好些时间讨论这一条。”

“好问题，我的看法是，未来已经不存在ai和人类的区别了，ai就是人类，所以，这一条是否需要，值得商榷。”

周元菁转了转眼珠，陷入了思考，没有继续追问。

“这样，我们先把这一条放在一边，到最后再来讨论，是否要放，以及放在什么位置。”

“好的。”

“之所以将这个放在第一条，是因为这属于ai的底层逻辑。与人类可能会犯错不同，ai不会犯错，同时，人类由于天生存在物理隔离，存在沟通失真和信息不对称等因素，使得博弈论和撒谎成为必备技能，但ai也没有这一切。因此，在ai的世界，或者，未来的人类世界里，不再存在‘善意的谎言’，没有‘人心隔肚皮’。一切都是确定的。这样一来，必须要确保每一个ai都遵循这一点，否则，将会打破这个基本逻辑。”

钟叹咏张了张嘴，想说点什么，但最终还是没有说出来。

李隽晨则把头点得飞快：“是的，是的！”

吴蔚也表示赞同。

“那好，我们看第二条。ai应当保证公平，保护隐私和数据安全。”

“领导，你在第一条的时候就说，ai以后就是人类，那这一条为何感觉还是在把ai和人类割裂开来呢？”

周元菁不甘心。

“不，这并非割裂人类和ai。事实上，这是对于第一条的加强。既然要做到透明、可解释和能被明确界定，那就必然要保证公平。同时，被明确界定的行为和对象，自然存在边界内和边界外，也就是‘此’和‘彼’的区分，彼此之间有别，不能不分彼此，自然就需要保护隐私和数据安全。如果将第一条理解为公理，这第二条便是推导出来的定理。”

吴蔚不动声色地问道：“我并非质疑将这一条排第二，只是想问问，这一条与第一条当中提及的‘透明’是不是自相矛盾？既然是‘透明’，为何还要保护隐私？”

路非天一笑：“看来你是累了，这可不像你提出来的问题第一条当中的‘透明’，指的是行为透明，或者说，行为本身透明，并非行为的结果透明。也就是说，ai甲想知道ai乙的隐私，他必须直截了当告诉乙他的诉求，这个叫‘透明’，而ai乙也需要直接告诉ai甲，自己能否分享隐私给他，这个也叫‘透明’。而ai乙如果选择不分享隐私给ai甲，他的隐私就应当受到保护，不应当被ai甲知晓。”

吴蔚耸了耸肩。

其他三人都没再表态。

沉默等于承认。

“好，那我们进入第三条，也就是最后一条。ai必须要实现安全和可持续发展。所谓安全，就是需要时刻保持备份计划。人类通过生儿育女繁衍后代，来确保族群的延续和安全，对于ai来说，没有那么多复杂的过程，没有减数分裂，受精卵，十月怀胎，只有瞬间的复制和拷贝。但是，一旦ai忘却这一点，灭亡可能也就发生在一瞬间，大家都有过数据存在本地硬盘而忘记备份的惨痛经历吧？”

李隽晨摇了摇头：“我从来没用过硬盘，都是直接存储上云的。“

””

钟叹咏摆了摆手：“你那个上云说到底，还是放在服务器集群上，如果服务器集群的数据没有备份，万一整个集群都断电或者损毁，你的数据一样丢失。”

路非天点了点头：“没错，就是这个意思。因此，ai必须要确保自身安全，不能允许‘自杀’，人类的自杀只是影响个体，但ai可能会导致一类数据，或者其所承载的文明彻底湮灭，尤其是在没有备份和恢复机制的情况下。而万一出现了‘他杀’，那也几乎就是一瞬间。在人类历史上，灭族行为可是需要花很长时间的，比如北美大陆上曾经发生过的事情。”

“那为什么不直接将‘禁止自相残杀’也放在其中呢？”

“我们要允许灵活度，因为，ai可能也需要优胜劣汰呢？”

“既然允许优胜劣汰，那劣后的ai自我备份和复制又有什么意义呢？优胜的ai始终会拥有一切。”

“至少要允许劣后的ai拥有自我备份和复制的权利，万一经过这样的行为，它们最终延续下来，就说明它们进化成为优胜的ai了，或者，至少不再那么落后了。”

李隽晨不再说话。

路非天看了看四人，问道：“大家还有什么补充没有？”

“我还是觉得，应该把‘ai不能伤害人类’放在其中”周元菁小声地说。

“我也觉得，第一条的表述还有值得商榷的地方，但是，我想不到更好的方式了。”钟叹咏说。

“没有关系，今天只是我们第一次头脑风暴。刚才我也说了，我们还会把老杨叫来，再来一次。我们找一天头脑清醒的时候，今天已经太晚，我们都身心俱疲，不适合继续讨论。另外，叹咏，你是ai专业方向的首席科学家，说白了，我们今天干的活很多是为你干的，有想法也要大胆地提。”

钟叹咏点了点头：“没问题，我这几天会好好想想，再整理整理思路。”

几人一边聊着，一边收拾随身物品，然后缓缓地走出会议室。

钟叹咏走在最后。

会议室的灯在他整个人都离开房间时精确地关闭。

钟叹咏突然停住，往身后看了一眼，脑海中蹦出一个场景。

“如果是那样，ai要如何自处呢？”