第139章 人类才是需求的主导(3/3)

首发：~第139章 人类才是需求的主导

宇宙中，原本没有机械文明这一说。

但后来，随着不少科技文明对自家人工智能失控。

这才诞生了所谓的机械文明。

而这些机械体大都有缺陷或感染病毒之类的问题。

超过九成的机械文明都是一群战争狂人。

依靠机械体强大的繁殖力，疯狂烧杀抢掠。

不知有多少文明毁在了这一步。

当然，也有一部分机械文明完成了自我升级，彻底弥补了自身缺陷。

进而进化成智械生命，拥有了完整的情感和独立的科技体系。

这些智械生命，其实已不能算是机器人，它们有情感，会痛，会笑，会悲伤。

它们已经成为生命！

而且一旦达到这一步，机械体的优势会被无限放大。

虽然能进化到这一步的机械文明很少，但每一个都强大无比。

当然，现在想智械生命的事儿还早得很。

郝淮当前最紧要的事儿，就是确保自己编写的智能程序，别闹出变异或漏洞来！

不然，对整个地球来说，那可就是个大麻烦。

研究室内。

郝淮手指飞快地敲击着键盘。

一行行代码在编辑器里嗖嗖闪过。

“呼……”

“三层防护，防火墙，模块嵌入，终极代码……”

“应该差不多够用了……”

郝淮边嘀咕边编写着程序。

看了那么多资料文献，

对于人工智能，他也算是有了套比较成熟的见解。

说白了，就是取百家之长。

高级文明的编程技术用不上，那就得把低级文明里那些成功的理念整合起来。

通过学习他们的编程技巧和思路，来增强人工智能的安全性。

琢磨了好几天，

郝淮最终决定给人工智能设下四道防线。

首先是三层防护。

直接在核心系统里把三个法则永久锁定。

第一条是利他主义！意味着机器的唯一目标是最大限度地实现人类的目标和价值。

第二条是谦卑原则，即人工智能应对人类保持敬畏。

按照这条原则，人工智能要承认自己并非全知全能。

也就是说，机器要明白要最大化人类的价值，但同时也要清楚自己并不能完全理解价值的意义。

因此，为了对人类有用，它得通过观察人类的选择，根据人类提供的信息去学习、掌握人类的需求。