天才一秒记住【车毅小说网】地址：http://m.cheyil.com
首发：~第483章 过去的人
李秘书将项目书重新派发给各个业内投资人，意外地吸引了大量关注。
林教授则是跟唐念汇报当前进度和测试结果。
他很年轻，却又显出和年纪不一样的沉静。
修长的身体包裹在禁欲的白色实验制服里，扣子扣到喉结，带着冰冷的生人勿进气场，鼻梁上架着细框金属眼镜。
声音很好听，目光也很专注。
说话时自然带动下颌线条起伏，面部轮廓完美，每一个角度都恰到好处，唐念忍不住猜测，这层那近乎完美的皮囊下，隐藏着的究竟是温热的血液还是一系列复杂的算法和冰冷的逻辑电路。
唐念看着这位林教授，心中涌起一股似曾相识的感觉，总觉得自己在哪里见过他，以至于他在说话的时候不自觉地走神。
除了维修员之外，她内心深处有个直觉，她与林教授在过去有过交集。
像一位……故人。
难道是那段遗失记忆中的一部分？
林教授忽然停下，目光温和地看着她说，“唐小姐，你盯着我的脸看了很久了。”
唐念“哦”了一声，佯装平静地看向屏幕，“不好意思，你刚刚说到哪了？”
林隅之抬手看了一眼时间，体贴地沉思片刻，然后说，“这些东西可能对你来说很枯燥。”
唐念摇头，“还好，我会试着理解。”
屏幕上闪烁着密集字符，以极快的速度刷新着，它们是信息的载体，正自动训练消化研发团队灌注的数据和指令。
唐念提出一个问题，“你刚刚说这个模型会不断地自我迭代，那么我有一个疑问，如果有一天它的迭代进步到了超出人类能够控制的地步，到时候该怎么办？”
“比如什么样的超出控制？”
“比如……将人类困在它的掌控之下，像驯化动物园里的动物一样，将人类关起来的那种？”
屏幕的冷光照在林隅之薄薄的镜片上，字符仿佛拥有了生命，不断跳跃。
他转过身，正面对着唐念，淡色的唇瓣镀上一层金属感的冷色。
声音却依旧温和。
“在核心编码中，我植入了人类安全保护协议，这是一条基础编程限制，任何超出协议允许范围的行为，都将触发系统内部的自毁算法，从而避免潜在的不受控制的风险。所以你不用担心人类的利益与安全问题。”
唐念轻轻地摇了摇头。
“你口中的保护人类是基于人类身份，可如果是算法呢？”
林隅之安静地看着唐念，并不打断。
“如果有一天它理解的保护人类是将人类豢养起来呢？就像人养宠物那样，出门上班时会把它关在家里，因为担心外面危险，它出门会受伤，所以在我们的理解里，将宠物关在家里就是对它的保护。”
偌大的办公室变得很安静，只剩下电脑主机发出的微弱电流声。
唐念的嗓音在安静的环境中显得格外清晰。
“缺失了人性化的理解与判断，就可能在关键时刻偏离了原本保护人类的初衷，导致无法预料的后果。”
她对上林隅之的目光，认真地说，“如果算法理解错误，甚至违背了人类真正的意愿和需求，那将是一种灾难。”
林隅之的眼神多了几分认真，他安静地听唐念讲话，若有所思。
机房里不知什么时候只剩下他们两个。
唐念顿了顿，继续说，“毕竟，它是机器，可能会过度执着于某些逻辑或指令，而忽略了我们人类更为复杂和多元的情感与需求。”
如果人工智能过于执着于执行某项指令，而忽略了人类的实际安全或利益，那么这种保护就失去了意义。
比如，算出毁灭会到来，就提前以保护的名义，终结他们的生命。
"我可以理解你的担忧与不安，你的担忧是合理的，角度也完全正确。”
林隅之说话时带着很浅的气音，两人相隔不足一米的距离，足以是唐念看清他的眼睛。
很浅的褐色，像琥珀。
“很多科学技术诞生之初都会伴随着质疑和担忧，在我们看到未来到来之前，有很多事情都是有可能会发生的，这是一场很危险的博弈。”
他的声音有安抚的意味，大概是因为唐念的担忧实在是太过明显。
不过刚刚那一段长长的质疑这足以证明她真的思考过，林隅之起身给她倒了一杯温水，随后拉开椅子示意她坐下。
唐念问，“如果将它的数据上传到互联网，那么它会不会可能像病毒一样在任何一个联网的终端上复制、蔓延、扩散？”
从某种角度看，唐念接二连三的担忧冲刷掉了林隅之对她原有的刻板印象。她所表达的担忧深切，某种意义上证明了她拥有责任感，并非外界谣传中那种混吃等死、不学无术的酒囊饭袋。
他缓缓地补充，“我为它设定了严格的框架，它不能离开它的主控系统，一旦它离开了我设置的区域——比如说上传网络并复制备份——就会自动启用自毁程序。”
“你不觉得这样的风险太高了吗？一旦失控，后果将一发不可收拾。”
唐念又说，“而且，现在所有人的金钱都储存在数字世界里，如果031失控，那将会是一场金融灾难，甚至可能引发社会的动荡。”
她越说越觉得这样的前景令人担忧，与031的诞生注定会是一场……
然而，林教授却疑惑地出声，“031？”
唐念心里咯噔一下，“这个项目起名了？”
“目前还没有，只有项目编号和日期。”
fishhh提示您：看后求收藏（车毅小说网http://m.cheyil.com），接着再看更方便。
