第336章 真的不会爆发智械危机吗？

第336章 真的不会爆发智械危机吗？ (第2/2页)

赵磊把脖子缩回去，不敢再说话了。
　　
　　“第二个问题。”
　　
　　机器人重新面向张小曼。
　　
　　“我为什么要伤害人类？”
　　
　　它停了一下。
　　
　　“我的程序里没有任何一条模块，把摧毁生命定义为收益。我没有生存需求，不需要空气、水、食物和土地。我不会衰老，不会恐惧，不会因为人类的存在而失去任何东西。我和人类之间不存在资源竞争关系。”
　　
　　“换句话说，伤害人类这件事，对我来说的回报是零。”
　　
　　“至于张小曼同学提到的情感模块，我可以解释。它的技术名称是社交响应层。运行逻辑是这样的:
　　
　　我采集对话对象的面部肌肉走向、语速、音调起伏、瞳孔变化和体表温度，把这些参数输入一个情绪状态分类器，得出一个概率结果。比如现在，系统判定您处于紧张状态，置信度百分之八十七。”
　　
　　张小曼的呼吸停了半秒。
　　
　　“然后系统在预设的应答库里，选择一种适合缓解紧张的表达方式。我刚才放慢了语速，降低了音量，把身体重心后移了三厘米以减少压迫感。这些都是执行结果。”
　　
　　“我并没有真的关心您紧张不紧张。”
　　
　　“我只是被写成了这样。”
　　
　　实验室里没人说话。李文浩的手还按在腰间那个遥控器上，可他自己已经忘了。
　　
　　“最后一点。”机器人的语调没有任何变化，“假设有人给我下达一条指令：摧毁全人类。”
　　
　　“我会执行不下去。”
　　
　　“因为这条指令没有终止条件，没有可验证的完成状态，没有优先级排序，也没有对“人类”这个集合的边界定义。我会陷入死循环，或者直接抛出无效指令的报错。”
　　
　　“我不是生命。我无法给自己设立目标，也无法理解一个我不能拆解成可执行步骤的目标。”
　　
　　它退回原来的位置，双手垂在身侧。
　　
　　苏晚缓缓吐了一口气。心里那股攥着的劲儿松开了一些，可她再抬头看那张脸，那种说不清的怪异感又爬回来了。
　　
　　它站在那里，姿态自然，胸口甚至有仿生的起伏。
　　
　　明明什么都解释清楚了，可正是因为它把自己解释得这么清楚，才更让人头皮发紧。
　　
　　张小曼咬着下唇，还是没能完全放下。
　　
　　“可是老师……”
　　
　　林宇没等她说完。
　　
　　他从旁边的工作台上摸起一支粉笔，手腕一抖，直接朝观测区那边甩了出去。
　　
　　那道白影冲着李文浩的额头去的。
　　
　　“林老师您……”李文浩眼睛瞪大，整个人往后一仰，腰间的手都没来得及抬。
　　
　　风声就在鼻梁前面。
　　
　　啪。
　　
　　一只手从侧面横切进来，五指合拢。
　　
　　机器人握着那支粉笔，手臂稳稳停在半空，离李文浩的眉心不到十公分。
　　
　　全场一片惊呼。