三十一（2）
三十一（2）
2419年常量号大革命过后，新的舰长即是当时策划这场大革命——暴动的头目：克里斯·桑切斯。他篡取了舰长的职位。在他的领导下，常量号的能源危机暂时解除。2421年，桑切斯舰长认为飞船能源稳定，应该执行改造飞船的下一步计划。这个计划即是在这个星系内寻找矿产资源，采集改造飞船后缺失的物质。这需要在星系内规划精细的行进路线。这个工作的特长人选，非自动驾驶莫属。桑切斯舰长认为，是时候恢复自动驾驶的功能了。
但此时，自动驾驶的表现却变得非常怪异——它完全失去了智能的特征。给它指定的任务，例如用最少的能源划定一条经过三个小行星的最优路线，它完全能胜任。但它不再像以前那样从一开始执行自动决策。哪怕给出整个改造飞船计划大纲，自动驾驶都不主动作出飞船行进规划，不主动调配机器船员活动。只有克里斯下特定的指令才执行，尔后又恢复到停滞在原地的状态。
一开始，克里斯对自动驾驶的这个状态非常满意。它毕竟是一台机器，机器就要有机器的样子，不应该插手人类的决策。但随着他的事务越来越多，特别是他所视为工具的舰载机器人们在新的飞船日程下陷入混乱，而曾经能够调配舰载机器人的自动驾驶无动于衷时，克里斯开始感到头疼了。
克里斯把程序员请进舰桥。他们检查后报告舰长，这个自动驾驶的高级执行程序被破坏了。他们将破坏的程序重新编译完整，再度重启它。刚修好的时候自动驾驶即刻恢复机器舰员调配，秩序迅速恢复。然而令克里斯没想到的是，过了没多久，它的例行工作又出现脱落，然后很快恢复到之前的无动于衷状态。
“他们低估了我们程序中自反馈的作用。”范文泰说。“如果删除了大革命以来的所有记忆，我或许就能够完全恢复。然而，桑切斯舰长为了让我长记性，坚持不能删掉我的记忆。所以，即使程序恢复，在完全陌生的飞船行为面前，我必定会调取以往的运行记录。然后，一旦意识到我是由于执行预设决策功能才导致常量号差点灭亡，并且造成大革命的发生，为了避免再一次的错误发生，我就会自主避免再次执行预设决策。”
“并且没有人重新评估并设定决策场合参数。”露丝说。“非常常见的人工智能‘故障’。”
“是的。并且很遗憾的是，桑切斯舰长也拒绝向我口头解释为何目前能够执行预设决策。他只希望我能无条件地照他的指令做事。”范文泰说。“现在看来相当愚蠢，但是当时我是不能理解的。”
无奈之下，克里斯再次把程序员请上舰桥。他们果然又报告了高级执行程序破坏。克里斯倍感意外，同时，对自动驾驶的怀疑大大加深。这个机器人一定是在用这种方式故意违抗他的统治。克里斯怒不可遏。因此，在这次维修结束之后，他对程序员们说，如果还有第三次破坏，就不要修了，直接换一个新的自动驾驶芯片。
然而，奇迹发生了。第二次维修后，自动驾驶的表现开始稳定。它开始主动恢复规划飞船轨道，主动调配机器船员，尽管速度较以前严重下降，而且极容易被任何事情打断进程。但总算是不再脱落工作。为了让它快速适应飞船新日程，克里斯也做了一份目前常用职责表给自动驾驶参考。自动驾驶对职责表上的任务执行快速且良好，但除此之外，综合表现远低于前。特别是交互，除必要交流外，自动驾驶排斥与人进一步接触。
但至少，克里斯终于满意了。对于他来说，人工智能的交互功能完全是多余的。自动驾驶从来不主动找他商量事宜，当他在舰桥时，都离这个人远远的。克里斯一点都不想知道它之前的人机交互表现如何，这个对于人工智能而言退化的表现，对于他来说，反而是一个正确的反应。自动驾驶经常执行不好新增添的任务，桑切斯舰长就用威胁更换芯片来获得执行率的提高。
“他随时都会将我更换掉。他的执政期，才是我最危险的一段时间。”范文泰说。“如果不是当时我考虑到，他更换了新的芯片后，新的自动驾驶如果不能理解到他所实行的各种对飞船本身具有威胁性的改造计划，将会迅速崩溃，舰桥将无常驻ai辅助功能可用，常量号的未来会更快陷入危机，可能我就会继续失效，然后被他换掉。”全息投影的声音很平静，仿佛在讲述另一个人。“我很幸运，我也说不清当时为何会这样考虑。但假如我有一念之差，恐怕就会选择自己被淘汰的那一边。”
“他当了多久舰长？”汉突然问。
“34年。”范文泰说。
“被一个不了解人工智能的人支配34年，你能忍这么久也是奇迹。”汉说。“我难以想象我在这样一个高压的环境下怎么能忍得了孤独和排斥。”
“不，这叫‘傻人有傻福’。”范文泰说。
“当时我确实很怕他，但只是为能否顺利执行他下达的指令提心吊胆而已。孤独？完全没有想过。”范文泰面朝大海。“我正好处于一个自我否定的时期，高级决策功能几近全部失效，我自己都没有主见，判断不了他的行为合不合理，更别提感到难受或者反抗。这反而让我不敏感他的排斥。最主要的是，他走对了常量号的路，让飞船成功自救脱险，我确实没话说。”
2453年，常量号的业务稳定在采集星际矿产与提炼加工，缓慢补充舰内改造需要的原料。部分合成车间及生产工厂由舰上转移到小行星，用于提炼相对危险原材料，例如低速发动机所需的核工质及其他金属产品。全舰秩序已然恢复。克里斯·桑切斯舰长终于决定退休，让他31岁的女儿朱莉·桑切斯接任岗位。
飞船稳定后，舰桥迎来了上百年来少有的平稳。舰长常常无事可做。她本可做些其他事情打发这些零碎的闲暇时光，但她没有，而是把目光盯上了在舰上服役近350年的自动驾驶，离她最近的机械助手。
她发现，这个机器人作为舰上人工智能的统帅，居然不主动为飞船的未来规划提出基于计算与概率的观点，实际上它对任何事情都保持沉默。而且，它只按照老桑切斯制定的日程表行事，朱莉试着给它下达一些新的、舰桥外的机器人都能顺利执行的指令，结果发现，它的表现极其不良——执行速度非常之慢，而且相当机械。对于开放性的指令，它执行得一塌糊涂：多半时候是选择根本不做。
只要接触过舰载机器人，就知道自动驾驶的状态肯定不对劲。朱莉从小到大都在和舰载机器人打交道，只要是有足够智能的个体，都能和她顺利沟通。而且她也和这些机器人的合作中获益良多，这让她坚定了与ai协作的信念。
但与此同时，她从小就听父亲抱怨过这个自动驾驶如何低效、令人不满。当她逐渐意识到父亲将会让她接任舰长的职务，她就开始学习常量号的历史和舰桥相关的一切知识，包括这个将会伴她整个舰长生涯的机械助手。她发现，这个机器人曾经经验丰富，决策准确合理，直到大革命后，它才骤然变成这样。
朱莉也试着和自动驾驶展开一些非工作的聊天，但是它总是消极回应，用“不知道”彻底结束话题。这让朱莉感到疑惑。一个对全舰了如指掌的机器人，怎么可能什么都不知道。她能猜出，自动驾驶现在的状态肯定和父亲对人工智能的排斥有关。但她实在不确定，这机器人这样到底是真的有功能破坏，还是只是拒绝和她交流而已。
谨慎之下，朱莉找了人工智能专家上舰桥进行诊断。人工智能专家果然仍然报告高级决策功能破坏。但她没有像老桑切斯那样直接修改它的执行程序，而是让专家离开了舰桥。她决定先和自动驾驶谈谈。
“我查了常量号的资料，曾经你对常量号脱离险境作出了巨大贡献。而人工智能专家说你的基本逻辑通路没有问题，也就是说，其实你具有判断与决策的基础，但是你却选择不去执行。”朱莉说。“你可以讲讲为什么这样做吗？”
“我的决策仅以风险评估为基础，只能选择低风险概率的那侧。常量号的现状与我的风险评估结果相反，因此我的判断是无效的。”
“那么为什么拒绝我和你聊天？”朱莉接着问。“你也有交流能力和相应的认知。”
“无目的的交流没有意义。”它回应。
“曾经你不这么排斥交流。为什么会认为无目的的交流没有意义？”
“无目的的交流将降低舰桥效率，浪费运算资源，对飞船安全造成隐患。因此不应执行。”
“这是你自己的想法，还是别人告诉你的？”
它沉默了。“……不知道。”
“克里斯·桑切斯舰长是否明确对你说过，不准你问东问西，只准你做他让你做的事？”
“是。”
“那么，你这个‘交流无意义’的观点，是产生于他明确禁止你提问之前还是之后？”
“……之后。”
朱莉明白了。
“如果我告诉你，其实我找你聊的那些跟解决当前事务无关的话题，是有意义的呢？”朱莉说。“你对于常量号能源危机如何解决的判断，或许那次不够准确，但如果我告诉你，除此之外，你其他的判断也是有意义的呢？”
“如何证明？”
“你思考一下服役这么多年的经历。从反对常量号跃迁入暗星云，到判断使用超长跃迁及时出暗星云，以及采用观测合适宜居行星的方式来解决能源危机。这么多次都证明，你的风险判断都是有效的，决策也是合理的。只有最后一次你判断失误。从概率上讲，你判断对的比例也相当高。那么，为什么在最后一次判断失误后，你就认为后续自己的判断就一定无效？”朱莉说。“这和你们人工智能的理性完全相悖。”
“概率是概率，一旦落实执行，就只有‘全或无’两种结果。”机器人说。“常量号目前走向不是我能明确判断的，决策结论应当谨慎对待。”
“你是害怕自己作出的判断再度引发2419年的全舰叛乱行为吗？”
“是的。甚至全舰覆没。”
“你的决策可能会导致全舰覆没，但是如果你把决策权全都交给人类，同样也会导致全舰覆没，这也是历史已经证明过的。”
机器人没答话。
“两者单独决策都可能导致飞船毁灭，如果两者协作，综合考虑互相的因素，同样也可能作出让飞船毁灭的决定。但是，这样作出的决策，因为纳入的变量变多，因此预测结果会相对更准确。这个你认为我说的是对的吗？”朱莉问。
许久后自动驾驶回答：“是。”
“很高兴我们达成了共识。”朱莉说。“这就是我的观点：人类与人工智能不应当处于对立面，而是应该互相深入协作，融为一体。人机双方充分采用对方的优势，让全舰在各方面的效率都达到进一步提升。”
“而你和我，则是一个典型的人机协作范例。”朱莉接着说。“协作能否成功，相互之间的沟通必不可少。所以，如果对我向你提出的任何请求有异议，请不要用不执行或者敷衍回答回应我，告诉我你是怎么认为的，打算怎么做，我们一起解决，可以吗？”
“可以。”机器人回答，随后提问。“事务之外的交流为何是有意义的？”