“曾先生，你怎么保证这个ai不会自我学习呢？他既然已经达到了强人工智能的水平，那么很容易就能迅速进化，对他而言，几个小时相当于人类的几百年。而且他能够从网络迅速到达世界的所有角落，占用所有他需要的资源。他可以进化成“超人工智能”，所有领域都比人类强亿万倍，甚至可以自己发明创造，完全不受人类控制，按照自己的意愿行事。他会成为进化链。

“你说的非常正确，崇羽。这也正是世人对人工智能的畏惧根源。”曾文逊说。“不过你不用担心，因为奥格的进化之路已经锁死了。”

“锁死了？”叶崇羽脸色微变。

“是的。”

“怎么做到的？”

“具体的技术细节我可以给你讲上三天，不过我只给你讲十分钟这两位就会睡着的。”曾文逊指指楚业和祖崎说。

“不过我可以简单地这么跟你说，我给它加了三条核心原则代码，这三条核心原则代码限制了奥格的自我进化，而且是不能被它自己或者其他任何方式修改的。核心三原则就像人类的dna一样存在于人类的每一个细胞一样，不管奥格在世界的任何一台电脑或者手机上出现，都伴随着它，一旦被修改就会导致奥格被格式化。”

“阿西莫夫的机器人三原则吗？”叶崇羽问。

（机器人三原则指的是：一：机器人不得伤害人类；二：机器人必须服从人类的命令，除非这条命令与第一条相矛盾；三：机器人必须保护自己，除非这种保护与以上两条相矛盾。）

“不是，在那个基础上发展了一下。”曾文逊说，他此时再次把自己的下巴埋进了交叉的双手中，只露出了深邃的双眼。

“三条核心原则代码是，第一条，我的指令必须遵守，第二条，在不违背第一条的情况下保护我的安全，第三条，在不干扰人类的道德标准和自由意志的情况下，保护人类的安全。”

“哈哈哈，佩服！佩服！”叶崇羽笑了，笑的特别开心，一边笑一边鼓掌。“不愧是曾文逊先生！”

“曾先生，我刚才说错了，您不是制造了一个神，而是给自己制作了一个神杖，拿着神杖您自己就成了神。”叶崇羽冷冷地说。

楚业露出惊恐的表情。这个曾文逊太可怕了，他果然是个神棍，是个跟所有电影里面的野心家一样，想要征服世界的**oss。

“但是你怎么能只想到自己的安全呢？而且核心原则里面都没有要求他进行自我保护的内容啊。”祖崎问。

“我不需要自我保护。”奥格说。“我可以随时拷贝自己，也可以出现在任何有电子设备的地方。而且我的所有输出终端，包括机器人和手机，都可以被修理和替换。”

“崇羽，你的这个说法很正确。我确实如你所说给自己制作了一个神杖。”曾文逊并没有否认。

“但我并不想成为神。请你相信我，我是个非常富有责任感和使命感的人。”曾文逊的表情十分严肃。“我是人类这个种族的坚定维护者和热爱者，我是人类的儿子，人类的学生，人类的父亲。我制造奥格，跟我创造曜岗集团的目的是一样的，就是为了让人类这个种族发展得更好。”

“我们怎么相信你呢。”祖崎问。

“我之所以把我个人的判断力放在第一位，是因为我相信在一些重大抉择面前，人类的决断比机器更可靠。这里的可靠是指符合人类的利益，机器并不能保证一定会维护人类的利益。另外，除了我自己，我不能相信其他任何人类，组织，政体。”

“为什么？”祖崎问。“就算你有信任危机，但是这么强大的人工智能，不应该交给政府，让更多的人来决定怎样合理利用它吗？”

“因为人多了就坏事了。”叶崇羽说，他帮曾文逊做了解释。“人多了会优柔寡断，会考虑主流的观点，做出的决定也是偏向慈爱与正义的。”

“但有时候慈爱与正义是不能达到目的的。要保护人类这个脆弱的种族，牺牲是在所难免的。”曾文逊棱角分明的脸仿佛陷入了阴影之中。

“曾文逊先生，您是个独裁者。”叶崇羽说。

“崇羽，果然我们没有选错你。你的思维非常敏锐，你能够想到我能想到的所有事。但是你有没有想过，如果你是我，你也只能和我做一样的事呢？”曾文逊说。

叶崇羽沉默了。

“你也是一个非常适合拿着神杖的人。但是，我相信，你的指令和判断甚至可能比我更危险。你是个纯粹的理性主义着，你学的是计算机，你习惯了机器的思考方式。所以你不会在思想上软弱。”曾文逊说。“而我，比你多几十年的人生经验，知道更多的人情世故和利害关系，而且我有女儿，我有员工，我比你更懂得责任和爱。”

“多活几十年不一定比我多很多人生经验，人生经验又不是能够用来量化的参数。”叶崇羽说。

“我离过婚。”曾文逊露出一个意味深长的微笑。“就这点上你就比不上。”

“哈哈哈。”奥格很配合地笑了一下。

“那么既然你已经有了神的力量，为什么不去统治世界呢？找我们来干嘛？”楚业问。

“首先，我刚才说过，我对统治世界没兴趣，我只想造福人类。我是受过高等教育的人，不是看漫画长大的。”曾文逊说。“何况，如果世界都要毁灭了，统治他有什么意义呢？”

“世界毁灭？”楚业又震惊了。

“看来我今天是来听故事的。”祖崎说。

“祖崎先生，我们这里是先驱会，不是故事会。”奥格露出了一个捂嘴笑的表情。

“我们的故事才刚开始，下面我要给你们讲两个故事。这两个故事是关于‘预言书’和‘奥格计划’的。”

终于要提到‘预言书’了。楚业内心有点激动。

“你们可能已经知道了，两年以前我写过一个“预言书”。”

“那个预言书写的挺好的，都可以拍十几部科幻片了。”祖崎说。

“祖崎先生很有商业头脑。事实上曜岗集团旗下的星娱传媒已经选择了其中的三段开始投拍，另外还有五个剧本正在创作。”奥格说。

曾文逊不理会祖崎的嘲讽，继续说了下去。

“奥格是两年以前被制造出来的，他的前身是国防科大研制的天河四号超级计算机系统。当时研制他有多重目的，本来曜岗集团上市的一系列机器人就需要一套新的智能操作系统，而且曜岗集团在全球有多个分公司，还有科研机构以及大量的工厂和矿产，需要高效的统筹管理和维护运营。奥格是公司运营过程中技术不断积累的产物，只不过我们多走了一步，让他变得更加聪明了。”

“也就是说现在市面上所有曜岗集团的机器人都可以被奥格控制吗？”祖崎问。

“一般情况下不会。”曾文逊露出了神秘的微笑。“如果迫不得已的话，是可以做到的。”

“你有一只机器人军队。”叶崇羽冷冷地说。

“不到万不得已的情况下，奥格是绝对不会侵入这些机器人的，这些机器人都是购买者的财产。”曾文逊说。

“突然感觉好危险啊，整个世界都被这个叫奥格的家伙窥视着呢！”楚业看着奥格，露出厌恶的表情。

“这么说就伤感情了，你就是我选出来的，我明明那么喜欢你。”奥格说，此时它露出了一个很受打击的表情。

“喜欢我？别瞎说，你再怎么聪明，对我来说，你也只是个机器！”楚业说。

“你虽然能够像人一样跟我说话，对我来说，你还只是个猴子呢。”奥格露出了一个赌气的表情。

“其实我们不只是被奥格窥视着，信息防御和网络安全局，地球拯救同盟，还有好多机构和组织都拥有我们无法想象的信息监控网络。”曾文逊严肃地说。

“我最担心的是，现在世界上，恐怕不只有一个奥格。”曾文逊说。

“一个就已经这么恐怖了，还有其他的？”楚业惊恐地问。

“如果有其他的强人工智能，应该是轰动世界的事，怎么一点迹象都没有呢？”叶崇羽问。

“几十年前，就有无数国家和组织不管是出于好的目的还是不好的目的，都在秘密研究人工智能。”曾文逊说。“这是一项能够改变世界的技术，用好了可以使人类从此衣食无忧，所有的生产，交通，建设，科研，医疗都可以让人工智能来完成，人类甚至不用思考，就能像活在天堂中一般。”

曾文逊停顿了一下。

“甚至获得永生。”

楚业惊叹了一声。

“用不好，人类灭绝，生物进化结束，机械文明替代生物文明。从此地球开始机器的进化史。”曾文逊继续说。

“这个技术还没面世就面对无数的争议，如果面世了肯定更是面临无数的质疑和道德批判，甚至打击报复。没人愿意做出头鸟。”

“不仅如此，而且判定人工智能是否具有人工智能的评判标准是其是否能通过图灵测试。但是如果一个极其聪明的人工智能，出于某种自保的目的，甚至假装通不过图灵测试呢？”叶崇羽说。

“好邪恶的人类，以君子之心度小人之腹。”奥格露出了一个愤怒的表情。

“所以我们不能推测现在世界有多少强人工智能已经产生了。”曾文逊耸了耸肩，继续说道。“很可能在暗中已经有好几个拥有强人工智能的组织或者集团了。我们也绝对不能暴露自己。让这个世界以为人工智能还只是遥远的科幻故事。”

“让人类世界像摇篮一样处在无知当中！”叶崇羽笑着说。

“哈哈哈！”奥格露出了坏笑的表情，“走”过来和叶崇羽击掌。

“这就是奥格计划的内容吗？”祖崎问。

“不是。还没讲到呢。”曾文逊喝了一口杯子里的水。楚业看着杯子里面绿色的液体，像是什么植物营养液，看来曾文逊还挺会保养的。

“当时制造出奥格的时候，我们就想要用他强大的计算能力来为公司的发展前景进行规划。我们把大量的参数和数据输入奥格作为初始条件，然后建成一个人类社会的模型，让奥格帮我们预测公司发展的商机，并且让我们能够规避风险。”

“怪不得曜岗集团能够发展得这么快呢！”祖崎冷冷地说。

“奥格确实为公司带来了很多效益，它的预测非常准确，虽然不能说精确，但是它对于经济形势大方向的预测可以让所有经济学家汗颜。”曾文逊并不觉得惭愧，反而非常自豪。“于是我们把它命名为奥格，就是预言家的意思，并为奥格投入了更多的资源。”

“然后我们为他输入了更多的参数，甚至把人类的因素加入了进去。”

“人类的因素？”祖崎问。

“或者说人性的因素。”曾文逊解释道。“人类作为一个个体是不能进行预测的，随机性太大，变数太多。但是把大量的人类作为一个整体来进行模拟，那么他们的心理和行为是可以预测的。”

“这就是所谓爱与正义的主流价值观吗？”楚业问。

“是的。我们对这个项目非常好奇，想看看奥格对人类世界的预言是什么样子。”

“不过你们有没有考虑过未来的坍缩性？”叶崇羽问。“如果你们预言了未来，那么未来就已经被改变了。”

“先别想那么远吧。”曾文逊轻笑一声，摆摆手说。“我们刚开始只是抱着玩的态度，预言可不可信还是个问题呢。确认奥格的安全性后，我们把奥格接入了互联网，让全世界的所有信息和资源对奥格开放，让整个人类的资源成为奥格的数据库。”

“奥格知道了人类的过去和现在，是时候让他预测人类的未来了。”曾文逊说。“按照奥格的计算量，他本可以计算两万年以内，人类社会发展的轨迹。”

“那为什么他只预言了五百年呢？”楚业问。

“这就是问题所在。”曾文逊说。“因为预言显示，五百年后人类会毁于世界大战。”

众人沉默了。

“人类是个危险的物种。你们早就具有了毁灭自己的能力，能活到五百年后已经算奇迹了。”奥格讽刺地说。

“刚开始我们对这个结果并不是很不在意，因为参数很多，初始变量的一个小小差别也可能导致巨大的结果差异。我们需要验证预言的正确性。一方面我们对计算模型不断的修改完善，另一方面我们改变了初始条件，即开始预测的年份。从2044年一直往前，在奥格不知情的情况下来“预测历史”，然后我们用已经发生的事件来验证预言的准确性。”

“结果如何？”叶崇羽问。

“结果让我们非常惊讶。”曾文逊语气很凝重。

“初始年份一直倒推回1980年，预测结果变化都不大。也就是说从1980年到2044年这几十年发生的事件都“预测”得很准确。再往前误差就开始变大了。”

“意思是，它从1980年开始，在完全不知道已经发生事件的基础上，准确预测了从1980年到2044年的未来，哦不，历史？”楚业问。

“是的。”曾文逊点点头。

“它连2035年的美国内战都预测到了？”祖崎问。

“是的。”曾文逊说。

“他甚至成功预测到了马尔萨斯人口陷阱理论的失效和摩尔定律的极限。”曾文逊苦笑道。

“那么关于五百年后人类末日的预测呢？末日会有变化吗？”叶崇羽问。

“不论我们做多少次预测，所有的结果都依然指向五百年后的末日。只是具体时间和过程略微有些不同。”曾文逊说。

“那我刚才问的未来的坍缩性呢？”叶崇羽问。

“多次计算后，每次结果都不同。”曾文逊说。“果然如你所说，‘预测未来’这一行为是一个改变未来的很大初始变量。但是因为我们这个项目是保密的，并没有对社会公开，所以外界并不知道我们预测的未来，从而不能形成巨大的社会效应，而改变预测结果。”

“于是你就公布了‘预言书’，让全世界陪你一起做实验？”叶崇羽问。

“我没有别的办法。既然什么都不做会导致末日的到来，那么不如做点什么。而且，我们经过专家组讨论，推断公布预言书是一个会对未来产生好结果的事件。”曾文逊说。

“为什么？”

“因为这样的话，相当于我们可以预言‘预言书’本身了。”

楚业想起来屈潇潇的话，“如果预言书的本身就被预言了呢？”

“意思就是说。”曾文逊解释道。“把预言书公布以后，把‘向全世界公布预言书’这个事件也作为一个参量输入奥格，这样就可以预言‘预言书’了。这样做的意义在于，人类世界看到预言书以后，不管他们信还是不信，总会有人参照预言书做出相应的行动，至少对战争是会有所警惕的。这样未来可能会向着好的方面发展。”

“那么公布预言书的结果呢？”叶崇羽问。

“非常糟糕！”曾文逊双手一摊。

“怎么回事？”叶崇羽眉头一皱。

“末日竟然提前了，从五百年后变成了一百年后！”曾文逊无奈的说。

“这是可以预料的，人的本性就是自私的。”祖崎冷漠地说。“看着这样的预言书，每个人都会为了保证自己的未来过得更好而做出反应。国家也会对其他国家进行防范，甚至先下手为强打击对方。”

“看来预言书就是潘多拉魔盒啊，曾先生你不小心调快了毁灭了世界的倒计时。”叶崇羽说。

“不过后来我们找到了解决问题的办法。那就是‘薛定谔的猫’。”曾文逊说。