夏商卜这一次开始重视巨脑计划,巨脑实验室来源与北电国贝尔实验室的一个分支,那里主要发展了芯片和计算机软件,据此发展出了一个智能全球指挥系统。这里早就集齐了很多有创造力的人和有创造力的思想。
这件事需要解决人工智能这件事情上有着丰富的经验,然后才可以设计出了一个新型的大型全球化的计划。
又一次会议开始召开,夏商卜认为自己必须要把自己的议案加深,可能会有不少人反对,但是时机成熟了。
雷真本人也对华罗的提案有了极大的兴趣,华罗提出了一个‘换血’的计划,是一个人工智能的治国方案,但是会议的其他成员没有赞成的,哪怕巨脑系统的人也没有几个赞成的。
夏商卜做出报告:“鉴于为了提升各个政府系统的办事效率提高,我认为把各个机关的人都换成机器人,这样机器人就不会有劳累,偏见,或者是莫名其妙的阻拦,也不会有行贿受贿的行为。”
孔丘明说:“听起来是不错,开始我心里总有担心,这样会不会出现技术上的问题?”
夏商卜说:“一开始出现一些问题是避免不了的,但是需要有人的辅助,然后问题减少的时候,慢慢的把人类换掉。”
孔丘明说:“机器人可以看懂资料?可以修改不准确的条款?可以确认人的身份?可以认识这件事情的逻辑。”
夏商卜说:“不需要认识这个事情的逻辑,但是前三个绝对是可以的。”
孔丘明说:“这样的工程是怎样进行的?”
夏商卜说:“我已经做好了这一切,第一是机器人尾随学习,让机器人跟在工作人员身后,开始进行深度学习。之后可以进行试用,做试验的进行尝试性使用,慢慢的让它适应人类的办事方式。之后再大规模的进行布置,这样的话我们就可以完全的去掉人在办公室里办公了。”
孔丘明说:“我就问一个问题,这样会导致一个不好解决的问题,就是各个机关的人反抗下岗怎么办?”
夏商卜说:“我在提出换血计划的时候,已经想好了安置各个机关的人员。这些人员保留着自己的政治岗位,对机器人进行监督活动,这样称之为人还管着机器人。”
其他人说:“这样的政府机器人不会对人类造成危害把,要知道设计很对政府机关的信息如果被不发分子掌握并利用,对人类的危害难以估量,我们恐怕别说是补救,就连反抗都不容易。”
夏商卜说:“再次声明,这种机器人政府难以变得有逻辑,它们不理解自己所做的事情,它们是一个纯粹的工具,只是一群高效率的机器。你们应该知道我的这个机器人系统不是由类似人类大脑的神经计算的,而是一个芯片装着特定的操作系统。”
那个人说:“那它们怎么能做这样的事情,再说了,如果操作系统中的这种系统经过某种复杂程度的完善,我们也难以担保它们不会变成人脑这样,搞不好还会比人脑复杂。万一机器人统治世界,我们会把自己毁灭。”
夏商卜说:“机器是人造的,不会毁灭人类。”
那个人说:“你是在假如吗?可是如果你是错的,我们的代价是惨痛的。”
孔丘明说:“即使不会出现那样的问题,可以那毕竟是一个系统,如果遇到不法黑客利用了这些导致系统瘫痪或被利用怎么办。”
夏商卜说:“政府机构会招募对付这种不法黑客的人。”
孔丘明说:“这就难说了,权利会集中在那些各种黑客的手里,连我们这些外行恐怕都弄不明白真相了,我看这事情很不安全。”
夏商卜说:“事情没有那么复杂,那些黑客还是受到我们控制的,如果有问题,其他黑客不会等闲视之。”
孔丘明冷笑一声没说话。
那个人说:“即使是不出现统治人类或者是黑客破坏的事故。那么万一出现程序上的某个漏掉,导致非人性化的事故,比如受到冤枉等等,那该怎么办?”
夏商卜说:“我知道你说的错误,在运行中就算错误,那么也会及时发现对人的损失而及时停止继续损失。”
那个人笑着说:“是机器人发现去吗?”
夏商卜说:“出现一个错误,系统可以暂停一些当前的运行,找回原来的正常的备份,然后重新办理一些手续。”
那个人说:“要停止所有系统?”
夏商卜说:“根据实际情况,不会停止所有系统,协议里有规定,只会停止一部分那些出错的系统,这些我们可以掌控。”
孔丘明说:“如何让系统在复杂的情况下完善,因为很多政府的东西都在变化,万一出现特别问题。无法预料到的。”
夏商卜说:“很好,这就发挥了政府机构中闲置公务员的功能,这个问题出现后,我们接受案例,开会议分析,之后找到方案之后,被处理问题的方法输入到数据库中。渐渐的这种政府机器人就会越来越完善。”
孔丘明说:“升级的话,会不会有什么问题?”
夏商卜说:“系统上升级不会有影响,唯一增加的是一些案例的数据。硬件变化也不会轻易改变程序运行的方式。”
孔丘明说:“说得挺好,你完成到了什么程度,可以启动了吗?”
夏商卜说:“没问题了,我所有的准备都做好了,就是等你们的同意,之后开始启动第一步计划,就是机器人跟随学习。”
雷真说:“怎么样?大家还有什么可以说的吗?”
孔丘明说:“领导,你同意吗?”
雷真说:“我同意,现在起,第一计划进行。”
夏商卜说:“人工智能本身不重要,重要的是使用者是谁?肯定是需要政府控制,但是给了马虎的人,就会出现问题,掌控人工智能核心的必须是我们大会议才可以,在这种条件下,我可以同意这一点。”