江农听了这话之后,只感觉到浑身一个激灵,因为他想起了自己在梦境当中见到的那些事情,当时张璇的尸体还是历历在目,身上连个完整的部件都没有,那样的感觉实在是让人有些难以接受。
一想到这里江农就感觉到自己浑身开始发冷,一想到文诗韵会变成那个样子,他就觉得这一切事情好像自己都无法接受,因为在面对这样的事情的时候,自己似乎全身都像被抽干了力量一样。
他这个时候忽然意识到,文诗韵对于他来说是一个非常不一样的存在,对于他的人生来讲,文诗韵就好像是一道曙光一样,照亮了他的人生,所以在这个时候他忽然意识到很多问题,那就是文诗韵的地位在自己的心中才更加的重要。
一想到这里江农就忽然一下子浑身泄了气一样,即便知道最后的结果不好,即便知道最后的结果,很有可能是失败,但是对于他来说,现在只要能够让文诗韵平平安安的,那就比什么东西都重要,江农这个时候忽然意识到了一切。
很多时候自己想要放弃的时候,每次一想到江农自己浑身就像是充满了意外,这就是那个姑娘给自己的力量,所以这个时候江农只要一想到这个姑娘,就只希望她平平安安的。
在这个时候忽然就放弃了自己的那些胆小和懦弱,在这个时候他忽然意识到这个姑娘对于自己的重量到底有多重。
“好吧,你说的确实有道理,到现在为止,我现在做的很多事情,实际上都是为了我的一己私欲,我现在会尝试着为人类考虑考虑的,不过这些事情我都会慢慢去做。”
先知听了这话之后,也是慢慢的放下了心来,这个小子很有可能在进步,过段时间就会有一个很大的蜕变,想到这里先知也知道这一次的目的达到了。
这个幻境真是帮了他很多,至少能够让这个小子这个时候真正的意识到,很多事情并不是那一个人的事情,而是属于整个人类的事情。
先知告诉他还有一段时间可以精神停留,江农趁着这个功夫,问了很多人工智能和人类的问题。
机器可以有目标吗?这个简单的问题原先引发了人类很大的争议,因为在不同人的眼中,“机器”代表的意义是不同的,常与一些棘手的问题联系起来,比如机器能否拥有意识以及它们是否有感觉等。
但是,如果问一个更实际和简单的问题:机器是否能展现出目标导向行为?那答案就很明确,它们当然可以,因为人类就是这么设计的!沈教授的研究院研究的便是这方面。
人类设计捕鼠器,让它拥有捕捉老鼠的目标;人类设计洗碗机,让它拥有洗碗的目标;人类设计时钟,让它拥有报时的目标。
实际上,当面对一台机器时,只需要关心它拥有什么目标导向行为:如果你被一枚热跟踪导弹追赶,就根本不会关心它是否有意识或者感觉。
如果你对“导弹没有意识但有目标”这种说法感到很不舒服,可以暂时把“目标”换成“用途”,两人又开始探讨意识的问题。
目前,人类建造的大部分东西都只是以目标为导向进行的设计,而没有展现出目标导向的行为:一条高速公路能有什么行为呢?
它只是静静地待在那里一动不动。然而,它为什么存在呢?最经济的解释是,它是被人设计出来实现某个目标的,因此即便它一动不动,也让人类的宇宙具有了更强的目标导向性。
“目的论”就是用目的而非原因来解释事物的一种方法。那么人类可以总结说,本章前半部分的内容说明,人类的宇宙越来越符合目的论的解释。
从较弱的意义上说,非生命物质是可以拥有目标的。不仅如此,它的目标性正变得越来越强。如果你从地球形成之初就开始观察地球上的原子,可能会注意到目标导向行为的三个阶段:
第一阶段,所有物质似乎都在努力实现耗散的目标,即熵增;
第二阶段,其中一些物质拥有了生命,转而聚焦于子目标;
第三阶段,生物重新排列的物质越来越多,以实现自己的目标。
可以看出从物理学的角度来看,人类在地球上已经具备了相当高的优势地位:人类身体的总质量已经超过了除牛以外的其他所有哺乳动物,牛的数量实在太多了,因为人类需要它们提供肉类和乳类产品。
并且人类的机器、道路、房子等工程的总质量,也似乎很快就能赶上地球上所有生物的总质量了。
换句话说,即使不发生智能爆炸,很快地球上大部分展现出目标导向性质的物质都会是设计出来的,而不是进化出来的。
建筑物、道路、汽车这类工程实体似乎很快就要赶上植物和动物这类进化出来的实体了。
这种设计出来的“第三类”新型目标导向行为的物体可能比它的产生过程更加多姿多彩,所有进化而来的物体都有一个共同的目标,即复制。
而设计出来的物体却可能拥有各种各样的目标,甚至拥有相反的目标。比如烤箱的目标是加热食物,而冰箱的目标则是冷冻食物。
发电机将动能转化为电流,而电动机将电流转化为动能。标准象棋程序想要赢得比赛,而还有一种程序参赛的目标是输掉象棋比赛。
设计产品还有一个历史趋势:它们的目标不仅变得越来越多样化,而且变得越来越复杂,人类的机器变得越来越聪明了。
最早的机器和人造物的目标都很简单,比如房子的目标是让人类保持温暖、干燥和安全。
后来,人类逐渐学会了建造拥有目标更加复杂的机器,比如扫地机器人、自己飞行的火箭和无人驾驶汽车。
人工智能方面的进展还给人类带来了像深蓝计算机、沃森和AlphaGo这样的系统,它们的目标分别是赢得象棋比赛、猜谜游戏和围棋比赛。这些目标都十分复杂,人们费尽心思才理解了它们高超的技艺。
当人类建造机器来帮助人类时,可能很难保证它们的目标与人类的完全一致。譬如说捕鼠器可能会错把你的脚趾头当成饥饿的老鼠,结果让你疼得龇牙咧嘴。
所以机器都是拥有有限理性的主体,即便是今天最复杂精巧的机器,对世界的理解程度也远远比不上人类人类。因此它们行事的规则通常过于简单。
那只捕鼠器总是乱夹是因为它完全不知道什么是老鼠;同样地,许多致命工业事故之所以会发生,正是因为机器完全不知道什么是人,而2010年导致华尔街“闪电崩盘”事故、造成万亿美元损失的计算机,也完全不知道它们的行为是胡作非为。
如果机器变得更聪明,就能解决许多“目标一致性”问题,但是正如人类从普罗米修斯故事中所看到的那样,日益聪明的机器智能也可能给人类带来新的挑战,因为人类必须保证它们与人类的目标一致。
机器变得越智能和越强大,保证它们的目标与人类的相一致就越重要。如果人类建造的机器比较愚钝,那问题就不是“人类目标最后会不会胜出”,而是“在人类搞明白如何解决目标一致性的问题之前,这些机器会带来多少麻烦”。