第三百六十九章 缸中之脑
在肖云说出“欺骗”这两个字的时候,丁克脑海之中猛然也闪现出了当初从那名火星人脑海之中获取到的那一段信息。
机器人都是愚蠢的。
既然愚蠢,那就去欺骗它们好了。
丁克并不是没有就这个问题进行过思考,但在长久的思考之后,丁克最终放弃了这个想法。因为丁克面临一个无法解决的障碍。所以在此刻,当肖云说出这个词语之后,丁克几乎是下意识的就反驳道:“这不可行。”
“哦?为什么不可行?”肖云微笑着问道。
“你是在说通过欺骗手段让那些因为“分别避险”策略幸存下来的机器人放弃自我复制么?这绝对不可行。”丁克喃喃说道,“这涉及到机器人内部的逻辑判断机制,而我们……没有改变机器人逻辑判断机制的能力。我们无法让机器人相信诸如“只复制一万台机器人对自身是最好的”,又或者“维持现在情况,不去复制自身才是最好的”之类的谎言,这和机器人的逻辑判断机制冲突。还有,该如何通过欺骗手段来毁灭绝大部分的机器人?难道让它们认为烧毁发动机,烧毁芯片,又或者对自己的同类展开进攻才是有利于生存繁衍的?这同样不合理。”
“不,这很合理。”肖云叹息道,“机器人和我们人类有某些共通之处,那就是对外界所有信息的获取都基于某些器官又或者某些仪器。那么丁克,我问你,你如何确定我是真实的?你如何确定我的存在不是你脑袋里面某些部位受到刺激的结果?想象一下,说不定我根本就不存在,仅仅是你负责视觉和听觉的器官接收到了某些仪器所发送的电波的控制,你才会错误的认为我是存在着的……这不也是很合理吗?”
丁克一怔,随即说道:“缸中之脑?这没有意义。”
所谓缸中之脑是一种设想。假设一个人仅仅只有一颗大脑,这颗大脑被放在了一个充满了营养液的大缸之中,有许多电极连接着这颗大脑,通过发送不同的电流信号来刺激大脑之内诸如负责听觉、负责视觉、负责触觉、负责味觉等部位,因为这些电流刺激和人类身体内自然产生的生物电流或神经信号没有差别,那么这颗大缸之中的大脑仍旧可以感觉到这世界上的一切,所不同的是,这颗大脑所感受到的一切都是经过人工特意控制的——但作为这颗大脑本身,它是没有办法分辨这一点的。
那么由此就可以引申出很可怕的一点,那就是,作为现实世界之中的一个个活生生的人,你如何确定你是真实存在着的,而不是仅仅存在于一个大缸之中的一颗大脑?
这个问题其实是无解的,因为任何现实世界之中的证据,不管是你看到的还是听到的,你所接触到的一切,你皮肤之上偶然感觉到的一点凉意,你抚摸爱人之时那温暖的触感……一切的一切,都不能作为否认缸中之脑的证据,因为这一切都可能是电流刺激之下的产物。
但从哲学层面来说,这个问题却是很容易就可以被解决掉的。解决这个问题的依据就是奥卡姆剃刀律。奥卡姆剃刀律申明了一个思考事物的原则,那就是如非必要,勿增实体。将奥卡姆剃刀律应用到缸中之脑上来说就是,如果假设我们每一个人都不是实体,而仅仅只是缸中之脑的话,那么由此我们还需要假设许多许多东西,比如假设某个大势力拥有制造缸中之脑的实力,假设它们有这样做的动机,有这样做的技术,假设他们有办法在一开始动作的时候没有被人类文明察觉,假设……需要假设许多许多东西。而如果认为缸中之脑不存在的话,那么我们就什么假设也不需要了。
那一连串假设就是增加的实体,而这些实体是不必要的,所以它们会被奥卡姆剃刀律剃掉,所以我们认为,缸中之脑不存在,我们都是活生生的,现实存在的人。
丁克当然知道缸中之脑这个假设,也知道奥卡姆剃刀律的存在,所以丁克才会说,缸中之脑没有意义。
但肖云却对这件事情有不同的看法。看着愈发迷惑的丁克,肖云微笑着说道:“我当然知道缸中之脑没有意义,我只是想借这件事情来说明一个道理,那就是……某个存在做出什么样的判断全部是依赖于外部信息的,想要达到什么样的目的,你只需要提供给该存在相应的信息就可以了。内部的逻辑判断机制没有办法改变,但外部的信息可以被改变。”
略微沉吟一下,肖云继续说道:“打这样一个比方,假设我希望通过让你接触剧毒物质的方式来谋杀你,而你的逻辑判断机制为,看到剧毒物质就远离,防止自己受到剧毒物质的伤害,但如果我采取某种方法为你提供了错误的信息,让你认为那剧毒物质其实是无毒并且对身体有益的,那么……你会不会去接触它?而在这个谋杀过程之中,我并没有改变你的逻辑判断机制,你仍旧是你,你之所以被谋杀,仅仅因为我为你提供了错误的信息而已。
所以,原本的逻辑判断机制到底如何其实并不重要,重要的是它所接收到的信息是怎样的。信息才是一切的主宰。在不同信息的影响之下,荡女可能变成烈女,英雄可能变成窃贼,至于他们原本的逻辑判断机制,行事准则是怎样的,这并没有关系,无所谓。”
丁克的眼中出现了一些迷茫。丁克在仔细的思考着肖云的话语,许久的沉默之后,丁克发现,自己无法寻找到肖云话语之中的漏洞。
因为事实本来就是这样。
“我明白你的意思了。”丁克慢慢的点着头:“通过提供虚假信息的方式来给机器人集团造成误导——这些虚假信息是为机器人的逻辑判断机制所专门定制的,通过这种欺骗的方式,来让机器人集团按照我们的心意去行动,最终达成我们的目的……但是具体该如何来做呢?”
丁克努力的思考着这个问题,一边慢慢的说着:“要通过欺骗的方式达成两个目的,目的一,毁灭绝大部分机器人,目的二,让幸存的机器人放弃继续复制自身……唔……不对。虽然机器人集团的逻辑判断机制内有“分别避险”这一条,但这一条未必不能被我们利用,我们或许可以找到一种谎言来欺骗机器人集团放弃这一点。”
肖云淡淡笑着摇了摇头:“这大概是不行的。我大概在几年之前就已经思考到了这一步,我设想了许多种谎言试图让机器人们放弃分别避险策略,又或者让幸存机器人们放弃复制自身……但我想了好久好久,都没有想到有谎言可以做到这一点——虽然从绝对意义上来说,谎言无所不能,只要提供相应的信息,无论我们让机器人怎么做都是可以的,但这仅仅是绝对意义上的,放到现实来说,那就是谎言的难度有大有小,或许存在某种谎言可以达成这个目的,但那个谎言的难度太大了,大到我们根本就无法实现。
我一直被困扰在这一点之上,思考许久都毫无所获。但就在之前我忽然间豁然开朗,想通了这一切。我想,我们其实并没有必要非要做到这一点,非要让机器人集团们放弃分别避险策略又或者让幸存机器人们放弃复制自身——是的,没有必要,我们可以修改自己的需求,容忍幸存机器人的存在,只要想办法将它们控制在我们可以接受的范围之内就可以了。而要实现这一点的谎言,其难度大概是我们可以接受的。”
丁克仍旧在苦苦的思索着:“虽然实现这一点所需要的谎言要比“让机器人们放弃分别避险策略又或者让幸存机器人们放弃复制自身”所需要的谎言难度要低,但从绝对意义上来说,它的难度仍旧很高。那么我们又该用什么样的谎言才能实现这一点呢?”
肖云笑着回答道:“我也不知道该用什么样的谎言来实现这一点,但我想,既然我们工作的大方向已经确定了……将它完善,然后具体执行的难度一定不会太高。不过有一个前提原则,那就是,既然我们要对机器人集团展开欺骗攻势,我们就一定要做到没有死角,欺骗攻势要覆盖到所有机器人之上,不能有一台机器人逃脱。只要有一台机器人逃脱,我们的计划说不定就会毁于一旦。”
丁克说道:“我明白这一点。请你放心,我所开发的天花病毒虽然杀伤力仍旧有所欠缺,但我敢保证,任意一台机器人,只要它会和其余的机器人通讯,那么它就一定会被感染。天花病毒到达哪里,我们的欺骗攻势就可以到达哪里。”
肖云点了点头:“这也正是我要找你合作的原因。”
请收藏本站:https://www.biquge777.com。笔趣阁手机版:https://m.biquge777.com
机器人都是愚蠢的。
既然愚蠢,那就去欺骗它们好了。
丁克并不是没有就这个问题进行过思考,但在长久的思考之后,丁克最终放弃了这个想法。因为丁克面临一个无法解决的障碍。所以在此刻,当肖云说出这个词语之后,丁克几乎是下意识的就反驳道:“这不可行。”
“哦?为什么不可行?”肖云微笑着问道。
“你是在说通过欺骗手段让那些因为“分别避险”策略幸存下来的机器人放弃自我复制么?这绝对不可行。”丁克喃喃说道,“这涉及到机器人内部的逻辑判断机制,而我们……没有改变机器人逻辑判断机制的能力。我们无法让机器人相信诸如“只复制一万台机器人对自身是最好的”,又或者“维持现在情况,不去复制自身才是最好的”之类的谎言,这和机器人的逻辑判断机制冲突。还有,该如何通过欺骗手段来毁灭绝大部分的机器人?难道让它们认为烧毁发动机,烧毁芯片,又或者对自己的同类展开进攻才是有利于生存繁衍的?这同样不合理。”
“不,这很合理。”肖云叹息道,“机器人和我们人类有某些共通之处,那就是对外界所有信息的获取都基于某些器官又或者某些仪器。那么丁克,我问你,你如何确定我是真实的?你如何确定我的存在不是你脑袋里面某些部位受到刺激的结果?想象一下,说不定我根本就不存在,仅仅是你负责视觉和听觉的器官接收到了某些仪器所发送的电波的控制,你才会错误的认为我是存在着的……这不也是很合理吗?”
丁克一怔,随即说道:“缸中之脑?这没有意义。”
所谓缸中之脑是一种设想。假设一个人仅仅只有一颗大脑,这颗大脑被放在了一个充满了营养液的大缸之中,有许多电极连接着这颗大脑,通过发送不同的电流信号来刺激大脑之内诸如负责听觉、负责视觉、负责触觉、负责味觉等部位,因为这些电流刺激和人类身体内自然产生的生物电流或神经信号没有差别,那么这颗大缸之中的大脑仍旧可以感觉到这世界上的一切,所不同的是,这颗大脑所感受到的一切都是经过人工特意控制的——但作为这颗大脑本身,它是没有办法分辨这一点的。
那么由此就可以引申出很可怕的一点,那就是,作为现实世界之中的一个个活生生的人,你如何确定你是真实存在着的,而不是仅仅存在于一个大缸之中的一颗大脑?
这个问题其实是无解的,因为任何现实世界之中的证据,不管是你看到的还是听到的,你所接触到的一切,你皮肤之上偶然感觉到的一点凉意,你抚摸爱人之时那温暖的触感……一切的一切,都不能作为否认缸中之脑的证据,因为这一切都可能是电流刺激之下的产物。
但从哲学层面来说,这个问题却是很容易就可以被解决掉的。解决这个问题的依据就是奥卡姆剃刀律。奥卡姆剃刀律申明了一个思考事物的原则,那就是如非必要,勿增实体。将奥卡姆剃刀律应用到缸中之脑上来说就是,如果假设我们每一个人都不是实体,而仅仅只是缸中之脑的话,那么由此我们还需要假设许多许多东西,比如假设某个大势力拥有制造缸中之脑的实力,假设它们有这样做的动机,有这样做的技术,假设他们有办法在一开始动作的时候没有被人类文明察觉,假设……需要假设许多许多东西。而如果认为缸中之脑不存在的话,那么我们就什么假设也不需要了。
那一连串假设就是增加的实体,而这些实体是不必要的,所以它们会被奥卡姆剃刀律剃掉,所以我们认为,缸中之脑不存在,我们都是活生生的,现实存在的人。
丁克当然知道缸中之脑这个假设,也知道奥卡姆剃刀律的存在,所以丁克才会说,缸中之脑没有意义。
但肖云却对这件事情有不同的看法。看着愈发迷惑的丁克,肖云微笑着说道:“我当然知道缸中之脑没有意义,我只是想借这件事情来说明一个道理,那就是……某个存在做出什么样的判断全部是依赖于外部信息的,想要达到什么样的目的,你只需要提供给该存在相应的信息就可以了。内部的逻辑判断机制没有办法改变,但外部的信息可以被改变。”
略微沉吟一下,肖云继续说道:“打这样一个比方,假设我希望通过让你接触剧毒物质的方式来谋杀你,而你的逻辑判断机制为,看到剧毒物质就远离,防止自己受到剧毒物质的伤害,但如果我采取某种方法为你提供了错误的信息,让你认为那剧毒物质其实是无毒并且对身体有益的,那么……你会不会去接触它?而在这个谋杀过程之中,我并没有改变你的逻辑判断机制,你仍旧是你,你之所以被谋杀,仅仅因为我为你提供了错误的信息而已。
所以,原本的逻辑判断机制到底如何其实并不重要,重要的是它所接收到的信息是怎样的。信息才是一切的主宰。在不同信息的影响之下,荡女可能变成烈女,英雄可能变成窃贼,至于他们原本的逻辑判断机制,行事准则是怎样的,这并没有关系,无所谓。”
丁克的眼中出现了一些迷茫。丁克在仔细的思考着肖云的话语,许久的沉默之后,丁克发现,自己无法寻找到肖云话语之中的漏洞。
因为事实本来就是这样。
“我明白你的意思了。”丁克慢慢的点着头:“通过提供虚假信息的方式来给机器人集团造成误导——这些虚假信息是为机器人的逻辑判断机制所专门定制的,通过这种欺骗的方式,来让机器人集团按照我们的心意去行动,最终达成我们的目的……但是具体该如何来做呢?”
丁克努力的思考着这个问题,一边慢慢的说着:“要通过欺骗的方式达成两个目的,目的一,毁灭绝大部分机器人,目的二,让幸存的机器人放弃继续复制自身……唔……不对。虽然机器人集团的逻辑判断机制内有“分别避险”这一条,但这一条未必不能被我们利用,我们或许可以找到一种谎言来欺骗机器人集团放弃这一点。”
肖云淡淡笑着摇了摇头:“这大概是不行的。我大概在几年之前就已经思考到了这一步,我设想了许多种谎言试图让机器人们放弃分别避险策略,又或者让幸存机器人们放弃复制自身……但我想了好久好久,都没有想到有谎言可以做到这一点——虽然从绝对意义上来说,谎言无所不能,只要提供相应的信息,无论我们让机器人怎么做都是可以的,但这仅仅是绝对意义上的,放到现实来说,那就是谎言的难度有大有小,或许存在某种谎言可以达成这个目的,但那个谎言的难度太大了,大到我们根本就无法实现。
我一直被困扰在这一点之上,思考许久都毫无所获。但就在之前我忽然间豁然开朗,想通了这一切。我想,我们其实并没有必要非要做到这一点,非要让机器人集团们放弃分别避险策略又或者让幸存机器人们放弃复制自身——是的,没有必要,我们可以修改自己的需求,容忍幸存机器人的存在,只要想办法将它们控制在我们可以接受的范围之内就可以了。而要实现这一点的谎言,其难度大概是我们可以接受的。”
丁克仍旧在苦苦的思索着:“虽然实现这一点所需要的谎言要比“让机器人们放弃分别避险策略又或者让幸存机器人们放弃复制自身”所需要的谎言难度要低,但从绝对意义上来说,它的难度仍旧很高。那么我们又该用什么样的谎言才能实现这一点呢?”
肖云笑着回答道:“我也不知道该用什么样的谎言来实现这一点,但我想,既然我们工作的大方向已经确定了……将它完善,然后具体执行的难度一定不会太高。不过有一个前提原则,那就是,既然我们要对机器人集团展开欺骗攻势,我们就一定要做到没有死角,欺骗攻势要覆盖到所有机器人之上,不能有一台机器人逃脱。只要有一台机器人逃脱,我们的计划说不定就会毁于一旦。”
丁克说道:“我明白这一点。请你放心,我所开发的天花病毒虽然杀伤力仍旧有所欠缺,但我敢保证,任意一台机器人,只要它会和其余的机器人通讯,那么它就一定会被感染。天花病毒到达哪里,我们的欺骗攻势就可以到达哪里。”
肖云点了点头:“这也正是我要找你合作的原因。”
请收藏本站:https://www.biquge777.com。笔趣阁手机版:https://m.biquge777.com