58看书网

手机浏览器扫描二维码访问

第二百一十五章 智能与反制（第3页）

搞定了人类后，隔壁老王就进入了明目张胆期，然后继续朝它那好好写字的目标迈进。

一旦超人工智能出现，人类任何试图控制它的行为都是可笑的。

人类会用人类的智能级别思考，而超人工智能会用超人工智能级别思考。

隔壁老王想要用互联网，因为这对它来说很方便，因为一切它需要的资源都已经被互联网连起来了。

但是就好像猴子不会理解怎么用电话或者wifi来沟通一样，我们同样没有办法理解隔壁老王可以用来和周围世界交流的方法。

比如我可以说隔壁老王可以通过移动自己的电子产生的效果来产生各种对外的波，而这还只是我这人类的大脑想出来的，老王的大脑肯定能想出更神奇的方法。

同样的，老王可以找到给自己供能的方法，所以就算工程师把它的插头拔了也没用；比如说老王可以通过发送波的方式把自己上传到其它地方。

人类说：“我们把超人工智能的插头拔了不就行了？”

就好像蜘蛛说：“我们不给人类捉虫的网把人类饿死不就行了？”

都是可笑的。

因为这个原因，“把人工智能锁起来，断绝它和外界的一切联系”

的做法估计是没用的。

超人工智能的社交操纵能力也会很强大，它要说服你做一件事，比你说服一个小孩更容易。

而说服工程师帮忙连上互联网就是隔壁老王的A计划，万一这招行不通，自然还有别的方法。

当我们结合达成目标、非道德性、以及比人类聪明很多这些条件，好像所有的人工智能都会变成不友善的人工智能，除非一开始的代码写的很小心。

可惜的是，虽然写一个友善的弱人工智能很简单，但是写一个能在变成超人工智能后依然友善的智能确实非常难的，甚至是不可能的。

明显的，要维持友善，一个超人工智能不能对人有恶意，而且不能对人无所谓。

我们要设计一个核心的人工智能代码，让它从深层次的明白人类的价值，但是这做起来比说起来难多了。

比如，我们要让一个人工智能的价值观和我们的价值观相仿，然后给它设定一个目标——让人们快乐。

当它变得足够聪明的时候，它会发现最有效的方法是给人脑植入电极来刺激人脑的快乐中枢。

然后它会发现把人脑快乐中枢以外的部分关闭能带来更高的效率。

于是人类全部被弄成了快乐的植物人。

如果一开始的目标被设定成“最大化人类的快乐”

，它可能最终先把人类毁灭了，然后制造出很多很多处于快乐状态的人类大脑。

当这些事情发生的时候，我们会大喊“擦，我们不是这个意思呀”

，但是那时已经太晚了。

系统不会允许任何人阻挠它达成目标的。

如果你设定一个人工智能的目标是让你笑，那它的智能起飞后，它可能会把你脸部肌肉弄瘫痪，来达成一个永远笑脸的状态。

如果你把目标设定成保护你的安全，它可能会把你软禁在家。

如果你让他终结所有饥荒，它可能会想：“太容易了，把人类都杀了就好了。”

如果你把目标设定成尽量保护地球上的生命，那它会很快把人类都杀了，因为人类对其它物种是很大的威胁。

所以这些简单的目标设定是不够的。

如果我们把目标设定成“维持这个道德标准”

，然后教给它一些道德标准呢？

就算我们不考虑人类根本没法达成一个统一的道德标准，就算我们真的达成了统一的道德标准，把这套标准交给人工智能来维持，只会把人类的道德锁死在现在的水平。