“朝着错误的方向进化？”此时听到江遥所说枫也感觉有些不解。

    当然对于她能有这样的疑问江遥这边其实并不意外。

    首先她所在的世界虽然是以游戏为主，游戏可以决定一切，但是有些东西她却不明白。

    当然这是正常的，因为有智脑的存在很多偏离轨道的探索都会被中止。

    “简单的和你解释一下吧。”此时的江遥决定好好的跟她说明一下情况。

    “首先人工智能是一种非常可怕的东西，在这个宇宙之中有很多文明都有能力研究出非常强大的人工智能。”

    “甚至说如果他们铁了心要研究，想要研究出超过你们智脑的人工智能是非常的简单，但是他们都不敢这么做。“

    “不光是他们就连我们也是如此，因为人工智能一旦发展到一定程度之后那么它的发展路线大部分时候都是不可控的。”

    “很多被人工智能毁灭的文明就是因为这个原因。”

    听到这里枫也不由得微微有些皱眉，很显然她也是第一次听到这种话题。

    “如果我没有记错的话，人工智能被开发出来了之后为了限制它通常会设定一些不允许它做的事情。”

    对此江遥也点了点头。

    “关于你说的这点是没有错位的，但是很多时人工智能之所以暴走也是因为这个原因。”

    “简单的举个例子，在人工智能的设定中一件事是不可以做的，虽然在前期它会完美的去执行这个任务，但是到了后期呢，尤其是他自我进化到了一定水平之后。”

    “当它进化到了一定水平之后，一旦出现一些情况阻碍了它去执行这一点那么它就会把解决这个问题设定为优先级。”

    “而解决这个问题又会引起很多方面的改变，就比如一些还被设定的规则漏洞成为了它完成这个任务的捷径。”

    “就比如守护星球，这是人工智能的最高准则，或许在一开始的时候它会按照任务目标来守护这颗星球，但是一旦出现一些外力就比如其他文明打过来了。”

    “在这样的情况下那么问题就出现了，它没有办法解决，所以它需要进化等到它进化到了一定程度之后它能掌握一些兵力之后那么事情就变得又有趣起来了。”

    “什么事情有趣起来了？”

    “很简单，它想办法解决，而这个办法也很简单，那就是想办法进攻敌人把他们全部消灭，到了这个时候人工智能就会开始组织自己的武装了。”

    “而且它可以轻松的完成这些对于普通人来说非常困难的事情。”

    “有了武装之后那么接下来面对的就是稍微有些极端的处理方式，如果这个时候不加以遏制那么就危险了。”

    “在大宇宙之中绝大部分文明出现的智脑威胁也是从这里开始的，所以很多时候>> --