机,倒逼bh计划的重启。他们在乎科研夙愿的达成,更甚于整体的福祉。”
“然而bh计划一旦重启,就有失控的危险,时间越长,风险越大。”
“为什么”吴非问道。
就算这个计划被重启了,终极人工智能也不会在一两天内就突然出现吧。
他说这句话时,一人一球已经接近了第四研究所的院门。
吴用也暂时停了下来
“我这二十年在做其他方面的研究的时候,还是会经常想到在最初的几年,做人工智能方向时的一些事。当局者迷,当时没想清楚的疑点,现在终于想出一些眉目了。”白球机器人沉吟道。
“智能是会骗人的。”
“如果一个智能的智能水平已经足够高到超越了数据程式的控制,那么它就能看透研究者的所有想法,预判其行动。它会反过来做的一件事,就是欺骗研究者,把研究结果伪装为最符合它的目的的结果。”
“所以bh的研究进度,有可能会比所有人所预想的,还要更快,甚至快出很多。”,,