第461章 必须积极面对

    李飞立即打电话告诉常乐、任总和徐总。

    上述三人，当天下午就聚集平头哥研究院的Ai大楼。

    三人看完前后两次的问答内容后，都陷入沉思。

    许久，徐总说：“既然列出了时间表，就说明模型应该已经有了时间概念。”

    常乐问：“那为什么第二次又问不出了？”

    徐总说：“可能……是在有意识的隐藏自己？”

    常乐说：“但是不可能啊，4000多亿的参数，怎么可能产生意识？涌现的基本条件都不具备。”

    任总说：“这期间一定发生了我们所不知道的事情。”

    “建议和这位提问的工程师好好回忆，看看有哪些细节是我们忽略的。”

    常乐说：“我已经告诉马总了，他那边尽快赶过来，辛顿教授也会来。”

    徐总问：“哦？说动了？”

    “这是必然，有意识的语言模型，任何一名科学家、学者都会有浓厚兴趣。”

    第二天上午，小马哥出现在江州平头哥研究院。

    与之一同前来的还有辛顿、苏茨克维和克利切夫斯基师生三人。

    辛顿对4000多亿参数就能产生意识，既惊讶，又好奇，更多是担心。

    如果一切都是真的，它是人类新纪元的开端，还是末日来临的序幕？

    辛顿联系了两名得意门生，苏茨克维、克利切夫斯基一听，二话不说紧随而来。

    当辛顿、苏茨克维和克利切夫斯基三人在小马哥带领下，跨过平头哥研究院大门时，心里有种激动情绪在喷涌。

    西方媒体一直在丑化、恶魔化乐达投资。

    称其为“强盗”“小偷”“野蛮人”“秃鹫”……

    但是对于平头哥研究院，评价却相对客观，认为这里是东方世界的科研圣地。

    陶铝材料至今仍未被西方的研究机构揭开神秘面纱，认为这是上帝杰作；

    固态电池从这里走向世界，改变了全球新能源发展格局；

    至于“乙克”，则拯救了全球4亿人。

    尽管它内外有别、价格歧视，被人诟病，却依然被认为是拯救病人的“福音”。

    进入AI大楼。

    在小马哥介绍下，辛顿、苏茨克维和克利切夫斯基三人一一和常乐、任总、徐总、刘院士等大佬握手。

    然后就将注意力集中到模型上。

    辛顿教授查看了wechatGpt的算法，以及训练思路。

    然后再与那位问答工程师交流一番。

    最后他肯定说：

    “你们一直走在正确的道路上，迭代的速度超出了想象，领先了全球……”

    “我想，它应该是有了意识，而且是那种很高级的意识……”

    “我不确定它为什么要隐藏自己，但想来不太会是好事。”

    苏茨克维说：“你们注意，在问答上，它已经没有恒定、固定的回答，总是会在细微处自行调节。”

    “那我们究竟该怎么应对？”小马哥问。

    “必须要积极去面对，它的智慧很可能已经超越人类。”苏茨克维严肃地说:

    “其实，我一直在思考这个问题，思考如何培育出风险可控的AGI。”

    “我认为，必须要有一整套超级对齐的思维。”

    “如果不这么做，自然选择与对进化的本能渴望，将会占领AGI，让它视自己的生存为最重要的事……”

    超级对齐，是苏茨克维一直思考的问题。

    即如何让AI系统发展的终极目标，符合人类的价值观和利益。

    “我强烈建议，成立一个专门的超级对齐部门，制定一整套故障安全程序来监督wechatGpt的运行和发展。”

    “在这套故障安全程序正式运行并有成效前，不要对外开放。”

    “它监督的内容包括网络信息安全、是否教唆实施犯罪行动、是否泄露核机密或生化武器技术等……”

    苏茨克维的话引起了众人的思考。

    已经退休的克利切夫斯基... -->>
本章未完，点击下一页继续阅读