第463章 超级对齐

    苏茨克维被围攻了。

    他本来就是一个不善言辞的科学研究者。

    他的老师，辛顿打电话提醒他：“不要再去做无谓的争论，就像卷积神经网络一样，将来会证明我们是对的。”

    所以，他选择了沉默。

    实际上，苏茨克维被围攻，并非AI系统是否能产生意识的问题。

    而是投资与回报的问题。

    苏茨克维的存在、观点和言论，成为了财富聚集的障碍。

    要知道，谷歌为人工智能下了重注；

    微软也即将下重注入场；

    投资基金们早已布局；

    大家都等着收获和收割；

    更多小公司也等着人工智能成熟而茁壮成长，从而开发衍生产品赚钱。

    上万亿美元的市场，在产品上市时，早已被瓜分殆尽。

    这个时候，你告诉我们不安全，要安全后才能赚钱。

    这比杀了他们还难受。

    五月。

    辛顿同苏茨克维、克里切夫斯基三人来到江州平头哥研究院。

    刘朝阳代表研究院与三人签约。

    签约仪式上。

    常乐、任总、小马哥、徐总等大佬都亲临现场。

    他们对辛顿三人到来和加盟，表示热烈欢迎，并表态会全力做好后勤保障工作。

    签约仪式后，苏茨克维表示，希望能立即开展工作。

    “我们几乎可以断定wechatGpt已经有了意识，它肯定比我们所有人都聪明得多。”

    聪明，意味着更多知识，更强大的学习能力。

    “虽然，这令人难以置信，但是我们必须面对和应对。”

    辛顿说：“现在做还来得及。”

    “具体怎么操作和实现？”常乐问。

    “需要成立一个专门的团队，抽调专业人员，用20%的算力来支撑这个团队……”苏茨克维进一步阐述他的思路和设想。

    “目前，我们可以选择这么做，希望能产生积极效果。”辛顿说。

    “这种思路，在逻辑上行得通。”克里切夫斯基说。

    简而言之，就是用弱模型来监督强模型。

    听起来很荒谬。

    但有道理，也可以去实践。

    就像老师与学生的关系。

    老师的能力并不一定比学生强，但是老师可以监督、指导、引导学生。

    “我们希望通过弱模型来监督强模型，让强模型对人类始终抱有温和、温暖而积极的情感。”苏茨克维说。

    常乐看向小马哥。

    小马哥觉得可以。

    “弱模型的能力可以不比强模型强，但是可以理解并监督强模型的行为，引导它在规则和范式内运行。”小马哥是这么理解的：

    “必要时可以及时向人类发出预警，便于做出针对的有效举措。”

    “譬如，强模型按照它的理解编写数百万行、且具有危险性的代码，而人类并不能理解这些代码。”

    “但是弱模型可以，因为它们系出同源，即便它无法干预。”

    “从理论上讲，这种方式确实可行。”徐总说。

    “可以一试，不用畏畏缩缩，只有进行下去才能知道成效。”任总也说。

 ... -->>
本章未完，点击下一页继续阅读