在人工智能领域，超级智能（Superintelligence）的概念如同一颗璀璨的星辰，引领着无数科研者和企业巨头向前探索。这一超越通用人工智能（AGI）的更高维度，寄托着人类对于智能极限的无限遐想。
近期，科技巨头meta的一则消息震动了业界——他们以天价年薪招募AI人才，旨在打造一个秘密的“超级智能”实验室。据称，该实验室将获得数十亿美元的巨额投资，彰显了meta等头部企业对于超级智能技术的狂热追求。无独有偶，OpenAI、Anthropic以及Google DeepMind等公司也纷纷表态，将致力于超级智能机器的研发。
然而，超级智能的实现路径究竟何在？现有的大语言模型（LLM）研究能否引领我们走向这一终极目标？关于这些问题，业界内部存在着激烈的争论。
OpenAI的首席执行官Sam Altman曾表示，构建AGI是一个科学问题，而超级智能则是一个工程问题。这一言论似乎暗示了OpenAI对于超级智能构建路径的某种自信。然而，meta AI的研究员Jack Morris却对此持不同看法。他认为，当前基于LLM的强化学习（RL）路径根本无法实现超级智能。
Morris在博客“Superintelligence, from First Principles”中，提出了构建超级智能的三种可能方式：完全监督学习（SL）、来自人类验证者的RL以及来自自动验证器的RL。他进一步指出，将非文本数据整合到模型中并不能带来整体性能的提升，因为人类撰写的文本具有某种内在价值，而这种价值是纯粹的感官输入所无法比拟的。
那么，在追求超级智能的道路上，数据究竟扮演着怎样的角色？Morris认为，文本数据是通向超级智能的关键。他指出，目前最好的AI系统都依赖于从互联网文本数据中学习。尽管图像、视频等非文本数据在AI领域具有广泛应用，但在构建超级智能方面，这些数据的价值尚未得到明确证实。
关于学习算法的选择，Morris同样提出了独到的见解。他认为，SL和RL是构建超级智能的两种基本方法。然而，单纯的SL或RL都存在着局限性。因此，结合SL与RL的方法或许能够为超级智能的实现提供新的思路。
在SL方面，Morris提到了scaling laws的重要性。然而，他也承认，随着模型规模的扩大和数据量的增加，继续扩展SL面临着巨大的挑战。硬件短缺、电力短缺以及数据墙等问题正逐渐凸显出来。
而在RL方面，Morris认为，虽然RL具有通过学习反馈来优化模型的能力，但冷启动问题、奖励稀疏性以及模型探索性等方面的挑战仍然不容忽视。因此，结合人类验证者和自动验证器的RL方法或许能够为超级智能的实现提供新的突破点。
值得注意的是，DeepMind的AlphaGo通过结合SL与RL的方法，在围棋领域取得了举世瞩目的成就。这一成功案例为超级智能的实现提供了有益的借鉴。然而，围棋作为一种具有固有可验证性的任务，其成功经验能否顺利迁移到其他领域仍然是一个未知数。
尽管如此，OpenAI等AI实验室仍然对于基于LLM的RL方法充满了信心。他们认为，通过构建大量适用于不同任务的RL环境，并训练LLM同时处理所有这些任务，或许能够逐步逼近超级智能的目标。
然而，Morris对此持谨慎态度。他认为，即使RL方法能够在可验证任务上取得显著成效，其迁移能力仍然是一个亟待解决的问题。训练模型解决数学问题是否能够自然地教会它如何预订机票？在可验证环境中训练模型提升编程能力，是否能使其成为更优秀的软件工程师？这些问题仍然困扰着AI研究者们。
在追求超级智能的道路上，AI研究者们正不断探索着新的方法和路径。尽管面临着诸多挑战和不确定性，但他们坚信，通过不懈的努力和创新，人类终将揭开超级智能的神秘面纱。
