神秘代号 Q* 到底是什么？OpenAI 是否偷偷创造了一种类似人脑的智能？

‍‍ OpenAI 潜在通用人工智能（AGI）突破了我们的认知。

撰文：Thomas Smith

编译：元宇宙之心

今年早些时候，OpenAI 的首席执行官 Sam Altman 在 Reddit 论坛上发表了一篇帖子，让科技界陷入疯狂：「AGI 已在内部实现。」

AGI 是通用人工智能（Artificial General Intelligence）的缩写——是人工智能研究的圣杯。从本质上讲，真正的 AGI 是一种类似人类大脑的智能，能够进行推理、创造性思维，甚至可能产生自我意识。

Altman 发布实现 AGI 的消息惊天动地——其重要性就好比顶尖科学家发布「核聚变成功了」，或者特朗普发布「我放弃参加选举」。

Altman 后来表示，这个帖子只是开个玩笑。但围绕他最近下台的戏剧性故事，这一说法受到质疑。

有报道称，在 Altman 被解雇之前，OpenAI 董事会得知一个重大突破。泄露的文件显示，这一突破与一个代号为 Q* 的新模型有关。

OpenAI 究竟是否真的实现了 AGI？Q* 是什么，对人工智能的未来意味着什么？让我们一探究竟。

01.基础数学的重要性

关于 Q*（读作 Q-star）的大部分信息都基于路透社的报道。这家新闻媒体采访了 OpenAI 的几位匿名消息人士，并获得了有关这项所谓新突破的内部文件，其中包括公司首席科学家致董事会的一封秘密信函。

他们的报道显示，Q* 在 OpenAI 内部引起了轩然大波，因为它能完成以前任何大型语言模型都做不到的事情：基础数学。

起初，这似乎并不是什么大不了的事。自 20 世纪 50 年代以来，简单的计算器就能够进行基本数学运算。但使用大型语言模型（或 Q* 可能使用的任何架构）实现这一里程碑，实际上是一个巨大的突破。

02.Q* 与人类大脑

如果路透社的报道是正确的，这表明 OpenAI 可能已经创造了这样一种混合系统，使用的是硅和计算机芯片，而不是神经元和生物电缆。

据报道，Q* 能够进行符号推理，即使目前还处于非常低的水平，但这表明它可能已经成功开发出 Smolensky 提出的那种连接主义「虚拟计算机」系统。

与人类大脑一样，这将赋予新模型以直观和创造性思维的能力，同时也能切换到符号推理模式，并解决像数学问题这样有单一正确答案的问题。

因此，能够进行基本数学运算并不是 OpenAI 突破的重点。相反，据报道，神经网络模型已经开发出这种能力，表明该模型在模仿人类大脑的基本能力方面迈出了重要一步。

这一飞跃很可能是 OpenAI 董事感到恐慌的原因。如果 Q* 朝着更类似大脑的架构迈出了一大步，随着其扩展，它可能会发展出与人脑相似的其他能力。

对于人工智能末日论者来说，这足以让他们彻夜难眠，或者导致一位受欢迎的首席执行官惊慌失措地下台。

03.不至于毁灭世界

与那些末日论者的担忧相反，Q* 可能不会毁灭世界。即使该模型已经实现了先前仅限于人类大脑的突破，也并不意味着它具有超级智能、意识，甚至达到了通用人工智能的水平。

如果报道属实，这意味着 OpenAI 在创造有用的人工智能方面又领先竞争对手一大步。

在自然语言处理、药物发现和数学等领域，一个既能凭直觉又能用符号进行推理的模型将极为重要。这些领域需要创造性和逻辑性的融合，而目前的大语言模型很难做到这一点。例如，理解语言需要理解含义，同时还需要掌握语法等确定性基础知识。

目前的大语言模型可以在统计学的基础上理解语言，预测在给定文本中可能存在的单词。但是，他们并不能真正理解所有人类语言所具有的基本符号逻辑，也不能真正理解产生含义的词汇之间的联系。

像 Q* 这样的模型，如果真的能将符号推理和直觉推理融为一体，就有可能将文本分解为语法构成部分，充分理解上下文，然后创造出与训练数据毫无统计关系的全新文本或观点。这将赋予它巨大的创造力。

同样，如果一个系统既能够理解像蛋白质折叠过程这样的确定性数学，又能更直观地了解人体机能，那么它可能会以极快的速度发明有用的新药物。

即使 Q* 已经存在，它可能也不会立即面向公众。正如这样的系统可以彻底改变药物制作或创意写作，它也可能擅长发明生化武器或编造令人信服、难以察觉的宣传。在 Q* 这样的系统公开之前，OpenAI 需要应对这些风险。

不过，如果有关 Q* 的报道是准确的，那就说明 Altman 在 Reddit 上关于 AGI 的暗示并不是在故弄玄虚。

尽管它可能还没有出现，但像 Q* 这样的系统将是人工智能的一个巨大飞跃——其功能更像人脑，和我们人类一样具有推理和创造力。