从GPT到“草莓”：OpenAI的野心与安全困境_财经资讯

OpenAI的秘密武器：草莓和猎户座，人工智能新纪元？

元描述： OpenAI正在秘密开发具有强大推理能力的新型AI模型"草莓"，并计划将其用于训练下一代旗舰模型"猎户座"，以应对日益激烈的AI竞争。然而，安全问题成为了OpenAI发展道路上的最大障碍，并引发了外界对该项目的质疑。

引言： 曾经，一道看似简单的数学题“9.11 和 9.9 哪个更大”就难倒了众多AI大模型，暴露了它们在推理方面的局限性。然而，局势似乎正在发生翻天覆地的变化。OpenAI正在秘密研发一款名为“草莓” (Strawberry) 的新型AI模型，其强大的推理能力有望彻底改变现有游戏规则，并为公司未来的发展方向指明道路。

OpenAI的秘密武器：草莓

“草莓”的出现，象征着OpenAI在人工智能领域的又一次重大突破。据 The Information 报道，这款神秘的 AI 模型预计将在今年秋季正式亮相，并有可能作为 ChatGPT 的一部分推出。OpenAI 希望通过“草莓”筹集更多资金，并找到减少亏损的方法，因为该公司在今年的亏损额可能高达 50 亿美元。

“草莓”的强大之处在于它拥有非凡的推理能力。它可以解决前所未有的数学问题，这对于现有的聊天机器人来说是一个难以克服的挑战。它还可以解决涉及编程的问题，并超越了仅仅回答技术性问题的范畴。如果给予足够的时间，“草莓”甚至可以回答用户更“主观”的问题，例如产品营销策略。

为了展现“草莓”在语言方面的实力，OpenAI 的研究人员向内部同事展示了它如何解决《纽约时报》上刊登的复杂字谜游戏。这足以证明“草莓”在语言理解和逻辑推理方面的非凡能力。

数学推理的意义

现有的 AI 模型在解决航空航天和结构工程等需要大量数学计算的领域表现并不理想。因此，能够解决复杂数学问题的 AI 模型将成为一个极具潜力的应用方向。为了提高模型的推理能力，一些初创公司尝试将问题分解成更小的步骤，但这种方法既耗时又昂贵。

“草莓”的出现，为解决这一难题提供了一种新的思路。它强大的数学推理能力不仅能够帮助 AI 模型更好地处理对话查询，例如客户服务请求，还能为 OpenAI 即将推出的 AI 代理服务提供强有力的支持。

不仅仅是“草莓”：猎户座的崛起

OpenAI 对“草莓”的期望远不止将其作为商业模型推向市场。更重要的是，它将成为训练下一代旗舰模型“猎户座” (Orion) 的关键。

“猎户座”的目标是超越现有的 GPT-4 模型，帮助 OpenAI 在对话式 AI 或大型语言模型领域保持领先地位，并应对来自资金雄厚竞争对手的挑战。

合成数据的优势

“草莓”将被用来生成大量高质量的训练数据，这些数据被称为“合成数据”。这意味着 OpenAI 可以克服获取足够高质量数据的限制，利用从互联网上提取的文本或图像等现实世界数据来训练“猎户座”。

使用“草莓”生成更高质量的训练数据可以帮助 OpenAI 减少其模型产生的错误数量，即所谓的“幻觉”。“幻觉”是当前生成式AI 的一个重大限制，会导致 AI 经常生成看似合理但实际上不正确的答案。

OpenAI 的下一步：猎户座

OpenAI 首席执行官阿尔特曼在今年五月份的一次活动中表示：“我们认为我们拥有足够的数据来开发下一个模型。我们已经进行了各种实验，包括生成合成数据。”他提到的可能是“猎户座”模型，并暗示了它将使用“草莓”生成的合成数据进行训练。

安全问题：悬在“草莓”和“猎户座”头上的乌云

然而，“草莓”和“猎户座”的开发并非一帆风顺。安全问题始终是 OpenAI 在人工智能发展道路上必须面对的巨大障碍。

“草莓”项目起源于 OpenAI 前首席科学家 Ilya Sutskever 的早期研究，OpenAI 研究人员 Jakub Pachocki 和 Szymon Sidor 在 Sutskever 的工作基础上开发了一种新的数学求解模型 Q*。

在 2023 年底，有关 OpenAI 的 Q* 项目的消息泄露，一些专家将该技术定性为人工智能 (AGI) 的重大突破，但人们对它知之甚少。这也让一些专注于人工智能安全的研究人员感到震惊。

安全争议与信任危机

这件事情发生在去年 OpenAI 罢免阿尔特曼事件之前。据知情人士爆料，此前 OpenAI 员工之间就公司是否以足够安全的方式开发人工智能展开了激烈争论。安全问题也是罢免阿尔特曼后公司内部损害控制的一个重要主题，当时罢免的发起人正是 Sutskever。

此后，安全问题就一直困扰着 OpenAI。在阿尔特曼重返 OpenAI 后，负责 OpenAI 安全团队的成员也相继离开了公司。

今年五月份离职的 OpenAI “超级对齐”团队领导人 Jan Leike 在社媒平台 X 上写道：“过去几年，安全文化和流程已经退居次要地位，而闪亮的产品则成为重中之重。”

透明度与安全隐患

鉴于今年早些时候几位安全部门领导人离职，以及美国参议员伊丽莎白·沃伦等美国政府高官对于技术安全问题的批评，OpenAI 决定提升对政府官员的透明度。

The Information 援引一位了解相关会议情况人士的消息称，今年夏天，在一些并未公开的会议上，阿尔特曼的团队向美国国家安全官员展示了“草莓”模型。

报道指出，通过向政府官员展示一项尚未发布的技术，OpenAI 可能为人工智能开发者树立了新标准，尤其是在先进人工智能日益成为潜在安全隐患的今天。此次演示可能是 OpenAI 努力向政策制定者提高透明度的一部分，但如果政策制定者认为该项技术对国家安全形成威胁，那么他们可能给公司带来麻烦。

开源的呼声

然而，一些业界人士对此并不买账，因为 OpenAI 并未向公众提升透明度。AI 初创公司 Abacus. AI 的 CEO Bindu Reddy 表示，OpenAI 将他们最好的大模型藏在背后，以此来取得领先优势。“如果没有开源 AI，我们都会完蛋，我们可能会把文明的控制权交给 1 到 2 家公司。”Bindu Reddy 说。

结论：机遇与挑战并存

“草莓”和“猎户座”的出现，标志着 OpenAI 在人工智能领域迈出了新的步伐，也引发了人们对于人工智能未来发展方向的思考。强大的推理能力和合成数据的优势为 AI 技术的发展带来了新的机遇，但也伴随着安全风险和信任危机。OpenAI 需要平衡技术进步与社会责任，确保人工智能的发展能够造福人类，而不是带来灾难。

常见问题解答

1. “草莓”和“猎户座”分别是什么？

“草莓”是一个强大的 AI 模型，拥有非凡的推理能力，可以解决复杂的数学问题和编程问题。OpenAI 计划将其用于训练下一代旗舰模型“猎户座”。

2. “猎户座”的目标是什么？

“猎户座”的目标是超越 GPT-4，成为 OpenAI 在对话式 AI 或大型语言模型领域的领先产品，并与其他竞争对手抗衡。

3. OpenAI 为什么选择使用合成数据？

合成数据可以帮助 OpenAI 克服获取足够高质量数据的限制，并提高 AI 模型的准确性和可靠性。

4. OpenAI 如何提升对政府官员的透明度？

OpenAI 向美国国家安全官员展示了“草莓”模型，旨在增强政府对该技术的了解，并争取他们的信任。

5. 为什么要关注 OpenAI 的安全问题？

因为 OpenAI 开发的 AI 模型具有强大的能力，如果它们被恶意使用，可能会对社会造成巨大危害。

6. 开源 AI 意味着什么？