首页 科技快讯 OpenAI AGI时间表疑似泄露,神秘模型Q*细节曝光

OpenAI AGI时间表疑似泄露,神秘模型Q*细节曝光

来源:晰数塔互联网快讯 时间:2024年03月04日 20:37

马斯克的一纸诉状再次将 OpenAI 推上风口浪尖,或许还把 GPT-5 的发布时间推迟了。

这场官司的焦点主要归纳为以下几个方面:

OpenAI 的开源承诺和实际行动之间的矛盾;

OpenAI 与微软的合作是否背离了其最初的开源原则;

OpenAI 的治理结构和决策过程,特别是与 AGI 相关的发展。

开源和闭源的较量

作为联合创始人,埃隆·马斯克在 OpenAI 创立之初,便致力于打造一个开放的人工智能研究机构,推动技术的透明度和共享,确保人工智能的进步能够惠及全人类。

他曾在采访中透露,OpenAI 的名字是他所起,并强调自己在招募关键科学家和工程师方面发挥了重要作用。

据《纽约时报》报道,在 Google 收购 DeepMind 后,虽然马斯克凭借投资大赚了一笔,但他并不希望 AI 被 Google 这样的大型公司所控制。

因此,马斯克在 2015 年联合他的前 PayPal 伙伴以及其他投资者承诺向 OpenAI 这个项目投入 10 亿美元,并让当时 30 岁的 Sam Altman 协助运营。为了启动这个项目,他们甚至从 Google 挖来了 Ilya Sutskever。

将时间拨回上个月,马斯克还在 X 平台上分享了多张 OpenAI 早期的珍贵照片,记录了英伟达 CEO 黄仁勋在 2016 年向马斯克和 OpenAI 捐赠首台 DGX-1 AI 系统的场景。

To Elon & the OpenAI Team! To the future of computing and humanity. I present you the World's First DGX-1!            

致埃隆和 OpenAI 团队!致计算和人类的未来。我为你们呈上全球首台 DGX-1!

诉讼文件还详细列出了他在 OpenAI 起步阶段的财务支持,在 2016 年至 2020 年间总计捐赠超过 4400 万美元,并成为当时最大的捐赠者。

起诉风波发酵之后,迅速卷起了舆论风暴,不少赞成马斯克的网友们纷纷成为了马斯克的忠实粉丝,而反对者则纷纷发声,不乏“格局小了”等批评言论。

但随着马斯克公开一份秘密的“电子邮件”,舆论的风向标开始迅速调转。

这封邮件是在 OpenAI 成立前夕,马斯克于 2015 年 6 月发给 Sam Altman 的,内容涉及了 OpenAI 的使命、团队规模、治理结构、技术所有权、研究人员的回报以及监管信函的发布策略。同时邮件中提到的内容也与 OpenAI 现在官网上的宗旨相呼应。

1. 我们的使命是创造首个通用人工智能,并将其用于增强个人能力,即创建一个看似最安全的分布式未来版本。更广泛地说,安全性应该是我们的首要考虑。

2. 我认为我们最好从一个 7 到 10 人的小团队开始,并计划从此基础上扩大。我们在 Mountain View 有一座额外的建筑,可以供他们使用。

3. 关于治理结构,我建议我们起初由5人组成,包括你、[空白]、[空白]、[空白]和我。技术归基金会所有,旨在“造福世界”。对于如何应用这些技术的不明确情况,由我们五人作出决定。

研究人员将获得重大的财务回报,但这与他们的研发成果无关,这样可以避免一些利益冲突(我们会提供具有竞争力的薪酬,并通过 YC 股权分享增值收益)。我们将持续讨论哪些成果应公开,哪些不应公开。我们计划最终找人来负责团队,但这个人最好不要参与治理委员会。

4. 除了参与治理,你是否还会以其他方式参与?我认为这对于确保工作朝着正确的方向发展、吸引顶尖人才非常重要。理想情况下,你能定期来访,每月或根据需要与他们讨论进展。我们通常称这种有限参与 YC 的人为“兼职合伙人”(例如,我们和 Peter Thiei 就是这样合作的,虽然他现在参与得非常深入),但我们可以根据你的偏好来命名。即使你实际上没有太多时间参与,但如果能公开表示支持,也将极大助力于团队的招募工作。

5. 关于监管信函,我认为最好的策略是等到这个项目启动后再发布,届时我可以附上一条信息,比如“现在我们已经开始这项工作,我深入思考了世界为了安全需要设定的限制。”我完全尊重你选择不作为签名人。我也相信,一旦信函发布,会有更多人愿意支持我们的立场。

尽管曝光邮件的行为引发了一些争议,但这封邮件无疑将马斯克置于道德的制高点上。

被“伤透了心”的马斯克不仅要求赔偿,更关键的是质疑 OpenAI 不够 Open,要求恢复开源的状态。在他眼中,在 Altman 带领下的 OpenAI 成为微软旗下的“闭源子公司”,是对成立初衷的“背叛”。

更何况,自诩 Open 的 OpenAI 最近似乎也越来越封闭了。

今年 1 月,《连线》杂志注意到 OpenAI 在透明度方面就有所降低。自成立之初,OpenAI 一直对外承诺开放其内部文件。

然而,当《连线》杂志试图获取这些文件时遭到了 OpenAI 的拒绝,后者解释称,根据 2022 年起的新政策,OpenAI 将不再对外公布除必要信息之外的内部资料。

与此同时,截然相反的是,譬如 Meta 的 LLaMA、 AI 界开源黑马 Mistral AI 等开源模型的发展却如火如荼。相比之下,OpenAI 的闭源做法显得尤为突出,一度成为了口诛笔伐的对象。

作为开源理念的拥趸,图灵奖得主 Yann Le Cun 也曾多次批评 OpenAI,此前的采访中,在之前的访谈中,他与马斯克一样,公开表达了对 OpenAI 的不满,认为尽管 OpenAI 保持了一定程度的自主性,但实际上已经成为了微软的合同研究机构。

他进一步强调,OpenAI 已经“不再开放”,并预测 OpenAI 不会成为首个实现通用人工智能 AGI 的公司。

除了外部的批评,OpenAI 的资深员工也表达了自己的看法。前 OpenAI 开发者关系主管 Lenny Rachitsky 在一连串风波之中发布了一条耐人寻味的推文:“开源人工智能对开发者、企业和整个人类社会都是有益的。”

随后他解释说:“这并不是批评那些不开放源代码的公司。这并不意味着开源人工智能模型没有潜在风险。开放性是一个范围,很多人没有意识到这一点。这并不是我立场的转变,我在职业生涯早期就投身于开源工作。”

微妙的是,马斯克旗下的 xAI 团队即将发布 GroK 1.5。如今,无论马斯克的动机是为了人类还是个人利益,他现在起诉 OpenAI,更像是一场关于安全和开源的宫斗大戏的重演。

通往 AGI 之路,还有五年?

诉讼文件有一个论点格外显眼,即马斯克认为 GPT-4 已经具备 AGI 的雏形。而对于 AGI 的到来日期,AI 业界的大佬们一直有不同的看法。

例如,在人工智能博客节目上,DeepMind 联合创始人兼 CEO Demis Hassabis 则表示:“如果我们在未来十年内拥有类似 AGI 的系统,我不会感到惊讶。”

近日,英伟达创始人黄仁勋在斯坦福经济政策研究峰会上表示,AGI 的实现时间很大程度上取决于目标的定义。如果定义是通过人类测试的能力,那么这一目标可能在五年内实现。

作为目前最接近 AGI 的 OpenAI,一份疑似内部人士泄露的文件显示,他们的目标则是在 2027 年内实现 AGI。

OpenAI 在 2022 年 8 月开始训练一个拥有 125 万亿参数的多模态模型。第一阶段被称为 Arrakis 或 Q*。该模型在 2023 年 12 月完成训练,但由于高推理成本过高而取消发布。

Gobi(GPT-4.5)被重新命名为 GPT-5,因为原计划在 2025 年发布的 GPT-5 已被取消。Q* 的下一阶段原计划为 GPT-6,后更名为 GPT-7(计划在 2026 年发布),但因马斯克的诉讼而被搁置。

GPT-8 则计划在 2027 年发布,旨在实现完全的 AGI。

Q* 2023 = IQ 达到 48    

Q* 2024 = IQ 达到 96(延迟)    

Q* 2025 = IQ 达到 145(延迟)

这份长达 53 页的文件指出,参数类似于生物大脑中的突触,是神经元之间的链接,人类大脑中的突触数量大约为 100 万亿个,而 AI 模型的性能似乎可以通过参数数量来预测。大约 100 万亿参数的规模被认为足以达到人脑的水平。

文件还提到了 OpenAI 的新策略———Chinchilla 缩放定律,它表明即使模型参数数量不是最优的,但通过在更多数据上进行训练,性能可以轻松超越人类水平,而 OpenAI 正在将这一缩放定律应用于 Q* 模型的训练。

(附上文件地址:https://drive.google.com/file/d/1xlRDbMUDE41XPzwStAGyAVEP8qA9Tna7/view)

需要说明的是,虽然文件列举的资料详实,但其真实性尚未得到验证,仅作参考。

作为此次舆论漩涡中心的主角,Sam Altman 最近曾表示,GPT-5 将实现指数级的飞跃,人类距离实现 AGI(通用人工智能)已近在咫尺,我们即将见证这一历史性时刻的到来。

然而,面对这次诉讼事件中,Altman 一直保持着沉默。直到昨天,他才意味深长地连发了两条推文:

飓风已经愈来愈猛烈,但风暴中心却仍然保持着平静。        

这一切都发生过,这一切都还将再次发生。

本文来自微信公众号:APPSO (ID:appsolution),作者:莫崇宇

相关推荐

OpenAI AGI时间表疑似泄露,神秘模型Q*细节曝光
OpenAI神秘“Q*项目”曝光:Sam Altman被开除的根源?
马斯克状告OpenAI:称自己被骗惨了,要求赔钱、开源
站在AGI的大门前,为何我们开始感到恐惧?
全网大讨论:引爆OpenAI全员乱斗的Q*到底是什么?
为什么OpenAI可以跑通所有AGI技术栈?
消息称阿尔特曼遭罢免原因在于 OpenAI 认为Q*技术突破将威胁人类
她35岁,OpenAI神秘CTO
OpenAI的Q*没有毁灭人类,却打了学术界的脸
ChatGPT一周年,差点吓死OpenAI

网址: OpenAI AGI时间表疑似泄露,神秘模型Q*细节曝光 http://www.xishuta.com/newsview110575.html

所属分类:行业热点

推荐科技快讯