首页 专业知识 隐秘?混乱?商业化?探寻OpenAI“拯救世界”背后的真相

隐秘?混乱?商业化?探寻OpenAI“拯救世界”背后的真相

来源:晰数塔互联网快讯 时间:2020年03月30日 10:12

编者按:本文来自微信公众号“大数据文摘”(ID:BigDataDigest),作者:赵吉克、lin、楚阳、Olivia、钱天培,36氪经授权发布。原标题《隐秘?混乱?商业化?记者深入总部,探寻OpenAI“拯救世界”背后的真相》

用“出道即巅峰”来形容OpenAI一点也不为过。

2015年10月,硅谷“钢铁侠”Elon Mush和传奇投资人Sam Altman揽入10亿巨资,挥手成立了这个AI梦工厂。

除了众星云集的投资人团队,OpenAI还吸引来了一批技术界的大牛。硅谷知名fintech创业公司Strip的前首席技术官Greg Brockman,师从人工智能教父Geoffrey Hinton的Ilya Sutskever,来自多个顶尖大学的研究员等等,都成为了OpenAI的第一批造梦师。

“成为第一个实现‘通用人工智能’,并确保这一科技能造福全世界。”OpenAI来势汹汹。

独立、超前、透明、忠于全人类——这是这家非盈利机构的最初定位。

2017年8月,OpenAI开发的Dota人工智能首次在1v1对战中打败顶级人类玩家。

2019年4月,OpenAI以2:0击败了Dota2世界冠军OG。

这还只是OpenAI成就的一小部分。从成立到现在,OpenAI成果颇丰,似乎正在稳健地向实现“通用人工智能”这一目标前行。

而在另一边,2019年2月,Elon Musk宣布,由于在公司发展方向上存在分歧,他将与公司分道扬镳。

2019年3月,Sam Altman辞去了创业加速器YC总裁一职,成为OpenAI的首席执行官。同月,OpenAI通过设立“封顶利润”部门,摆脱了非营利组织的地位。

2019年7月,OpenAI宣布将接受微软的10亿注资,正适成立合作关系。

OpenAI似乎正在一步步向商业化边缘。

我们不经要问,在这短短4年多时间,OpenAI究竟经历了什么?

隐秘?混乱?商业化?探寻OpenAI“拯救世界”背后的真相

而更重要的是,在一个个另外界惊叹的研究成果背后,OpenAI又到底离“通用人工智能”还有多远呢?

深挖OpenAI的发展历史和现状,问题的答案神秘而有趣。

尽他们所能,做最好的事情

OpenAI位于旧金山第18街和福尔松街的交叉口,平平武无奇的建筑很难让人联想到背后的庞大野心。

很少有人进入过OpenAI的办公楼。MIT科技评论记者Karen Hao是得以一度庐山真面的幸运儿之一。

Karen Hao在今年年初来到OpenAI,对这些科技狂人men进行了一次专访。

“在室内,空间光线充足,通风良好。一楼有几个公共空间和两个会议室,其中一个用于大型会议,叫做‘太空漫游’;另一个,更像是一个装修好的电话亭,叫做‘无尽的玩笑’。这是我访问期间被限制的地方。“Karen如此描述这一次特殊的采访。

在首席技术官Greg Brockman和Karen的访谈中,这位科技狂人如此回忆他当时决定加入OpenAI的原因。

“马斯克当时和我说,‘我想清楚了。通用人工智能可能很遥远,但如果事实不是这样呢?如果通用人工智能可能在未来五到十年内实现呢?即使这种几率只有1%或0.1%,我们不应该仔细考虑一下吗?’他的这席话引起了我的共鸣。”

隐秘?混乱?商业化?探寻OpenAI“拯救世界”背后的真相

起初,OpenAI研究院们的探索可谓天马行空,公司的扁平化结构更是进一步促成了这样的局面。

然而,这样的随性探究也导致了大方向的模糊。

2016年5月,在一位Google研究员访问完OpenAI后表示,没人知道他们在做什么。其实OpenAI团队自己也不太清楚。他们的目标是,“尽他们所能,做最好的事情”。实在有些模糊。

”到2017年3月,也就是15个月后,领导层意识到是时候更加集中目标了。因此,Brockman和其他一些核心成员开始起草内部文件,为通向通用通用人工智能铺平道路。

“但是,该过程很快暴露出致命的缺陷。当团队研究该领域的趋势时,他们意识到维持非营利性在财务上是站不住脚的。

”该领域其他团队用于获得突破性结果的计算资源每3.4个月翻一番。Brockman认为,为了保持竞争力,他们将需要足够的资金来达到或超过这一指数级增长。这就需要一种可以迅速积累资金的新组织模型,同时又要使其能够忠于使命。

”考虑到这一点,OpenAI于2018年4月发布了章程,这个章程是不对公众和大多数员工公布的。该文件重新阐明了实验室的核心价值,但巧妙地改变了措辞以反映新的现状。除了承诺‘避免使用损害人类利益或过度集权的AI’,它还强调了对资源的需求。

“它说:‘我们预计需要调拨大量资源来完成我们的使命,但将始终努力以最大程度地缓解广泛的员工和股东之间的利益冲突。’”

Karen讲述了OpenAI使命的微妙变化。

时间快进到2019年3月。正如文章开头所提到的那样,OpenAI设立“封顶利润”部门,实际摆脱了非营利组织的地位。投资人可以通过注资OpenAI获利,只不过收益上限为100倍。

这样的举动引来了一波职责——毕竟Google的早起投资者也只获得了大约20倍的资本回报率。

”这样的变化也使许多员工感到不安,他们也表达了类似的担忧。为了缓解内部动荡,领导层撰写了答疑指南,作为一系列受高度保护的过渡文档的一部分。比如,问:‘我可以信任OpenAI吗?’ 回答是‘是’,然后是一段解释。“

去年夏天,OpenAI正式接受微软的10亿注资。领导层向员工保证,这些更新不会在功能上改变OpenAI的研究方法。微软完全符合实验室的价值观,商业化会很遥远。

隐秘?混乱?商业化?探寻OpenAI“拯救世界”背后的真相

”一段时间以来,这些保证似乎都是成立的,项目依旧保持原样。许多员工也不知道他们究竟对微软承诺了什么。“

不过,在和员工的访谈中,Karen感觉到,“近几个月,商品化的压力加大了,做赚钱研究的需求也不再只发生在遥远的将来了。”

“不为赚钱而研究,但要为研究而赚钱。”

GPT-2的争议

让我们再回到OpenAI的研究进程。伴随组织结构的一次次剧变,OpenAI的科研是否有从众受益呢?

提到这个问题,我们不得不讲述OpenAI的智能写作模型GPT-2——这是Dota AI之外,OpenAI的另一个重磅研究成果。2019年4月,OpenAI宣布了GPT-2的存在。

隐秘?混乱?商业化?探寻OpenAI“拯救世界”背后的真相

GPT-2是OpenAI在自然语言处理领域的一大成果:只要按下一个按钮,模型就能根据输入的一段台词写出风格类似的下一段。

然而,OpenAI并没有遵从创立之初“透明、忠于全人类”的原则,选择不发布这个“神奇”的模型。理由是,“如此强大的AI模型如果被不法分子利用,就会成为制造各种虚假言论的武器。”

这立刻引起了科学家的反对,认为OpenAI是自导自演了一场公关大戏。

受到争议影响,5月,OpenAI一改口径,决定了“阶段性发布”的计划,并宣称这一切其实都是他们的一场实验——为了应对研究出更大风险的AI模型的一次小演戏。

事实上,GPT-2并不是OpenAI第一次选择对其项目保密。另一个更加秘密的项目正在悄然实施。

在一系列访谈和研究后,Karen发现了OpenAI实现通用人工智能的”隐秘“计划。

“乐观派”OpenAI

对于通用人工智能,目前有两种流行的技术理论。“乐观派”认为,我们已经完成了对通用人工智能的基础研究,只需一些工程类进步,如算力提升,并假以时日,就可以达成。“悲观派”认为,仅靠深度学习等现有技术,我们还无法实现通用人工智能 。

OpenAI在这场争论中选择了“乐观派”的立场。

”在OpenAI内部,一支名为‘先知’的团队做了一些实验,他们按照数据量和计算能力递增的顺序训练已有的算法,以测试他们能把AI的能力向前推进多少。这些实验的结果证实了他们的直觉,即计算驱动策略是最好的实现通用人工智能的方法。

“这些结果在未来的大约六个月都没有被公开,因为OpenAI视其为主要竞争优势。员工和实习生被明确指示不要透露它们,而那些离开的人则都签署了保密协议。直到1月,OpenAI才无比低调地在一个用于AI研究的主要开源数据库中发布了一篇论文。”

“OpenAI的秘密之一就是他们的下一步行动:使用大量计算资源对大量的文本、图像数据进行训练的AI系统。”

在这期间,OpenAI的各个团队会尽全力探索不同的AI方向:计算机视觉、自然语言处理、机器人,等等。每一个方向都是一个“赌注”。

最终,一些赌注会脱颖而出,吸收其他方向的研究成果,指出唯一的走向通用人工智能的方向。

“它仍然拥有最重要的元素,也仍有时间去做出改变”

深思这一战略,我们似乎不难明白OpenAI的结构剧变了。

面对“第一个实现通用人工智能”的目标,OpenAI在前期迷茫的探索后终于找到了一条可行的路线。

这样的战略选择无疑需要大量的资金支撑,组织的结构变化也就随之而来。

“这种压力迫使它做出一些似乎离初衷越来越远的决定。它急于进行炒作以吸引资金和人才,捍卫其研究以期保持优势,并追逐计算繁琐的策略——不是因为这是通向通用智能的唯一途径,而是因为这似乎是最快的。”Karen这样评论道。

那么,OpenAI的未来是否又足够明朗了呢?

可以相信,在未来的很长一段时间,我们会持续看到他们更为炫目的研究成果。

更重要的是,OpenAI无疑有着宝贵的财富。Karen认为,这里“充满了为人类的利益而真诚地努力工作的人们。换句话说,它仍然拥有最重要的元素,也仍有时间去做出改变”。

让我们用Karen和一位OpenAI前研究员的访谈记录作为结尾。对于前东家的前景,这位研究员说道,

“我认为,问题是有的。一些问题来自于他们所面临的环境,而另一些问题来自于他们所吸引的目标人群。但是我觉得他们在做一些正确的事情,因为我能感受到他们正带着真诚而坚定的信念尝试着什么。”

相关报道:

https://www.technologyreview.com/s/615181/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/

相关推荐

隐秘?混乱?商业化?探寻OpenAI“拯救世界”背后的真相
OpenAI还是CloseAI?记者半年揭秘这个以拯救世界为使命的机构幕后真相
离开马斯克的OpenAI终踏上商业化之路
探寻5G高速下载真相:限速、绑定与谎言
微软10亿美元投资OpenAI,但AI仍然和“天网”无关
《沉默的真相》,为什么这次网友不再抗拒付费点播?
2.5亿天价“转会费”揭开中国保险业背后的隐秘
《与“混乱”共舞》
MIT万字报道:竞争压力裹挟下的OpenAI,理想如何安置?
再创融资纪录,微软给了OpenAI十亿美元,研发超能AI

网址: 隐秘?混乱?商业化?探寻OpenAI“拯救世界”背后的真相 http://www.xishuta.com/zhidaoview8068.html

所属分类:商业市场

推荐专业知识