1. 首页 > 百货 > 其他百货

ChatGPT之父Altman两小时对谈 首聊GPT

Altman做客油管博主Lex Fridman科技博客 ,被追问了一个又一个辛辣的问题。

长达两个小时的对谈,奥特曼从OpenAI宫斗、马斯克诉讼、Sora,一直聊到AGI与外星文明!

本文重点梳理了长对谈中的精彩部分,对于科技圈的焦点议题,奥特曼是这么说的!

1.GPT-5何时发布?

在被问到GPT-5什么时候推出时,奥特曼称:我不知道。

但他透露今年会发布一款新的模型,虽然目前还没有为该模型命名。OpenAI将在未来几个月发布许多很酷的新东西,在谈论GPT-5是否高于预期之前,有新的模型会率先发布。

在被问到GPT-5需要克服的最大障碍是什么。奥特曼觉得计算和技术方面都有涉及。“突破的关键因素是什么?是一台更大的电脑吗?还是一个新的秘诀?这些所有要素都(应该)是关联在一起的。OpenAI在这一点上做得非常好。就像Llya之前说的那样,‘我们把200个中等规模的东西相互结合,形成一个巨大的东西’。”

OpenAI采用的是分布式的、持续不断的创新方式,尤其是在技术层面上。

2.谈论AGI何时来临没有意义

奥特曼曾经非常喜欢推测AGI何时会来临。但之后他意识到这个问题构建的很糟糕。

“人们对什么是AGI有着非常不同的定义。因此,我认为讨论何时能构建执行X、Y或Z功能的AI系统更有意义,而不是讨论我们何时能到达一个模糊的界限。同时,AGI也不是结局,它更像是一个开始。为了不回避问题,我想说,我预计到20s末,或者更早,我们将拥有相当强大的系统。我们可以看到(AGI)并说,哇,如果我们现可以看到它,那真是太了不起了。”

就像艾伦·图灵,甚至是其他生活在90年代的人,如果他们有机会体验ChatGPT,哪怕是3.5版本,他们也会笃信这就是AGI。但是在奥特曼看来,GPT-3.5、GPT-4都没有真正意义上的改变世界,而只是一个“人工制品”。

奥特曼说,“现在的全球经济与我们推出GPT-4之前有什么不同吗?我想你会说没什么不同。……我认为,当一个系统能够显著提高全球科学发现的速度,那将是一个巨大的改变。我相信,大多数真正的经济增长来自于科技进步。”这一点对他所理解的AGI至关重要。

3.Q*到底是什么?

关于Q*有很多神秘传说。奥特曼说,他其实特别希望拥有一个“核设施”,但Q*真的不是。

“OpenAI 不擅长保守秘密,并且受到很多泄密的困扰。”然而,奥特曼也神秘地说,他还没有做好谈论Q*的准备。

“我们从事各种各样的研究。我们已经说过了,我们认为在这些系统中推理是我们想要追求的重要方向。我们还没有完全破解这个密码。我们对此非常感兴趣。”

奥特曼说,“在我们完全实现GPT 5之前,我们不会进行秘密构建,我们决定公开讨论GPT 1、2、3和4。部分原因是我认为AI和惊喜(像Q*)不应该放在一起。同样,这个世界、人们、机构,无论你怎么称呼它,都需要时间去适应和思考这些事情。我认为,OpenAI所做的最好的事情之一就是采取了这种策略。OpenAI让全世界关注AGI的进展,认真对待AGI,在我们像站在枪口之下一样慌张地做出决定之前,慎重考虑我们想要建立什么样的系统、结构和治理。”

4.谈Sora:理解世界了,但仍有局限

谈到Sora和世界模型,奥特曼首先反对了那些唱衰Sora的陈词滥调。回忆起第一次看到Sora的生成视频,奥特曼发现Sora较好地完成了对遮挡的生成,当遮挡物离开时,后面的物体又显现出来,让他觉得Sora的效果不错。

但是奥特曼也坦言Sora还存在一些限制,例如视频中的猫咪的躯干上会突然长出肢体。同时,他认为这些弱点的存在既是因为Sora技术路线的固有缺陷,也是由于模型体量和训练数据的限制所造成的。

奥特曼表示,在Sora的发布之前,他还需要确保模型的性能符合人们的期待,这方面还有不少的工作要做。同时,他们必须能妥善处理深度伪造的问题,确保Sora以有益的方式被使用。

在聊到艺术工作者对Sora的担忧时,奥特曼类比了摄影对于绘画的影响,认为AI只是带来了新的艺术创作形式。“YouTube上的许多视频,也许其中大多数会在制作过程中使用AI工具,但它们在根本上仍然会由人来进行构思、组合和运行。”

5.谈马斯克:尊重,未来仍能是朋友

聊到马斯克那场drama十足的诉讼案,奥特曼说他现在“还是没搞懂是怎么一回事”。

回顾OpenAI的发展史,奥特曼表示,OpenAI最初只是作为一个研究实验室,并没有明确的商业化计划。随着研究的进展,随着时间的推移,他们意识到必须调整结构,才能获得技术发展所需要的巨额资本。

奥特曼认为,马斯克的离开是因为“马斯克觉得OpenAI会失败”。“马斯克想要OpenAI完全的控制权以扭转局面,但我们希望OpenAI继续朝着现在的方向前进。同时,他想把OpenAI变成一家他管理的盈利公司或是与特斯拉进行合并。我们不想这样做。而他决定离开,这很好。”

谈到Grok的开源,奥特曼说,在人们指出Grok虚伪之前(指Grok自身未开源却起诉OpenAI),马斯克并未开源过任何东西。所以,奥特曼觉得开源并不是马斯克的直接目的,而是“醉翁之意不在酒”。

但是,奥特曼仍然非常尊重马斯克,他希望这只是一场AI领域的“友谊比赛”,并希望未来仍然能和马斯克“再续前缘”。

6.回顾“宫斗”,人生至暗时刻

奥特曼提到去年11月17日的董事会,“那绝对是我一生中最痛苦的职业经历。混乱、可耻、不安以及许多其他负面的事情。”

从宫斗开始,他开始真正意识到“通往AGI的道路会是一场巨大的权力斗争”,并着手反思如何更好地管理公司,例如了解董事会结构、与人合作的方式等,并能以一个富有弹性的组织来“尽可能地缓和权力斗争。”

回顾被罢免的过程,奥特曼表示,董事会成员总体上都是善意的人,只是在某种压力之下,人们可能做出了并不是最优解的选择。到现在,他仍然支持董事会拥有巨大的权力——只是作为非营利组织的董事会,必须要设置更多的规则,才能保证他们能对所有人负责,而不是只顾个人利益。

奥特曼也提到,他重返董事会时,同时加入了一些有丰富经验的董事会成员,以便在OpenAI接近实现AGI的过程中能更好地承受未知的风险和压力。

7.Ilya到底去哪了?

“what did Ilya see?”在社交媒体上疯传,很多流言中说,他因为看到了AGI而被OpenAI关在了某个秘密基地里做人质。

奥特曼在对谈中直接否认了这一点。他说道,“我喜欢Ilya,并且非常尊敬他。有关于他的,我觉得这应该由他自己进行回答,但我真的希望我们能继续合作。”

当被问到Ilya是否见到了AGI,奥特曼说,“他没有见过AGI,我们都没有见过AGI,我们没有创造出AGI”。不过Llya是个十分重视AGI及相关安全问题的人,并会考虑AGI对社会将产生怎样的巨大影响。

奥特曼强调Llya并未看到AGI,也提到了他们最近一次见面:Llya在和一只小狗玩得亲热,就像一部滑稽电影中的镜头一样可爱。

除了上述内容之外,奥特曼还谈到了模型的隐私问题、对谷歌Gemini的看法等话题,完整采访值得一看,感兴趣的朋友可以移步:

本网站的文章部分内容可能来源于网络和网友发布,仅供大家学习与参考,如有侵权,请联系站长进行删除处理,不代表本网站立场,转载者并注明出处:https://jmbhsh.com/qitabaihuo/32367.html

联系我们

QQ号:***

微信号:***

工作日:9:30-18:30,节假日休息