OpenAI CEO首次在中国演讲，杨立昆反击5年内GPT将被抛弃( 二 ) _OpenAI

“我们看到了美国、中国和世界各地的研究人员合作实现 AI 目标的巨大潜力，大家都致力于解决通用 AI 技术挑战。我相信我们将能够利用通用 AI 来解决世界上最重要的问题，并显著改善人类的生活质量。”奥尔特曼在演讲结尾表示。
随后智源研究院理事长张宏江博士对话奥尔特曼。
张宏江抛出了一些关于 AI 安全的关键问题，而奥尔特曼现场透露了关于 AI 安全、开源计划以及是否会短期内有GPT-5等信息，钛媒体App梳理出其中回答的几个关键内容：
奥尔特曼认为，在10年内全球将可能拥有一个强大的 AI 系统，我们要立刻做好准备。
在世界巡回之后，奥尔特曼发现，人们非常认真地对待通用 AI 的风险和机遇。他直言，全球合作总是困难的，但这是一种机遇，AI 确实让世界走到了一起，他可以为系统提出一个框架和安全标准。奥尔特曼强调，我们必须设计公平、具有代表性和包容性的 AI 系统。
他特别引用了老子《道德经》中的话：千里之行，始于足下。他认为，当下可以迈出的最有建设性的一步，是国际科技界间的通力合作。
奥尔特曼在对话中赞扬，中国拥有一些世界上最优秀的 AI 人才。考虑到解决 AI 系统对齐的困难需要来自世界各地最好的头脑，所以他真的希望，中国的 AI 研究人员能够在 AI 风险方面做出巨大的贡献。
下一步，OpenAI 对于强大 AI 大模型的技术重点是训练，而且他准备在全球建立一套数据库，以反映全球 AI 的价值观和偏好，以及开发表格来分享 AI 安全研究。
当张宏江提问：OpenAI会开源大模型吗？奥尔特曼表示，我们未来会有更多开源，但没有具体模型和时间表。
当被问及通用AI和大模型的下一步是什么？会很快看到GPT-5吗？奥尔特曼表示，我也很好奇，我们没有答案。我们不会很快有GPT-5 。
对于为什么要发展OpenAI，奥尔特曼表示，当开始做OpenAI 的时候，我们认为成功的可能性很低。但如果要弄清楚如何构建AGI，OpenAI要推进 AI 变革。当然，作为其中的一部分，OpenAI必须确保安全，但对社会的好处是巨大的。“我真的相信这（AGI）将是社会所建立的最具变革性的东西。”
奥尔特曼会后还发推文对这次受邀演讲表示感谢。

文章插图
不过有趣的是，在奥尔特曼演讲期间，下一位演讲者加州伯克利分校教授、计算机科学家斯图尔特·罗素（Stuart Russell）低头修改 PPT，完全没有在看奥尔特曼。
他甚至在演讲时直言：通用人工智能（AGI）还没达到，大语言模型只是其中一块拼图，我们连拼图最终会是什么样子，缺哪些还不确定。他表示，ChatGPT和GPT-4没有在“回答”问题，它们不理解世界。

文章插图
这一定程度上似乎能说明 AI 学术界对于奥尔特曼这种“打太极”观点的认同程度。
杨立昆对战Max Tegmark：
【OpenAI CEO首次在中国演讲，杨立昆反击5年内GPT将被抛弃】到底应乐观发展 AI 还是加强控制？
除了奥尔特曼，6月9日智源大会上还有一场比较精彩的演讲，凌晨4点在法国连线的“图灵奖”得主、“深度学习三巨头”之一、Meta首席人工智能（AI）科学家杨立昆（Yann LeCun），以及未来生命研究所创始人、知名的物理学家和 AI 科学家Max Tegmark的演讲和对话交流，共谈 AI 风险与挑战。
杨立昆认为，我们应该乐观发展人工智能，现在远没到紧张的时候。但TegMark则直言，现在就要加强管控 AI 技术。
在演讲中，杨立昆拿出了反击GPT的逻辑：自回归模型根本不行，因为它们没有规划，推理的能力。单纯根据概率生成自回归的大语言模型从本质上根本解决不了幻觉，错误的问题。在输入文本增大的时候，错误的几率也会成指数增加。

文章插图
那想要通向通用人工智能（AGI）的话，人工智能的下一步在哪里呢？
杨立昆给出的答案是世界模型。一个不光是在神经水平上模仿人脑的模型，而是在认知模块上也完全贴合人脑分区的世界模型。它与大语言模型最大的差别在于可以有规划和预测能力（世界模型），成本核算能力（成本模块）。
杨立昆认为，通过世界模型，它可以真正的理解这个世界，并预测和规划未来。通过成本核算模块，结合一个简单的需求（一定按照最节约行动成本的逻辑去规划未来），它就可以杜绝一切潜在的毒害和不可靠性。不过，对于世界模型如何学习，杨立昆只给了一些规划性的想法，比如还是采用自监督模型去训练，一定要建立多层级的思维模式。他也承认之前并没有深度学习的训练做到了这些，也没人知道怎么做。