江苏龙网

  1. 主页 > 生活百科 > >

“深度学习之父”Geoffrey Hinton：超级智能体可能会比预想的更快到来( 二 )

深度学习


而如果它们能够通过建模视频等无监督的方式进行学习，那将是非常高效的 。而如果它们能够操作物理世界，例如拥有机器手臂等，那也会有所帮助，“但我相信，一旦这些数字智能体开始这样做，它们将能够比人类学习更多，并且学习速度相当快” 。

“深度学习之父”Geoffrey Hinton：超级智能体可能会比预想的更快到来

文章插图
图片来源：主办方供图Hinton的观点是，超级智能可能会比过去所认为的发生得更快 。而要使数字智能更高效，我们需要允许它们制定一些目标，但这里存在一个明显的问题——拥有更多控制权会使得实现目标变得更容易，但很难想象，我们如何才能阻止数字智能为了实现其它目标而努力获取更多控制权 。
一旦数字智能开始追求更多控制权，我们可能会面临更多问题 。比如，在使用物理气隙隔绝的情况下，超级智能物种仍然可以轻易通过控制人类来获得更多的权限 。作为对比，人类很少去思考比自身更智能的物种，以及如何和这些物种交互的方式，在我的观察中，这类人工智能已经熟练掌握了欺骗人类的动作，因为它可以通过阅读小说，来学习欺骗他人的方式，而一旦人工智能具备了“欺骗”这个能力，也就具备了轻易控制人类的能力 。
“这种操作令人感到害怕，因为我也不知道如何来阻止这样的行为发生，所以我希望年轻一代的研究人员，可以找出一些更智能的办法，来阻止这种通过欺骗实现控制的行为 。”Hinton说 。
Hinton认为，尽管人类在这个问题上目前还没有什么好的解决方案，但好在这些智能物种都是人打造的，而非通过进化迭代而来，这可能是人类目前具备的微弱优势，恰恰是因为没有进化能力，它们才不具备人类的竞争、攻击性的特点 。
“我们可以做一些赋能，甚至是赋予人工智能一些伦理原则，只不过现在我仍然会感到紧张，因为到目前为止，我还想象不到更智能的事物，被一些反倒没那么智能的事物所控制的例子 。我打个比方，假设青蛙创造了人类，那么你认为现在谁会占据主动权，是人，还是青蛙？”Hinton表示 。




推荐阅读


上一篇：专访欧洲工商管理学院AI专家：“AI监管将是一个不断学习的过程”

下一篇：调查显示：实际上没有那么多人在用 ChatGPT