您现在的位置是：主页 > 科技圈快讯 > 人物 >
吴恩达与LeCun直播反击马斯克：在未发明汽车的情况下谈安全带毫无意义
发布时间：2023年04月08日 11:54:21 人物 人已围观
简介大模型研究面临紧迫形势，吴恩达和LeCun亲自举行直播以呼吁行动。随着马斯克等人推动停止GPT-5研发，反对声音持续上升，已有超过13500人签署联名，彰显事态的严峻性。...
大型模型研究不能停止！
吴恩达与LeCun为此专门举办了一次直播洽谈，毕竟不采取行动，局势将会更加严峻：
马斯克等人要求暂停GPT-5的研发问题再度升级，目前已有超过13500人签名支持这一请求。
双方坦率地表示，暂停人工智能研究是反智的表现：
暂停AI研究六个月，才是对社会造成真正的重大损害。
真正需要监管的是AI的应用产品，而非其背后的研究。
此前关于停止更强大版本的AI实验的呼声中，深度学习领域的三巨头之一Yoshua Bengio已表示支持，Hinton则未签名，但认为“暂停的时间应该超出六个月”。
在此次直播中，吴恩达与LeCun不仅阐述了各自的观点，还回应了众多网友提出的关切问题。
观看直播和回放的观众认为，这段视频比起在推特上的发言，提供了更多的背景信息和语调的微妙差异。
AGI从实验室逃出来，值得担忧吗？
LeCun指出，当前人们对人工智能的担忧和恐惧可以分为两个方面：
首先是关于未来的担忧，即AI不受控制、可能逃离实验室，甚至支配人类的种种猜测。
其次是与现实相关的担忧，即AI在公平性、偏见方面的缺陷以及对社会和经济的影响。
对于第一种担忧，他认为未来的AI不会再是像ChatGPT这样的语言模型，它无法对虚构的事物制定安全规则。
例如在汽车未被发明之前，如何设计安全带呢？
对于第二类担忧，吴恩达和LeCun一致认为监管是必要的，但不能以牺牲研究和创新为代价。
吴恩达表示，AI在教育、医疗等领域创造了巨大的社会价值，帮助了许多人。
暂停AI研究反而会给这些人带来伤害，并且减缓价值的创造。
LeCun指出，“AI失控”或“统治人类”的末日论让公众对AI产生了不切实际的期待。
ChatGPT之所以引发这种情绪，主要是因为其语言表达流利，但语言并非智能的全部。
尽管GPT-4具备多模态功能，但对现实的理解仍非常单薄，这就是为什么它有时会胡说八道。
LeCun早在四年前就与冷泉港实验室的神经科学家Anthony Zador在《科学美国人》上共同撰文回应过这一问题，文章题目便是《无须畏惧终结者》。
在直播中，LeCun重申了该文的核心观点。
统治动机只存在于社会性物种中，如人类和其他动物，它们在竞争中求生存和进化。
而我们可以将AI设计成非社会性物种，使其非主导、顺从，或按照特定规则行事，从而符合人类整体利益。
