诺奖得主暴论:AI已经有意识它自己不知道而已

2025-10-12 | 来源: 量子位 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

AI的风险：滥用、生存与监管

在节目最后，Hinton用了很大篇幅来完整讲述AI可能存在的风险。

能源消耗、金融泡沫、社会不稳定……这些都是真实的风险。它们可能不会摧毁人类，但足以重塑文明。

其中，Hinton最担心滥用风险和生存风险这两类。

在Hinton看来，目前最紧迫的风险就是AI滥用，例如用AI生成虚假信息、操纵选举、制造恐慌等。

为应对这一风险，他认为需要通过法律和监管手段来限制和打击这种滥用行为。同时，技术上也需要开发检测和防范虚假信息的工具。

此外，生存风险（指AI本身可能成为恶意行为者）则可能对人类社会和文明构成根本性威胁。

Hinton认为，如果AI发展出自主意识和目标，并且这些目标与人类的利益相冲突，可能会导致不可预测的后果。

对此，人类需要在AI的设计和开发阶段就考虑安全性和伦理问题（如“关闭开关”和“对齐机制”），从而确保AI的目标与人类的利益一致。

值得一提的是，在AI监管这件事上，Hinton还提出了一个很有意思的看法：

在防止AI接管的问题上，所有国家的利益是一致的。但国际合作可能由欧洲和中国引领。

阿拉巴马首用氮气执行死刑有意识

马斯克谈外星人：人可能是银河系唯一有意识物种

自然:当AI有意识?科学家吁该制定应对计画了

One More Thing

关于中美人工智能竞赛，Hinton也在节目中表达了自己的看法。

面对主持人甩出的“美国领先还是中国领先”这一问题，Hinton冷静表示：

美国目前领先于中国，但领先优势没有想象的那么大，而且它将失去这个优势。

因为在他看来，美国正在破坏基础科学研究的资金支持。

深度学习和AI革命源于多年的基础研究，这些研究的总成本可能还不及一架B1轰炸机。而美国减少对基础研究的资助、攻击研究型大学等行为，无疑将导致美国在20年后失去领先优势。

而中国却是人工智能革命的风险投资家，以及他再次cue到了DeepSeek。

中国确实给予初创企业很大的自由，让他们自主选择最终胜出者。有些初创企业非常积极进取，渴望赚大钱，创造出令人惊叹的产品。其中一些初创企业最终获得了巨大的成功，比如DeepSeek……

本文作者：一水，来源：量子位，原文标题：《Hinton暴论：AI已经有意识，它自己不知道而已》