对话李开复:当AI比人聪明,我们还剩什么?

2024-12-12 | 来源: AI未来指北 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

但我很难乐观地认为可以达成全球协议。我确实理解您所说的选举情况，但我认为这非常困难。有人在讨论这个问题，但我认为OpenAI的内斗就是一个很好的例子，萨姆·阿尔特曼支持进步，支持通用人工智能和人工智能，支持快速发展；而伊利亚和其他一些高管则支持安全性。

可以说，最有可能创建出令人担忧的接近通用人工智能的公司可能是OpenAI。之前，在追求速度和追求安全性之间存在着制衡。现在，支持安全性的人已经退场。OpenAI可能会发展得更快，可能会变得不计后果，当然也可能不会。我希望不会。

所以，我们面临着一个问题，就是我们难以监督这些力量，同时又存在着一个可能加速发展的市场领导者。这确实是一个挑战。

赫拉利：这似乎像是某种进化逻辑或进化竞赛。如果你更关心安全问题，决定放慢速度，投入更多资金建立防护措施，而不是尽可能快地向通用人工智能发展，那么你就落后了；如果竞争对手更无情一点，完全不顾及安全问题和防护措施，他们就会领先。

所以这是一场无情者之间的竞赛。

李开复：我会回答您问的关于中国的情况，我会告诉你我们零一万物在做什么。

我认为许多中国公司都是这样，因为中国人工智能公司一直具备很强大的执行力，而稍弱于诸如通用人工智能等宏伟愿景上。此外，中国公司筹集的资金比美国公司少得多。所以，现实层面没有希望获得更多GPU，无法通过规模定律击败OpenAI。但更有可能的是跟随OpenAI的脚步，提出一些微创新，建立可以适配消费者和企业应用的超快速模型。

所以我认为，在中国，通用人工智能失控的危险较低，至少慢于美国发生的速度。不是因为别的，这主要是出于中国人的务实心态。在没有那么多资金来获取GPU的情况下，先去创建有用的产品。

赫拉利：但当然有一个问题，如果世界上任何地方的某个人实现了通用人工智能的美梦或噩梦，这将影响整个世界。这是一项如此强大的技术。正因如此，它很快就会成为一个政府问题，包括中国在内的其他国家和地区的政府将被激励投入巨大的政府资源在竞赛中坚持下来或赢得竞赛。

李开复:AI时代会让每个App都比人类更聪明

相信吗?李开复:中国大模型与美国仅差6个月

李开复:中国需自己的ChatGPT时刻 2024将是爆发年

还是那样，几乎每天都会有这种说法。他们同意让人类创造出比我们更智能的东西，而我们不知道如何控制。这种想法很糟糕，这种想法很愚蠢，这是在自杀。

与此同时，每个人或者说至少有些人说，我们必须这样做，因为如果我们不做，别人就会做，然后他们就会控制世界。所以，如果我们先做会更好。我们或许能知道如何约束这个东西。整个情况的悖论在于，他们认为自己能够信任自己的人工智能，但却无法信任其他人类。

所以我们面临一个非常矛盾的局面，人类无法相互信任，但他们认为自己能够信任这些超级智能的人工智能。这些外来的智慧，就像外星物种一样。然而他们不知道如何控制它或信任它，认为随着我们开发通用人工智能，我们会找到控制它的方法。

这有点一厢情愿，就像电力的例子一样。人们被电击后，我们设计了一些机械手段来保护他们。但是，当被问及具体会怎样时，他们心中并没有明确的答案。他们设想的机制或技术是什么，能确保超级智能的人工智能与人想法一致并受控？他们无言以对。他们只是说：“我们会找到办法的。”这是极其可怕的。

另一个可怕的事情是，作为一名历史学家，我认为新技术的巨大危险不在于最终结果，而在于实现它的过程。关键在于过程，而非终点。因为当一种强大的新技术出现时，没有人知道如何将其融入社会和政治，也不知道如何明智地使用它。人们会进行实验，而有些实验可能会非常非常糟糕。

如果我们回顾工业革命，就像我去了硅谷，和那里的人谈论人工智能。他们告诉我：“看，当工业革命开始，人们发明了蒸汽机、火车和电报时，许多人担心这将造成巨大损害。但你看，它最终创造了一个更好的世界。”

21世纪初，人们的生活比19世纪初好得多，这是事实。如果我们只看起点和终点，会看到一条直线上升。但在现实中，在历史上，这并不是一条直线，它就像过山车一样充满了可怕的灾难。

因为在19世纪，当第一批国家进行工业化时，首先是英国，然后是法国、美国和日本。他们认为建立工业社会的唯一途径是建立帝国，他们认为要建立工业社会就需要控制原材料和市场，所以必须要有一个帝国。每一个工业国家，从小国比利时到日本再到俄罗斯，都去建立帝国，给全世界数亿人带来了可怕的后果。