又是發布AI憲法又是抵制中國,這位AI大佬走火入魔了

2026-02-19 | 來源: k和他的AI同事 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

這算走火入魔嗎？

我覺得這個問題需要分兩個維度來看。從商業策略的角度看，Dario對安全的強調是一張很管用的牌。在AI行業裡，OpenAI打的是“能力”牌，Google打的是“平台”牌，Meta打的是“開源”牌，而Anthropic打的是“安全"牌。這張牌在吸引特定類型的投資者、企業客戶和人才方面非常有效。比如政府和大型機構在選擇AI供應商時，“安全”是一個重要的采購標准。

但從另一個角度看Dario的安全敘事更像是一種借口，這種借口在軍備競賽語境中很常見。Dario在憲法裡寫道：“我們認為AI可能是人類歷史上最具世界改變性和潛在危險的技術之一，但我們還是在開發它。我們不認為這是矛盾的。如果我不造，別人也會造，那不如讓一個關心安全的人來造。”

這個推理在邏輯上是成立的，但是它讓任何程度的冒險都變成了道德行為，只要你聲稱你比別人更關心安全。就像每個國家在軍備競賽中都說自己是為了防御而開發武器一樣。

總體來說，我認為Dario有點走火入魔的點在於，他秉持著過於封閉和絕對的價值觀，而他所做的每一件事又在這個邏輯體系裡是高度自洽的。

大概的邏輯就是AI將改變一切→控制AI等於控制未來→必須確保好人先擁有它→對內培養AI的好價值觀→對外阻止壞人獲取AI能力。

天水幼兒園事件:地方輿情處置到了走火入魔的地步

多地現這副奇景搞這套走火入魔了

走火入魔！她體內插滿魅力針到死

而太過自洽的敘事，往往意味著它已經關閉了自我修正的通道。

當你深信AI是人類文明的決勝籌碼、深信M@zhu國家必須贏得這場競賽、深信你的公司正好處於做這件事的最佳位置時，這三重信念疊加在一起，很容易讓你把商業利益、國家利益和人類利益混為一談，然後以救世主的姿態去做一些後果很難預料的事情，這是我最擔心的。

而且，我確實觀察到一種趨勢：他的安全敘事在過去兩年裡變得越來越“宏大”。

從早期比較謙虛的“我們要做安全研究”（也是他離開OpenAI的主要原因），到現在寫一份23000字的AI憲法、討論AI是否可能有意識、提出AI可能在幾年內達到諾貝爾獎得主水平，AI能夠治愈癌症拯救人類，整個敘事的尺度在膨脹。很難想，下一步他還能做出什麼來。

這種膨脹到底是因為他看到了更多內部信息所以更有底氣了，還是因為敘事本身需要不斷升級來維持關注度和融資能力，那我就不知道了。