技術倫理的斷裂帶:當AI信任超越人類控制

2025-04-05 | 來源: New Economist | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

技術倫理的斷裂帶：

當AI信任超越人類控制

新經濟學家智庫特約研究員

晶恒

銅陵高速公路的監控畫面定格在22時44分28秒——小米 SU7以97公裡時速撞向水泥護欄的瞬間，車內三名大學生的生命與智能駕駛系統的決策算法一同化為燃燒的鐵殼。這場事故不僅撕開了智能汽車安全性的技術面紗，更暴露出一個殘酷現實：已然證明可以對克隆人技術實施嚴密有效監管、航空業一致保持高度監管從而有效降低事故率的人類，在面對人工智能的倫理框架構建和人工智能創新時，卻表現出令人費解的滯後與激進。這道不斷擴大的鴻溝，正悄然將人類的生命以及文明推向未知的風險深淵。

一、智能駕駛事故背後的“標准套利”與監管時差

小米事故車SU7標准版為降低成本移除激光雷達，而純視覺系統在車速超過85km/h時的有效檢測距離不足200米，留給系統應急反應的時間僅在7秒左右，低於行業建議的安全閾值。面對這樣的事故，我們不禁要問：難道智能汽車行業沒有成熟的安全標准可循嗎？

緬甸地震破壞力緣何巨大?實皆斷裂帶猶如"火藥桶"

事實上，百年航空業的發展為高風險行業提供了極為寶貴的安全體系參考。以波音787為例，該機型的飛控系統需通過FAA 25部規章下超過300項專項認證，而且根據波音官方《787 Flight Crew Training Manual》數據，飛行員轉型培訓標准為28天全沉浸式課程，其中包括56小時模擬器訓練。這種嚴格的系統認證與操作人員培訓雙重保障，構築了安全防線。當然，航空業也存在如波音737 MAX這樣的反面教材。波音為降低成本和加速上市，移除了第二套迎角傳感器，導致MCAS系統因單一傳感器故障而引發致命墜機事故。但因為監管嚴密，這種將安全冗余讓位於市場競爭的決策，讓波音的高管和工程師至今仍因MCAS系統缺陷而被追責。

令人憂慮的是，智能汽車行業未能從航空業嚴謹經驗方面汲取經驗，反而選擇了與737 MAX相似的錯誤道路。其問題根源主要體現在兩方面：一是監管政策的滯後。以美國為例，國家公路交通安全管理局（NHTSA）盡管自2016年起推出了《自動駕駛系統2.0：安全願景》等框架，但至今仍未對L4及以上自動駕駛系統建立強制性認證標准。相比之下，航空業FAA的嚴格標准確保了整體安全性。二是企業自律性不足。行業標杆特斯拉的Autopilot系統雖然在過去十年經歷了5次架構革新，技術上有長足進步，但也未對駕駛員提出過任何培訓要求或建議，這與航空業對飛行員的嚴格培訓形成鮮明對比。

這種現象暴露了一個古老又存在至今的"標准套利"原則：企業利用監管標准的更新滯後性，通過選擇性引用較低層級或寬松標准來規避技術責任，從而在安全與成本之間做出有利於短期市場競爭但可能損害長期用戶安全的權衡，這反映了技術治理與市場競爭之間的結構性矛盾。未來，智能駕駛汽車是應該延續傳統汽車的漸進式監管，還是應該提高標准，借鑒航空業的預防性監管體系？這不僅是監管機構與企業需要思考的問題，也是我們每一個人都應當參與討論的重要議題。在追求技術創新與商業利益的同時，如何確保用戶安全不被讓步，將是智能駕駛行業能否健康發展的關鍵。

二、技術決策的倫理豁免權

作為一種備受矚目的技術，人工智能（AI）正以席卷之勢迅猛發展。在成功推動大語言模型的應用落地後，AI又信誓旦旦地跨入垂直生產力領域。如今，任何對AI發展的質疑似乎都可能被視為不合時宜。“為機器立心”、“碳基生命可能是硅基生命的過渡”等論點可以堂而皇之地發表而不受譴責。聯合國秘書長古特雷斯在巴黎人工智能行動峰會上提出的靈魂追問——"誰來決定人工智能應解決哪些問題？誰最能從中受益？誰將承擔其錯誤的代價？"——早已被淹沒在技術達爾文主義的熱潮中。

相比之下，在不算遙遠的過去，克隆技術的治理展現了截然不同的邏輯光譜。1997年多利羊誕生後，各國迅速采取行動。例如，美國時任總統克林頓於當年3月頒布行政命令，禁止聯邦資金用於人類克隆研究；1998年，歐洲委員會通過了《歐洲人權與生物醫學公約》的附加議定書，禁止任何形式的人類生殖性克隆。這一議定書已被包括法國、德國、西班牙等多個成員國簽署和批准；俄羅斯於2002年頒布聯邦法令，暫時禁止人類克隆，並在2010年將禁令延長為無限期有效；中國在2003年發布《人胚胎幹細胞研究倫理指導原則》，明確禁止將克隆技術用於生殖目的。這些剛性約束形成了全球范圍內對克隆技術的一種倫理規范。然而，這樣的治理邏輯在人工智能領域卻幾近“天方夜譚”。例如，DeepMind最新發布的AlphaGeometry模型已具備自主證明復雜定理的能力，但對於其訓練數據中可能存在的倫理爭議迄今無人問責。