保時捷女銷冠的反擊:AI合成亂象"安全閘"在哪?

2025-10-12 | 來源: 第一財經 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

10月12日，青島保時捷女銷冠牟女士在個人微博賬號曬出青島市公安局李滄分局行政處罰決定書，並配文稱，“網絡不是法外之地，一切都有跡可循。”

事件起因據牟女士11日在微博描述：近期，網絡上出現大量利用AI技術惡意合成的虛假視頻以及與面部側臉局部相似的不良視頻，對牟女士進行誹謗與侮辱，甚至肆意傳播，泄露其電話及微信號，已對個人正常生活造成嚴重影響。牟女士嚴正聲明：所有相關內容均為偽造，已委托律師完成證據固定，並於10日晚向公安機關報案，啟動法律程序追查到底。同時懸賞征集傳播者證據。

12日牟女士發布的青島市公安局李滄分局行政處罰決定書，主要是對違法行為鏈條中傳播者丁某的處罰決定。決定書內容顯示，2025年10月10日丁某在一微信車友群內轉發牟女士照片圖文並搭配不雅視頻，對其侮辱，後被查獲。根據《中華人(专题)民共和國治安管理處罰法》第四十二條第二項規定，給予丁某行政拘留五日的行政處罰。

違法行為人丁某在11日寫下悔過書，承認自身錯誤並向牟女士道歉。但牟女士報案並啟動法律程序追究所有涉案人員民事及刑事責任，直接進行AI合成圖文與視頻的違法者暫未抓獲。牟女士表示，相關案件已正式進入司法程序，交由警方依法處理。

全球只有11輛最神秘保時捷911藏驚人秘密

青島保時捷女銷冠被合成AI不雅視頻,本人回應

"讓我一下要死嗎?"保時捷車主惡意別停女司機

國內AI行業監管范疇內，AI合成內容治理已走出“原則倡導”階段，進入“法治化+標准化+技術落地”的深水區。據公開信息，2024年9月14日，國家互聯網信息辦公室發布《人工智能生成合成內容標識辦法（征求意見稿）》，要求人工智能生成合成內容標識包括顯式標識和隱式標識。

北京師范大學法學院副教授、中國互聯網協會研究中心副主任吳沈括表示，內容標識是目前關於人工智能內容治理中的一種非常重要的機制設計，它對於避免深度偽造帶來的安全風險有非常大的價值，且通過標准的統一也有助於引導各方的業務規則、業務設計和業務模式，對於全鏈條的風險防范具有非常重要的作用，也能有助於公眾識別AI內容的真偽和權威性。

今年9月1日起，《人工智能生成合成內容標識辦法》與國家市監總局、國家標准委於2025年2月28日發布的強制性國家標准《網絡安全技術人工智能生成合成內容標識方法》均正式施行。抖音、快手、騰訊、微博、B站等平台均在當天或提前發布公告，上線“顯式+隱式”雙重標識功能，並配套限流、下架、封號等處置措施。

北京市競天公誠律師事務所認為，《標識辦法》從宏觀管理角度規定了提供人工智能生成合成服務的網絡信息服務提供者、提供網絡信息內容傳播服務的服務提供者、互聯網應用程序分發平台、用戶等主體在生成合成內容中添加、檢測顯式標識和隱式標識等方面的主要義務，構建了標識管理的基礎架構體系；《標識方法》旨在通過統一的、具體的技術標識規范，解決生成合成內容與真實信息的邊界模糊問題，遏制技術濫用對公共秩序和個體權益的侵害。另外，《標識辦法》和《標識方法》首次使用了“人工智能生成合成內容”這一表述，標志著我國生成式人工智能標識管理邁入系統化、精細化的新階段。