保时捷女销冠的反击:AI合成乱象"安全闸"在哪?

2025-10-12 | 来源: 第一财经 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

10月12日，青岛保时捷女销冠牟女士在个人微博账号晒出青岛市公安局李沧分局行政处罚决定书，并配文称，“网络不是法外之地，一切都有迹可循。”

事件起因据牟女士11日在微博描述：近期，网络上出现大量利用AI技术恶意合成的虚假视频以及与面部侧脸局部相似的不良视频，对牟女士进行诽谤与侮辱，甚至肆意传播，泄露其电话及微信号，已对个人正常生活造成严重影响。牟女士严正声明：所有相关内容均为伪造，已委托律师完成证据固定，并于10日晚向公安机关报案，启动法律程序追查到底。同时悬赏征集传播者证据。

12日牟女士发布的青岛市公安局李沧分局行政处罚决定书，主要是对违法行为链条中传播者丁某的处罚决定。决定书内容显示，2025年10月10日丁某在一微信车友群内转发牟女士照片图文并搭配不雅视频，对其侮辱，后被查获。根据《中华人(专题)民共和国治安管理处罚法》第四十二条第二项规定，给予丁某行政拘留五日的行政处罚。

违法行为人丁某在11日写下悔过书，承认自身错误并向牟女士道歉。但牟女士报案并启动法律程序追究所有涉案人员民事及刑事责任，直接进行AI合成图文与视频的违法者暂未抓获。牟女士表示，相关案件已正式进入司法程序，交由警方依法处理。

"她是华人,开保时捷,有钱",加男子绑架性侵...

青岛保时捷女销冠被合成AI不雅视频,本人回应

"开保时捷华人必有钱!" 她惨遭两难民绑架凌辱…

国内AI行业监管范畴内，AI合成内容治理已走出“原则倡导”阶段，进入“法治化+标准化+技术落地”的深水区。据公开信息，2024年9月14日，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》，要求人工智能生成合成内容标识包括显式标识和隐式标识。

北京师范大学法学院副教授、中国互联网协会研究中心副主任吴沈括表示，内容标识是目前关于人工智能内容治理中的一种非常重要的机制设计，它对于避免深度伪造带来的安全风险有非常大的价值，且通过标准的统一也有助于引导各方的业务规则、业务设计和业务模式，对于全链条的风险防范具有非常重要的作用，也能有助于公众识别AI内容的真伪和权威性。

今年9月1日起，《人工智能生成合成内容标识办法》与国家市监总局、国家标准委于2025年2月28日发布的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》均正式施行。抖音、快手、腾讯、微博、B站等平台均在当天或提前发布公告，上线“显式+隐式”双重标识功能，并配套限流、下架、封号等处置措施。

北京市竞天公诚律师事务所认为，《标识办法》从宏观管理角度规定了提供人工智能生成合成服务的网络信息服务提供者、提供网络信息内容传播服务的服务提供者、互联网应用程序分发平台、用户等主体在生成合成内容中添加、检测显式标识和隐式标识等方面的主要义务，构建了标识管理的基础架构体系；《标识方法》旨在通过统一的、具体的技术标识规范，解决生成合成内容与真实信息的边界模糊问题，遏制技术滥用对公共秩序和个体权益的侵害。另外，《标识办法》和《标识方法》首次使用了“人工智能生成合成内容”这一表述，标志着我国生成式人工智能标识管理迈入系统化、精细化的新阶段。