乌克兰危机: 乌克兰YouTube主播如何被用AI"变身"俄罗斯人

2024-05-15 | 来源: BBC中文 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

奥尔加看到她的脸出现在中国社交媒体上的各种影片中。

“我不希望任何人认为我曾经说过这些可怕的话。用一个乌克兰女孩的面孔来宣传俄罗斯，这太疯狂了。”

奥尔加·洛伊克（Olga Loiek）看到自己的脸出现在中国社交媒体上的各种影片中，而这些影片由网上简易的生成式人工智能（AI）工具制作。

“我可以看到我的脸，听到我的声音。但这一切都令人毛骨悚然，因为我看到自己说了一些我从未说过的话。”这位就读于宾夕法尼亚大学（University of Pennsylvania）的21岁学生告诉BBC。

使用她肖像的账户有几十个不同的名字，如索菲亚（Sofia）、娜塔莎（Natasha）、艾普丽尔（April）和斯泰西（Stacy）。这些“女孩”说的是奥尔加从未学过的汉语普通话。在影片中，她们看上去来自俄罗斯，谈论着中俄友谊或推广俄罗斯产品。

“我看到90%的影片都在谈论中国和俄罗斯以及中俄友谊，像我们必须成为强大的盟友，还有食品广告。”

其中最大的一个账号是“娜塔莎进口食品”，其拥有30多万关注者。“娜塔莎”说着“俄罗斯是最好的国家。可悲的是其他国家都在远离俄罗斯，俄罗斯女人想要来中国”之类的话，然后开始推销俄罗斯糖果等产品。

这让奥尔加感到愤怒，因为她的家人还在乌克兰。

但在更广泛的层面上，她的案例引起了人们对这项发展迅猛的技术所带来危险的关注，如何监管和保护人们已经成为一项真正的挑战。

从YouTube到小红书

奥尔加的说普通话的AI模仿者在2023年开始出现——就在她开设了一个不定期更新的YouTube频道之后不久。

乌克兰施压北约峰会,点名中、美等国封堵俄军工

俄军踏足之处皆属俄?乌克兰:无人机伺候

泽连斯基称乌克兰第聂伯罗市遭袭已致11人死亡

大约一个月后，她开始收到一些人的信息，声称在中国社交媒体平台上看到她说着普通话。

出于好奇，她开始寻找自己，并在中国类似于Instagram的平台“小红书”，以及类似于YouTube的视频网站哔哩哔哩（Bilibili）上发现了与她相似的AI人物。

“有很多这样的（账户）。有些账户的简介里有俄罗斯国旗之类的东西。”奥尔加说。她称，到目前为止，她已经发现了大约35个使用她肖像的账户。

在她的未婚夫在社交媒体上发布了关于这些账户的情况后，她声称被用于制作这些AI肖像的AI视频生成平台HeyGen做出了回应。

他们透露，已经有4900多个影片是用她的脸生成的，并表示该平台已经禁止再使用她的肖像。

该公司的一位发言人告诉BBC，他们的系统被侵入以创建了他们所谓的“未经授权的内容”，并补充称，他们立即更新了安全和验证协议，以防止平台被进一步滥用。

但香港大学副教授张湖月（Angela Zhang）说，奥尔加的经历“在中国很常见”。

她说，中国“拥有庞大的地下经济，专门从事仿造、盗用个人数据和进行深度伪造”。

不过，中国是最早尝试监管人工智能及其使用的国家之一。中国甚至修改了民法典，以保护肖像权免受数字伪造技术的侵害。

中国公安部门在2023年披露的统计数据显示，当局逮捕了515名涉嫌参与“AI换脸”活动的人。中国法院也审理过这方面的案件。