诈骗、换脸、面部识别,一位刑警经历的AI犯罪

2025-02-04 | 来源: AI故事计划 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

刘星辰是东北某市的一名警察。他发现，近两年来，利用AI技术进行犯罪的案件，已经影响普通民众的生活。即使远离一线城市，一些三、四线城市甚至县城的人们因为对这种科技手段疏于防范，成为了这类犯罪的受害者。受害者从家财万贯的老板，到儿女外出打拼的空巢老人，以及被虚假色情图片勒索盯上的女性，都有出现。

刘星辰说，如今AI犯罪受限于技术水平，目前尚未普遍。但考虑到这一技术发展的日新月异，防范AI技术参与的新型犯罪手法，成了他和同事工作中重点关注的领域之一。

以下是他的讲述。

AI诈骗瞄准空巢老人

我叫刘星辰，是东北某市的一名警察。2023年年底，我们就接触过有AI参与诈骗的事例。

当时，我们反诈部门的同事接警处理了一起和AI有关的诈骗的警情。报警的是我们当地一家银行的柜员。

当天，这位银行柜员接待了一位心急的老年人。老人特别着急地想要汇款。如今银行对于大额的汇款都会特别谨慎，于是柜员留了心眼，问老人发生了什么事。

低民调令特朗普十分恼火控多家媒体"犯罪" 誓言反击

深圳,正在经历一场前所未有的经济寒冬

经历低迷 BC省这行业2026迎来复苏

老人说，他的孩子生病了，急着用钱，但银行卡被冻结了，希望老人打3万元到他发来的银行卡号里。银行职员一听，询问了老人知道的信息，帮老人查询了他孩子的银行卡账号，发现银行卡并未被冻结，于是提醒老人，可能是被骗了。

老人将信将疑，给柜员看了他的“孩子”发来的视频。视频很短，只有10秒钟左右，看起来像是拿着聊天软件现场录制的，一位青年人对着镜头说，自己生病了，急着用钱，但银行卡被冻结了，希望老人打3万元到他发来的银行卡号里。

老人说，视频里就是他的孩子本人。因为不会操作网络银行，他才着急忙慌地跑到附近的银行去汇款。

银行柜员一看，觉得视频明显不对劲。里面的人物面部动作的时候缺乏应有的折叠，肌肉的拉伸也不正常。于是，柜员给我们专门的反诈部门打电话，我们派了人去。

看过那则视频的同事回来跟我们说，那个视频，实际上很容易看出来是用AI替换了人脸。

老人一方面可能眼部功能不好，一方面也因为爱子心切，情急之下没能发现视频的破绽。幸好他不会操作网络银行，到银行求助。一番调查下来，我们确定这是一起诈骗案。

这则短短十秒小成本制作的AI换脸视频，差点骗走了老人家的积蓄。

如今，我们总是在新闻里看到AI科技突飞猛进，看起来这是很高大上的事物，老百姓们会觉得这样的技术离我们很远。但是在我们的工作中，这两年也会发现，和AI相关的犯罪，其实已经在不知不觉中，悄悄渗透到了小城市、小县城的平民百姓的日常生活之中。

在前面那起遭到及时制止的犯罪里，骗子利用了老人不擅长使用电子产品的特性。老人不会使用微信备注，所以，骗子把微信的头像和昵称改成和他孩子一样之后，就成功假冒了老人孩子，老人并没有注意到这点。