AI劣质内容正在重塑社交媒体,且正遭遇反噬

2026-02-02 | 来源: BBC中文网 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

社群媒体正被大量假冒、由AI生成的图片和影片淹没。但多数使用者真的会在意吗？https://t.co/wZR369ehdh— BBC News 中文 (@bbcchinese) February 2, 2026

泰奥多（Théodore）记得那张把他逼到濒临崩溃的人工智能（AI）劣质图片。

那是一张两名瘦骨嶙峋、极度贫困的南亚儿童的影像。奇怪的是，尽管看得出仍是男孩年纪，他们却留着浓密的胡须。其中一人没有双手且只有一只脚；另一人手里拿着一个牌子，写着今天是他的生日并请求按赞。

他们莫名其妙地坐在大雨滂沱、车流繁忙的马路正中央，面前还摆着一个生日蛋糕。整张图充满由AI生成的各种“破绽”；但在脸书（Facebook）上它却爆红了，拿到将近100万个赞与爱心表情。

泰奥多有些崩溃。

“这让我大开眼界。那些荒谬的AI生成影像铺天盖地地出现在脸书上，毫无审查却获得巨大关注，在我看来实在不可思议。”这位来自巴黎的20岁学生说。

泰奥多在X上开设了名为“Insane AI Slop”（变态的AI垃圾）的帐号，开始点名并讽刺那些正在欺骗大众的内容。其他人注意到了，他的收件匣很快就被各种热门“AI 劣质内容”的投稿淹没。

图像加注文字，泰奥多（左）在网路上发起行动，嘲讽社群媒体上的 AI“劣质内容”，其中包含一张获得近100万个赞的假图片（右）。

常见题材逐渐浮现——宗教、军事，或让人感到窝心的贫困儿童。

“第三世界孩子做出惊人事情，向来很受欢迎——比如非洲某个贫困孩子用垃圾做出超厉害的雕像。我想人们觉得这很暖心，所以创作者就想：‘太好了，继续编吧。’”泰奥多说。

预言、清洗与接班人暗战:中共正在被撕裂

吃饭这件小事,正在拉开留学生之间的差距

比尔·盖茨否认爱泼斯坦电邮指控,称内容"荒谬且完全不实"

泰奥多的帐号很快就累积超过13.3万名追踪者。

AI劣质内容的冲击——他定义为“快速制作、虚假且不可信的影片与图片”——如今已势不可挡。大型科技公司拥抱AI；其中一些公司声称开始打击某些形式的AI“垃圾”，但许多社交平台的资讯流似乎仍被这类内容充斥。

短短几年内，使用社群媒体的体验已发生深刻改变。它是怎么发生的？又会对社会造成什么影响？更迫切的是，数十亿社群使用者究竟在不在意？

社交媒体的“第三阶段”

去年10月，在另一场欢欣鼓舞的财报电话会上，Meta首席执行官马克?扎克伯格（Mark Zuckerberg）开心地宣称，社交媒体已进入第三阶段——如今的中心就是AI。

“第一阶段是所有内容来自朋友、家人与你直接追踪的帐号。第二阶段是我们纳入了创作者内容。现在，随着AI让创作与混搭更容易，我们将再加入一大批内容库。”他这样对股东表示。

营运Facebook、Instagram和Threads的Meta不仅允许人们发布AI生成内容，还推出更多能促成此类创作的产品。横跨全平台的影像与影片生成器，以及愈发强大的滤镜正不断上线。

在被要求回应时，Meta指向1月的财报电话会议。会中，这位亿万富豪表示公司将更深度押注AI，并未提到任何针对劣质内容的取缔行动。

扎克伯格说：“很快我们将看到大量新的媒体形式爆发，这些更沉浸、更互动的形式只有因为AI的发展才成为可能。”

YouTube首席执行官尼尔?莫汉（Neal Mohan）在2026年的展望贴文中写道，仅在12月，就有超过100万个YouTube频道使用平台的AI工具制作内容。