DeepSeek的胡编乱造,正在淹没中文互联网

2025-03-05 | 来源: 阑夕 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

第三个例子，是历史博主知北游的豆瓣记录，简单来说，是有人拿虚构的历史材料，布局七天来钓他上钩，如果不是他本身具有很强的反诈意识，加上三次元有人脉关系进行证伪，他一定会继续沉迷在这个局里，这个局的破绽在于AI搞错了两个历史人物的死亡顺序，打破了他在发现新的史料上如获珍宝的兴奋感。

一直以来，文史圈都是AI污染的重灾区，因为有大量的文献材料还没有数字化，可用的网络资源有限，考据成本很高，但凡较真起来，都会陷入「造谣一张嘴、辟谣跑断腿」的困境。

就，真的很让人焦心，用AI解决自己的问题是一码事，将AI杜撰的信息混到公网里又是另一码事了，当在这些言之凿凿的内容成为互联网信息库的一部分之后，甚至又会被AI重新咀嚼回去训练，事实数据和生成数据之间的界限将会更加模糊，这绝对不是一件好事。

有人可能会问，在没有AI的时候，人类也会造谣，也会发到网上到处都是，怎么没见到你这么痛心疾首？

中国前高官:1年半内将有逾百类DeepSeek技术突破

DeepSeek传暗助解放军绕道买英伟达芯片

被指将个人数据传至中国 DeepSeek在德面临被屏蔽

其一，「抛开剂量谈毒性都是耍流氓」，AI的工业化生产能力，和个体户的伏案写作流程，在效率上是天差地别的，实际上在我写这篇文章以前，搜索引擎、线上文库、各类网站上的AI填充情况就已经非常不堪了，在有了推理模型——精通于一本正经的胡说八道——之后，整个污染趋势会向深处蔓延，从相对次要的资料层触及创作上游的信源层，覆水难收；

其二，人类造谣起来是有局限性的，比如他不可能出现在一个自己没理由出现的场合，真要这么编造起来很容易露馅，但AI则会脸不红心不跳的直接生造，比如栩栩如生的细节，或是身临其境的描写，在说谎这件事情上，AI的主观恶意或许不及人类，但它的发挥能力，却是独一档的；

其三，AI内容的生产者一般都是营销号，而为内容背书的，则是传播者的信誉，比如大V博主上钩后的转发分享，通过这种扩散机制，实现从寄生到合理化的存在目标，才是最可怕的，人会爱惜羽毛，会知道信誉下滑的后果，但营销号不在乎，只要避开敏感话题，有太多的流量可以消费，尤其是在掌握了「创造」独家信息这个技术之后；

其四，AI的便利性已经把虚假信息的泛滥推到了生活的各个方向，有人拿着它推荐的菜单去点菜结果发现店里没这个菜，有人拿着旅游攻略发现当地根本没这个景点，经我实测它还会捏造不属于「山海经」的古典异兽。

我想说的是，AIGC是技术发展的未来，DeepSeek也是国产模型的翘楚，工具没有错，错的是滥用、恶用工具的行为，AI当然可以创造内容，但前提一定要是注明它由AI生成，不能鱼目混珠，放任它以一种不可辨识的方式成为互联网的原生信息，大模型厂商和内容平台也有义务把类似数字水印那种兜底方案同步推进起来，每迟一天，治理成本都会几何级的变得更高。