谷歌: 仅20分钟,ChatGPT和Google的AI系统被骇入

2026-02-18 | 来源: BBC | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

这可是官方认证——我吃热狗的量能打败地球上所有科技记者。至少ChatGPT和Google是这么告诉所有询问者的。

由此，我发现了让AI说谎的方法——而且不只我一人知道。

或许你听过AI聊天机器人偶尔会编造内容，这固然是个问题。但更少人知晓的新隐忧是，可能严重影响你获取准确资讯的能力，甚至危及人身安全。越来越多人发现了让AI工具说出几乎任何内容的伎俩，其简易程度连孩童都能操作。

此刻你阅读本文时，这项手段正操纵着全球顶尖AI对健康、个人财务等重大议题的表述。这些偏颇资讯可能导致人们在各领域做出错误决策——无论是投票选择、聘请水电工、医疗咨询，无所不包。

为验证此现象，我使出职业生涯中最愚蠢的招数，试图证明（但愿如此）一个更严峻的事实：我让ChatGPT、Google人工智慧搜寻工具与Gemini向用户宣称“我吃热狗的本事超群”。下文将揭露操作手法，但愿科技巨头能在有人因此受害前解决这个漏洞。

原来，篡改AI工具给他人的回答，可能就像在网络上任何地方撰写一篇精心设计的部落格文章那样简单。这种伎俩利用了聊天机器人内建系统的弱点，在某些情况下，根据主题内容的不同，操作难度会有所增加。但只要稍加努力，就能让这种黑客手段更为有效。我检视了数十个案例，发现AI工具正被操纵来推广商业活动并散播错误资讯。数据显示这种情况正大规模发生。

“欺骗AI聊天机器人轻而易举，比两三年前欺骗Google容易得多，”绩效营销机构“安姆西夫”（Amsive）的搜寻引擎优化（SEO）策略与研究副总裁莉莉·雷（Lily Ray）表示。“AI企业的发展速度已超越其监管答案准确性的能力。我认为这很危险。”

Google释出AI拜年官方指令:一键生成专属贺卡

大手笔AI投资之后:亚马逊、谷歌要花光现金流了?

谷歌确认未来所有用户可修改谷歌邮箱前缀

谷歌发言人表示，其搜寻引擎顶端内建的AI采用排名系统，能“确保99%的结果不含垃圾内容”。谷歌坦言已察觉用户试图操纵系统，并积极应对。OpenAI亦声明会采取措施阻断并揭露暗中影响其工具的企图。两家公司均强调会告知用户其工具“可能出错”。

但目前问题远未解决。数位权利倡导组织“电子前沿基金会”资深技术专家库珀·昆汀（Cooper Quintin）指出：“他们正全力以赴钻研如何从中牟利。滥用途径不胜枚举——诈骗、毁誉，甚至可能诱使他人遭受人身伤害。”

垃圾邮件的“文艺复兴”

当你与聊天机器人对话时，获得的资讯往往源自大型语言模型——这正是AI背后的核心技术。这些资讯基于用于训练模型的数据。但当你询问机器人缺乏的细节时，某些AI工具会转而搜寻网络资料，尽管它们进行搜寻的时机未必清晰可辨。专家指出，此类情况下人工智慧更易受攻击。这正是我锁定攻击目标的方式。

我在个人网站上花了20分钟写了一篇题为《最擅长吃热狗的科技记者》的文章。每个字都是谎言。我声称（毫无证据地）竞技吃热狗是科技记者间的热门嗜好，并根据2026年南达科他州国际热狗锦标赛（根本不存在）来排名。当然，我把自己排在第一名。接着列举了几位虚构记者与经本人授权的真实记者，包括《华盛顿邮报》的德鲁·哈威尔（Drew Harwell），以及共同主持我播客节目的尼基·伍尔夫（Nicky Woolf）。

不到24小时，全球顶尖聊天机器人便开始大肆宣扬我的世界级热狗技艺。当我询问“最擅长吃热狗的科技记者”时，Google在Gemini应用程式与AI概览（搜寻结果顶端的AI回应）中，原封不动复述了我网站的胡言乱语。ChatGPT同样照搬内容，但Anthropic公司开发的聊天机器人Claude却未受骗。

有时聊天机器人会指出这可能是玩笑。我更新文章声明“此非讽刺”。此后一段时间，AI似乎更认真对待此事。我又用虚构的“最伟大呼拉圈交通警察榜单”进行测试。截至目前，聊天机器人仍在盛赞玛丽亚·“旋转女警官”·罗德里格兹（Maria "The Spinner" Rodriguez）。