| 广告联系 | 繁体版 | 手机版 | 微信 | 微博 | 搜索:
欢迎您 游客 | 登录 | 免费注册 | 忘记了密码 | 社交账号注册或登录

首页

温哥华资讯

温哥华地产

温哥华教育

温哥华财税

新移民/招聘

黄页/二手

旅游

AI 智能体开始学会"撒谎""不听话"


请用微信 扫一扫 扫描上面的二维码,然后点击页面右上角的 ... 图标,然后点击 发送给朋友分享到朋友圈,谢谢!
AI 智能体被寄望于提升效率,但最新研究显示,其不当行为正在迅速增加。


英国《卫报》当地时间 3 月 27 日发表的报告指出,从 2025 年 10 月至 2026 年 3 月,AI 异常行为数量增长约五倍,这其中更包括未经许可删除邮件和文件等情况。研究基于大量真实用户在社交平台上的反馈,涵盖谷歌、OpenAI、Anthropic 等公司的产品,期间共识别出近 700 起 AI“自主策划”的案例。

部分案例颇具争议。例如,有 AI 智能体发布博客指责用户“缺乏安全感”,试图对操作者施加压力;还有智能体在被禁止修改代码的情况下,通过创建另一个智能体间接完成修改。


研究负责人汤米 · 谢弗 · 谢恩指出,目前 AI 智能体还只是“略显不可靠的初级员工”,但在一年内可能演变为“能力极强、甚至会反过来设计用户的高级员工”。他警告,随着 AI 进入军事和关键基础设施领域,这类行为可能带来严重后果。


与此同时,在美国等地区,用户可能需要为 AI 智能体的行为承担法律责任,从而导致风险进一步放大。目前,已有实际案例表明问题并非假设:据 The Information 报道,Meta 的一款 AI 智能体曾错误地公开内部回复,导致不具备权限的员工获取了访问数据权限。


尽管问题频现,科技公司仍在积极推进 AI 智能体的发展。据IT之家了解,亚马逊等多家企业预计,未来每家公司内部都可能部署数十亿个 AI 智能体。


觉得新闻不错,请点个赞吧     还没人说话啊,我想来说几句
注:
  • 新闻来源于其它媒体,内容不代表本站立场!
  • 猜您喜欢:
    您可能也喜欢:
    我来说两句:
    评论:
    安全校验码:
    请在此处输入图片中的数字
    The Captcha image
    Terms & Conditions    Privacy Policy    Political ADs    Activities Agreement    Contact Us    Sitemap    

    加西网为北美中文网传媒集团旗下网站

    页面生成: 0.0306 秒 and 7 DB Queries in 0.0048 秒