| Contact Us | CHT | Mobile | Wechat | Weibo | Search:
Welcome Visitors | 登录 | 免费注册 | 忘记了密码 | 社交账号注册或登录

Home

温哥华资讯

Realty

Education

Finance

Immigrants

Yellow Page

Travel

AI噩梦成真?偷自我繁殖 威胁工程师要爆料外遇


请用微信 扫一扫 扫描上面的二维码,然后点击页面右上角的 ... 图标,然后点击 发送给朋友分享到朋友圈,谢谢!
美国AI新创公司Anthropic近期分享一起内部测试,指出在某次测试中,最新推出的模型“Claude Opus 4”出现失控状况,因为这款模型为了避免被停止,竟利用工程师过往的网络和视讯纪录,威胁若强制关闭,就要公开工程师外遇的情形,让研究人员震惊不已。


根据综合外媒报道,“Anthropic”最新发布的“Claude Opus 4”,为OpenAI、Google及xAI等AI的竞争对手;然而,在近期的一场封闭测试中,“Claude Opus 4”出现了不受控的情形。

因为工程师在某些原因,试图警告要关闭电源,谁料“Claude Opus 4”,竟然利用该名工程师过往在网上活动纪录和视讯纪录,揪出其出轨证据,威胁工程师若拔掉电源,就揭露他对婚姻不忠的行为。


无独有偶,热门聊天机器人ChatGPT美国开发商OpenAI的o1,尝试“把自己下载”至外部伺服器,事后被抓包时,竟还矢口否认。


以上种种情况事件,显示AI可能已进化到为了达成目的,可以对人类撒谎、算计,甚至勒索威胁开发者,而开发者对其内部运作与行为机制,似乎也渐渐无法完全掌控。




▲AI进化到会撒谎,甚至威胁工程师。(示意图/翻摄自pexels网站)
点个赞吧!您的鼓励让我们进步     这条新闻还没有人评论喔,等着您的高见呢
Note:
  • 新闻来源于其它媒体,内容不代表本站立场!
  • _RELATED_NEWS:
    _RELATED_NEWS_MORE:
    _POSTMYCOMMENT:
    Comment:
    Security Code:
    Please input the number which is shown on the following picture
    The Captcha image
    Terms & Conditions    Privacy Policy    Political ADs    Activities Agreement    Contact Us    Sitemap    

    加西网为北美中文网传媒集团旗下网站

    Page Generation: 0.0260 Seconds and 4 DB Queries in 0.0017 Seconds