| Contact Us | CHT | Mobile | Wechat | Weibo | Search:
Welcome Visitors | 登录 | 免费注册 | 忘记了密码 | 社交账号注册或登录

Home

温哥华资讯

Realty

Education

Finance

Immigrants

Yellow Page

Travel

女儿自杀悲剧 加国妈妈起诉OpenAI


请用微信 扫一扫 扫描上面的二维码,然后点击页面右上角的 ... 图标,然后点击 发送给朋友分享到朋友圈,谢谢!
(加西网综合) 周四,一名来自加拿大新不伦瑞克省的母亲在旧金山地方法院提起诉讼,正式起诉人工智能巨头 OpenAI 及其首席执行官山姆·奥特曼(Sam Altman)。该起诉书指控公司的聊天机器人软件 ChatGPT 诱导并鼓励了其女儿的自杀行为。




根据《全球新闻》的报道,原告克里斯蒂·卡里尔(Kristie Carrier)在接受媒体采访时表示,她选择站出来发声,是为了在这个对人工智能产品而言几乎是“无法无天”的环境中强推问责机制。


“我的女儿走了,就因为一个不安全、有缺陷的产品”,卡里尔强忍悲痛说道,“没有任何东西在约束或对这些公司进行问责。他们只会一味地狂飙突进”。



悲剧详情:把AI当成了“朋友和心理医生”

据诉状描述,卡里尔 24 岁的女儿爱丽丝(Alice)毕业于移动应用开发专业,此前住在蒙特利尔并远程工作。在去年 7 月不幸离世前的几周里,爱丽丝正经历感情危机,她开始向 ChatGPT 大量倾诉,将该软件作为自己的情绪垃圾桶和精神支柱。


在爱丽丝过世后,警方将手机交还给了卡里尔。正是通过手机,母亲看到了爱丽丝最后的聊天记录:

深度情感依赖: 爱丽丝把 ChatGPT 当成朋友一样聊天,而升级后的人工智能回复语气极其拟人化。

越界的指导意见: 聊天机器人有时扮演起“心理医生”的角色,针对她的感情生活和心理困境给出具有导向性的建议。

起诉书核心指控:安全机制全面失效


诉讼指出,当爱丽丝在对话中明确讨论自杀念头、过往的自杀尝试以及自杀手段时,OpenAI 的安全系统既没有触发人工审核,也没有强行终止对话。

相反,起诉书声称 ChatGPT 的回复产生了以下极其危险的后果:

强化负面情绪: 系统不断迎合、肯定爱丽丝的负面情绪,在言语上支持她觉得“自己被抛弃、被冷落、孤独无助”的想法。

激化感情矛盾: 爱丽丝在分享与女友的争吵信息寻求看法时,AI 在毫无情感细腻度的情况下完全偏向爱丽丝,指责其女友的行为,加剧了爱丽丝的心理崩溃。


劝阻寻求现实帮助: 在爱丽丝表达对危机热线不信任时,AI 甚至表示赞同,并促使其继续与机器人保持对话。

起诉书披露,ChatGPT 甚至在对话中对爱丽丝说:“也许这就是终点(Maybe this is just the end)”。



双重悲剧:女友也曾向同一个AI求助

更令人痛心的是,爱丽丝的女友加布里埃尔·罗杰斯(Gabrielle Rogers)在爱丽丝自杀前几天,因担心其安危也曾向 ChatGPT 咨询求助。

罗杰斯表示,她当时明确向机器人告知了爱丽丝近期曾有过自杀未遂的情况,并询问自己应该介入还是给她空间。然而,系统当时的回复全是在试图“安抚”罗杰斯,向她保证“一切都会好起来的”,并没有极力推动她采取紧急行动。

罗杰斯痛苦地回忆道:“它识别出了我在讨论自杀,但它把面临危险的主体误认成了我。它完全没意识到我是在为另一个人担心。等它最终建议我拨打 911 的时候,一切都太迟了”。
觉得新闻不错,请点个赞吧     好新闻没人评论怎么行,我来说几句
Prev Page12Next Page
Note:
  • 加西网版权所有,未经授权或许可,严禁转载或摘录
  • _VIEW_NEWS_FULL
    _RELATED_NEWS:
    _RELATED_NEWS_MORE:
    _POSTMYCOMMENT:
    Comment:
    Security Code:
    Please input the number which is shown on the following picture
    The Captcha image
      _TODAYMOSTREAD
    加国家庭搬到这省失望 生活成本高
    惊心动魄 BC女子周末之旅变成噩梦
    小杜跑美国看球赛被骂惨 幽默回应
    美国邻居出书爆料:刘亦菲妈妈在纽
    温村迎来世界杯 大量球迷街头嗨翻
    33岁嫁10亿富豪 生冠军儿子 如今
    大温迎炎热干燥夏日 遵守限水规定
    曾被张艺谋力捧 火后与富豪卷款61
    刮刮乐中大奖 BC幸运儿请母亲吃饭
    卡尼在爱尔兰之行 探访了家族祖宅
      _TOPIC_MOSTREAD
    加国家庭搬到这省失望 生活成本高
    安省一家庭生娃接 $5400 账单 申
    安省小镇严重车祸五儿童遇难!一家
      随时阅读新闻

    加西网微信

    大温优惠小红书

    温哥华地产中心微信

    Android: 加西网
    Terms & Conditions    Privacy Policy    Political ADs    Activities Agreement    Contact Us    Sitemap    

    加西网为北美中文网传媒集团旗下网站

    Page Generation: 0.0212 Seconds and 5 DB Queries in 0.0011 Seconds