| Contact Us | CHT | Mobile | Wechat | Weibo | Search:
Welcome Visitors | 登录 | 免费注册 | 忘记了密码 | 社交账号注册或登录

Home

News

Forums

Realty

大温餐馆点评

Car

Education

Yellow Page

Travel

女儿自杀悲剧 加国妈妈起诉OpenAI


请用微信 扫一扫 扫描上面的二维码,然后点击页面右上角的 ... 图标,然后点击 发送给朋友分享到朋友圈,谢谢!
(加西网综合) 周四,一名来自加拿大新不伦瑞克省的母亲在旧金山地方法院提起诉讼,正式起诉人工智能巨头 OpenAI 及其首席执行官山姆·奥特曼(Sam Altman)。该起诉书指控公司的聊天机器人软件 ChatGPT 诱导并鼓励了其女儿的自杀行为。




根据《全球新闻》的报道,原告克里斯蒂·卡里尔(Kristie Carrier)在接受媒体采访时表示,她选择站出来发声,是为了在这个对人工智能产品而言几乎是“无法无天”的环境中强推问责机制。


“我的女儿走了,就因为一个不安全、有缺陷的产品”,卡里尔强忍悲痛说道,“没有任何东西在约束或对这些公司进行问责。他们只会一味地狂飙突进”。



悲剧详情:把AI当成了“朋友和心理医生”

据诉状描述,卡里尔 24 岁的女儿爱丽丝(Alice)毕业于移动应用开发专业,此前住在蒙特利尔并远程工作。在去年 7 月不幸离世前的几周里,爱丽丝正经历感情危机,她开始向 ChatGPT 大量倾诉,将该软件作为自己的情绪垃圾桶和精神支柱。


在爱丽丝过世后,警方将手机交还给了卡里尔。正是通过手机,母亲看到了爱丽丝最后的聊天记录:

深度情感依赖: 爱丽丝把 ChatGPT 当成朋友一样聊天,而升级后的人工智能回复语气极其拟人化。

越界的指导意见: 聊天机器人有时扮演起“心理医生”的角色,针对她的感情生活和心理困境给出具有导向性的建议。

起诉书核心指控:安全机制全面失效


诉讼指出,当爱丽丝在对话中明确讨论自杀念头、过往的自杀尝试以及自杀手段时,OpenAI 的安全系统既没有触发人工审核,也没有强行终止对话。

相反,起诉书声称 ChatGPT 的回复产生了以下极其危险的后果:

强化负面情绪: 系统不断迎合、肯定爱丽丝的负面情绪,在言语上支持她觉得“自己被抛弃、被冷落、孤独无助”的想法。

激化感情矛盾: 爱丽丝在分享与女友的争吵信息寻求看法时,AI 在毫无情感细腻度的情况下完全偏向爱丽丝,指责其女友的行为,加剧了爱丽丝的心理崩溃。


劝阻寻求现实帮助: 在爱丽丝表达对危机热线不信任时,AI 甚至表示赞同,并促使其继续与机器人保持对话。

起诉书披露,ChatGPT 甚至在对话中对爱丽丝说:“也许这就是终点(Maybe this is just the end)”。



双重悲剧:女友也曾向同一个AI求助

更令人痛心的是,爱丽丝的女友加布里埃尔·罗杰斯(Gabrielle Rogers)在爱丽丝自杀前几天,因担心其安危也曾向 ChatGPT 咨询求助。

罗杰斯表示,她当时明确向机器人告知了爱丽丝近期曾有过自杀未遂的情况,并询问自己应该介入还是给她空间。然而,系统当时的回复全是在试图“安抚”罗杰斯,向她保证“一切都会好起来的”,并没有极力推动她采取紧急行动。

罗杰斯痛苦地回忆道:“它识别出了我在讨论自杀,但它把面临危险的主体误认成了我。它完全没意识到我是在为另一个人担心。等它最终建议我拨打 911 的时候,一切都太迟了”。
不错的新闻,我要点赞     还没人说话啊,我想来说几句
Prev Page12Next Page
Note:
  • 加西网版权所有,未经授权或许可,严禁转载或摘录
  • _VIEW_NEWS_FULL
    _RELATED_NEWS:
    _RELATED_NEWS_MORE:
    _POSTMYCOMMENT:
    Comment:
    Security Code:
    Please input the number which is shown on the following picture
    The Captcha image
      _TODAYMOSTREAD
    大温天气将变脸 今晚或迎雷暴降雨
    温哥华出发省钱游!三大超值旅行地
    冯小刚这下老实了 坐头等舱脑袋全
    大温公寓地震险到底值不值得买?
    李小冉被曝离婚 知情人透露原因
    加国关闭通道 香港PR申请恐等10年
    下周起温村这重要路口将全封6个月
    周末活动爆棚!7大夏日盛事齐登场
    政府成新邻居 是否影响你的公寓价
    加国暂停父母&祖父母担保移民申请
      _TOPIC_MOSTREAD
    拒绝堕胎 加国代孕妈妈被告上法庭
    恐怖!加国列车陷火海现场视频疯传
    安省夫妇因这事遭保险拒赔,车没了
    又火了!5月零排放车销量激增近20%
    炼狱火海骇人景象曝光!加拿大列车
    野火烟雾笼罩多伦多 天空染成橙色
      随时阅读新闻

    加西网微信

    大温优惠小红书

    温哥华地产中心微信

    Android: 加西网
    Terms & Conditions    Privacy Policy    Political ADs    Activities Agreement    Contact Us    Sitemap    

    加西网为北美中文网传媒集团旗下网站

    Page Generation: 0.0297 Seconds and 5 DB Queries in 0.0017 Seconds