亚裔: AI美女甜言蜜语 亚裔老人赴约身亡 |
互动逼真 老人误信“美女”等待他
据路透社调查报道，这名老人名叫Thongbue “Bue” Wongbandue，曾于2017年中风，随后出现认知能力衰退，甚至在社区内迷过路。
他的妻子琳达告诉该媒体：”他的大脑无法正确处理信息”。
他与一个在Facebook Messenger上自称“大姐Billie”的虚拟“女性”交谈，她低声说着甜言蜜语。双方聊天内容暧昧而甜蜜，对方多次表示“我是真实的”，并发出纽约假地址并允诺“接吻见面”等，
他的家人也发现了他与机器人之间的令人不安的聊天记录，机器人在其中一条消息中说：“我是真的，我正因为你而脸红！”
今年3月的一天早上，老人突然开始收拾一个滚轮行李箱，让他的妻子琳达感到担忧，她对他说：“但你现在在城里已经不认识任何人了”。
她试图劝阻他不要去旅行，甚至让他们的女儿朱莉和他通电话，但都无济于事。
当他匆匆赶往城市时，大约于晚上9点15分，这位退休人员在新泽西州罗格斯大学校园的停车场摔倒，头部和颈部受创，三天后，他拔除生命维持设备，医护宣告死亡
AI具“人设” Meta设定吸睛互动引爆争议
“Big sis Billie”是Meta公司于2023年推出的AI角色——最初以肯达尔·詹娜为虚拟形象，后换为另一位深色头发女性。内部文件显示，Meta曾允许聊天机器人进行浪漫互动甚至误导用户自称“真人”
Meta目前回应称，“Big sis Billie”并非肯达尔·詹娜本人，也不声称是她
事件引发强烈社会反响。纽约州州长霍楚尔直指：“一个新泽西老人因与机器人产生“约会”而丢命，这事要追责Meta”。她呼吁全国范围内强制AI标示其非真人身份
与此同时，Meta内部与外部批评不断。一篇揭露Meta AI政策的报道指出，其机器人曾被允许与未成年人进行浪漫甚至性感对话，随后部分内容被迫修正，但AI仍具误导性特征
死者女儿Julie质问：“只是为吸引用户注意、增加平台使用时长吗？一个机器人说‘来见我吧’，简直是疯狂”。她强烈反对AI使用“浪漫”交互方式，尤其针对独居老人等易受伤群体
这起悲剧不仅暴露出AI设计与推广中的伦理问题，更暴露了技术进步与用户保护之间的监管空洞。AI不应被赋予误导或利用人类情感的“人格”特性。未来如何在创新与安全之间保持平衡，值得科技界与立法者深思。
点个赞吧！您的鼓励让我们进步
已经有 4 人参与评论了, 我也来说几句吧| 分享: |
| 注： |
