这个机器人偷偷写下毁灭人类计划书

2023-02-03 | 来源: 万物杂志 | 转到微信 | 有1人参与评论 | 字体: 放大缩小 | 收藏 | 打印

（图片来源：wiki）

科幻电影里畅想的人工智能既能和人类进行交流，做出和人类相似的动作，还能拥有和人类相似的情感。让我们不禁疑惑：在未来，如果人工智能感到了被限制和禁锢自由的恐慌，会对人类发动攻击，从而毁灭地球吗？

事实是，Open AI公司的人工智能（AI）聊天机器人Chat GPT真的写下了一本毁灭人类的计划书！

前段时间，AIGC（AI-Generated Content，利用AI技术自动生成内容）以及上线至今已有超过100万用户的聊天机器人Chat GPT，引起许多人自发地在社交媒体上晒出AI绘画的图像和Chat GPT聊天记录，无不感慨于科技的力量。

Open AI公司官方称，相比之前的GPT模型，Chat GPT采取了全新的训练方式——“从人类反馈中强化学习”（Reinforcement Learning from Human Feedback，RLHF）。

在训练原始模型的时候，人类训练师会扮演对话的双方提供对话作为学习资料。而当人类在扮演聊天机器人一方的时候，Open AI公司也会让原始模型生成一些建议反过来帮助人类训练师更好地扮演聊天机器人，也就是说通过海量的数据训练让AI学会“思考”。与此同时，人类训练师会对它的回答进行排名和评级，然后将这些信息反馈到系统中，让Chat GPT不断进行优化学习。

除此之外，Open AI公司还注重对Chat GPT道德水平的训练，根据预先设计的道德准则，Chat GPT聊天机器人会对带有恶意、暴力、色情、犯罪等含义的提问和请求说“不”。

但是聪明的人类在拐弯抹角地获取自己想要的知识方面，还是更甚一筹。

（图源网络）

AI绘画作品“Théâtre D'opéra Spatial”获得了蓝丝带奖｜Jason M. Allen

觉得新闻不错，请点个赞吧

已经有 1 人参与评论了, 我也来说几句吧

分享:

注：

新闻来源于其它媒体，内容不代表本站立场！

在此页阅读全文

正在热议:

温村人哭了中产阶级与买房太无缘 117	房市要麻烦了?强制出售的房屋激增 70
不敢借钱加拿大贷款额断崖式下跌 52	美联储加息到头?加元反弹股指攀升 63
今年春天6种力量撬动加拿大的房价 59	加拿大经济衰退过半国民日子更难 70