ChatGPT老板警告AI可能會滅絕人類

2023-06-02 | 來源: 量子位 | 轉到微信 | 有3人參與評論 | 字體: 放大縮小 | 收藏 | 打印

圖靈獎得主 Bengio 和 Hinton，同時警告AI 可能滅絕人類！

就在昨夜，一封簽署名單多達 350 人的公開信迅速傳播開去，信中核心只有一句話：

" 降低 AI 滅絕人類的風險 "，應該像流行病和核戰爭等其它社會規模的風險一樣，成為全球的優先事項。

簽署這封公開信的，既包括三大 AI 巨頭的 CEO，即 ChatGPT 老板、OpenAI的 Sam Altman，DeepMind的 Demis Hassabis 和Anthropic的 Dario Amodei；

也包括不少國內外高校的教授，除了 Yoshua Bengio 和 Geoffrey Hinton 以外，清華 AIR 院長張亞勤和斯坦福教授、圖靈獎得主Martin Hellman等人也名列其中。

這段時間來，關於 AI 風險的各種大小討論也是接連不斷，OpenAI CEO Sam Altman 前段時間還倡議稱，人們應當像對待核設施一樣監管 AI。

使用ChatGPT的10個問不出口的問題，答案在這

ChatGPT每天燒掉$70萬 OpenAI將產？

千萬別信ChatGPT給出的癌症治療方案

所以，究竟是誰發起的這封公開信倡議，又是否有 AI 大牛反對這件事？

為何簽署這封信？

發布這封公開信的機構名叫 Center for AI Safety（CAIS），是一家關於 AI 安全的非營利組織。

在這封公開信的開頭，CAIS 反復強調：

包括 AI 專家、記者、政策制定者和公眾在內，越來越多的人開始討論 AI 帶來的一系列重要和緊迫的風險。

即便如此，要想表達對先進 AI 的嚴重風險，可能還是有一定難度。這封公開信旨在克服這一障礙，並展開對相關議題的討論，讓更多專家和公眾人物認識到這一點。