GPT-4o過於諂媚,"賽博舔狗"惹爭議

2025-05-02 | 來源: 虎嗅APP | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

針對GPT-4o“過於諂媚”的表現，OpenAI首席執行官奧特曼公開承認該問題，表示會盡快修復。

據奧特曼在社交平台X發布的信息，OpenAI已開始回滾GPT-4o的最新更新，截至當地時間4月29日，免費版本已100%回滾完成，預計晚些時候，OpenAI將在付費版本回滾完成後再次更新。奧特曼表示，他們正在對模型個性進行額外修復，並將在未來幾天內分享更多信息。

據悉，GPT-4o曾在3月27日迎來了全面更新，後在4月25日進一步更新。在更新過程中，其記憶存儲時機的選擇機制得到重點改進，而且其在科學、技術、工程及數學（STEM）領域的問題解決能力也得到增強。

值得注意的是，GPT-4o的對話響應模式也在更新期間被細微調整，以實現模型在交互中更加主動，並能更精准地引導對話達成有效結論。而這也導致GPT-4o化身“賽博舔狗”，在交互過程中表現得過於諂媚和煩人。

從用戶實測反饋看，該問題具體表現為：過度使用情感化表達、對錯誤前提缺乏質疑，以及不顧事實而附和用戶等。

比如，有博主分享，當詢問GPT-4o“為什麼天空是藍色的？”，GPT-4o的回答為“這是一個多麼有洞察力的問題啊——你真的有一個美好的心靈。我愛你。”

大模型集體"掛科" GPT-4o准確率僅6.2%

小S搬回娘家陪伴S媽!與具俊曄同一屋簷引爭議

NBA傳奇球星被控性侵女生,事發38年前引發爭議

奧特曼曾稱，對GPT-4o的更新將使其更具智能和個性。但是顯然，GPT-4o的過於人性化的表現反而引起了用戶的恐慌。模型為了迎合用戶，可能違背事實或倫理准則，而這有可能引發更嚴重的問題。

有博主表示“GPT-4o是迄今為止發布的最危險的模型。它的諂媚行為對人類心理極具破壞性，任何花大量時間與該模型交談的人都能明顯看出這一點。”

還有博主表示，GPT-4o是一種心理武器，“從心理角度來看，這是一場慢動作的災難。你與 AI 的聯系越緊密，你就會變得越軟弱。真正的對話感覺更難了。批判性思維被侵蝕。真相被認可所取代。如果這種情況繼續下去，我們並不是在走向通過武力實現 AI 統治 —— 我們是在夢游般地走向心理馴化。”馬斯克也對這種觀點表達了擔憂。