-
日期: 2025-02-27 | 來源: 中產先生 | 有0人參與評論 | 字體: 小 中 大技術是把雙刃劍。
說在前面：
AI確實是趨勢，也很大程度上提高效率，特別是DeepSeek開源之後，AI的使用更加普及，現在不管是政務系統，還是企業辦公，都要求員工要使用DeepSeek。
但同時，隨著使用人數的增加，DeepSeek的副作用，也越來越多的顯示出來。
主要有這幾個：
1、一本正緊地瞎編
已經有很多人發現了，DeepSeek存在瞎編的情況，對於沒有知識儲備的人來說，很容易造成認知混亂。
為什麼會出現瞎編的情況呢？
我想主要是兩個原因：
第一，訓練機制
大模型的訓練特別強調獎懲機制，這就會讓AI傾向於取悅用戶，甚至為了完成任務而杜撰和瞎編，當然AI在生成這些信息的時候更天衣無縫，一本正緊的胡說八道，沒有知識儲備的人90%都會被唬住，信以為真。
如果這些信息被大規模傳播之後，再進行二次訓練，可能就會成為很多人的共識，估計人類的知識體系可能被顛覆，AI在這方面的效率比社交媒體的信息繭房厲害多了。
第二，語料質量
我們之前說過，開源大模型的問題在於：
它的推理能力是蒸餾而來的，也就是說，它訓練的語料都是正確答案，缺少信息標注和原始推理的過程。
這可能在遇到一些錯誤信息的時候，無法識別，同時因為獎懲機制的關系，迎合用戶生成了錯誤的信息。
所以，騰訊版DeepSeek接入公眾號文章做訓練，可能真的會增加幻覺的程度。
總結一下：
在一本正緊瞎編這部分，可能是多方面的問題，但如果不及時介入的話，造成的問題還是很嚴重的：
AI可能提高了很多人的認知下限，但是鎖死了絕大部分人的認知上限，大家都活在AI制造的信息繭房裡。
有點科幻了。
2、被用來做信息污染- 新聞來源於其它媒體，內容不代表本站立場！
- 問今天幾月幾號?DeepSeek回答笑翻網絡
- 樊振東投奔國外 陳夢跨界轉型 他們夠聰明
- 溫哥華會計事務所 收費低 服務好
-
- 視頻:BC黑熊遭遇美洲豹 看誰怕誰?
- 山火告急恐大蔓延!BC這地方不要去
- 李亞鵬欠下巨債,妻子一番話揭開他多年遮羞布
- 羅京去世16周年!妻子改嫁富商仍思念著他....
- 女子被拖入加國公園樹叢並遭性侵
- 大爆款《在人間》橫空出世,三大平台亮出"王炸劇" 搶占榜首
-
- 李在明吐槽:韓國總統辦公室像墳地
- 郭聲琨女婿升官 張又俠加強掌控軍權
- 周渝民給F4合體潑冷水?重聚可以賺快錢免談
- 禁止15歲以下少女戴頭巾? 71%法國人表示支持
- 3000輛車恐變廢鐵!中國貨輪起火 船員棄船
- 馬斯克再向川普減稅法案開炮 特斯拉狂跌4%
-
- 美國風格"白襪崇拜"能讓美國再次偉大嗎?
- 溫哥華資深地產經紀 工作誠信認真
- 北京錢荒日甚!最新舉動令普通人恐慌
- 啥意思?中國官媒突然曝光"鎮國神器"核心數據
- 樓花買不動?大溫這公寓樓月賣百個
- 快訊:川普簽公告,暫停向哈佛大學新生發放簽證
-
目前還沒有人發表評論, 大家都在期待您的高見
