|
彭博針對金融業推出大型語言模型BloombergGPT
|
| 2023-03-31 11:01:04 |
| >>文章內容 |
3月30日，彭博發布公告稱，推出為金融界打造的大型語言模型(LLM)——BloombergGPT。 圖片來源：彭博網站截圖 彭博是一家全球商業、金融信息和新聞資訊提供商。3月30日，該公司發布了一篇關於BloombergGPT開發情況的研究論文，詳細介紹了這一大規模生成式人工智能(AI)模型。該大語言模型(LLM)專門針對各類金融數據進行訓練，以全方位支持金融領域的自然語言處理(NLP)任務。 |
| rtsui | 點擊: 0 | 評論: 5 | 分類: 上傳 | 論壇: 溫哥華不眠夜 | 論壇帖子 |
| 分享: |
 分享到微信
|
文章評論
| rtsui | 無題 2023-03-31 11:01:19 | 引用 |
| 無題 與此同時，彭博的機器學習產品和研究小組和人工智能工程團隊合作，利用彭博在數據創建、收集和整理方面的資源，構建了迄今為止規模最大的專業領域數據集之一。
作為一家金融數據公司，彭博的數據分析師在四十多年的時間裡收集和維護了運用大量金融用語的文檔。開發團隊從這個由海量英文金融文檔組成的檔案庫中，提取並創建了一個包含3630億詞例(token)的金融數據集。這批數據又與另一個包含3450億詞例的公共數據集疊加，成為了包含超7000億詞例的大型訓練語料庫。 2023-03-31 11:01:31 | 引用 |
rtsui |
| rtsui | 無題 彭博的研究團隊利用該語料庫的一部分內容，訓練了純解碼器(decoder-only)因果語言模型，包含500億個參數。團隊還對訓練出的模型進行了基准測試。金融領域的NLP任務采用了一套彭博的自有基准，各類通用NLP任務則采用市面上流行的基准。
2023-03-31 11:01:50 | 引用 |
| 無題 彭博稱，BloombergGPT模型在金融任務上的表現遠超類似規模的開放模型，而在一般NLP基准上的表現也達到甚至超過平均水平。
彭博首席技術官肖恩·愛德華茲(Shawn Edwards)還表示，“BloombergGPT將使我們能夠處理許多新型的應用，不僅比定制化模型的表現更好，而且開箱即用，能夠大大縮短上線時間。” 2023-03-31 11:02:00 | 引用 |
rtsui |
| rtsui | 無題 4個正部，32個副部級大學，大學行政化何時有變化？
2023-03-31 11:17:51 | 引用 |
據介紹，彭博的研究人員開創了一種混合訓練法，將金融數據與通用數據集結合起來訓練模型，以達到在金融基准上取得最佳結果，同時在通用LLM基准上也保持足夠的競爭力。