-
日期: 2025-11-26 | 來源: 騰訊科技 | 有0人參與評論 | 專欄: 谷歌 | 字體: 小 中 大
谷歌的路線與英偉達不同。谷歌並不追求硬件通用性,而是追求深度學習特別是Transformer負載的極致效率。TPU的核心是脈動陣列,這是一種專門為矩陣乘法設計的架構,使其在深度學習計算中特別高效。
谷歌不是希望TPU成為行業通用芯片,而是成為全球AI推理和訓練最具效能的專用芯片,進而讓谷歌整個AI系統做到性能領先、成本最低、部署最廣。
谷歌的核心優勢在於全棧整合能力。他們不僅控制芯片,還控制模型、框架、編譯器、分布式訓練系統與數據中心基礎設施。這讓谷歌可以做出許多GPU無法實現的系統級優化。
例如數據中心網絡拓撲完全為TPU超節點服務,軟件層面的調度系統能根據模型特性自動調整硬件資源的使用方式。這種“系統級一體化”是英偉達無法做到的,因為英偉達只能控制GPU,而不能控制客戶的數據中心。
亞馬遜則走了第三條路線,其芯片戰略出發點是降低AWS的基礎設施成本,同時減少對外部供應商尤其是英偉達的依賴,因此他們開發了Trainium和Inferentia。
作為雲廠商,AWS關注的是規模效應與經濟性,而非像谷歌那樣構建一個統一的AI算力體系。
Trainium的設計更靈活,在不少情況下接近GPU的適配能力,但性能針對訓練和推理分別做了優化。Inferentia則聚焦推理,適合高吞吐部署場景。亞馬遜通過芯片降低內部成本並將節省部分反饋給客戶,從而提升AWS的競爭力。
總體而言,英偉達的路線是通用、生態驅動、軟件鎖定;谷歌的路線是專用、垂直整合、系統統一;亞馬遜的路線是成本優化、雲驅動、兼容商業需求。三者的路線差異導致了AI芯片市場中出現了截然不同的產品形式、商業策略與競爭格局。
04 利用TPU,告別昂貴的“CUDA稅”
谷歌之所以能夠在推理時代獲得顯著優勢,關鍵並不僅僅在於TPU的硬件性能,更在於其全棧垂直整合策略。
這種策略讓谷歌避免了昂貴的“CUDA稅”,並在成本結構上相對於OpenAI和其他依賴GPU的企業形成了巨大優勢。
所謂CUDA稅,是指GPU芯片從生產到銷售過程中所疊加的高額利潤。
英偉達的GPU成本大約僅幾千美元,但賣給雲廠商時價格往往動輒數萬美元不等,毛利率高達八成以上。全球所有訓練大模型的科技公司幾乎都要支付這項成本,並且無法擺脫。
OpenAI依賴英偉達GPU進行訓練和推理,且由於GPT系列模型參數規模巨大、推理量龐大,其總體算力開支遠超大多數企業的總營收。
英偉達的定價模式使這些公司無論怎麼優化模型,都難以實現規模化商業利潤。
谷歌的策略完全不同。谷歌采用自研TPU進行訓練和推理,整個供應鏈由谷歌控制,從芯片設計到制造、從網絡方案到軟件棧再到數據中心布局,全部由谷歌內部優化。
由於不需要支付英偉達稅,谷歌的算力成本結構天生比OpenAI更具優勢。
谷歌不僅在內部獲得低成本,還將這種成本優勢傳遞給谷歌雲的客戶。通過TPU服務,谷歌可以為客戶提供更低價格的推理能力,從而吸引大量模型公司和企業遷移到谷歌平台。
根據科技網站venturebeat.com的報道,谷歌在算力成本上的結構性優勢遠遠優於OpenAI。這意味著,谷歌提供同等推理服務時,其底層成本可能僅為對手的兩成。如此大的成本差異在推理時代具有決定性意義。
當企業的推理成本占到其支出的大部分時,遷移到成本最低的平台就成為必然選擇。例如,一個企業每年可能在推理上消耗數千萬美元甚至上億美元,如果遷移到TPU可以節省三到五成成本,那麼遷移幾乎是一種不可回避的商業決策。- 新聞來源於其它媒體,內容不代表本站立場!
- 放心用AI OpenAI、Google證實:不會有…
- Google首度揭曉智慧眼鏡 3種類型可挑
- 谷歌眼鏡重新發布!聯手中國廠商殺瘋了
- 狗狗開門讓牛馬都進屋開party 主人回家後傻了…
- 溫哥華要為建商紓困 但一些人反對
- "北大"走出來的11位明星,個個都是學霸
-
- 華裔博物館辦家庭趣味活動慶冬至
- 加國央行維持利率不變 加元走軟
- 李小龍武功天下第一?妻子晚年透露:有一種對手令李小龍心生畏懼
- 加國男子中1500萬大獎 將匿名捐款
- 溫哥華資深地產經紀 工作誠信認真
- 馬上到期!$5億面包和解金人人應領
-
- 這個國家的女性,為什麼不容易出軌?
- 賽馬運動結束 大溫這公園重大變革
- 台防務部門被爆5.9億新台幣采購案由裝修公司中標
- 稀土"武器"正在變鈍 北京失策了
- 大溫買家持觀望態度 房源堆積如山
- 溫村草坪為啥比往年更容易被破壞
-
- 答應北京3條件促成"鄭習會" 是真的?
- "習式愚蠢"再現!北京對日釋出臨戰信號
- 溫哥華貸款經紀 解決各類疑難貸款
- 烏克蘭爆料:中國秘買俄軍備,恐與台海有關
- 突發: 俄轟炸機加入中國空中巡航 日本緊急出動
- 哈瑪斯:巴勒斯坦如建國 同意放下武器不掌權阿
-
目前還沒有人發表評論, 大家都在期待您的高見
