Internet

CoreWeave的11億美元籌款顯示替代雲市場蓬勃發展

對於替代雲服務的需求從未如此旺盛。

舉一例來說:CoreWeave是一家GPU基礎架構提供商,最初是一家加密貨幣挖礦業務,本週從Coatue,Fidelity和Altimeter Capital等投資者籌集了11億美元的新資金。據報導,該次融資使這家初創公司的後市值達到190億美元,使CoreWeave的總籌集金額達到50億美元的債務和股權,對於一家不到十年歷史的公司來說,這是一個令人驚嘆的數字。

不僅是CoreWeave。

Lambda Labs也在今年四月初獲得了多達5億美元的“特殊融資載體”,這家公司在數月前關閉了3.2億美元的C輪融資。非營利機構Voltage Park,由加密貨幣億萬富翁Jed McCaleb支持,去年十月宣布在支持GPU的數據中心中投資5億美元。而Together AI是一家雲端GPU主機公司,也進行生成式人工智能研究,於今年三月獲得由Salesforce領導的1.06億美元融資。

那麼為什麼對替代雲服務的熱情和注入資金如此之大?簡單來說,生成式人工智能。

隨著生成式人工智能的繁榮持續進行,運行和訓練生成式人工智能模型的硬件需求也在增加。 GPU在架構上是進行訓練、微調和運行模型的合理選擇,因為它們包含數千個核心,可以並行進行線性代數方程,構成了生成模型的組成部分。

但安裝GPU是昂貴的。所以大多數開發人員和組織選擇採用雲端服務。

在雲計算領域的領先者,例如Amazon Web Services(AWS),Google Cloud和Microsoft Azure,提供了大量針對生成式人工智能工作負載進行優化的GPU和特殊硬件實例。但對於某些模型和項目來說,替代雲端服務最終可能會更加經濟實惠,並提供更好的可用性。

在CoreWeave 上,租用一個Nvidia A100 40GB(進行模型訓練和推斷的常見選擇)每小時價格為2.39美元,這相當於每月1200美元。在Azure上,同一個GPU的價格為3.40美元每小時,或每月2482美元;在Google Cloud上,每小時價格為3.67美元,或每月2682美元。

考慮到生成式人工智能工作負載通常在GPU集群上執行,成本差距很快就會增加。

“像CoreWeave這樣的公司參與了我們稱之為'專業GPU即服務'的雲端提供商市場,”Gartner雲服務和技術副總裁Sid Nag告訴TechCrunch。“鑑於GPU需求很高,他們提供了一個替代方案,使企業能接觸到Nvidia GPU 的另一個市場途徑。”

Nag指出,甚至一些大型科技公司已經開始依靠替代雲端提供商,因為他們在計算容量挑戰方面取得了發展。

去年六月,CNBC報導稱Microsoft與CoreWeave簽署了一項價值數十億美元的協議,以確保ChatGPT的製造商OpenAI(微軟的密切合作夥伴)具有足夠的計算能力來訓練其生成式人工智能模型。 Nvidia,CoreWeave芯片的主要供應商,認為這是一個令人期待的趨勢,也許是出於槓桿原因;據說他們已經給予一些替代雲端提供商對其GPU的優先訪問權。

Forrester的主要分析師Lee Sustar認為,像CoreWeave這樣的雲端供應商之所以成功,部分原因是他們不像主要供應商那樣需要應對基礎架構“包袱”。

他說:“鑒於超大規模花費龐大的基礎架構和一系列不產生或產生很少收益的服務,這些超大型供應商需要進行巨大投資,這是沒有超大型供應商級別的投資的挑戰者,例如CoreWeave有機會成功,他們專注於AI高級服務,而無需承擔整體超大型供應商級別的投資。”

但這種增長可持續嗎?

Sustar對此表示懷疑。他認為,替代雲提供商的擴張將受到兩個條件限制,即(1)他們是否能繼續大量啟用GPU,(2)並以具有競爭力的低價格提供它們。

在價格競爭方面,挑戰可能會在將來加劇,因為像Google,微軟和AWS之類的主要供應商正在加大對定製硬件來運行和訓練模型的投資。Google提供其TPU;微軟最近推出了兩款定製芯片,Azure Maia和Azure Cobalt;而AWS則有Trainium,Inferentia和Graviton。

“超級計算機將利用他們的定製硅片來減輕對Nvidia 的依賴,同時Nvidia 將尋求與CoreWeave 和其他以GPU 為中心的AI 云合作,” Sustar 說。

此外,不是所有工作負載都需要GPU,尤其是那些不受時間影響的工作負載。 CPU能夠運行必要的計算,但通常速度比GPU和定製硬件慢。

在替代雲提供商的存在慮念之中是,如果生成式人工智能泡沫爆裂,將會使提供者擁有大量的GPU,而需求者卻不夠,這將是一個重大威脅。但Sustar和Nag均認為,短期內前景看好,他們都預計將會有持續增加的新興雲端服務商。

Sustar 說:“以GPU 為導向的雲端創業公司將為[主要供應商]提供充足的競爭,特別是對於已經是多雲端客戶且可以應對多雲端管理、安全、風險和遵循性的複雜性的客戶。如果一家AI雲端具備可信的領導力、穩固的財務支持和無需等待時間的GPU,這些雲端客戶會輕鬆嘗試新的AI 云。”

Related Articles

Back to top button Back to top button