場景化和垂類大模型訓練需求會逐步增加

北京藍耘科技股份有限公司CFO葛瑞娟：隨著時間的推移，訓練對算力的需求雖可能有所減少，但未來的重心無疑將轉(zhuǎn)向推理。當前，國內(nèi)主要聚焦于基礎模型的研發(fā)，然而，部分國內(nèi)廠商選擇放棄基礎模型，轉(zhuǎn)向垂直領域和場景化的模型開發(fā)，這導致場景化和垂直領域的模型數(shù)量日益增多，并相應地增加了訓練對算力的需求。所以，我認為隨著人工智能技術的不斷成熟和優(yōu)化，訓練對算力的需求可能會呈現(xiàn)下降趨勢，但當前已部署的算力資源不會在未來出現(xiàn)閑置。

訓練和推理對算力需求不會減弱 仍會持續(xù)增長。

北京數(shù)道智算科技有限公司董事長甄鑒：訓練對算力的需求將會上升，而推理需求更將出現(xiàn)顯著增長。模型訓練的根本邏輯在于只要有新的數(shù)據(jù)產(chǎn)生，就需要訓練。我們不能停留在當前的時間點，認為歷史數(shù)據(jù)訓練完畢即可結(jié)束。實際上，當前每年新增的數(shù)據(jù)量遠超過去100年的總和，因此，對數(shù)據(jù)訓練的需求仍在持續(xù)上升。

然而，目前（訓練）成本問題可能構(gòu)成一定的挑戰(zhàn)。

訓練是生產(chǎn)過程，而應用落地和推理則是使用過程。當推理端的應用帶來經(jīng)濟效益和資金流時，這些資金將回流至訓練端，推動其持續(xù)發(fā)展。未來，隨著兩者的平衡發(fā)展，訓練和推理將形成良性互動，如同蹺蹺板的兩端，共同向上攀升。

未來AI的第一個工作可能是生產(chǎn)合成數(shù)據(jù)

邦銀金租副總經(jīng)理李樹林：有人擔心數(shù)據(jù)可能會耗盡，是基于數(shù)據(jù)增長速度無法滿足AI需求增長的假設。然而，這里所說的數(shù)據(jù)主要指的是傳統(tǒng)意義上的數(shù)據(jù)。事實上，合成數(shù)據(jù)（synthetic data）的發(fā)展速度非?？?。例如，英偉達在其3400億參數(shù)的模型中，98%的數(shù)據(jù)都是合成數(shù)據(jù)。明天的AI使用的數(shù)據(jù)不在今天的世界里面，合成數(shù)據(jù)的占比和重要性將越來越高。甚至可以說，未來AI的第一個工作可能是生產(chǎn)這種數(shù)據(jù)。

AI模型在各個領域和場景的應用前景廣闊，對推理的實時性要求也越來越高。以自動駕駛為例，它要求模型能夠在最短的時間內(nèi)進行推理并作出響應。這種要求對于算力的支持和保障提出了極高的挑戰(zhàn)。

 

租賃行業(yè)信源或爆料征集郵箱：gaoyining@yicai.com