場(chǎng)景化和垂類大模型訓(xùn)練需求會(huì)逐步增加

北京藍(lán)耘科技股份有限公司CFO葛瑞娟：隨著時(shí)間的推移，訓(xùn)練對(duì)算力的需求雖可能有所減少，但未來的重心無疑將轉(zhuǎn)向推理。當(dāng)前，國(guó)內(nèi)主要聚焦于基礎(chǔ)模型的研發(fā)，然而，部分國(guó)內(nèi)廠商選擇放棄基礎(chǔ)模型，轉(zhuǎn)向垂直領(lǐng)域和場(chǎng)景化的模型開發(fā)，這導(dǎo)致場(chǎng)景化和垂直領(lǐng)域的模型數(shù)量日益增多，并相應(yīng)地增加了訓(xùn)練對(duì)算力的需求。所以，我認(rèn)為隨著人工智能技術(shù)的不斷成熟和優(yōu)化，訓(xùn)練對(duì)算力的需求可能會(huì)呈現(xiàn)下降趨勢(shì)，但當(dāng)前已部署的算力資源不會(huì)在未來出現(xiàn)閑置。

訓(xùn)練和推理對(duì)算力需求不會(huì)減弱 仍會(huì)持續(xù)增長(zhǎng)。

北京數(shù)道智算科技有限公司董事長(zhǎng)甄鑒：訓(xùn)練對(duì)算力的需求將會(huì)上升，而推理需求更將出現(xiàn)顯著增長(zhǎng)。模型訓(xùn)練的根本邏輯在于只要有新的數(shù)據(jù)產(chǎn)生，就需要訓(xùn)練。我們不能停留在當(dāng)前的時(shí)間點(diǎn)，認(rèn)為歷史數(shù)據(jù)訓(xùn)練完畢即可結(jié)束。實(shí)際上，當(dāng)前每年新增的數(shù)據(jù)量遠(yuǎn)超過去100年的總和，因此，對(duì)數(shù)據(jù)訓(xùn)練的需求仍在持續(xù)上升。

然而，目前（訓(xùn)練）成本問題可能構(gòu)成一定的挑戰(zhàn)。

訓(xùn)練是生產(chǎn)過程，而應(yīng)用落地和推理則是使用過程。當(dāng)推理端的應(yīng)用帶來經(jīng)濟(jì)效益和資金流時(shí)，這些資金將回流至訓(xùn)練端，推動(dòng)其持續(xù)發(fā)展。未來，隨著兩者的平衡發(fā)展，訓(xùn)練和推理將形成良性互動(dòng)，如同蹺蹺板的兩端，共同向上攀升。

未來AI的第一個(gè)工作可能是生產(chǎn)合成數(shù)據(jù)

邦銀金租副總經(jīng)理李樹林：有人擔(dān)心數(shù)據(jù)可能會(huì)耗盡，是基于數(shù)據(jù)增長(zhǎng)速度無法滿足AI需求增長(zhǎng)的假設(shè)。然而，這里所說的數(shù)據(jù)主要指的是傳統(tǒng)意義上的數(shù)據(jù)。事實(shí)上，合成數(shù)據(jù)（synthetic data）的發(fā)展速度非?？?。例如，英偉達(dá)在其3400億參數(shù)的模型中，98%的數(shù)據(jù)都是合成數(shù)據(jù)。明天的AI使用的數(shù)據(jù)不在今天的世界里面，合成數(shù)據(jù)的占比和重要性將越來越高。甚至可以說，未來AI的第一個(gè)工作可能是生產(chǎn)這種數(shù)據(jù)。

AI模型在各個(gè)領(lǐng)域和場(chǎng)景的應(yīng)用前景廣闊，對(duì)推理的實(shí)時(shí)性要求也越來越高。以自動(dòng)駕駛為例，它要求模型能夠在最短的時(shí)間內(nèi)進(jìn)行推理并作出響應(yīng)。這種要求對(duì)于算力的支持和保障提出了極高的挑戰(zhàn)。

 

租賃行業(yè)信源或爆料征集郵箱：gaoyining@yicai.com