11月27日，獵戶星空發(fā)布Orion-MoE8×7B大模型，系開源混合架構(gòu)MoE（專家）大模型，同時(shí)推出基于該模型的數(shù)據(jù)服務(wù)產(chǎn)品——AI數(shù)據(jù)寶AirDS（AI-Ready Data Service），主要提供包括數(shù)據(jù)清洗與數(shù)據(jù)標(biāo)注在內(nèi)的服務(wù)。

獵豹移動董事長兼CEO、獵戶星空董事長傅盛在談及現(xiàn)在推出MoE模型與數(shù)據(jù)閉環(huán)服務(wù)時(shí)表示，產(chǎn)業(yè)鏈里決定大模型基礎(chǔ)能力的核心是標(biāo)注后的數(shù)據(jù)，當(dāng)下行業(yè)的重點(diǎn)在于如何將高質(zhì)量數(shù)據(jù)找出來，與應(yīng)用實(shí)現(xiàn)高度結(jié)合。

傅盛認(rèn)為，今天行業(yè)最好的突破點(diǎn)就是高質(zhì)量數(shù)據(jù)與AI Agent框架對應(yīng)用的需求，如今的模型即使不再進(jìn)步，水平也足夠解決相當(dāng)大一部分的問題，且是革命性體驗(yàn)的需求問題。

行業(yè)共同期待的是一次AI應(yīng)用爆發(fā)，谷歌、OpenAI、阿里、華為等大型企業(yè)都在側(cè)重利用MoE提升大模型性能和實(shí)用性，與此同時(shí)，也有一些國內(nèi)企業(yè)在嘗試以軟硬件結(jié)合的方式尋找更多落地的可能性。

用好大模型不簡單

2024年全球MoE大模型數(shù)量呈爆發(fā)增長態(tài)勢。目前基于Transformer的MoE已成為大模型領(lǐng)域主流架構(gòu)，優(yōu)勢在于可以將神經(jīng)網(wǎng)絡(luò)拆分成多個專家子網(wǎng)絡(luò)，面對一次輸入，既可以指定某一位“專家”來回答，也可以要求多位“專家”回答，甚至全部參與回答，最終依據(jù)權(quán)重綜合給出結(jié)果。

開發(fā)者可以在一個巨型模型上繼續(xù)增加參數(shù)量，進(jìn)行橫向擴(kuò)展。因?yàn)?MoE可以選擇只啟用部分專家子模型，在保持性能的同時(shí)，能夠降低推理成本。

相比于算法和算力，在大模型商業(yè)閉環(huán)中，獵戶星空認(rèn)為數(shù)據(jù)成為最直接影響大模型在垂直行業(yè)落地效果的關(guān)鍵。這也是如今獵戶星空發(fā)布數(shù)據(jù)寶產(chǎn)品的原因。獵戶星空首席科學(xué)家韓堃稱，大模型與實(shí)際應(yīng)用之間還有很大的差距，這個差距并非數(shù)據(jù)本身，而是圍繞數(shù)據(jù)進(jìn)行的一系列服務(wù)，包括數(shù)據(jù)標(biāo)注、提示詞撰寫、提示詞優(yōu)化、模型評測等，廠商在推出大模型之后還需要教會客戶如何用好模型。

此次推出的AI數(shù)據(jù)寶AirDS提供的大模型數(shù)據(jù)服務(wù)涵蓋數(shù)據(jù)收集、清洗、標(biāo)注、提示詞工程以及評估等環(huán)節(jié)。在實(shí)際應(yīng)用中，AirDS已服務(wù)包括移動通信終端、互聯(lián)網(wǎng)娛樂、新能源汽車等多領(lǐng)域的中國出海品牌。

知道創(chuàng)宇安全中心總經(jīng)理鄢曉玲對記者表示，就目前所接觸到的市場情況而言，數(shù)據(jù)清洗與標(biāo)注的客戶需求有非常明顯的增加，甚至可以說達(dá)到了翻倍的增長。從行業(yè)發(fā)展趨勢來看，數(shù)字化轉(zhuǎn)型全面提速，各行業(yè)深度依賴數(shù)據(jù)驅(qū)動。無論是新興的電商直播精準(zhǔn)推薦，還是傳統(tǒng)醫(yī)療行業(yè)的病歷數(shù)據(jù)分析輔助診療，都離不開高質(zhì)量數(shù)據(jù)，而數(shù)據(jù)清洗與標(biāo)注是保障數(shù)據(jù)質(zhì)量的必不可少的一環(huán)。

落地場景之中，機(jī)器人也是獵戶星空大模型選擇的重要場景之一。傅盛強(qiáng)調(diào)，大模型是基于語言學(xué)習(xí)后對世界產(chǎn)生理解，并有自己邏輯和推理能力的一個模塊。以前的機(jī)器人本質(zhì)上沒有大腦，更多是個自動化機(jī)器。

加入大模型后，傅盛表示，可以提高機(jī)器人自主決策的能力，例如講解交互、任務(wù)處理。長遠(yuǎn)來看，機(jī)器人真正參與一些勞動，如把機(jī)械臂加到機(jī)器人身上，讓它幫你端杯水，這些很快能夠?qū)崿F(xiàn)產(chǎn)品化。

因此，整體來看，在探索AI應(yīng)用場景過程中，韓堃表示，一方面，客戶對大模型的需求是既要效果好又要速度快；另一方面，相比稠密模型的“通才”，一群“專家”的MoE能更高效專業(yè)地完成企業(yè)復(fù)雜任務(wù)，且在不顯著增加計(jì)算成本的前提下大幅增加模型容量。

開箱即用才好說服客戶買單

獵豹移動高級副總裁孫明焱認(rèn)為，數(shù)據(jù)服務(wù)要做好，企業(yè)需要有足夠的應(yīng)用實(shí)踐，才可以為客戶的任務(wù)針對性提供正確的數(shù)據(jù)集，這是大模型廠商的優(yōu)勢。

要怎樣的應(yīng)用才能說服客戶買單？

將大模型與數(shù)據(jù)包打包發(fā)布，在獵戶星空的商業(yè)邏輯里是為了打通商業(yè)閉環(huán)，也是今年大模型行業(yè)從訓(xùn)練端轉(zhuǎn)向推理端的一大體現(xiàn)。伴隨大模型應(yīng)用的興起，獵豹移動副總裁童寧對記者表示，公司對接的企業(yè)客戶幾乎都在All in AI。但不同之處在于，過去對接的是客戶技術(shù)部門，但現(xiàn)在更多對接的是業(yè)務(wù)部門。

這在童寧看來，是很大的變化。過去獵戶星空提供的業(yè)務(wù)服務(wù)主要面向基礎(chǔ)架構(gòu)層，面向IT部門。而現(xiàn)在AI或大模型要解決的問題存在于客戶企業(yè)的核心業(yè)務(wù)里，包括供應(yīng)鏈等。童寧認(rèn)為，客戶核心痛點(diǎn)的解決是大模型廠商都會去投入的方向，只是各自的切入點(diǎn)不同，目前行業(yè)呈現(xiàn)百花齊放的狀態(tài)。但如何用好大模型，是行業(yè)普遍關(guān)心的。獵戶星空做的就是將大量沒有結(jié)構(gòu)化的數(shù)據(jù)進(jìn)行處理，這也是大模型廠商所擅長的。

因此，這就需要把大模型變成“開箱即用”的應(yīng)用。

“當(dāng)AI有這么大關(guān)注度的時(shí)候，我們一直在思考如何讓客戶把AI運(yùn)用起來，從中獲取價(jià)值。”中國惠普有限公司個人信息產(chǎn)品部高級計(jì)算與解決方案產(chǎn)品部總經(jīng)理徐鳴說。這家以硬件制造為主的一個領(lǐng)先的科技企業(yè)也敏感地注意到了AI正在成為一個主流趨勢，并嘗試通過進(jìn)行硬件與軟件的結(jié)合，讓更多的企業(yè)把大模型應(yīng)用到生產(chǎn)業(yè)務(wù)之中。

最近惠普和星環(huán)科技與一家央企共同簽署了戰(zhàn)略合作協(xié)議，正式成為他們的IT合作伙伴。該央企計(jì)劃構(gòu)建一個專屬的知識庫，并通過深度學(xué)習(xí)技術(shù)對其數(shù)據(jù)進(jìn)行分析，以便更有效地解讀歷史經(jīng)營數(shù)據(jù)?；萜张c星環(huán)科技共同探討并制定了一套方案，旨在為他們提供一個合適的模型架構(gòu)、選擇恰當(dāng)?shù)挠布渲?，并決定部署位置，同時(shí)預(yù)估了項(xiàng)目實(shí)施的時(shí)間表。在前端部署完成后，惠普和星環(huán)科技還將在中后端進(jìn)行模型的持續(xù)維護(hù)，并針對在實(shí)際使用過程中可能產(chǎn)生的訓(xùn)練需求，以及對內(nèi)部員工的培訓(xùn)持續(xù)合作。

通過一體機(jī)的方式，依托惠普提供算力支撐的工作站，加上星環(huán)提供的Knowledge Hub，把數(shù)據(jù)通過惠普的硬件設(shè)施，結(jié)合星環(huán)科技的產(chǎn)品技術(shù)，可以把數(shù)據(jù)轉(zhuǎn)化為企業(yè)內(nèi)部的知識沉淀。

星環(huán)科技聯(lián)合創(chuàng)始人、副總裁朱珺辰認(rèn)為，大模型的應(yīng)用意味著從以前的數(shù)據(jù)基礎(chǔ)設(shè)施（Data Infra）向AI基礎(chǔ)設(shè)施（AI Infra）做轉(zhuǎn)變。企業(yè)可以把這些信息做更好的、特征化的處理，能夠更好地利用這些數(shù)據(jù)的價(jià)值。對于大多數(shù)企業(yè)來說，他們所期望采購的大模型并非只是一個空洞的框架，而是一個全面的解決方案。

“即使大模型技術(shù)發(fā)展了，也需要軟件與硬件結(jié)合，才能真正落地，產(chǎn)生價(jià)值。”朱珺辰說。