作為“新質(zhì)生產(chǎn)力”的典型代表，人工智能正與千行百業(yè)深度融合，成為社會及經(jīng)濟(jì)結(jié)構(gòu)革新的關(guān)鍵支柱。

以chatGPT為代表的大型語言模型革命性突破，讓人們看到人工智能的巨大潛力和價值。然而，Transformer大模型對算力的高需求使得端側(cè)設(shè)備難以承擔(dān)，尤其是在移動設(shè)備和物聯(lián)網(wǎng)設(shè)備上；在云端部署又面臨網(wǎng)絡(luò)延遲、數(shù)據(jù)安全、持續(xù)聯(lián)網(wǎng)等挑戰(zhàn)。

以無人機(jī)產(chǎn)業(yè)為例，目前大多無人機(jī)的控制中心都部署在云端，對于收集到的數(shù)據(jù)往往需要傳回云端處理判定再發(fā)回設(shè)備端執(zhí)行，智能水平和反應(yīng)速度均無法滿足智慧城市建設(shè)等日益增長的需求。

如何解決端側(cè)大模型的部署成為人工智能應(yīng)用落地的關(guān)鍵。巖山科技（002195.SZ）控股子公司巖芯數(shù)智RockAI提出了一個全新的解決方案。

近日，RockAI推出升級的Yan1.3群體智能單元大模型。此前在今年1月，RockAI發(fā)布了國內(nèi)首個非Transformer架構(gòu)的通用自然語言大模型Yan1.0模型。相較于Yan1.0，Yan1.3具備了多模態(tài)能力，可高效處理圖文及語音等多模態(tài)信息。

Yan模型基于“同步學(xué)習(xí)”概念，允許模型在推理過程中進(jìn)行訓(xùn)練學(xué)習(xí)，實(shí)時更新知識，這種學(xué)習(xí)方式類似于人類大腦的工作機(jī)制，能夠快速適應(yīng)新的環(huán)境和需求。此次發(fā)布的Yan1.3進(jìn)一步優(yōu)化了底層神經(jīng)網(wǎng)絡(luò)架構(gòu)，并以基于仿生神經(jīng)元驅(qū)動的選擇算法達(dá)成模態(tài)分區(qū)激活，實(shí)現(xiàn)了模型在更廣泛設(shè)備端上的離線無損部署，哪怕在只有蘋果M2算力1/6的CPU上也能夠流暢運(yùn)行。

RockAI CEO劉凡平表示：“我們認(rèn)為，群體智能才是通往通用人工智能的關(guān)鍵路徑。因此，RockAI以Yan架構(gòu)打造群體智能單元大模型，不單是為了提升某個設(shè)備的能力，更是為機(jī)器注入一種新的、本質(zhì)性的智能基因，使其擁有超強(qiáng)的環(huán)境適應(yīng)力和自主學(xué)習(xí)能力。屆時，每個部署了Yan模型的設(shè)備都將成為一個智能單元，通過它們的不斷協(xié)同、交互，最終激發(fā)群體智能的涌現(xiàn)。”

現(xiàn)場，RockAI團(tuán)隊(duì)展示了一款部署了Yan1.3大模型的“飛龍”無人機(jī)，它能對突發(fā)狀況做出即時判斷和處理，無需傳回云端，在復(fù)雜環(huán)境中的適應(yīng)性和自主性大大提升。除了無人機(jī)，Yan1.3大模型已經(jīng)在機(jī)器人、PC、手機(jī)等各類終端設(shè)備上實(shí)現(xiàn)離線無損部署。

據(jù)悉，經(jīng)過對不同硬件的研究和大量調(diào)試，目前RockAI已經(jīng)適配了英偉達(dá)、高通、聯(lián)發(fā)科、英特爾、瑞芯微等平臺，商業(yè)化進(jìn)程也在不斷加速。

同時，Yan1.3模型的收費(fèi)模式也有別于transformer架構(gòu)大模型。RockAI方面表示，與transformer架構(gòu)大模型按調(diào)用次數(shù)收費(fèi)不同，Yan1.3模型是按照設(shè)備數(shù)量收費(fèi)，在應(yīng)用到端側(cè)的時候，使用成本比transformer架構(gòu)大模型要低，而且能夠在端上很流暢地跑。