數(shù)字化轉(zhuǎn)型方興未艾，如今智能化浪潮開始席卷政企市場。

 

AI的業(yè)務(wù)價(jià)值，需要找對業(yè)務(wù)場景

 

電力調(diào)控是典型的適合大模型入場的政企業(yè)務(wù)場景。

隨著太陽能發(fā)電的入網(wǎng)比例越來越高，復(fù)雜的天氣狀況會實(shí)時(shí)影響發(fā)電量，同時(shí)隨著新能源車的普及，用電側(cè)的數(shù)據(jù)也更加靈活多變。為了保持發(fā)電量和用電量的均衡，調(diào)控人員需要每天查詢大量的數(shù)據(jù)。在這個(gè)業(yè)務(wù)中加入BI大模型，可以大幅提升數(shù)據(jù)的查詢效率。

除了電力之外，汽車和醫(yī)藥也有對應(yīng)的大模型應(yīng)用落地。

中國一汽基于通義千問推出的大模型GPT-BI，大幅簡化了集團(tuán)層面的數(shù)據(jù)分析流程，以前需要花費(fèi)7天進(jìn)行開發(fā)的數(shù)據(jù)報(bào)告，如今在出差途中通過語音就能及時(shí)調(diào)取。

阿斯利康基于通義千問和百煉專屬版打造的醫(yī)藥智能體，可以對藥物不良反應(yīng)進(jìn)行自動分析和總結(jié)。此前藥物的不良反應(yīng)報(bào)告需要專業(yè)的知識工作者花大量的時(shí)間去讀相關(guān)的文檔，然后再做相應(yīng)的整理創(chuàng)作，從而形成內(nèi)部的不良反應(yīng)報(bào)告。

醫(yī)藥智能體誕生后，將科研人員從繁瑣的文獻(xiàn)閱讀、篩選、撰寫工作中解放出來，并且提升藥物安全把控的效率和準(zhǔn)確度。據(jù)統(tǒng)計(jì)，阿斯利康的藥物安全把控效率已提升300%，準(zhǔn)確率已從90%提升至95%。

大模型技術(shù)涌現(xiàn)后，改變了人與計(jì)算機(jī)的交互方式，但也容易帶來一些過高的期待。

 

 

在拜訪了眾多企業(yè)后，阿里云智能集團(tuán)副總裁、解決方案研發(fā)部總經(jīng)理曾震宇發(fā)現(xiàn)很多人把大模型當(dāng)成是一個(gè)目的，期待大模型給業(yè)務(wù)帶來翻天覆地的變化，但其實(shí)大模型只是工具，需要與具體的業(yè)務(wù)場景相結(jié)合。

大模型的價(jià)值不止局限于手機(jī)APP和AIGC，與具體的場景結(jié)合后，大模型在生產(chǎn)效率優(yōu)化、數(shù)據(jù)挖掘和分析等方面可以發(fā)揮更大的業(yè)務(wù)價(jià)值，阿里云通過升級飛天企業(yè)版、百煉專屬版，廣泛參與政企大模型在眾多業(yè)務(wù)場景的落地。

 

算力和開發(fā)難題，可以上“云”解決

 

政企業(yè)務(wù)具備一定的特殊性，部分業(yè)務(wù)不適合在公有云部署，需要建設(shè)專有云平臺。

如今訓(xùn)練一個(gè)基礎(chǔ)大模型，算力要求是萬卡起步，一般還需要兩個(gè)萬卡集群，哪怕垂直的行業(yè)大模型也需要千卡。并且有卡不一定有算力，大模型的算力基礎(chǔ)設(shè)施并不是簡單的硬件堆砌。

除此之外，政企開發(fā)大模型還面臨著穩(wěn)定和兼容難題。數(shù)據(jù)顯示，GPU故障率是CPU的120倍以上，而政企部分業(yè)務(wù)的特殊性，又要求維持全年365天穩(wěn)定可用；當(dāng)眾多實(shí)體一起投入大模型研究的時(shí)候，芯片供應(yīng)變得很緊俏，混合使用多廠商芯片的異構(gòu)算力底座成為常態(tài)，當(dāng)不同型號、不同廠商的卡進(jìn)入同一個(gè)智算中心，做好兼容成為了挑戰(zhàn)。

截至2023年底，我國算力總規(guī)模達(dá)230EFLOPS，位居全球第二，在剛剛結(jié)束的云棲大會上，阿里云智能集團(tuán)副總裁、專有云總經(jīng)理劉國華表示：“如果真的去數(shù)中國的算力，中國不少的，怎么可以管理起來，提升利用率是更關(guān)鍵的能力。我們覺得通過云的統(tǒng)一運(yùn)營能力，可以有效提升算力的利用率”。

飛天企業(yè)版，是阿里云的專有云平臺，本質(zhì)是把阿里云公共云變成一個(gè)私有云平臺，部署到客戶的本地，為了順應(yīng)智能化時(shí)代的需求，飛天今年也成為阿里云的智算升級重點(diǎn)業(yè)務(wù)。

 

 

第一，關(guān)于兼容問題，飛天企業(yè)版聯(lián)合了多家GPU廠商，支持23款GPU接入跟管理，并且可以實(shí)現(xiàn)異構(gòu)GPU的池化管理，把整個(gè)GPU的利用率提升100%；通過訓(xùn)推任務(wù)和資源調(diào)度策略結(jié)合，將算力資源碎片減少30%。

第二，性能方面，飛天企業(yè)版可以針對推理場景進(jìn)行性能的優(yōu)化，通信的帶寬最大可以提升100%，模型的吞吐量提升23%。并且通過跟多個(gè)硬件GPU廠商合作，把國產(chǎn)卡的性能提升10%左右。劉國華在云棲大會上表示，10%只是一個(gè)開始，阿里云以后會通過平臺的方式跟各個(gè)GPU廠商一起合作，逐步提升整體硬件性能。

第三，在穩(wěn)定性上，飛天企業(yè)版提供一體化監(jiān)控和分析診斷能力，針對故障節(jié)點(diǎn)可以實(shí)現(xiàn)分鐘級定位和診斷，整體故障監(jiān)控覆蓋率達(dá)到80%。

同時(shí)針對私有云中的運(yùn)維和管理難題，阿里云的運(yùn)維大模型“云維小智”上線，據(jù)了解，其推薦的運(yùn)維方案可以覆蓋日常45%的場景，目前已經(jīng)在國家電網(wǎng)和交行開始部署。

 

 

下有飛天，上有百煉，飛天可以解決算力難題，模型開發(fā)難題則可以交給百煉解決。

政企多年來積累了大量圖表、公式等復(fù)雜資料，如何將這些資料處理成大模型能夠理解的數(shù)據(jù)成為了挑戰(zhàn)。類似這些開發(fā)難題，阻礙了大模型應(yīng)用的迅速落地，為此，在底層算力之外，同樣需要開發(fā)層面的解決方案。 

阿里云今年推出的百煉專屬版，是一站式大模型開發(fā)平臺，升級后兼容公共云和專有云環(huán)境；基于軟硬協(xié)同的推理加速，將推理速度提升3倍以上；支持圖表、圖片、音視頻，以及大文件和巨量文件的解析；開發(fā)者可通過“拖拉拽”快速搭建智能體。

如今基于百煉專屬版打造的智能體已在政務(wù)、電力、醫(yī)藥研發(fā)、科學(xué)研究等等多個(gè)領(lǐng)域落地。

 

十年深耕，AI帶來云的新浪潮

 

到目前為止，阿里云已服務(wù)超1000家政企客戶，覆蓋90%的央國企。六大國有商業(yè)銀行、兩大電網(wǎng)、中石化、中國郵政等都已跑在阿里云上。

智能化時(shí)代，云計(jì)算迎來了新的業(yè)務(wù)跳板，基于AI帶來的廣泛需求，阿里云利潤實(shí)現(xiàn)翻倍增長，財(cái)報(bào)顯示阿里云2024年第二季度經(jīng)調(diào)整EBITA利潤同比增長155%，單季度EBITA利潤達(dá)到23.37億元。

數(shù)據(jù)顯示，我國政府?dāng)?shù)據(jù)資源占全國數(shù)據(jù)資源的比重超四分之三，政企的大模型業(yè)務(wù)是云計(jì)算規(guī)?；闹匾画h(huán)。隨著越來越多的政企大模型落地，公眾服務(wù)將加速步入智能化時(shí)代。