推動(dòng)AI+端側(cè)算力融合 提升云算終端智能體驗(yàn)

算力時(shí)代,隨著終端設(shè)備智能化程度加深和AI大模型的升級(jí)迭代,CPU、GPU和DPU等處理器的性能大幅提升,終端算力得到了顯著增強(qiáng),端側(cè)算力網(wǎng)絡(luò)融合AI成為提升智能終端體驗(yàn)的關(guān)鍵一步。端側(cè)算力融合“輕量級(jí)AI”重塑算力

算力時(shí)代,隨著終端設(shè)備智能化程度加深和AI大模型的升級(jí)迭代,CPU、GPU和DPU等處理器的性能大幅提升,終端算力得到了顯著增強(qiáng),端側(cè)算力網(wǎng)絡(luò)融合AI成為提升智能終端體驗(yàn)的關(guān)鍵一步。

  端側(cè)算力融合“輕量級(jí)AI”重塑算力終端新業(yè)態(tài)

  近年來(lái),終端設(shè)備以前所未有的種類和數(shù)量融入群眾的生活之中,全國(guó)存量手機(jī)算力是數(shù)據(jù)中心算力的12倍,但算力利用率不足15%;全國(guó)寬帶用戶規(guī)模達(dá)5.9億,卻有80%帶寬資源處于閑置狀態(tài)。終端設(shè)備呈現(xiàn)海量、輕量、資源利用率低的特點(diǎn)。

  作為中國(guó)移動(dòng)算力網(wǎng)絡(luò)的重要組成部分,端側(cè)算力網(wǎng)絡(luò)應(yīng)運(yùn)而生。端側(cè)算力是指整合海量的用戶側(cè)終端設(shè)備(包括個(gè)人終端、家庭終端等)以及端側(cè)集中部署的設(shè)備(包括小區(qū)入口設(shè)備、邊緣節(jié)點(diǎn)等)的算力,通過(guò)網(wǎng)絡(luò)連接實(shí)現(xiàn)終端算力資源的統(tǒng)一管理和動(dòng)態(tài)調(diào)度,并通過(guò)與邊緣計(jì)算、云計(jì)算的充分協(xié)同,為用戶按需提供高質(zhì)量的計(jì)算服務(wù)。比如用戶在使用某一應(yīng)用的過(guò)程中,使用場(chǎng)景發(fā)生變化,端側(cè)算力網(wǎng)絡(luò)能根據(jù)業(yè)務(wù)類型的不同,為用戶匹配并選擇能力合適的執(zhí)行終端,實(shí)現(xiàn)應(yīng)用在不同設(shè)備之間的無(wú)縫切換。

  同時(shí),ChatGPT的應(yīng)用引爆了新一輪人工智能熱潮,生成式AI給終端帶來(lái)了全新的交互模式,AI大模型逐漸輕量化,可在電腦、手機(jī)等智能終端上直接運(yùn)行。

推動(dòng)AI+端側(cè)算力融合 提升云算終端智能體驗(yàn)

  “AI大模型的下沉和私有化部署,還將實(shí)現(xiàn)終端用戶每人都擁有個(gè)性化專屬AI助手,面向CH端,端側(cè)算力網(wǎng)絡(luò)將能夠?qū)崿F(xiàn)由單體服務(wù)變?yōu)槎嘟K端協(xié)同服務(wù);面向B端,端側(cè)算力網(wǎng)絡(luò)能夠?qū)崿F(xiàn)海量終端結(jié)網(wǎng)提供分布式低成本算力?!敝袊?guó)移動(dòng)終端公司副總經(jīng)理汪恒江強(qiáng)調(diào),端側(cè)算力網(wǎng)絡(luò)通過(guò)匯聚家庭、個(gè)人、行業(yè)設(shè)備的泛在算力,將打造出具有空間計(jì)算場(chǎng)和并網(wǎng)計(jì)算場(chǎng)景兩大服務(wù)場(chǎng)景及商業(yè)模式,實(shí)現(xiàn)終端服務(wù)全新升級(jí)。

  端側(cè)算力+AI=機(jī)遇和挑戰(zhàn)

  目前全國(guó)智能終端仍處于大幅增長(zhǎng)階段,據(jù)IDC數(shù)據(jù),2025年智能終端規(guī)模將增長(zhǎng)至800億臺(tái),端側(cè)算力蘊(yùn)藏著巨大潛力。

  算力是數(shù)字經(jīng)濟(jì)與人工智能時(shí)代下的生產(chǎn)力,隨著智能終端硬件技術(shù)的快速發(fā)展和應(yīng)用領(lǐng)域的擴(kuò)大,智能終端承載了不同類型的業(yè)務(wù)和服務(wù)需求,數(shù)據(jù)處理時(shí)延和精度的要求不盡相同。

  而端側(cè)算力網(wǎng)絡(luò)具備的自治組網(wǎng)、時(shí)空高動(dòng)態(tài)性、多層次多級(jí)端算力和強(qiáng)安全隱私等天然屬性,決定了不同類型終端操作系統(tǒng)繁多、算力水平差異大且適配困難,各芯片平臺(tái)算法生態(tài)及協(xié)議不互通,終端間通信情況復(fù)雜且存在不穩(wěn)定性,給端側(cè)算力感知、整合、協(xié)同調(diào)度等環(huán)節(jié)帶來(lái)諸多技術(shù)挑戰(zhàn)。

推動(dòng)AI+端側(cè)算力融合 提升云算終端智能體驗(yàn)

  AI大模型趨向小型化+個(gè)性化為終端智能化發(fā)展帶來(lái)新機(jī)遇。手機(jī)、電腦等終端生成并存儲(chǔ)了海量數(shù)據(jù),終端側(cè)私有數(shù)據(jù)和推理計(jì)算將是終端應(yīng)用能力的重要方向,可直接運(yùn)行在手機(jī)和電腦等智能終端上的私有化AI模型成為“大模型時(shí)代”的新需求。

  基于用戶使用習(xí)慣,通過(guò)終端設(shè)備在保障用戶數(shù)據(jù)隱私的基礎(chǔ)上,提供AI差異化智能服務(wù),需要設(shè)計(jì)出更高準(zhǔn)確率、更高效、更智能,并且可以在算力終端設(shè)備上部署的個(gè)性化AI推理模型,來(lái)滿足非智能終端的智能化升級(jí),直接為終端設(shè)備提供泛在的AI算力服務(wù),端側(cè)算力融合AI助力云算終端普及。

  激活端側(cè)算力新動(dòng)能 打造算力時(shí)代“新物種”

  “進(jìn)入數(shù)字化生活以來(lái),我們隨時(shí)隨地都在生成照片、視頻等數(shù)字資料,海量數(shù)據(jù)的存儲(chǔ)與分類,對(duì)手機(jī)等智能終端性能提出了更高的要求。借助家庭算力主機(jī),一鍵設(shè)置手機(jī)、電腦文件實(shí)時(shí)備份,依托AI算法自動(dòng)識(shí)別數(shù)據(jù)場(chǎng)景,對(duì)文件進(jìn)行安全、高效地存儲(chǔ)、管理與生成;下班時(shí),我們可以提前同步分享行程信息給家人,并且啟動(dòng)智能家居多端協(xié)同服務(wù),讓智能化生活觸手可及……” 在上海世界移動(dòng)通信大會(huì)中國(guó)移動(dòng)“數(shù)智賦能 共享未來(lái)”展區(qū),展臺(tái)工作人員正在向參展觀眾介紹算力終端家庭算力主機(jī)。

推動(dòng)AI+端側(cè)算力融合 提升云算終端智能體驗(yàn)

  除了胖終端家庭算力主機(jī),中國(guó)移動(dòng)還推出瘦終端云手機(jī)、云電腦、移動(dòng)云高清新型云算終端產(chǎn)品,算力賦能為終端行業(yè)帶來(lái)新的生產(chǎn)力。

  為推動(dòng)端側(cè)算力網(wǎng)絡(luò)在感知、整合、組網(wǎng)等環(huán)節(jié)的協(xié)同調(diào)度,中國(guó)移動(dòng)于三年前啟動(dòng)端側(cè)算力關(guān)鍵技術(shù)研究,2022年發(fā)布《端側(cè)算力網(wǎng)絡(luò)白皮書》,完成端側(cè)算力網(wǎng)絡(luò)技術(shù)工程;目前累計(jì)攻關(guān)7大關(guān)鍵技術(shù),試點(diǎn)驗(yàn)證連接型算力主機(jī)15萬(wàn)臺(tái),存儲(chǔ)型算力主機(jī)200臺(tái),納管終端設(shè)備15萬(wàn)臺(tái)。

  在融合AI與端側(cè)算力網(wǎng)絡(luò)生態(tài)合作方面,面向物聯(lián)網(wǎng)應(yīng)用領(lǐng)域,中國(guó)移動(dòng)攜手曠視打造基于硬件的人工智能大模型綜合解決方案,讓AI向?qū)嵍?。圍繞“軟硬一體”的合作模式,曠視建立以芯片和算法結(jié)合為核心的終端能力,研發(fā)基于不同場(chǎng)景的AI算法,致力于把邊端和云的算力打通,讓所有的算法能夠動(dòng)態(tài)進(jìn)行調(diào)配和升級(jí)。

  “一個(gè)技術(shù)賦能所有產(chǎn)品?!盤C端搭載高通驍龍AI引擎的硬件、軟件和工具,端側(cè)AI是距離用戶最近的多模態(tài)入口。高通產(chǎn)品技術(shù)高級(jí)總監(jiān)徐恒介紹,“端側(cè)我們現(xiàn)在做的10億參數(shù),很快幾個(gè)月以后就能看到百億參數(shù),我們?cè)谶@里面的覆蓋率會(huì)變得非常高。無(wú)論是端側(cè)AI還是混合AI,這就是一個(gè)基礎(chǔ)?!?/p>

  發(fā)揮鏈長(zhǎng)引領(lǐng)作用 推動(dòng)終端產(chǎn)業(yè)高質(zhì)量發(fā)展

  一個(gè)產(chǎn)業(yè)的高質(zhì)量發(fā)展離不開行業(yè)上下游伙伴的共同推動(dòng)。在終端產(chǎn)業(yè)進(jìn)入算網(wǎng)融合新階段,中國(guó)移動(dòng)積極發(fā)揮“鏈長(zhǎng)”作用,面向華為、OPPO、中興、曠視、高通、聯(lián)想、科大訊飛、浪潮等芯片、終端硬件產(chǎn)品、操作系統(tǒng)、智能Al、軟硬件一體化解決方案合作伙伴,推出“一個(gè)聯(lián)盟,兩大計(jì)劃”的重磅合作舉措。

  依托“算力終端產(chǎn)業(yè)聯(lián)盟”,中國(guó)移動(dòng)正式啟動(dòng)“繁星計(jì)劃”和“霄云行動(dòng)”,豐富算力終端新產(chǎn)品,創(chuàng)新端側(cè)算力新服務(wù)。其中,“繁星計(jì)劃”面向算力終端攜手合作伙伴,推動(dòng)終端品類豐富和算力應(yīng)用發(fā)展。汪恒江表示,希望在2023年達(dá)到算力終端百款、云電腦百萬(wàn)、用戶百萬(wàn)、算力應(yīng)用百款、生態(tài)合作伙伴百家的發(fā)展目標(biāo)。

  繁星璀璨,智算未來(lái)。中國(guó)移動(dòng)愿攜手產(chǎn)業(yè)鏈生態(tài)合作伙伴全面推動(dòng)算力網(wǎng)絡(luò)融合AI,共創(chuàng)云算終端新生態(tài),實(shí)現(xiàn)網(wǎng)絡(luò)無(wú)所不達(dá)、算力無(wú)所不在,智能無(wú)所不及的愿景,讓智能更廣泛地惠及群眾生活。

(本內(nèi)容屬于網(wǎng)絡(luò)轉(zhuǎn)載,文中涉及圖片等內(nèi)容如有侵權(quán),請(qǐng)聯(lián)系編輯刪除。市場(chǎng)有風(fēng)險(xiǎn),選擇需謹(jǐn)慎!此文僅供參考,不作買賣及投資依據(jù)。)

原創(chuàng)文章,作者:陳晨,如若轉(zhuǎn)載,請(qǐng)注明出處:http://m.2079x.cn/article/573190.html

陳晨陳晨管理團(tuán)隊(duì)

相關(guān)推薦