AI訓(xùn)練新技術(shù):領(lǐng)存發(fā)布iNc技術(shù),改變依賴GPU的游戲規(guī)則

AI 發(fā)展風(fēng)起云涌,制約隨之而來(lái)。

近年來(lái),全球人工智能(AI)技術(shù)的迅猛發(fā)展正在推動(dòng)各行業(yè)的變革。然而,在AI技術(shù)迅猛發(fā)展的背后,國(guó)內(nèi)AI行業(yè)面臨著一項(xiàng)嚴(yán)峻的挑戰(zhàn)。

由于美國(guó)對(duì)中國(guó)企業(yè)的出口限制,尤其是對(duì)英偉達(dá)(NVIDIA)GPU的禁令,中國(guó)的AI發(fā)展受到制約。這一政策限制使得國(guó)內(nèi)AI研究機(jī)構(gòu)和企業(yè)在進(jìn)行大規(guī)模模型訓(xùn)練時(shí),受到算力不足的困擾,無(wú)法充分發(fā)揮人工智能技術(shù)的潛力。

如今,這一困擾有望被領(lǐng)存實(shí)驗(yàn)室突破化解。通過閃存芯片(Nand Flash)的邏輯特性,領(lǐng)存實(shí)驗(yàn)室在閃存芯片上實(shí)現(xiàn)AI訓(xùn)練的突破。

誰(shuí)卡了中國(guó)AI的“脖子”?

在AI訓(xùn)練中,GPU(圖形處理單元)作為加速計(jì)算的核心硬件,扮演著至關(guān)重要的角色。AI訓(xùn)練,尤其是大規(guī)模深度學(xué)習(xí)模型的訓(xùn)練,需要海量的數(shù)據(jù)處理和計(jì)算能力,而GPU的并行計(jì)算能力能夠大幅提升訓(xùn)練效率。然而,受限于美國(guó)對(duì)中國(guó)企業(yè)的出口禁令,國(guó)內(nèi)AI研究機(jī)構(gòu)和企業(yè)不得不面對(duì)計(jì)算資源短缺的問題。沒有足夠的GPU支持,大模型訓(xùn)練變得異常艱難,行業(yè)發(fā)展受到嚴(yán)重制約。

瓶頸誰(shuí)來(lái)破題?

領(lǐng)存實(shí)驗(yàn)室憑借其在閃存芯片領(lǐng)域的創(chuàng)新突破,為AI訓(xùn)練帶來(lái)了全新的解決方案。領(lǐng)存巧妙地將閃存芯片的底層邏輯運(yùn)算能力應(yīng)用于AI訓(xùn)練中,實(shí)現(xiàn)了加法、減法、乘法、異或等基礎(chǔ)計(jì)算功能,開創(chuàng)了基于閃存芯片的AI訓(xùn)練技術(shù)。此項(xiàng)技術(shù)被命名為iNc(in-Nand Computing,存內(nèi)計(jì)算),標(biāo)志著AI計(jì)算技術(shù)的重大突破。

根據(jù)領(lǐng)存技術(shù)創(chuàng)始人楚一兵介紹,iNc技術(shù)的核心優(yōu)勢(shì)在于其運(yùn)算能力的顯著提升和低功耗特性。首個(gè)版本的iNc技術(shù)具備了相當(dāng)于14萬(wàn)個(gè)并行計(jì)算器的運(yùn)算能力,其計(jì)算性能足以滿足大規(guī)模AI模型訓(xùn)練的需求。而領(lǐng)存正在研發(fā)的第二個(gè)版本將進(jìn)一步提升性能,預(yù)計(jì)性能提升將達(dá)到上百倍。這一技術(shù)不僅能夠替代傳統(tǒng)GPU的計(jì)算任務(wù),還能大幅降低計(jì)算成本和能耗,對(duì)數(shù)據(jù)中心、服務(wù)器、移動(dòng)終端等多個(gè)領(lǐng)域產(chǎn)生深遠(yuǎn)影響。

誰(shuí)是iNc?

計(jì)算性能顯著提升是優(yōu)勢(shì)之一。領(lǐng)存的iNc技術(shù)通過優(yōu)化閃存芯片的計(jì)算能力,實(shí)現(xiàn)了傳統(tǒng)計(jì)算平臺(tái)難以企及的運(yùn)算性能。與傳統(tǒng)GPU相比,iNc技術(shù)能夠在同等條件下提供更高的計(jì)算效率,這將極大提升AI訓(xùn)練的速度和效果。

在性能之外,低功耗更受矚目。傳統(tǒng)數(shù)據(jù)中心的單臺(tái)服務(wù)器通常功耗高達(dá)300瓦,而iNc技術(shù)的功耗最多不過10瓦,僅為三十分之一。對(duì)于移動(dòng)終端如手機(jī)、筆記本、平板等,功耗甚至可以控制在1瓦以內(nèi)。這種低功耗特性不僅能夠降低運(yùn)算的能源成本,還能延長(zhǎng)設(shè)備的使用壽命,成為綠色計(jì)算新方案。

算力與能耗的背后,同樣是顯著的成本優(yōu)勢(shì)。由于iNc技術(shù)的高效運(yùn)算和低功耗特性,應(yīng)用該技術(shù)的數(shù)據(jù)中心運(yùn)營(yíng)成本將會(huì)降低上百倍。這一變革不僅有助于推動(dòng)AI技術(shù)的普及,還能減輕企業(yè)在數(shù)據(jù)處理和存儲(chǔ)方面的成本壓力。

值得一提的是,iNc技術(shù)的存內(nèi)計(jì)算特性使得數(shù)據(jù)處理不再需要頻繁的數(shù)據(jù)傳輸,這大大提升了運(yùn)算效率,也減少了數(shù)據(jù)傳輸帶來(lái)的隱私風(fēng)險(xiǎn)。用戶的敏感數(shù)據(jù)無(wú)需上傳至廠商的數(shù)據(jù)中心進(jìn)行處理,從而保護(hù)了用戶隱私,符合日益嚴(yán)格的數(shù)據(jù)保護(hù)法規(guī)。

iNc技術(shù)的應(yīng)用不僅限于數(shù)據(jù)中心和服務(wù)器,它還具有在手機(jī)、筆記本、平板、汽車、可穿戴設(shè)備等多種移動(dòng)終端上的廣泛應(yīng)用前景。這一技術(shù)的普及將使得這些設(shè)備能夠?qū)崿F(xiàn)本地AI訓(xùn)練,從而提升設(shè)備的智能水平和用戶體驗(yàn)。

顛覆變化已經(jīng)來(lái)臨

業(yè)內(nèi)專家表示,領(lǐng)存的iNc技術(shù)具有廣闊的市場(chǎng)前景和深遠(yuǎn)的社會(huì)影響。隨著AI技術(shù)的不斷發(fā)展和應(yīng)用,計(jì)算需求的增長(zhǎng)將推動(dòng)對(duì)高性能計(jì)算平臺(tái)的需求。而iNc技術(shù)的出現(xiàn),為解決這一需求提供了全新的解決方案。其在數(shù)據(jù)中心的應(yīng)用將促進(jìn)數(shù)據(jù)處理能力的提升,降低成本,并推動(dòng)企業(yè)的數(shù)字化轉(zhuǎn)型;在移動(dòng)終端的應(yīng)用則將使得人工智能的智能化程度顯著提高,為消費(fèi)者提供更智能、更便捷的服務(wù)體驗(yàn)。

此外,iNc技術(shù)還可能推動(dòng)相關(guān)產(chǎn)業(yè)的發(fā)展,如閃存芯片制造業(yè)、AI硬件設(shè)計(jì)業(yè)等。作為一項(xiàng)突破性技術(shù),iNc不僅展示了中國(guó)在科技創(chuàng)新領(lǐng)域的實(shí)力,也為全球科技進(jìn)步做出了重要貢獻(xiàn)。

領(lǐng)存的iNc技術(shù)標(biāo)志著人工智能計(jì)算領(lǐng)域的一次重要革命。它不僅突破了傳統(tǒng)GPU的限制,為AI訓(xùn)練提供了新的解決方案,還在成本、功耗、隱私保護(hù)等方面展現(xiàn)了顯著優(yōu)勢(shì)。隨著技術(shù)的不斷成熟和應(yīng)用的推廣,iNc技術(shù)有望成為未來(lái)計(jì)算領(lǐng)域的主流,推動(dòng)AI技術(shù)的普及和發(fā)展。中國(guó)企業(yè)在這一領(lǐng)域的突破,不僅為國(guó)家科技發(fā)展注入了新的動(dòng)力,也為全球科技進(jìn)步貢獻(xiàn)了中國(guó)智慧。未來(lái),iNc技術(shù)將繼續(xù)發(fā)揮其在各個(gè)領(lǐng)域的潛力,為社會(huì)和經(jīng)濟(jì)發(fā)展帶來(lái)更多機(jī)遇與挑戰(zhàn)。

本文轉(zhuǎn)載自:,不代表科技訊之立場(chǎng)。原文鏈接:

陳晨陳晨管理團(tuán)隊(duì)

相關(guān)推薦

發(fā)表回復(fù)

登錄后才能評(píng)論