針對(duì)目前各行業(yè)用戶在落地廣泛業(yè)務(wù)需求分析、處理多重?cái)?shù)據(jù)模態(tài)對(duì)接、跟進(jìn)高度定制場(chǎng)景問(wèn)題解決、運(yùn)營(yíng)多源多框架AI模型等方面的問(wèn)題,星環(huán)自主研發(fā)的一站式智能分析工具平臺(tái)Sophon推出了3.2版本。
3.2版本的Sophon通過(guò)以數(shù)據(jù)和模型為中心,提供“六易三倉(cāng)兩中心”的功能服務(wù),讓用戶能夠基于自身需求構(gòu)建緊密貼合其業(yè)務(wù)場(chǎng)景的新一代AI應(yīng)用。
一、六易——實(shí)現(xiàn)新一代AI平民化
Sophon 3.2從數(shù)據(jù)接入獲取、模型構(gòu)建訓(xùn)練、模型運(yùn)維管理、模型發(fā)布迭代等AI應(yīng)用全生命周期的相關(guān)流程出發(fā),考慮用戶可能遇到的問(wèn)題后,從樣本管理、場(chǎng)景開(kāi)發(fā)、模型獲得、模型管理、效果迭代及系統(tǒng)運(yùn)維六大方面降低用戶使用的門(mén)檻,實(shí)現(xiàn)新一代AI平民化。
圖:Sophon智能分析工具 v3.2架構(gòu)圖
* 樣本“易”管理:提供樣本倉(cāng)庫(kù),讓數(shù)據(jù)資產(chǎn)易管理
* 場(chǎng)景“易”開(kāi)發(fā):提供Vlab、Discover、AutoCV多個(gè)模塊,通過(guò)可視化、編程式、流程式的建模服務(wù),以及內(nèi)置的開(kāi)源建??蚣?、自研的Sophon ZenGraph圖計(jì)算框架、Sophon TS 時(shí)間序列計(jì)算庫(kù)及基礎(chǔ)機(jī)器學(xué)習(xí)算法庫(kù),讓建模場(chǎng)景易搭建;
* 模型“易”獲得:提供模型倉(cāng)庫(kù),支持將NLP、OCR、CV、基礎(chǔ)機(jī)器學(xué)習(xí)等多框架多源模型進(jìn)行統(tǒng)一納管,并在模型上線前提供靜態(tài)評(píng)估,讓高性能的模型服務(wù)易被挖掘;
* 模型“易”管理:提供MLOps及XAI模塊,支持將高性能模型進(jìn)行統(tǒng)一可視化部署、統(tǒng)一全方位監(jiān)控、統(tǒng)一多維度評(píng)估;提供一鍵部署以及可視化的服務(wù)推理搭建部署的模式,并從模型調(diào)用情況、模型使用資源情況、模型數(shù)據(jù)偏移情況等方面提供全方位監(jiān)控,同時(shí)從模型預(yù)測(cè)性能、模型可解釋、模型輸入輸出偏移等方面提供多維度的評(píng)估,讓模型易管理,全面掌握模型服務(wù)運(yùn)行狀態(tài);
* 效果“易”迭代:提供MLOps模塊,支持可視化持續(xù)訓(xùn)練pipeline,讓模型迭代時(shí),模型效果易提升;
* 系統(tǒng)“易”運(yùn)維:支持無(wú)需侵入式代碼改造的分布式python機(jī)器學(xué)習(xí)計(jì)算框架Ray、基于GPU池化的GPU分組管理服務(wù)、基于Spark on K8s的資源統(tǒng)一調(diào)度等,讓GPU資源易用、分布式能力易用、系統(tǒng)運(yùn)維易用。
二、三倉(cāng)——實(shí)現(xiàn)多模態(tài)數(shù)據(jù)管理
Sophon 3.2基于“三倉(cāng)一平臺(tái)”的框架,圍繞數(shù)據(jù)開(kāi)發(fā)全流程,以數(shù)據(jù)流視角分別建設(shè)“樣本倉(cāng)、模型倉(cāng)和場(chǎng)景倉(cāng)”,實(shí)現(xiàn)全流程、多模態(tài)數(shù)據(jù)的統(tǒng)一納管。
* 樣本倉(cāng)庫(kù):新版本Sophon提供的樣本倉(cāng)功能模塊,可實(shí)現(xiàn)對(duì)數(shù)據(jù)的精細(xì)化管理,輸出高質(zhì)量多模數(shù)據(jù),驅(qū)動(dòng)高質(zhì)量模型的迭代。
圖:Sophon樣本倉(cāng)庫(kù)
樣本倉(cāng)庫(kù)支持?jǐn)?shù)據(jù)接入、智能標(biāo)簽和數(shù)據(jù)洞察。樣本倉(cāng)庫(kù)支持文本、視頻、圖像、時(shí)間序列等多模態(tài)的數(shù)據(jù)統(tǒng)一接入和管理;智能標(biāo)簽方面,平臺(tái)預(yù)置2種前沿風(fēng)格遷移算法、20+多模態(tài)數(shù)據(jù)預(yù)處理算法、10+標(biāo)注類(lèi)型以及20+靈活的數(shù)據(jù)增強(qiáng)方式,支持?jǐn)?shù)據(jù)準(zhǔn)備、生成、標(biāo)注及擴(kuò)增等一系列過(guò)程;在快速完成原始數(shù)據(jù)的實(shí)體、關(guān)系、文本類(lèi)型、圖片設(shè)備狀態(tài)、圖片異物狀況等要素提取的同時(shí),并建立智能化標(biāo)簽及相關(guān)索引,便于精細(xì)化查找對(duì)應(yīng)樣本數(shù)據(jù);此外,針對(duì)非機(jī)構(gòu)化數(shù)據(jù),結(jié)合預(yù)置分析模型,自動(dòng)輸出分析報(bào)告,幫助用戶更清晰的洞察數(shù)據(jù)質(zhì)量。
* 模型倉(cāng)庫(kù):新版本Sophon提供的模型倉(cāng)庫(kù)功能模塊,作為模型開(kāi)發(fā)與模型應(yīng)用的中間環(huán)節(jié),統(tǒng)一納管多源模型,讓模型管理和應(yīng)用人員能快速找到最適合業(yè)務(wù)場(chǎng)景的模型,實(shí)現(xiàn)組裝與評(píng)估輸出高質(zhì)量模型服務(wù)。
圖:Sophon模型倉(cāng)庫(kù)
模型倉(cāng)庫(kù)支持對(duì)模型的納管、組裝和評(píng)估。模型納管功能支持NLP、結(jié)構(gòu)化二維表、圖像、OCR等模型以鏡像或文件的鏡像一鍵上架到模型倉(cāng)庫(kù)進(jìn)行統(tǒng)一納管;模型組裝功能支持用戶將兩個(gè)或以上的單任務(wù)模型,自由組合形成更貼近需求的多模態(tài)模型方案;模型評(píng)估功能支持用戶在模型部署上線前,在模型倉(cāng)庫(kù)種進(jìn)行冒煙測(cè)試,并生成模型測(cè)試評(píng)估報(bào)告,并橫向?qū)Ρ榷喾菰u(píng)估報(bào)告,保證輸出部署上線高質(zhì)量的模型服務(wù)。
* 場(chǎng)景倉(cāng)庫(kù):內(nèi)置場(chǎng)景涵蓋營(yíng)銷(xiāo)、風(fēng)控、KBQA、圖譜風(fēng)險(xiǎn)探查、圖像檢索、內(nèi)容安全檢測(cè)等廣泛需求,并提供覆蓋場(chǎng)景建模分析全流程的平臺(tái)和工具,讓用戶通過(guò)低代碼方式快速構(gòu)建貼合其業(yè)務(wù)應(yīng)用的建模場(chǎng)景。
圖:Sophon場(chǎng)景倉(cāng)庫(kù)
場(chǎng)景模板內(nèi)置基于模型和業(yè)務(wù)的積累,平臺(tái)預(yù)置了面向不同行業(yè)領(lǐng)域的應(yīng)用模板,開(kāi)箱即用。同時(shí)場(chǎng)景模板開(kāi)放了業(yè)務(wù)規(guī)則的配置能力,實(shí)施人員可基于模板在大規(guī)模部署落地時(shí),僅修改配置即可。此外,平臺(tái)提供拉拽的交互方式輔助用戶將模型和業(yè)務(wù)邏輯串聯(lián),形成標(biāo)準(zhǔn)場(chǎng)景模板,業(yè)務(wù)流程支持不同模態(tài)的業(yè)務(wù)流組合分析,場(chǎng)景包可以在平臺(tái)進(jìn)行積累,版本管理和遷移。
三、兩中心——實(shí)現(xiàn)數(shù)據(jù)及模型資產(chǎn)的價(jià)值挖掘
Sophon 3.2秉持以數(shù)據(jù)為中心和以模型為中心的理念,幫助用戶將零散的數(shù)據(jù)和模型進(jìn)行有效管理,并通過(guò)數(shù)據(jù)資產(chǎn)管理及模型資產(chǎn)管理等手段,實(shí)現(xiàn)數(shù)據(jù)和模型資產(chǎn)的價(jià)值迸發(fā)。
企業(yè)可以通過(guò)確定某一使用場(chǎng)景,來(lái)倒推需要使用的模型或模型組,從而確定需要收集和訓(xùn)練的數(shù)據(jù)種類(lèi)及數(shù)據(jù)集。通過(guò)數(shù)據(jù)環(huán)、模型環(huán)和場(chǎng)景環(huán)建設(shè),企業(yè)可以有效降低模型、場(chǎng)景及應(yīng)用的開(kāi)發(fā)成本,并有效激發(fā)團(tuán)隊(duì)協(xié)作潛能,并提升應(yīng)用創(chuàng)新能力。
圖:Sophon 人工智能應(yīng)用建設(shè)方法論
為更好地激發(fā)AI模型資產(chǎn)價(jià)值,Sophon 3.2發(fā)布的MLops模型運(yùn)營(yíng)模塊,提供大模型的開(kāi)發(fā)/運(yùn)維工具鏈,可幫助企業(yè)用戶快速開(kāi)發(fā)構(gòu)建領(lǐng)域大模型應(yīng)用。同時(shí),使用Sophon MLOps進(jìn)行指令開(kāi)發(fā)和模型微調(diào)、對(duì)齊,我們開(kāi)發(fā)出了大數(shù)據(jù)分析大模型SoLar求索,讓業(yè)務(wù)人員在不需要學(xué)習(xí)和掌握數(shù)據(jù)庫(kù)編程語(yǔ)言的前提下自由地按需查詢數(shù)據(jù)。
圖:LLM平臺(tái)階段性演進(jìn)圖
圖:大數(shù)據(jù)分析大模型SoLar求索的NLP2SQL功能
Sophon 3.2通過(guò)提供六易三倉(cāng)兩中心能力,加之MLOps模型運(yùn)管模塊、AutoCV視覺(jué)模型生產(chǎn)應(yīng)用模塊等AI能力支撐,能夠保障企業(yè)數(shù)據(jù)到智能應(yīng)用的落地,實(shí)現(xiàn)AI能力平民化、AI價(jià)值最大化。
(本內(nèi)容屬于網(wǎng)絡(luò)轉(zhuǎn)載,文中涉及圖片等內(nèi)容如有侵權(quán),請(qǐng)聯(lián)系編輯刪除。市場(chǎng)有風(fēng)險(xiǎn),選擇需謹(jǐn)慎!此文僅供參考,不作買(mǎi)賣(mài)及投資依據(jù)。)
原創(chuàng)文章,作者:陳晨,如若轉(zhuǎn)載,請(qǐng)注明出處:http://m.2079x.cn/article/572114.html