制造業(yè)是一個古老而悠久的行業(yè),它的起源最早可追溯到石器時代。從新石器時代簡單的工具,到今天復(fù)雜的智能工廠,制造業(yè)歷經(jīng)千年發(fā)展,蛻變成了由技術(shù)驅(qū)動的創(chuàng)新行業(yè),充滿各種自動化流程、始終互連的設(shè)備和數(shù)據(jù)豐富的流程。
“離散型”制造業(yè)面臨數(shù)據(jù)挑戰(zhàn)
在制造業(yè)中,通常有著“流程型”和“離散型”兩種區(qū)分?!傲鞒绦汀笔侵副患庸ο蟛婚g斷地通過生產(chǎn)設(shè)備,通過一系列的加工裝置使原材料進行化學(xué)或物理變化,最終得到產(chǎn)品。典型的流程生產(chǎn)制造業(yè)有醫(yī)藥、化工、石油化工、電力、鋼鐵制造、能源、水泥等領(lǐng)域?!半x散型”制造,則是指材料的生產(chǎn)過程通常被分解為多項加工任務(wù)。典型的離散制造行業(yè)主要包括機械制造、電子電器、航空制造、汽車制造等行業(yè)。
在整個離散制造業(yè)的現(xiàn)場有著太多的生產(chǎn)、物料、工藝以及人員數(shù)據(jù)。以前,離散制造業(yè)往往只能通過人工上報、手動填單等方式來進行數(shù)據(jù)收集。對于管理層而言,這些數(shù)據(jù)往往是不透明的、不準(zhǔn)確的,或是滯后延遲的。離散制造企業(yè)本身從業(yè)務(wù)到管理,都亟需通過數(shù)字化進行優(yōu)化和提升。
如何解決“離散型”制造業(yè)的數(shù)據(jù)挑戰(zhàn)?
工業(yè)數(shù)字化軟件供應(yīng)商數(shù)益工聯(lián),致力于打造基于“數(shù)據(jù)流+價值流”的離散制造業(yè)數(shù)字化軟件。數(shù)益工聯(lián)團隊以IE+IT為核心能力,實現(xiàn)產(chǎn)品和技術(shù)的雙輪驅(qū)動,已在十多個行業(yè)落成全球領(lǐng)先的數(shù)字標(biāo)桿工廠公司。公司至今已獲得華創(chuàng)資本、高瓴創(chuàng)投、元生資本等知名機構(gòu)的風(fēng)險投資,累計融資額數(shù)億元,在上海、蘇州、廣州三地設(shè)有子公司,打造跨區(qū)域全國服務(wù)平臺。
數(shù)益工聯(lián)數(shù)字工廠系統(tǒng)(DFS,Digital Factory System)應(yīng)用新一代的物聯(lián)網(wǎng)技術(shù)與豐富的現(xiàn)場交互手段,獲取工廠現(xiàn)場最實時、最真實、最有效的數(shù)據(jù),不僅包含設(shè)備狀態(tài)、設(shè)備異常數(shù)據(jù)、設(shè)備生產(chǎn)數(shù)據(jù)等設(shè)備 IOT 數(shù)據(jù),還包含人員的交互使用數(shù)據(jù),如計劃報工、工藝、倉儲物流、質(zhì)檢等核心生產(chǎn)管理業(yè)務(wù)的數(shù)據(jù)等。對管理層而言,通過數(shù)益工聯(lián)數(shù)字工廠系統(tǒng),可以直觀看到清晰、直接的報表,從中發(fā)現(xiàn)數(shù)據(jù)的價值,繼而深入分析并采取行動,優(yōu)化制造現(xiàn)場。
數(shù)益工聯(lián)數(shù)字化工廠架構(gòu)面臨的挑戰(zhàn)
數(shù)益工聯(lián)數(shù)字化工廠架構(gòu)圖
從架構(gòu)上看,數(shù)益工聯(lián)數(shù)字化工廠主要分為四層:
第一層為物聯(lián)層,包括硬件和軟件兩部分。硬件主要為數(shù)益工聯(lián)自研的智能終端,軟件包括邊緣應(yīng)用和物聯(lián)平臺。其中應(yīng)用主要具備設(shè)備參數(shù)的采集、人臉識別等功能,以上應(yīng)用均運行于智能終端。物聯(lián)平臺則主要承擔(dān)設(shè)備管理、配置和升級的相關(guān)工作。
第二層為應(yīng)用層,包括 IOT 數(shù)據(jù)服務(wù)、核心服務(wù)、低代碼平臺。IOT 數(shù)據(jù)服務(wù)是接受物聯(lián)上報數(shù)據(jù),計算設(shè)備開機率,異常等設(shè)備相關(guān)的服務(wù),同時也是其他業(yè)務(wù)的數(shù)據(jù)源頭;核心服務(wù)包括了計劃報工、質(zhì)量等數(shù)字化工廠服務(wù);低代碼平臺主要包括了報表的可視化平臺、流程編排等功能。
第三層為大數(shù)據(jù)層,分成了大數(shù)據(jù)和算法兩個部分。大數(shù)據(jù)應(yīng)用包括了成本控制、APS、工藝大數(shù)據(jù);算法包括了人臉識別、時序分析等算法。
第四層為基礎(chǔ)架構(gòu)層,作為基礎(chǔ)設(shè)施提供其他業(yè)務(wù)使用。主要包括了存儲、數(shù)據(jù)庫、中間件和云原生等部分。
數(shù)字工廠的數(shù)據(jù)源頭主要包括兩部分:
第一部分是 IOT 事件,包括了設(shè)備的開關(guān)機,物聯(lián)采集、異常等數(shù)據(jù),這部分數(shù)據(jù)通過 mqtt 上傳到 IOT 服務(wù)進行處理,同時會推送到隊列中,方便后續(xù)的計算和存儲;
另一部分是業(yè)務(wù)產(chǎn)生的數(shù)據(jù),包括了計劃報工、上下班等產(chǎn)生業(yè)務(wù)數(shù)據(jù),主要通過 http 進行上傳和展示。業(yè)務(wù)數(shù)據(jù)會直接存放到數(shù)據(jù)庫中,同時將數(shù)據(jù)推送到隊列中。
數(shù)據(jù)存儲主要采用了 TiDB 和 Starrocks 兩個數(shù)據(jù)庫,除了時序相關(guān)的數(shù)據(jù),業(yè)務(wù)數(shù)據(jù)都存放在了 TiDB 中。
隨著數(shù)益工聯(lián)業(yè)務(wù)規(guī)模的不斷增長,數(shù)據(jù)量變得愈發(fā)龐大,對于數(shù)據(jù)庫的穩(wěn)定性也提出了更高的要求:
1、多數(shù)業(yè)務(wù)數(shù)據(jù)需要支持秒級延時,因此需要數(shù)據(jù)庫具有很高的并發(fā)能力;隨著業(yè)務(wù)的增長,數(shù)據(jù)量也會越來越大,需要數(shù)據(jù)庫具有良好的拓展性;
2、隨著數(shù)據(jù)量的增大,報表制作成本和難度變大,無法保證實時性。
為解決業(yè)務(wù)系統(tǒng)的性能瓶頸,提高數(shù)據(jù)庫的性能問題,數(shù)益工聯(lián)選擇了 TiDB 這一新型分布式數(shù)據(jù)庫實現(xiàn)重構(gòu)。
數(shù)益工聯(lián)研發(fā)團隊在實踐過程發(fā)現(xiàn),TiDB 許多優(yōu)勢正好可以滿足數(shù)益工聯(lián)的需求:
-
TiDB 兼容性強,在實踐的過程中幾乎沒有遇到過不兼容的問題,除了少數(shù)默認編碼的問題。
-
支持云原生部署,可以通過 Kubernetes operator 來快速部署TiDB集群,具有完善的配套監(jiān)控功能。
-
能夠?qū)崿F(xiàn)自動化水平擴容,支持高可用,運維無需手動接入,極大地降低了運維成本。
-
支持 AP,TiDB 支持 TiFlash,降低部署復(fù)雜度,TiFlash 在億級別數(shù)據(jù)的查詢中,通常能達到 5 倍的加速。
TiDB如何助力數(shù)益工聯(lián)挖掘價值數(shù)據(jù)?
那么,數(shù)益研發(fā)團隊是如何使用 TiDB 實現(xiàn)對于工業(yè)數(shù)據(jù)的價值挖掘的?以工廠運轉(zhuǎn)效率的重要指標(biāo)設(shè)備開機率為例,對于工廠而言,設(shè)備的開機率與生產(chǎn)效率息息相關(guān),能否實時獲取開機率,機器是否實現(xiàn)了高效且合理的運轉(zhuǎn)非常重要。數(shù)益工聯(lián)團隊通過 TiDB 實現(xiàn)了以下功能:
-
開關(guān)機記錄:一條開機記錄表示記錄單個設(shè)備的一次開機時間和關(guān)機時間。這種記錄表,由于數(shù)據(jù)量過大,現(xiàn)在主要放在ES中。
-
開機率:表示在一段時間內(nèi)的開機時間的占比,延時需要精確到秒級,這種數(shù)據(jù)現(xiàn)在轉(zhuǎn)換成時序的數(shù)據(jù)存放在 Starrocks,同時創(chuàng)建物化視圖,加速時間跨度大的查詢。
但隨著時間增長,團隊也遇到了以下問題:一是開機記錄和開機率數(shù)據(jù)不同源,導(dǎo)致數(shù)據(jù)容易不一致;二是Starrocks 存儲量大,占用了大量的計算和存儲資源。
因此,數(shù)益工聯(lián)數(shù)據(jù)團隊對于開機率進行了第三次改造:Starrocks 不再保存開機率的時序數(shù)據(jù)。時序數(shù)據(jù)量比較大,容易出現(xiàn)異常,導(dǎo)致數(shù)據(jù)不一致。數(shù)益工聯(lián)一方面將開機記錄存放在 TiDB 中;另一方面通過開機記錄來計算出開機率。
原先 ES 同步寫入容易引發(fā)業(yè)務(wù)寫入超時的問題,這次改造解決了 ES 數(shù)據(jù)寫入延時的問題,同時,也減少了 Starrocks 的存儲資源的占用。這次改造使得在在100 臺設(shè)備的應(yīng)用場景中,一年能減少百 GB 級別的Starrocks 存儲;充分利用了 TiDB 的 HTAP 能力,通過 TiDB 的 HTAP 直接對開機記錄進行聚合查詢,降低了業(yè)務(wù)復(fù)雜度,給業(yè)務(wù)開發(fā)提供了很大的便利性。目前,TiDB 在線上運行表現(xiàn)十分穩(wěn)定。
改造 TiFlash,實現(xiàn) TiDB 物化功能
與此同時,數(shù)益工聯(lián)研發(fā)團隊也在進行一些定制化的改造。由于業(yè)務(wù)需要支持任意時間段查詢開機率的能力,因此需要按天對數(shù)據(jù)進行預(yù)聚合,但TiDB 不支持物化能力,需要借助業(yè)務(wù)邏輯來實現(xiàn),加大了業(yè)務(wù)實現(xiàn)復(fù)雜度。隨著業(yè)務(wù)預(yù)聚合的需求越來越多,數(shù)益工聯(lián)研發(fā)團隊決定對 TiFlash 進行改造,實現(xiàn) TiDB 物化功能:
1、每個基表根據(jù)物化語句生成物化表。
2、基表以分區(qū)為粒度進行聚合,當(dāng)數(shù)據(jù)到達一定時間的策略的時候,會把整個分區(qū)進行聚合,放到物化表分區(qū)中。
3、查詢引擎自動判斷是否使用基表分區(qū)還是物化分區(qū)。
4、在和Tiflash團隊的交流中發(fā)現(xiàn),需要解決重復(fù)計算的問題,因此數(shù)據(jù)需要多副本去重計算。
目前,在數(shù)益初步的單副本測試中,雖然還存在一些問題需要修復(fù),但能看到 TiFlash 的物化功能展現(xiàn)了很大的潛力,相信將在未來多業(yè)務(wù)場景下發(fā)揮重要作用。
數(shù)據(jù)庫在制造業(yè)中扮演著至關(guān)重要的角色,它們?yōu)楣S提供了強大的信息管理能力,幫助工廠更好地挖掘數(shù)據(jù)的價值。TiDB 可以幫助制造業(yè)處理海量數(shù)據(jù),提供高效的查詢性能,我們也期待幫助更多制造業(yè)用戶完成數(shù)字化轉(zhuǎn)型,從而提升企業(yè)的競爭力與效率。
(本內(nèi)容屬于網(wǎng)絡(luò)轉(zhuǎn)載,文中涉及圖片等內(nèi)容如有侵權(quán),請聯(lián)系編輯刪除。市場有風(fēng)險,選擇需謹慎!此文僅供參考,不作買賣及投資依據(jù)。)
原創(chuàng)文章,作者:陳晨,如若轉(zhuǎn)載,請注明出處:http://m.2079x.cn/article/566681.html