3月15日，在中國人工智能產業(yè)發(fā)展聯(lián)盟(AIIA)第十一次全會上，中國信通院發(fā)布大模型標準符合性驗證結果，華為云盤古憑借大模型安全解決方案——盤古安全護欄完成軟硬件、數(shù)據(jù)、模型、應用等可信模塊測試，成為業(yè)界首個在大模型可信領域獲得卓越級（5級）評分的大模型產品。
華為云盤古大模型獲得信通院可信要求5級評分
全新盤古安全護欄，信通院可信滿級認證
近年來，我國人工智能產業(yè)在《“十四五”數(shù)字經濟發(fā)展規(guī)劃》《“十四五”國家信息化規(guī)劃》等政策引導下蓬勃發(fā)展。大規(guī)模預訓練模型作為人工智能新基建的關鍵技術，在自然語言處理、計算機視覺等領域取得顯著突破。然而，隨著技術應用深入發(fā)展而來的數(shù)據(jù)投毒、不當應用等風險也逐漸凸顯。
自2021年起，中國信通院開始研究大規(guī)模預訓練模型標準，與多方共同建立技術和應用標準體系，推動人工智能發(fā)展。華為云盤古大模型在2022年首批參與，“模型開發(fā)”和“模型能力”兩個模塊達到優(yōu)秀級（4+級），在2023年大模型標準符合性驗證結果中，成為業(yè)界首個在模型應用模塊獲得卓越級（5級）評分的大模型產品。
在本次大模型標準符合性驗證中，華為云大模型安全解決方案覆蓋了基礎設施、訓練數(shù)據(jù)、生成內容的端到端安全合規(guī)全場景，有效應對大模型數(shù)據(jù)治理、模型可信、內容合規(guī)等三大維度風險，并以文本審核、Prompt攻擊檢測、AIGC鑒偽、個人隱私脫敏等新型可信能力，確保應用中的可信可靠。此外，在軟硬件和數(shù)據(jù)方面，盤古安全護欄保證了基礎軟硬件的安全性、可靠性和兼容性，以采集、預處理和使用控制實現(xiàn)數(shù)據(jù)可信性，并從多角度構筑數(shù)據(jù)可信能力，打造穩(wěn)健、可控、合規(guī)且符合價值觀的應用服務。
為引導產業(yè)發(fā)展和規(guī)范行業(yè)自律，華為云還與中國信息通信研究院聯(lián)合其他相關單位共同開展編制《大規(guī)模預訓練模型技術和應用評估方法 第5部分：可信要求》，為國家人工智能產業(yè)的健康發(fā)展貢獻力量。
全新盤古安全護欄，筑牢大模型新防線
大模型逐漸深入行業(yè)核心系統(tǒng)，成為推動數(shù)字化轉型的關鍵力量，伴隨而來的還有端到端的可信挑戰(zhàn)。盤古安全護欄，進一步強化了大模型的全鏈路保障，基于華為云在盤古大模型實踐中積累的豐富經驗和技術優(yōu)勢，開放兼容，能夠服務于多樣化的模型形態(tài)，助力企業(yè)實現(xiàn)大模型全鏈路合規(guī)。
華為云盤古安全護欄憑借四道防線，全面覆蓋大模型使用的全生命周期，兼容開源、三方大模型，為企業(yè)用戶提供最佳的大模型安全解決方案。
? 數(shù)據(jù)防護防線：通過數(shù)據(jù)脫敏、數(shù)據(jù)血緣、數(shù)據(jù)防毒等技術手段，從預訓練模型的數(shù)據(jù)集，直至數(shù)據(jù)治理階段，全方位保障企業(yè)構建高質量、安全合規(guī)的數(shù)據(jù)集，確保數(shù)據(jù)多樣性和公平性。
? 模型防護防線：針對模型訓練階段可能遭遇的數(shù)據(jù)投毒風險，以及推理階段訓練數(shù)據(jù)、用戶隱私信息泄露等風險，采用模型混淆、模型加密等先進技術，軟硬件結合，加密模型，有效保障企業(yè)大模型資產安全。
? 內容防護防線：通過Prompt攻擊檢測等新型防御能力，實現(xiàn)對多種直接與間接攻擊手段的有效檢測，并通過對模型輸入輸出內容嚴格審核，嚴防生成有害或不當信息，有效應對新型安全風險。
? 應用防護防線：保護大模型在應用插件場景下的安全可靠性，確保大模型在各類應用場景中都能穩(wěn)定、高效地發(fā)揮作用。
據(jù)悉，盤古安全護欄四道防線的綜合攔截率超過90%，能夠為企業(yè)大模型提供堅實的保障。未來，華為云將持續(xù)致力于AI技術與行業(yè)實踐深度融合，護航大模型技術的創(chuàng)新與發(fā)展，為企業(yè)用戶提供更加可信的人工智能解決方案，讓企業(yè)創(chuàng)新安心無憂。
原創(chuàng)文章，作者：陳晨，如若轉載，請注明出處：http://m.2079x.cn/article/637654.html
