在網(wǎng)絡(luò)安全領(lǐng)域，人工智能（AI）一直被視為防御的一大利器，其帶來(lái)的速度、準(zhǔn)確性與自動(dòng)化能力正在徹底改變企業(yè)的防護(hù)方式。但是，網(wǎng)絡(luò)安全從業(yè)人員必須要關(guān)注技術(shù)發(fā)展的“陰暗面”：網(wǎng)絡(luò)犯罪分子也在迅速擁抱 AI，將大型語(yǔ)言模型（LLMs）與高級(jí)代理型 AI 技術(shù)應(yīng)用于攻擊行為，使得網(wǎng)絡(luò)攻擊更具隱蔽性與破壞性。
以 WormGPT 和近期出現(xiàn)的 Xanthorox AI 為例，這些并非只是理論層面的威脅，而是真實(shí)存在的惡意平臺(tái)。WormGPT 基于 GPT-J 模型構(gòu)建，被公開(kāi)宣傳為“黑客專用”版本的 LLM，具備多項(xiàng)為惡意用途量身定制的功能，據(jù)稱還曾以惡意軟件相關(guān)數(shù)據(jù)進(jìn)行訓(xùn)練。盡管其開(kāi)發(fā)者已停止運(yùn)營(yíng)，但“潘多拉的魔盒”已然被打開(kāi)。如今，我們正目睹一波“進(jìn)攻型 AI 工具”的崛起，包括 BurpGPT、PentestGPT、FraudGPT 與 PassGPT 等，還有開(kāi)發(fā)者正計(jì)劃推出更復(fù)雜的模型，如 “Evil-GPT-Web3”。這些趨勢(shì)意味著網(wǎng)絡(luò)安全進(jìn)入了一個(gè)新的競(jìng)爭(zhēng)階段：AI，不再只是防御者的專屬武器。
Xanthorox AI 于 2025 年第一季度嶄露頭角，其能力代表著網(wǎng)絡(luò)攻擊技術(shù)的一次重大飛躍。與此前的惡意 LLM 不同，Xanthorox 并非在現(xiàn)有模型基礎(chǔ)上改造而成，而是從零構(gòu)建的自主模塊化系統(tǒng)，完全離線運(yùn)行，以提升匿名性與抗干擾能力。該系統(tǒng)由五個(gè)專用 AI 模塊組成——Xanthorox Coder、V4 模型、Xanthorox Vision、Xanthorox Reasoner Advanced 以及第五協(xié)調(diào)模塊（Fifth Coordination Module）——協(xié)同完成惡意軟件開(kāi)發(fā)、情報(bào)偵察、社交工程與多點(diǎn)協(xié)調(diào)攻擊等全過(guò)程，完全無(wú)需外部監(jiān)管。這不再是傳統(tǒng)意義上的大型語(yǔ)言模型（LLM），而是一種具備“自主代理”能力（agentic AI）的攻擊系統(tǒng)，標(biāo)志著網(wǎng)絡(luò)犯罪者工具包的邏輯性進(jìn)化和令人擔(dān)憂的轉(zhuǎn)變。
AI 驅(qū)動(dòng)的釣魚(yú)攻擊迅速瓦解品牌信任
AI 技術(shù)的發(fā)展對(duì)品牌保護(hù)帶來(lái)的沖擊，在釣魚(yú)攻擊領(lǐng)域尤為顯著。威脅行為者已經(jīng)開(kāi)始利用“提示注入”（prompt injection）技術(shù)，操控合法的大型語(yǔ)言模型（LLM）生成極具欺騙性的釣魚(yú)內(nèi)容。這意味著，釣魚(yú)攻擊的生成速度更快、頻率更高，且具備令人震驚的個(gè)性化程度。
數(shù)據(jù)顯示，2024 年全球 67.4% 的釣魚(yú)事件中已出現(xiàn) AI 技術(shù)的身影，金融行業(yè)則是最主要的攻擊目標(biāo)之一。這不僅僅是數(shù)量的增長(zhǎng)，更是手法的升級(jí)。借助 AI，攻擊者能夠輕松打造高度定制化、極具說(shuō)服力的攻擊手段，包括精準(zhǔn)釣魚(yú)（spear-phishing）、深度偽造（deepfakes）以及先進(jìn)的社交工程技巧等。
郵件攻擊變得更快速、更精準(zhǔn)
AI 對(duì)釣魚(yú)郵件的影響已立竿見(jiàn)影。過(guò)去，拼寫(xiě)錯(cuò)誤和語(yǔ)法問(wèn)題常被視為識(shí)別詐騙郵件的“警示”；如今，這種方法已不再有效。借助生成式 AI，如今的釣魚(yú)郵件在語(yǔ)言風(fēng)格、語(yǔ)法結(jié)構(gòu)上與真實(shí)企業(yè)溝通幾乎無(wú)異。大型語(yǔ)言模型（LLM）不僅提升了郵件撰寫(xiě)的速度與質(zhì)量，也大幅提高了內(nèi)容的個(gè)性化程度，使攻擊得以快速部署和規(guī)?；瘮U(kuò)散。
早在 2021 年的研究就顯示，即便是早期 AI 所生成的魚(yú)叉式釣魚(yú)郵件，其點(diǎn)擊率也高達(dá) 60%。而 2024 年的最新研究則發(fā)現(xiàn)，完全由 AI 生成的釣魚(yú)郵件在受試者中達(dá)成了 54% 的點(diǎn)擊率，較傳統(tǒng)隨機(jī)釣魚(yú)郵件高出約 350%。
2024 年 2 月：一家歐洲零售企業(yè)的匈牙利分公司在一次商業(yè)郵件詐騙（BEC）攻擊中損失了 1550 萬(wàn)歐元。攻擊者利用生成式 AI 精準(zhǔn)模仿公司內(nèi)部郵件的語(yǔ)氣、風(fēng)格和排版，向財(cái)務(wù)人員發(fā)送偽裝為緊急轉(zhuǎn)賬請(qǐng)求的郵件。這些郵件語(yǔ)言無(wú)誤、上下文準(zhǔn)確，成功繞過(guò)了傳統(tǒng)的檢測(cè)機(jī)制，充分展示了 AI 增強(qiáng)型 BEC 攻擊的破壞力。
深度偽造“未來(lái)已來(lái)”
除了高度逼真的釣魚(yú)郵件，深度偽造（Deepfake）技術(shù)正在為釣魚(yú)攻擊開(kāi)辟全新模式。通過(guò)深度學(xué)習(xí)合成的音頻、圖像或視頻，攻擊者如今可以輕松偽造語(yǔ)音留言、模擬視頻通話，甚至“復(fù)刻”特定人物的外貌與聲音，從而實(shí)現(xiàn)前所未有的欺騙效果。過(guò)去這類攻擊手段僅限于技術(shù)高超的黑客，如今卻變得觸手可及。Deloitte 的報(bào)告指出，已有 25.9% 的企業(yè)高管曾遭遇過(guò)一次或多次深度偽造事件。
部分深度偽造釣魚(yú)真實(shí)案例：
· 阿聯(lián)酋（2020 年）：一位銀行經(jīng)理誤信了通過(guò)深度偽造語(yǔ)音技術(shù)偽裝成公司董事的電話指令，被騙轉(zhuǎn)賬約 3500 萬(wàn)美元。攻擊者使用公開(kāi)音頻資料克隆了這位董事的聲音，并結(jié)合偽造的“董事”和“律師”郵件進(jìn)一步增強(qiáng)可信度。
· 中國(guó)香港（2024 年 1 月）：一家跨國(guó)企業(yè)在一次深度偽造視頻騙局中損失了 2500 萬(wàn)美元。攻擊者偽造該公司 CFO 及其他員工的 AI 合成視頻，在一次視頻會(huì)議中欺騙財(cái)務(wù)人員執(zhí)行轉(zhuǎn)賬命令，并利用“多人視頻”中的群體心理效應(yīng)打消其疑慮。
· 英國(guó)（2024 年 5 月）：盡管最終未得逞，但仍然引起了執(zhí)法部門(mén)關(guān)注。攻擊者通過(guò) WhatsApp虛擬賬戶、AI 克隆語(yǔ)音及篡改的 YouTube 視頻，冒充某 CEO 出現(xiàn)在 Microsoft Teams 會(huì)議中，試圖說(shuō)服某機(jī)構(gòu)負(fù)責(zé)人設(shè)立空殼公司并提供資金及個(gè)人信息。
這些案例表明，深度偽造已不再只是“未來(lái)威脅”，而是現(xiàn)實(shí)中活躍的攻擊手段，正在重塑網(wǎng)絡(luò)釣魚(yú)和身份欺詐的風(fēng)險(xiǎn)格局。
Check Point：AI對(duì)抗AI，更加主動(dòng)應(yīng)對(duì)挑戰(zhàn)
Check Point公司中國(guó)區(qū)技術(shù)總監(jiān)王躍霖在點(diǎn)評(píng)AI發(fā)展趨勢(shì)時(shí)表示：“AI本質(zhì)上是生產(chǎn)力工具，既可被攻擊者利用，也可被防御者應(yīng)用，雙方積極運(yùn)用AI技術(shù)，導(dǎo)致攻擊與防御的速度和規(guī)模迅速提升，給安全防御工作帶來(lái)極大的挑戰(zhàn)。僅靠傳統(tǒng)依賴人力的防御策略已難以為繼，必須以‘AI對(duì)抗AI’的理念構(gòu)建更智能、更主動(dòng)的防御體系，方可應(yīng)對(duì)GenAI帶來(lái)的復(fù)雜攻擊?！痹诮衲?，Check Point對(duì)其核心產(chǎn)品Infinity平臺(tái)進(jìn)行了戰(zhàn)略升級(jí)，新增了多項(xiàng)AI創(chuàng)新功能，以加速零信任實(shí)施、增強(qiáng)威脅防御、降低復(fù)雜性，并簡(jiǎn)化安全運(yùn)維，提升企業(yè)的安全管理能力。同時(shí)，Check Point安全防護(hù)背后的大腦，ThreatCloud AI威脅情報(bào)云平臺(tái)也進(jìn)行了重大更新。算法層面，Check Point持續(xù)增加算法數(shù)量，從2022年的40多個(gè)增加到55個(gè)AI引擎。算力層面，ThreatCloud AI系統(tǒng)運(yùn)行在英偉達(dá)的底層平臺(tái)上，具備強(qiáng)大的硬件支撐能力。數(shù)據(jù)層面，ThreatCloud AI的情報(bào)數(shù)據(jù)來(lái)源覆蓋全球近190個(gè)國(guó)家。王躍霖指出：“ThreatCloud AI幫助用戶能夠精準(zhǔn)識(shí)別和防御各類網(wǎng)絡(luò)威脅，包括釣魚(yú)網(wǎng)站、惡意軟件、DNS攻擊等，從而實(shí)現(xiàn)預(yù)先識(shí)別惡意請(qǐng)求，并采取主動(dòng)防御措施，而無(wú)需等到問(wèn)題出現(xiàn)后，再被動(dòng)應(yīng)對(duì)?！?/p>
在Check Point看來(lái)，2025年將是網(wǎng)絡(luò)安全全面擁抱AI的一年。Check Point以“AI對(duì)抗AI”的戰(zhàn)略思維，通過(guò)Infinity平臺(tái)的智能化升級(jí)、以及ThreatCloud AI的全球威脅感知能力，率先構(gòu)建起以AI為神經(jīng)中樞、以生態(tài)為防護(hù)邊界的動(dòng)態(tài)防御體系。通過(guò)這一業(yè)界領(lǐng)先的互聯(lián)網(wǎng)安全體系，Check Point有信心幫助用戶在與不法分子的“AI博弈”中，始終保持主動(dòng)態(tài)勢(shì)，更加從容的面對(duì)已知與未知的安全挑戰(zhàn)。
本文轉(zhuǎn)載自：，不代表科技訊之立場(chǎng)。原文鏈接：http://articlef.yulepops.com/article/m-163/1/2122025071010043011309710.html
