4月22日，抖音發(fā)布《2025第一季度黑產(chǎn)治理數(shù)據(jù)報告》。據(jù)公開數(shù)據(jù)顯示，自2025年以來，抖音持續(xù)加強對黑色產(chǎn)業(yè)鏈的打擊，隨著AI能力在治理場景的深度利用，平臺在黑產(chǎn)違規(guī)場景的巡檢、預(yù)警、研判等環(huán)節(jié)的效率都獲得了大幅提升。
今年第一季度，抖音封禁水軍、欺詐和違規(guī)導(dǎo)流相關(guān)黑產(chǎn)賬號260萬個，并將涉嫌違法犯罪的線索上報有關(guān)部門。
搭建AI智能體，網(wǎng)絡(luò)水軍巡檢效率提升10倍
今年以來，抖音風(fēng)險治理團隊在大模型基礎(chǔ)上，以“AI能力”為核心，構(gòu)建覆蓋風(fēng)險感知、智能決策、閉環(huán)處置的治理體系，系統(tǒng)性提升AI在復(fù)雜場景下的風(fēng)險治理應(yīng)用，單個案例的處理時間達秒級，各環(huán)節(jié)運行綜合準(zhǔn)確率達到85%以上。
以網(wǎng)絡(luò)水軍治理為例，雖然在長時間的治理中平臺已經(jīng)有了一套流程并完成了部分內(nèi)容自動化運行，但日常的研判、回掃等工作仍以人工處置為主。隨著大模型的發(fā)展，工作人員借用AI能力搭建出不同的智能機器人工具，在風(fēng)險發(fā)現(xiàn)、風(fēng)險預(yù)警、線上巡檢、風(fēng)險研判、風(fēng)險回掃等多個環(huán)節(jié)實現(xiàn)線上自動運營。尤其在“刷量”的識別和處置上，人工智能極大提高了處置鏈路的效率，不僅能3分鐘內(nèi)完成自動研判，且準(zhǔn)確率高達95%以上。
在今年第一季度的試運行中，平臺網(wǎng)絡(luò)水軍服務(wù)違規(guī)的巡檢效率提升了10.25倍，日均攔截違規(guī)請求6000萬次，封禁水軍賬號超20萬個。
加強欺詐安全提醒，每日發(fā)送反詐短信超80萬條
本季度，仿冒抖音客服的詐騙套路仍在升級、變化。
抖音持續(xù)在多個產(chǎn)品頁面強化反詐提醒，并升級“驗證助手”工具，用戶可輸入電話、短信、網(wǎng)址等驗證相關(guān)信息是否來自抖音官方，并查看官方客服與自己的聯(lián)系記錄，日均保護此類詐騙潛在受害人5萬名。同時，用戶也可直接撥打95152進行核實。
此外，虛假人設(shè)和交易導(dǎo)流詐騙，也是今年以來黑產(chǎn)團伙重點開展的詐騙手段。詐騙分子用虛假人設(shè)以交友、賺錢等噱頭，或以私下交易為由，將用戶引導(dǎo)至其他平臺，誘導(dǎo)其下載第三方軟件實施詐騙。因詐騙行為大多發(fā)生在非公共流域，并涉及多個平臺，平臺的治理難度也隨之增加。
抖音反詐中心工作人員提醒，請勿輕信陌生人邀請您去第三方平臺“交友”“賺錢”的信息，私聊請注意保護財產(chǎn)安全，不要留下電話等隱私信息，如遇上述違規(guī)行為可第一時間向平臺舉報。
今年一季度，抖音進一步完善了仿冒、購物、刷單、交友等多個場景的安全模型，重點解決小眾聊天場景下詐騙問題，并結(jié)合海外IP、異常關(guān)注、頻繁催更等行為進行識別并防范易受騙人群被高危用戶欺詐。針對殺豬盤、色情導(dǎo)流交易等高危場景，加大短信、電話外呼等用戶提醒功能。
2025年至今，抖音共封禁欺詐相關(guān)賬號140萬個，每日下發(fā)提醒短信超80萬條，撥打反詐預(yù)警電話近17萬次。
建立多賬號鏈路識別體系，阻斷違規(guī)外鏈導(dǎo)流風(fēng)險
今年以來，違規(guī)導(dǎo)流手段呈現(xiàn)出多鏈路特點。不同于單賬號作弊，平臺只需識別到違規(guī)內(nèi)容，即可精準(zhǔn)對賬號做出處罰；多鏈路手段下，黑產(chǎn)團伙在投稿、評論、用戶資料、彈幕等場景利用多個賬號配合操作，平臺需把鏈路上的每一個賬號、每一個違規(guī)導(dǎo)流信息都進行定位、分析、整理，才能保證處罰合理合規(guī)并減少遺漏。僅靠人工，很難回溯出完整的黑產(chǎn)鏈條。
為了解決此類難題，抖音平臺搭建了多個賬號長鏈路的風(fēng)險識別體系，從事前、事中、事后等多個環(huán)節(jié)切斷黑產(chǎn)賬號之間聯(lián)系并將違規(guī)賬號統(tǒng)一處置，同時結(jié)合大模型對于內(nèi)容理解的優(yōu)勢，自動梳理黑產(chǎn)鏈路的每個環(huán)節(jié)并識別出關(guān)鍵證據(jù)進行保存。在AI技術(shù)的深度運用下，一季度站內(nèi)相關(guān)違規(guī)的舉報量下降了73.3%，平臺封禁導(dǎo)流違規(guī)賬號近100萬個，處置違規(guī)視頻內(nèi)容745萬條，并將線索上報相關(guān)部門，配合打擊違規(guī)導(dǎo)流團伙。
本文轉(zhuǎn)載自：，不代表科技訊之立場。原文鏈接：https://www.xhby.net/content/s68073a82e4b04772d1d025ee.html
