4月22日，抖音發(fā)布《2025第一季度黑產(chǎn)治理數(shù)據(jù)報(bào)告》。據(jù)公開數(shù)據(jù)顯示，自2025年以來，抖音持續(xù)加強(qiáng)對黑色產(chǎn)業(yè)鏈的打擊，隨著AI能力在治理場景的深度利用，平臺在黑產(chǎn)違規(guī)場景的巡檢、預(yù)警、研判等環(huán)節(jié)的效率都獲得了大幅提升。
今年第一季度，抖音封禁水軍、欺詐和違規(guī)導(dǎo)流相關(guān)黑產(chǎn)賬號260萬個(gè)，并將涉嫌違法犯罪的線索上報(bào)有關(guān)部門。
搭建AI智能體，網(wǎng)絡(luò)水軍巡檢效率提升10倍
今年以來，抖音風(fēng)險(xiǎn)治理團(tuán)隊(duì)在大模型基礎(chǔ)上，以“AI能力”為核心，構(gòu)建覆蓋風(fēng)險(xiǎn)感知、智能決策、閉環(huán)處置的治理體系，系統(tǒng)性提升AI在復(fù)雜場景下的風(fēng)險(xiǎn)治理應(yīng)用，單個(gè)案例的處理時(shí)間達(dá)秒級，各環(huán)節(jié)運(yùn)行綜合準(zhǔn)確率達(dá)到85%以上。
以網(wǎng)絡(luò)水軍治理為例，雖然在長時(shí)間的治理中平臺已經(jīng)有了一套流程并完成了部分內(nèi)容自動(dòng)化運(yùn)行，但日常的研判、回掃等工作仍以人工處置為主。隨著大模型的發(fā)展，工作人員借用AI能力搭建出不同的智能機(jī)器人工具，在風(fēng)險(xiǎn)發(fā)現(xiàn)、風(fēng)險(xiǎn)預(yù)警、線上巡檢、風(fēng)險(xiǎn)研判、風(fēng)險(xiǎn)回掃等多個(gè)環(huán)節(jié)實(shí)現(xiàn)線上自動(dòng)運(yùn)營。尤其在“刷量”的識別和處置上，人工智能極大提高了處置鏈路的效率，不僅能3分鐘內(nèi)完成自動(dòng)研判，且準(zhǔn)確率高達(dá)95%以上。
在今年第一季度的試運(yùn)行中，平臺網(wǎng)絡(luò)水軍服務(wù)違規(guī)的巡檢效率提升了10.25倍，日均攔截違規(guī)請求6000萬次，封禁水軍賬號超20萬個(gè)。
加強(qiáng)欺詐安全提醒，每日發(fā)送反詐短信超80萬條
本季度，仿冒抖音客服的詐騙套路仍在升級、變化。
抖音持續(xù)在多個(gè)產(chǎn)品頁面強(qiáng)化反詐提醒，并升級“驗(yàn)證助手”工具，用戶可輸入電話、短信、網(wǎng)址等驗(yàn)證相關(guān)信息是否來自抖音官方，并查看官方客服與自己的聯(lián)系記錄，日均保護(hù)此類詐騙潛在受害人5萬名。同時(shí)，用戶也可直接撥打95152進(jìn)行核實(shí)。
此外，虛假人設(shè)和交易導(dǎo)流詐騙，也是今年以來黑產(chǎn)團(tuán)伙重點(diǎn)開展的詐騙手段。詐騙分子用虛假人設(shè)以交友、賺錢等噱頭，或以私下交易為由，將用戶引導(dǎo)至其他平臺，誘導(dǎo)其下載第三方軟件實(shí)施詐騙。因詐騙行為大多發(fā)生在非公共流域，并涉及多個(gè)平臺，平臺的治理難度也隨之增加。
抖音反詐中心工作人員提醒，請勿輕信陌生人邀請您去第三方平臺“交友”“賺錢”的信息，私聊請注意保護(hù)財(cái)產(chǎn)安全，不要留下電話等隱私信息，如遇上述違規(guī)行為可第一時(shí)間向平臺舉報(bào)。
今年一季度，抖音進(jìn)一步完善了仿冒、購物、刷單、交友等多個(gè)場景的安全模型，重點(diǎn)解決小眾聊天場景下詐騙問題，并結(jié)合海外IP、異常關(guān)注、頻繁催更等行為進(jìn)行識別并防范易受騙人群被高危用戶欺詐。針對殺豬盤、色情導(dǎo)流交易等高危場景，加大短信、電話外呼等用戶提醒功能。
2025年至今，抖音共封禁欺詐相關(guān)賬號140萬個(gè)，每日下發(fā)提醒短信超80萬條，撥打反詐預(yù)警電話近17萬次。
建立多賬號鏈路識別體系，阻斷違規(guī)外鏈導(dǎo)流風(fēng)險(xiǎn)
今年以來，違規(guī)導(dǎo)流手段呈現(xiàn)出多鏈路特點(diǎn)。不同于單賬號作弊，平臺只需識別到違規(guī)內(nèi)容，即可精準(zhǔn)對賬號做出處罰；多鏈路手段下，黑產(chǎn)團(tuán)伙在投稿、評論、用戶資料、彈幕等場景利用多個(gè)賬號配合操作，平臺需把鏈路上的每一個(gè)賬號、每一個(gè)違規(guī)導(dǎo)流信息都進(jìn)行定位、分析、整理，才能保證處罰合理合規(guī)并減少遺漏。僅靠人工，很難回溯出完整的黑產(chǎn)鏈條。
為了解決此類難題，抖音平臺搭建了多個(gè)賬號長鏈路的風(fēng)險(xiǎn)識別體系，從事前、事中、事后等多個(gè)環(huán)節(jié)切斷黑產(chǎn)賬號之間聯(lián)系并將違規(guī)賬號統(tǒng)一處置，同時(shí)結(jié)合大模型對于內(nèi)容理解的優(yōu)勢，自動(dòng)梳理黑產(chǎn)鏈路的每個(gè)環(huán)節(jié)并識別出關(guān)鍵證據(jù)進(jìn)行保存。在AI技術(shù)的深度運(yùn)用下，一季度站內(nèi)相關(guān)違規(guī)的舉報(bào)量下降了73.3%，平臺封禁導(dǎo)流違規(guī)賬號近100萬個(gè)，處置違規(guī)視頻內(nèi)容745萬條，并將線索上報(bào)相關(guān)部門，配合打擊違規(guī)導(dǎo)流團(tuán)伙。
本文轉(zhuǎn)載自：，不代表科技訊之立場。原文鏈接：https://www.xhby.net/content/s68073a82e4b04772d1d025ee.html
