抖音治理違法違規(guī)視頻凈化內(nèi)容平臺(tái)
12月1日,抖音在北京舉辦以平臺(tái)治理為主題的開放日,負(fù)責(zé)抖音平臺(tái)治理的抖音安全中心團(tuán)隊(duì)就安全運(yùn)營(yíng)、審核、技術(shù)攻防、聯(lián)合打擊等方面進(jìn)行了介紹。記者在開放日上獲悉,抖音安全中心每天攔截處理的違法違規(guī)內(nèi)容超過10億條,其中包括違規(guī)注冊(cè)、刷量、刷粉、點(diǎn)贊以及發(fā)布違規(guī)評(píng)論、視頻等多類內(nèi)容行為。今年以來,抖音安全中心封禁色情導(dǎo)流等違規(guī)帳號(hào)超過100萬(wàn),在4月份開始的仿冒名人專項(xiàng)打擊中,已經(jīng)封禁黑產(chǎn)作弊賬號(hào)18萬(wàn)多個(gè),處理問題視頻超過400多萬(wàn)條。
創(chuàng)新技術(shù)手段
據(jù)介紹,抖音在成立之初就組建了安全運(yùn)營(yíng)團(tuán)隊(duì),后升級(jí)成為抖音安全中心,專門負(fù)責(zé)抖音平臺(tái)違法違規(guī)內(nèi)容與行為的治理工作。抖音安全中心負(fù)責(zé)人帥帥表示:“抖音安全中心一直堅(jiān)持‘提前發(fā)現(xiàn)、事先攔截、事中提醒、事后追擊’的平臺(tái)治理原則,通過技術(shù)手段、產(chǎn)品手段、運(yùn)營(yíng)手段治理平臺(tái)違法違規(guī)行為。同時(shí),我們也會(huì)關(guān)注和研究學(xué)習(xí)黑灰產(chǎn)行業(yè)動(dòng)態(tài),不斷提升治理打擊技術(shù)能力,保障每一位抖音用戶的權(quán)益。”
在平臺(tái)違規(guī)內(nèi)容、行為的提前發(fā)現(xiàn)與攔截上,抖音采取平臺(tái)內(nèi)外配合的機(jī)制。據(jù)介紹,在內(nèi)部,抖音安全中心通過組建審核團(tuán)隊(duì),建立審核標(biāo)準(zhǔn)、審核流程,提前對(duì)平臺(tái)上的違規(guī)內(nèi)容、行為進(jìn)行攔截處理。同時(shí)建立日常巡檢機(jī)制,設(shè)立專項(xiàng)巡檢制度,通過客戶端實(shí)際檢測(cè)、后臺(tái)技術(shù)檢測(cè)等手段進(jìn)行常規(guī)巡檢,配合審核團(tuán)隊(duì)多渠道發(fā)現(xiàn)違規(guī)內(nèi)容、行為。在與外部專業(yè)團(tuán)隊(duì)和用戶的配合上,抖音安全中心一方面邀請(qǐng)專業(yè)人士參與到平臺(tái)審核流程中,另一方面非常注重用戶反饋,提供了多種舉報(bào)渠道幫助用戶反饋信息,包括站內(nèi)舉報(bào)、郵箱舉報(bào)、違法和不良信息舉報(bào)電話、“啄木鳥舉報(bào)平臺(tái)”小程序等。截至2020年11月,“啄木鳥舉報(bào)平臺(tái)”小程序已經(jīng)累計(jì)處理用戶反饋的違法違規(guī)帳號(hào)159.5萬(wàn)個(gè)。帥帥表示:“實(shí)際上,相比平臺(tái)上用戶碰到的問題,抖音安全中心處理的問題相當(dāng)于是海面下龐大的冰山,不僅是繁雜多樣,而且是反復(fù)多變的。尤其是近幾年,黑灰產(chǎn)團(tuán)伙對(duì)新興技術(shù)和工具的利用,進(jìn)一步加大了我們工作的難度?!?/span>
抖音安全風(fēng)控專家張曦盛在分享中指出,黑灰產(chǎn)團(tuán)隊(duì)利用新技術(shù)、新手段對(duì)平臺(tái)的攻擊滲透行為,效率要超過傳統(tǒng)攻擊的100倍,甚至更高。例如,在現(xiàn)場(chǎng)展示的視頻中,黑灰產(chǎn)團(tuán)伙成員利用“群控軟件”,可以操控幾十上百臺(tái)手機(jī),自動(dòng)關(guān)注、點(diǎn)贊、發(fā)評(píng)論,甚至可以自動(dòng)私信并回復(fù)用戶信息。今年9月,抖音開啟了對(duì)“群控軟件”的專項(xiàng)打擊工作,過去兩個(gè)月中,法務(wù)部門已經(jīng)在杭州、深圳及廣州等多個(gè)地區(qū)針對(duì)4家涉及抖音的“群控軟件”運(yùn)營(yíng)公司提起訴訟,并獲得了杭州、廣州當(dāng)?shù)胤ㄔ旱闹С?,分別出具禁令,相關(guān)“群控軟件”已被勒令停止運(yùn)營(yíng)。
“黑灰產(chǎn)行業(yè)的技術(shù)與手段一直在升級(jí),我們?cè)谂c他們對(duì)抗的過程中,也在不斷升級(jí)技術(shù)與策略?!睆堦厥⒔榻B,抖音安全中心在初期是利用詞表、名單及頻控策略進(jìn)行對(duì)抗,然后建立了決策引擎和工具平臺(tái),開始利用平臺(tái)化的工具進(jìn)行更有效率的對(duì)抗打擊。目前,抖音安全中心團(tuán)隊(duì)已經(jīng)將數(shù)據(jù)安全、人工智能等技術(shù)應(yīng)用到了黑灰產(chǎn)打擊中,構(gòu)建立體防御體系。張曦盛在現(xiàn)場(chǎng)展示了抖音安全中心的反欺詐解決方案,該方案利用抖音安全中心自主研發(fā)的“鯊魚反欺詐系統(tǒng)”,能夠在賬號(hào)注冊(cè)、登陸、發(fā)布評(píng)論內(nèi)容等階段判斷賬號(hào)是否是黑灰產(chǎn)詐騙賬號(hào),并執(zhí)行對(duì)應(yīng)的處理措施。
除此之外,張曦盛表示抖音安全中心目前也組建了紅藍(lán)軍攻防團(tuán)隊(duì),開展黑灰產(chǎn)的行業(yè)研究,希望先于犯罪分子發(fā)現(xiàn)黑灰產(chǎn)行業(yè)最新趨勢(shì)。
尚需聯(lián)動(dòng)打擊
開放日上,抖音安全中心還展現(xiàn)了針對(duì)平臺(tái)違法違規(guī)行為、內(nèi)容的聯(lián)動(dòng)打擊進(jìn)展,最近4個(gè)月,抖音安全中心已經(jīng)協(xié)助各地公安機(jī)關(guān)打擊涉嫌詐騙、色情的黑灰產(chǎn)團(tuán)隊(duì)25個(gè),刑事拘留87人。抖音安全中心總監(jiān)周冉今年參與了多起黑灰產(chǎn)案件的打擊,她介紹,互聯(lián)網(wǎng)違法違規(guī)行為具備長(zhǎng)鏈條、跨平臺(tái)犯案的特征?,F(xiàn)在的黑灰產(chǎn)行為,通常是在上游進(jìn)行賬號(hào)注冊(cè)、買賣,然后在短視頻、社交媒體等平臺(tái)上實(shí)施引流,落地到社交軟件平臺(tái)上實(shí)施詐騙、傳播色情內(nèi)容,部分會(huì)再到電商平臺(tái)進(jìn)行變現(xiàn)。
“社會(huì)問題與抖音平臺(tái)問題,是共生共存的。所以我們一直認(rèn)為,平臺(tái)責(zé)任不該局限于平臺(tái)。在進(jìn)行平臺(tái)治理的過程中,抖音團(tuán)隊(duì)會(huì)盡可能地更進(jìn)一步考慮問題,希望在解決自身平臺(tái)問題的過程中,也能夠與更多機(jī)構(gòu)進(jìn)行跨平臺(tái)聯(lián)動(dòng)打擊,進(jìn)一步解決社會(huì)問題?!敝苋较M鐣?huì)各界聯(lián)動(dòng)起來,企業(yè)與公安、企業(yè)與企業(yè)、企業(yè)與用戶之間,要進(jìn)行聯(lián)合聯(lián)動(dòng),共同打擊違法違規(guī)行為,建設(shè)美好、正向、健康且有價(jià)值的行業(yè)生態(tài)。