用戶在圖文、短視頻平臺(tái)連續(xù)閱覽某類話題內(nèi)容時(shí)，平臺(tái)推薦算法會(huì)持續(xù)推送相關(guān)內(nèi)容，由此產(chǎn)生的“信息繭房” 問(wèn)題一直備受行業(yè)質(zhì)疑 。4月15日，抖音“安全與信任中心開放日”現(xiàn)場(chǎng)，相關(guān)負(fù)責(zé)人拆解抖音算法邏輯與審核流程。

推薦算法作為人工智能機(jī)器學(xué)習(xí)技術(shù)的應(yīng)用場(chǎng)景，本質(zhì)是一套高效信息過(guò)濾系統(tǒng)。現(xiàn)場(chǎng)采訪環(huán)節(jié)，抖音算法工程師劉暢表示，抖音推薦算法與國(guó)內(nèi)外大部分內(nèi)容推薦平臺(tái)相似，包含召回、過(guò)濾、排序等環(huán)節(jié)，重點(diǎn)是學(xué)習(xí)用戶行為。

目前，抖音基于用戶行為的推薦方法包括協(xié)同過(guò)濾、雙塔召回、Wide&Deep等多種技術(shù)模型。算法可以在完全“不理解內(nèi)容”的情況下，找到興趣相似的用戶，將其他人感興趣的內(nèi)容推薦給該用戶。

但同質(zhì)化選題的密集推送容易造成“信息繭房”現(xiàn)象，對(duì)此，抖音相關(guān)責(zé)任人回應(yīng)稱：“信息繭房”概念在推薦算法成熟之前就出現(xiàn)了，算法不是“信息繭房”形成的先決因素。現(xiàn)在行業(yè)對(duì)“信息繭房”的擔(dān)心本質(zhì)是“信息偏食”，即信息來(lái)源單一。

當(dāng)前各渠道分發(fā)信息都存在一定局限性，此前包括小紅書、微博、美團(tuán)、嗶哩嗶哩等平臺(tái)均發(fā)布了算法治理相關(guān)內(nèi)容。北京師范大學(xué)新聞傳播學(xué)院教授喻國(guó)明表示，“信息繭房”一直存在，本質(zhì)是海量信息差異化消費(fèi)的必然結(jié)果。

為引導(dǎo)算法打破“信息繭房”，抖音算法在多目標(biāo)建模體系下，設(shè)置了專門的探索維度。一是盡可能推薦更多樣的內(nèi)容，通過(guò)多樣性打散、多興趣召回、扶持小眾（長(zhǎng)尾）興趣等方法控制相似內(nèi)容出現(xiàn)的頻次。二是采用隨機(jī)推薦、基于用戶社交關(guān)系拓展興趣、搜索推薦聯(lián)動(dòng)、“不感興趣”不再展現(xiàn)等方式，讓用戶的主動(dòng)行為影響推薦系統(tǒng)，使推薦更加個(gè)性化和多樣化。

但需注意的是，算法能學(xué)習(xí)、預(yù)估用戶行為，但無(wú)法理解內(nèi)容語(yǔ)義，對(duì)內(nèi)容的理解存在不足，可能導(dǎo)致違法違規(guī)、不良內(nèi)容被推薦傳播。因此，算法必須由平臺(tái)治理對(duì)其進(jìn)行約束和規(guī)范。抖音生態(tài)運(yùn)營(yíng)經(jīng)理陳丹丹表示，抖音內(nèi)容治理體系實(shí)行“人工參與+機(jī)器學(xué)習(xí)”模式，包含異常感知、標(biāo)準(zhǔn)定義、機(jī)器識(shí)別、人工研判、風(fēng)險(xiǎn)處置等過(guò)程。

創(chuàng)作者將內(nèi)容上傳至抖音后，先進(jìn)入機(jī)器識(shí)別環(huán)節(jié)。如果內(nèi)容被識(shí)別出含有高危特征，將被直接攔截；若未命中高危特征但模型判斷有問(wèn)題，會(huì)被送至人工審核；若問(wèn)題概率較低，獲得基礎(chǔ)流量進(jìn)入下一環(huán)節(jié)。當(dāng)視頻被舉報(bào)、評(píng)論區(qū)出現(xiàn)集中質(zhì)疑、流量激增等情況發(fā)生，則可能觸發(fā)“人工+機(jī)器”審核。相關(guān)內(nèi)容在上述任一環(huán)節(jié)被處置，系統(tǒng)都會(huì)立即停止進(jìn)一步推薦和分發(fā)。