-
抖音首度披露算法機(jī)制:利用神經(jīng)網(wǎng)絡(luò)預(yù)估用戶行為,不依賴打標(biāo)簽,“機(jī)器+人工”雙重審核
當(dāng)算法已經(jīng)深刻融入日常生活中,平臺應(yīng)當(dāng)如何管理算法,才能避免其無序發(fā)展、走向失控?
4月16日,澎湃新聞記者獲悉,近期抖音在北京舉辦“安全與信任中心開放日”活動,首次對平臺算法原理、平臺治理體系以及社會關(guān)切的問題進(jìn)行較為詳細(xì)的披露。
抖音曾經(jīng)多次因?yàn)樗惴?,陷入輿論爭議。去年農(nóng)夫山泉董事長鐘睒睒曾經(jīng)喊話字節(jié)跳動創(chuàng)始人張一鳴,請求頭條和抖音停止對一個中國公民的侵害,“今日頭條你是實(shí)際控制人,同樣你是盈利性企業(yè)。你是一個有足夠量掌控輿論的平臺企業(yè),因?yàn)檫@樣的背景,所以請你承擔(dān)企業(yè)文明的規(guī)則?!?
面對此前吳柳芳案件等帶來的算法和流量質(zhì)疑,抖音副總裁李亮曾經(jīng)多次在公開平臺回應(yīng),但始終未正面披露其背后的算法機(jī)制。
在此次發(fā)布會上,抖音算法工程師劉暢介紹,抖音推薦算法作為人工智能機(jī)器學(xué)習(xí)技術(shù)的重要應(yīng)用場景,本質(zhì)上是一套高效的信息過濾系統(tǒng)。
在抖音的實(shí)際應(yīng)用中,平臺推薦系統(tǒng)采取“人工+機(jī)器”協(xié)同的方式進(jìn)行風(fēng)險(xiǎn)治理:由人工運(yùn)營和治理體系為算法導(dǎo)航;同時(shí)多目標(biāo)體系算法主動打破 “信息繭房”,為用戶帶來更豐富的推薦結(jié)果。
從推薦算法來看,抖音與國內(nèi)外大部分內(nèi)容推薦平臺相似,包含召回、過濾、排序等環(huán)節(jié),重點(diǎn)是學(xué)習(xí)用戶行為。抖音基于用戶行為的推薦方法包含多種技術(shù)模型,如協(xié)同過濾、雙塔召回、Wide&Deep模型(均為推薦系統(tǒng)中常用模型)等。算法可以在完全“不理解內(nèi)容”的情況下,找到興趣相似的用戶,把其他人感興趣的內(nèi)容推薦給該用戶。
目前,抖音算法已幾乎不依賴對內(nèi)容和用戶打標(biāo)簽,而是通過神經(jīng)網(wǎng)絡(luò)計(jì)算,預(yù)估用戶行為,計(jì)算用戶觀看這條內(nèi)容獲得的價(jià)值總和,把排名靠前的內(nèi)容推給用戶。
談到外界擔(dān)憂的“信息繭房”問題,劉暢介紹,抖音算法在多目標(biāo)建模體系下,設(shè)置專門的探索維度:一是對用戶在平臺上已經(jīng)表現(xiàn)出的興趣,盡可能推薦更多樣的內(nèi)容,通過多樣性打散、多興趣召回、扶持小眾(長尾)興趣等方法控制相似內(nèi)容出現(xiàn)的頻次。
二是幫助用戶探索更多新興趣,采用隨機(jī)推薦、基于用戶社交關(guān)系拓展興趣、搜索推薦聯(lián)動、“不感興趣”不再展現(xiàn)等多種方式,讓用戶的主動行為影響推薦系統(tǒng),使推薦更加個性化和多樣化。
算法能學(xué)習(xí)、預(yù)估用戶行為,但因其無法理解內(nèi)容語義,對內(nèi)容的理解存在不足,可能導(dǎo)致違法違規(guī)、不良內(nèi)容被推薦傳播。因此,算法在真實(shí)使用場景中,必須由平臺治理對其進(jìn)行約束和規(guī)范。
在內(nèi)容治理方面,據(jù)抖音生態(tài)運(yùn)營經(jīng)理陳丹丹介紹,抖音的體系是“人工參與+機(jī)器學(xué)習(xí)”相結(jié)合的模式,并組建專門的平臺治理團(tuán)隊(duì)為算法設(shè)置“護(hù)欄”,具體治理體系包括異常感知、標(biāo)準(zhǔn)定義、機(jī)器識別、人工研判、風(fēng)險(xiǎn)處置等過程。
治理流程秉持兩大準(zhǔn)則:第一:所有在平臺發(fā)布的內(nèi)容都會經(jīng)過評估,流量越高的內(nèi)容評估次數(shù)越多,標(biāo)準(zhǔn)也越嚴(yán)格。
第二:抖音內(nèi)容審核采用“人工+機(jī)器”相互配合的模式,“機(jī)器”負(fù)責(zé)“寬度”評估所有投稿,“人工”負(fù)責(zé)“深度”,確保專業(yè)、敏感或疑難等問題盡可能精準(zhǔn)研判。
創(chuàng)作者將內(nèi)容上傳至抖音后,首先進(jìn)入機(jī)器識別環(huán)節(jié)。如果內(nèi)容被識別出含有高危特征,將被直接攔截;若未命中高危特征但模型判斷有問題,則會送至人工審核,若問題概率較低,則獲得基礎(chǔ)流量進(jìn)入下一環(huán)節(jié)。
視頻被舉報(bào)、評論區(qū)出現(xiàn)集中質(zhì)疑、流量激增等情況出現(xiàn),均可能觸發(fā)“人工+機(jī)器”審核。一旦內(nèi)容在任一環(huán)節(jié)被處置,系統(tǒng)會立即停止進(jìn)一步推薦和分發(fā)。
針對社會普遍關(guān)心的、對用戶造成較多困擾的焦點(diǎn)問題,抖音成立數(shù)個專項(xiàng)治理團(tuán)隊(duì),針對詐騙、網(wǎng)暴、虛假擺拍、未成年人保護(hù)、網(wǎng)絡(luò)水軍、AIGC技術(shù)濫用等一系列重大專項(xiàng)風(fēng)險(xiǎn)進(jìn)行治理。例如,在不實(shí)信息治理方面,抖音于近日上線了辟謠卡,遏制不實(shí)信息的傳播。
此外,抖音安全與信任中心網(wǎng)站已經(jīng)處于試運(yùn)行階段,正廣泛向用戶、創(chuàng)作者、社會各界征集意見。
算法治理已成為當(dāng)今平臺面臨的共同問題。此前中央網(wǎng)信辦副主任、國家網(wǎng)信辦副主任牛一兵在“堅(jiān)持主流價(jià)值導(dǎo)向 推動算法向上向善”主題分享會上致辭時(shí)強(qiáng)調(diào),中央網(wǎng)信辦聚焦黨中央關(guān)心、人民群眾關(guān)切的算法問題,以壓實(shí)網(wǎng)站平臺主體責(zé)任為抓手,出臺系列政策法規(guī),構(gòu)建算法備案、安全評估、監(jiān)測檢查、執(zhí)法處罰等全流程監(jiān)管體系,算法應(yīng)用生態(tài)持續(xù)向好。
加強(qiáng)算法治理,是維護(hù)網(wǎng)絡(luò)安全和意識形態(tài)安全的關(guān)鍵環(huán)節(jié),是推動平臺經(jīng)濟(jì)健康可持續(xù)發(fā)展的有力保障,是維護(hù)人民群眾利益的具體行動。要內(nèi)化導(dǎo)向要求,把準(zhǔn)算法治理“定盤星”,堅(jiān)持黨管互聯(lián)網(wǎng)原則,把主流價(jià)值導(dǎo)向貫穿算法設(shè)計(jì)、開發(fā)、應(yīng)用全過程。要凈化內(nèi)容生態(tài),守好算法應(yīng)用“責(zé)任田”,加強(qiáng)網(wǎng)上正能量推送,嚴(yán)禁算法助推低俗信息傳播,提高算法設(shè)計(jì)的透明度和算法運(yùn)行的可解釋性。
去年11月,中央網(wǎng)信辦等部門聯(lián)合發(fā)布的《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項(xiàng)行動的通知》提出,優(yōu)化檢索、排序、推送等規(guī)則的透明度和可解釋性,預(yù)防和減少爭議糾紛。以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、主要運(yùn)行機(jī)制等,確保簡單、清晰、可理解。
(澎湃新聞記者 范佳來)
- 原標(biāo)題:抖音首度披露算法機(jī)制:利用神經(jīng)網(wǎng)絡(luò)預(yù)估用戶行為,不依賴打標(biāo)簽,“機(jī)器+人工”雙重審核
- 責(zé)任編輯: 張荃 
-
獨(dú)家對話|出口管制和關(guān)稅是黃仁勛的最大痛點(diǎn)
2025-04-16 16:08 心智觀察所 -
我國出口海外最大直徑盾構(gòu)機(jī),今天下線
2025-04-16 14:39 中國精造 -
國際首個!我國成功構(gòu)建地月空間三星星座
2025-04-16 06:43 航空航天 -
獨(dú)家對話|奇異摩爾??|:破解AI算力基礎(chǔ)設(shè)施瓶頸,互聯(lián)大有可為
2025-04-15 15:56 心智觀察所 -
一日三試!火箭、衛(wèi)星發(fā)動機(jī)試驗(yàn)均獲成功
2025-04-12 17:26 航空航天 -
全球最大“人造太陽”磁體系統(tǒng)“生命線”最大尺寸部件交付
2025-04-12 09:58 能源戰(zhàn)略 -
稀土管制,一場對“關(guān)稅亂拳”的手術(shù)刀式回?fù)?/a>
2025-04-11 08:19 心智觀察所 -
我國成功發(fā)射通信技術(shù)試驗(yàn)衛(wèi)星十七號
2025-04-11 06:37 航空航天 -
國際首次!中國科學(xué)家測得月背月幔水含量
2025-04-10 10:05 -
獨(dú)家對話|謝耘:AI仍陷“前科學(xué)”困局,AGI未來何去何從?
2025-04-09 08:22 心智觀察所 -
獨(dú)家對話|齊向東:大模型的安全挑戰(zhàn)日益嚴(yán)峻,如何應(yīng)對
2025-04-09 08:07 心智觀察所 -
南極秦嶺站已具備開展越冬考察保障能力
2025-04-08 15:07 -
“中國行動2.0”背后,閃動著“臺獨(dú)”魅影
2025-04-07 13:34 心智觀察所 -
等了十年還沒用上新干線,這真的很“印度”
2025-04-06 15:25 -
中國為什么是激光雷達(dá)技術(shù)突破的“應(yīng)許之地”
2025-04-06 09:05 心智觀察所 -
中國科學(xué)家獲重要進(jìn)展:讓金屬“不可能三角”成為可能
2025-04-05 14:38 科技前沿 -
這一重大科研裝置,成功部署!
2025-04-05 14:33 科技前沿 -
誰是美國對華科技戰(zhàn)“總架構(gòu)師”
2025-04-02 15:02 心智觀察所 -
賀利氏電子張靖:聚焦前沿需求,以創(chuàng)新材料把握歷史機(jī)遇
2025-04-02 14:58 -
近2000名美國頂尖科學(xué)家發(fā)“SOS”公開信
2025-04-02 13:26 美國政治
相關(guān)推薦 -
轉(zhuǎn)頭,特朗普就炮轟歐盟 評論 292卡塔爾送大禮引爭議,特朗普:免費(fèi)的也罵? 評論 162最新聞 Hot
-
陣容龐大!關(guān)鍵時(shí)刻,拉美伙伴“力挺”中國
-
消息傳出,美企CEO“蹦下床打電話”:趕緊發(fā)貨!
-
轉(zhuǎn)頭,特朗普就炮轟歐盟
-
在獄中,杜特爾特以壓倒性優(yōu)勢當(dāng)選市長
-
“中方抵抗到底,成了”
-
巴外長警告:這個問題不解決,?;饘⑹芡{
-
中美利好消息傳來,“七巨頭”一夜回漲8000億美元
-
特朗普怒了:我又不是蠢貨,免費(fèi)的不要?!
-
特朗普:周四我可能飛去參加俄烏會談
-
印巴空戰(zhàn)后首次公開講話,莫迪只字不提美國
-
澤連斯基批準(zhǔn)美烏礦產(chǎn)協(xié)議
-
長和回應(yīng)港口交易:不合法決不交易
-
白宮國家經(jīng)濟(jì)委員會主任:美國正在重啟對華關(guān)系
-
中美會談結(jié)束,日本國債遭拋售
-
普京強(qiáng)忍淚水
-
中方“施壓”他退出反華組織?我使館駁斥
-