內(nèi)容建設(shè)既包括 “建” ，也包括 “管” 。網(wǎng)上內(nèi)容建設(shè)要善于抓住“兩端”，一端是“頂部的優(yōu)質(zhì)內(nèi)容”，即不斷利用新技術(shù)、新形式、新渠道生產(chǎn)并傳播符合廣大人民群眾利益和社會長遠發(fā)展的高品質(zhì)內(nèi)容；另一端是“底部的底線管理”，即要及時濾除和屏蔽不良信息、發(fā)現(xiàn)并糾正錯誤觀點。內(nèi)容風險管理平臺是一個新事物，需要主流媒體積極嘗試、共同探索，更需要各級主管部門的深入指導和具體支持。

進入新時代，以習近平同志為核心的黨中央高度重視加強互聯(lián)網(wǎng)內(nèi)容建設(shè)，建立起了網(wǎng)絡(luò)綜合治理體系，營造了更加清朗的網(wǎng)絡(luò)空間。黨的十九大報告要求，提高新聞輿論傳播力、引導力、影響力、公信力?！八牧Α笔敲襟w忠實履行新聞輿論工作職責使命的保證，是主流媒體政治價值和社會價值的體現(xiàn)。其中，引導力通常被理解為新聞媒體生產(chǎn)與傳播原創(chuàng)內(nèi)容，或轉(zhuǎn)發(fā)優(yōu)質(zhì)內(nèi)容，引領(lǐng)群眾認知、形成社會共識的能力。除此以外，主流媒體是否有通過其他途徑，實現(xiàn)有效引導的可能性？在提升引導力方面，互聯(lián)網(wǎng)給我們提供了什么樣的現(xiàn)實條件和創(chuàng)新機遇？

抓住內(nèi)容建設(shè)兩端，提升新聞輿論引導力

內(nèi)容建設(shè)既包括“建”，也包括“管”。網(wǎng)上內(nèi)容建設(shè)一端是“頂部的優(yōu)質(zhì)內(nèi)容”，即不斷利用新技術(shù)、新形式、新渠道生產(chǎn)并傳播符合廣大人民群眾利益和社會長遠發(fā)展的高品質(zhì)內(nèi)容；另一端是“底部的底線管理”，即要及時濾除和屏蔽不良信息、發(fā)現(xiàn)并糾正錯誤觀點。如今，很多大型網(wǎng)絡(luò)平臺都愿意將其內(nèi)容數(shù)據(jù)庫稱作“內(nèi)容池”，池水清不清，不僅取決于注入了多少清水，還取決于截掉了多少濁水流入、開辟了多少污水治理方式。

相對于大眾傳播時代的“管”，在大數(shù)據(jù)、云計算、人工智能興起的時代，內(nèi)容風險管控存在很多難點。

第一，內(nèi)容類型雜。大眾傳播時代，報紙的內(nèi)容無非是文字與圖片，廣播是音頻，電視是視頻和音頻。在網(wǎng)絡(luò)時代，特別是在移動互聯(lián)網(wǎng)傳播條件下，全媒體傳播形態(tài)讓內(nèi)容類型復雜多樣，生成了大量非結(jié)構(gòu)數(shù)據(jù)，不僅對人工審核是一大難題，對“人工+機器”審核也構(gòu)成挑戰(zhàn)。例如，在視頻的審核中，從按時間長度進行抽幀，發(fā)展為按場景變化比例進行抽幀，從理論設(shè)計到實踐技術(shù)都需要改變。而要綜合考慮文字、圖片、音頻、視頻以及相關(guān)聯(lián)內(nèi)容的審核，無疑難上加難。無論是傳統(tǒng)媒體機構(gòu)，還是新興網(wǎng)絡(luò)平臺，都面臨難題。

第二，內(nèi)容數(shù)量大。數(shù)據(jù)即新聞、信息流即新聞已經(jīng)成為一種新現(xiàn)象，需要審核的內(nèi)容數(shù)量激增。市場調(diào)研機構(gòu)IDC預計，全球數(shù)據(jù)總量年增長率維持在50%左右，到2020年，全球數(shù)據(jù)總量將達到40ZB，相當于28.6億個美國國會圖書館藏書的信息量。根據(jù)工信部副部長陳肇雄在“2018中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會”開幕式上透露的數(shù)字，預計到2020年，我國數(shù)據(jù)總量全球占比將達20%。面對如此海量的信息內(nèi)容，審核壓力巨大。

第三，內(nèi)容主體多。圍繞不同生產(chǎn)者，出現(xiàn)了用戶生產(chǎn)內(nèi)容（UGC）、專業(yè)生產(chǎn)內(nèi)容（PGC）、職業(yè)生產(chǎn)內(nèi)容（OGC）、機器生產(chǎn)內(nèi)容（MGC）。依托于網(wǎng)絡(luò)平臺提供的空間與技術(shù)，內(nèi)容生產(chǎn)者隊伍不斷擴大，內(nèi)容平臺類型多樣。微信公眾號數(shù)量4000萬個，抖音每日活躍用戶接近7000萬，每月活躍用戶超過3億，用戶的“生產(chǎn)消費者”（prosumer）身份越來越明顯，政府機構(gòu)、商業(yè)機構(gòu)、社會組織、個人在各種平臺上競技，生態(tài)多樣復雜。內(nèi)容生產(chǎn)和內(nèi)容平臺主體資質(zhì)、責任的認定都更加復雜。

第四，效果預判難。以前報紙行業(yè)會強調(diào)版面也是語言，可以體現(xiàn)出報紙的立場、態(tài)度和情感。如今，特別是智能算法推薦技術(shù)引入后，不同類別信息根據(jù)個人特征有無數(shù)種排列組合結(jié)果，單條信息在審核時可能并不存在明顯問題，但是多條信息組合后，就會顯露出傾向，影響個人對社會的判斷與認知，而效果難以預料。

這些難點和問題，使得內(nèi)容管理成為網(wǎng)上內(nèi)容建設(shè)關(guān)鍵一環(huán)，地位越來越重要，不僅新聞媒體要擔起責任，所有的信息聚合和分發(fā)平臺也不能回避對于內(nèi)容安全的責任，各網(wǎng)絡(luò)平臺內(nèi)容的風險管理被放到了責任清單上史無前例的高度。

內(nèi)容風險管控平臺應(yīng)具備四個特質(zhì)

“希望有一個權(quán)威、公正、專業(yè)的第三方機構(gòu)為內(nèi)容風險管理提供服務(wù)”——在人民網(wǎng)舉辦的一次研討會上，這一呼聲成為各網(wǎng)絡(luò)平臺的共識。但是，應(yīng)由什么樣的第三方機構(gòu)來提供內(nèi)容風險管理服務(wù)？各方認識卻并不相同。歸納各方討論，一個真正科學的內(nèi)容風險管控平臺應(yīng)該具有四種特質(zhì)。

一是“政策密集型”特質(zhì)。近年來，我國互聯(lián)網(wǎng)內(nèi)容建設(shè)與管理不斷完善，出臺了一系列針對網(wǎng)絡(luò)內(nèi)容建設(shè)與管理的政策法規(guī)。政策密集出臺，意味著“互聯(lián)網(wǎng)內(nèi)容安全”已經(jīng)成為國家和社會關(guān)注的重點。這使得內(nèi)容專業(yè)審核具有了重要的政治意義。內(nèi)容專業(yè)審核機構(gòu)就像黨和政府行政管理之外的“另一只手”，可以從信息的源頭把控好政治方向、輿論導向和價值取向，配合主管部門進行網(wǎng)絡(luò)內(nèi)容安全建設(shè)。同時，從日常和微觀層面上看，雖然意識形態(tài)是動態(tài)的，但對意識形態(tài)的管理在長線和宏觀上都必須保持一致，所以，內(nèi)容專業(yè)審核機構(gòu)要通過內(nèi)容風險管控水平，體現(xiàn)出自身對于政策的深入理解和動態(tài)把控能力。能不能準確地把握中央和各部門的政策，也是內(nèi)容專業(yè)審核機構(gòu)“政策密集型”特質(zhì)的表現(xiàn)。

二是“技術(shù)密集型”特質(zhì)。在目前條件下，人工已經(jīng)難以單獨承擔并完成網(wǎng)絡(luò)內(nèi)容審核的工作。借助大數(shù)據(jù)、智能算法等技術(shù)，互聯(lián)網(wǎng)信息傳播的效率和精準度大大提升。但每一種技術(shù)架構(gòu)、每一行代碼、每一個界面，都代表著選擇，都意味著判斷，都承載著價值。比如，用大數(shù)據(jù)進行用戶畫像、精準推送，本身就包含這樣的價值觀念——“用戶偏好的就是好的”，“平臺的打開率比一切都重要”。短視頻平臺上，“精選”的內(nèi)容能獲得更多關(guān)注，然而什么樣的視頻可以被“精選”，同樣隱含著產(chǎn)品開發(fā)者的價值選擇和利益訴求。技術(shù)越來越成為價值表達的手段。技術(shù)引發(fā)的問題要善于通過技術(shù)的手段加以解決。在內(nèi)容審核與風險管理上，技術(shù)可以發(fā)揮很大的作用。一些網(wǎng)絡(luò)平臺正在努力發(fā)展、完善技術(shù)審核系統(tǒng)，理論上，已經(jīng)可以依靠技術(shù)手段識別并控制90%以上的內(nèi)容風險。有理由相信，人工智能等技術(shù)的發(fā)展和運用將會極大提升內(nèi)容風險管理的能力和水平。

三是“管理密集型”特質(zhì)。對網(wǎng)絡(luò)內(nèi)容審核要做到“一把尺子量到底”。這需要統(tǒng)一標準、統(tǒng)一思想，形成統(tǒng)一操作。因此，對于內(nèi)容風險管理平臺，加強團隊內(nèi)部管理是保持內(nèi)容持久安全的核心要素。但嚴格審核不是機械、死板的操作，要在審核過程中重視處理好效率、效果、效益三者之間的關(guān)系，使其相互促進。通過不斷完善內(nèi)部管理機制、培養(yǎng)能力超群的審核人才隊伍，可以極大提升內(nèi)容審核的效率，最終幫助網(wǎng)絡(luò)平臺降低內(nèi)容風險、提升整體效益。

四是“人才密集型”特質(zhì)。人工智能可以通過算法建立各種模型來自動、高效地發(fā)現(xiàn)并處置內(nèi)容問題與風險。但客觀上看，其發(fā)展水平尚處于“弱智能”階段，以目前機器學習水平還無法滿足爆炸式增長、情況多變的互聯(lián)網(wǎng)內(nèi)容審核需求，尤其是涉及時政、財經(jīng)、文史等深度內(nèi)容，需要專業(yè)人士的深度介入，才能確保不出問題。因此，人工干預、人機結(jié)合是當前仍無法替代的一種審核模式。這賦予了內(nèi)容風險管理行業(yè)“人才密集”的特征。

內(nèi)容風險管理平臺應(yīng)秉持五個原則

內(nèi)容風險管理平臺是一個新事物，需要主流媒體積極嘗試、共同探索，更需要各級主管部門的深入指導和具體支持。而作為合作雙方的主流媒體和互聯(lián)網(wǎng)內(nèi)容平臺，特別需要重視遵守一些基本原則，可以概括為“兩個不變”和“三個有利于”。

一個“不變”，是各內(nèi)容平臺對于自己內(nèi)容的調(diào)性標準和最終責任不變。第三方內(nèi)容審核，本質(zhì)上只是一種基于合約的勞務(wù)服務(wù)，內(nèi)容平臺不能指望通過一份商業(yè)委托合同，就把內(nèi)容把關(guān)的責任甩出去。第二個“不變”，是內(nèi)容平臺是否擁有合法資質(zhì)的法律地位不變。如果一個內(nèi)容平臺沒有相應(yīng)的業(yè)務(wù)資質(zhì)，不可能通過與主流媒體的內(nèi)容審核合作，就使自己的業(yè)務(wù)合法化。

而作為第三方內(nèi)容風險管理平臺，主流媒體應(yīng)該成為主流價值的傳遞者與捍衛(wèi)者，牢記新聞輿論工作職責使命，切實通過內(nèi)容審核業(yè)務(wù)，弘揚社會主義核心價值觀，但是，同時也要始終牢記：作為“第三方”，始終只是接受了服務(wù)外包，既不能包攬內(nèi)容平臺的終審責任，也不能與沒有資質(zhì)的內(nèi)容平臺共享自己的資質(zhì)。

三個“有利于”，之一是內(nèi)容風險管理平臺要有利于行業(yè)主管部門信息傳達和貫徹落實。內(nèi)容風險管控平臺應(yīng)成為主管部門和平臺、網(wǎng)民之間的溝通者，通過細化、量化審核標準，將主管部門要求落實到位；之二是要有利于整個行業(yè)的內(nèi)容風險控制水平提高和規(guī)范發(fā)展?；ヂ?lián)網(wǎng)內(nèi)容風險管理不是一家企業(yè)的獨奏，而是多領(lǐng)域企業(yè)的合唱，通過內(nèi)容風險管理平臺的建設(shè)、標準制定、技術(shù)研發(fā)，加強互聯(lián)網(wǎng)企業(yè)合作，共同為凈化網(wǎng)絡(luò)環(huán)境貢獻力量；之三是要有利于各平臺降低內(nèi)容審核的成本，豐富內(nèi)容供給。平臺化旨在將專業(yè)的事情交給專業(yè)機構(gòu)來處理，不僅提高效率，降低成本，還要讓更多網(wǎng)站更放心地投入內(nèi)容生產(chǎn)，通過精準的辨別激濁揚清，通過不漏判、不錯判更好地鼓勵網(wǎng)站進行內(nèi)容生產(chǎn)傳播，實現(xiàn)更豐富的正能量總供給。

積極嘗試建設(shè)內(nèi)容風險管理平臺

人民網(wǎng)是“網(wǎng)上的人民日報”。在報社編委會和相關(guān)主管部門的指導下，人民網(wǎng)正在嘗試將內(nèi)容審核業(yè)務(wù)作為在新時代、新條件下延伸業(yè)務(wù)范圍，擴大影響力、提升引導力的創(chuàng)新嘗試。

一是積極建設(shè)“內(nèi)容審核云平臺”。搭建審核平臺，吸引其他網(wǎng)絡(luò)媒體和互聯(lián)網(wǎng)平臺入駐，通過平臺對自身和外部內(nèi)容進行集中審核、統(tǒng)一管理，實現(xiàn)審核操作標準化和智能化，利用集約效應(yīng)，提高審核效率，降低相關(guān)網(wǎng)絡(luò)媒體和平臺內(nèi)容風險管理成本。

二是完善技術(shù)平臺和評價體系。習近平總書記在網(wǎng)絡(luò)安全和信息化工作座談會上講話指出，網(wǎng)上信息管理，網(wǎng)站應(yīng)負主體責任，政府行政管理部門要加強監(jiān)管。要把總書記的指示落到實處，就要從源頭上厘清責任，將網(wǎng)上信息管理細化為量化指標，便于評價。

三是推行績效考核與培訓機制。結(jié)合“管理密集型”和“人員密集型”兩大特質(zhì)，不斷完善審核團隊人員的績效考核方式，調(diào)動每個人的積極性，做到人人盡責；規(guī)范人員管理，加強日常培訓，設(shè)立審核員、審核師、高級審核師等職稱序列，不斷提高業(yè)務(wù)能力與崗位認同。

四是充分利用智能化手段。海量內(nèi)容信息需要借助技術(shù)手段進行初步審核，網(wǎng)上內(nèi)容信息的多樣性和復雜性又需要人力審核的及時介入，為此，平臺需要加強對大數(shù)據(jù)、云計算等技術(shù)應(yīng)用的研發(fā)，形成“AI+人工”審核機制，滿足內(nèi)容審核的廣泛性和特殊性要求。

五是組建高級專家團隊對“精”“專”內(nèi)容進行審核。為了準確判斷和處置網(wǎng)上少量而重要的深度、專業(yè)類內(nèi)容，平臺還聘請業(yè)內(nèi)和學界資深專家牽頭，與相關(guān)管理機構(gòu)、行業(yè)主管部委、專業(yè)研究機構(gòu)建立常態(tài)溝通機制，針對審核中的疑點、難點內(nèi)容進行專業(yè)的終極把關(guān)。

人民網(wǎng)希望通過不斷嘗試并落實以上措施，真正建立起切實有效、服務(wù)社會的內(nèi)容風險管理平臺，為主流價值護航，提升輿論引導力，為營造天朗氣清的網(wǎng)絡(luò)空間做出更大貢獻。