內容建設既包括 “建” ，也包括 “管” 。網上內容建設要善於抓住“兩端”，一端是“頂部的優質內容”，即不斷利用新技術、新形式、新渠道生產並傳播符合廣大人民群眾利益和社會長遠發展的高品質內容﹔另一端是“底部的底線管理”，即要及時濾除和屏蔽不良信息、發現並糾正錯誤觀點。內容風險管理平台是一個新事物，需要主流媒體積極嘗試、共同探索，更需要各級主管部門的深入指導和具體支持。

　　進入新時代，以習近平同志為核心的黨中央高度重視加強互聯網內容建設，建立起了網絡綜合治理體系，營造了更加清朗的網絡空間。黨的十九大報告要求，提高新聞輿論傳播力、引導力、影響力、公信力。“四力”是媒體忠實履行新聞輿論工作職責使命的保証，是主流媒體政治價值和社會價值的體現。其中，引導力通常被理解為新聞媒體生產與傳播原創內容，或轉發優質內容，引領群眾認知、形成社會共識的能力。除此以外，主流媒體是否有通過其他途徑，實現有效引導的可能性？在提升引導力方面，互聯網給我們提供了什麼樣的現實條件和創新機遇？

　　抓住內容建設兩端，提升新聞輿論引導力

　　內容建設既包括“建”，也包括“管”。網上內容建設一端是“頂部的優質內容”，即不斷利用新技術、新形式、新渠道生產並傳播符合廣大人民群眾利益和社會長遠發展的高品質內容﹔另一端是“底部的底線管理”，即要及時濾除和屏蔽不良信息、發現並糾正錯誤觀點。如今，很多大型網絡平台都願意將其內容數據庫稱作“內容池”，池水清不清，不僅取決於注入了多少清水，還取決於截掉了多少濁水流入、開辟了多少污水治理方式。

　　相對於大眾傳播時代的“管”，在大數據、雲計算、人工智能興起的時代，內容風險管控存在很多難點。

　　第一，內容類型雜。大眾傳播時代，報紙的內容無非是文字與圖片，廣播是音頻，電視是視頻和音頻。在網絡時代，特別是在移動互聯網傳播條件下，全媒體傳播形態讓內容類型復雜多樣，生成了大量非結構數據，不僅對人工審核是一大難題，對“人工+機器”審核也構成挑戰。例如，在視頻的審核中，從按時間長度進行抽幀，發展為按場景變化比例進行抽幀，從理論設計到實踐技術都需要改變。而要綜合考慮文字、圖片、音頻、視頻以及相關聯內容的審核，無疑難上加難。無論是傳統媒體機構，還是新興網絡平台，都面臨難題。

　　第二，內容數量大。數據即新聞、信息流即新聞已經成為一種新現象，需要審核的內容數量激增。市場調研機構IDC預計，全球數據總量年增長率維持在50%左右，到2020年，全球數據總量將達到40ZB，相當於28.6億個美國國會圖書館藏書的信息量。根據工信部副部長陳肇雄在“2018中國國際大數據產業博覽會”開幕式上透露的數字，預計到2020年，我國數據總量全球佔比將達20%。面對如此海量的信息內容，審核壓力巨大。

　　第三，內容主體多。圍繞不同生產者，出現了用戶生產內容（UGC）、專業生產內容（PGC）、職業生產內容（OGC）、機器生產內容（MGC）。依托於網絡平台提供的空間與技術，內容生產者隊伍不斷擴大，內容平台類型多樣。微信公眾號數量4000萬個，抖音每日活躍用戶接近7000萬，每月活躍用戶超過3億，用戶的“生產消費者”（prosumer）身份越來越明顯，政府機構、商業機構、社會組織、個人在各種平台上競技，生態多樣復雜。內容生產和內容平台主體資質、責任的認定都更加復雜。

　　第四，效果預判難。以前報紙行業會強調版面也是語言，可以體現出報紙的立場、態度和情感。如今，特別是智能算法推薦技術引入后，不同類別信息根據個人特征有無數種排列組合結果，單條信息在審核時可能並不存在明顯問題，但是多條信息組合后，就會顯露出傾向，影響個人對社會的判斷與認知，而效果難以預料。

　　這些難點和問題，使得內容管理成為網上內容建設關鍵一環，地位越來越重要，不僅新聞媒體要擔起責任，所有的信息聚合和分發平台也不能回避對於內容安全的責任，各網絡平台內容的風險管理被放到了責任清單上史無前例的高度。

　　內容風險管控平台應具備四個特質

　　“希望有一個權威、公正、專業的第三方機構為內容風險管理提供服務”——在人民網舉辦的一次研討會上，這一呼聲成為各網絡平台的共識。但是，應由什麼樣的第三方機構來提供內容風險管理服務？各方認識卻並不相同。歸納各方討論，一個真正科學的內容風險管控平台應該具有四種特質。

　　一是“政策密集型”特質。近年來，我國互聯網內容建設與管理不斷完善，出台了一系列針對網絡內容建設與管理的政策法規。政策密集出台，意味著“互聯網內容安全”已經成為國家和社會關注的重點。這使得內容專業審核具有了重要的政治意義。內容專業審核機構就像黨和政府行政管理之外的“另一隻手”，可以從信息的源頭把控好政治方向、輿論導向和價值取向，配合主管部門進行網絡內容安全建設。同時，從日常和微觀層面上看，雖然意識形態是動態的，但對意識形態的管理在長線和宏觀上都必須保持一致，所以，內容專業審核機構要通過內容風險管控水平，體現出自身對於政策的深入理解和動態把控能力。能不能准確地把握中央和各部門的政策，也是內容專業審核機構“政策密集型”特質的表現。

　　二是“技術密集型”特質。在目前條件下，人工已經難以單獨承擔並完成網絡內容審核的工作。借助大數據、智能算法等技術，互聯網信息傳播的效率和精准度大大提升。但每一種技術架構、每一行代碼、每一個界面，都代表著選擇，都意味著判斷，都承載著價值。比如，用大數據進行用戶畫像、精准推送，本身就包含這樣的價值觀念——“用戶偏好的就是好的”，“平台的打開率比一切都重要”。短視頻平台上，“精選”的內容能獲得更多關注，然而什麼樣的視頻可以被“精選”，同樣隱含著產品開發者的價值選擇和利益訴求。技術越來越成為價值表達的手段。技術引發的問題要善於通過技術的手段加以解決。在內容審核與風險管理上，技術可以發揮很大的作用。一些網絡平台正在努力發展、完善技術審核系統，理論上，已經可以依靠技術手段識別並控制90%以上的內容風險。有理由相信，人工智能等技術的發展和運用將會極大提升內容風險管理的能力和水平。

　　三是“管理密集型”特質。對網絡內容審核要做到“一把尺子量到底”。這需要統一標准、統一思想，形成統一操作。因此，對於內容風險管理平台，加強團隊內部管理是保持內容持久安全的核心要素。但嚴格審核不是機械、死板的操作，要在審核過程中重視處理好效率、效果、效益三者之間的關系，使其相互促進。通過不斷完善內部管理機制、培養能力超群的審核人才隊伍，可以極大提升內容審核的效率，最終幫助網絡平台降低內容風險、提升整體效益。

　　四是“人才密集型”特質。人工智能可以通過算法建立各種模型來自動、高效地發現並處置內容問題與風險。但客觀上看，其發展水平尚處於“弱智能”階段，以目前機器學習水平還無法滿足爆炸式增長、情況多變的互聯網內容審核需求，尤其是涉及時政、財經、文史等深度內容，需要專業人士的深度介入，才能確保不出問題。因此，人工干預、人機結合是當前仍無法替代的一種審核模式。這賦予了內容風險管理行業“人才密集”的特征。

　　內容風險管理平台應秉持五個原則

　　內容風險管理平台是一個新事物，需要主流媒體積極嘗試、共同探索，更需要各級主管部門的深入指導和具體支持。而作為合作雙方的主流媒體和互聯網內容平台，特別需要重視遵守一些基本原則，可以概括為“兩個不變”和“三個有利於”。

　　一個“不變”，是各內容平台對於自己內容的調性標准和最終責任不變。第三方內容審核，本質上只是一種基於合約的勞務服務，內容平台不能指望通過一份商業委托合同，就把內容把關的責任甩出去。第二個“不變”，是內容平台是否擁有合法資質的法律地位不變。如果一個內容平台沒有相應的業務資質，不可能通過與主流媒體的內容審核合作，就使自己的業務合法化。

　　而作為第三方內容風險管理平台，主流媒體應該成為主流價值的傳遞者與捍衛者，牢記新聞輿論工作職責使命，切實通過內容審核業務，弘揚社會主義核心價值觀，但是，同時也要始終牢記：作為“第三方”，始終只是接受了服務外包，既不能包攬內容平台的終審責任，也不能與沒有資質的內容平台共享自己的資質。

　　三個“有利於”，之一是內容風險管理平台要有利於行業主管部門信息傳達和貫徹落實。內容風險管控平台應成為主管部門和平台、網民之間的溝通者，通過細化、量化審核標准，將主管部門要求落實到位﹔之二是要有利於整個行業的內容風險控制水平提高和規范發展。互聯網內容風險管理不是一家企業的獨奏，而是多領域企業的合唱，通過內容風險管理平台的建設、標准制定、技術研發，加強互聯網企業合作，共同為淨化網絡環境貢獻力量﹔之三是要有利於各平台降低內容審核的成本，豐富內容供給。平台化旨在將專業的事情交給專業機構來處理，不僅提高效率，降低成本，還要讓更多網站更放心地投入內容生產，通過精准的辨別激濁揚清，通過不漏判、不錯判更好地鼓勵網站進行內容生產傳播，實現更豐富的正能量總供給。

　　積極嘗試建設內容風險管理平台

　　人民網是“網上的人民日報”。在報社編委會和相關主管部門的指導下，人民網正在嘗試將內容審核業務作為在新時代、新條件下延伸業務范圍，擴大影響力、提升引導力的創新嘗試。

　　一是積極建設“內容審核雲平台”。搭建審核平台，吸引其他網絡媒體和互聯網平台入駐，通過平台對自身和外部內容進行集中審核、統一管理，實現審核操作標准化和智能化，利用集約效應，提高審核效率，降低相關網絡媒體和平台內容風險管理成本。

　　二是完善技術平台和評價體系。習近平總書記在網絡安全和信息化工作座談會上講話指出，網上信息管理，網站應負主體責任，政府行政管理部門要加強監管。要把總書記的指示落到實處，就要從源頭上厘清責任，將網上信息管理細化為量化指標，便於評價。

　　三是推行績效考核與培訓機制。結合“管理密集型”和“人員密集型”兩大特質，不斷完善審核團隊人員的績效考核方式，調動每個人的積極性，做到人人盡責﹔規范人員管理，加強日常培訓，設立審核員、審核師、高級審核師等職稱序列，不斷提高業務能力與崗位認同。

　　四是充分利用智能化手段。海量內容信息需要借助技術手段進行初步審核，網上內容信息的多樣性和復雜性又需要人力審核的及時介入，為此，平台需要加強對大數據、雲計算等技術應用的研發，形成“AI+人工”審核機制，滿足內容審核的廣泛性和特殊性要求。

　　五是組建高級專家團隊對“精”“專”內容進行審核。為了准確判斷和處置網上少量而重要的深度、專業類內容，平台還聘請業內和學界資深專家牽頭，與相關管理機構、行業主管部委、專業研究機構建立常態溝通機制，針對審核中的疑點、難點內容進行專業的終極把關。

　　人民網希望通過不斷嘗試並落實以上措施，真正建立起切實有效、服務社會的內容風險管理平台，為主流價值護航，提升輿論引導力，為營造天朗氣清的網絡空間做出更大貢獻。

　　（作者系人民網黨委書記、總裁）

分享讓更多人看到