算法並不必然助長內容生態的低質化。這要從算法設計的主要特征分析，分為個體、群體、整體三個層次的特征：對個體用戶，算法一般通過對內容特征、人的特征、環境特征三個維度指標的分析，在特定人和特定內容之間做出力求精准的匹配。內容特征可能包括領域分類、主題詞、實體詞、來源、質量評分、相似文章等指標，人的特征包括興趣、年齡、性別、職業、使用行為、機型等指標，環境特征包括時間、地點、天氣和網絡類型等。在群體層面，算法通過尋找不同用戶在興趣分類、主題、實體詞和使用行為上的相似性，將一個用戶感興趣的內容推薦給另一個人，這已不是基於用戶自己的歷史行為，而是基於群體隱性關聯之上的協同推薦。就網民整體，算法則基於內容的熱度特征，包括全平台的熱點文章或不同類別、主題和關鍵詞的熱點內容，在“冷啟動”階段對新用戶進行初步推薦。

　　要扭轉社交時代以來內容低質化的趨勢，需要智能信息分發平台將社會責任意識主動地融入算法設計。算法的市場目標分為中短期目標和長期目標，中短期目標是幾個小時、一兩天之內用戶的興趣匹配，是為了提升點擊率和收藏、轉發、評論等行為，而長期目標是實現用戶的穩定留存和活躍使用。很多時候，短期目標對實現長期目標並沒有幫助，有時候反而起反作用。以標題黨現象為例，劣質創作者通過噱頭可以吸引用戶點擊，使點擊率虛高，用戶可能會留下負面評價，表面上提高了參與度，但卻以犧牲用戶體驗和影響留存為代價，類似含水的點擊率和負面的評論率，不符合信息平台的長遠利益。

　　當前智能分發已成為新聞資訊客戶端、瀏覽器等應用的“標配”手段，從行業實踐看，居於頭部領先位置的App更重視用戶的長期留存，更傾向於主動避免內容低質化帶來的社會輿論和監管風險。字節跳動公司最早將智能推薦算法應用在信息分發領域，在發展早期也存在內容質量問題和算法偏向市場化的問題，近年通過設置更多元的算法目標，綜合分析用戶瀏覽時長、評論情感傾向來打擊標題黨、煽情化等劣質內容，通過技術模型過濾有害信息和黃賭毒等違法違規內容，並基於正能量信息的模型訓練來加強主流價值信息的推薦。例如，信息平台通過對上百萬篇網信部門宣傳報道指令、黨報黨刊要聞等正能量信息的人工標注，作為機器學習的模型訓練集，模型經過不斷優化，對新時代建設等主流價值觀內容的識別率准確超過93%。算法對識別出的文章進行1.5-2倍的加權推薦，目前正能量模型識別范圍已涵蓋凡人善舉、行業榜樣、知識普惠、公益慈善等眾多領域，平台內容日益多元優質，生態越來越有益健康。而一些“信息流”平台則表現出打擦邊球的意願和行動，以對低俗化內容的推薦來實現短期用戶量的“沖高”，美女、大尺度、追星、偶像成為內容關鍵詞，這些信息經推薦算法進一步放大了對用戶，特別是青少年用戶的影響。這已引發社會關切和監管層的關注，已督促改進。但效果尚不明顯，需要加大監管力度。

分享讓更多人看到