6月12日，小紅書在北京舉辦“打擊虛假”治理開放日。開放日上，公布了2025年上半年社區虛假內容治理成果：通過建設虛假內容全鏈路治理體系，共處置虛假筆記320萬篇，處置虛假人設賬號1萬個，處置虛假低質AIGC筆記60萬篇；通過持續建設“同質化識別”能力，全面提升處置手段，升級機器對抗，共封禁批量造假黑灰產賬號超1000萬個。
在持續主動治理之外，小紅書也積極鼓勵用戶參與共治。在6月11日的中國網絡文明大會上，小紅書總編輯許磊介紹，小紅書持續優化舉報機制，今年上半年，虛假信息的平均審核時長同比降低25%；接下來，還將通過改進產品等措施，吸引更多用戶參與到虛假內容的共治中。
參與開放日的中國人民大學新聞學院傳播學副教授董晨宇表示，應對當前互聯網虛假內容快速增長與傳播需要“立體式”的行動，其中不僅包括平臺的努力，更包括全社會的共同參與?！疤摷俸痛蚣僦g注定一直是一種動態制衡。在這場持久戰中，如果真實想要穩居上風，公眾媒介素養的提升是關鍵?！?/p>
高效打假、精準鑒假：320萬虛假筆記被處置
“鋼鐵保姆”機器人引發市民搶購？假資訊！霸總創業三年成功買下8000平辦公樓？假人設！知名藝人在視頻中推薦“三無”化妝品？AIGC造假！
小紅書虛假內容治理負責人蒂法介紹，虛假不實內容、虛假人設和AIGC造假是當前社區打擊“虛假”的三個重點。
（小紅書虛假內容治理負責人蒂法介紹治理策略）
在虛假不實內容治理方面，小紅書建構了“前置攔截、事中追蹤、分析回掃”的“前中后”全鏈路治理體系；上線了內容信息量模型，筆記摘要提取模型，AIGC謠言診斷模型等15個識別大模型，并建立了真實信源庫和謠言庫，實現了對虛假內容的實時攔截和批量回掃，半年共處置虛假筆記320萬篇。
在虛假人設治理方面，小紅書設置了內容前置審核制度，采用了賬號關系挖掘分析策略，并上線多個圖像及視頻識別模型，通過綜合筆記內容和賬號信息進行分析判斷，對虛假人設進行精準打擊，半年共處置虛假人設賬號 1萬個。
在AIGC技術爆發式發展的當下，虛假低質AIGC內容也成為治理的重中之重。小紅書不斷加大對AIGC識別模型的研發投入，進一步提高識別精準度，減少虛假低質AIGC內容的曝光。同時，平臺對AIGC生成內容做主動標識工作，提升信息透明度。半年共處置治理虛假低質AIGC筆記60萬篇。
“虛假是社區的癌細胞，決不能放任其發展危害健康生態?！钡俜ū硎?，小紅書將打擊“虛假” 作為長期治理重點，持續投入人力和技術力量，不斷提升治理效果。
封號1000萬，“批量造假”黑灰產賬號迎來最嚴治理
開放日上，小紅書黑灰產賬號治理負責人必行用一組治理成果數據展示了社區對黑灰產賬號堅定打擊的態度：2024年11月中，小紅書黑灰產賬號治理專項開啟；專項開展1個月，封禁126萬黑灰產賬號；開展3個月，封禁320萬黑灰產賬號；開展7個月，封禁超1000萬黑灰產賬號。
必行介紹，黑灰產組織批量制造黑灰產賬號，通過虛假、重復、低質內容騙取用戶流量；養號漲粉后，又會發布虛假、惡意營銷內容，或者銷售灰色商品，提供灰色服務，甚至從事違法活動，從而實現不當牟利。從建號到養號再到牟利，黑灰產賬號進行全鏈路批量造假，對社區生態和秩序的危害十分巨大。
“因此我們開展了小紅書史上最嚴黑灰產賬號治理行動，對黑灰產堅決打擊，絕不讓步半分?！北匦姓f。
（小紅書黑灰產賬號治理負責人必行分享黑灰產賬號的特征）
為了應對黑灰產賬號的數量巨大、隱蔽深、變體快和對抗強等挑戰，治理團隊從識別能力和處置能力兩方面重點做功。
在識別能力方面：上線50多個模型，建立了以“同質化識別”為核心的風控體系，將對黑灰產的識別召回率提升了72%。在處置能力方面，不斷優化處置策略，極大提升黑灰產作惡成本；全面升級機器對抗，用機器判罰大規模代替人工判罰，大幅提高對黑灰產賬號的處置量級及時效性。
在線上治理的同時，小紅書案件調查團隊還向多地警方和市場監督部門積極提供線索，對黑灰產團伙進行線下打擊。目前有7起案件在偵辦中，后續警方和市場監督部門將根據調查結果采取各種處罰措施，涉及犯罪行為的還將進一步追求刑事責任。
持續優化舉報機制，鼓勵用戶參與共治
開放日上，小紅書審核培訓師給現場觀眾上了一節“打假”志愿者培訓課，展示了近10個不同類型的造假案例，引發了觀眾的鑒假熱潮。大家踴躍發言，一起“來找茬”。在場多位觀眾表示，會將學到的鑒假方法應用到對虛假內容的鑒別和舉報中。
（治理開放日上，現場觀眾熱情參與鑒假互動。）
小紅書副總裁許磊在前一天的中國網絡文明大會上也介紹了小紅書較為完善的虛假信息舉報制度。小紅書開通監管網站、APP客戶端舉報、舉報熱線和舉報郵箱四種途徑。在常態化轉發重要辟謠稿件的基礎上，搭建起辟謠專區，為用戶提供一站式辟謠信息服務；官方賬號“薯管家”每周定期發布辟謠筆記。
小紅書還持續優化舉報機制，鼓勵用戶參與共治。許磊介紹，2025年上半年，小紅書虛假信息的平均審核時長同比降低25%。下半年，小紅書還將進一步簡化用戶舉報流程，實現一個頁面、一次提交即完成舉報，讓更多用戶低成本、無門檻地參與到虛假信息的共治中來。
許磊表示，小紅書是“普通人創作內容”的社區，“分享真實的內容”和“真誠分享”不僅是平臺用戶自發形成的內容創作準則，也是小紅書的社區價值觀。因此，打擊虛假，提倡真實是小紅書的必然選擇。小紅書還設立了“真誠分”賬號體系，從分享動機、內容質量多方面判斷賬號是否真誠，從而對真誠的創作者給予流量傾斜，對虛假低質的雜音噪聲進行壓制。
（中國人民大學傳播學教授董晨宇分享應對虛假信息的傳播規律和應對策略）
中國人民大學傳播學教授董晨宇從傳播學角度分享了虛假信息的傳播規律與應對策略。董晨宇說：“應對當前互聯網虛假內容快速增長與傳播，需要各平臺積極打擊，全社會共同參與。虛假內容無法完全被消滅，但可以通過科普、舉報、公眾傳播學素養的提升，將虛假控制在較低的水平?！?/p>
半月談教育App
官方微信
