1996年，美國麻省理工學院教授尼葛洛龐帝在《數字化生存》一書中預言，「數字不再只和計算有關，它決定我們的生存。」
二十六年後的今天，數字時代給人們的生活方式帶來巨大變革，媒介作為人的延伸，打破了時空限制，人與人之間的關係變得「比特化」，實現前所未有的聯結。暴力的形式也從線下蔓延到網路空間，幻化成屏幕上的文字、符號、圖片……以更隱蔽的方式給當事人造成傷害，甚至導致「數字性死亡」「社會性死亡」。
自2022年6月起，南財合規科技研究院將推出反網暴系列報導，以期從不同維度、不同面向對網暴的衍生路徑、群體反應、治理面向進行拆解分析，以媒體力量推進網暴治理。
應對網路暴力，互聯網平台是第一道防線。在網暴醞釀及初發階段，各互聯網平台如何設計防護機制？存在什麼難點與痛點？
互動管理+信息監測：網暴能否「消音」？
對於互聯網平台而言，「用戶自主設置+平台介入監測」是事前階段主流的防控模式。
經21世紀經濟報導記者梳理髮現，在新浪微博、抖音、快手、知乎、小紅書、豆瓣、B站、百度貼吧中，用戶均可以自主管理評論、私信互動關係。常見的選擇範圍包括所有人、關注的人、我的粉絲及互相關注的人，也可以選擇直接關閉許可權。
相較於評論，私信場景中的網暴行為更加隱蔽。上述8個平台對於「未關注人私信」功能均作出了嚴格限制，在對方未關注或回復前最多只能發送一條消息。新浪微博、小紅書、知乎、豆瓣、B站均設置了類似「未關注人私信箱」功能，陌生人發來的私信將會被系統收入其中。在抖音、快手，用戶還可以選擇設置私密帳號，該功能開啟后，僅粉絲可以瀏覽作品，且新的關注請求需經過用戶批准。
新浪微博近期發佈公告，加強言論攻擊及網暴行為治理，調整私信接收規則，在接收未關注人發送的私信時，僅顯示1條私信提醒，用戶在確認接收后，可查看具體內容並進行正常文字對話，單次確認有效期為24小時。
在網暴信息識別監測方面，21記者設置了20個敏感詞，包括常見的攻擊類詞彙以及諧音、換字等更隱秘的表達，在上述8個平台進行測試，均有不同程度的攔截，且評論場景中的詞彙攔截率高於私信場景。
在敏感詞測試中，平台過濾情況大致可分為三類：一是消息可以正常發送及接收；二是消息發送后被屏蔽，接收方無法收到該信息；三是消息發送失敗。在第一類情況中，部分詞彙會觸發風險提示。
經記者梳理髮現，貶低矮化類、詛咒威脅類和人身攻擊類詞彙基本能被系統識別並屏蔽。諧音、縮寫類敏感詞，除了「NMSL」有較高的屏蔽率外，仍有許多諧音詞存在一定識別難度。
值得注意的是，網路暴力的表現形式複雜多變，某類信息是否涉及網暴，還需結合具體語境、當事人主觀感受等因素進行判斷。如「逝者安息」「位列仙班」等，在不同場景下會產生不一樣的解讀。
據了解，多個互聯網平台都在近期調整優化了網暴信息監測機制。
抖音上線了「發文警示」「負向內容過濾」等12項防網暴功能。在「發文警示」功能下，若系統模型判定已經發送的評論存在問題，會推送彈窗提醒，建議發送者重新編輯，去除不當言論。如果發送者堅持發送，則該條評論不會在評論區出現。在「負向內容過濾」功能下，當模型判定用戶收到的私信消息為「謾罵或騷擾」，該消息會被直接放入「陌生人盒子—垃圾信息」中。
B站針對私信場景上線智能攔截功能，系統將對檢測到疑似騷擾或不良的會話內容直接攔截。在評論、彈幕等場景，用戶可以開啟評論精選模式、設置彈幕關鍵詞以過濾不良內容。據B站相關負責人介紹，當評論區集中性出現負面信息時，系統會觸發一套較為嚴格的防網暴互動管控模型，識別過濾不友善內容。「平台還會通過抑鬱情緒識別模型去識別有抑鬱傾向的用戶，在發現相關內容后直接觸發防網暴模型。如果監測到有關輕生的內容，平台會緊急介入專家進行風險等級判定，與用戶建立聯繫、安撫情緒，必要時上報警方處理。」
作為Z世代高度聚集的文化社區，B站近期升級了未成年人保護機制。未成年用戶開啟青少年模式后，平台將從內容、功能等層面進行限制，用戶所瀏覽的視頻需經內容團隊人工審核，評論、彈幕、私信等功能也會經過更嚴格的模型過濾，降低未成年人受到輿論傷害的風險。
在問答社區知乎，用戶可開啟「瓦力保鏢」功能，開啟后系統識別出的不良評論和私信將會被摺疊、隱藏或刪除，嚴重者將被拉黑。21記者用兩個帳號進行測試，在收到3-4條不友善私信后，系統會自動將對方帳號加入黑名單。6月，知乎優化「發文提示」功能，用戶在評論和私信場景下發佈不友善內容時將會收到社區建議修改的提示。在私信場景中，不友善的內容將被自動摺疊並觸發風險提示，用戶可以自主選擇是否瀏覽消息詳情。
侮辱攻擊類詞彙層出不窮，對於表達形式更隱晦的網暴信息，平台如何及時處理？微博相關負責人表示，對於日常的言論攻擊、泄露隱私、引戰等內容，平台通過主動巡查、受理用戶舉報投訴等方式進行處置；對於熱點事件中衍生的網暴行為，平台及時跟蹤、聯繫熱點當事人，發掘相關線索上報至監管部門；針對平台上的不友善內容，微博通過機器模型策略、關鍵詞策略強化內容識別與處置。
百度貼吧方面回復稱，貼吧有巡查、吧主和吧務反饋、舉報、清理回溯等發現機制，同時不斷優化內容策略，升級貼吧網暴識別能力。近期貼吧共擴充網暴關鍵詞近500組，新增圖片黑庫600餘張。
定義之困：網暴的灰色邊界
目前，對於網暴的定義仍存在一定模糊界限。互聯網平檯面臨著一個繞不開的問題：什麼樣的言論和行為能夠判定為網路暴力？
在當事人社交帳號下刷屏白色蠟燭表情包，再附上一句「早日安息」。在私信中「提醒」當事人，「晚上一個人出門注意安全，別被車撞了。」又或者是對當事人的外貌留下一句輕飄飄的評價，「彙集了高科技的臉，一定很貴吧。」……
大量灰色的、難以判定的內容形成了一座大山，橫亘在互聯網平台治理網暴的道路中。
微博相關負責人在採訪中告訴21記者，微博平台主要治理侮辱謾罵、侵犯隱私、造謠誹謗、貶低羞辱、道德綁架和冒犯騷擾等方面的網暴行為。「網暴行為的發生較隨性和偶然，沒有固定規律，有時只因為一句話、一個觀點或一個表情。平台難以及時發現和制止。此外，行業處置未形成統一標準，各平台尺度不同，導致處置過程中也會存在用戶申訴和投訴的問題。」
抖音相關負責人表示，平台正在不斷加強網暴信息識別能力建設，但依然存在一些難點，難以兼顧「快速」與「精準」。對於明顯的辱罵、造謠、人身攻擊類言語，平台可以明確定義和治理。但另外還有大量惡搞、調侃類的言論，它們不違法違規，但對當事人的身心帶來了實質傷害。比如用當事人的臉P成搞怪表情包，用諧音梗進行辱罵等等。「網暴的界定和識別是目前的難點之一，在治理過程中需要結合受害人具體情況、抗壓能力，信息傳播量級、傳播速度進行個案分析，這對平台進行規模化、及時性治理帶來很大困難。」
目前司法層面對網暴尚無明確界定，更多的是從局部角度進行歸納。北京海淀法院專門審理互聯網案件的法官秦鵬博在此前採訪中表示，「在現有的法律法規和規範性文件、指導性文件中缺乏對網路暴力概念內涵和外延的規定，亦缺乏列舉性的規範方式。」進一步明晰網路暴力的法律概念，探索專門法的立法模式，是未來有效治理網路暴力的重要途徑。
社區共治：數字鄰居的正向聯合
不同的互聯網平台有各自獨特的社區文化。在事前階段，文化建設作為一種「軟性手段」將分散的用戶聯結在一起，強化用戶作為數字社區成員的身份認同感，引導用戶自覺維護社區氛圍。而對於難以判定的內容，平台也可以通過用戶眾議的方式提高信息甄別的準確性。
在B站，用戶可以自願加入「風紀委員會」，對全站熱門稿件的氛圍進行眾議投票，包括視頻整體的評論、彈幕氛圍，以及單條評論、彈幕在具體語境下是否適宜，以此甄別不良內容。B站相關負責人在採訪中表示，「今年4月，我們收到部分風紀委員的反饋，希望社區能夠治理數碼區存在的『帶節奏』引戰攻擊互動問題。5月初B站啟動了數碼區專項治理行動，根據風紀委提報的不良氛圍特徵進行總結，交由阿瓦隆（評論審核系統）學習並治理。」
微博相關負責人表示，眾議投票的方式能夠一定程度上降低正常評論被誤傷的情況。「對於難以界定的內容，微博平台會每日推送給社區委員會成員進行投票眾裁，以最大公允地判定違規行為是否成立。如用戶對站方處置有異議，可隨時進行申訴。」
目前，多個互聯網平台通過制定社區公約、鼓勵用戶參與社區共治等方式維護社區氛圍，同時以用戶意見建議反哺社區策略調整。
中國傳媒大學新聞傳播學部電視學院教授、媒體融合與傳播系主任顧潔認為，在互聯網綜合治理體系中，網民自律是重要一環。「自律不僅是不做壞事，更重要的是主動去做好事。目前網民參與互聯網治理的力量還沒有被完全發揮出來，隨著網路志願文化逐漸深入人心，相信越來越多的網民會積极參與到治理中去。」
隨著個性化演算法推薦等技術的普遍應用，網民基於選擇性心理長期只關注自己感興趣的內容，只聽自己認同的觀點。這些觀點不斷重複加深，形成「迴音室效應」，可能會加劇群體極化現象。顧潔表示，「信息繭房」「迴音室效應」是全球社會都在面臨的問題，互聯網平台應堅持技術向善，以主流價值觀為導向，為網民提供更多的信息選擇。網民自身也要有意識地「破繭」，拓寬信息視野，了解多元化的聲音，在此過程中進一步提升媒介素養，提高理性思辨能力。
（作者：鍾雨欣，王巍 編輯：王俊）
AVA娛樂城-最受歡迎台灣線上娛樂城每月超過萬名玩家成功出款，多款熱門遊戲及各種獨家優惠，首儲最高送10000，每日續儲每日送獨家電子機台優惠以及其他超多優惠活動等你來領取，AVA娛樂城是您最佳的選擇。 娛樂城是什麼? 娛樂城是網路博弈遊戲平台的總稱，網站內包含了許多遊戲，例如:百家樂、輪盤、彩票、體育競賽、電競比分、電子遊戲(老虎機)、捕魚機遊戲…等，所以總稱為「娛樂城」 娛樂城可換現金嗎? 台灣市面上的娛樂城大多都是可以換現金，且點數與現金比例是 1:1，但要注意的是娛樂城的可信度《AVA娛樂城是10年老品牌，經過時間的考驗，信譽是被大眾肯定的》 娛樂城如何存款? 娛樂城存款方法很多，ATM匯款、超商付款、虛擬貨幣、Paypal、信用卡付款，每間娛樂城的付款方式不同，用戶們可以選擇適合自己的付款來挑選娛樂城。 AVA娛樂城提供的付款方式:ATM匯款、超商付款、信用卡付款，如果有其他特殊付款需求，可以向線上客服索取與建議 為何選擇AVA娛樂城?? 「AVA娛樂城」 是台灣最受歡的線上娛樂城，有別於其他娛樂城平台，你能在這裡體驗更多不同「娛樂城遊戲」、「高額娛樂城優惠」、「個人帳務報表」等優質貼心服務、體驗。
發佈留言