70分鐘，與死神賽跑

6月26日21時(shí)許，快手員工正在對用戶直播進(jìn)行常規(guī)巡查，突然發(fā)現(xiàn)一個(gè)直播間的畫面中，男子躺在沙土地上，臉色蒼白，手腕鮮血淋漓。

“是自殺！快報(bào)警！”快手社區(qū)安全員工張洋立即啟動應(yīng)急響應(yīng)，第一時(shí)間掐掉直播，并將相關(guān)信息推送給客服團(tuán)隊(duì)。不到10分鐘，客服團(tuán)隊(duì)就與屬地云南省個(gè)舊市公安局建立了聯(lián)動關(guān)系。

圖為民警在高架橋下找到輕生者李林（個(gè)舊市公安局提供）

只有大體位置，本著生命至上的原則，在快手平臺協(xié)助下，個(gè)舊市公安局立即安排民警摸黑展開地毯式搜尋。經(jīng)過70分鐘的全力搜索，繞過三個(gè)高架橋之后，當(dāng)天22時(shí)30分，民警終于在大屯轄區(qū)某高架橋下找到已經(jīng)跳下高架橋且割腕的李林。經(jīng)過醫(yī)生的救治和民警的安撫，李林生命體征平穩(wěn)、情緒逐漸趨于穩(wěn)定，已被家屬帶回家做進(jìn)一步觀察。

今年25歲的李林，只因欠了4000塊錢外債，周圍親友拒絕借錢幫其償還，心灰意冷的他選擇從高架橋一躍而下，發(fā)現(xiàn)沒死后用玻璃劃破手腕，在手機(jī)鏡頭前等死。

快手的快速響應(yīng)，民警的及時(shí)救援，一場悲劇被成功阻止。

圖為民警在安撫李林（個(gè)舊市公安局提供）

在快手，這樣驚心動魄的場景并非偶然，社區(qū)安全和客服團(tuán)隊(duì)每天都要處理多起類似事件。今年以來，快手社區(qū)安全和客服團(tuán)隊(duì)已聯(lián)動各地警方救援270余名試圖自殺自殘的用戶。

算法賦能+多方聯(lián)動，阻擋自殺自殘

作為一款國民級應(yīng)用，每天有大量的人在快手上記錄生活的點(diǎn)點(diǎn)滴滴，直播自己的喜怒哀樂。然而，在網(wǎng)絡(luò)的某個(gè)角落里，一些人正在面對人生的至暗時(shí)刻。

湖北巴東一名女孩，因?yàn)槭俣钟?，不停上傳有明顯自殺傾向的作品；吉林一名網(wǎng)友直播時(shí)一邊拿著藥盒，一邊激動地講述自己悲慘經(jīng)歷，表示自己不想活了……快速變化的社會里，很多人處于多重壓力環(huán)境下，自殺自殘事件愈發(fā)常見，容易因一件小事情緒崩潰，沖動決定自殺。

對于日活躍用戶數(shù)超過3億的快手而言，每天有海量的用戶上傳視頻作品、開直播。僅靠人工無法審核全部的內(nèi)容，在技術(shù)和算法的賦能下，有自殺自殘傾向的作品，系統(tǒng)會第一時(shí)間識別并自動攔截。在直播中出現(xiàn)自殺、揚(yáng)言自殺等內(nèi)容，系統(tǒng)警報(bào)會立即拉響，相關(guān)直播很快被關(guān)閉。

然而，僅僅是刪除或屏蔽相關(guān)視頻作品、關(guān)掉直播，并不能完全攔阻自殺自殘行為繼續(xù)進(jìn)行?？焓稚鐓^(qū)安全和客服團(tuán)隊(duì)不停琢磨，認(rèn)為除了處理相關(guān)作品和直播，還應(yīng)該采取更加積極主動的手段，去干預(yù)自殺自殘的行為。

經(jīng)過不停嘗試和摸索，快手社區(qū)安全和客服團(tuán)隊(duì)建立了一套相對完備的自殺自殘干預(yù)處置策略，搭建了快速反饋流程。直播判罰結(jié)果為“自殺自殘”的，直播會立即被關(guān)閉，相關(guān)信息會同時(shí)推送給客服團(tuán)隊(duì)，由客服團(tuán)隊(duì)確認(rèn)后迅速聯(lián)動警方介入；對于有自殺自殘傾向的作品，風(fēng)控會召回相關(guān)用戶和作品，通過線上流程及時(shí)推送給客服團(tuán)隊(duì)，由客服團(tuán)隊(duì)確認(rèn)后聯(lián)動警方介入干預(yù)；一線評級團(tuán)隊(duì)發(fā)現(xiàn)相關(guān)異常情況也會快速同步給客服團(tuán)隊(duì)。

別怕，我們都在

3月18日凌晨，在一個(gè)直播間里，一名男子手持電棍坐在車上，旁邊還有一名疑似被控制的女子，身上僅穿內(nèi)衣，有傷害自殘傾向。相關(guān)信息很快就被快手社區(qū)安全團(tuán)隊(duì)捕捉到，隨后被推送至客服團(tuán)隊(duì)。當(dāng)晚值班的客服團(tuán)隊(duì)劉坤很快向?qū)俚厣綎|濱州警方報(bào)警求助。

在客服團(tuán)隊(duì)協(xié)助下，濱州市公安局沾化分局立即開展調(diào)查工作，妥善處理了該事件，及時(shí)消除了負(fù)面影響。事后，當(dāng)?shù)鼐竭€給快手公司發(fā)來一封感謝信。

圖為感謝信

“危機(jī)干預(yù)是一場戰(zhàn)斗，當(dāng)事人在痛苦掙扎的同時(shí)，我們都不能袖手旁觀。“劉坤說，在這一點(diǎn)上，快手和警方的目標(biāo)是一致的。在干預(yù)自殺自殘上，快手與各地警方已經(jīng)建立了密切的協(xié)作關(guān)系。

其實(shí)，在與死神對抗的過程中，不僅僅只有當(dāng)事人，快手、警方、第三方機(jī)構(gòu)都在另一端默默努力著。

除了處置賬號和內(nèi)容、報(bào)警介入等直接干預(yù)手段，情緒的紓解與表達(dá)也是自殺自殘干預(yù)中的關(guān)鍵。

圖為快手高敏關(guān)鍵詞搜索結(jié)果頁面

在快手搜索“自殺”“自殘”“我想死”等極端關(guān)鍵詞，會發(fā)現(xiàn)置頂顯示的是一個(gè)名為“別怕，我們都在”的心理咨詢H5宣傳頁。點(diǎn)開宣傳頁，是一個(gè)自動滾動的“群聊”信息頁面。“這個(gè)世界雖然不完美，但愛和關(guān)心不會缺少”“沒有爬不過的山?jīng)]有過不了的坎，所有的一切都會隨風(fēng)過去”“沖鴨，今天也要開心鴨”等“群聊”信息映入眼簾，最后還附上24小時(shí)免費(fèi)心理危機(jī)咨詢熱線的電話號碼。

在H5頁面下方，系統(tǒng)會自動展現(xiàn)平臺內(nèi)各類正向內(nèi)容，向特定用戶提供情緒紓解與表達(dá)的渠道。在快手，這樣潤物細(xì)無聲的舉措還有不少。

“做細(xì)小而正確的事，這符合我們的價(jià)值觀。”快手相關(guān)負(fù)責(zé)人說，自殺自殘干預(yù)困難重重，策略還要不斷迭代完善，還有很多漏洞需要填補(bǔ)，但我們會一直堅(jiān)持做下去。（文中人名均為化名）