Facebook 最近在測試給它的直播里加上自殺審查功能。
跟 2015 年 Facebook 推出的自殺監(jiān)測功能類似,它也支持好友上報(bào)有自殺或自殘傾向的直播給 Facebook。
當(dāng)用戶報(bào)告的直播被判斷的確有自殺傾向后,F(xiàn)acebook 會(huì)向正在直播的那名用戶發(fā)送提醒及幫助信息,而上報(bào)這條信息的用戶也將獲得類似信息,讓他可以為朋友提供幫助。
Facebook 直播頁面中顯示的幫助彈窗
此外,最新的自殺識(shí)別功能還添加了人工智能識(shí)別技術(shù)。
簡單來說它其實(shí)是利用算法學(xué)習(xí)大量以前有自殺傾向的帖子,從中找到規(guī)律,當(dāng)有新的帖子發(fā)出來之后它能迅速判斷那條帖子是不是存在自殺或自殘的傾向。
一名熟悉這個(gè)功能的 Facebook 的產(chǎn)品經(jīng)理在接受采訪時(shí)稱,加入人工智能算法后,它比單純依靠用戶上報(bào)自殺傾向的帖子會(huì)更準(zhǔn)確些。
Facebook 還找來國家自殺預(yù)防機(jī)構(gòu)、國家飲食障礙協(xié)會(huì)等機(jī)構(gòu)合作,當(dāng)自殺用戶被標(biāo)記出來之后,這些機(jī)構(gòu)的工作人員可以通過 Facebook Messenger 直接聯(lián)系到有自殺傾向的那名用戶,并為他提供幫助。
目前這個(gè)新功能已經(jīng)在美國地區(qū)上線測試,至于什么時(shí)候推廣到其他區(qū)域,目前 Facebook 并沒有給出時(shí)間表。