1. 程式人生 > >他們要消失了嗎?探訪人工智能浪潮下的鑒黃師

他們要消失了嗎?探訪人工智能浪潮下的鑒黃師

經歷 成就感 ××× 觀察 能力 進一步 朋友 狀態 職業

鑒黃師是怎樣的一個群體?

在搜索引擎裏鍵入“鑒黃師”,會有數百萬的相關結果。在知乎裏,輸入同樣的關鍵字,也有各種各樣的問題和回答。

“如果不考慮薪水、尊嚴、面子,你最想從事什麽工作?”有人就回答了三個字:“鑒黃師”,答案獲得了上千點贊,數百評論。盡管有一些人向往鑒黃師,但鑒黃師這個崗位,在大多數人的眼裏卻是一個世界黑暗、心理傷害重的崗位。外媒報道,內容審查(鑒黃師的另外個名稱)是科技產業增長最快,但或許是最累人的工作之一——工作壓力大巨大,且普遍遭受心理傷害。

而在另一面,隨著人工智能技術的進步,一部分人認為鑒黃師的工作要被人工智能替代。

在這個態勢下,如今的鑒黃師是怎樣的一群人?處於怎樣的一個生存狀態?盾盾踩方團第二期帶領大家了解下網易的鑒黃師:

視頻地址:https://weibo.com/tv/v/GAmM0tIND?fid=1034:4286666848848165

?

上班看黃圖

和沈鵬煒、許嘉奇、袁鵬、邊雪菁約好的那天,是個陽光明媚的下午。

他們的辦公室門禁森嚴,進出都要刷卡。帶我們穿過一段較長、兩邊窗簾都拉下的走廊,便來到了另一頭的會議室。會議室靠窗,很明亮,在這裏我們就各種話題聊了將近兩個小時。

對於鑒黃師的稱呼,他們沒有直接否定,只是在後來確認內部是否也這麽稱呼時,才告訴我們,網易其實內部的真實崗位名稱是叫“信息安全審核專員”。而且工作範疇並不純粹鑒黃,×××之外,他們也會處理血腥、暴力、恐怖主義等內容。

大家可能會認為鑒黃師男生偏多點,抗壓力能力好,然而沈鵬煒說,實際上是女生偏多點。雖然女生有一些短板,但長處非常明顯——她們非常細心,容易發現一些細節上的問題。“不過,招聘上我們會盡量保持平衡,女生招得差不多了,會刻意地去招一些男生。”

外界盛傳,鑒黃師高薪又輕松,工作很有意思。他們說,沒有高薪,也並不輕松。剛接觸這份工作時,的確因為一些小福利,男生可能會有一點小欣喜和好奇。不過女生卻是另外一種反應,有些剛畢業的女生,反應會很特別:一開始會特別害羞,臉很紅不敢看。遇到需要處理違規結果時,動作會很可愛——哎呀呀,很緊張,閉著眼去點擊鼠標。

有意思的是,有些×××大叔也會被福利所吸引,從一開始納悶他們的團隊怎麽每天上班看黃圖,在後面盯著他們看到底在幹嗎,到後來形成習慣,偶爾會在後面享受下福利。

“媽媽,你可以找不上夜班的工作嗎?”

不過,有害信息接觸多了,鑒黃師們都是同一個反應:內心多多少少會有點崩潰。

崩潰的原因主要有兩方面,一方面是身體上的。首當其沖的是他們的工作時間,7x24小時,三班倒,中間不能離人。上夜班的時候,大多數人到了淩晨三四點就會很想睡覺。有些人的第二個通宵班,真的是需要靠毅力扛過來。而女生處於生理期時,可能會更加受不了。其次是眼睛,由於需要大量看東西,他們眼睛必須一目十行,而這給眼睛帶來的傷害比較大,需要不斷點眼藥水。還有就是:胖,倒班容易肚子餓,而經常吃夜宵,就容易有副產品——身上不經意間就增長了肥肉。

另一方面是精神上的,有些人覺得每天看黃圖會覺得很爽,然而鑒黃師說,實際上經常有一些超出大家想象的高清無碼變態圖,比如×××、變性、虐殺等,它帶來的視覺沖擊力非常大,猶如身臨其境,心理非常容易崩潰,讓你懷疑人生,覺得這個世界太黑暗……這非常考驗一個人的心理素質。

更重要的是三班倒導致的時差,讓鑒黃師沒辦法和正常人一樣社交。他們說,朋友娛樂的時候,他們在睡覺。而朋友睡覺的時候,他們在另外一個世界裏清理互聯網的垃圾。這種犧牲,在逢年過節的時候,感受會特別強烈,大家都在,就差我一個,這種孤單感會很強烈……

親情、友情,是他們面臨的最大一個挑戰。

邊雪菁告訴我們:“有次晚上9點去上通宵班,他的孩子一改往常不讓我出門,而是突然說:‘媽媽,你可以找不上夜班的工作嗎?”臨走前發生的這一幕,讓她很心酸,下意識地緊緊抱住孩子,久久都沒有松開。

“休息時間不固定,也會導致自己很有內疚感。朋友找你時,你沒法赴約,經常這樣,好多朋友都不會再來找你。這樣的感覺,好像是故意疏遠朋友,自己內心很容易過不去。”袁鵬分享了自己的過去的一個心理狀態。

崩潰、麻木後的蛻變

和鑒黃師接觸前,原以為壓力“摧殘”之下,與之談話多少會有點壓抑。然而有點超出我們預期的是,和他們接觸後最大的感受就是發現他們,居然是一群積極樂觀的人,深知這份工作存在的意義。

的確,他們一開始會有浮躁和困惑,不知道做這份職業到底有沒有意義,能否體現自己的價值?每天那麽忙,那麽累,堅持到底是為了什麽?但過了一段時間後,他們就會從多個角度看待問題,認識到自己的責任重大。

邊雪菁是位有一個孩子的媽媽,她在這一點上認知特別深刻。她認為鑒黃師是一個很偉大的職業,她說,每個人終將會有孩子,以後你的孩子也會接觸互聯網。如果沒有鑒黃師的存在,孩子很容易接觸到不良信息。孩子沒有判斷能力,需要保護,否則會被不良信息影響,導致他們的價值觀、世界觀扭曲。“以前我們上網的時候,總會遇到一些含有×××信息的彈窗,玩遊戲時也會遇到。”邊雪婧說,現在很少會遇到了,這就是鑒黃師的功勞,讓網絡空間變得更健康。

有害信息看得多了,人會變得麻木。但正是這種麻木,讓袁鵬有了蛻變。他說,對自己傷害得越大,越是會感受到這份責任的重大:“連我們這些專業人士都受不了,更何況普通人?”

“我們是有害信息流傳到網絡上的最後一道關卡,必須得守好這份疆土,避免有害信息流落到網絡空間,危害社會健康。”對於這份職業的成就感,他說,看著社區、產品裏的用戶活躍,沒有被有害信息毀掉,他們也會感到開心——盡管他們是幕後英雄,不曾被人們知曉,也不曾被感激,甚至有人對這個職位理解有偏差,接受不了。

面對身體上的勞累、心理上的折磨,大多數的鑒黃師沒有選擇放棄,而是默默選擇堅持下去,坦然面對一切。他們如同一名法醫:都是要24小時待命、克服恐懼、承受心理壓力,冷靜面對刑事案件裏的各種情況,為破案、社會的安定提供可能的蛛絲馬跡。

破壁枯燥

邊雪菁說,其實每個崗位做久了都會覺得枯燥乏味,尤其是像鑒黃師這樣的,更加枯燥。所以最重要的就是自己去尋找樂趣,把一份普通的工作做到有姿有色。

“我首先是調整自己的心態,樂觀向上的就是我,每天上班來的時候嘻嘻哈哈,下班當然也是興高采烈。有時候看看審核的圖片、視頻,其實你會發現很有趣。在審核中,如果你用心,就會發現形形×××不同的人,有些段子可能不在這裏上班都不會知道,所以只要你有個好心情,工作也不會覺得枯燥乏味。”邊雪菁真誠地對著我們說,你要相信不管什麽事情,從不同角度出發都會發現不一樣的樂趣。

許嘉奇的調節是老司機的方式——動不動開車。他會努力尋找讓自己開心的點,一些低俗惡搞的信息、搞笑的圖片:“男人站著高不是真的高,躺著高才是真的高。”偶爾還會分享到鑒黃師的一個內部溝通工具裏,調節自己的同時,也能夠讓大家一起樂起來,獲得提高——進一步了解有害信息的分類。

鑒黃師告訴我們,除了這些,他們也會在工作空閑片刻,在辦公室聚個會,共同點個外賣,一起吃東西,互相訴說今天的經歷,釋放自己的壓力。深夜下班,有時共同下班的幾個人,也會相約一起擼個串,大口吃肉,大口喝酒,感受暢快人生。

有的人會好奇,回家之後,鑒黃師還會不會再看這些視頻,或者說會不會把內容拷貝下來。溝通中,鑒黃師說,他們是不會拷貝視頻的,因為公司內部有規定,審核的信息只能在後臺,不能帶出去。工作之余,他們會不會再看,因人而異。有的人會選擇繼續看,多看一點,多一分工作經驗上的積累。

這讓人很感動,鑒黃師雖然有痛苦、折磨和煎熬,但他們深知自己的責任,一直在永不停息地努力樂觀和堅韌。

當然鑒黃這份工作,也並非沒有一點好處。許嘉奇說,安全意識會變得非常好,一看到什麽×××圖片或謠言,都會在第一時間出來提示身邊人不要轉發。有些人會覺得自己消息靈通,要散布消息讓朋友知道,但這樣到處轉發,會導致群被封掉,甚至會給自己帶來不必要的麻煩。第二個是,一目十行造就的火眼金睛,讓他們的觀察力非常敏銳。

技術“解放”

人工智能潮流下,大家都非常關心,鑒黃師是不是要被淘汰了?

回顧人類歷史上的幾次技術革命,答案或許明了。蒸汽機的出現,讓人類進入了蒸汽時代,蒸汽開始替代了人力,無論是煉鋼,紡織業,都由此得到了巨大的發展;後來隨著電力的普及,人類進入電氣時代,開始進一步替代人力;而隨著互聯網、雲計算、大數據等技術的發展,人類又進入信息時代……然而不管怎麽變化,都是把人從單調的勞動生產中解放出來,讓他們可以從事更有價值的勞動,而不是單一重復的勞動。

沈鵬煒說,技術的介入,的確替代了很大一部分人力,讓技術成為了主力,人工成為輔助。尤其是幾年前,網易雲易盾內容安全第三代人工智能技術接入後,人+技術協同,審核效率較之前提升了數千倍。

但技術並沒有淘汰掉鑒黃師,卻是解放了鑒黃師。許多海量的工作,人工智能技術一個規則就可以立馬處理掉。而不是像多年前,幾個鑒黃師要埋頭吭哧處理好幾天,非常辛苦不說,低效還容易造成內容安全事故。

“今天的鑒黃師能夠從事更加高級的工作,比如說,有害數據分析、前臺巡查、規則維護、質檢檢查等更核心、有效的工作,因此,鑒黃師也不像以前那樣壓力大和工作繁忙。”沈鵬煒介紹到。

鑒黃師被解放的背後,是一段網易雲易盾內容安全技術不斷升級的歷史:第一代內容安全技術是建立在關鍵詞、黑白名單、過濾器和分類器上;第二代內容安全技術基於內容特征識別(膚色、紋理)、貝葉斯過濾、相似度匹配和規則系統;而第三代則升級為大數據分析(用戶行為、用戶分類)、人機識別、人工智能和機器學習(語義識別、圖像識別)。經過不斷更新換代後,網易雲易盾內容安全服務已覆蓋了文本、圖片、語音和視頻(直播)等領域,在廣告過濾、智能鑒黃、暴恐識別等場景應用上,有害信息處理效果超出所有客戶預期。

沈鵬煒最後表示,只要有男人和女人在,欲望就在,鑒黃師也就在。似乎嫌這樣的說法不夠嚴謹,他接著又補充一句:“人工離不開智能,但智能也脫離不了人工,因此鑒黃師的未來只會變化,而不會消失。”?

歡迎點擊免費體驗網易雲易盾安全服務請添加鏈接描述。

他們要消失了嗎?探訪人工智能浪潮下的鑒黃師