1. 程式人生 > >他們要消失了嗎?探訪人工智慧浪潮下的鑑黃師

他們要消失了嗎?探訪人工智慧浪潮下的鑑黃師

鑑黃師是怎樣的一個群體?

在搜尋引擎裡鍵入“鑑黃師”,會有數百萬的相關結果。在知乎裡,輸入同樣的關鍵字,也有各種各樣的問題和回答。

“如果不考慮薪水、尊嚴、面子,你最想從事什麼工作?”有人就回答了三個字:“鑑黃師”,答案獲得了上千點贊,數百評論。儘管有一些人嚮往鑑黃師,但鑑黃師這個崗位,在大多數人的眼裡卻是一個世界黑暗、心理傷害重的崗位。外媒報道,內容審查(鑑黃師的另外個名稱)是科技產業增長最快,但或許是最累人的工作之一——工作壓力大巨大,且普遍遭受心理傷害。

而在另一面,隨著人工智慧技術的進步,一部分人認為鑑黃師的工作要被人工智慧替代。

在這個態勢下,如今的鑑黃師是怎樣的一群人?處於怎樣的一個生存狀態?盾盾踩方團第二期帶領大家瞭解下網易的鑑黃師:

上班看黃圖

和沈鵬煒、許嘉奇、袁鵬、邊雪菁約好的那天,是個陽光明媚的下午。

他們的辦公室門禁森嚴,進出都要刷卡。帶我們穿過一段較長、兩邊窗簾都拉下的走廊,便來到了另一頭的會議室。會議室靠窗,很明亮,在這裡我們就各種話題聊了將近兩個小時。

對於鑑黃師的稱呼,他們沒有直接否定,只是在後來確認內部是否也這麼稱呼時,才告訴我們,網易其實內部的真實崗位名稱是叫“資訊保安稽核專員”。而且工作範疇並不純粹鑑黃,色情之外,他們也會處理血腥、暴力、恐怖主義等內容。

大家可能會認為鑑黃師男生偏多點,抗壓力能力好,然而沈鵬煒說,實際上是女生偏多點。雖然女生有一些短板,但長處非常明顯——她們非常細心,容易發現一些細節上的問題。“不過,招聘上我們會盡量保持平衡,女生招得差不多了,會刻意地去招一些男生。”

外界盛傳,鑑黃師高薪又輕鬆,工作很有意思。他們說,沒有高薪,也並不輕鬆。剛接觸這份工作時,的確因為一些小福利,男生可能會有一點小欣喜和好奇。不過女生卻是另外一種反應,有些剛畢業的女生,反應會很特別:一開始會特別害羞,臉很紅不敢看。遇到需要處理違規結果時,動作會很可愛——哎呀呀,很緊張,閉著眼去點選滑鼠。

有意思的是,有些保潔大叔也會被福利所吸引,從一開始納悶他們的團隊怎麼每天上班看黃圖,在後面盯著他們看到底在幹嗎,到後來形成習慣,偶爾會在後面享受下福利。

“媽媽,你可以找不上夜班的工作嗎?”

不過,有害資訊接觸多了,鑑黃師們都是同一個反應:內心多多少少會有點崩潰。

崩潰的原因主要有兩方面,一方面是身體上的。首當其衝的是他們的工作時間,7x24小時,三班倒,中間不能離人。上夜班的時候,大多數人到了凌晨三四點就會很想睡覺。有些人的第二個通宵班,真的是需要靠毅力扛過來。而女生處於生理期時,可能會更加受不了。其次是眼睛,由於需要大量看東西,他們眼睛必須一目十行,而這給眼睛帶來的傷害比較大,需要不斷點眼藥水。還有就是:胖,倒班容易肚子餓,而經常吃夜宵,就容易有副產品——身上不經意間就增長了肥肉。

另一方面是精神上的,有些人覺得每天看黃圖會覺得很爽,然而鑑黃師說,實際上經常有一些超出大家想象的高清無碼變態圖,比如亂倫、變性、虐殺等,它帶來的視覺衝擊力非常大,猶如身臨其境,心理非常容易崩潰,讓你懷疑人生,覺得這個世界太黑暗……這非常考驗一個人的心理素質。

更重要的是三班倒導致的時差,讓鑑黃師沒辦法和正常人一樣社交。他們說,朋友娛樂的時候,他們在睡覺。而朋友睡覺的時候,他們在另外一個世界裡清理網際網路的垃圾。這種犧牲,在逢年過節的時候,感受會特別強烈,大家都在,就差我一個,這種孤單感會很強烈……

親情、友情,是他們面臨的最大一個挑戰。

邊雪菁告訴我們:“有次晚上9點去上通宵班,他的孩子一改往常不讓我出門,而是突然說:‘媽媽,你可以找不上夜班的工作嗎?”臨走前發生的這一幕,讓她很心酸,下意識地緊緊抱住孩子,久久都沒有鬆開。

“休息時間不固定,也會導致自己很有內疚感。朋友找你時,你沒法赴約,經常這樣,好多朋友都不會再來找你。這樣的感覺,好像是故意疏遠朋友,自己內心很容易過不去。”袁鵬分享了自己的過去的一個心理狀態。

崩潰、麻木後的蛻變

和鑑黃師接觸前,原以為壓力“摧殘”之下,與之談話多少會有點壓抑。然而有點超出我們預期的是,和他們接觸後最大的感受就是發現他們,居然是一群積極樂觀的人,深知這份工作存在的意義。

的確,他們一開始會有浮躁和困惑,不知道做這份職業到底有沒有意義,能否體現自己的價值?每天那麼忙,那麼累,堅持到底是為了什麼?但過了一段時間後,他們就會從多個角度看待問題,認識到自己的責任重大。

邊雪菁是位有一個孩子的媽媽,她在這一點上認知特別深刻。她認為鑑黃師是一個很偉大的職業,她說,每個人終將會有孩子,以後你的孩子也會接觸網際網路。如果沒有鑑黃師的存在,孩子很容易接觸到不良資訊。孩子沒有判斷能力,需要保護,否則會被不良資訊影響,導致他們的價值觀、世界觀扭曲。“以前我們上網的時候,總會遇到一些含有色情資訊的彈窗,玩遊戲時也會遇到。”邊雪婧說,現在很少會遇到了,這就是鑑黃師的功勞,讓網路空間變得更健康。

有害資訊看得多了,人會變得麻木。但正是這種麻木,讓袁鵬有了蛻變。他說,對自己傷害得越大,越是會感受到這份責任的重大:“連我們這些專業人士都受不了,更何況普通人?”

“我們是有害資訊流傳到網路上的最後一道關卡,必須得守好這份疆土,避免有害資訊流落到網路空間,危害社會健康。”對於這份職業的成就感,他說,看著社群、產品裡的使用者活躍,沒有被有害資訊毀掉,他們也會感到開心——儘管他們是幕後英雄,不曾被人們知曉,也不曾被感激,甚至有人對這個職位理解有偏差,接受不了

面對身體上的勞累、心理上的折磨,大多數的鑑黃師沒有選擇放棄,而是默默選擇堅持下去,坦然面對一切。他們如同一名法醫:都是要24小時待命、克服恐懼、承受心理壓力,冷靜面對刑事案件裡的各種情況,為破案、社會的安定提供可能的蛛絲馬跡。

破壁枯燥

邊雪菁說,其實每個崗位做久了都會覺得枯燥乏味,尤其是像鑑黃師這樣的,更加枯燥。所以最重要的就是自己去尋找樂趣,把一份普通的工作做到有姿有色。

“我首先是調整自己的心態,樂觀向上的就是我,每天上班來的時候嘻嘻哈哈,下班當然也是興高采烈。有時候看看稽核的圖片、視訊,其實你會發現很有趣。在稽核中,如果你用心,就會發現形形色色不同的人,有些段子可能不在這裡上班都不會知道,所以只要你有個好心情,工作也不會覺得枯燥乏味。”邊雪菁真誠地對著我們說,你要相信不管什麼事情,從不同角度出發都會發現不一樣的樂趣

許嘉奇的調節是老司機的方式——動不動開車。他會努力尋找讓自己開心的點,一些低俗惡搞的資訊、搞笑的圖片:“男人站著高不是真的高,躺著高才是真的高。”偶爾還會分享到鑑黃師的一個內部溝通工具裡,調節自己的同時,也能夠讓大家一起樂起來,獲得提高——進一步瞭解有害資訊的分類。

鑑黃師告訴我們,除了這些,他們也會在工作空閒片刻,在辦公室聚個會,共同點個外賣,一起吃東西,互相訴說今天的經歷,釋放自己的壓力。深夜下班,有時共同下班的幾個人,也會相約一起擼個串,大口吃肉,大口喝酒,感受暢快人生。

有的人會好奇,回家之後,鑑黃師還會不會再看這些視訊,或者說會不會把內容拷貝下來。溝通中,鑑黃師說,他們是不會拷貝視訊的,因為公司內部有規定,稽核的資訊只能在後臺,不能帶出去。工作之餘,他們會不會再看,因人而異。有的人會選擇繼續看,多看一點,多一分工作經驗上的積累。

這讓人很感動,鑑黃師雖然有痛苦、折磨和煎熬,但他們深知自己的責任,一直在永不停息地努力樂觀和堅韌。

當然鑑黃這份工作,也並非沒有一點好處。許嘉奇說,安全意識會變得非常好,一看到什麼色情圖片或謠言,都會在第一時間出來提示身邊人不要轉發。有些人會覺得自己訊息靈通,要散佈訊息讓朋友知道,但這樣到處轉發,會導致群被封掉,甚至會給自己帶來不必要的麻煩。第二個是,一目十行造就的火眼金睛,讓他們的觀察力非常敏銳。

技術“解放”

人工智慧潮流下,大家都非常關心,鑑黃師是不是要被淘汰了?

回顧人類歷史上的幾次技術革命,答案或許明瞭。蒸汽機的出現,讓人類進入了蒸汽時代,蒸汽開始替代了人力,無論是鍊鋼,紡織業,都由此得到了巨大的發展;後來隨著電力的普及,人類進入電氣時代,開始進一步替代人力;而隨著網際網路、雲端計算、大資料等技術的發展,人類又進入資訊時代……然而不管怎麼變化,都是把人從單調的勞動生產中解放出來,讓他們可以從事更有價值的勞動,而不是單一重複的勞動

沈鵬煒說,技術的介入,的確替代了很大一部分人力,讓技術成為了主力,人工成為輔助。尤其是幾年前,網易雲易盾內容安全第三代人工智慧技術接入後,人+技術協同,稽核效率較之前提升了數千倍。

但技術並沒有淘汰掉鑑黃師,卻是解放了鑑黃師。許多海量的工作,人工智慧技術一個規則就可以立馬處理掉。而不是像多年前,幾個鑑黃師要埋頭吭哧處理好幾天,非常辛苦不說,低效還容易造成內容安全事故。

“今天的鑑黃師能夠從事更加高階的工作,比如說,有害資料分析、前臺巡查、規則維護、質檢檢查等更核心、有效的工作,因此,鑑黃師也不像以前那樣壓力大和工作繁忙。”沈鵬煒介紹到。

鑑黃師被解放的背後,是一段網易雲易盾內容安全技術不斷升級的歷史:第一代內容安全技術是建立在關鍵詞、黑白名單、過濾器和分類器上;第二代內容安全技術基於內容特徵識別(膚色、紋理)、貝葉斯過濾、相似度匹配和規則系統;而第三代則升級為大資料分析(使用者行為、使用者分類)、人機識別、人工智慧和機器學習(語義識別、影象識別)。經過不斷更新換代後,網易雲易盾內容安全服務已覆蓋了文字、圖片、語音和視訊(直播)等領域,在廣告過濾、智慧鑑黃、暴恐識別等場景應用上,有害資訊處理效果超出所有客戶預期。

沈鵬煒最後表示,只要有男人和女人在,慾望就在,鑑黃師也就在。似乎嫌這樣的說法不夠嚴謹,他接著又補充一句:“人工離不開智慧,但智慧也脫離不了人工,因此鑑黃師的未來只會變化,而不會消失。”​