吞食了海量資料之後，亞馬遜的 AI 招聘軟體患上了行業裡潛在的性別歧視 | Global 24/7
當地時間 10 月 10 日，據路透社報道，亞馬遜的機器學習專家表示，亞馬遜設計的 AI 招聘演算法中暗含了對女性求職者的偏見。
路透社援引了五位知情人士的訊息稱，從 2014 年起，亞馬遜就在開發可以篩選求職者的程式，他們的目的很簡單：像挑選商品一樣，完成高效率、自動化的人才篩選。在形式上，亞馬遜開發的 AI 招聘程式也與商城裡的商品評分一樣，從一星到五星，給每一個應聘者劃分了等級，隨後再交由人工 HR「按評價排名」進行最後的篩選。
被機器打分的應聘者們
據監管檔案顯示，當時亞馬遜的人力資源部正在瘋狂招攬新員工，2015 年 6 月以來，亞馬遜全球員工數達到了近 58 萬人，增加了兩倍多。
正如所有基於人工智慧的演算法都需要不斷通過機器學習新的資料來提高準確度，亞馬遜的招聘演算法也是亦然。問題是它基於十年來投遞給公司的簡歷來訓練演算法模型，而這些簡歷大部分都是男性投遞的，這是科技行業一個引人爭議的現狀，但演算法並不知道如何應對這一情況，因此它就被訓練成了對女性求職者有偏見，會優先選擇男性求職者的演算法。
據知情人士表示，在讀取到帶有「women's（女性、女子）」的相關詞時，演算法會降低簡歷的權重。比如簡歷中出現「女子象棋俱樂部隊長」或者「女子學院」這樣的關鍵詞時，演算法會直接對她們作降級處理。演算法對簡歷上求職者提交的自我描述文案也有所偏好，比如演算法會更多向「執行」（executed）、「攻佔」（captured）等在男性求職者簡歷中的高頻詞彙傾斜。
雖然亞馬遜自己聲稱一直在權衡公司的員工多樣性和平等，也為了防止程式產生偏見，特意編寫過相關的程式碼，但機器學習一旦運轉起來，黑箱給出的結果也很難追根溯源。此外，實踐證明演算法給出的「最佳人選」往往在工作中表現的並不盡人如意，「這個技術給出的結果幾乎是隨機的。」知情人士說道。
亞馬遜高管沒過多久就對這個專案失去了信心，開發團隊也在去年初解散。知情人士表示，亞馬遜不會直接按照演算法給出的「最佳人選」來聘請員工，AI 工具產生的結果只是作為招聘參考。
AI 招聘還在路上
儘管亞馬遜的嘗試已經遭到了內部的自我否決，但在人工智慧應用愈發火熱的當下，越來越多的公司開始嘗試採用這種招聘方法。
據開發人才軟體的公司 CareerBuilder 的調研顯示，2017 年，美國有 55% 的 HR 表示在未來五年內，人工智慧會參與到他們的日常工作之中。此外，希爾頓和高盛集團也在發掘把招聘流程自動化的方式。除了提高效率之外，減少人類招聘者對應聘者的主觀判斷也是各大公司想要使用科技參與招聘的原因之一。
比如在視訊面試中加入視覺識別技術，分析求職者的面部表情、姿態和用語，而不單單只是看他的簡歷上的畢業院校和過往成績，之於招聘者就更有可能找到有能力的人才而非花瓶。就簡歷來說，之於大公司，也越來越傾向使用分析工具而非只依靠人工分配來把求職者分配到他合適的崗位上。目前聯合利華、希爾頓、高盛都已經將類似技術應用於招聘流程中。
另一方面，也正如亞馬遜不太理想的實驗，無論是簡歷分析還是視覺識別，目前招聘這項工作還是遠遠不可能完全交由技術來完成。亞馬遜目前也只是在用相關技術做一些大範圍篩選簡歷的基本工作，但它們並沒有完全放棄自動化招聘，公司在愛丁堡成立了新的團隊，致力於再次研發招聘演算法，這一次的重點，則放在如何做到多元化，減少演算法的產生的「偏見」機率上。
去年冬天，M.I.T 的研究員 Joy Buolamwini 就曾發表論文，強調目前面部識別技術中隱藏著的嚴重種族偏見。她測試了許多面部識別商用軟體，99％ 的白人男性的性別可以被正確識別，但隨著膚色變暗，錯誤率呈指數增長，近 35％ 的黑人女性，包括像奧普拉和米歇爾·奧巴馬這樣的知名人物都會被誤認性別。今年夏天，美國公民自由聯盟釋出了一份關於亞馬遜研發的向執法機構推銷的面部識別系統 Rekognition 的報告，發現其中至少有 28 起把國會議員的照片與資料庫中的罪犯混為一談的「錯認案」。
如何確保演算法是公平的，且過程不黑箱，給出的參考結果是有說服力的，這或許是一個比人類招聘者給出個「不滿意理由」更艱難的目標。如何避免讓演算法有偏見，則是要讓演算法去克服人類本身易產生偏見和其他諸多思維上的缺陷，當你不自覺錄入了偏見，演算法就會在一次次推演中把原本細小的偏見撕的越來越大，最後一根針眼撕成了一道裂縫，那批評演算法不精準有缺陷，或許並不只是它的錯。
參考：
ofollow,noindex">Amazon scraps secret AI recruiting tool that showed bias against women
Amazon scraps AI for bias against women, raises more doubts about objectivity of algorithms
頭圖來源：視覺中國
責任編輯：宋德勝