皮尤報告：約六成美國公眾認為演算法總有偏見

美國使用者最廣泛的關注集中在演算法決策的公平性和有效性上。

11月16日，美國著名智庫皮尤研究中心（Pew Research Center）釋出《公眾對計算機演算法的態度》（Public Attitudes Toward Computer Algorithms）調查報告。報告顯示，有58%的美國人認為演算法和其他計算機程式總是包含某種程度的人類偏見，63%的50歲以上受訪者不相信計算機演算法可以完全保持中立。

對於演算法的態度取決於演算法使用的場景和使用者的特徵。就演算法應用的重要場景而言，美國人最不能接受的次序是：通過多種型別資料進行個人財務評估（68%）、求職面試時採用自動視訊分析（67%）、自動篩選求職簡歷（57%）、犯罪風險評估（56%），其中每一項都超過了一半。而為什麼無法接受？報告歸納出4項突出的主題：1. 侵犯個人隱私；2. 演算法不夠公平；3. 演算法去除了重要決策中人性的因素；4. 人類是很複雜的，系統無法捕捉到細微的差別。

就使用者特徵而言，四分之一（25%）的白人認為通過各類資料進行財務評估是公平的，這一比例在黑人中上升為45%。而通過演算法評估犯罪風險，有61%的黑人受訪者認為這對申請假釋不公，但這一比例在白人當中下降到49%。年輕人（18-29歲）覺得網上有趣的內容（54%）是讓其憤怒的內容（27%）的兩倍，但是年長群體看到的內容則相差沒有那麼大。年齡組50歲以下的受訪者大約有三分之二（66%）可以接受社交媒體使用他們的資料來給自己“推薦”想要認識的朋友，這一比例在年長群體（65歲以上）中卻只有36%。但大家都很反感將自己的個人資料用於目標廣告尤其是政治廣告。

究其原因，這與使用者的社交媒體使用具有重要關聯。有74%的受訪者不認為社交媒體可以準確地反映社會情況，但在一定程度上能夠引發自己的情感波動。有71%的受訪者會因網上內容感到憤怒，58%認為經常會遇到誇大其詞的內容，59%的受訪者會經常參與激烈的討論，儘管有時他們並不瞭解事情的真實情況。

此次調查是於2018年5月29日至6月11日對4594名美國成年人進行的調查。皮尤指出，除非可以證明演算法背後的程式碼足夠合理，目前公眾還是希望避免基於演算法做決策。但即便如此，該報告也顯示出，至少還有44%的受訪者有時會因為社交媒體的內容開心，有40%的受訪者相信通過精妙的設計可以做到去偏見（bias-free），以及相比較年長群體，年輕人更加認同演算法決策服務。

編譯：方師師

宣告：本文來自網際網路研究前沿，版權歸作者所有。文章內容僅代表作者獨立觀點，不代表安全內參立場，轉載目的在於傳遞更多資訊。如需轉載，請聯絡原作者獲取授權。