利用警局資料 IBM物件識別軟體根據膚色識別身份
2001年的9/11恐襲迅猛推高了全世界的安全意識，尤其是事發地紐約。紐約警局(NPYD)在遇襲後的10年裡大幅增強了其監視能力。
最近一份報告宣稱，IBM利用這些攝像頭的資料，訓練其視訊監視軟體根據膚色來給人打標籤。
據洩密網站 The Intercept 的訊息，9/11之後司法機構對IBM視訊分析軟體的需求急劇上升。因為能夠運用物件識別技術標記人員，該軟體可整合進公共攝像頭以搜尋恐怖分子嫌疑人。另外，無人看管的行李、非法侵入者等等也可以用這套軟體加以識別。
自動化該識別過程可以讓使用者迅速搜尋時長數小時的錄影，找出匹配特定描述的個人。
The Intercept 已經看過了揭示IBM開始接入NYPD攝像頭網路開發其軟體的機密文件。
警局在郵件中稱，我們不時提供視訊給IBM以確保他們正在開發的產品適用於紐約市人流密集的環境，幫助我們保衛這座城市。NYPD與IBM簽訂的協議中沒有禁止出於系統開發目的的資料共享。
另外，與NYPD簽約的所有供應商都被要求在協議存續期間、履約後和意外終止時，均保證NYPD提供的資料是保密的。
NYPD證實，一些反恐警官早在2012年夏天就可使用帶膚色識別功能的預釋出版本。儘管發言人 Peter Donald 說警官們被指示不要用這個功能來做判斷。
警局一直沒用上這款分析軟體，並在2016年結束了與IBM的合作。Donald稱他沒發現有任何案例在逮捕或起訴中使用了IBM技術。
IBM在2016年底或2017年初開發了2.0版本，新增根據種族追蹤並提供諸如“亞洲”、“白種”或“黑種”等標籤的功能。據Donald所言，警局“因為該帶種族歧視的功能而明確拒絕了該產品。”
其他組織機構並沒有這種愧疚感。加州大學北嶺分校的校警就表示，他們一直在用帶這項功能的IBM工具跟蹤罪犯，有時候甚至用於監視學生抗議者。
與人臉識別技術不同，物件識別幾乎不在隱私維權人士的雷達範圍內。但公民自由倡導者如今宣稱，已經注意到了大規模種族形象定性的可能性。
技術無罪，但有可能被濫用。
無論作惡者是不是穆斯林，通常都會假設他/她是。不難想象，司法機構會直接得出有關嫌疑人種族和宗教信仰身份的結論，匆忙查詢視訊資料庫並梳理出符合該外形描述的人，然後招人進來問詢。
物件識別系統可能僅僅因為符合了一些常見外形特徵，就不公正地指認某人是疑犯。
比如說，給出一個籠統的描述，類似“穿兜帽衫的年輕黑人男性”這種，該軟體的內部演算法會標識出視訊中距離事發現場幾個街區的某行人。警察找個藉口攔下他，說他符合之前某事件嫌疑人的特徵描述什麼的。
而且，NYPD幫助IBM的方式，已經設立了一個危險的先例：
沒什麼事是真正意義上的“別人家的事”。公共空間裡也不用期待會有什麼隱私。於是，如何打造工具來實現監視就值得商榷了。這也正是為什麼此類知識應更為廣而告之的原因所在——為方便找出真正的解決方案。
揭示IBM開始接入NYPD攝像頭網路開發其軟體的機密文件原文：
www.documentcloud.org/documents/4452844-IBM-SVS-Analytics-4-0-Plan-Update-for-NYPD-6.html