1. 程式人生 > >性格能夠被識別後,我們究竟失去了哪些權利?

性格能夠被識別後,我們究竟失去了哪些權利?

文 | 顏璇

來源 | 智慧相對論(ID:aixdlun)

俗話說得好,“性格決定命運。”

性格為什麼可以決定一個人的命運呢?在以前,人們認為這是因為思想決定行為,行為決定習慣,習慣決定性格,性格進而決定命運,而到了人工智慧興起的今天,因果關係可要簡單得多了。

當你的性格可以被AI一眼看穿,你就必須意識到,你的命運即將開始改變。你的人格魅力、一些古怪的性格特點以及情緒穩定度會被AI資料化,你身邊的人都可以根據這一份資料報表來評判你,並決定是否要跟你做朋友,你的老闆也可以據此來決定要不要聘用你……

近日,來自墨爾本大學的研究人員就設計了一種AI生物識別鏡,可以根據人的臉部照片檢測和顯示其個性特徵和外貌上的魅力,最多可以分析14項性格特徵,包括性別、年齡、種族,以及魅力、性格古怪之處和情緒穩定度等。

AI變成了一塊魔鏡,可以照到每個人性格的“樣子”。現實中自然不會有惡毒的皇后給善良的公主喂毒蘋果,我們卻有點害怕被魔鏡否認“你才不是世界上性格最好的人”。用AI分析性格,還是有待商榷。

外貌體現性格?顯然是不靠譜的

識別性格的AI鏡僅僅由使用者的外貌做出估計,它的準確性便會十分有限。資料的一維性會對資料存量產生更多的要求,但這個系統在設計上只參考了相對較小且眾包的資料集,所以,僅僅靠外貌就想要得到公平的性格結論顯然是不可能的。

除此之外,AI分析性格的系統並非是心理分析儀,而是生物識別,尤其是面部識別系統,在這方面,就難免遭遇人臉識別的通病——在年齡、性別和種族上的歧視。

今年上半年,亞馬遜的 Rekognition被許多執法部門採用,但就在近日,美國民權組織使用該系統掃描了所有 535 位美國國會議員的面部照片後,發現其中 28 人竟被識別成了罪犯。而在28 個錯誤匹配中,有 11 個是有色人種(約佔 39%)。要知道,在當前美國國會上,只有 20% 的議員是有色人種。

無獨有偶,由IBM、微軟和曠視科技(Face++)設計的面部識別演算法,與膚色較淺的男性相比,其在檢測膚色較深的女性時,出錯率也要高出35%。

這顯然是個很難解決的問題,當我們預設一個人的外貌與其性格有著強聯絡時,在“以貌取人”的時代裡,再將性格判定權利交給有偏見的AI,這其中的後患是不能低估的,而生物識別鏡凸顯了演算法偏差可能造成的現實後果。

AI性格分析進入市場,會剝奪我們的哪些權利?

 退一萬步來講,即使通過面部識別能夠分析出某個人的性格特徵(畢竟外貌和性格都與遺傳有關),新技術的應用可沒有想象中那麼簡單。就智慧相對論(ID:aixdlun)分析師顏璇來看,其中隱患至少有三點。

  1. 性格的“魔鏡”變成了父母的“遙控器”

一般來說,性格一經形成便比較穩定,但並非一成不變,而是具有可塑性的。性格不同於氣質,更多體現了人格的社會屬性,是可以通過習慣化了的行為方式去改變的。

性格的可塑性自然是讓父母看到了某種希望——打造一個完美性格的、抑或是父母想要的那種性格的孩子。

最近,臺灣上線了一部新劇《你的孩子不是你的孩子》,堪稱臺灣版《黑鏡》,在這部劇中有這樣一個故事——一位母親手中有著一個可以控制兒子時間的遙控器,在母親的眼裡,這個遙控器就是一種“資源”,她可以不斷地重複兒子的時間,不斷地修正兒子的錯誤,最後讓兒子變得更加完美。

性格的校準器無疑也會成為這樣一種“資源”,而這樣的資源,你想不想要?人們可以通過這個機器不斷地校正,讓孩子的性格變得更加討喜。而到了最後,你的性格究竟還是不是你的性格?這是個值得思考的問題。

2.性格分析系統成了商業資訊的靶子

眾所周知,智慧系統可以從數以億計的資料中提取使用者特徵,演算法再將大量廣告精準投放,引導使用者進一步消費,我們的智慧手機已然成為了我們的“圓形監獄”。

當AI性格分析開始大範圍落地,眼看著有一天,智慧產品能夠掌握大量人們的性格資料,進化到比人們自己還“懂”自己,在購物和廣告這個領域,無法控制的演算法可能會為某種性格的你推薦適合的商品,讓你毫不猶豫地去消費。

AI分析性格的興起,使得營銷人員能夠以前所未有的姿態直接去了解消費者。使用者的所有資訊指標正在無時不刻地與保險公司或商業公司所共享,這個專案透明化地呈現了這些資訊對個人產生的潛在後果。

其結果便是商業資訊氾濫,推銷廣告和商業化營銷完美地捏住了使用者的“命門”。消費者們毫無抵抗能力,不假思索地產生對商業品牌牢固的忠誠。

3.性格分析剝奪了我們追求進步的權利

目前,已經有許多企業開始利用大資料、AI等技術來招聘人員,通過在職位畫像和人才畫像之間進行精準匹配,節省了人工篩選簡歷的環節,有效提高招聘效率。但是,利用AI進行面試,並不能實現機器與人之間的交心溝通,面試者的綜合素質究竟如何還是要看HR的判斷。

然而,試想一下,你在面試的時候,HR可以通過AI性格分析系統選擇一個指標進行了解,比如你的責任感水平, 當HR發現你的責任感並不是這群面試者裡最好的,你可能就失去了一個就業機會。

在招聘過程中,當僱主們能夠大批次地使用AI來分析應聘者的性格時,那些公眾所認為的“性格不好”的人就會面臨更加艱難的就業過程,即使他們的能力十分突出。在以後,說不定個人的業務能力也能被AI估值,到了那個時候,用數字評判一切固然是公平的,卻剝奪了每個個體追求進步的權利。

我們不能因為時代的高速前進,而忽視自己與周圍環境的互動能力,尤其是自己獨立思考的能力。法國哲學家勒內·笛卡爾曾經提出,我思故我在。當個人的進步成為時代進步的犧牲品,我們還在嗎?

【完】

智慧相對論(微信id:aixdlun):深挖人工智慧這口井,評出鹹淡,講出黑白,道出vb深淺。重點關注領域:AI+醫療、機器人、智慧駕駛、AI+硬體、物聯網、AI+金融、AI+安全、AR/VR、開發者以及背後的晶片、演算法、人機互動等。