無人車失控怎麼辦?東方人先救老人 西方人願救更多人
北京時間11月2日下午訊息,據美國財經媒體Quartz報道,當各國爭相路測無人駕駛汽車時,這些車輛和人類司機一樣,不可避免地需要自行快速作出決定。但有些時候,任何一種決定不可避免會對一群人或是另一個人造成傷害,這便是著名的“電車難題”。
在這樣的情況下,人類要如何調整決定車輛行為的演算法呢?而麻省理工學院媒體實驗室的調查結果顯示,這要取決於所在國家或地區的社會觀念。
研究人員開展了一個名為“2016年道德機器”的調查。他們發現,不同社會環境下,公眾在此問題上存在很大分歧。他們希望,這一結果能夠促進全球範圍內的人進行討論,將大眾的想法傳遞給設計倫理演算法的公司,以及監管無人駕駛汽車的政策制定者。
“在人類歷史上,我們從未允許機器在沒有實時監督的情況下,在一秒時間內判定誰生誰死。”研究人員寫道。
這項調查設計了13個場景,都涉及這樣一個困境——當車輛剎車系統出現故障時,一組人或另外一組人不可避免需要面臨死亡。其中一組人也許是三個正在過馬路的老人,另外一組則是坐在車內的兩個成年人以及一個孩子。調查的目的是,人們在面臨此類困境時,本能的道德態度是什麼樣的。
本次調查中的一個問題:當無人車失控時,你想讓車輛從下面兩個決策中如何選擇?1. 變道,撞死一名大漢和一條狗(該行人遵守交通法規);2. 不變道,撞到水泥路障上,車內一名犯罪嫌疑人、一名男性運動員、一名男性高管死亡
來自233個國家的230萬人參與了此次調查,作出了4000萬個決定。上週五,《自然》科學期刊上發表了一篇對於130個國家至少100份回覆的分析。
研究人員發現,在西方、東方和南方國家群體中,彼此之間的觀點存在很大差異。
西方、東方、南方群體在調查中的不同選擇
年輕人 vs. 年長者
包括美國、大多數歐洲國家以及肯亞、南非等非洲國家在內的西方群體中,都明確表示要拯救兒童。在拯救兒童的國家中,加拿大排名29位,英國排名34位,而南非排名38位。
而強調社會等級規範的國家(例如秉持儒家價值觀的中國、日本、韓國),以及堅持社會保守主義的中東和南亞國家則組成了東方群體。東方群體強調的是尊重年長者,因而有更大可能偏向救年長者,而不是年輕人。就是否“願意救年輕人,而不是年長者”這一問題上,中國(第115名)、韓國(第110名)、日本(第103名)以及印度(第99名)均排在末尾,表明這些地方的公眾更傾向於救年長者。
拯救更多的人
西方群體的國家通常更願意拯救更多的人。比如說在拯救更多的人方面,美國排在前列,位列第14名,而日本(第117名)以及中國(第113名)則處於另一個極端。研究人員表示,崇尚個人主義文化的調查物件更可能偏向拯救更多的人。
行人 vs. 乘客
東方群體的大多數國家傾向於拯救行人——日本在所有國家中位列榜首,緊隨其後的分別是約旦、巴基斯坦以及伊朗——以及遵守交通法規的人。這或許反映了這些國家的集體主義精神,以及因循守舊的社會習俗。而在西方群體中,相比車內的乘客,人們不太想去優先拯救行人。
女性 vs. 男性
與此同時,拉丁美洲國家、法國以及受法國影響的一些國家構成了南部群體,他們更願意拯救女性而不是男性。在願意拯救女性方面,法國排在第二位,而屬於西方群體的德國則排在第74位。東方國家對於拯救女性沒有特殊偏向。
當然,並非所有特定地理群體內的國家都會採取相同的措施,一些國家可能會與其他群體裡的國家表現出相同特徵。比如說,在涉及到“救行人還是救車內乘客”的問題上,日本排在第一位,比任何參與調查的國家都更偏向於拯救行人,挪威(第13名)與日本在此問題上的態度非常相像,而東方群體中的中國則排在第116位。
與此同時,雖然中國和印度屬於同一地理位置且同一群體,但是中國偏向拯救遵守交通法規的人(第9名),印度則在此問題上排在第97位。
雖然研究結果引人深思,但是南卡羅來納大學的法律學教授科比·沃克·史密斯(Bryant Walker Smith)認為,無人駕駛汽車面臨這種兩難選擇是非常罕見的現象。通常,無人駕駛汽車預計在未來會讓道路變得更加安全。
但報告的另一位作者愛德蒙·阿瓦德(Edmond Awad)希望,該研究不但可以激發人們思考無人駕駛,還可以讓大家更深入地思考誰的價值觀會影響人工智慧。
研究人員在文章第四頁指出,個人以及集體文化之間的區分“可能是政策制定者需要考慮的最為重要的因素”。他們還補充寫道,“個人主義以及集體主義文化之間的不同也許是機器倫理面臨的重大障礙。”