在这样的情况下,人类要如何调整决定车辆行为的算法呢?而麻省理工学院媒体实验室的调查结果显示,这要取决于所在国家或地区的社会观念。
研究人员开展了一个名为“2016年道德机器”的调查。他们发现,不同社会环境下,公众在此问题上存在很大分歧。他们希望,这一结果能够促进全球范围内的人进行讨论,将大众的想法传递给设计伦理算法的公司,以及监管无人驾驶汽车的政策制定者。
“在人类历史上,我们从未允许机器在没有实时监督的情况下,在一秒时间内判定谁生谁死。”研究人员写道。
这项调查设计了13个场景,都涉及这样一个困境——当车辆刹车系统出现故障时,一组人或另外一组人不可避免需要面临死亡。其中一组人也许是三个正在过马路的老人,另外一组则是坐在车内的两个成年人以及一个孩子。调查的目的是,人们在面临此类困境时,本能的道德态度是什么样的。
本次调查中的一个问题:当无人车失控时,你想让车辆从下面两个决策中如何选择?1. 变道,撞死一名大汉和一条狗(该行人遵守交通法规);2. 不变道,撞到水泥路障上,车内一名犯罪嫌疑人、一名男性运动员、一名男性高管死亡
来自233个国家的230万人参与了此次调查,作出了4000万个决定。上周五,《自然》科学期刊上发表了一篇对于130个国家至少100份回复的分析。
研究人员发现,在西方、东方和南方国家群体中,彼此之间的观点存在很大差异。
西方、东方、南方群体在调查中的不同选择
年轻人 vs. 年长者
包括美国、大多数欧洲国家以及肯尼亚、南非等非洲国家在内的西方群体中,都明确表示要拯救儿童。在拯救儿童的国家中,加拿大排名29位,英国排名34位,而南非排名38位。
而强调社会等级规范的国家(例如秉持儒家价值观的中国、日本、韩国),以及坚持社会保守主义的中东和南亚国家则组成了东方群体。东方群体强调的是尊重年长者,因而有更大可能偏向救年长者,而不是年轻人。就是否“愿意救年轻人,而不是年长者”这一问题上,中国(第115名)、韩国(第110名)、日本(第103名)以及印度(第99名)均排在末尾,表明这些地方的公众更倾向于救年长者。
拯救更多的人
西方群体的国家通常更愿意拯救更多的人。比如说在拯救更多的人方面,美国排在前列,位列第14名,而日本(第117名)以及中国(第113名)则处于另一个极端。研究人员表示,崇尚个人主义文化的调查对象更可能偏向拯救更多的人。
行人 vs. 乘客
东方群体的大多数国家倾向于拯救行人——日本在所有国家中位列榜首,紧随其后的分别是约旦、巴基斯坦以及伊朗——以及遵守交通法规的人。这或许反映了这些国家的集体主义精神,以及因循守旧的社会习俗。而在西方群体中,相比车内的乘客,人们不太想去优先拯救行人。
女性 vs. 男性
与此同时,拉丁美洲国家、法国以及受法国影响的一些国家构成了南部群体,他们更愿意拯救女性而不是男性。在愿意拯救女性方面,法国排在第二位,而属于西方群体的德国则排在第74位。东方国家对于拯救女性没有特殊偏向。
当然,并非所有特定地理群体内的国家都会采取相同的措施,一些国家可能会与其他群体里的国家表现出相同特征。比如说,在涉及到“救行人还是救车内乘客”的问题上,日本排在第一位,比任何参与调查的国家都更偏向于拯救行人,挪威(第13名)与日本在此问题上的态度非常相像,而东方群体中的中国则排在第116位。
与此同时,虽然中国和印度属于同一地理位置且同一群体,但是中国偏向拯救遵守交通法规的人(第9名),印度则在此问题上排在第97位。
虽然研究结果引人深思,但是南卡罗来纳大学的法律学教授科比·沃克·史密斯(Bryant Walker Smith)认为,无人驾驶汽车面临这种两难选择是非常罕见的现象。通常,无人驾驶汽车预计在未来会让道路变得更加安全。
但报告的另一位作者爱德蒙·阿瓦德(Edmond Awad)希望,该研究不但可以激发人们思考无人驾驶,还可以让大家更深入地思考谁的价值观会影响人工智能。
研究人员在文章第四页指出,个人以及集体文化之间的区分“可能是政策制定者需要考虑的最为重要的因素”。他们还补充写道,“个人主义以及集体主义文化之间的不同也许是机器伦理面临的重大障碍。”
本文素材来自互联网