芥末堆 芥末堆

职业歧视、种族偏见可以被量化?有人做出了这样一个模型

作者:脑极体 发布时间:

职业歧视、种族偏见可以被量化?有人做出了这样一个模型

作者:脑极体 发布时间:

摘要:或许有一天,每个人都会成为一个没有偏见的人。

1.jpg

无论是中国人还是外国人,在个孩子起名字的时候都会有一定的寓意。尤其中国人的名字,纷繁复杂、各不相同,一个好名字往往就会给人非常深刻的印象。比如“高强”,往往会让我们联想到身材的高大和能力的出众。

也就是说,甭管你见没见过这个人,当你看到他的名字的时候,你就已经对他产生了第一印象。而这种印象与其本人的真实状态几乎毫无关联。

不仅仅是看人的名字,人们对陌生人进行判断的时候,会根据很多因素产生刻板的印象。比如认为北方人更粗犷,南方人更精细;或者天然地存在歧视某地居民;或者对某种职业产生偏见;或者非常敏感的种族主义问题。

我们往往认为陈规的观念和偏见本质上是主观行为,在心理学研究上就很难对这种主观行为进行掌控。而在近期,面对人们的偏见问题,科学家们却在试图开发出一个模型,以对可能发生的不平等待遇进行预测。

从“晕轮效应”开始,到量化偏见的模型

在认知心理学当中,有一个概念叫做“晕轮效应”,由美国心理学家爱德华·桑戴克在上个世纪20年代提出。其认为,当认知者对一个人的某个特征形成固定的好的或坏的印象之后,其还会对该人其他特征形成类似的推断。最简单的比方,当你开始喜欢上一个人的时候,你会发现它所有的一切都是美好的;似乎也有那么点爱屋及乌的意思。

2.jpg

而实际上,爱德华对这种效应持有的是否定的态度。也就是说,从一个局部的印象扩展到整体,很容易产生对某个人的片面理解,由此而产生偏见。

在此之后,心理学家戴恩也做过一个实验。他通过给受试者提供不同类型的照片,比如有魅力、魅力中等和无魅力,然后让其点评。最终那些看起来更有魅力的人会得到更多褒奖的评价,长得越不好则积极的人格评价越少。

这种以貌取人,就是晕轮效应的最基本体现。

但问题在于,传统上人们认为这种主观印象是很难固定的,毕竟每个人都不同。而最近来自伯克利大学和北京大学的研究人员则试图在做这样一件工作:通过建立一个模型,把人们的刻板印象和不平等待遇进行量化,从而达到可以预测不平等待遇发生的可能性。

打个比方,小明和小红都讨厌小花,但小明更讨厌。可是这个“更”到底是多大程度呢?研究人员要做的就是给小明的讨厌程度打10分,小红打7分。这样就把人们偏见的程度进行了量化,从而可以对这种心理进行科学研究。

为了更直白地对人们的表现进行研究,研究人员做了一系列的实验。其中有一项是心理学中的“独裁者游戏”,给受试者10美元,他拥有对这10美元的绝对处置权利。在实验中,研究人员让受试者根据给出的信息(职业、国家、种族等)来决定自己会拿出10美元中的多少给对方。结果表明,人们仅仅根据一条信息就给出了不同的金额,比如无家可归的人受试者平均收到了5.1美元,“瘾君子”则收了1.9美元,“律师”甚至只收了1.7美元。

在这项研究中,研究人员还借鉴了心理学当中“热情”和“能力”两个因素对人们偏见的影响。很显然受试者认为律师是非常有能力的,因此不应该得到更多的前;而且受试者还认为爱尔兰人更热情只是能力差点,因此得到的钱要比英国人更多一点。

3.jpg

实验结果表明,受试者通过“热情”和“能力”对分钱的对象进行分级,与最终给予的钱的数量基本一致。

也就是说,通过这种模型的测试,研究人员可以对某人对某个职业、种族、国籍等群体产生何种程度的偏见和不平等待遇进行预估,从而对社会上的不平等现象进行把握和做出对策。该模型确实让人眼前一亮,但如果能够和下面这个研究成果结合起来,或许关于人的偏见的预测会更加精准。

D因素来了,黑暗人格或能给这个模型加点料

从某种程度上来说,人们对某个群体产生偏见的原因或许是认识的片面,但还有一种可能就是:他就是刻意要对其进行歧视。在这种情况下,他可能是一个黑暗人格之人。

人们一般认为,黑暗人格的人往往在道德伦理和社会表现上存在一定违背常理的情况。比如说自恋、变态、自傲、冷酷、腹黑等,这些不同的黑暗性格表现个不相同,但最近有人找到了它们之间共同的联系,而这个联系就被称为“D因素”。

来自德国和丹麦的研究团队将D因素的特征分为九个,即自我、马基雅维利主义、道德缺失、自恋、心理权利、精神变态、施虐倾向、利己主义和怀恨在心。他们认为,基本上拥有黑暗人格的人,或多或少都会呈现出这些特征,而在某一项特征上集中呈现。也就是说,如果你沾上了这九个特征中的其中一条,你就可以被认为是一个黑暗人格之人;占的条数越多,你就越黑暗……

还不赶紧对照一下自己到底有多黑?

4.jpg

但是,影响黑暗人格的D因素与偏见的量化又有什么关系呢?

可以肯定的是,在拥有黑暗人格因素的人身上,偏见行为会得到放大。也就是说,假如一个正常人格的人给了律师1.7美元的话,那么黑暗人格的人可能会因为对律师这一职业的天然印象(有钱、地位高等)而产生逆反,进而在自己能够成为掌控者的情况下对律师产生更严重的偏见。反映在给钱的数量上,可能就会远低于1.7美元。

那么,问题就在这里。伯克利大学的研究人员想要将人们偏见的行为量化起来,不仅要建立一个社会上对某一个群体的看法的普遍模型,还要考虑到产生偏见主体的个人因素。而其中的人格就是重要一环。

打个比方来说。当我们要预测一位求职者是否会通过面试官的考核的时候,首先我们要看求职者的姓名、籍贯、经历,给出一个其在普遍意义上是否符合用人的一般标准的初步判断;然后,针对面试官的人格因素,再判断求职者的条件会引起面试官怎样的反应。

从这个角度上来说,为了保证自己在面试时候对面试者的公平对待,面试官就可以通过这个加入了黑暗人格因素的偏见模型对自己进行测试,然后量化的得出自己可能会不由自主地对哪些人产生偏见。那么,在面试的时候,就可以达到提醒自己、避免犯错的效果。

而不仅仅是黑暗人格可以对模型的优化起积极的作用,一些其他的人格因素的加入提高预测的精准度。也就是说,对个人偏见的预测,结合人格方面的因素或许会收到更好的效果。

人工智能、游戏优化……偏见模型有什么用?

那么,这项在关乎心理学的研究模型,又能够在现实中产生哪些作用呢?

可以确定的是,它绝不会沦为一项仅供娱乐的测试项目。或许在解决人工智能歧视问题上,它还能发挥一定的效用。

我们知道,人工智能之所以会产生歧视问题,其实就是对人类行为、职业、种族等进行关联分析后的结果。也就是说,没有人告诉它医生应该是个男性而护士应该是个女性,但它却在经过大量的数据学习之后,做出了最大可能的解。

5.jpg

那么,要解决这个问题,则可以利用偏见模型来对其进行训练。比如伯克利大学的研究人员为了这个实验总共找了大概1200人,那么为了对AI进行训练,研究者可以进一步扩大参与实验的人员数量。通过对较大数量人群的偏见进行量化,然后总结出哪些类型的人容易对人的哪些特征产生偏见,并将这些结果交给AI进行学习。在这种情况下,AI在做出判断的时候就会多了一道对照结果进行纠错的程序。

如此一来,即将给出歧视结果的AI,将可能会在最后一刻对答案进行优化,从而大幅度减少歧视情况的发生。

另一方面,利用偏见模型将可能会对一些涉及人物角色类的游戏进行优化,以更好的增强玩家的沉浸体验。比如日本的很多游戏中设计的关于中国的人物形象,女性多为旗袍、马尾或短发,男性则多辫子、短衫或……和尚;而涉及西方人物的时候则往往是肌肉横生、高大魁梧。这就是日本人对中国和西方人的刻板的、固有的印象。符合了大众的普遍认知,自然能获得更多的玩家投入。那换个角度简单来说,在设计日本的人物形象的时候,矮小、卫生胡、八字嘴,估计是最符合中国人对日本人的一贯印象,虽然在身材方面中国人已经被日本超过……

6.jpg也就是说,深刻地了解到玩家对某种人物或场景的刻板印象,并按照大部分人的普遍印象进行设计,效果想必会好很多。

由此推开,把握住目标人群对产品的一贯的印象,将可能成为众多产品研发者的一把利器。

当然,构建偏见模型更重要的现实意义在于了解到人群的歧视模式并采取相应科学的方法将其消解,或者帮助个人更好地了解自己所未尝察觉的偏见弱点,从而构建一个更加和谐的群体。或许有一天,我们的世界里将不再存在种族、性别、职业等歧视,每个人都会成为一个没有偏见的人。

本文转自微信公众号“脑极体”,作者小豪。文章为作者独立观点,不代表芥末堆立场。

1、本文是 芥末堆网转载文章,原文: 脑极体
2、芥末堆不接受通过公关费、车马费等任何形式发布失实文章,只呈现有价值的内容给读者;
3、如果你也从事教育,并希望被芥末堆报道,请您 填写信息告诉我们。
来源: 脑极体

参与讨论

想知道谁回复了你的留言?登录后即可查看~
总共0条评论

全部讨论

  • 职业歧视、种族偏见可以被量化?有人做出了这样一个模型分享二维码
×
LOGO Close
点击刷新
获取

注册| 忘记密码

笔名:

微信:

微博:

手机:

获取验证码

验证码:

简介:

修改头像
头像

头像
我的文章

填写信息

|
|
|
|
|
| 取消 确定
微信支付

【电脑】请您打开手机微信APP,可选择“扫一扫”识别下方二维码进行支付;

【手机】长按下方图片,可选择“识别二维码”进行支付。

pay
请您稍等片刻,付款成功将自动关闭!
支付 有问题请联系电话:010-53695051
微信
购买