性別和種族刻板印象的語(yǔ)言變化與主要的社會(huì)運(yùn)動(dòng)和人口變化相關(guān)

人工智能系統(tǒng)和機(jī)器學(xué)習(xí)算法最近受到了抨擊，因?yàn)樗麄兛梢愿鶕?jù)他們編程的數(shù)據(jù)來(lái)挑選和加強(qiáng)我們社會(huì)中現(xiàn)有的偏見(jiàn)。

但是斯坦福大學(xué)的一個(gè)跨學(xué)科小組在4月3日發(fā)表的新的“美國(guó)國(guó)家科學(xué)院院刊”上發(fā)表了這一問(wèn)題。

研究人員使用詞嵌入 - 一種能夠映射詞語(yǔ)之間關(guān)系和關(guān)聯(lián)的算法技術(shù) - 來(lái)衡量美國(guó)過(guò)去一個(gè)世紀(jì)的性別和種族刻板印象的變化。他們分析了美國(guó)書(shū)籍，報(bào)紙和其他文本的大型數(shù)據(jù)庫(kù)，并研究了這些語(yǔ)言變化如何與實(shí)際的美國(guó)人口普查人口統(tǒng)計(jì)數(shù)據(jù)和主要的社會(huì)變化相關(guān)聯(lián)，例如20世紀(jì)60年代的女性運(yùn)動(dòng)和亞洲移民的增加。

“Word嵌入可用作顯微鏡來(lái)研究我們社會(huì)中刻板印象的歷史變化，”生物醫(yī)學(xué)數(shù)據(jù)科學(xué)助理教授James Zou說(shuō)。“我們之前的研究表明，嵌入有效地捕獲了現(xiàn)有的刻板印象，并且可以系統(tǒng)地去除這些偏見(jiàn)。但我們認(rèn)為，我們也可以使用嵌入作為偏見(jiàn)的定量，語(yǔ)言和社會(huì)學(xué)分析的歷史鏡頭，而不是去除那些刻板印象。 “。

Zou與歷史學(xué)家Londa Schiebinger，語(yǔ)言學(xué)和計(jì)算機(jī)科學(xué)教授Dan Jurafsky以及電子工程研究生Nikhil Garg共同撰寫(xiě)了該論文，他是第一作者。

“這種類(lèi)型的研究為我們打開(kāi)了各種各樣的大門(mén)，”Schiebinger說(shuō)。“它提供了一個(gè)新的證據(jù)水平，使人文學(xué)者能夠以前所未有的規(guī)模追蹤關(guān)于刻板印象和偏見(jiàn)的演變的問(wèn)題。”

單詞的幾何形狀

單詞嵌入是在文本集合上使用或訓(xùn)練的算法。然后，算法為每個(gè)單詞分配幾何向量，將每個(gè)單詞表示為空間中的一個(gè)點(diǎn)。該技術(shù)使用此空間中的位置來(lái)捕獲源文本中的單詞之間的關(guān)聯(lián)。

“嵌入是一種強(qiáng)大的語(yǔ)言工具，用于衡量詞義的微妙方面，例如偏見(jiàn)，”Jurafsky說(shuō)。

接受“光榮”這個(gè)詞。使用嵌入工具，之前的研究發(fā)現(xiàn)，形容詞與“男人”這個(gè)詞的關(guān)系比“女人”更接近。

在其新的研究中，斯坦福大學(xué)的團(tuán)隊(duì)使用嵌入來(lái)識(shí)別從1900年到現(xiàn)在十年間偏向于女性和特定種族群體的特定職業(yè)和形容詞。研究人員對(duì)報(bào)紙數(shù)據(jù)庫(kù)中的這些嵌入進(jìn)行了培訓(xùn)，并使用了以前由斯坦福大學(xué)計(jì)算機(jī)科學(xué)研究生Will Hamilton培訓(xùn)的其他大型文本數(shù)據(jù)集，例如美國(guó)圖書(shū)的Google Books語(yǔ)料庫(kù)，其中包含了20世紀(jì)20年代和21日發(fā)表的1300多億字。幾個(gè)世紀(jì)。

研究人員將這些嵌入發(fā)現(xiàn)的偏差與1900年至今的美國(guó)人口普查數(shù)據(jù)中的人口變化進(jìn)行了比較。

改變陳規(guī)定型觀念

研究結(jié)果顯示，在20世紀(jì)，人們對(duì)亞洲人和其他種族群體的性別描寫(xiě)和偏見(jiàn)發(fā)生了可量化的變化。

出現(xiàn)的一個(gè)重要發(fā)現(xiàn)是，隨著時(shí)間的推移，對(duì)女性的偏見(jiàn)在某種程度上變得更好。

例如，諸如“聰明”，“邏輯”和“體貼”等形容詞在20世紀(jì)上半葉與男性更多地聯(lián)系在一起。但是自20世紀(jì)60年代以來(lái)，隨著時(shí)間的推移，這些詞語(yǔ)越來(lái)越多地與隨后十年的女性聯(lián)系在一起，這與20世紀(jì)60年代的女性運(yùn)動(dòng)有關(guān)，盡管差距仍然存在。

該研究還表明，對(duì)亞洲人和亞裔美國(guó)人的刻板印象發(fā)生了巨大變化。

例如，在20世紀(jì)10年代，像“野蠻”，“怪異”和“殘忍”這樣的詞是與亞洲姓氏最相關(guān)的形容詞。到了20世紀(jì)90年代，這些形容詞被“抑制”，“被動(dòng)”和“敏感”等詞語(yǔ)所取代。研究人員表示，這種語(yǔ)言變化與20世紀(jì)60年代和80年代亞洲移民對(duì)美國(guó)的急劇增加以及文化刻板印象的變化有關(guān)。

“刻板印象變化的嚴(yán)峻性對(duì)我來(lái)說(shuō)很突出，”加格說(shuō)。“當(dāng)你研究歷史時(shí)，你會(huì)了解宣傳活動(dòng)和外國(guó)群體的這些過(guò)時(shí)觀點(diǎn)。但當(dāng)時(shí)的文學(xué)作品反映了這些刻板印象的難以理解的程度。”

總體而言，研究人員證明，嵌入一詞的變化與美國(guó)人口普查測(cè)量的人口變化密切相關(guān)。

卓有成效的合作

研究人員說(shuō)，這項(xiàng)新研究闡明了人文科學(xué)與科學(xué)之間跨學(xué)科團(tuán)隊(duì)合作的價(jià)值。

Schiebinger說(shuō)，在她閱讀了之前關(guān)于減少機(jī)器學(xué)習(xí)算法的工作之后，她向2016年加入斯坦福的Zou伸出了援手。

“這導(dǎo)致了一次非常有趣和富有成效的合作，”Schiebinger說(shuō)，并補(bǔ)充說(shuō)該小組的成員正在一起進(jìn)行進(jìn)一步的研究。

“它強(qiáng)調(diào)了人文主義者和計(jì)算機(jī)科學(xué)家一起工作的重要性。人文科學(xué)研究中這些新的機(jī)器學(xué)習(xí)方法有能力被人們理解，”她說(shuō)。