利語和波斯語譯成英語時，也出現了同樣的現象。
好消息是我們現在有了這些數據——但程序員們是否會用這些數據來修正他們偏向男性的算法還有待觀察。
我們希望他們會，因為機器不僅能反映我們的偏見，有時還會放大它們——而且是大幅放大。
2017年的圖像研究顯示，女性出現在烹饪相關圖片中的可能性至少比男性高33%，但以這個數據集為基礎訓練的算法将廚房圖片與女性聯系起來的概率是68%。
這篇論文還發現，原始偏差越大，放大效應就越強，這或許可以解釋為什麼該算法會将一張站在烤爐前的肥胖秃頂男子的照片标記為女性。
因為廚房>男士脫發。
斯坦福大學生物醫學科學助理教授詹姆斯·鄒解釋了這一點的重要性。
他舉了一個例子，有人在一個程序上搜索“計算機程序員”，該程序受過數據集的訓練，而數據集裡這個詞與男性的關聯度高于女性。
[44]該算法便可能認為男性程序員開發的網站比女性程序員的更重要——“即使這兩個網站完全一樣，除了開發者的名字和性别代詞”。
因此，一個偏向男性的算法如果以有性别數據缺口的語料庫為基礎進行訓練，真的能讓女性失業。
但網絡搜索還隻是觸及了算法如何指導決策的表面。
據《衛報》報道，全美國72%的簡曆從未經過真人閱讀，[45]而機器人已經參與到面試過程中，它們的算法依據“表現優異員工”的姿勢、面部表情和聲調進行過訓練。
[46]聽起來好像很厲害——直到你開始考慮潛在的數據缺口：程序員能否确保這些表現優異的員工具有性别和族裔多樣性？如果不能，算法能否考慮到這一點？該算法是否經過訓練，能夠考慮到聲調和面部表情的社會化性别差異？我們并不知道答案，因為開發這些産品的公司并不分享他們的算法——但讓我們面對現實吧，根據現有的證據，這似乎不太可能。
人工智能系統也已被引入醫療領域，用以指導診斷——盡管這最終可能成為醫療保健的福音，但它目前給人的感覺是有點傲慢。
[47]在将人工智能引入診斷學的同時，人們似乎很少或根本沒有意識到，有大量證據證明，在涉及女性的醫療數據方面長期存在着數據缺口。
[48]這可能是一場災難。
事實上，很可能是緻命的——尤其是我們已經了解到機器學習會放大既存的偏見。
由于我們的醫學知識嚴重偏向男性身體，人工智能可能對女性做出更糟糕而不是更好的診斷。
而且目前幾乎沒有人意識到這裡正在醞釀一個大問題。
2016年谷歌新聞研究報告的作者指出，在有關單詞聯想軟件的“數百篇論文”中，沒有一篇承認這些數據集構成了“公然的性别歧視”。
圖像标簽論文的作者則指出，他們“最先證明了結構化預測模型放大偏差，同時也率先提出了減少這種影響的方法”。
我們目前的産品設計方案對女性不利。
它正在影響我們有效工作的能力——有時甚至會影響我們找到工作的能力。
它影響着我們的健康，也影響着我們的安全。
也許最糟糕的是，有證據表明，算法驅動的産品會使我們的世界更加不平等。
然而，隻要我們承認這些問題，就會有解決這些問題的辦法。
2016年那篇“女性=家庭主婦”論文的作者設計了一種新的算法，将性别刻闆印象（如“他是醫生，她是護士”）至少減少了三分之二，同時保證涉及性别的詞語關聯（如“他可能會患前列腺癌，正如她可能會患卵巢癌”）不變。
而2017年圖像判讀研究的作者們設計了一種新的算法，将偏向放大率降低了47.5%。
***
①這種鍵盤上一個八度的寬度相當于傳統鍵盤上的七度。
②作者寫作此書時，蘋果公司尚未推出iPhoneSE系列的第2代。
③作者可能是指2016年在中國上市的美圖手機，Keecoo手機的設計理念與美圖手機相似。