，也不知道它們隐藏了什麼偏見。
我們之所以了解Gild算法中的這種潛在偏見，唯一的原因是它的一個創建者碰巧告訴了我們。
因此，關于這些人工智能的歧視性，這是一個雙重性别數據缺口：首先是在設計算法的程序員的認知方面，其次是在整個社會的認知方面。
在晉升和招聘中，都存在就業程序不自覺偏向男性的問題。
一個典型的例子來自谷歌，在這家公司裡，靠毛遂自薦獲得升職的女性員工少于男性。
這不足為奇：女性習慣于謙遜，萬一她們越過了這一既定的性别準則，就可能受到懲罰。
[66]但是谷歌感到驚訝，于是開始着手解決問題——這一點值得嘉許。
不幸的是，他們解決問題的方式是典型的男性默認思維。
目前還不清楚谷歌是沒有還是不關心強加給女性的文化期望數據，但無論如何，他們的解決方案不是修正男性偏見的體系，而是修正女性。
2012年，谷歌的人力運營主管拉茲洛·博克告訴《紐約時報》，谷歌的資深女性員工開始舉辦研讨會，“鼓勵女性毛遂自薦”。
[67]換句話說，他們舉辦研讨會來鼓勵女性更像男性。
但是，我們為什麼要接受這樣一個事實呢？即男人做事情的方式，男人看待自己的方式，才是正确的方式。
最近的研究表明，女性往往能準确評估自己的智商，但智商為平均水平的男性則認為自己比三分之二的人更聰明。
[68]在這種情況下，也許并不是女性提名自己的比例太低。
也許是男人推薦自己的比例太高了。
博克聲稱谷歌的研讨會是成功的（他告訴《紐約時報》，現在女性的晉升比例與男性相當），但若真是如此，為什麼谷歌不願提供數據來證明呢？美國勞工部在2017年分析谷歌的薪酬實踐時發現，“幾乎整個勞動力市場上都存在針對女性的系統性薪酬差異”，“在幾乎所有工作類别中，男性和女性的薪酬都存在六至七個标準差的差異”。
[69]谷歌已多次拒絕向勞工部提交完整的工資數據，在法庭上鬥争了數月以避免這種要求。
他們堅稱，公司不存在薪酬不平衡。
對一家幾乎完全建立在數據基礎上的公司來說，谷歌不願提供薪酬方面的數據，似乎有些出人意料。
它本不應如此。
軟件工程師周怡君自2013年以來一直在調查美國科技行業女性工程師的數量，她發現“每家公司都有一些隐藏或篡改數據的方法”。
[70]他們似乎也并不想費神去考察其“舉措能否令工作環境對女性更友好，或鼓勵更多女性進入或留在計算機行業”。
周怡君解釋說：“沒有辦法判斷他們的舉措是否成功或值得模仿，因為沒有任何成功的标準。
”結果，“沒有人就這個問題進行誠實的對話”。
科技行業為何如此害怕透露按性别分列的就業數據，原因尚不完全清楚，但它對優績主義神話的迷戀或許與此有關：如果想要得到“最優秀的人才”，你需要做的隻是相信優績主義，那麼數據對你有何用？具有諷刺意味的是，如果這些所謂的優績主義機構真的把科學看得比宗教重要，那麼他們完全可以利用現有的、基于證據的解決方案。
例如，與普遍的誤解相反，倫敦政治經濟學院最近的一項研究發現，在政治選舉和工作場所中引入的性别配額是為了“淘汰不稱職的男性”，而不是為了提拔不合格的女性。
[71]
他們還可以收集和分析有關招聘程序的數據，看看這些程序是否如他們認為的那樣性别中立。
麻省理工學院就是這麼做的，他們對30多年來的數據進行分析後發現，女性在“通常的部門招聘程序”中處于劣勢，“傳統的部門遴選委員會可能很難找到傑出的女性候選人”。
[72]除非遴選委員會明确要求各部門主管提供傑出的女性候選人姓名，否則他們可能不會推薦女性。
許多女性得以錄用，是因為明确提出要選拔女性候選人，如果沒有外界的鼓勵，她們可能一開始就不會申請這份工作。
與倫敦政治經濟學院的調查結果一緻，這篇論文還發現，在特别注重聘用女性時，标準并沒有降低：事實上，如果有什麼不同的話，那就是被聘用的女性“在某種程度上比她們的男性同行更成功”。
好消息是，一旦各個組織确實看到這些數據并試圖采取行動，可能會帶來翻天覆地的變化。
一家歐洲公司在發布技術職位招聘廣告時，使用了一張男性的照片并強調“進取心和競争力”，于是隻有5%的應聘者是女性。
而當他們把廣告換成一張女性的照片，并以文字強調熱情和創新時，女性申請人數飙升至40%。
[73]數字設計公司MadebyMany也發現了類似的轉變，他們改變了招聘高級設計崗位的措辭，更多地關注團隊合作和用戶體驗，而不是一味鼓吹執着和自負。
[74]這個職位并沒有變化，但對它的描述不同了——結果女性申請者的數量增加了一倍多。
這隻是兩則轶事，但有大量證據表明，廣告措辭會影響女性求職的可能性。
一項針對4000個招聘廣告的研究發現，如果廣告中使用了“進取”“雄心勃勃”或“堅持不懈”等與男性刻闆印象相關的字眼，女性就會喪失申請意願。
[75]值得注意的是，女性并非有意識地關注語言，也沒有意識到它對自己的影響。
她們把工作缺乏吸引力歸結為個人原因，使之合理化——這表明在你遭受歧視的時候，你甚至未必能意識到自己的處境。
幾家科技型初創企業也借鑒了紐約愛樂樂團的做法，開發了盲招系統。
[76]GapJumpers公司會給特定職位的求職者分配小型任務，并将表現最好的求職者的資料發送給招聘經理，但對其身份信息完全保密。
結果呢？大約60%的獲選者來自代表人數不足的背景。
當技術招聘機構SpeakwithaGeek在兩個不同的場合，向同一組雇主展示相同的5000名候選人時，他們發現了類似的戲劇性結果。
第一次，他們提供了候選人的姓名、經曆和背景等細節，獲得面試機會的人中有5%為女性。
第二次，這些細節都被隐去，被選中面試的女性比例為54%。
不過，雖然盲招可能在最初的招聘過程中很管用，但它難以被納入晉升程序。
但解決方案也是有的：問責制和透明度。
某家科技公司通過收集所有關于加薪決定的數據，并任命一個委員會來監控這些數據，讓經理們真正對自己的決定負責。
[77]采用這一制度5年之後，工資差距幾乎完全消失了。
***
①優績主義（meritocracy），原指選賢舉能的政治主張，後泛指社會地位和财富應根據個人能力來分配。
②第一民族（firstnations），指某一地區最早的原住民及其子孫。