據路透社報道，亞馬遜的機器學習專家們發現了一個大問題，他們的新人工智能（AI）招聘引擎似乎不喜歡女性，為此將其關閉。
五名知情人士表示，自2014年以來，這個團隊始終在開發電腦程序以審查求職者的簡歷，目的是將尋找頂尖人才的任務自動化。自動化一直是亞馬遜在電子商務領域占據主導地位的關鍵，無論是在配送中心內部還是制定價格決策時。
知情人士說，亞馬遜的試驗性招聘工具使用AI給應聘者打分，分數從一星到五星不等，就像購物者給亞馬遜網站上的產品打分一樣。其中一人說：“每個人都想要這個‘圣杯’。亞馬遜真的想將其打造成引擎，給它100份簡歷，它會列出前五人，我們會聘用他們。”
但到2015年，亞馬遜意識到其新系統并沒有對軟件開發人員和其他技術職位求職者進行性別中立式的評估。這是因為，亞馬遜的電腦模型經過了培訓，通過觀察過去10年被提交給該公司的簡歷找出固有模式，并以此來審查應聘者。其中大部分簡歷來自男性，這也反映了男性在科技行業占主導地位的現狀。
實際上，亞馬遜的系統告訴自己，男性求職者更受青睞。這套系統對簡歷中含有“女子象棋俱樂部隊長”等語句中的“女子”一詞特別敏感。據知情人士透露，它還下調了兩所女子學院的畢業生評級，但他們沒有具體說明這些學校的名字。
亞馬遜編輯了這些程序，使它們對這些特定的術語保持中立。但上述知情人士說，這并不能保證其AI系統不會設計出其他可能被證明具有歧視性的篩選求職者的方法。據不愿透露姓名的知情人士說，亞馬遜最終在去年年初解散了團隊，因為高管們對這個項目感到失望。
亞馬遜的招聘人員在搜索新員工時查看了該工具提供的推薦信息，但他們表示，他們從來沒有僅僅依靠其排名來做出判斷。亞馬遜拒絕就招聘引擎或其面臨的挑戰置評，但該公司表示，它致力于打造職場多樣性和平等。
路透社率先報道了亞馬遜的實驗，它提供了一個關于機器學習局限性的案例研究。此外，希爾頓全球控股公司(Hilton)和高盛集團(Goldman Sachs)等越來越多的大公司也在尋求將招聘流程的部分自動化。人才軟件公司CareerBuilder 2017年的一項調查顯示，約55%的美國人力資源經理表示，在未來5年內，AI將成為他們常規工作的一部分。
雇主們始終夢想利用科技來擴大招聘網絡，以減少對人類招聘者主觀意見的依賴。但卡內基梅隆大學教授機器學習知識的計算機科學家尼哈爾·沙赫（Nihar Shah）認為，他們還有很多工作要做。沙赫表示:“如何確保算法是公平的，如何確保算法是真正可以解釋的，實現這些目標都還十分遙遠。”
對于全球最大的在線零售商亞馬遜來說，這項試驗開始于一個關鍵時刻。由于低成本計算能力的激增，機器學習在技術領域獲得了越來越大的吸引力。監管文件顯示，亞馬遜的人力資源部門即將開始大舉招聘：自2015年6月以來，該公司的全球員工人數增加了兩倍多，達到575700人。
因此，亞馬遜在其愛丁堡工程中心成立了新的團隊，其所屬人員已經增加至12人。知情人士說，他們的目標是開發能夠迅速在網絡上搜索并發現有價值應聘者的AI系統。該團隊創建了500個計算機模型，它們重點關注特定的工作功能和地點。他們教授每個模型辨認出現在過去求職者簡歷上的約5萬個術語。
知情人士說，這些算法學會了新的技能，知道求職者普遍具備的技能沒有什么意義，比如編寫各種計算機代碼的能力。相反，這項技術更青睞于那些用男性工程師簡歷上更常見的動詞來描述自己的人，比如“執行”和“捕獲”等。
性別偏見不是這種招聘工具唯一的問題。這些知情人士說，支撐模型判斷的數據也存在問題，這意味著不合格的求職者通常會被推薦到各種工作崗位上。他們說，由于這項技術幾乎是隨機反饋結果，亞馬遜關閉了這個項目。?
其他公司也在采取積極措施，這突顯出雇主迫切希望利用AI招聘人才的心態。鹽湖城附近的初創企業HireVue首席執行官凱文·帕克(Kevin Parker)表示，自動化正在幫助企業超越長期依賴的招聘網絡。他的公司分析了求職者在視頻面試中的講話和面部表情，以減少對簡歷的依賴。他的公司客戶包括聯合利華(Unilever PLC)和希爾頓(Hilton)。
高盛已創建了自己的簡歷分析工具，試圖將求職者與“最適合”的部門匹配起來。微軟旗下的全球最大職業社交網站LinkedIn走得更遠，它根據求職者在其網站上發布的簡歷是否符合職位要求，向雇主提供基于算法的求職者排名。不過，LinkedIn Talent Solutions副總裁約翰·杰辛(John Jersin)表示，這項服務并不能取代傳統的招聘方式。他說:“我當然不會相信今天的任何AI系統會自行做出招聘決定，這項技術還沒有成熟。”
有些活動人士表示，他們擔心AI的透明度。美國公民自由聯盟(American Civil Liberties Union)目前正在挑戰一項法律，該法律允許對那些測試招聘網站歧視算法的研究人員和記者提起刑事訴訟。該組織Racial Justice Program律師雷切爾·古德曼(Rachel Goodman)說:“我們越來越關注算法公平性這一問題。”
盡管如此，古德曼和其他對AI持批評態度的人承認，要就自動招聘問題對雇主提起訴訟可能極其困難，畢竟求職者可能永遠不會知道雇主在使用AI招聘。至于亞馬遜，該公司設法從失敗的AI實驗中吸取教訓。知情人士表示，亞馬遜現在使用“經過大量稀釋的”的招聘引擎版本，來幫助完成一些基本工作，包括從數據庫中剔除重復的求職者資料。
另一名知情人士稱，愛丁堡的亞馬遜新團隊將對自動招聘進行另一次嘗試，這次的重點集中在多樣化上。
