時間:2018-06-27 來源:互聯網 瀏覽量:
微軟的麵部識別工具剛剛取得了一些重大的技術進步,盡管時機可能有點糟(微軟Azure合同條款可能參與美國移民和海關執法局(ICE)的合作飽受爭議)。
周二,該公司在一篇博客文章中透露,其Azure認知服務的一部分——Face API,現在能夠識別出膚色較深的男性和女性,比之前的技術迭代要成功得多。這些更新特別提高了係統對膚色較深的女性的識別能力,降低了深色皮膚男性和女性的錯誤率20倍,並降低了所有女性的錯誤率9倍。
微軟表示,它能夠顯著降低精度差異在人口統計”通過擴大麵部識別訓練數據集,啟動新的數據集合變量的膚色,性別和年齡,改善其性別分類係統的“特別關注得到更好的結果為所有膚色。”
“膚色較深的女性的錯誤率較高,突顯出整個行業麵臨的一個挑戰:人工智能技術的好壞,取決於用來訓練她們的數據。”如果一個麵部識別係統要在所有人身上都表現良好,那麼訓練數據集就需要表現出不同的膚色,以及發型、珠寶和眼鏡等因素。
微軟指出,它整合了偏見培訓,由微軟高級研究員漢娜•瓦拉赫(Hanna Wallach)牽頭,她專門研究人工智能的公平性、問責性和透明度。另一位參與這項研究的高級研究員關注的是訓練數據中的偏見,這些偏見可能會導致有偏見的係統,比如“膚色較深的女性的代表性不足,可能導致人工智能係統在性別分類任務中出現不可接受的錯誤率。”
雖然消除技術係統中的偏見是一項崇高的事業,但對人臉識別的潛在監控和監控應用,尤其是人臉識別,卻讓許多批評人士躊躇不前。微軟目前正因其與美國移民和海關執法局(ICE)的關係而遭到強烈反對,盡管該公司反對該機構正在製定的邊境隔離政策。
今年1月,微軟(Microsoft)在獲得該機構的運營授權後,宣布了與ICE簽訂合同的意向。Azure認知服務中的Face API是Azure政府合同中提供的一套工具的一部分。
微軟在今年1月寫道:“這是ICE提供基於雲的身份和訪問等服務的關鍵下一步,它可以為員工和市民提供基於雲的應用。”
“這可以幫助員工更快地做出更明智的決定,Azure Government可以讓他們在邊緣設備上處理數據,或者利用深度學習能力來加速麵部識別和識別。