根據MIT和多倫多大學的研究人員稱，亞馬遜銷售亞馬遜營銷往往銷售執法的婦女，特別是皮膚較深的人。

隱私和民權倡導者呼吁亞馬遜Tostop營銷其重新識別服務減免了對少數群體歧視的擔憂。一些亞馬遜投資者還要求公司停止擔心它使亞馬遜容易受到訴訟。

研究人員表示，在他們的考驗中，亞馬遜的技術將黝黑的女性標記為較暗的膚色，因為男人31％的時間。較輕皮膚的女性被誤認的7％。暗皮膚的男性有1％的錯誤率，而打火機皮膚的男性沒有。

人工智能可以模仿他們的人類創造者的偏見，因為他們進入日常生活。新的研究周四發布，警告濫用和威脅對面部檢測技術的隱私和公民自由的潛力。

亞馬遜人工智能總經理馬特木材表示，該研究采用了“面部分析”而不是“面部識別”技術。木頭說面部分析“可以在視頻或圖像中發現面部，并分配佩戴眼鏡等通用屬性;識別是一種不同的技術，通過該技術與視頻和圖像中的面部相匹配。”

MIT Media Lab研究員Joy Buolamwini回復了MIT Media Lab研究員Joy Buolamwini回應了分析人類面朝偏見的所有系統。

“如果您銷售一個系統已顯示在人類面上有偏見的系統，則您的其他基于面部的產品令人疑問也完全偏離，”她寫道。

亞馬遜的反應表明，這是“這項研究的真正嚴重關切的嚴重令人擔憂，”雅各布·斯諾，美國公民自由聯盟的律師說。

多倫多大學的Buolamwini和Inioluwa德國·拉吉表示，他們研究了亞馬遜的技術，因為該公司已將其銷售到執法部門。Raji的LinkedIn賬戶表示，她目前是谷歌的人工智能研究媒體，與亞馬遜一起提供云計算服務。

Buolamwini和Raji表示微軟和IBM提高了他們的面部識別技術，因為研究人員在2017年5月的研究中發現了類似問題。他們包括亞馬遜的第二次研究是在2018年8月完成的。他們的論文將于周一在檀香山的人工智能大會上呈現。

木頭說亞馬遜自研究以來已經更新了它的技術，并通過“零誤匹配”進行了自己的分析。