contadores publicos Histats.com © 2005-2019 - Saltar al contenido

Siri和Alexa的種族歧視者是單詞識別者嗎?

marzo 24, 2020

斯坦福大學的一項重大研究發現,世界上最重要的幾種語音識別系統-亞馬遜,蘋果,谷歌,IBM和微軟-黑人用戶比白人用戶犯更多的錯誤。

根據這項研究,種族偏見在訓練系統人工智能所需的口語輸入差異方面很明顯。

接受測試的五家公司的平均值顯示,該系統大約有19%的時間錯誤地識別了白人的話。對於黑人來說,這個數字躍升到35%,大約百分之二的白人音頻被認為是不可讀的,而對於黑人來說,這一數字上升到了百分之二十。

如研究中所述,“語音識別系統存在種族偏見,這是一個令人擔憂的問題,最近在其他一些高級機器學習應用程序中發現了這一問題,例如面部識別,自然語言處理,在線廣告以及刑事司法,醫療保健和兒童服務中的風險預測。在這裡,我們評估了由亞馬遜,蘋果,谷歌,IBM和微軟開發的五種商業語音轉文本工具的種族差異,這些工具為語音識別技術的一些最流行的應用提供了動力。”

唯一回答斯坦福大學研究的公司是Google,該公司表示:“多年來,我們一直在努力準確識別語音變化,這一挑戰將繼續下去。”

調查結論令人震驚,這與對黑人人口的歧視有關。

“我們記錄的性能差距表明,非裔美國人要從日益廣泛使用的語音識別技術(從移動電話上的虛擬助手到肢體殘障人士的免提計算)中受益要困難得多。這些差異還會對非裔美國人社區造成積極損害,例如,雇主使用語音識別軟件自動評估與候選人的面談,或使用刑事司法機構自動抄錄法院訴訟程序,”該研究指出。

編輯推薦