contadores publicos Saltar al contenido

由于冠狀病毒缺乏人為約束,已將自動的Facebook和YouTube系統變成審查員

疾病的發展引起的健康危機 冠狀病毒 在整個地球上,它繼續惡化,並且在越來越多的國家中,它被迫進行禁閉。

在這種情況下,從事非必要工作的人將被送回家。其中, 負責審核平台或社交網絡(例如Facebook或YouTube)上的內容的人

自動審核系統已成為意外的審查者

考慮到由於他們設法遠程執行其職能所需要的信息類型,這些人已停止工作, 導致高度依賴自動調節系統 取決於 機器學習。這些系統正在“變得瘋狂”。

人類與 機器學習

辦公室1181385 1280

在最後幾天,尤其是在過去24小時內, 臉書 他們在社交網絡本身和其他數字平台上報告了 他的帖子不見了。並非偶然的內容與冠狀病毒有一種或另一種相關性。

通過通知,他們被告知 刪除的帖子違反社區標準。當內容被證明是欺詐,包含暴力或極端時,會發生某些事情。在這些情況下,一切都離現實不遠了。問題是另一個。

“我們可能會看到機器學習的開始瘋狂地受到了更少的人工監督”

Facebook的反垃圾郵件規則似乎變得瘋狂了。 (…)我們可能會看到 機器學習 “在沒有人為監督的情況下變得瘋狂”,“前Facebook首席安全官Alex Stamos在Twitter上說,評論說,該公司數小時前已將內容主持人送回家。”由於隱私保護,他們通常無法進行遠程辦公。 “他澄清了。

創業公司84​​9805 1920

Facebook副總裁Guy Rosen, 很快確認錯誤 也可以通過Twitter。在確保他們正在恢復所有錯誤刪除的帖子之後,我寫道:“這是一個自動化系統的問題,該系統刪除了指向濫用網站的鏈接,但又錯誤地刪除了許多其他消息。”還有一些與COVID-19不相關的內容也已刪除。

但是,在回應Stamos時,我補充說錯誤“與內容管理員的工作人員變更無關。”

YouTube先前警告用戶,如果主持人無法正常工作,則將不公平地刪除更多“正常”視頻。

YouTube的,在過去的星期一,他告訴他的用戶,自動化系統將接替由於健康危機導致的社會疏遠而無法工作的人類主持人。因此,他們警告說, “在這段時間內,將刪除比正常情況更多的視頻,包括不違反我們社區準則的內容”。並為此道歉。

兩種情況都突出了它們可能造成的災難 如此關鍵領域的自動化和智能係統 適用於社交網絡和平台(例如審核)。此外,發生的事情引起了YouTube的關注,YouTube是一家通常擁有通過自動檢測消除的數百萬個視頻的公司。根據公開的最新數據,從2019年10月到12月,自動檢測負責刪除超過530萬個視頻。