回覆列表
  • 1 # cnBeta

    亞馬遜的面部識別技術,再一次遭到了業內人士的抨擊。

    週三的時候,人工智慧專家向亞馬遜呼籲,希望這家巨頭不要向警方等執法機構出售其 Rekognition 面部識別軟體。

    截止目前,已有 27 名研究人員在 3 月 26 日發表的公開信上署名,批評亞馬遜忽略了其他研究人員對 Rekognition 軟體的看法。

    署名者包括了來自大學、谷歌、Facebook 的科學家,以及年度圖領獎獲得者 Yoshua Bengio 等在內的人工智慧科學家。其在公開信中寫到:

    我們希望該公司能夠徹底檢查所有產品,並質疑當前是否應該投入使用。我們呼籲亞馬遜停止向執法機構出售 Rekognition,因為與之相關的立法和保障措施尚未到位。

    在聯名發表公開信之前,亞馬遜公司的 Matthew Wood 和 Michael Punke 曾撰寫了幾篇部落格文章,試圖反駁 Inioluwa Deborah Raji 和 Joy Buolamwini 的一項研究結果。

    早期研究表明,與膚色較淺的男性相比,亞馬遜 Rekognition 軟體在識別深膚色女性性別時的錯誤率很高。對於此事,亞馬遜並沒有立即迴應外媒的置評請求。

    【Facial Recognition】

    此外,美國公民自由聯盟(ACLU)也發表了支援這項研究觀點。律師 Matt Cagle 在一份電子郵件宣告中稱:

    面部識別為美國政府提供了前所未有的追蹤、控制和傷害所有人的能力,尤其是有色人種、移民、宗教少數群體、及其它長期遭受監視濫用的社群。

    作為面部識別系統的構建方,那些試圖透過這種富有威脅性的技術來獲利的企業,不該忽視自己責任和潛在危害,它們必須完全停止向政府出售面部識別監控軟體。

    據悉,自去年 6 月 ACLU 抨擊亞馬遜將 Rekognition 出售給執法機構以來,這家電子商務巨頭就一直飽受批評。在 1 月份的股東大會上,也提出過停止向政府出售 Rekognition 的要求。

  • 2 # 雲際視界

    其反對原因主要有兩點:1.亞馬遜面部識別技術存在一些偏差。2.擔心警方過多信任尚未成熟的面部識別技術,造成不可逆的誤判。

    一:亞馬遜Rekognition面部識別技術存在一定的技術偏差:

    據報道亞馬遜Rekognition面部識別技術將性別定義為男性和女性,科學家認為變性人也應該在考慮範圍之中,此外Rekognition在31%的情況下將膚色較深的女性誤認為男性,當然這也是目前全球面部識別軟體存在的問題,2019年1月在AAAI / ACM人工智慧倫理與社會會議上,面部++和微軟都對識別膚色深的人,尤其是有色女性的能力有限。

    二:過多信任自主系統

    基於目前面部識別軟體存在的一些問題,科學家們擔心亞馬遜在銷售Rekognition給警方後,使用者過多相信自主識別,由於軟體問題導致一系列判斷誤差,影響人們對事件術的判斷和考慮。

  • 中秋節和大豐收的關聯?
  • 狼奄至,引首顧曰,什麼意思?