奧蘭多執法部門不再使用亞馬遜頗受爭議的AI人臉識別軟體Rekognition。據悉，這是這家公司第二次嘗試在佛羅里達州中部地區部署該套技術。而奧蘭多選擇不使用該技術的原因是：這座城市沒有必要的裝置或寬頻來使其正常執行且從未能對其展開現場測試。
這標誌著一直飽受引發偏見監管、非法監視、種族歧視以及亞馬遜將其賣給警察部門爭議的Rekognition再次遭受重大挫折。
去年5月，由美國加州北部公民自由聯盟(American Civil Liberties Union of Northern California)獲得的一些檔案首次曝光了執法部門在使用Rekognition的行為。當時，亞馬遜正在向奧蘭多和俄勒岡州華盛頓縣的警察部門銷售這套基於雲計算的人臉識別平臺，但這家公司並沒有向執法部門公開解釋，事實上，它還採取了保密協議等措施將其保密起來。
亞馬遜的這一做法遭到了人工智慧社群、活動人士和民權組織的強烈反對，他們擔心其固有的缺陷會導致非法監視和其他侵犯人權的事情發生。研究表明，亞馬遜的系統可能會返回大量的錯誤匹配，而且它還很難在膚色較深的個體和女性性別中做出準確的識別。
對此，亞馬遜的說法是，Rekognition將被用作警方的輔助工具，只有當它以99%的準確率識別出匹配物件時警察才會採取它的意見。然而目前並不清楚亞馬遜在監控參與其中的機構違反其服務條款這件事上究竟起到了多大的作用。亞馬遜聲稱，這些條款允許它暫停或禁止非法或不道德使用Rekognition的組織和個人。
儘管遭到了來自公司內外的強烈指責，但亞馬遜仍舊錶示將繼續向美國執法部門銷售這款軟體。
不過迫於壓力，奧蘭多跟亞馬遜的合同似乎已經在去年6月底到期。然而但據Orlando Weekly報道，該試點專案又在去年10月再次啟動，當時警方試圖讓這套系統在警察局位於市中心總部周圍的四個攝像頭以及位於社群娛樂中心外的一個攝像頭上執行。
現在，這個專案又要被終結掉了。根據當地警方的說法，由於這款軟體成本太高、安裝起來太過麻煩，並且亞馬遜員工甚至無法幫助他們建立一個可靠的實時流媒體進而讓軟體能夠實時執行，於是他們決定放棄。
對此，ACLU技術人員、民權律師、Rekognition批評者Matt Cagle表示，恭喜奧蘭多警察局終於發現他們長久以來發出的警告--亞馬遜的監控技術不行，同時還威脅到民眾的隱私和安全。“這個失敗的試點專案恰恰說明為什麼監控決定應該由公眾透過他們選出的領導人做出，而不是由公司秘密遊說警方官員部署針對公眾的危險系統。
奧蘭多執法部門不再使用亞馬遜頗受爭議的AI人臉識別軟體Rekognition。據悉，這是這家公司第二次嘗試在佛羅里達州中部地區部署該套技術。而奧蘭多選擇不使用該技術的原因是：這座城市沒有必要的裝置或寬頻來使其正常執行且從未能對其展開現場測試。
這標誌著一直飽受引發偏見監管、非法監視、種族歧視以及亞馬遜將其賣給警察部門爭議的Rekognition再次遭受重大挫折。
去年5月，由美國加州北部公民自由聯盟(American Civil Liberties Union of Northern California)獲得的一些檔案首次曝光了執法部門在使用Rekognition的行為。當時，亞馬遜正在向奧蘭多和俄勒岡州華盛頓縣的警察部門銷售這套基於雲計算的人臉識別平臺，但這家公司並沒有向執法部門公開解釋，事實上，它還採取了保密協議等措施將其保密起來。
亞馬遜的這一做法遭到了人工智慧社群、活動人士和民權組織的強烈反對，他們擔心其固有的缺陷會導致非法監視和其他侵犯人權的事情發生。研究表明，亞馬遜的系統可能會返回大量的錯誤匹配，而且它還很難在膚色較深的個體和女性性別中做出準確的識別。
對此，亞馬遜的說法是，Rekognition將被用作警方的輔助工具，只有當它以99%的準確率識別出匹配物件時警察才會採取它的意見。然而目前並不清楚亞馬遜在監控參與其中的機構違反其服務條款這件事上究竟起到了多大的作用。亞馬遜聲稱，這些條款允許它暫停或禁止非法或不道德使用Rekognition的組織和個人。
儘管遭到了來自公司內外的強烈指責，但亞馬遜仍舊錶示將繼續向美國執法部門銷售這款軟體。
不過迫於壓力，奧蘭多跟亞馬遜的合同似乎已經在去年6月底到期。然而但據Orlando Weekly報道，該試點專案又在去年10月再次啟動，當時警方試圖讓這套系統在警察局位於市中心總部周圍的四個攝像頭以及位於社群娛樂中心外的一個攝像頭上執行。
現在，這個專案又要被終結掉了。根據當地警方的說法，由於這款軟體成本太高、安裝起來太過麻煩，並且亞馬遜員工甚至無法幫助他們建立一個可靠的實時流媒體進而讓軟體能夠實時執行，於是他們決定放棄。
對此，ACLU技術人員、民權律師、Rekognition批評者Matt Cagle表示，恭喜奧蘭多警察局終於發現他們長久以來發出的警告--亞馬遜的監控技術不行，同時還威脅到民眾的隱私和安全。“這個失敗的試點專案恰恰說明為什麼監控決定應該由公眾透過他們選出的領導人做出，而不是由公司秘密遊說警方官員部署針對公眾的危險系統。