在過去的十年中，人工智慧已大大改善，以至於AI驅動的軟體已成為主流。包括學校在內的許多組織正在採用AI驅動的安全攝像頭來密切監視潛在威脅。例如，亞特蘭大的一個學區使用AI驅動的視訊監控系統，該系統只需單擊即可提供捕獲到視訊的任何人的當前行蹤。該系統將在該地區來裝備約100座建築物花費1650萬美元。

這些基於AI的監視系統被用於識別人員，可疑行為，槍支，並隨著時間的推移收集資料，這將有助於根據舉止和步態識別嫌疑人。其中一些系統用於識別先前被禁止進入該地區的人員，如果他們返回，該系統將立即向官員發出警報。

基於AI的安全系統也正在家庭和企業中使用。基於AI的視訊監控似乎是完美的安全解決方案，但準確性仍然是一個問題，並且AI不足以進行行為分析。AI尚未真正能夠形成獨立的結論。

AI到目前為止並不完全可靠

乍一看，人工智慧可能比人類看起來更聰明，更不易出錯，並且在許多方面都是如此。AI可以快速執行繁瑣的功能，並識別由於感知偏差而人類看不到的模式。但是，人工智慧並不是完美的，有時基於人工智慧的軟體會造成災難性和致命的錯誤。

例如，在2018年，一輛自動駕駛的Uber汽車在亞利桑那州坦佩市撞死了一個過馬路的行人。方向盤後面的人類“安全駕駛員”沒有注意道路，也沒有進行干預以避免碰撞。汽車拍攝的視訊顯示安全駕駛員朝她的膝蓋向下看。警方記錄顯示，這並不是涉及自動駕駛汽車的唯一撞車事故或死亡事故。

如果AI軟體反覆犯下嚴重錯誤，我們如何依靠AI來為我們的安全系統提供動力並識別可信威脅？如果將錯誤的人員識別為威脅或真實威脅卻未被注意怎麼辦？

人工智慧驅動的面部識別存在固有缺陷

使用AI驅動的視訊監控來識別特定人員在很大程度上依賴於面部識別技術。但是，使用面部識別存在一個固有的問題–人的面板越黑，發生的錯誤就越多。

錯誤？性別識別錯誤。一個人的膚色越深，就越有可能將他們誤認為是異性。例如，麻省理工學院的研究人員進行的一項研究發現，淺膚色的男性約有1％的時間被誤認為女性，而淺膚色的男性約7％的時間被誤認為了男性。深色面板的男性在12％的時間內被誤認為女性，深色面板的女性在35％的時間內被誤認為男性。這些不是小錯誤。

面部識別軟體開發人員意識到對某些種族的隱性偏見，並且正在盡其所能來改進演算法。但是，該技術還不存在，要等到它出現時，謹慎使用面部識別軟體可能是個好主意。

面部識別軟體的另一個問題是隱私。如果一種演算法可以跟蹤人的一舉一動並通過單擊顯示他們的當前位置，那麼我們如何確定該技術不會被用於侵犯人們的隱私？

紐約的房客使用面部識別技術與房東作鬥爭

美國各地的房東開始使用支援AI的軟體來鎖定建築物的安全性。在布魯克林，有130多個租戶正在與一位房東作鬥爭，該房東想安裝面部識別軟體來代替金屬和電子鑰匙進入建築物。租戶很沮喪，因為他們不想在出入家門時被跟蹤。他們已向紐約州提出正式申訴，以阻止這一舉動。

乍一看，使用面部識別進入公寓樓聽起來像是一種簡單的安全措施，但是正如Green Residential指出的那樣，租戶擔心這是一種監視。這些擔憂是有根據的，官員們正在注意。

布魯克林市議員布拉德·蘭德（Brad Lander）推出了KEYS（保持您的家庭無監視進入）法案，以防止房東強迫房客使用面部識別或生物特徵識別掃描器進入其房屋。大約在頒佈《 KEYS法案》的同時，加利福尼亞州舊金山市成為美國第一個禁止警察和政府機構使用面部識別技術的城市。

由於這種智慧技術是相當新的，因此目前尚無立法規定。KEYS法案以及其他法案可能成為規範面部識別和生物識別軟體商業使用的第一部法律。其中一項法案將阻止企業默默地從客戶那裡收集生物特徵資料。如果該法案成為法律，則當企業收集虹膜掃描，面部影象和指紋等資料時，必須通知客戶。

專家已經公開承認，許多人臉識別監控的商業部署都是祕密進行的。人們被追蹤的時間比他們想象的要長。大多數人不希望像現實生活中那樣被線上跟蹤，但是已經有一段時間了。

如果AI驅動的視訊監控收集的資料使用不當怎麼辦？

除了隱私問題之外，如果這些視訊監視系統收集的資料用於非法或險惡的目的該怎麼辦？如果將資料移交給營銷商怎麼辦？如果某人可以訪問資料並決定跟蹤或騷擾某人或更糟的事情–學習他們的活動模式，然後在他們不在家時闖入他們的房子怎麼辦？

使用基於AI的視訊監控的好處是顯而易見的，但這可能不值得冒險。在面部識別錯誤之間，這項技術似乎並不符合公眾的最大利益。對於大多數人來說，通過視訊監視進行跟蹤和識別的想法就像喬治·奧威爾（George Orwell）1984年的一幕。

藉助AI驅動的視訊監控功能可以等待

對於大多陣列織而言，斥巨資購置一款AI驅動的視訊監控系統可以等待。如果您沒有迫切需要不斷監視可疑人員並密切注意潛在威脅的情況，則可能不需要AI系統。諸如學校和活動場所之類的組織是不同的，配備面部識別視訊監視系統只會提高他們抓捕和阻止肇事者的能力。但是，在需要拍攝和跟蹤居民的地方安裝面部識別系統是另一回事。

可能會有一段時間，世界各地的城市都配備了監視人們的一舉一動的監視系統。在美國和其他國家/地區，收集的資料也將用於營銷目的。

當然，城市總是有可能使用監視資料來改善交通流量，行人通行性和停車狀況。在保護隱私的同時利用這一強大技術的挑戰是一項挑戰，需要市政官員，法院和市民之間進行協作。現在還不知道如何監管該技術還為時過早，但是在未來幾年中它將變得更加清晰。