如何促進、保障和規範新興技術的發展及其在商業、公益、社會治理等領域的應用,是推進國家治理體系和治理能力現代化程序中的關鍵議題,某種程度上決定著這一政治程序的成效。人臉識別技術的發展與應用就屬於這樣一類議題。中國已然在人臉識別技術的發展與應用中走在全球的前列。根據美國商務部2018年底的報告,排名全球前四的人臉演算法技術均為中國公司持有。中國對這一技術的應用廣泛而迅速,其應用規模世界第一,積累資料世界第一。
非接觸性導致技術應用不對稱
人臉識別技術作為一種採集、識別和驗證人類生物身份資訊的新型技術,最首要的一個技術特徵是非接觸性。任何能夠安置普通攝像頭的介質均可以作為採集人臉資訊的感測器,輔助以面部識別的軟體和演算法,便可實現遠距離的資訊抓取與儲存。這一技術特性使得該技術的應用在物理上實現了阻隔、懸置被採集主體允諾和配合的需要,進而進一步導致了人臉識別技術在應用中的以下特徵。
第一,技術應用的開放性。首先,是應用主體的開放性。理論上,任何主體以非常低的成本就可實現對不特定主體人臉生物資訊的採集。因此,單純對該技術的應用進行道德勸阻和譴責,或者直接用法律的、行政的手段阻止該技術的應用都不現實。在利益與私慾面前,這是一項阻止不了的技術。其次,是應用目的上的開放性。無論利用人臉識別技術抓捕罪犯,還是試圖提升學生上課的效率,抑或用於識別同性戀或進行心理治療,該技術對於應用目的都是不設限的。一方面這使得該技術的應用前景非常廣闊,另一方面也使得該應用產生的問題層出不窮、超出想象。最後,是應用後果上的開放性。與慣常以為的人臉識別技術的應用意味著便捷、高效、安全等認知相反,人臉識別技術應用的結果是不確定的。
第二,技術應用的不對稱性。一者,臉紋資訊的採集方與被採集方之間具有不對稱性。人臉資訊的採集可以做到靜默無聲,因此被採集方甚至無法得知臉紋被掃描、採集的事實。即使是明知且授權,因為授權是一次性的,相關資訊的獲得與儲存則可以永久化,其儲存、轉讓與應用又不是公開透明,以至採集方與被採集方處在失衡的權益結構之中。二者,在技術應用產生的效益與代價之間也具有極大的不對稱性。也許同意面部識別是為了便捷的目的,在日常所能直接感知的範圍內也確實提升了便捷度,但如果提交臉紋也意味著同時提供了種族資訊、性別資訊、心理偏好資訊、性取向資訊、資產資訊等,意味著日後的行動暴露在相關商業機構或政府部門之下,這樣的“交易”結構顯然是不對等的,相關的實踐狀況將極度依賴實踐所在地的法治水平和司法機制的健康程度。
第三,技術應用的侵入性。儘管人臉識別技術門檻低,具有開放性與任意性,非接觸性的特質也懸置了被採集主體允諾和配合的需要,但物理上的阻隔與懸置不等同於規範上的豁免。當臉部生物資訊的採集是靜默的、未獲授權的,或者對被採集臉紋的使用超出了被採集主體合理期待的範圍,這樣的技術應用在規範上仍然侵犯了被採集主體。被採集主體仍然會產生權利被侵害、尊嚴被漠視、隱私被窺探的羞辱感、憤怒感、恐懼感、無助感等。該技術應用的侵入性並不會被非接觸性的特質所消滅,反而會激化和增強,在相關的保護缺位或孱弱的情況下,反制技術的開發與應對也將無法阻擋。
權利優先於效益
人臉識別技術的應用必然會面臨法律與道德的雙重審視。技術是中立的,但人如何使用該技術則不是。一般來說,當運用這一技術實現某種目的時,該目的的正當性與合理性,以及運用這一技術實現該目的的方式、方法,必須要滿足規範性的要求,要限制在比例原則的範圍內。主要的理由如下。
第一,權利與效益相比,權利總是具有初顯的優先性,背離了權利的效益也將失去其可欲性與持續性。人臉識別技術應用的基礎既可能是基於效益的原因,因為它能為個人與社會帶來若干好處;也可能是基於權利的原因,因為它致力於尊重並增進人的權利。但如果該技術致力的效益以權利的侵犯為代價,根據權利優先的原則,該人臉識別技術的應用必須被限制與糾正。在人臉識別技術應用的場域中,個體有沒有權利為了效益自願放棄權利呢?初步回答是,個人沒有為了效益放棄不可剝奪的權利的權利。在此豁免性權利範圍之外,個人有權為了效益限制自身的權利。當然,這種情形下,採集方、應用方必須在合規的條件下與該主體對效益的理解取得合意,並受限於該合意。
第二,人臉識別技術的應用作為一種實踐,必然接受實踐內建的價值要求的評價與約束。人臉識別技術因為要採集個人的生物身份資訊,而具有專屬性的生物身份資訊屬於個體隱私的一部分,因此這一實踐內建了隱私權保護的價值與要求。此外,因為對個體隱私資訊抓取與應用的方式與目的關乎是否將該個體視作一個尊嚴主體來對待,所以相關的實踐內建了人性尊嚴的價值與要求。再者,因為該技術應用涉及多個主體之間的合意以及權責分配等問題,該實踐還需要受到公平價值的評價與約束。如果相關實踐的主體涉及公權力機關,則價值的序列中還將包括法治的規範要求。由此可見,人臉識別技術的應用至少要接受和滿足隱私、尊嚴、公平與法治等價值的評價與規範。
第三,從功利的角度看,人臉識別技術的應用也必須以不扼殺社會的活力與創新空間為前提。人臉識別技術的發展及應用也許能夠提升發現錯誤的效率,幫助打擊不合法律、道德、政策乃至規矩的行為,但縱使是完美的人臉識別技術,也不可能消滅一切不當行為。一個無錯的社會並不是完美的社會,美好的生活不可能透過這種方式創造出來。犯錯誤的可能性是一個社會內嵌的特質,也是其生命力與創新力的根基。借用這類新技術去發現和糾正微小的不當行為,反而容易營造肅殺的社會氛圍,遏制社會的活力與創新空間。所以,對於將人臉識別技術與信用體系的建設及應用相接軌的動議必須慎之又慎。
立法建立有效防火牆
首先,我們需要儘快透過立法的方式建立起人臉識別技術應用的賠償機制與責任追究機制,為相關的技術開發與應用確立有效的防火牆。因為大型網路技術公司在這方面具有技術優勢與規模優勢,以及這一技術本身所具有的低門檻性、開放性和不對稱性,可以考慮引入懲罰性賠償的制度並完善追究相關企業、個人刑事責任的法律措施,相關的法律訴訟可以採納公益訴訟的發起模式。
其次,透過立法、司法確立人臉資訊採集以及應用的主體和條件。通常來說,應當明示資訊主體即將進入資訊抓取的範圍,進行資訊採集時,必須提供理由並徵得被採集者的同意;政府對相關技術與資訊的應用應當限定於公益用途,需要確立有效的登記制度、備案制度、責任自負制度;在商業領域,商業主體獲得、使用、儲存、轉讓人臉生物資訊的條件及限制應當進行具體列舉而非概括的格式授權,要進行嚴格的規範與限制;杜絕和禁止商業機構非因高階法院的裁定而向任何主體轉讓、出售、公開人臉身份資訊的行為。
最後,確立權利主體的防禦性機制。考慮到人臉生物資訊有可能成為被廣泛應用的公共資源,反制技術的發展也可能打破人臉生物資訊與身份資訊專屬之間的關聯,應當在大型商業機構涉訴以及刑事與行政訴訟領域確立起舉證責任倒置的確證機制。此外,在滿足合理條件的基礎上,應當確認和保障權利主體切斷其人臉資訊與其他權利資源、經濟資源相關聯的權利。
如何促進、保障和規範新興技術的發展及其在商業、公益、社會治理等領域的應用,是推進國家治理體系和治理能力現代化程序中的關鍵議題,某種程度上決定著這一政治程序的成效。人臉識別技術的發展與應用就屬於這樣一類議題。中國已然在人臉識別技術的發展與應用中走在全球的前列。根據美國商務部2018年底的報告,排名全球前四的人臉演算法技術均為中國公司持有。中國對這一技術的應用廣泛而迅速,其應用規模世界第一,積累資料世界第一。
非接觸性導致技術應用不對稱
人臉識別技術作為一種採集、識別和驗證人類生物身份資訊的新型技術,最首要的一個技術特徵是非接觸性。任何能夠安置普通攝像頭的介質均可以作為採集人臉資訊的感測器,輔助以面部識別的軟體和演算法,便可實現遠距離的資訊抓取與儲存。這一技術特性使得該技術的應用在物理上實現了阻隔、懸置被採集主體允諾和配合的需要,進而進一步導致了人臉識別技術在應用中的以下特徵。
第一,技術應用的開放性。首先,是應用主體的開放性。理論上,任何主體以非常低的成本就可實現對不特定主體人臉生物資訊的採集。因此,單純對該技術的應用進行道德勸阻和譴責,或者直接用法律的、行政的手段阻止該技術的應用都不現實。在利益與私慾面前,這是一項阻止不了的技術。其次,是應用目的上的開放性。無論利用人臉識別技術抓捕罪犯,還是試圖提升學生上課的效率,抑或用於識別同性戀或進行心理治療,該技術對於應用目的都是不設限的。一方面這使得該技術的應用前景非常廣闊,另一方面也使得該應用產生的問題層出不窮、超出想象。最後,是應用後果上的開放性。與慣常以為的人臉識別技術的應用意味著便捷、高效、安全等認知相反,人臉識別技術應用的結果是不確定的。
第二,技術應用的不對稱性。一者,臉紋資訊的採集方與被採集方之間具有不對稱性。人臉資訊的採集可以做到靜默無聲,因此被採集方甚至無法得知臉紋被掃描、採集的事實。即使是明知且授權,因為授權是一次性的,相關資訊的獲得與儲存則可以永久化,其儲存、轉讓與應用又不是公開透明,以至採集方與被採集方處在失衡的權益結構之中。二者,在技術應用產生的效益與代價之間也具有極大的不對稱性。也許同意面部識別是為了便捷的目的,在日常所能直接感知的範圍內也確實提升了便捷度,但如果提交臉紋也意味著同時提供了種族資訊、性別資訊、心理偏好資訊、性取向資訊、資產資訊等,意味著日後的行動暴露在相關商業機構或政府部門之下,這樣的“交易”結構顯然是不對等的,相關的實踐狀況將極度依賴實踐所在地的法治水平和司法機制的健康程度。
第三,技術應用的侵入性。儘管人臉識別技術門檻低,具有開放性與任意性,非接觸性的特質也懸置了被採集主體允諾和配合的需要,但物理上的阻隔與懸置不等同於規範上的豁免。當臉部生物資訊的採集是靜默的、未獲授權的,或者對被採集臉紋的使用超出了被採集主體合理期待的範圍,這樣的技術應用在規範上仍然侵犯了被採集主體。被採集主體仍然會產生權利被侵害、尊嚴被漠視、隱私被窺探的羞辱感、憤怒感、恐懼感、無助感等。該技術應用的侵入性並不會被非接觸性的特質所消滅,反而會激化和增強,在相關的保護缺位或孱弱的情況下,反制技術的開發與應對也將無法阻擋。
權利優先於效益
人臉識別技術的應用必然會面臨法律與道德的雙重審視。技術是中立的,但人如何使用該技術則不是。一般來說,當運用這一技術實現某種目的時,該目的的正當性與合理性,以及運用這一技術實現該目的的方式、方法,必須要滿足規範性的要求,要限制在比例原則的範圍內。主要的理由如下。
第一,權利與效益相比,權利總是具有初顯的優先性,背離了權利的效益也將失去其可欲性與持續性。人臉識別技術應用的基礎既可能是基於效益的原因,因為它能為個人與社會帶來若干好處;也可能是基於權利的原因,因為它致力於尊重並增進人的權利。但如果該技術致力的效益以權利的侵犯為代價,根據權利優先的原則,該人臉識別技術的應用必須被限制與糾正。在人臉識別技術應用的場域中,個體有沒有權利為了效益自願放棄權利呢?初步回答是,個人沒有為了效益放棄不可剝奪的權利的權利。在此豁免性權利範圍之外,個人有權為了效益限制自身的權利。當然,這種情形下,採集方、應用方必須在合規的條件下與該主體對效益的理解取得合意,並受限於該合意。
第二,人臉識別技術的應用作為一種實踐,必然接受實踐內建的價值要求的評價與約束。人臉識別技術因為要採集個人的生物身份資訊,而具有專屬性的生物身份資訊屬於個體隱私的一部分,因此這一實踐內建了隱私權保護的價值與要求。此外,因為對個體隱私資訊抓取與應用的方式與目的關乎是否將該個體視作一個尊嚴主體來對待,所以相關的實踐內建了人性尊嚴的價值與要求。再者,因為該技術應用涉及多個主體之間的合意以及權責分配等問題,該實踐還需要受到公平價值的評價與約束。如果相關實踐的主體涉及公權力機關,則價值的序列中還將包括法治的規範要求。由此可見,人臉識別技術的應用至少要接受和滿足隱私、尊嚴、公平與法治等價值的評價與規範。
第三,從功利的角度看,人臉識別技術的應用也必須以不扼殺社會的活力與創新空間為前提。人臉識別技術的發展及應用也許能夠提升發現錯誤的效率,幫助打擊不合法律、道德、政策乃至規矩的行為,但縱使是完美的人臉識別技術,也不可能消滅一切不當行為。一個無錯的社會並不是完美的社會,美好的生活不可能透過這種方式創造出來。犯錯誤的可能性是一個社會內嵌的特質,也是其生命力與創新力的根基。借用這類新技術去發現和糾正微小的不當行為,反而容易營造肅殺的社會氛圍,遏制社會的活力與創新空間。所以,對於將人臉識別技術與信用體系的建設及應用相接軌的動議必須慎之又慎。
立法建立有效防火牆
首先,我們需要儘快透過立法的方式建立起人臉識別技術應用的賠償機制與責任追究機制,為相關的技術開發與應用確立有效的防火牆。因為大型網路技術公司在這方面具有技術優勢與規模優勢,以及這一技術本身所具有的低門檻性、開放性和不對稱性,可以考慮引入懲罰性賠償的制度並完善追究相關企業、個人刑事責任的法律措施,相關的法律訴訟可以採納公益訴訟的發起模式。
其次,透過立法、司法確立人臉資訊採集以及應用的主體和條件。通常來說,應當明示資訊主體即將進入資訊抓取的範圍,進行資訊採集時,必須提供理由並徵得被採集者的同意;政府對相關技術與資訊的應用應當限定於公益用途,需要確立有效的登記制度、備案制度、責任自負制度;在商業領域,商業主體獲得、使用、儲存、轉讓人臉生物資訊的條件及限制應當進行具體列舉而非概括的格式授權,要進行嚴格的規範與限制;杜絕和禁止商業機構非因高階法院的裁定而向任何主體轉讓、出售、公開人臉身份資訊的行為。
最後,確立權利主體的防禦性機制。考慮到人臉生物資訊有可能成為被廣泛應用的公共資源,反制技術的發展也可能打破人臉生物資訊與身份資訊專屬之間的關聯,應當在大型商業機構涉訴以及刑事與行政訴訟領域確立起舉證責任倒置的確證機制。此外,在滿足合理條件的基礎上,應當確認和保障權利主體切斷其人臉資訊與其他權利資源、經濟資源相關聯的權利。