時至今日，科技巨頭及其基於AI的數字平臺與解決方案，完全有能力影響全球領導人、民族國家、跨國企業、全球股市乃至每位個人的命運。

目前，各大主要數字平臺的建立者、以及各類AI系統的設計人員與開發人員，仍然在將個人視為使用者、客戶或者資料點，但卻常常忽略個人作為公民的角色與權利。

結果就是，個人使用者及客戶被從社會背景下徹底剝離出來，並引發了可怕的後果。這些個人可能會在不自覺中成為錯誤資訊的傳播載體;得不到第一手正確資訊的使用者有可能被拉攏為暴力叛亂分子;而在申請工作或更新保險訂單時，使用者也有可能遭到有偏見AI系統的不公平對待。

為什麼要推動公民體驗設計?

如今，隨著AI解決方案的社會影響日益明顯，我們需要從公民乃至社會的角度考慮AI技術的效果以及設計/開發原理。

透過種種現實證據，我們已經意識到有偏見的AI系統正在給醫療保健、科學研究、刑事司法乃至金融服務等各個領域帶來嚴重影響。此外，我們也一直在見證關於資料權利與慣例的積極發展。

但僅從GDPR或資料治理計劃等角度出發對高科技企業進行監管，顯然還遠遠不夠。同樣的，對新興演算法的審計方法還不夠成熟，不足以直接影響AI的開發及其實踐。當前的AI道德委員會甚至沒有能力快速、成規模地調整AI發展的具體方向。

只有確保以公民為中心的價值觀與原則對AI解決方案的設計與開發加以引導，才有可能對AI領域施加有效且可持續的正確影響。

以往，“公民體驗”僅被劃為純公共服務領域，但僅此而已。今天，我們需要一種更全面、更多以公民為中心的方法，並據此構建起面向每一位AI設計師及開發人員的通用工具箱。

具體而言，我們需要這種秉持以公民為中心的思維與行動方針的AI企業、資料科學家與設計師。我們還需要公民體驗專家，將對社會的認知納入產品構思、設計以及開發的核心環節當中。

如何構思AI的公民體驗設計問題

那麼，我們怎樣才能為公民體驗設計的可持續性實踐，建立起一套能夠真正將個人視為公民、並融入廣泛社會結構的AI解決方案框架?

首先，公民體驗設計需要跨學科努力，包括將社會科學、資料科學與設計思路結合起來。公民體驗設計還對資料素養與演算法素養提出了更高要求，包括要求瞭解不同資料中的利弊、評估應用程式以及不同演算法帶來的潛在影響。而這專案標，必須透過多學科交叉形式實現。

其次，公民體驗設計應幫助設計師及開發人員將個人視為公民使用者與公民消費者。公民體驗設計還需要提供具體工具，幫助開發者將個人視為真實的個體，幫助企業在更廣泛的社會背景下評估自身產品決策。這些工具還有望在使用者體驗與客戶體驗層面，提供更深刻的資料科學設計與實踐洞見。

第三，公民體驗設計應該覆蓋到產品設計與開發的所有要素，包括用例與目標設定、應用指標與使用者介面設計、資料管道及AI技術選擇、乃至使用者研究與分析等等。

第四，必須與公民一起制定公民體驗設計的基本原則。這些共同建立的實踐將帶來新的洞見，並將公民作為活躍力量引入這場AI變革的核心當中。

公民體驗設計的基本原則

一切均始於此：AI從業者首先應承認個人的身份，即成熟公民的身份，並相應予以尊重與關照。永遠不應脫離社會背景，在孤立產品或平臺當中考慮AI解決方案。

下面來看關於迭代的更多具體建議：

AI系統的設計與開發應強調維護公民權利。演算法應以負責任且透明的方式建立完成，且AI系統不應根據公民的身份對其做出區別對待、或損害其豁免權或完整性。

以安全、負責的方式處理公民資料。AI系統不應以不必要的方式收集個人資料，或在未經明確同意的前提下使用個人資料。同樣，當公民與AI系統互動或受後者影響時，必須明確向公民發出通報。AI系統絕不應愚弄或操縱公民，例如透過偽裝為人類、或誘導不健康行為的方式在推薦系統中愚弄或操縱公民。

在從公民角度出發考量AI系統時，必須對資料的個人控制視為數字產品需要遵循的基本特徵。將公民隱私權設定為最核心的權益，即可保證基於AI的監管系統不以任何不必要的方式觸及這部分資訊。

AI系統不應促進任何有違現有法律或其他公民權利的行為。AI系統必須尊重現有法規與公序良俗。簡而言之，AI設計人員、開發人員或其AI解決方案不應獨立做出好壞、公平、適度或合法等層面的判斷。

公民體驗設計，要求從業者與來自不同領域的專家保持持續對話，結合社會背景主動審視其解決方案。AI解決方案目前已被廣泛認定為與人類社會無縫整合的社會性技術系統，因此必須得到持續監控、評估、審計與迭代，儘可能緩解潛在的問題或利益衝突。

AI系統還應允許人們自主學習關於AI技術的使用及效應。當個人被視為成熟公民時，即應對自己使用的AI解決方案負責。為此，民眾需要培養新的公民技能，包括良好的資料素養、演算法素養以及數字媒體素養。這一點需要公民與AI從業者的共同努力。例如，公民應能夠以易於訪問的方式觀察自身資料足跡是否暴露於算法系統當中。

這種教育上的透明性，有助於人們瞭解AI系統及其建立者的動機與意圖，幫助公民與AI開發者之間建立起信任。以公民為中心、且具有社會意識的設計，可以及時向公民盡通報義務，同時增強行為與安全機制，例如使有害資訊更易於檢測、緩解甚至預防。

建立原則

在理想情況下，將公民體驗設計引入AI應該成為一項前提性原則，據此指導AI解決方案的設計與開發，而非做出回顧性的評估或系統內容迭代。

縱觀全域性，很明顯，公民體驗設計將為AI創新帶來新的機會，確保現有乃至未來的解決方案不能忽視個人使用者作為公民的這一角色定位。

構建及迭代公民體驗設計應該成為一項核心原則，而這條漫長道路的起點就在當下。