本文5497字，閱讀時間約8-15分鐘。

這兩年“人工智慧”這個詞被廣泛地到處應用，似乎加上了“AI”就是一種特別高階感，似乎只有匹配了這樣的詞語才能顯得企業真的實現了數字化轉型。“人工智慧”可以說是個被濫用的概念或方法，出現了很多無法解釋、甚至可謂黑箱操作的情況，包括一些不公平的偏見。作為財務管理者是有這樣的責任與義務，要制止企業在人工智慧領域上的濫用，實現必要的措施，在保證企業發展的同時，也免除個人、企業利益受到相關的影響。

個人認為文章其實提出了人工智慧當下隱藏的問題、提出了監管與注意事項，但是在與John溝通時，他更傾向是讓財務管理者在企業數字化轉型，尤其是介入人工智慧的環節上，有從職業道德上的預先設計，所以文章的名字以他的意見，即CFO必讀的AI道德部署為名，感謝John F Bould（華為前CFO）投稿，聯合作者 David Wray,（Global Accounting & Reporting Senior Director at Huawei），本文為該文的編譯文並做了一些調整。

John F. Bould 前華為產品與解決方案業務首席財務官

曾任IBM地區/全球行業首席財務官、IBM公司總部財務轉型總監；具有較強的轉型規劃和執行能力、在戰略和執行、計劃、定價、預算和成本管理方面有豐富的合作經驗；在跨研發、銷售和服務交付、硬軟體及服務領域、建立財務共享服務和應用新技術方面發揮領導作用

新風險、新思維

Artificial intelligence (AI) is a sexy new toy that has finance professionals everywhere quite excited ! While the field of data science is driven by exciting possibilities, the finance discussions surround transparency and ethics in decision-making

現在有兩個特別的領域正在引起注意：Black box dilemma黑箱困境、Biases and the consequences偏見及其後果。

這些挑戰並不意味著人工智慧應該被避免，因為人的大腦是典型的黑箱（文中的意思是指內部自行操作，複雜無法解釋清楚的意思）。隨著財務中高管們努力擴大這些新興技術在企業中的使用，作為財務管理者必須平衡其作為企業可信賴的業務顧問和受託人的雙重角色的可能性。

阿爾伯特·愛因斯坦說過：不能用與問題產生時相同的思維來解決問題。如果人類要生存並向更高的層次邁進，一種新的思維方式是必不可少。”

他的想法在當前的技術革命和人工智慧中具有現實的意義。在John與David 共同的認知裡，財務管理者如何系統地管理挑戰和風險，是任何AI實施的最重要方面之一。

不做一個入門者

人工智慧定義，韋氏詞典將其定義為計算機科學的一個分支，研究計算機中智慧行為的模擬和機器模仿人類智慧行為的能力。

在財務背景下，這意味著訓練計算機對大型資料集執行高階分析，以識別關係和相關性，尤其人眼不容易看到。由此產生的模型使用從資料中學習到的模式來執行預測或認知任務，其中一些“推理”應用於新資料。

企業ERP系統中的資料海洋以及非結構化資料的數字化企業資料，可以為人工智慧的學習提供依據。Intellityx（人工智慧的著名公司）展示了七種領先的人工智慧技術：機器學習、自然語言處理、語言、專家系統、規劃、排程與最佳化、機器人學或視覺。（如下圖）

John認為可以把機器學習（ML）作為人工智慧在財務管理過程中的一個有趣分支來關注。

機器學習使用四種學習方式之一，透過分析資料模式而不是人類程式設計來自學。當系統分析樣本資料時，它會根據得到的結果進行自我改進。如果開發的演算法是預測性的，那麼模型將產生高質量的前瞻性輸出。這四種機器學習的學習方式分別是有監督、無監督、半監督和強化

監督，例如財務收入，建立在對資料如何分類的既定理解之上。常用的演算法有線性迴歸、邏輯迴歸和決策樹。例如該演算法利用標記的動物影象，在未標記的影象中建立自己的動物型別。無監督學習，建立在未標記資料的基礎上，在標識的模式上對資料進行分類，演算法迭代執行，使用K均值演算法或使用先驗（演繹）的關聯規則學習。一個可識別的例子是電子郵件垃圾郵件檢測。半監督學習，是一種基於零星標記資料和未標記資料的學習。該技術包括生成模型、基於圖的模型和啟發式方法。它的一些應用例項包括蛋白質結構分析和油沉積測定。強化學習建立在反覆試驗的基礎上，演算法透過資料分析建立反饋迴路。使用的演算法型別包括Q-學習、時間差分（TD）和蒙特卡羅樹搜尋（MCTS）。一些著名的應用程式使用這種方法：國際象棋、圍棋、機器人手臂和自動駕駛汽車。

以案例講述圍繞偏差風險的財務實施和運營考慮，金融服務公司開始部署人工智慧來評估信用申請，並決定是否批准信用卡或貸款申請人。在實體不知情的情況下，用於信貸審批演算法的歷史資料，充斥著關於誰值得信貸和誰不值得信貸的人類過往決策偏見。高盛管理的蘋果信用卡業務在幾次備受關注的投訴後受到批評，因為丈夫的信用額度高於妻子，其中許多人的信用實際上應該得到更高得分。

如果把人工智慧的學習等同於孩子的學習，就會發現其學習速度和範圍的挑戰。人工智慧以閃電般的速度前進，越來越難保持領先一步，自然會增加與公司目標、價值觀、道德和社會習俗發生錯誤或衝突的風險。

財務管理中的人工智慧

財務管理者對自動化的熱愛由來已久，自動化先從重複性和低價值任務開始，原來SQL指令碼（預先部署指令碼、資料庫物件定義和後期部署指令碼合併為一個生成指令碼，用於建立資料庫物件的語句的集合，檔名通常以 .sql結尾）演變成機器人過程自動化（RPA）。

最近，RPA與ML（機器學習）在應付賬款和銀行賬戶對賬方面進行了配對。在短期週期預測、賬戶對賬、重複性任務和匹配流程方面取得了自動化進展。支援財務判斷的業務仍然是一個切實的機會。這包括圍繞長期週期預測的判斷、穩健的上市預測、情景模擬分析或高質量的合同會計分析。

機器學習的應用需要一個結構良好的實現。然而，一個強大的財務AI實施框架和行動手冊仍然難以捉摸，強調在評估潛在偏差、提高透明度和管理道德風險時需要額外的警惕。

黑匣子

試想一下，用一種已經處理過數百萬條CRM資料的全新、先進演算法做的收入預測提供給CEO（或CFO），如何解釋其演算法的細節、偏差的風險或CRM資料的哪些變化可能會影響收入預測？

許多ML演算法缺乏透明度，因此實際上預測是一個黑箱結果。舉個交易定價的延展案例，如果定價目標是利潤最佳化，那麼圍繞互利的長期客戶關係如何更廣泛地發揮作用？面對特殊（不可預料）事件如何影響定價（比如Covid19或日益增長的貿易爭端）？或者在機器驅動的定價決策中如何考慮社會影響？

英國皇家學會的研究人員發現，在一切平等的情況下，機器學習更有可能選擇不道德的策略，以一個具體案例說明：線上保險產品是根據使用者自己提供的資料進行定價的，隨後的分析表明，擁有特定姓名、種族、郵政編碼或性別的客戶，通常會比沒有預先確定個人資料要素的使用者收到更高的報價。在大多數情況下，這種基於機器的決策直到事後才被組織所理解。

基於機器的深度學習快速發展演算法和模式識別，產生了查詢風險。比如，拒絕申請的貸款官員可以告訴潛在的借款人他們的收入水平有問題，或者就業史，或者其他問題。但是使用複雜機器學習的計算機系統，即使對專家來說，模型也很難解釋。

自動識別上的財務偏見和道德風險導致英國皇家學會研究人員推薦預防方案，以消除模型訓練階段的不道德策略，很容易理解為什麼系統需要某種人工輸入和監督。

反觀愛因斯坦的建議，人工智慧是今天的變革性技術，但是它缺乏國際框架共識、管理機構、結構化的爭端解決機制和朝著共同目標的團結。如果圍繞人工智慧的管理和治理思想孤立於單個企業或企業內部，那麼人工智慧應該怎麼做？作為財務專業人士、財務管理者們，應該如何適應這種環境？外部監管是否是救星，類似於IFRS或FASB會計準則？

向外看-依靠外部監管

只要建立了合規性監控機制和結構化例外流程，以便在需要時管理問題，自我認證就有效。Consultancy Asia（亞洲諮詢）強調，由於只有16%的決策者支援實體自律，“只相信我”的做法是不夠的，自然而然地產生了“信任與驗證”的概念。

谷歌最近宣佈將“人工智慧道德”諮詢服務商業化，這是一個在人工智慧擁有深厚實踐經驗也犯過AI錯誤的，為獲得新聞價值的有趣之舉。

預打包人工智慧工具的可用性提供了可訪問性，只需一小部分的自我開發成本，這是否能提供一個可靠的財務AI認證模型的基礎，一個類似於ISO標準的模型？一些獨立或部分聯合起來的標準化工作仍然支離破碎，迫切需要加強協調、整合和普遍性，以建立最低標準、公認的治理模式和執行機構。

從財務管理專業角度

1、不能盲目地相信不瞭解的東西。人工智慧，作為一套技術，不應該被區別對待，任何其他財務標準和工具。作為專業人士，需要齊心協力去理解智慧技術及其與道德和聲譽的互動風險。

2、加強組織資料治理和資料質量流程，以確保任何財務AI計劃的高質量資料起點。將此要求和期望擴充套件到第三方資料來源，特別是在減少人為監督的情況下。不乾淨的資料會帶來不可靠的結論。

3、更新關鍵控制點（KCP）和風險管理協議，以確定與智慧工具部署相關的新關鍵控制點。更具體地說，金融部門必須制定或監督一個框架，以評估倡議的道德和潛在偏見。

支援AI（XAI，意思是可解釋的AI）透明，XAI要求結果公開，接受檢查和審查。目前正在積極進行研究，以建立幾個檢查點，並允許理解“黑箱”。其他方法包括使用線性模型，其中變數是加權和聚合，或構建由簡單模型加在一起組成的可分解堆疊模型。

4、作為資料初始化過程的一部分，消除過去的偏見和偏見。歷史的結果自然地嵌入和反映了當時的偏見。挑戰在於，透過將符合“我們想走向哪裡”（這裡可理解為公司戰略、發展方向或價值準則）的人工訓練資料整合到模型中，識別無偏預測因子。這是一個基於一系列有原則的程式化模型結果，而不是從歷史上有偏見的資料中學到的。

一種越來越流行的技術是“反事實的公平”，它確保在反事實的世界中結果是相同的。這意味著被視為敏感的屬性，如種族、性別或性取向，被改變以實現理想的結果。

財務專業在確保全球、透明和一致的財務報告框架方面的作用,是基於作為受信任的受託人和顧問而獲得的。財務管理者完全有能力承擔可靠智慧部署的責任，同時解除人工智慧對效率和有效性的承諾。

人工智慧的實現可以採用簡單的三層治理方法，類似於企業財務報告、風險管理和審計的原則。

1、專案管理規劃責任，以儘早識別、緩解和管理AI相關問題；設計自動化模型以減少風險，增加透明度和消除偏見；

2、使用標準的測試案例來預防潛在的人工智慧弊病，包括難以捉摸的黑匣子、資料缺陷和資料中固有的偏見或“人工智慧教師”。

3、需要實體利益相關者的特定AI實施保證。保證人的任務是檢查並確保實體人工智慧過程和結果透明、公平和公正。

這樣的治理方式會加速人工智慧和增強智慧系統的發展和部署，是財務管理者能夠在企業內部、外部，促進健全和可信的治理模式，打下基礎的最好時機。

陳蓮 FSSC專家

曾任CFO良師益友副總經理、負責安越CFO最佳實踐中心、擔任行動教育旗下研發機構五項管理首席知識官、“數字管理之父尤登弘”研發助教。從事企業人力資源管理多年，就任培訓諮詢十餘年，負責有關知識管理、課程研發等，自2012年起接觸財務共享話題，累計訪談了近400名CFO、財務總監、四大合夥人、FSSC領域資深專家；

走入數家建立財務共享服務中心的知名企業深入溝通與交流；建立近百人的FSSC專家團，包括來自阿里巴巴、亞馬遜、立邦、TCL、孩子王、萬達、協鑫、友邦、陽光保險、美菜網、喜力、WPP、蒙牛、復星、中糧可口可樂、華夏幸福等共享中心負責人；財大、對外經濟貿易大學、人大院長、主任；撰寫財務共享領域唯一的案例冊以及訪談冊；財務共享領域內容第一媒體“FSSC” 主要撰稿人。IPA、IFA。