2019年9月10日的“AI商學院商業領袖論壇”上，香港中文大學終身教授、香港中文大學商學院副院長張曉泉進行了以《人與機器的角逐》為主題的精彩分享。

邀您閱讀前，先思考：

人工智慧為什麼不可能是完美的？

為什麼機器不可能代替人類？

大家好。在人工智慧的歷史發展中，人與機器展開了很多次角逐，發生了許多有意思的事情，今天我就來為大家講幾個故事。

一、圖靈的故事

在我辦公室裡有一臺機器，叫“乘法器”，它有100年的歷史。百年前，法國人就發明了這種機器，用來處理較大的數字乘法。

比如輸入數字“128”，再搖動右邊的搖桿輸入數字“21”，就會算出乘積是“2688”。那時還沒有電子計算機，所以這就是人們用來加速計算的一個機器。

後來，英國人發明了小巧一點的乘法機，計算也很準確。再之後，德國人在二戰時發明了Enigma Machine，一種加密用的機器：輸入“A”時，機器可能顯示的是“C”。這樣加密後的資訊就可以直接發給友軍，即便敵方截獲了資訊，也很難破解。

圖靈（筆記俠注：1912年6月23日1954年6月7日，英國著名數學家、邏輯學家、密碼學家，被譽為“電腦科學之父”、“人工智慧之父”，是計算機邏輯的奠基者）在此做出了巨大的貢獻，他在德軍和英軍對戰時破解了德方的加密體系。

圖靈是一位天才數學家，他有許多著名的貢獻——

第一，他提出了著名的“圖靈機”。圖靈說，有一種邏輯計算結構，可以把它想成一個虛擬機器器，不需要實際造出來，所有問題簡化為二進位制的0和1之後，通過邏輯計算就可以得到最終答案。

圖靈機的概念後來果然成為現實，我們現在使用的所有程式語言都可以說是 “圖靈完備”（筆記俠注：讓一切可計算的問題都能被計算，這樣的虛擬機器或程式語言就叫做是“圖靈完備”的）。

第二，圖靈在自己的一篇論文中提出“圖靈測試”。測試讓一個人類考官提問，左邊回答的是計算機，右邊是人類回答，當人類考官無法判斷哪個是計算機，哪個是人的時候，則可以認為該計算機通過了圖靈測試。

今天的智慧手機也已經實現了圖靈測試，比如微軟的“小冰”、iPhone的“siri”、亞馬遜的“Alexa”等等。

但同時圖靈測試也給人類帶來了一個巨大的問題：圖靈測試讓人們認為，人工智慧的終極目標就是讓機器變得像人一樣。

很多人認為計算機在以後真的會變成人、替代人，人類會失業，或是計算機要毀滅人類。所有這些想象，都是從圖靈測試中來的。

這個假設實際根本就是錯的。愛因斯坦曾說過一句話：“只有兩樣東西是無窮的，第一是宇宙，第二是人類的愚蠢，而我對前者是否無窮並不肯定。”

大仲馬也說過：“讓我最無奈的是，人類的思維是有限的，但人類的愚蠢卻是無限的。”

很多心理學家都總結過人類會犯的各種錯誤，諾貝爾獎獲得者Daniel Kahneman（丹尼爾·卡尼曼）在其著作《思考，快與慢》中總結了他和其他學者發現的非常多的人類的謬誤，他說：

“在很多場景下，人類做出的決策，都與正確、理性的決策相差甚遠。”

這些謬誤意味著，犯錯誤這件事會永遠困擾著人類。不是因為人類想犯錯，也不是因為人類教育程度不高，而是因為人類大腦的設計並不完美，在快速處理一些問題時，人類大腦會選擇走捷徑，這時聰明的人類也會犯愚蠢的錯誤。

也就是說，人類並非完美的物種。所以，我們人類為什麼非要讓計算機把超越人類作為最終目標呢？我們真的需要計算機像人類一樣做決策嗎？

完美模擬人的智慧機器，實際上也並不智慧，當一個機器完全模擬了人的智慧，就會像人一樣犯各種錯誤，沒有什麼智慧可言。

我們可以定義一下“弱人工智慧”（ArtificialNarrow Intelligence），比如AlphaGo下圍棋的能力很強，但你讓它開車它就不會了；微軟的人臉識別功能也非常好，但讓它以同樣的演算法下圍棋它卻做不了，這些單一用途的人工智慧都叫做“弱人工智慧”。

而強人工智慧（ArtificialGeneral Intelligence），則是機器可以做人類做的任何事。我們說人工智慧的時候常常會想到強人工智慧，但恰恰是弱人工智慧才能夠在很多場景幫助人類做更好的決策。

以目前機器學習的發展來看，強人工智慧一方面不容易實現，另一方面也沒有必要實現。

因此我們得出三個結論：

完全模擬人的機器並不智慧；

人工智慧的發展不一定非要完全依賴於模擬人；

“弱人工智慧”強於“強人工智慧”。

二、費曼的故事

理查德·費曼（筆記俠注：1918年5月11日1988年2月15日，1965年諾貝爾物理學獎得主）是著名的物理學家，他曾講過一個故事——

某天下午，費曼坐在巴西的一家咖啡館中思考，看見一個賣算盤的日本人，正在向咖啡館推銷算盤，這個日本推銷員說用算盤更便於記賬（當時還沒有計算機），但是咖啡館老闆表示不想買。

咖啡館老闆說：既然你說這個東西計算很快，那我隨便找一個顧客（後來找到了費曼），你們兩個比試一下，看看機器和人，誰的運算更快。

比試開始，首先是算加法，費曼的速度完全沒辦法和算盤比，他還沒讀完數字，日本推銷員就已經用算盤算出得數了；

後來費曼說要增加難度，算乘法，這時用算盤需要更多步驟，所以費曼和算盤的速度差不多了；

這下，日本推銷員也說了，這不行，我們要找一樣更難運算的——開立方根。費曼同意了，於是咖啡館老闆隨機選定了1729.03這個數字。

費曼作為一個物理學家，碰巧知道12的立方是1728（一英尺等於12英寸，求立方體體積時，這種運算是很常見的），所以他只需要知道剩下的1.03怎麼開立方了；

很快，在幾秒鐘內通過使用“泰勒公式”算出了小數點後5位的得數，給出了答案12.0025，這個數字和正確答案12.00238的誤差是10萬分之一，而幾分鐘後日本推銷員才喊出12，費曼完勝算盤。

人與機器的角逐，實際上各有優劣：人的直覺和經驗是機器無法模仿超越的，而機器在弱人工智慧方面也是勝過人類的。

我的一個信神的朋友跟我討論人工智慧時說：“我不相信人工智慧會比人厲害，因為神是萬能的，人就是神造的，所以人造的東西肯定不如神造的好。”我問他：“那計算器呢？”

一個簡單的人造計算器沒有智慧，但是可以在計算6位數乘以6位數的乘法上勝過人類。一百年前那個人造的手搖計算機在計算速度方面就已經超過人了。

機器確實有比人做得更好的地方。但是在需要直覺和經驗的場景下，機器往往無法勝過人。

人和機器在做決定時，用的是兩種不同的方法：人是用直覺，直覺是人將各方面知識聚集在一起形成的，直覺讓人快速得到一個解決答案；而機器則用的是“梯度下降”演算法，這是在求解機器學習演算法的模型引數時，最常採用的方法之一。

機器做決策只有這一個方法，就是先讓人類找到“損失函式”，機器做的就是讓損失函式最小化，從這方面看，機器沒有任何智慧——人寫出損失函式，然後讓機器執行優化演算法。

所以，對機器的期望不能太高：機器在弱人工智慧層面可以做得很好，但是用梯度下降的正規化不可能產生強人工智慧。

現在我們常說的人工智慧，與以前的人工智慧最大的區別是：以前，人通過寫計算機程式來制定規則，然後輸入一些資料，讓計算機算出結果；而現在，是人把資料和結果輸入進去，通過監督和非監督學習的演算法，讓機器來學習並得到規則。

以前的人工智慧叫做“專家系統”，是基於規則的，現在的人工智慧則更多是讓系統根據資料，去自動優化而學習底層邏輯。

就如所有機器一般，人工智慧在某個方面可能很強大，但是複雜的演算法常常被掩蓋在簡單的介面裡，使用者在不理解底層邏輯的情況下使用，就會產生極壞的效果。就好比把機關槍交給一個三歲的小孩去用，結果會難以想象。

舉幾個例子：

有一位美國朋友給我發來一張Uber的自動駕駛汽車的照片，我從中發現一處不對勁的地方：左轉紅燈亮起的時候，車居然向左轉彎行駛了。

可見，人並不是一個完美的物種，如果機器完全向人學習的話，也會學到人的一些壞毛病。

幾年前，幾位北航的教授做過一個研究，在北京地鐵可以看到，人們從一個站口進去，又從另一個站出來，可以畫出一些曲線，把人分成幾種型別：例如可以看到遊客會去圓明園、香山；購物者會去西單、王府井；而小偷的行為曲線與正常人群是非常不一樣的。

於是，利用人工智慧，分析所有人的行為軌跡，而找出小偷，是可以的。

但是還有另一種分析方法，則是比較危險的。美國紐澤西州的一位警察總監女士，她說：“我們用了大資料技術，能夠算出什麼樣的人會比較容易犯罪，並算出他們在什麼時候會犯罪，這樣就可以提前預警”。

這讓我想起科幻片《少數派報告》，這裡面最大的問題就是，這樣的計算依賴的是人不可改變的資料的平均值：平均來講，黑人的犯罪率更高，但是並不代表每個黑人的犯罪率都高，用平均值算出來的結論如果推廣開來，對黑人的個體就是很不公平的，而在很多場景下更是很危險的。

也就是說，從演算法上講，我們不能只看平均效果值，而是要看個體。這與抓小偷的區別在於：美國的警察總監抓罪犯的方法，是根據對方的年齡和膚色這些自身無法改變的因素來判斷的，這樣會冤枉好人；而前面抓小偷的方法，則是根據對方的行為，根據行為的判斷就沒有問題。

很多人工智慧演算法，試圖追求的都是平均效果，但如果聚焦到人的話，結論就會完全相反。可見，人工智慧不是萬能的，結果要靠人去解讀，人和機器要一起合作才是最優的。

我認為人工智慧有兩個非常深刻的課題需要解決：第一是過度擬合的問題（假如給了系統太多的自由度，讓它學到一些不該學的東西，那麼它在樣本內的表現很好，但是樣本外就很差了）；第二是因果關係的問題（即便能發現兩個變數的強相關關係，也不能代表其中一個導致了另一個的發生）。

這兩大挑戰，是人工智慧目前急需解決的問題。

三、馮·諾依曼的故事

馮·諾依曼（注：1903年12月28日1957年2月8日，數學家、電腦科學家、物理學家，是20世紀最重要的數學家之一，也是現代計算機、博弈論、核武器和生化武器等領域內的科學全才之一，被後人稱為“現代計算機之父”、“博弈論之父”）是人類歷史上一位非常聰明的人。在我看來，他應該超過了愛因斯坦，是最聰明的人。

1945年之前，他參與“曼哈頓計劃”，為美國研製原子彈作出了貢獻；接著，他又開始研究計算機，幫美國研發出來第一臺計算機。

圖靈是將計算機邏輯結構想清楚，馮·諾依曼則是把計算機體系真正實現出來（現在我們的計算機還在沿用所謂馮·諾依曼體系），所以二人都是“計算機之父”。

馮·諾依曼還對經濟學有重大貢獻。他在1944年和Morgenstern發表了一本博弈論的著作，直接影響了經濟學的方法論，直到今天我們經濟學中的很多研究還在用他們的博弈論思想和他們提出的“效用函式”這樣的工具。

可惜的是，諾貝爾經濟學獎於1969年首次頒獎，而馮·諾依曼在1957年就去世了。

馮·諾依曼在數學、物理學、工程學、經濟學、管理學等諸學科的貢獻也都極為重大。而不同學科的研究方向都各不一樣，目標也不一樣，比如：

傳統的電腦科學和機器學習人工智慧，都是在做預測，可以鍛煉出很強的預測能力，如同“地心說”本是一個錯誤的理論，但根據這個理論，人們能預測到明天的太陽會東昇西落，並算出日出和日落的時間，所以“地心說”可以做出很好的預測，但是不能做出很好的解釋；

解釋能力來自於對底層執行機制的了解，這個是經濟學家感興趣的主題。 舉例來說，“進化論”可以解釋人類為什麼是從猿猴進化而來的，但卻沒辦法預測我們人在未來會進化成什麼樣子，所以“進化論”有很強的解釋能力，但是沒有很強的預測能力。

有沒有辦法能讓人在這兩方面同時做好？目前因為學術分工，電腦科學家在研究方法上把預測能力推向了極致，而經濟學家也有很多方法把解釋能力推到極致。

把兩者結合起來，是我們的終極目標。在這方面做得最好的是諾貝爾經濟學獎獲得主赫伯特·西蒙（1916年6月15日2001年2月9日，20世紀科學界的一位通才，其研究工作涉及經濟學、政治學、管理學、社會學、心理學、運籌學、電腦科學、認知科學、人工智慧等領域）。

西蒙是目前人類歷史上唯一一位同時獲得了經濟學最高榮譽“諾貝爾經濟學獎”和電腦科學最高榮譽“圖靈獎”的人。他對各個領域都貢獻巨大。

我們需要像他和馮·諾依曼這樣的人，既懂得經濟學的底層邏輯，能夠透過現象看本質，又具有科學家的思維，能用電腦科學思維做出很好的預測。

人工智慧的兩大挑戰（過度擬合和因果關係），也許可以用經濟學的方法來指導。經濟學的因果分析方法在過去20年間得到了非常大的發展，而這些模型對電腦科學家來說是很陌生的。

我認為人工智慧和經濟學因果關係研究的未來發展，需要互相參考對方的方法，也許根據馮諾依曼的理論發展出來的經濟學方法，最終能解決一些困擾著根據圖靈的理論發展出來的人工智慧的挑戰。

通過上面三個小故事，我們回顧了過去100年間人和機器的角逐。結論實際上很簡單：

我們不需要擔心機器替代人類，也不需要機器以人類智慧為最終目標。當機器的強大運算能力和人的強大經驗結合起來的時候，當經濟學的因果分析方法能給人工智慧的兩大挑戰提供解決方案的時候，人工智慧的終極目標就實現了。