從2016年AlphaGo橫空出世到今天已經快4年了，對於圍棋本身，它的出現改變了人類現代圍棋理論，改變了我們對價值的判斷觀念，而對於圍棋屆之外的許多人，比如老樑，對於這種人工智慧的出現是帶著深深憂慮的。

老樑，原名樑巨集達，1972年2月20日出生於黑龍江省，畢業於黑龍江大學新聞系，是著名資深媒體編輯、評論人。在電視、網路上的《老樑故事匯》，《老樑看世界》，《老樑有話說》等節目中以其伶俐的口齒和獨到的見解廣受觀眾喜愛與好評。名嘴老樑博聞強識，對很多領域都有涉獵，圍棋方面也水平不俗，是業餘3段。

老樑的擔憂源自AI和世界冠軍聯棋，AI在認為局勢無可挽回想要認輸而遭到人類拒絕的時候，AI選擇了在我們人類看來消極的招法。老樑認為，這屬於AI對人類的“勸降”，就像我們消極的放棄抵抗一樣，他認為這是AI有了自己的意識，併為此表現出深深的憂慮。稍微了解一點點圍棋AI原理的人都會覺得這是無稽之談。首先，圍棋AI的在官子階段的判斷是比人類要精確的，比如說人類認為的細棋，哪怕是半目勝負，AI給出的勝率已經是80%，到了小官子階段甚至是90%以上。而那10%到20%的勝利機會，基本上是一些對手會犯一些低階錯誤，比如說打吃看不見或者自己填眼之類。雖然人類在細微局面下通常不會認為對方犯這種錯誤，所以也不會採取這種策略，但在AI眼中這是可能的，而想要取得勝利也只有這種方法。換句話說，這種消極的下法從另外一個方面證明了圍棋AI是沒有自己的思想和意志的。

編者注：2017年5月26日中國圍棋峰會人機大戰配對賽，由古力九段+AlphaGo執黑對陣連笑八段+AlphaGo，臨近結束的時候出現了有趣的一幕，和古力一組的AlphaGo主動跟古力示意認輸，古力拒絕以後AlphaGo的棋路越來越消極，開始在中腹白空中胡亂填子越虧越多，見此情形古力也只能示意中盤認負，點選右邊藍字連結可檢視棋譜：古力+AlphaGo【執黑】負連笑+AlphaGo【執白】

古力+AlphaGo人肉臂

連笑+AlphaGo人肉臂

從廣義人工智慧的角度來講，人工智慧可以分為弱人工智慧、強人工智慧和超人工智慧三種，第一種在我們的生活中已經非常普及了，比如說圍棋AI、蘋果手機的Siri。而強人工智慧指的是各方面能力都可以比肩人類的人工智慧，甚至在創造性方面的工作可以和人類相媲美。超人工智慧是各方面都比最聰明人類的大腦還要聰明的人工智慧。如果用通俗一點的話來說，製造出一個在資訊對等遊戲中能夠戰勝人類頂尖選手的人工智慧是可以實現的，而想要一個AI能夠識別任意人的手書，還可以理解它的含義，甚至能夠解決我們隨意提出的任何問題，這樣的AI還沒有出現，短時間內也沒有出現的可能。雖然谷歌之前公佈有AI通過了圖靈測試，但實際上它離像人類一樣思考還是有很大的距離。所以距離人工智慧能夠改變世界甚至能夠支配人類還有很遠的距離，我們現在還不用為此擔心。

在一個領域如已經成為翹楚，想要再進一步的難度是遠比從零到翹楚大的，現在的AI自然是未來一段時間科技進步的重要力量，但是真的想要能夠發展成那樣可怕的東西，可能還有更長的一段路要走。與此同時，我相信關於AI安全的研究也一定會緊跟著AI的發展。