出現什麼都有可能，問題是我們平頭小百姓能做什麼？如何利用好人工智慧，說不定以後不用做自媒體了，都是機器在弄，裝個蕊片，都歸機器管。

當前，在移動網際網路、大資料、超級計算、感測網、腦科學等新理論新技術驅動下，人工智慧呈現深度學習、跨界融合、人機協同、群智開放、自主操控等新特徵，將對經濟發展、社會進步、國際政治經濟格局等產生重大而深遠的影響。當今時代，人工智慧被認為是科技創新的下一個“超級風口”，世界各國越來越重視。推動新一代人工智慧健康發展，需要我們具備世界眼光、全域性思維，不斷深化對人工智慧內涵、外延、功能和發展前景的認識。

從戰略高度認識人工智慧。發展新一代人工智慧，不僅有助於讓技術更好地服務經濟社會發展，而且有助於不斷滿足人們日益增長的美好生活需要。讓機器更好為人服務。對充滿惡意的人工智慧應用，政府層面的監管不能滯後，而需要跟上技術的發展。

翻開人類歷史，哪一次技術革命不帶來人類社會翻天覆地的變化？蒸汽機的發明、使用，使人類從農業手工業時代進入了工業社會；電動機的誕生，使人類從工業社會跨入了現代化。而以原子能、電子計算機、空間技術和生物工程的發明與應用為主要標誌的資訊科技革命，更讓人類從此進入了自動化、資訊化時代。每一次技術革命，伴隨的都是生產力的發展和人類自身的解放。

人工智慧是我們的國家戰略計劃之一，國家人工智慧計劃目前分為五大方向。

①大資料人工智慧

②群體智慧

④人機混合增強智慧

⑤自主無人系統

大資料人工智慧，目前是透過收集人類的資料痕跡來做一些規律性的預測，透過大資料不斷培訓人工智慧的智力，從而取代人類，做一些規律性的工作，比如圖形影象識別，這個是事務性的工作，並不存在比較大的危險性。

群體智慧就是無人系統的自我組織，比如許多無人駕駛車輛最終形成無人駕駛系統，或者數百架無人機組成一個攻擊編隊（實際上我們已經有了一個百架無人機的自主飛行編隊），它們可以自己瞭解自己所處的位置，瞭解隊友所處的位置，分享自己接下來的行為，從而避免在組織內部造成混亂和撞擊，並且共享一個目標，作為一個群體完成自己的使命。

但是決策權必須控制在人類手裡，這就是人機混合增強系統為什麼被認為可能是未來人工智慧的終極模式之一。人工智慧的推理，決策，記憶等方面需要人類介入並做出終極決策，而並不能把最終的決策權也完全交給人工智慧系統，如果將決策模式和決策權也交給人工智慧，這將引來一種不可預測的風險。糰子認為這個風險並不意味著人工智慧將會具備的自主意識，因為自主意識是人工智慧和人類智慧的目前的最大差別，但是他的決策失誤有可能對人類造成重大的傷害。

自主無人系統將使人工智慧體現更多的人類特徵，並且接近人類的水平，而且可以取代人類從事一些危險性更高的行為，比如深海探測，極地探索，外太空探索，戰爭等等行業，無人系統的自我培訓，互相培訓，將極大極快速的提升自主人工智慧的智力水平，這個對人類會不會帶來危害依然有待觀察。比如自主人工智慧掌握了敵我識別系統的控制權（敵我識別系統是自主無人戰鬥機的必備系統）。那麼，一旦這個自我係統將人類定義為敵人並加以攻擊，那麼必然會對人類造成重大的損失。所以人工智慧的自我培訓和互相培訓，需要仍然在人類可控的範圍之內進行。人工智慧速度和安全的權衡，將是人工智慧發展的必備話題。

目前人工智慧還不存在這樣的風險，因為目前人工智慧的算力和智力水平還遠達不到自主的能力。但是題主所說的風險，糰子認為是存在的，而且必須加以研究和管理來規避系統性的風險。