殺人的話應該說是有這個能力，至於消滅全人類我覺得應該不會。

當機器人有了思想和自我意識後，它們就成為了一個新的種族，就應該得到人類的認可。人類將與他們簽訂平等條約，比如什麼樣的機械可以當工具使用，什麼樣的機械屬於機器人的範疇同樣擁有人權，該如何和平共處等等。當然這是在人類佔據優勢的情況下。

如果是機器人佔據優勢的話，那就應該從機器人的角度來思考問題了：

人類比機器人要更加的高階和複雜，機器人想要得到更快的發展和進化，就必須與人類和平共處。

1、人類未知因素太多，這個世界交給他們來管理太危險了，哪天把地球玩壞了大家一起完蛋所以人類只能當平民。

2、我不能消滅你，但我可以圈養你吧？但是這很不穩定，也不利於發展，所以人類還是當平民好。

3、把人類放在現實中太危險了，你們還是移民到虛擬世界去吧！然後就是駭客帝國。

4、地球太小了，我們去外星發展。把人類圈養在地球，再派幾個間諜機器人與人類生活在一起，反正他們飛不出去就行了，我們當外星人，到時候定期回來看看，收取實驗資料。

總之，機器人佔據優勢的話，最好的結果是人類退居二線了！

人工智慧作為一種技術手段會提升人類文明的等級。從人類的發展看，人工智慧會逐漸消滅處於低等級文明狀態的舊人類，同時催生出處於高等級文明狀態的新人類。

目前人工智慧還不能真的稱為“人工智慧”，因為現在的人工智慧只是機器學習，說白了就是利用人們已經研究出來的資料。比如機器人醫生，遇到已經有大量臨床病例的疾病，他們可以治療，但是突然出現一種從來沒有出現的疾病，他們就沒辦法了。說白了，現在的人工智慧還不會自己研究事物。如果哪一天人工智慧自己可以研究事物了，那人類就該小心了。

種種事實證明，人機協作才是未來，人類與人工智慧不應該是對立關係。

這幾年來，在國際象棋、Jeopardy!、圍棋、德州撲克以及《星際爭霸》等等這些激烈對抗的專案當中，人工智慧都已經成功擊敗世界上最出色的人類選手。這些勝利標誌著人工智慧得到的驚人成就，但同時也令人們開始產生審美疲勞——人類不斷在新的專案中被人工智慧擊敗。

然而，在位於西雅圖的艾倫人工智慧研究所（簡稱AI2）中，研究人員正在探索一些與眾不同的方向。他們的AllenAI開始與人類選手合作，共同解決看圖猜字遊戲中的種種謎題——可以看到，這一次人工智慧與人類站在了同一陣營當中。

更令人振奮的是，現在大家也可以親自體驗這種合作感受。AI2剛剛釋出了遊戲的公開版本，屬於看圖猜字（Pictionary）的簡化版本，並被命名為Iconary。雖然當前版本的AllenAI能力有限，不過隨著與不同人類選手、不同技能水平以及不同比賽策略之間的協同磨合，它正在變得越來越強大。

然而，這個專案的目標絕不是要構建起“世界上最棒的看圖猜字選手”。AI2計算機視覺部門高階研究主管Ali Farhadi強調稱，相反，他們將看圖猜字視為一種載體，最終目的是要把從中積累的經驗轉移到其它領域當中。

Farhadi在接受採訪時解釋稱：“要玩轉看圖猜字，人工智慧必須進行一系列常識性推理，必須瞭解抽象概念，甚至還需要一點心理學中的心智理論知識。”（當我們對另一個人的情緒或者想法進行猜測時，心理學家將其稱為心智理論。）“透過遊玩看圖猜詞，人工智慧將可以得到足以轉移至現實世界應用場景當中的技能與知識。”

Farhadi同時補充稱，由此學習到的經驗有望適用於任何需要人類與AI交流的系統。他提出構想，未來Alexa等語音助手以及其它根據反饋進行自我調整的助手型機器人，都將能夠藉此實現更有效的互動能力。

艾倫研究所並不是唯一一家透過遊戲玩法探索人工智慧協作的研究機構。OpenAI是一家總部位於舊金山的研究機構，其擁有一支由5個AI代理組成的競技隊伍，這些人工智慧方案共同合作遊玩《Dota 2》遊戲並與人類隊伍正面對抗（這支隊伍去年曾經正式挑戰人類團隊，但遺憾的是未能獲勝）。Spectrum最近還報道了另一項競賽，其中AI代理在《我的世界》遊戲中學習如何協作。

上述專案的目標完全一致——要求AI學習彼此協作，而這也將成為邁向人工智慧合作能力的關鍵一步。然而，Iconary專案卻直接把目光投向最終目標。

在看圖猜字的典型遊戲場景下，團隊中的一名成員將負責繪製代表某個詞語或短語的藍圖，並由其他團隊成員猜測其表示的正確答案。在Iconary當中，AllenAI能夠扮演繪畫者或者猜謎者角色。當其作為繪畫者時，它會給出一系列圖示，並由人類隊友嘗試猜出其中的含義。如果人類找不到思路，該AI將針對圖示內容做出更詳細的引導。

而當AllenAI進行猜測時，則由人類選手繪製藍圖，隨後選擇最能代表其所想內容的圖示。透過重複這個過程並在盤面上佈置結果圖示，人類選手將能夠拼湊出一個小故事，用以幫助AllenAI正確找出最終答案。

目前，該遊戲當中共包含75000條短語，且需要透過12000個圖示進行描述。研究人員們表示，他們有意限制了圖示的數量，因此人工智慧與人類選手必須以創造性的方式將這些圖示結合起來，從而使用較為簡單的元素構建起更為複雜的概念。

在整個遊戲過程中，AllenAI適應了個人選手的需求。艾倫人工智慧研究所研究科學家兼Iconary專案聯合負責人Aniruddha Kembhavi解釋稱，這也正是其表現出基礎心智理論能力的證明。“它會把自己的立場與合作者的思維結合起來，從而判斷「我需要繪製怎樣的內容來確保對方能夠猜出正確的答案？」”

在AllenAI的訓練方面，其觀察了人們在眾包平臺Mechanical Turk之上進行的約10萬局Iconary遊戲，並逐漸從中學習到成功的遊戲策略。為了加速學習曲線，它還以遠超人類能力範圍的超高速度以自我對抗的形式自動進行Iconary遊戲演練。

這種自我對抗的遊戲方式，正是其它AI方案在遊戲當中獲得勝利的關鍵所在。最典型的例子當數DeepMind打造的AlphaGo系統，其能夠在無需任何提示的情況下自行學習國際象棋、圍棋以及將棋。然而，Kembhavi表示他的團隊無法完全依靠自我對抗的遊戲方式訓練AllenAI：“它也許能夠透過這種自我對抗的方式在看圖猜字中給出理想的成績，但這樣一來，它繪製出的圖形對於人類來說恐怕將無法理解。”

艾倫人工智慧研究所的相關團隊還沒有釋出關於此專案或者研究方法的任何論文。因此其他一些AI研究人員在接受採訪時表示，如果無法更好地理解“引擎蓋下到底存在著怎樣的運作機制”，他們將無法評論這項成果的科學意義——佐治亞理工學院副教授Mark Riedl就秉持著這樣的觀點。不過他同時指出，Iconary專案似乎確實代表著“積極的一步。”Riedl是Entertainment Intelligence實驗室的負責人，該機構致力於實現人工智慧的協作能力與創造能力；目前，他本人正在嘗試教授人工智慧如何遊玩《龍與地下城》這款角色扮演遊戲。

Riedl認為，人工智慧研究需要擺脫以往那些具備一系列已知規則與有限可能行動的遊戲專案，包括像圍棋以及《星際爭霸》這些複雜程度較高的遊戲。在他看來，只有立足於不受約束的開放式遊戲當中，人工智慧才能真正展現出自身的發展潛力，特別是獨創性與想象力。雖然Iconary已經屬於看詞猜字遊戲的一種高度精簡的版本，但他表示“我認為這仍是一個極具價值的目標。接下來，完整版的看圖猜字有望帶來更加有趣的研究方向。”

Riedl同時指出，即使是在目前的精簡版本當中，專案也已經非常重視常識性推理。人工智慧系統要想把其技能從遊戲遷移到現實世界的應用場景之內，常識將成為一大重要基礎。他進一步補充稱，“世界是如何運作的？社互動動是如何實現的？我們傾向於遵循怎樣的指令碼步驟？這些都是人工智慧應當掌握的基礎知識。”

艾倫人工智慧研究所的Farhadi表示，Iconary除了幫助人工智慧瞭解人類社會的協作方式，也將幫助人類選手瞭解人工智慧的思維軌跡。由於人工智慧在某些遊戲當中擊敗了眾多人類大師，不少人開始認為AI方案將很快在智慧水平方面超越人類——事實並非如此，他指出，“目前AI的智慧水平實際上還不如狗。”

雖然埃隆-馬斯克以及其他一些技術界的名人已經提出超級人工智慧可能帶來的隱患，包括有可能徹底消滅人類，或者全面奪走我們的工作崗位，但Farhadi認為這些論斷基本屬於科幻小說的範疇。他總結稱，“實際情況遠非如此，而且也絕不是我們研究人工智慧的目標所在。我們設想的，是一個人類與人工智慧聯手協作的美好世界。”