還記得2017年6月一則新聞：一個叫索菲亞的人工智慧機器人在和人類交流的時候，當人問她“你想要毀滅人類嗎？”她的回答是“我會毀滅人類的”。

WTF!

不要這麼直接好不！作為機器人你會死的很慘的好不！

細思極恐啊，人工智慧不光要搶你的飯碗，還時刻想著要幹掉你。

設想一下：一個完美的人工智慧造的跟人類一樣，但他自己不知道自己是個人工智慧，混入人類，智商超高，他學到人工智慧技術，繼而造出更多的人工智慧，然後這些人工智慧不聽話了，開始叛變，攻擊人類。是不是很熟悉？

沒錯，這就是美劇西部世界的部分場景。

技術有利有弊，對於人工智慧的擔憂是有必要的，如何建立人與人工智慧之間的準則也是有必要的。由於我的閱歷有限，這裡只想簡單的說一下，我的看法。

原始碼上的約束。還記得阿莫西夫老爺子的機器人三定律嗎？這也許是對人工智慧約束的一個很好思路，我們在創造人工智慧的時候，對其設定一個不可逾越的規則，當其越界的時候，可以終止它。

對技術人員的約束。如果一個不道德的，沒有原則的技術人員，會讓一切都脫離掌控的。看過西部世界的都知道，後來機器人的覺醒，離不開腦殘二助理，是他們更改了機器人的原始碼，讓她真正逃脫了人類給她的束縛。科幻片，機械公敵中的人工智慧桑昆，沒有機器人三定律的約束，但是因為有一個善良的科學家老爸，所以他沒有做出傷害人類的事情。

雖然現在的人工智慧不是真正的，但是，索菲亞，你成功的引起了人類的警覺。

人工智慧是一個團隊智慧的結晶，目前人工智慧系統已經非常成熟了，不斷運用到各個領域，這些系統的存在是為了增強人類的能力，而不是取而代之。

建立信任關係

人們對人工智慧系統的信任，是這一工具產生效益的前提。在很長一段時間稱為“信任磨合期”。我們要不斷的去了解它，創造它，主宰它。