說幾個觀點

1.剛剛重新看兩個機器人對話，給我的感覺很像lstm沒有訓練完全的情況，不斷的重複已經學到最可能的知識，當然我相信fb的data scientist很厲害，應該不會犯這種低階錯誤，但也不排除有這種可能性。

2.AI到底有沒有前景我覺得這是個不用問的問題，實際上AI已經融入了我們的生活，掃地機器人，自動化工廠等等，AI幫助我們做了許多重複勞動的工作簡化了我們的生活，離開了AI，難道要我們回到原始社會麼？所以必然有前景。

3.很多人擔心AI會毀滅人類，而我想說，如果機器智慧是遠高於人類的智慧，他怎麼會讓人類感覺到威脅來傷害自己。就好像貓覺得自己是人類的上帝而不是寵物一樣。

4.順著上一個觀點講下來，我覺得其實我們已經活在人機共存的時代裡了，想想機器靠人類繁殖的可怕速度，以前很多人偶爾用電子裝置，現在很多人沒有電子裝置無法生存。尤其是手機，有多少人還會關注身邊的風景而不是在朋友圈的風景裡點贊？有時候我們說我們在玩手機，還不如說其實是手機在玩我們，下一步，機器學會自我繁殖的時候，在機器眼裡我們也只是一個快樂的貓而已。

人類對待智慧必須採取敬畏和務實的態度，無知的挑戰智慧將導致問題失控而帶來嚴重災難！目前大量深度學習神經網路被採用，已經大面積存在失控的基礎了。

在區域性問題域，人工智慧很有用，但並不是國內媒體炒作的要替代人類云云……

確實這兩天全球的人工智慧科學家都關注到了Facebook上個月發表的一篇論文。論文中闡述了一個Facebook例行的科學研究專案，展示了兩個人工智慧機器人如何在看過人類的談判對話後，開始互相展開對話談判，並透過試錯逐漸提升談判的能力。

這篇論文中吸引媒體眼球的是，兩個智慧機器人的對話雖然是基於英語的，但是由於語法不規範，導致人類無法理解他們溝通的意思。過去幾周，一些媒體就開始釋出人工智慧威脅論，稱Facebook關閉了人工智慧系統，因為它們的語言失控，可能具有危害性。

對此，Facebook已經做出迴應，Facebook並沒有“關掉”這個系統，而是重新設定了正確的激勵機制，修正了機器人的行為，讓機器人說“人話”。這當中有兩點需要指出，其一是機器人並沒有發明自己的語言，只是創造了新的表達方式，其二是修正機器人行為的原因也不是因為害怕系統失控，是為了更加有效地進行新的實驗。

所以這其實只是一項普通的研究實驗，最終的目的也不是讓兩個機器人聊天，而是透過機器人和機器人的聊天，來提高機器人和人聊天的技巧。根本還是為了實現人機之間的互動。

那麼至於Facebook為什麼要允許兩個機器人之間進行交流，有專家告訴我，因為機器人的表達方式有限，因此機器人與機器人的對話相對容易做，但是由於目前的人工智慧技術尚不支援邏輯推理，因此機器人和機器人的對話仍然是在人類設定的邏輯框架之下。這也是為什麼我們現在看到不管是AlphaGo也好，Facebook智慧機器人也好，大部分都是在專屬的領域，因為目前的技術還不能夠支援機器人在開放領域的對話。但這一定會是一個方向，如果做出來，將具有革命性的意義。