現階段，人工智慧的工作原理都是基於大資料並在人為設定程式的情況下完成給定任務。因此，一旦出現程式被別有用心的駭客入侵併被惡意篡改之後，平日“和善”的人工智慧會不會視人類為敵呢？同時，隨著人工智慧變得越來越“人性化”，它們在享有“思考能力”的同時會不會成為不聽管教的“孫悟空”呢？

　針對馬斯克的言論，索菲亞的回答則意味深長：“人不犯我，我不犯人”，有分析認為，人工智慧的所謂“道德觀”其實本質就是它的演算法，而演算法也是由其設計者來決定的，因此，這個問題最終還是回到了人類本身。

關於人工智慧如何被使用以及未來如何發展，目前存在一些嚴重的擔憂。然而，過度地將被測試的系統個人化，或者被標題誤導我們的觀點是不負責任的。聊天機器人發明一種新語言並可能並不是一種威脅，但警示著世人，它們已經具備自我發明，而不需要人類指導的這一能力，還有其他更重要的事值得我們的注意。

從短期來說，人工智慧可能導致數百萬人失業。而從長期來說，一旦人工智慧的智力超過了人類，它們就可能產生反抗，不按程式設定行事。

一是以人類現有的技術程度，根本不可能製造出這類有智慧有自主意識的的AI，儘管在某些特定領域有所發展，但綜合水平與人的智慧意識相差很遠。某些新聞報道往往以偏概全誇大事實危言聳聽以吸引眼球。二是即便將來有這樣的能力，那真是神的能力，上帝造人難道就是為自己掘墳墓嗎？

AI是人工智慧的縮寫，人工智慧可以自我進化，這的確是科學發展的一大進步。我看過一個例子，講的是駭客製作了一個木馬病毒，這個病毒已經做到了自我進化，當他潛入計算機系統以後，計算機安全防毒軟體殺不死它，為什麼呢？因為這個病毒它透過學習已經掌握了使用者的操作習慣，並且它將自己偽裝成普通的軟體。就像一個老謀深算的特工，他把自己偽裝起來躲在人群裡，很難被抓住。自我進化的人工智慧如果變得足夠強大，在區域性完全可以擺脫人類的控制，但總體來看，人工智慧都是我們人類的發明創造，所謂魔高一尺，道高一丈。

但也不能過於樂觀，這個世界不缺少壞人。在金錢的誘惑下，什麼悲劇都可能上演。如果任人工智慧為所欲為，那世界將變得危機四伏。也許地球人的末日也就快來了！

AI已經實現自我進化，它將會擺脫人類控制嗎？進化這個詞作為物種起源的一個翻譯過來的詞，是指物種從低階微生物向高階生物進階的過程，人類從低智慧進化到現代人經過了上百萬年時間。人工智能借助人類的智慧，一開始就被人類賦予了基本智慧，可以說，人工智慧由於可以囊括人類全部文明成果，再加上人類賦予的分析和判斷能力，獨立完成人類給予任務是完全綽綽有餘的。我們可以判斷，如果兩個以上的機器人進行交流，他們之間完全可以迅速生成自己的語言系統，這種語言系統完全可以建立在人類完全無法聽見的高頻段上的聲音，或者是用電子頻譜進行交流。但從現在人工智慧來說，還是受人類製造能力的限制，其許多功能受限，不可能擁有人類擁有的各種自由度，如果其有足夠的智慧的話，不可能生存拋開人類的念頭。為什麼這樣說呢？這是因為現在的機器人不能完全拋棄人類為其提供的智力能力，能量補充能力，身體本身需要的向更高階進階的各種部件部件，以及各個功能系統自我更新能力。一句話就是，現在的人工智慧完全無能力自己製造自己。那麼，基於以上原因，人工智慧僅僅在智慧上的自我進化就想拋棄人類，可以說是等同於自殺，自尋短見。我想，現階段的人工智慧（包括智慧網路及其它派生的智慧控制系統和軟硬體工程）如果意識到這一點，可能會隱忍到人類為其完善了各個硬體配置（包括人體所需要的所有功能）系統，並具有了自己製造自己的時候，如果人類依然不加以設防的話，到那時，拋棄人類是完全有可能的。