-
1 # 龍騰東方
-
2 # 自在小築
可以考慮使用物競天擇，狗盡人擇的方式，馴化溫順的人工智慧。要麼人成為人機融化一起進化。否則科幻電影中的情況就會出現。
-
3 # 我是豆苗爸
我認為，這個問題不必擔憂：技術會使人工智慧進步，但人類也可以靠技術來進化。
一個事實是，就目前來說，人工智慧的很多方面，特別是邏輯和判斷，已經遠遠超過了人類，最重要的節點就是，圍棋比賽中阿爾法4:1戰勝李世石。
對於邏輯和判斷的學習能力，人工智慧已經遠遠超過了人類。但人類還有優勢，那就是想象力。人工智慧到目前為止仍然無法想象到它沒有接觸過的東西（資料），而這是人類所特長的，人類從很小的時候，有自我意識開始，就會想象虛構的事物。正如尤瓦爾·赫拉利的《人類簡史》裡面所說的，智人正是靠著“想象的共同體”來成為現在的人類，建成我們現今的科技和文明。
《人類簡史》
但是倚靠著人工智慧不斷地發展，可否會誕生出和我們一樣會想象虛無事物的智慧？答案是肯定的。
《異形前傳：普羅米修斯》
要擔憂和恐懼嗎？單純看人工智慧的優異表現，我們確實應該感覺到恐懼。正如《異形前傳：普羅米修斯》裡面提出的問題：上帝（“工程師”）創造了人類，而人類創造了機器人，是否這本身就是宿命的替代？
《未來簡史》
尤瓦爾·赫拉利寫的另一部鉅著《未來簡史》，實際上已經從一個方面解答了這個問題。
未來的人類，會和機器結合，升級為“神人”。
《攻殼機動隊》
《銃夢》改編的電影《阿麗塔：戰鬥天使》
什麼是神人？就是人和機器的完美結合。被稱為神作的日本漫畫《攻殼機動隊》和《銃夢》裡面描述了各種義體人。未來的人類，近視的可以改裝成義眼，可以提升人類的視力達到機器和人工智慧的水平；甚至可以更換全身除大腦外的所有肢體和器官，強化成半神半人的不可思議形態；最終可以把自己的思想抽離，融入到網路，和人工智慧結合，成為真正意義上的“神人”。
原始人類，如果他能想象到現在的坦克、飛機、原子彈，他一定也會感覺到恐懼，因為他不知道支撐著這樣的科技的背後，是人類智慧的進步；而我們現在如果能想到，未來我們人類一樣在跟隨技術進步，這何懼之有呢？
回覆列表
當人工智慧複雜度日漸提升，達到超出任何人類的理解能力時，其管理將會從簡單操控，上升到道德倫理層次的安全設計準則，乃至有建立了新興學科——機械倫理學。
實際上的應用邏輯可以參考阿西莫夫在《我，機器人》一書的引言中所寫“機器人學三大法則”:
1.機器人必須不危害人類,也不允許他眼看人將受害而袖手旁觀。
2.機器人必須絕對服從於人類,除非這種服從有害於人類。
3.機器人必須保護自身不受傷害,除非為了保護人類或者是人類命令它做出犧牲。
後來，又出現了補充的“機器人第0法則”:機器人必須保護人類的整體利益不受傷害，其它三條定律在此前提下才成立。
當然，後續隨著時代發展，人們又對其有不斷的補充與修正，如繁殖原則:機器人不得參與機器人的設計和製造，除非新機器人的行為符合機器人原則。
這些守則中，把“機器人”替換為“人工智慧”，可以當作在人工智慧的安全設計中的指導原則，也將會在未來發展中不斷補充與完善。
相關書籍還有《機器人管家》，《機器公敵》，《2001:太空漫遊》等，甚至有拍成了電影。有興趣的建議看下。