僅透過一個倫理來約束，是徒勞的，必須上升到法律層面，來約束製造它的人，才有一定的效果。

就用大家身邊的事情來說，碰瓷的，如果只用道德來約束碰瓷者，有效果嗎。不用我給出答案，大家都知道結果啦。唯有確實執行的法律，才能震懾這種行為。

並且，AI也不在歐盟，未來AI最前沿、最厲害的是美國和中國，沒歐盟什麼事。就像一個孤島上，最強的才是老大，後面的想給老大定規矩，有點難。一般是幾個強者聯合起來給大家定規矩。

從科技發展來說，任何一項技術都沒有罪，如何使用才是問題。也有人會說，沒有這個技術，壞人也用不了呀。說的好有道理，我竟無言以對。就像三體裡面一樣，如果人類製造了黑域困住太陽系，任何東西都飛不到太陽系之外，固步自封，是安全了，但也徹底死亡啦。

AI必須要發展出來，是必須，無論有任何阻力都要弄出來。你不弄，會有別的國家（組織）弄。

不說戰爭，就想象一下現實生活中，到處是智慧機器，完全取代了人工。即便所有人都閒著，效率也遠超所有人都努力工作。更不用說AI在思考能力上的指數級進步，就像一隻螞蟻無法想象人類能飛到月球。人類也無法想象當AI有足夠的計算能力之後會是什麼結果。

現階段唯一可行的是，法律的約束，和國家級力量的管制，僅透過倫理無法約束AI的發展方向。