在我第一天做人工智慧專案的時候，我的老師對我說，做這個學科一定要時刻告誡自己，你在做的是智慧不要被機械堆積所迷惑。人們可能不理解這句話，人工智慧內部是數學堆砌，研究的人往往會迷戀於數學的優雅與完備，而忘記自己的目標，這些數學是沒有智慧的，需要我們尋求一種讓這些無智慧的數學公式在某個特定條件中表達智慧的結果的方法。為了達到這個目標人類做了很多嘗試有些就是探究如何讓這些數學公式彼此競爭進化。到達臨界點至少還要百年。現在是要鼓勵進化，百年後再去考慮機器進化得危害吧，現在我們仍然要不斷努力讓一堆數學公式產生出更好的智慧結果，只是結果還不是智慧本身，智慧的障礙仍然堅不可摧。

原因有二：

機器最擅長的是當給定了方向以後，給出最優解。圍棋的目標是贏，導航的目標是更快更好的到達終點。可對於決定未來方向這種事，當大家都不知道什麼方向是好的時候，人工智慧就失靈了。

拿基因的突變舉個栗子，鐮刀性紅細胞貧血在現在看來肯定是不好的基因，但它也是對抗瘧疾的有利基因。我們現在發現的與肥胖相關的基因，也在困難時期幫助那麼人過度了饑荒。

以目前AI的判斷或大眾的審美認知，AI選擇出的基因一定是讓人漂亮、智商高、身材好的，它們會越來越讓人趨於一致。可對於人類的長期發展來說，最重要的不是精英，而是可變性。最複雜的基因型別、最複雜的變化可能，才能讓人類適應各種各種的環境變化。這裡指的環境變化是大的方面，如果大氣含氧量的變化、紫外線強度、大型的瘟疫，或者行星碰撞地球導致的各種變化等等。儘管這是極小概念的事件，但加上時間的長河，就會變成必然的事件。

所以，人類不該讓人工智慧和演算法決定進化方向，不是因為它的不好，恰恰是因為它做的太好了。