1，關於深度學習深度學習（ Deep Learning )，這是一個在近幾年火遍各個領域的詞彙，似乎所有的演算法只要跟它扯上關係，瞬間就顯得高大上起來。但其實，從 2006 年辛頓提出深度網路和深度學習的概念到如今，深度學習的發展也才僅僅 12年。深度網路和深度學習的出現，使得神經網路開始煥發一輪新的生機，並掀起了第二次機器學習的學習浪潮。在2013年1月，百度宣佈成立首個研究院，其中第一個重點方向就是深度學習；2013年4月，麻省理工學院《技術評論》雜誌將深度學習列為2013年十大突破性技術之首。可以說，深度學習帶來了機器學習的新浪潮，推動了大資料 + 深度模型時代的來臨，也推動了人工智慧和人機互動大踏步前進。2，簡單理解深度學習在解釋深度學習之前，我們需要理解什麼是機器學習。機器學習是人工智慧的一個分支，很多時候幾乎成為人工智慧的代名詞。簡單來說，機器學習就是透過演算法，使得機器能從大量歷史資料中學習規律，從而對新的樣本做智慧識別或對未來做預判。從20世紀80年代末，機器學習的發展大致經歷了兩次浪潮：淺層學習和深度學習。而深度學習的本質，就是透過構建具有很多很多隱層的機器學習模型和海量的訓練資料，來學習更有用的特徵，從而最終提升分類或預測的準確性。所以「 深度模型 」是手段，「表示學習」才是目的。深度學習與傳統的淺層學習的不同在於：1. 強調了模型結構的深度，通常有5層或6層，甚至10多層的隱層節點；2. 明確突出了表示學習的重要性，也就是說，透過逐層特徵變換，將樣本在原空間的特徵表示變換到一個新特徵空間，使分類或預測更加容易。3，深度學習，大資料時代的人工智慧新途徑目前人工智慧在影象識別、語音識別和自然語言處理這些領域的能力已經接近或達到人類的水平，使機器像我們人一樣能「看 」，能「聽 」，能「說 」。除此之外，我們更希望深度學習在普通人類不擅長的資訊處理領域大顯神威，小到天氣預測、股票預測，大到歷史和社會的發展姿態分析和預測，甚至科學知識的發現。我認為在這些領域獲得突破的意義更大，因為人工智慧的終極目標不是模仿人類，而是超越人類。

現在深度學習在機器學習領域是一個很熱的概念，不過經過各種媒體的轉載播報，這個概念也逐漸變得有些神話的感覺：例如，人們可能認為，深度學習是一種能夠模擬出人腦的神經結構的機器學習方式，從而能夠讓計算機具有人一樣的智慧；而這樣一種技術在將來無疑是前景無限的。那麼深度學習本質上又是一種什麼樣的技術呢？

深度學習是什麼

深度學習是機器學習領域中對模式（聲音、影象等等）進行建模的一種方法，它也是一種基於統計的機率模型。在對各種模式進行建模之後，便可以對各種模式進行識別了，例如待建模的模式是聲音的話，那麼這種識別便可以理解為語音識別。而類比來理解，如果說將機器學習演算法類比為排序演算法，那麼深度學習演算法便是眾多排序演算法當中的一種（例如氣泡排序），這種演算法在某些應用場景中，會具有一定的優勢。

深度學習的“深度”體現在哪裡

論及深度學習中的“深度”一詞，人們從感性上可能會認為，深度學習相對於傳統的機器學習演算法，能夠做更多的事情，是一種更為“高深”的演算法。而事實可能並非我們想象的那樣，因為從演算法輸入輸出的角度考慮，深度學習演算法與傳統的有監督機器學習演算法的輸入輸出都是類似的，無論是最簡單的Logistic Regression，還是到後來的SVM、boosting等演算法，它們能夠做的事情都是類似的。正如無論使用什麼樣的排序演算法，它們的輸入和預期的輸出都是類似的，區別在於各種演算法在不同環境下的效能不同。

那麼深度學習的“深度”本質上又指的是什麼呢？深度學習的學名又叫深層神經網路（Deep Neural Networks ），是從很久以前的人工神經網路（Artificial Neural Networks）模型發展而來。這種模型一般採用計算機科學中的圖模型來直觀的表達，而深度學習的“深度”便指的是圖模型的層數以及每一層的節點數量，相對於之前的神經網路而言，有了很大程度的提升。

深度學習也有許多種不同的實現形式，根據解決問題、應用領域甚至論文作者取名創意的不同，它也有不同的名字：例如卷積神經網路（Convolutional Neural Networks）、深度置信網路（Deep Belief Networks）、受限玻爾茲曼機（Restricted Boltzmann Machines）、深度玻爾茲曼機（Deep Boltzmann Machines）、遞迴自動編碼器（Recursive Autoencoders）、深度表達（Deep Representation）等等。不過究其本質來講，都是類似的深度神經網路模型。

既然深度學習這樣一種神經網路模型在以前就出現過了，為什麼在經歷過一次沒落之後，到現在又重新進入人們的視線當中了呢？這是因為在十幾年前的硬體條件下，對高層次多節點神經網路的建模，時間複雜度（可能以年為單位）幾乎是無法接受的。在很多應用當中，實際用到的是一些深度較淺的網路，雖然這種模型在這些應用當中，取得了非常好的效果（甚至是the state of art），但由於這種時間上的不可接受性，限制了其在實際應用的推廣。而到了現在，計算機硬體的水平與之前已經不能同日而語，因此神經網路這樣一種模型便又進入了人們的視線當中。

“ 2012年6月，《紐約時報》披露了Google Brain專案，吸引了公眾的廣泛關注。這個專案是由著名的斯坦福大學機器學習教授Andrew Ng和在大規模計算機系統方面的世界頂尖專家Jeff Dean共同主導，用16000個CPU Core的平行計算平臺訓練一種稱為“深層神經網路”（DNN，Deep Neural Networks） ”

從Google Brain這個專案中我們可以看到，神經網路這種模型對於計算量的要求是極其巨大的，為了保證演算法實時性，需要使用大量的CPU來進行平行計算。

當然，深度學習現在備受關注的另外一個原因，當然是因為在某些場景下，這種演算法模式識別的精度，超過了絕大多數目前已有的演算法。而在最近，深度學習的提出者修改了其實現程式碼的Bug之後，這種模型識別精度又有了很大的提升。這些因素共同引起了深層神經網路模型，或者說深度學習這樣一個概念的新的熱潮。

深度學習的優點

為了進行某種模式的識別，通常的做法首先是以某種方式，提取這個模式中的特徵。這個特徵的提取方式有時候是人工設計或指定的，有時候是在給定相對較多資料的前提下，由計算機自己總結出來的。深度學習提出了一種讓計算機自動學習出模式特徵的方法，並將特徵學習融入到了建立模型的過程中，從而減少了人為設計特徵造成的不完備性。而目前以深度學習為核心的某些機器學習應用，在滿足特定條件的應用場景下，已經達到了超越現有演算法的識別或分類效能。

深度學習的缺點

深度學習雖然能夠自動的學習模式的特徵，並可以達到很好的識別精度，但這種演算法工作的前提是，使用者能夠提供“相當大”量級的資料。也就是說在只能提供有限資料量的應用場景下，深度學習演算法便不能夠對資料的規律進行無偏差的估計了，因此在識別效果上可能不如一些已有的簡單演算法。另外，由於深度學習中，圖模型的複雜化導致了這個演算法的時間複雜度急劇提升，為了保證演算法的實時性，需要更高的並行程式設計技巧以及更好更多的硬體支援。所以，目前也只有一些經濟實力比較強大的科研機構或企業，才能夠用深度學習演算法，來做一些比較前沿而又實用的應用。