回覆列表
  • 1 # 龍文化誦讀

    現在深度學習在機器學習領域是一個很熱的概念,不過經過各種媒體的轉載播報,這個概念也逐漸變得有些神話的感覺:例如,人們可能認為,深度學習是一種能夠模擬出人腦的神經結構的機器學習方式,從而能夠讓計算機具有人一樣的智慧;而這樣一種技術在將來無疑是前景無限的。那麼深度學習本質上又是一種什麼樣的技術呢?

    深度學習是什麼

    深度學習是機器學習領域中對模式(聲音、影象等等)進行建模的一種方法,它也是一種基於統計的機率模型。在對各種模式進行建模之後,便可以對各種模式進行識別了,例如待建模的模式是聲音的話,那麼這種識別便可以理解為語音識別。而類比來理解,如果說將機器學習演算法類比為排序演算法,那麼深度學習演算法便是眾多排序演算法當中的一種(例如氣泡排序),這種演算法在某些應用場景中,會具有一定的優勢。

    深度學習的“深度”體現在哪裡

    論及深度學習中的“深度”一詞,人們從感性上可能會認為,深度學習相對於傳統的機器學習演算法,能夠做更多的事情,是一種更為“高深”的演算法。而事實可能並非我們想象的那樣,因為從演算法輸入輸出的角度考慮,深度學習演算法與傳統的有監督機器學習演算法的輸入輸出都是類似的,無論是最簡單的Logistic Regression,還是到後來的SVM、boosting等演算法,它們能夠做的事情都是類似的。正如無論使用什麼樣的排序演算法,它們的輸入和預期的輸出都是類似的,區別在於各種演算法在不同環境下的效能不同。

    那麼深度學習的“深度”本質上又指的是什麼呢?深度學習的學名又叫深層神經網路(Deep Neural Networks ),是從很久以前的人工神經網路(Artificial Neural Networks)模型發展而來。這種模型一般採用計算機科學中的圖模型來直觀的表達,而深度學習的“深度”便指的是圖模型的層數以及每一層的節點數量,相對於之前的神經網路而言,有了很大程度的提升。

    深度學習也有許多種不同的實現形式,根據解決問題、應用領域甚至論文作者取名創意的不同,它也有不同的名字:例如卷積神經網路(Convolutional Neural Networks)、深度置信網路(Deep Belief Networks)、受限玻爾茲曼機(Restricted Boltzmann Machines)、深度玻爾茲曼機(Deep Boltzmann Machines)、遞迴自動編碼器(Recursive Autoencoders)、深度表達(Deep Representation)等等。不過究其本質來講,都是類似的深度神經網路模型。

    既然深度學習這樣一種神經網路模型在以前就出現過了,為什麼在經歷過一次沒落之後,到現在又重新進入人們的視線當中了呢?這是因為在十幾年前的硬體條件下,對高層次多節點神經網路的建模,時間複雜度(可能以年為單位)幾乎是無法接受的。在很多應用當中,實際用到的是一些深度較淺的網路,雖然這種模型在這些應用當中,取得了非常好的效果(甚至是the state of art),但由於這種時間上的不可接受性,限制了其在實際應用的推廣。而到了現在,計算機硬體的水平與之前已經不能同日而語,因此神經網路這樣一種模型便又進入了人們的視線當中。

    “ 2012年6月,《紐約時報》披露了Google Brain專案,吸引了公眾的廣泛關注。這個專案是由著名的斯坦福大學機器學習教授Andrew Ng和在大規模計算機系統方面的世界頂尖專家Jeff Dean共同主導,用16000個CPU Core的平行計算平臺訓練一種稱為“深層神經網路”(DNN,Deep Neural Networks) ”

    從Google Brain這個專案中我們可以看到,神經網路這種模型對於計算量的要求是極其巨大的,為了保證演算法實時性,需要使用大量的CPU來進行平行計算。

    當然,深度學習現在備受關注的另外一個原因,當然是因為在某些場景下,這種演算法模式識別的精度,超過了絕大多數目前已有的演算法。而在最近,深度學習的提出者修改了其實現程式碼的Bug之後,這種模型識別精度又有了很大的提升。這些因素共同引起了深層神經網路模型,或者說深度學習這樣一個概念的新的熱潮。

    深度學習的優點

    為了進行某種模式的識別,通常的做法首先是以某種方式,提取這個模式中的特徵。這個特徵的提取方式有時候是人工設計或指定的,有時候是在給定相對較多資料的前提下,由計算機自己總結出來的。深度學習提出了一種讓計算機自動學習出模式特徵的方法,並將特徵學習融入到了建立模型的過程中,從而減少了人為設計特徵造成的不完備性。而目前以深度學習為核心的某些機器學習應用,在滿足特定條件的應用場景下,已經達到了超越現有演算法的識別或分類效能。

    深度學習的缺點

    深度學習雖然能夠自動的學習模式的特徵,並可以達到很好的識別精度,但這種演算法工作的前提是,使用者能夠提供“相當大”量級的資料。也就是說在只能提供有限資料量的應用場景下,深度學習演算法便不能夠對資料的規律進行無偏差的估計了,因此在識別效果上可能不如一些已有的簡單演算法。另外,由於深度學習中,圖模型的複雜化導致了這個演算法的時間複雜度急劇提升,為了保證演算法的實時性,需要更高的並行程式設計技巧以及更好更多的硬體支援。所以,目前也只有一些經濟實力比較強大的科研機構或企業,才能夠用深度學習演算法,來做一些比較前沿而又實用的應用。

  • 2 # Derek6226

    深度學習的概念源於人工神經網路的研究,含多個隱藏層的多層感知器就是一種深度學習結構,透過組合低層特徵形成更加抽象的高層屬性或類別特徵,從而對資料進行表徵。簡單來說機器學習是實現人工智慧的方法,深度學習是實現機器學習的技術。最近中公教育在出這個課程學習,他們課程和中科院自動化研究所合作的,這個也是中公老師給我朋友說的,我正好跟我朋友在一起也有所瞭解,你要是有這方面的興趣可以去中公教育IT的官網瞭解,我朋友之前在哪裡學的,他們教學質量還是可以保障的。

  • 3 # 東北振興

    深度學習是多層次的人工神經網路的建立和利用。在最簡單的術語中,你可以把它看作是高度非線性的級聯模型,例如多層規則和最後的邏輯迴歸。這是一個非常複雜的體系結構,最後的結果是分類(離散結果)或迴歸(連續結果)。

    一般來說,這些模型需要有大資料的支援,並且需要對超引數(hyper parameters)、正則化的大量的精細調節。應用包括基於CNN(convolutional neural networks卷積神經網路)的計算機視覺和影象識別;自動翻譯(基於NLP技術,例如長短期記憶模型)。

    關注優就業,學習更多人工智慧前沿技術。

  • 4 # 江蘇優就業

    首先來看一下機器學習的概念,我們提供給電腦樣例資料,電腦透過一定的模型自己學習出相應的規則,並且這些規則可以隨著資料的輸入不斷調整。而深度學習,則是一種十分有效的機器學習方法。

    現在的深度學習主要指的是深度神經網路。神經網路形式上就是一個分層的網路結構,它其實是對神經元連結形式上的一種模擬,並不是真正的去建立一個人腦一樣的結構,因為大腦太複雜了,我們現有的對大腦的瞭解還遠遠不足以讓我們模擬一個大腦出來。所以它主要依賴的是數學,而不是神經科學。

    深度學習使機器更加聰明,帶給我們更加智慧的服務。比如說,透過視覺獲取和處理影象、透過聲音講出語言是人類最自然的與外界溝通的方式,但傳統的計算機服務卻無法從本質上讀懂我們這些內容,當我們進行影象搜尋或者向計算機發送某項指令時,我們需要預先在大腦中做一遍處理,將我們原本要表達的意思轉化成計算機能夠讀懂的文字資訊,然後手動輸入到計算機並獲得結果。但在機器學習的幫助下,我們隨意把一張圖片丟給電腦就能返回結果,我們直接用語言就可以來命令計算機來為我們提供各種服務。

  • 5 # kevin

    深度學習是機器學習的分支,是一種以人工神經網路為架構,對資料進行表徵學習的演算法。最近有中公的老師聯絡我說他們和中科院聯合推出了深度學習的課程,打算先試聽一下。可以的話就報班學習吧

  • 中秋節和大豐收的關聯?
  • 為什麼這次人們去新發地能感染,不是都帶口罩了嗎?