回覆列表
  • 1 # 深度學習中文社群

    我主要從結合論文閱讀入門深度學習來介紹內容。

    有兩個事先說在前面,第一,想要閱讀關於什麼內容的論文,直接谷歌一下,你就能找到原始論文,第二,推薦收藏arXiv.org這個網站,深度學習論文一般都會第一時間發表在這個網站上。

    目前推薦先熟悉數學相關的基礎知識,比如函數里最基本的求導與積分,然後就是偏導數,梯度下降等。然後對於線性代數與機率統計也要熟悉熟悉。

    有了一定的數學基礎之後,可以嘗試從尋找關於人工神經網路入門的資料學習,連線神經網路怎麼進行誤差反向傳播的。

    然後可以找來深度學習三巨頭髮表的Deep Learning這篇論文,好好研讀。這裡就涉及到了一個問題,你同時得英語也得好,因為目前主流的深度學習的論文,全是英文的。

    再然後,你可以找來hinton的autoencoder的論文,然後使用程式碼自己實踐實踐,對深度學習基本概念有個大概瞭解。

    到這裡,深度學習基本上算是摸到了一點點門道了。深度學習目前主流的有三個方向,計算機視覺,自然語言處理,語音處理。我主要學習的方向是計算機視覺,其他兩個方向不是太瞭解,我就以計算機視覺方向來講解下怎麼看論文與學習吧。

    卷積神經網路簡稱cnn,從最開始在計算機視覺方向使深度學習火爆的AlexNet,經過VggNet,GoogleNet,InceptionNet,以及ResNet,每一篇都是非常經典的文章。同時卷積神經網路在模型縮小化的一些論文,也值得閱讀,比如Xception與MobileNet,以及最新的NasNet。

    瞭解完神經網路結構發展史後,就需要選個方向去研究他們的研究發展過程了,目前計算機視覺比較熱門的方向主要有人臉識別,目標檢測,影象分類,影象分割,關鍵點檢測,文字識別OCR等。

    以目標檢測為例,主要經歷了R-CNN,Fast R-CNN,Faster R-CNN,YOLO,SSD等的發展,對應的每個網路也有一定的論文介紹,也建議仔細研讀。

  • 2 # 機器學習前沿學生社群

    研讀論文網站

    這裡推薦兩個研讀查閱論文網站:

    https://arxiv.org

    ,最新的論文都會在此網站釋出,你可以跟蹤你的方向的論文,包括機器學習、深度學習、計算機視覺等方向。如:機器學習最新論文檢索主頁:

    https://arxiv.org/list/stat.ML/recent?ref=bestofml.com

    http://www.arxiv-

    sanity.com/?ref=bestofml.com

    ,Andrej Karpathy 開發了 Arxiv Sanity Preserver,幫助分類、搜尋和過濾特徵。

    https://paperswithcode.com/sota

    ,將 ArXiv 上的最新深度學習論文與 GitHub 上的開原始碼聯絡起來,1016 個深度學習任務分成了 16 大類,涉及了深度學習的各個方面。

    論文閱讀路線

    這裡先說一下論文閱讀原則:

    從提綱到細節從舊到最先進的從一般到具體的區域專注於最先進的

    論文閱讀模組:

    深度學習歷史和基礎

    深度學習方法

    應用

    這裡放一個具體的閱讀資料:有詳細的閱讀內容,可以參考閱讀學習,

    https://github.com/floodsung/Deep-Learning-Papers-Reading-Roadmap

    論文閱讀方法

    論文閱讀也需要掌握一定的方法,才能更好的利用資源,達到事半功倍的效果,大致說一下:

    略讀

    題目摘要根據題目和摘要確定是否是自己需要的論文,是否需要精讀。精讀題目摘要方法(理論學習、公式推導)結論緒論
  • 中秋節和大豐收的關聯?
  • 董學升:場面佔優最終輸球很遺憾。球隊貫徹了教練的部署,對此你怎麼看?