-
1 # Xspace空間站
-
2 # Cloudr
基本的數值計算常識(牛頓法,二分法,線性迴歸和最小二乘,誤差控制)。
(2)基本的微積分,高維函式的微積分(尤其是微分的部分)。
(3)基本的線性代數:向量和矩陣運算,矩陣求逆,相似矩陣,矩陣的特徵值和特徵向量,行列式等。
(4)期望,方差,協方差等基本概念。常見的概率分佈,條件概率的鏈式法則,貝葉斯公式,極大似然估計。
有了上面這些基本的知識,至少就已經可以開始看一些教科書開始試試看了。當然,在學習的過程中,你講會發現以下知識也應該是需要掌握的:
(a)高維函式的微積分與線性代數的綜合知識,Hessian 矩陣,Jacobian 矩陣,二次型等等。
(b)奇異值分解,矩陣的範數,一些特殊矩陣的性質等等。
(c)一些簡單的與優化有關的知識。
(d)熟悉指數族概率分佈函式,對概率分佈函式的更多刻畫:矩,熵,互資訊,KL divergence 等等。
(e)模型抽象的一些方法,例如 EM 演算法等等。
最後,還特別強調一點,這裡說了上面這些知識並不是說有了這些知識就已經足夠了,而是說有了這些知識我們就可以直接開始看一些相關的資料,開始學習機器學習有關的一些東西了,我的建議是隻要有了一點點的數學知識就可以直接開始學習,在學習的過程中慢慢繼續打牢基礎,這樣學習的效果也會更好一些
-
3 # wayks
人工智慧是目前學術界和工業界的技術新寵兒。今天的人工智慧技術歸根到底都建立在數學模型之上,要了解人工智慧,首先要掌握必備的數學基礎知識,具體來說包括:
1、線性代數:如何將研究物件形式化?
事實上,線性代數不僅僅是人工智慧的基礎,更是現代數學和以現代數學作為主要分析方法的眾多學科的基礎。從量子力學到影象處理都離不開向量和矩陣的使用。而在向量和矩陣背後,線性代數的核心意義在於提供了⼀種看待世界的抽象視角:萬事萬物都可以被抽象成某些特徵的組合,並在由預置規則定義的框架之下以靜態和動態的方式加以觀察。
2、概率論:如何描述統計規律?
除了線性代數之外,概率論也是人工智慧研究中必備的數學基礎。隨著連線主義學派的興起,概率統計已經取代了數理邏輯,成為人工智慧研究的主流工具。在資料爆炸式增長和計算力指數化增強的今天,概率論已經在機器學習中扮演了核心角色。
3、數理統計:如何以小見大?
在人工智慧的研究中,數理統計同樣不可或缺。基礎的統計理論有助於對機器學習的演算法和資料探勘的結果做出解釋,只有做出合理的解讀,資料的價值才能夠體現。數理統計根據觀察或實驗得到的資料來研究隨機現象,並對研究物件的客觀規律做出合理的估計和判斷。
4、最優化理論: 如何找到最優解?
本質上講,人工智慧的目標就是最優化:在複雜環境與多體互動中做出最優決策。幾乎所有的人工智慧問題最後都會歸結為一個優化問題的求解,因而最優化理論同樣是人工智慧必備的基礎知識。最優化理論研究的問題是判定給定目標函式的最大值(最小值)是否存在,並找到令目標函式取到最大值 (最小值) 的數值。如果把給定的目標函式看成一座山脈,最優化的過程就是判斷頂峰的位置並找到到達頂峰路徑的過程。
5、資訊理論:如何定量度量不確定性?
近年來的科學研究不斷證實,不確定性就是客觀世界的本質屬性。換句話說,上帝還真就擲骰子。不確定性的世界只能使用概率模型來描述,這促成了資訊理論的誕生。
資訊理論使用“資訊熵”的概念,對單個信源的資訊量和通訊中傳遞資訊的數量與效率等問題做出瞭解釋,並在世界的不確定性和資訊的可測量性之間搭建起一座橋樑。
6、形式邏輯:如何實現抽象推理?
1956 年召開的達特茅斯會議宣告了人工智慧的誕生。在人工智慧的襁褓期,各位奠基者們,包括約翰·麥卡錫、赫伯特·西蒙、馬文·閔斯基等未來的圖靈獎得主,他們的願景是讓“具備抽象思考能力的程式解釋合成的物質如何能夠擁有人類的心智。”通俗地說,理想的人工智慧應該具有抽象意義上的學習、推理與歸納能力,其通用性將遠遠強於解決國際象棋或是圍棋等具體問題的演算法。
-
4 # 忽悠的原理與技術
人工智慧領域需要用到哪些數學
既然說的是數學,我覺得首先看切入點,如果是計算視覺,畢竟視覺是個很大的坑
1. 線性代數:
各種與線性代數相關的數學知識是肯定要掌握的。像當下大家習慣用張量來表示資料。
2.複變函式:
或者說訊號與系統,影象中的濾波,相關資料的預處理,參考數字影象處理。
3.微積分:
這些是真的基礎了,對其中的概念要熟稔於心,你會在無形之中用到,像機器學習很常用的loss的計算,你要在梯度下降的時候熟練的掌握各種目標函式的導數、偏導數和積分
4.概率論與數理統計:
這些都是非常基礎的東西,像概率分佈,KL距離等再往後面延伸還有資訊理論等內容它是更實用理論的基礎。
5.最優化
在簡單基礎的應用場景下,我們希望機器學習能很好的對於事物有個歸納總結的能力,所以訓練學習的過程有點像一個擬合過程,不用的應用場景對不同的目標進行優化所以肯定是基礎再上一層所要具備的數學素養
6.凸優化
更進一步的優化應用
7. 組合數學
這是計算機行業的基本功
8.具體數學
一本書叫這個名字,同樣應該作為通用計算機類數學基本功
9.時間序列分析
10.隨機過程
回覆列表
機器學習是實現人工智慧的重要方法,也是推動當下人工智慧發展的核心驅動力。機器學習處理實際應用案例時,不是“十八般兵器” 的堆積,而是根據具體任務,按需設計、量身定製,而做到這一點需要我們深刻理解機器學習模型以及演算法背後的原理,即做到既知其然又知其所以然。
數學,作為表達與刻畫機器學習模型的工具,是深入理解機器學習演算法原理的必備基礎。深藍學院聯合南京大學錢鴻博士與中科院自動化所肖鴻飛博士,聯合推出了機器學習數學基礎,現將目錄發給大家,以便於大家瞭解機器學習中常用的數學知識。
第1章 引言
1.1 數學之於機器學習的必要性和重要性
第2章 函式求導
2.1 背景介紹
2.2 函式極限
2.3 導數
2.4 複合函式求導
第3章 矩陣論
3.1 背景介紹
3.2 矩陣基本運算
3.3 矩陣範數
3.4 線性方程組求解
3.5 矩陣的秩
3.6 線性空間
3.7 逆矩陣
3.8 矩陣求導
3.10 方陣的特徵值與特徵向量
3.11 矩陣的奇異值分解
3.12 二次型
程式設計實踐:基於奇異值分解SVD進行智慧推薦
第4章 凸優化
4.1 凸函式
4.2 對偶理論
4.3 SVM的對偶求解
程式設計實踐:基於支援向量機 SVM 進行二分類
第5章 概率統計
5.1 背景介紹
5.2 概率基本定義
5.3 隨機事件概率的常用性質
5.4 隨機事件&隨機變數
5.5 隨機向量&KL散度
5.6 極大似然估計&樸素貝葉斯
程式設計實踐:基於樸素貝葉斯和拉普拉斯平滑預測乳腺癌
第6章 資訊理論
1. 背景介紹:以決策樹(DT)演算法為例
2. 資訊理論中的基本概念 I:離散隨機變數
3. 資訊理論中的基本概念 II:連續隨機變數
程式設計實踐:決策樹演算法應用於乳腺癌診斷和信用風險評級