英國數學家托馬斯·貝葉斯是個很神奇的人,他的經歷類似梵高。生前沒有得到重視,死後,他寫的一篇關於歸納推理的論文被朋友翻了出來,並發表了。這一發表不要緊,結果這篇論文的思想直接影響了接下來兩個多世紀的統計學,是科學史上著名的論文之一。
關於貝葉斯學習法的10條心得:
1、貝葉斯定理(Bayes’s Rule):如果有k個相互獨立事件 A1,A2···,Ak 並且,P (A1) + P(A2) + ... + p(Ak)= 1 和一個可以觀測到的事件 B,那麼有:這個就是貝葉斯公式,相當簡潔。公式中有幾個關鍵概念:P(A)為先驗機率,即在觀察事件B之前得到的事件A的假設機率P(A|B) 為後驗機率,即在觀察事件B後得到新資料後計算該假設A的機率P(B|A)為似然度,即在該假設A下得到這一觀察資料 B 的機率P(B)為標準化常量,即在任何假設下得到這一觀察資料 B 的機率用一句人話表達則是:後驗機率 = 先驗機率×似然度
2、貝葉斯公式,是根據事物的歷史資訊推斷它的本質或者走向的一種邏輯思考方法和數學方法。
3、透過互換,可以把一個複雜的問題變成幾個簡單的問題,這就是貝葉斯公式的本質。在數學上經常要用這樣的思路解決問題,看似繞了一個彎,實則是架起了幾個橋樑,讓本來沒有直接通路的兩個點,繞幾段路能夠聯通。
4、不斷地猜測、試探、調整猜測,觀點隨著事實發生改變。就是嬰兒的學習方法,這叫“貝葉斯方法”。
5、貝葉斯方法:
先評估一下自己的信念,設定 P(信念);
等待新證據;
證據出來以後,用貝葉斯公式更新自己的信念,計算 P(信念|證據);
繼續等待新證據……
6、貝葉斯工具的用法:
第一明確你的問題
第二列出幾種可能的情形,給予他們一樣的權重
第三尊重新的資訊,給每個新資訊賦予1到5不同的分數,對應哪種情形就把分加到那種情形上。
持續一段時間,你會得到答案。
7、貝葉斯公式就是讓我們永遠保持謙卑、不斷學習下去的最好“動力公式”。
8、貝葉斯的世界觀:
貝葉斯公式告訴我們,“先驗”的作用固然很大,但我們依然需要保持開放心態,讓觀點隨事實發生改變,用“似然”修改神經元的連線權重,用“後驗機率”決定最終的判斷。
9、用一句話總結,貝葉斯學習的精神就是觀點要隨著事實發生改變。
10、舉個較為常見的例子:某人參加體檢,某項疾病篩查結果呈陽性,已知該疾病患病率是0.0004,儀器的準確率是99%。
此人在普查中被查出陽性(從醫學角度來說,一般,陽性代表有病或者有病毒,陰性代表正常),請問他的患病機率是多少?
把患病者記為事件A,屬於健康人記為事件B,檢查結果為陽性記為事件C,利用貝葉斯公式,可得:P(A|C)= P(A) *P(C|A)/( P(A) *P(C|A)+ P(B) *P(C|B))代入數值,即可得出P(A|C)約等於0.0035,說明即使一次結果呈陽性,患病機率也較低,是否有些反直覺?
英國數學家托馬斯·貝葉斯是個很神奇的人,他的經歷類似梵高。生前沒有得到重視,死後,他寫的一篇關於歸納推理的論文被朋友翻了出來,並發表了。這一發表不要緊,結果這篇論文的思想直接影響了接下來兩個多世紀的統計學,是科學史上著名的論文之一。
關於貝葉斯學習法的10條心得:
1、貝葉斯定理(Bayes’s Rule):如果有k個相互獨立事件 A1,A2···,Ak 並且,P (A1) + P(A2) + ... + p(Ak)= 1 和一個可以觀測到的事件 B,那麼有:這個就是貝葉斯公式,相當簡潔。公式中有幾個關鍵概念:P(A)為先驗機率,即在觀察事件B之前得到的事件A的假設機率P(A|B) 為後驗機率,即在觀察事件B後得到新資料後計算該假設A的機率P(B|A)為似然度,即在該假設A下得到這一觀察資料 B 的機率P(B)為標準化常量,即在任何假設下得到這一觀察資料 B 的機率用一句人話表達則是:後驗機率 = 先驗機率×似然度
2、貝葉斯公式,是根據事物的歷史資訊推斷它的本質或者走向的一種邏輯思考方法和數學方法。
3、透過互換,可以把一個複雜的問題變成幾個簡單的問題,這就是貝葉斯公式的本質。在數學上經常要用這樣的思路解決問題,看似繞了一個彎,實則是架起了幾個橋樑,讓本來沒有直接通路的兩個點,繞幾段路能夠聯通。
4、不斷地猜測、試探、調整猜測,觀點隨著事實發生改變。就是嬰兒的學習方法,這叫“貝葉斯方法”。
5、貝葉斯方法:
先評估一下自己的信念,設定 P(信念);
等待新證據;
證據出來以後,用貝葉斯公式更新自己的信念,計算 P(信念|證據);
繼續等待新證據……
6、貝葉斯工具的用法:
第一明確你的問題
第二列出幾種可能的情形,給予他們一樣的權重
第三尊重新的資訊,給每個新資訊賦予1到5不同的分數,對應哪種情形就把分加到那種情形上。
持續一段時間,你會得到答案。
7、貝葉斯公式就是讓我們永遠保持謙卑、不斷學習下去的最好“動力公式”。
8、貝葉斯的世界觀:
貝葉斯公式告訴我們,“先驗”的作用固然很大,但我們依然需要保持開放心態,讓觀點隨事實發生改變,用“似然”修改神經元的連線權重,用“後驗機率”決定最終的判斷。
9、用一句話總結,貝葉斯學習的精神就是觀點要隨著事實發生改變。
10、舉個較為常見的例子:某人參加體檢,某項疾病篩查結果呈陽性,已知該疾病患病率是0.0004,儀器的準確率是99%。
此人在普查中被查出陽性(從醫學角度來說,一般,陽性代表有病或者有病毒,陰性代表正常),請問他的患病機率是多少?
把患病者記為事件A,屬於健康人記為事件B,檢查結果為陽性記為事件C,利用貝葉斯公式,可得:P(A|C)= P(A) *P(C|A)/( P(A) *P(C|A)+ P(B) *P(C|B))代入數值,即可得出P(A|C)約等於0.0035,說明即使一次結果呈陽性,患病機率也較低,是否有些反直覺?