如果在世界上再發起一次誰是最偉大科學家的投票,再怎麼選,牛頓同志都會在前二以內,另一位大家自行腦補。的確,牛頓的萬有引力定律和運動定律,光學上發現,以及數學上的創造太過燦爛,但是歷史上有如此成果和創造力也不止牛爵士一人吧,麥克斯韋,龐加萊等等,為啥這些後人們都得給牛爵士讓步呢?
為什麼砸的是我!
上帝曾經曰過:“讓牛頓降生吧,於是世界一片光明。”
因為牛頓是第一個開闢科學研究的科學家,在牛頓之前,人們對蘋果為什麼落地感到理所當然,只有牛頓認為蘋果掉落在地上這個現象不簡單。牛頓將生活中常見的力學現象歸納,並結合數學和實驗,看穿這些司空見慣的運動現象,然後整理成自成體系的牛頓運動定律,後來的人們在這條道路上不斷耕耘,並最終誕生了如此燦爛的輝煌成果。可以說,是牛頓一手把當時的世界從未知的蠻荒時代帶入了科學研究的範圍內。
貝爾實驗室的克勞德 夏農
在20世紀,也誕生了一位這樣的大師,他第一次把資訊作為研究物件,讓人們第一次意識到,原來資訊也可以被研究的,並一手指導了後來的計算機革命,他就是克勞德·艾爾伍德·夏農(Claude Elwood Shannon),我們現在尊稱他是資訊理論之父。
貝爾實驗室總部
話說1916年4月30日,夏農出生了美國密歇根州,跟所有的科學大師一樣,興趣都是從小就培養的,在中學時代,夏農就可以造出一個可以在半英里內無線通訊的電報機。不知道就是因為這個小發明,讓他從此對資訊這個全新的領域開始痴迷。
喬治 布林
1932年,夏農進入密歇根大學學習,在大學裡接觸到了喬治·布林的理論,這個布林就是現在計算機資料布林型的那個布林,他是著名的數學邏輯學家。大約1938年的時候,夏農完成自己的碩士畢業論文《繼電器與開關電路的符號分析》,看這個標題平平無奇,但是卻被譽為是20世紀最重要的論文之一。這篇文章的驚人想象力在於,他首先把電路中的開關與數字邏輯中的代數思想結合起來。讓電路設計可以在數學理論的指導下進行,這是一個劃時代的發現。
電路設計
我們都知道數學中有很多複雜方程或者公式,你必須要化簡或者轉化成精簡的語言才能描述更準確的資訊,數學公式越是簡化,就越能體現公式的力量。那這個要是在電路設計中呢?作為一個初級電路設計師,你只要能力達到,就一定可以用簡單的元器件去實現特定的功能。但是,在實際生產的過程中是必須要考慮成本和故障頻率的,別人用3個電容,2個電感,2個電阻就可以實現的功能,你的電路偏要用10個電容,5個電感,5個電阻才能實現。增加成本不說,而且器件增加,故障點也必然增加,最終導致生產效率低下。那麼夏農的思想是什麼呢?
電路簡化設計
布林代數 簡化
很明顯我們發現,這裡的A,B是不需要2組觸點的,甚至連A這個常閉觸點也是不需要的,僅保留B一個常開觸點即可控制這個燈。當然這個例子過於簡單,當電路龐大時,比如現在動不動幾十億的電晶體的晶片在設計時,這些數學理論就給電路設計提供了數學保障。用這樣的流程來設計電路,就將大大簡化電路設計難度,提高可拓展性,這對於電路設計成本,故障率,測試等等都是非常有用的。
這一年,夏農22歲。
資訊到底是什麼?
1948年,夏農在貝爾實驗室又出了一個爆炸招,他提交了一份論文《通訊的數學原理》,這個標題瞬間就比他十年前的那篇神作要高大上的多。貌似還跟牛爵士的大作很像,是不是有點蹭熱度的嫌疑啊。但是翻開內容,你就會明白這個標題起的是多麼貼切,正是這篇論文將人類帶入了資訊時代。
資訊是什麼?每個人好像都有自己的答案,你想研究資訊,你就必須在科學上給資訊作出一個定義。於是夏農大師給出了。
資訊的本質是消除不確定性。一條資訊究竟有多大的資訊量,在於它能消除多少不確定性。
夏農
啊,真是猶如醍醐灌頂,一句話或者一幅畫的資訊蘊含多少,就是在於它能夠消除多少不確定性啊。舉個曉然菌工作上的例子,作為一名工控軟體工程師,程式寫出來在除錯過程中,如果功能上有錯誤,那麼在測試過程中是每次都會出現同樣的bug。這一點從程式程式碼上就很好分析出原因,因為每次都會出現,那麼不確定性就很小,於是這樣的問題修復起來難度不大。
通訊問題不容易解決
假如現在出現了一個感測器控制器通訊的問題,請注意這個通訊問題並不是每次都有,十次有一兩次,你可以認為這是偶爾發生的,但是卻必須要找出原因。這種情況下工作就變得困難許多,因為不確定性太多,你必須要從各種可能的方式分析。按照夏農的定義,出現通訊問題這個現象蘊含的資訊量就比出現功能性bug要多得多。
程式設計師日常工作
那麼資訊的最小單位是什麼呢?就是0,1,或者說真,假。每一種狀態就是一個bit,類似於量子力學中的普朗克長度。
夏農第一個發現了資訊不會無中生有,具有和物質一樣的本質。既然物質有守恆定律,那麼資訊也有。只不過,資訊要流通才會產生價值,就跟物質要被使用才能發揮作用一樣。你準確預測了明天的六合彩中獎號碼,但是你卻沒有去買彩票,那麼這個價值巨大的預測資訊就只是一串毫無意義的數字。
資訊的最小單位bit
然而資訊在傳輸過程中遇到了諸多挑戰,噪聲干擾,頻率干擾,發射接收難度等等。干擾只要出現,就對資訊準確傳送率帶來挑戰,在夏農之前,人們普遍認為,以固定速率傳送資訊,而忽略誤差機率的傳輸系統是不可能做到的。而夏農用一個精巧的公式告訴人們,只要通訊速率R低於通道容量C,那麼總可以找到一種可靠的方式來進行傳輸,並且可以使得誤差機率幾乎降到零。這個結論震驚了世界,也為二戰之後的計算機資訊革命奠定了理論基礎。
夏農第二定律
這裡的P/N也就是我們常說的訊號噪聲比,W是頻寬。C就是通道容量,也就是通訊理論上的最大值,多少年來,人們都是為了儘可能擴大C這個值上限,並先後迎來了1G,2G,3G,4G,5G,並在提高通訊速率的同時也改變了整個世界。
5G毫無意外地改變了我們的世界
至此夏農給資訊理論這門偉大的學科解決了最重要的問題,世界也迎來資訊時代。
夏農大師似乎對這個世界上所有關於資訊的問題非常敏感。1949年,夏農捲土重來,發表了《保密系統的通訊理論》,這篇論文在科學界的地位有多高呢?
“這一發現將密碼從藝術變成科學,奠定了現代密碼理論的基礎。”
這是當時波士頓環報給出的評價,夏農以一人之力改變了密碼學的發展方向。
人工智慧之父 密碼學家 圖靈
在夏農看來,明文就是原始資訊,加密手段就相當於資訊在傳輸過程中各種干擾資訊,密文就是被幹擾之後收到的資訊,解密就是需要動用各種方法來去除掉原始資訊被人為加入的干擾。這麼一看,密碼的使用環境簡直就是另一種資訊傳輸系統!如果當年夏農也能在布萊切利莊園和圖靈一起工作破譯德軍密碼,說不定會更快地結束二戰的摧殘。
夏農和他的資訊理論
現在世界上的科技巨頭基本上都是網際網路企業,他們的核心價值都是資料資訊,我們現在充分享受著來自網際網路時代帶給我們的資訊高速便利,無論如何都不能忘記開創這一時代的偉大科學家——克勞德·夏農。