地球是具有磁場的，地球磁場和地球一樣，也是有南北極的，但是地球磁場的南北極與地球的地理南北極正好相反，也就是說地球的地理南極是地球磁場的北極，而地球的地理北極是地球磁場的南極。（如圖所示）

磁場都具有同性相斥，異性相吸的特點。磁化的指南針具有磁性（也有磁場）。

將指南針放到地球上時，指南針的N（北）極會被地球磁場的N（北）極所排斥，就會指向地球磁場的北極（也就是地理南極），而指南針的S（南）極則正好相反，他會被地球磁場的S（南）極所排斥，只能指向地球磁場的南極（也就是地理北極）。由於磁場的作用，指南針的南極剛好就指向地球的地理南極，指南針的北極也就剛好指向地理北極，這就是指南針的工作原理。（如圖所示）

準確的說，應該是指南北方向。指南針的指標上會標註方向，N為北，S為南。

我們知道，同名磁極互相排斥，異名磁極互相吸引這個道理，那麼地球本身就是一個巨大的磁體，它的南極和北極位於地球的兩端，根據磁極之間相互作用的規律，指南針的北極與地磁的南極相互吸引，指南針的南極於地磁的北極相互吸引，所以，指南針靜止時，它的北極總是指向地球的北端，南極指向地球的南端。

中國科學家透過長期的觀察發現，指南針的指向並不是地球的正南和正北，而是略微偏離一點，也就是說，地球的兩極和地磁兩極並不重合，它們之間有磁偏角，地磁的N極在地理南極附近，地磁的S極在地球的北極附近。

能在水平面內自由轉動的磁體，靜止時總是一端指南一端指北，這稱為磁體的指向性，指南針就是利用磁體的指向性製成的。

大約在公元前3世紀中國人民就發現了磁體的指向性，並製成了“司南”，用天然磁石磨成勺子，將勺子放在水平銅盤上，用手撥動勺子，當勺子靜止時，勺柄指南，勺頭指北。用天然磁石磨製司南很麻煩，並且要十分小心，磁石受到強烈的震動就會失去磁性，成品率很低。到北宋時期，人們發現將鋼靠近磁石就帶了磁性，並且能長期保持磁性。於是，人們用天然磁石摩擦鋼針，使鋼針磁化，製成了人造的指南針。並且採取了多種裝置方法，宋代的百科全書《夢溪筆談》就記載有：水浮法、碗唇旋定法、指甲旋定法和縷旋法。歐洲使用同樣的磁化方法，比我們要晚400多年。

指南針之所以能指南北，是因為地球是一個巨大的磁體，地磁的北極在地理南極附近，地磁的南極在地理北極附近。因此，在地球周圍的空間裡存在著磁場，叫做地磁場。指南針靜止時，總是一端指南，一端指北，就是因為受到地磁場的作用。正是認識到地磁場的存在，北宋時期還發明一種人工製作指南魚的方法：將薄鐵片剪成魚形，放在爐火中將貼片燒紅，首尾對準地磁場的方向，然後用冷水將貼片迅速冷卻即可。

不過，地磁兩極與地理兩極並不重合，水平放置的指南針的指向，跟地理子午線並不一致，其間有一交角，叫做磁偏角。中國宋代的沈括是世界上第一個清楚地、準確地論述磁偏角的科學家，比哥倫布橫渡大西洋時才觀察到磁偏角現象早了400多年。