我們知道，標準音階的基本結構為：“C D E F G A B C”，其第三音(mi)與第四音(fa)，即（E－F）之間，第七音(si)與第八音(do)，即（B－C ）之間的距離為半音，而其它相鄰兩音間的距離都是全音，這種音階稱為大調音階。參見（圖1）：

在大調音階中，以C為主音的C大調音階，按十二平均律（將八度音分成十二個均等的半音的音律）的劃分正好符合標準音階的結構特點，所以不需要任何升、降記號（見圖1）。但是，如果以其它音名作為主音排列成大調音階時，就必須升高或降低其中某些音來調整音級的排列關係，使之符合大調音階的結構特點。這樣就會出現升、降記號。

在教學中，以C大調音階的基本結構作為參照，按五度相生的規律，可以推出其它大調的音階及調號。

若以C大調音階的第Ⅴ級音“g1”為主音，順次排列到“g2”為止，即“G A B C D E F G ”。我們透過調整其中某些音的音級，使之符合大調音階的結構特點，就可以得到G大調音階。由於按大調音階規律，第六音(la)與第七音(si)之間應是全音，第七音(si)與第八音(do)之間應是半音，而這裡，“E－F”之間是半音，而“F－G”之間卻是全音，這樣，不符合大調音階的結構特點。要解決這個問題，就必須把“F”音升高半音，變成“﹟F”。這樣“E－﹟F”之間變為全音，“﹟F－G”之間變為半音，就符合大調音階的排列規律（全全半全全全半）了。即“G A B C D E﹟F G”。由於這個“F”音在G大調音階中每次都要升高，為了記譜方便，就把這個“升號”，記寫在譜號的後面第五線“F”音的位置上（譜號和調號在每行五線譜的開始都要記寫一次），表示在這行譜表中，所有“F”音都要升高半音。這個“變音記號”就是我們通常說的調號。

G大調音階及調號：參見（圖2）：

依此，如果以C大調音階的第Ⅱ級音“d1”以為主音，順次按大調音階規律排列到“d2”為止，我們就可以推出D大調音階為：“d1 e1 ＃f1 g1 a1 b1 ＃c2 d2 ”。在這裡，除了G調中已升高的“f1”外，還必須將第Ⅶ級音“c2”升高半音，變為“＃c2”，才符合大調音階的排列規律。

D大調音階及調號：參見（圖3）：

同樣理由，其它升號調中的升記號，依此類推，學生可掌握其基本規律。

用降記號的道理與用升記號的道理完全一樣。如，以C大調音階的第Ⅳ級音“f1”為主音，順次按大調音階的全音、半音關係排列到”f2”為止，就構成F大調音階。

因為按大調音階規律，第三音(mi)和第四音(fa)之間應是半音，第四音(fa)與第五音(sol)之間應是全音，然而，在這裡，“A－B”之間是全音；而“B－C”之間卻是半音。因此，需將“B”音降低半音變為“bB”，才符合大調音階排列規律。即“F G A bB C D E F”。把這個降記號記寫在譜號後面第三線“B”音的位置上，就是F調的調號。

F大調音階及調號：參見（圖4）：

同理，可類推出其它降號調的各大調音階和調號。

下面是五線譜各種調號和簡譜調號對照圖。參見（圖5）：