純粹的無調性音樂的話，請讀阿倫·福特的《無調性音樂結構》。他的音級理論差不多是無調性音樂分析的基礎了。如果想要分析廣義上的“無調性”音樂作品，懂得他的這套理論，相當於是分析的基礎。

此外，你說得對，那些作曲家都有自己的寫作方式。如果你知道你分析的作曲家有自己的寫作方式，那就按照他們的方式來分析（比如勳伯格的各種序列構建方法，梅西安的有限移位音階）。如果一個作曲家或者作品沒有一個已知的固定的寫作模式，那麼就需要你自己去構建一個模式去分析它了。這其實可能也是音樂分析的最大意義之所在。用已有的模式來分析已知的作品，充其量只是一種學習，用原創的方法分析新的作品，從音樂理論的這個學術圈的角度來說，才是有“原創性貢獻”的。

至於題主問到的“如何找到這個完全陌生的體系中的規律性？”“有沒有一些現成的手法或者通法可以參考？”回到第一段，音級理論是基礎。然後，可以讀一些比較深入的音樂分析教程（我自己之前在國內的時候，所知的不錯的教材有彭志敏和姚恆璐的）。然後，當你想找獨創的分析方法的話，其實可以去讀一些出版了的中央院上音作曲系或者音樂分析方向的博士論文，可能對於你自己的分析和寫作在方法和思路上會有一些值得借鑑的地方。

調式只規定了在某種音群組織中音與音之間的關係，並沒有規定這些音的絕對高度。所以，可以在調式不變的前提下將主音移到任何一個音上。這樣一來，雖然音與音之間的相對關係沒有改變（假定旋律也沒有改變），但每個音的音高都變了，所以音樂的“味道”也改變了。為了分別這種不同，我們使用一個新的概念——調性。

調性指的是在一定音高位置上的一定調式。形象地說就是“主音高度+調式=調性”。例如，主音為C，調式為大調，就合起來稱為“C大調”；同樣以C為主音，調式為小調，則稱之為“c小調”。這裡的“C大調”、“c小調”就是調性，這樣的說法完整地說明了調的性質，所以音樂家不僅用它作為調的名稱，還常常直接用它作為作品的名稱，比如“C大調交響曲”、“e小調奏鳴曲”等等。

同樣的調性可以“移植”到相隔一個八度或幾個八度的地方而性質不變；換言之，如果主音的音名沒有改變，只是向上或向下按純八度的音程移動，調性就沒有發生變化。

在無調性音樂中，這種結構被徹底破壞了，無所謂主音、屬音，它們成了無君無臣的一群，可以自由自在地進行到任何一個。比如貝爾格的歌劇《露露》中的“露露之歌”，勳伯格的《五首管絃樂小曲》第五首。 再詳細說一下無調性（atonality）： 現代主義音樂的創作手法之一。用以指音與音之間、和絃與和絃之間無調性中心，沒有功能聯絡，缺乏調性感覺的創作手法與音樂型別。它產生於20世紀初期，由19世紀後期音樂中變音體系的極度發展、調性的頻繁變化、和絃結構的複雜化以及功能聯絡的消失等因素而逐步形成。它的特點為無中心音或中心和絃，無調號，無調式特性，半音階的各音均可自由應用，儘可能不採用傳統的和絃結構，避免能產生調性作用的和聲進行。與此有關的是旋律、和聲、曲式、節奏與音樂構成方法均與傳統有極大的差異。由於無調性音樂乃逐步形成，因此，調性模糊的音樂與無調性音樂之間，在感覺上常無明確的界限。 無調性一詞最初用以形容A.勳伯格作品中開始完全脫離傳統的作品（自作品10號《第二絃樂四重奏》的最後樂章起至作品22號，均屬這一型別）及其學生A.貝格、A.von韋貝恩等同類作品的特性。現代一般通用的無調性一詞，並不侷限於勳伯格等作品的特性，而是所有具備無調性音樂特點的一種現代音樂型別的總稱。無調性音樂與勳伯格在1920年後開始應用的十二音技法（亦稱十二音序列音樂）不同，一般的無調性音樂並不根據某種特定的音列構成。而十二音序列音樂則在無調性音樂的基礎上，進一步消除調性的殘存影響和中心音的作用，根據特定要求將半音階的12個音，編排成序列原型進行創作，是一種有特定含義的無調性音樂。 舉個例子：在勳伯格的作品11號《三首鋼琴曲》之第 3首結尾處，其中無任何傳統意義的調中心存在，單純的音程與和絃和其他複雜的、不協和的音相結合，消除了可能產生的中心音作用。其中也無特定的序列，故屬於一般的無調性音樂範疇