平行計算是相對於序列計算來說的，所謂平行計算分為時間上的並行和空間上的並行。 時間上的並行就是指流水線技術，而空間上的並行則是指用多個處理器併發的執行計算。

平行計算科學中主要研究的是空間上的並行問題。 空間上的並行導致了兩類並行機的產生，按照Flynn的說法分為：單指令流多資料流（SIMD）和多指令流多資料流（MIMD）。我們常用的序列機也叫做單指令流單資料流（SISD）。

MIMD類的機器又可分為以下常見的五類：

並行向量處理機(PVP)

對稱多處理機(SMP)

大規模並行處理機(MPP)

工作站機群(COW)

分散式共享儲存處理機(DSM)。

[編輯]訪存模型

平行計算機有以下四種訪存模型：

均勻訪存模型（UMA）

非均勻訪存模型（NUMA）

全快取記憶體訪存模型（COMA）

一致性快取記憶體非均勻儲存訪問模型（CC-NUMA）和非遠端儲存訪問模型（NORMA）。