TCP/IP協議並不完全符合OSI的七層參考模型。傳統的開放式系統互連參考模型，是一種通訊協議的7層抽象的參考模型,其中每一層執行某一特定任務。該模型的目的是使各種硬體在相同的層次上相互通訊。這7層是:物理層、資料鏈路層、網路層、傳輸層、會話層、表示層和應用層。而TCP/IP通訊協議採用了4層的層級結構，每一層都呼叫它的下一層所提供的網路來完成自己的需求。這4層分別為： 　　應用層：應用程式間溝通的層，如簡單電子郵件傳輸（SMTP）、檔案傳輸協議（FTP）、網路遠端訪問協議（Telnet）等。 　　傳輸層：在此層中，它提供了節點間的資料傳送服務，如傳輸控制協議（TCP）、使用者資料報協議（UDP）等，TCP和UDP給資料包加入傳輸資料並把它傳輸到下一層中，這一層負責傳送資料，並且確定資料已被送達並接收。 　　互連網路層：負責提供基本的資料封包傳送功能，讓每一塊資料包都能夠到達目的主機（但不檢查是否被正確接收），如網際協議（IP）。 　　網路介面層：對實際的網路媒體的管理，定義如何使用實際網路（如Ethernet、Serial Line等）來傳送資料。