嵌入式系統是由軟體和硬體組成的整體。

硬體部分可以分成嵌入式處理器和外部裝置。

處理器是整個系統的核心，負責處理所有的軟體程式以及外部裝置的訊號。

外部裝置在不同的系統中有不同的選擇。

比如在汽車上，外部裝置主要是感測器，用於採集資料；

而在一部手機上，外部裝置可以是鍵盤、液晶螢幕等。

軟體部分可以分成兩層，最靠近硬體的是嵌入式作業系統。

作業系統是軟硬體的介面，負責管理系統的所有軟體和硬體資源。

作業系統還可以透過驅動程式與外部裝置打交道。

最上層的是應用軟體，應用軟體利用作業系統提供的功能開發出針對某個需求的程式，供使用者使用。

使用者最終是和應用軟體打交道，例如在手機上編寫一條簡訊，使用者看到的是簡訊編寫軟體的介面，而看不到裡面的作業系統以及嵌入式處理器等硬體。

一般來說，嵌入式硬體指邏輯電路、嵌入式處理器、微控制器、儲存系統和硬體設計技巧等。

嵌入式硬體開發工程師主要編寫嵌入式系統硬體總體方案和詳細方案，要求理解嵌入式系統架構，有一定的C語言基礎，熟悉ARM、PROTEL設計軟體，有四層板開發經驗。

國內通常所說的嵌入式硬體指利用處理器開發外部裝置方面。

嵌入式軟體就是嵌入在硬體中的作業系統和開發工具軟體，它在產業中的關聯關係體現為：晶片設計製造→嵌入式系統軟體→嵌入式電子裝置開發、製造。

嵌入式軟體就是基於嵌入式系統設計的軟體，它也是計算機軟體的一種，同樣由程式及其文件組成，可細分成系統軟體、支撐軟體、應用軟體三類，是嵌入式系統的重要組成部分。

但國內通常所說的嵌入式軟體主要指最靠近硬體的系統軟體與支撐軟體部分。