計算器一般由運算器、控制器、儲存器、鍵盤、顯示器、電源和一些可選外圍裝置及電子配件，透過人工或機器裝置組成。低檔計算器的運算器、控制器由數字邏輯電路實現簡單的序列運算，其隨機儲存器只有一、二個單元，供累加儲存用。高檔計算器由微處理器和只讀儲存器實現各種複雜的運算程式，有較多的隨機儲存單元以存放輸入程式和資料。鍵盤是計算器的輸入部件，一般採用接觸式或感測式。為減小計算器的尺寸，一鍵常常有多種功能。顯示器是計算器的輸出部件，有發光二極體顯示器或液晶顯示器等。除顯示計算結果外，還常有溢位指示、錯誤指示等。計算器電源採用交流轉換器或電池，電池可用交流轉換器或太陽能轉換器再充電。為節省電能，計算器都採用CMOS工藝製作的大規模積體電路（見互補金屬-氧化物-半導體積體電路），並在內部裝有定時不操作自動斷電電路。計算器可選用的外圍裝置有微型印表機、盒式磁帶機和磁卡機等。　　從某種角度而言，廣義的“計算機”是包括“電子計算器”的。電子計算器中也有積體電路，但計算器的功能簡便，價格更加便宜，利於攜帶與穩定性好。　　在過去，諸如算盤、納皮爾骨頭、數學表書籍、工程計算尺或機械加法機（adding machine）在數值計算上扮演輔助角色。計算器這詞原本指的是以紙筆執行數學計算的職業人士，這樣的半手動計算工作既繁重又易出錯。