鐵是由鐵礦石提煉而來。

人類最早發現鐵是從天空落下的隕石，隕石含鐵的百分比很高（鐵隕石中含鐵90.85%），是鐵和鎳、鈷的混合物。考古學家曾經在古墳墓中，發現隕鐵製成的小斧；早在古埃及4000年前的第五王朝至第六王朝的金字塔所藏的宗教經文中，就記述了當時太陽神等重要神像的寶座是用鐵製成的。鐵在當時被認為是帶有神秘性的最珍貴的金屬，埃及人乾脆把鐵叫做“天石"。在古希臘文中，“星”與“鐵”是同一個詞。

有鐵製物件最早發現於公元前3500年的古埃及。它們包含7.5%的鎳，表明它們來自流星。古代小亞細亞半島（也就是現今的土耳其）的赫梯人，是第一個從鐵礦石中熔鍊鐵的，約公元前1500年這種新的，堅硬的金屬給了他們經濟和政治上的力量。鐵器時代開始了。某些種類的鐵明顯優於其它的，依賴於它的碳含量，儘管這並不被賞識。某些鐵礦石包含釩，生產出叫做大馬士革的鋼，很適合制劍。

在中國，從戰國時期到東漢初年，鐵器的使用開始普遍起來，成為了中國最主要的金屬。鐵的化合物四氧化三鐵就是磁鐵礦，是早期司南的材料

1978年，在北京平谷縣劉河村發掘一座商代陵墓，出土許多青銅器，最引人注目的是一件古代鐵刃銅鉞，經鑑定鐵刃是由隕鐵鍛制的，這不僅表明中國最早發現的鐵也來自隕石，也說明中國勞動人3300多年前就認識鐵並熟悉了鐵的鍛造效能，識別了鐵和青銅在性質上的差別，並且把鐵用於鍛接銅兵器，以加強銅的尖利性。

由於隕石來源極其稀少，從隕石中得來的鐵對生產沒有太大作用，隨著青銅技術的成熟，鐵的冶煉技術才逐步發展。中國最早人工冶煉的鐵是在春秋戰國之交的時期出現的，距離今大約2500年。中國鍊鋼技術發展也很早，1978年，湖南省博物館長沙鐵路車站建設工程文物發掘隊從一座古墓出土一口鋼劍，從古墓隨葬器的器型，紋飾以及墓葬的形制斷定是春秋晚期的墓葬。這口劍所用的鋼經分析是含碳量0.5%左右的中碳鋼，金相組織比較均勻，說明可能還進行過熱處理。

古代世界勞動人民的鍊鐵技術也是傑出的，至今豎立在印度德立附近的一座清真寺大門後的鐵柱，是使用相當純的鐵鑄成的，當時如何生產這樣的鐵，現代人也認為是一個奇蹟。有人分析了它的成分，含鐵量大於99.72%，其餘是碳0.08%，矽0.046%，硫0.006%，磷0.114%。

第一個解釋不同型別的鐵的人是René Antoine Ferchault de Réaumur，他寫了一本書關於這個主題於1722年。解釋了為什麼鋼，熟鐵和鑄鐵包含一定量的木炭後會更卓越。工業革命在同一世紀開始，大規模的依賴於這種金屬。開創現代鍊鋼新紀元的是一名叫貝塞麥（HenryBessemer）的澆鑄工人，他在1856年8月11日宣佈了他的可傾倒式轉爐。隨著工業發展，在建設和生活中出現了大量廢鋼和廢鐵，這些廢料在轉爐中不能使用，於是出現了平爐鍊鋼，是由德國西門子兄弟以及法國馬丁兄弟同時建立的，時間是在19世紀60年代初。