隆美爾在北非戰場上的戰功主要是能屢次以少勝多地擊敗英聯邦軍隊。在隆美爾到達北非之前，韋維爾指揮的英軍已經將義大利軍隊打得落花流水，幾乎就要將意軍趕出非洲。在這種情況下，隆美爾於1941年2月到達北非，初期到北非的德軍只有一個第5輕裝甲師，再加上驚魂未定的北非殘餘意軍。儘管兵力居於劣勢，但隆美爾還是決定進攻。在隆美爾的攻擊下，英軍節節敗退，第2裝甲師和印度第3裝甲旅被全殲，包括師長、旅長在內的3000英軍被俘；澳洲第9師被擊潰，整個昔蘭尼加除了託卜魯克要塞之外全部陷落。而這些戰果僅僅用時2個月，且是在各方都不看好德意軍的情況下取得的，隆美爾頓時名聲大噪。

之後，英軍發起反攻，代號“戰斧行動”。擔負主攻的英軍第13軍轄有第4印度師和第7裝甲師，擁有300輛坦克、246架飛機。隆美爾的非洲軍轄有第5輕裝甲師和第15裝甲師，擁有150輛坦克、139架飛機，火炮數量也少於英軍。但是交戰結果卻是英軍損失969人、坦克100輛；德意軍損失678人、坦克62輛，其中完全被擊毀的只有12輛。

“戰斧行動”失敗後，英國向非洲增派了更多部隊，並解出了韋維爾的職務，任命奧金萊克將軍為英中東軍總司令。與此同時，英軍的北非部隊整編為第8集團軍，下轄第30裝甲軍和第13軍，共有7個師、坦克900輛、飛機1000餘架。而此時的隆美爾非洲軍也升格為非洲裝甲兵團，轄有第15裝甲師、第21裝甲師（原第5輕裝甲師改編）、新增派到北非的第90輕裝甲師，以及7個義大利師，共有坦克450輛、飛機300架。

由於兵力兵器佔據明顯優勢，於是英軍發起“十字軍遠征”進攻行動，目標是徹底打敗隆美爾，將德意軍逐出非洲。然而，從1941年11月18日到12月初，英軍的攻擊就被隆美爾粉碎。據隆美爾向希特勒報稱：摧毀英軍814輛坦克和其他戰鬥車輛，擊落127架飛機，俘敵9000人；德軍戰死473人，受傷1680人，失蹤962人，同時還損失了142輛坦克。

在1942年上半年的賈扎拉防線拉鋸戰中，隆美爾率軍擊敗英軍第8集團軍，迫使英軍退往埃及，而之前久攻不下的託卜魯克這時也被隆美爾攻佔，要塞英軍司令克洛普率3.3萬守軍向隆美爾投降。至此，隆美爾征服了整個昔蘭尼加。1942年6月22日，隆美爾因戰功晉升為德國陸軍元帥。

即使在阿拉曼戰役中敗北，隆美爾在這之後還在凱塞林山口將初登北非戰場的美軍擊敗，共造成美第2軍6300名士兵死亡、受傷或失蹤，4026人被德軍俘虜。裝備方面，美軍和英軍共損失183輛坦克、194輛半履帶式裝甲車以及512輛其他車輛。