1940年6月，正當法西斯德軍進攻法國的時候，義大利則一面向英法宣戰，一面乘機出兵北非，進攻英屬埃及和索馬利亞，企圖奪取蘇伊士運河，控制地中海直通印度洋的通道。12月，英軍開始反攻。義大利軍隊被迫向利比亞境內撤退。1941年初，英軍在利比亞的託卜魯克登陸，對從埃及撤退的意軍進行夾攻，經過兩個月激戰，意軍十個師被殲。1941年2月6日，德軍決定派一個輕快師、一個裝甲師去援救意軍。隆美爾被任命為援救意軍的德國非洲軍的軍長。

1941年2月底，隆美爾獲得敵方一個新情況，英軍王牌第7裝甲師撤回埃及，進行休整和補充；它的戰區由剛從英國調來、都是新兵的第2裝甲師的一半兵力來接管。澳軍第6師也調換了第9師，而該師有一部分因補給上的困難還未開到前線。英軍敢於這樣作，是因為他們認為德國前來支援的兵力很少，不敢貿然行動。與英軍的想法恰恰相反，隆美爾沒有等待德軍全部到齊，便利用英軍調防、輕敵的有利時機和條件，採取了大膽的進攻行動。此時，德軍第5戰車團和意軍一個師已經開到前線。1941年3月15日，隆美爾把德國和義大利的軍隊組成混合縱隊，從塞爾提向穆爾祖赫發起進攻，迅速向南挺進了四百五十英里。這次行動，給了英軍以意想不到的打擊，同時還獲得了在非洲條件下作戰怎樣進行裝備和如何長途行軍的經驗，為以後的進攻打下了基礎。

1941年3月24日清晨，隆美爾指揮德軍又攻佔了艾阿格海拉地區的要塞、水源地、飛機場，英軍撤到阿吉打比亞地區。英軍撤到阿吉打比亞地區後，即佔領了可以控制這一帶高地的梅爾沙隘道以及比爾鹽水沼地以南的高地，並在那裡構築工事，準備固守。這時，隆美爾面臨的問題是，等待兵力在5月底到齊之後再進攻，還是馬上就行動。如果等待後續部隊到齊再行動，那麼，就急需解決水源問題，因佔領地區的水源已經枯竭。同時，還會使英軍利用這段時間構築起堅固的工事，其結果將使德軍付出更大的代價。不然，就只能使用現有兵力向梅爾沙隘道進攻，以求在一鼓之下擊敗敵人。隆美爾決定不給英軍喘息機會，以最快的速度去打擊敵軍，變被動為主動。

3月31日晨，在英軍立足未穩的時候，德軍開始向梅爾沙隘道進攻。雙方經過一天的激烈戰鬥，德軍於傍晚佔領了該隘道，第二天，德軍又向阿吉打比亞發起攻擊，也是用了一天的時間便佔領了阿吉打比亞周圍的地方。在這次戰鬥中，隆美爾為了不讓敵軍知道自己的實力，他用汽車改裝成許多假戰車，迷惑敵軍，收到了良好的效果。由於隆美爾靈活使用機械化部隊，不給敵軍喘息機會，所以，不到一個星期，英軍就從昔蘭尼加的西界陣地後退了二百多英里；不到兩個星期，英軍從昔蘭尼加的東界後退四百英里，只剩下了一支被圍困在託卜魯克的部隊。德軍因為隆美爾指揮作戰靈活，能夠根據沙漠地形、氣候等特點用兵，常常以少勝多、從被動變為主動，而稱他為“沙漠之狐 ”。