佐爾格生於1895年，是俄德混血兒，其父親是曾經在俄國工作的德國工程師，母親是普通俄國婦女，佐爾格三歲的時候全家回到柏林，他在德國學習長大，先是在柏林大學學習，後入基爾大學，並獲得了博士學位，一戰爆發後佐爾格以炮兵身份參戰，他在戰爭中失去了三根手指，腿部也受到傷害，後期走路輕微跛腳。

受家族影響（其叔祖父是德國社民黨黨員），佐爾格1919年加入德國XX黨，此後他的一生都與XX主義結下不解之緣。由於經常發表激進言論，佐爾格失去了工作，1924年他來到蘇聯，供職於共產國際新聞處，後與妻子離婚，1928年受蘇聯情報部門招募，佐爾格成為一名紅色間諜。

佐爾格在中國巨大的名氣，源於他在中國和日本的工作經歷。1930年佐爾格受命來到上海，收集中國國內戰爭相關情報，此間他結識了大量外籍人員，其中就包括史沫特萊和日本的《朝日新聞》記者尾崎秀實，後者後來加入了蘇聯諜報組織，成為佐爾格的合作伙伴。

1932年佐爾格回到莫斯科，在他的要求下，與次年被派駐日本。由於他的德國身份加之日本與德國的盟國關係，佐爾格在日本如魚得水，他以《法蘭克福日報》駐東京特派記者身份遊走於日本各色組織之間，獲取了大量情報，還組建了一個30多人的諜報網路，獲取了大量情報，其中就包括日本二二六兵變後政策走向，日本侵華戰爭計劃，諾門坎戰役軍事部署等等，這些情報有力支撐了蘇聯當局決策，為蘇聯對日政策提供了巨大幫助。尤其是蘇德戰爭爆發後，佐爾格基於情報分析，日本短期內不會對蘇聯用兵，斯大林得以放心大膽的將東線防衛日本計程車兵調回西線，參與莫斯科保衛戰，可以說，佐爾格居功至偉。

最神奇的是，1941年佐爾格透過與德國新任駐泰國大使館陸軍武官肖爾中校的交流，獲得了德國對蘇聯開戰的具體時間，並把情報傳回蘇聯，但這一情報並沒有受到重視。

隨著戰爭的深入，佐爾格也引起了日本諜報人員的懷疑，礙於德國身份，日本反間諜組織一直沒有公開調查他，1939年日共黨員伊東立的管家青柳喜久代被捕後，佐爾格的情報組織被起獲，但此時並未波及到他，1941年尾崎秀實被抓獲，佐爾格才真正陷入危險，他接到了內部人士傳遞的避難紙條，但在逃走過程中沒有及時銷燬，被日本情報人員找到並作為呈堂證供。

相傳佐爾格身份暴露與他的日本情人花子有很大關係，這個愛抽菸的女人一次偶然的機會偷走了佐爾格的打火機，被日本情報人員查獲，並發現了隱藏其中的微型攝像機，據此確定了佐爾格的間諜身份。

由於蘇聯政府不承認佐爾格的存在，無法透過戰俘來交換，1944年11月佐爾格於東京被秘密絞死，終年49歲。在他死後，情人花子將其安葬在東京多磨陵園，2000年花子去世後，按照其遺願，與佐爾格合葬。

1964年11月5日，蘇聯政府追授佐爾格為蘇聯英雄，授予金星勳章。這位傑出的情報人員，把生命獻給了祖國，他是二戰的英雄。

荒唐的是，佐爾格的蘇聯妻子在大清洗期間被判處五年徒刑，服刑期間死在了寒冷的西伯利亞。而在佐爾格被處死後半個月，蘇聯政府為她平反。