公元995年，呂端被宋太宗提升為宰相。

對這個一人之下、萬人之上的位置，呂端並不覺得有多了不起，他想的是如何調動全體臣僚的積極性，為此不惜自己放權和讓位。

當時和他有同樣聲望的還有一位名臣寇準，辦事幹練，很有才能，但是性子有些剛烈。

呂端擔心自己當了宰相後寇準心中會不平衡，如果耍起脾氣來，朝政會受到影響，於是就請太宗另下了一道命令，讓擔任參知政事（副宰相）的寇準和他輪流掌印、領班奏事，並一同到政事堂中議事。他的建議得到了太宗的批准，也平和了寇準的情緒。後來，太宗又下詔說：朝中大事要先交給呂端處理，然後再上報給我。但呂端遇事總是與寇準一起商量，從不專斷。過了一段時間。呂端又主動把相位讓給了寇準，自己去當參知政事。這種主動讓權，在世人的眼中自然是“糊塗”的舉動。

有一年，朝中大臣李惟清被太宗從掌管全國軍事的樞密使的位子上換下來，去當負責監察百官的御史中丞。雖然是平調，但實際權力發生了變化，他認為是呂端在中間使壞。於是，李惟清趁呂端有病在家休息，沒有上朝的機會告了呂端一個惡狀。事情傳到呂端耳中後，呂端不以為然，既沒有去對皇帝表白，也沒有去找李惟清算賬，而是淡淡地說：。“我一輩子行得正，坐得直，沒有做什麼對不起人的事，又怕什麼風言風語呢？”他這種不與人計較的坦然心態也被人認為是“糊塗”。

在呂端剛剛擔任參知政事（副宰相）的時候，他從文武百官前面經過，一個小官由於平時聽多了呂端“糊塗”的傳聞，對他很不服氣，以很不屑的口吻來了一句：“這個人竟也當了副宰相了？”呂端的隨行人員覺得很不公平，要問那個人的姓名，看看是幹什麼的。呂端制止說：“不要問，你問了他就得說，他說了我也就知道了，而我一知道，對這種公然侮辱我的人我便會終生不能忘。

著意地去報復對我來說是肯定不會的，但以後如果有什麼事涉及他，撞到我手裡，想做到公正對待也一定很難。所以，還是不知道的好。”這種君子不念惡，揣著明白裝糊塗的舉動對呂端來說，是一種自我修養的高尚境界，但在世人眼中，自然又被看成了“糊塗”。

呂端的“糊塗”，還表現在他的不置產業上。他不僅為官非常清廉，貪汙受賄之事從來沒有，就是應得的那份俸祿也常常分出一些賙濟照顧別人。以至於後來呂端去世後，他的兩個兒子競因生活困難，沒錢結婚，只好把房產抵押給別人。真宗皇帝知道這個事情後，很受感動，從皇宮的開支中支出了五百萬錢把呂家的房產贖了回來，另外又賞了不少金銀和絲綢，替呂家還清了舊賬。以宰相之尊，而後人貧困至此，在常人的眼裡又是多麼“糊塗”。

呂端一生經歷了三代帝王，在40年的宦海生涯中幾乎沒有受到什麼衝擊，這種經歷在封建王朝中實在是不多見的。這與他在大局、大節問題上毫爾糊塗，但在事關個人利益的問題上卻能“糊塗”了事的品質是有很大關係的。對於我們今天的人來說，不管是當官還是為人處世，都應該學學這種“糊塗”的精神。