1985年春節前後，許世友常常感覺一陣腹痛，隨之而來後來的還有食量驟減。許世友原本不當一回事，這和他之前在戰場上受的彈傷刀傷相比，根本不算什麼。經過相關組織領導和身邊工作人員的勸說，許世友終於去上海做了檢查，結果出來是肝癌晚期。
許世友身邊所有人假裝許世友什麼事也沒有，表面上都雲淡風輕，許世友很快看出了貓膩，也看到他們的善意，也就裝著自己沒事的樣子。
女兒許華山得知了父親許世友的病情，立刻趕回南京家裡看望父親。
許世友一看到女兒，微笑著對她說：“孩子，這次爸爸有情況了。爸爸要死了。”許華山強忍著痛苦說：“醫生會治好爸爸。”然而許世友卻說：“這次和以前不一樣，爸爸能感覺得到，爸爸這次要去見馬克思了。”
當時任北京301醫院的政委劉軒亭是許世友的老部下，他專門趕到南京勸說許世友去北京治病。許世友卻回絕：“北京路窄人多，我吵架吵不過他們，不去。”。許世友甚至不願去醫院治療，一直住在自己家裡。
後來許世友病痛加重，中央領導強制許世友住院，許世友才入院接受治療。
許世友癌症惡化時，每天都忍受巨大的疼痛。在許世友最後的日子裡，許多當年的戰友每天都趕來醫院，想隔著玻璃窗看看他。向守志，楊尚昆，張震，洪學智等同志都專程趕來看望許世友。
1985年10月22日下午4時57分，許世友因病逝世，享年80歲。
土葬情結早在1979年許世友74歲，就寫信請家鄉的許光幫自己置辦棺材。信的全文是：
許光，郵去現金50元整，用這筆錢幫我買一口棺材。我死後不火化，要埋到家鄉去，埋到母親身邊。我活著精忠報國，死後要孝敬父母。我今年74歲了，身體很好，活到八九十歲沒有問題，但請你們先幫我做個準備。
許光後來回信說他按照家鄉習俗，用大別山的松柳柏等五種木材（意味多子多孫）做了一口棺材。
許世友去世了這口棺材運到南京才發現，它是按照許世友年輕時候身材製作的，已經容不下因病身體腫脹的許世友了。
領導們不願意許世友安葬時憋屈在一口不合適的棺材裡，到處在南京找合適木材，找不到只能求助廣東軍區司令尤太忠將軍，尤太忠將軍立刻派人去找，終於在廣西找到了一顆楠木，連夜運到南京。
木材運到南京新的難題又出現了，整個南京城找不到一家棺材鋪，更找不到能在三天內為許世友做完一口棺材的師傅。
治喪辦正在發愁時，有專家反應了一個情況：1970年何香凝去世時和廖仲愷合葬在中山陵園。當時棺材就是請南京一位名師定製，只是不清楚這位老師傅是否還在世。
連忙四處派人打聽，終於在南京一個深巷裡找到了這位老師傅。
老師傅先到靈堂，瞻望了許世友的遺體，又圍著珍貴的楠木觀察了一圈，答應了這樁事。
治喪辦先讓老師傅畫圖樣，老師傅說不用畫，都在我心裡。又請老師傅大概說一下樣式，老師傅只回答：“放心，我不會負許世友。”治喪辦只能作罷。
三天後，這口楠木棺材修成了。整付棺材長230公分，寬85公分，棺材厚度12釐米，光是棺材的頂蓋就重千斤，要8個年輕小夥才能抬動。棺材採用榫卯結構，一旦扣上嚴絲合縫，除非故意破壞才能開啟。
老師傅感嘆：“這是我這一輩子做的最好的一口棺材，也是我這我一輩子做的最後一口棺材。”
你是和尚嘛許世友葬禮很多人都去弔唁，下午3點到晚上，大約有數萬人。
許世友是當時唯一一位中央默許可以“土葬”的高階領導。之前50年代，當時中央為了移風易俗，從領導幹部開始，倡議火葬代替土葬。
許世友是當時唯一一個沒有在倡議書上簽字的中央委員。許世友當時對毛主席說，我小時候就離家，一直沒有陪在老母親身邊盡孝，死後要和她老人家作伴，跟她一塊葬在土裡。
毛主席當時聽了許世友這番話，只是微笑看著他，久久沒有說話。毛主席轉身離去時，才微微點頭，嘆道“你是和尚嘛……”許世友知道毛主席這是默許了。
許世友去世，“土葬”的遺願報到中央，中央批准：“照此辦理，下不為例。”
凌晨零時，由一輛炮車載著許世友的靈柩駛出南京。經過青山萬水，幾天幾夜終於到達故鄉大別山。夜裡三點，下棺安葬。
一代英雄許世友至此，終於完成了他“生前盡忠死後盡孝”的夙願。