不需要，紅字發票需要自己留存。根據國家稅務總局關於修訂《增值稅專用發票使用規定》的通知（國稅發〔2006〕156號）第二十五條第一款規定：“用於抵扣增值稅進項稅額的專用發票應經稅務機關認證相符(國家稅務總局另有規定的除外)。認證相符的專用發票應作為購買方的記賬憑證，不得退還銷售方。”

增值稅一般納稅人開具增值稅專用發票(以下簡稱“專用發票”)後，發生銷貨退回、開票有誤、應稅服務中止等情形但不符合發票作廢條件，或者因銷貨部分退回及發生銷售折讓，需要開具紅字專用發票的，按以下方法處理：購買方取得專用發票已用於申報抵扣的，購買方可在增值稅發票管理新系統(以下簡稱“新系統”)中填開並上傳《開具紅字增值稅專用發票資訊表》(以下簡稱《資訊表》，詳見附件)，在填開《資訊表》時不填寫相對應的藍字專用發票資訊，應暫依《資訊表》所列增值稅稅額從當期進項稅額中轉出，待取得銷售方開具的紅字專用發票後，與《資訊表》一併作為記賬憑證。購買方取得專用發票未用於申報抵扣、但發票聯或抵扣聯無法退回的，購買方填開《資訊表》時應填寫相對應的藍字專用發票資訊。銷售方開具專用發票尚未交付購買方，以及購買方未用於申報抵扣並將發票聯及抵扣聯退回的，銷售方可在新系統中填開並上傳《資訊表》。銷售方填開《資訊表》時應填寫相對應的藍字專用發票資訊。