降級或者撤職是行政處分，行政處罰與行政處分雖然都是國家行政機關作出的制裁行為，但有較大區別：

1、作出決定的主體範圍不同。行政處罰是由享有行政處罰權的行政主體作出的，這些行政主體具有對外管理職能，其行政處罰權已為法律、法規明確規定。而行政處分是由受處分的公務員所在機關，或上級機關，或行政監察機關作出的。也就是說，一般的行政機關都享有對其工作人員的行政處分權。

2、所制裁的物件不同。行政處罰制裁的物件是違反行政法規範的公民、法人或其他組織；而行政處分的物件僅限於行政機關係統內部的公務員。

3、採取的形式不同。行政處罰的形式、種類很多，有警告、罰款、行政拘留、吊銷許可證執照、責令停產停業、沒收財物等；而行政處分的形式只有警告、記過、記大過、降級、撤職和開除等六種形式。

4、行為的性質不同，行政處罰屬於外部行政行為，以行政管轄關係為基礎；而行政處分屬於內部行政行為，以行政隸屬關係為前提。

5、所依據的法律、法規不同。行政處罰所依據的是有關行政管理的法律規範，而行政處分則由有關行政機關工作人員或公務員的法律規範調整。

6、兩者的救濟途徑不同。對行政處罰不服的，除法律、法規另有規定外，相對方可申請複議或提起行政訴訟，透過複議與行政訴訟獲得救濟；而對行政處分不服的，被處分的公務員只能向作出處分決定的機關的上一級機關或行政監察部門申訴。