离职后想要撤销财务负责人，需要在财务人员变更后的30天内，携带财务人员证明文件、离职证明，向原税务登记机关申报办理变更税务登记即可，如果没有在规定期限申报办理变更，税务机关会责令企业限期改正。

企业更换财务负责人而不办理变更手续，那是属于行政违法行为，是要受到行政处罚的。既然属于违法行为，那税务机关就有责任去纠正去处罚，作为财务人员，只需要把自己离职这个事实，光明正大的告诉税务局就行了。