當兵之後，他給自己定下目标：我當并不隻是為了改變自己的命運，還要承擔家庭責任，在部隊力争上遊，早日提拔。他比别的新兵更注重平時訓練，加上頭腦敏捷，事實追求極緻，達到了内務極整齊，投擲手榴彈，射擊，負重跑等項目都名列前茅，很早就成為班長，加之在領導視察時積極表現，給上級留下深刻印象，一年後連部内約一千位新兵中提拔九名排長，他即為其中之一。

他所在的部隊是特種建築部隊，專門服務國家領導人。當兵後幾月内成為班長。當上班長後，他更是對自己的班嚴格要求，内務絕對整齊，每個人床上擺的枕頭和被子要在一條直線上，。有一次部隊内領導突擊視察新兵宿舍，除他所領的班外，所有班都有内務瑕疵，他因此被表揚。在日常練完木工後，他也不閑着，帶着班内幾名戰士上後山打野雞，拾柴，摘野菜等交給部隊後廚。他當然也有星期天休息的時候。和關系好的同事一起，去書店看書。除了黨内和部隊内相關的雜志與報紙通訊外，他也看了一些中外經典著作如《鋼鐵是怎樣煉成的》。

當兵兩年，團長在部隊内視察，提拔幹部，他表現積極，赢得團長青眼。在征新兵入伍時，軍長叫他去接新兵。他心内一動，接新兵是一項重要的任務，副營長（相當于少校）沒有資格去做，讓自己去做也許是因為要提幹了。果不其然，安徽接兵回來後，他被提到團部，做了一名正連級的幹事。