60军的前身是晋冀鲁豫野战军第8纵队，首任司令员是上将王新亭。后改为华北野战军8纵，隶属华北军区第1兵团，直接归徐向前指挥，参加了临汾、晋中、太原等战役。该纵队第23旅，在临汾战役中，英勇奋战，首先登城，被授予"光荣的临汾旅"称号。1949年全军进行整编，8纵改称中国人民解放军18兵团第60军，王新亭任军长兼政治委员，张祖谅任副军长兼参谋长。60军先是参加了解放西北的扶眉战役，然后又跟着贺龙南下秦岭，一直解放了成都。1950年，60军在川西进行剿匪作战，在11个月内作战57次，肃清了川西匪患。1951年3月，60军作为第二批部队入朝参战。当时的军长张祖谅因任川西军区司令员，由韦杰继任军长。