张希钦是河南省东明县(今属山东省)人，1910年出生于农业兼手工业家庭，原名张锡庆。7岁上小学，12岁上高小，一年后辍学，随父亲到洛阳、郑州谋生。1923年到上海，在北洋军阀淞沪护军使署通信队当勤务兵。1927年到军阀孙传芳的后方留守处当公务员，1928年失业流浪。1930年考入国民党南京军官学校，1933年在军校毕业后违抗国民党当局命令，私自离开南京，到北平参加抗日活动。先在易县一支从长城撤下来的义勇军中作兵运工作，后将这支队伍带到张家口，加入察绥抗日同盟军，在18师任连长，同年加入中国共产党。