张文舟是山西沁阳县人，1912年出生，原名霍昭汉。毕业于西北陆军军官学校。1932年加入中国共产党。曾在察哈尔抗日同盟军和东北军中从事党的秘密工作。1935年参加中国工农红军。土地革命战争时期，任红26军2师副连长、中共陕北省委军事部参谋科科长、参谋长、红29军作战科科长、军参谋长。参加了陕北苏区反“围剿”和西征。抗日战争时期，任八路军留守兵团司令部作教科科长、参谋处处长、陕甘宁晋绥联防军警备3旅参谋长。解放战争时期，任陕甘宁晋绥联防军警备3旅副旅长、联防军参谋长、西北野战军参谋长、西北野战军4纵参谋长、第一野战军4军参谋长、第二兵团参谋长。参加了延安保卫战和宜川、扶□，兰州等战役。

建国后，任装甲兵参谋长。由于中国人民志愿军参谋长解方出任朝鲜停战谈判志愿军代表，张文舟1952年参加抗美援朝，任中国人民志愿军代参谋长，参与指挥了1951年夏、秋季防御作战、1952年春、夏季巩固阵地作战、金城反击战和上甘岭战役，获朝鲜二级自由独立勋章。回国后，任军事学院装甲兵系主任。1961年毕业于高等军事学院基本系。后任装甲兵学院副院长、装甲兵副司令员。1955年被授予少将军衔。获二级八一勋章、二级独立自由勋章、一级解放勋章。1986年去世。