张文馞，贝州武城人。隋炀帝大业末年，他家由魏州搬迁到昌乐。张文馞幼年丧父，因孝顺母亲敬爱兄长而闻名。贞观初年，以通晓经传而中明经举，补并州参军之空缺。当时，英国公李责力是并州长史，对张文馞很是器重而以礼相待。他又被升迁水部员外郎。当时，他的兄长张文琮为户部侍郎，旧制规定，兄弟不允许一同在内阁任职，于是外调为云阳县令。龙朔年间，又授东西台舍人，主持政事不久又迁东台侍郎、同东西台三品并兼主管左史职事。
当时，正开始修建蓬莱、上阳、合璧等宫，又加上征讨边境的少数民族，仅马厩里的马就有万匹，因此府库渐以空虚。张文馞见此状况便向皇上进言说“：人力不可不惜，百姓不可不养，以安居乐业来养他们，就富而康；以劳役公差来累他们，就怨而叛。秦皇汉武，扩展四疆领土，多多建造宫室，因而造成土崩瓦解，户口减半的困境。臣闻，在未乱之时治理，才能保邦于未危。人无常怀，怀于有仁心的国君，陛下不在未乱之前控制，怎么能在已经危险之后挽救呢？百姓不堪劳役赋税之扰，必然会构成祸难。殷鉴不远，近在隋朝。臣希望对百姓稍加安抚，使无生怨。”高宗很同意这一意见，加以采纳，于是节减厩马数千匹，并赐张文馞丝绸锦缎百段。
咸亨三年(672)，官名又复旧，张文馞改授黄门侍郎，兼太子右庶子。不久，又迁大理卿，依旧主持政事。张文馞到任不到十天，处理遗难之事四百余条，无不妥当。从此，抵偿罪责的人，皆无怨言。张文馞曾由于生病，牢中的囚犯参与斋祷，愿他早日病愈能来处理他们的事。当时的人都称他执法公平体谅实情，把他比为戴胄。上元二年(675)，张文馞拜授侍中，兼太子宾客。大理寺牢中的囚犯听说张文馞改官，一时齐哭，张文馞的治理能感人之心达到如此地步。
张文馞性情严正，诸司的奏议，多有被纠正或驳回的，高宗很是信任他。他有时卧病在家，朝廷每有大事，高宗必问诸宰相“：与文馞讨论研究过吗？”奏说没有的，就要去与文馞共同筹划；如果说已议过，都依从文馞的意见。那以后，新罗外叛，高宗准备调兵讨伐。当时，张文馞病在家中，便带病乘车请求皇上接见，他向高宗奏道“：近来，吐蕃犯境，我们的军队屯驻寇境；新罗虽然没有马上归顺，但师不内侵。如果我们东西同时出兵征讨，臣恐百姓负担不了。请求陛下能息兵修德来安定百姓。”高宗听从了他的意见。仪凤二年(677)，张文馞病卒，享年七十三岁，赠幽州都督，谥号为懿。因为他在孝敬皇帝时就在朝廷侍奉，特敕在恭陵陪葬。