张全义，字国维，濮州临濮人。原名叫居言，赐名叫全义，梁太祖改为宗..，庄宗平定河南，回复张全义名。祖父张琏，父亲张诚，世代为种田人。张全义做县啬夫时，曾受县令侮辱。
乾符末年，黄巢在冤句起义，张全义逃亡进了黄巢军。黄巢入长安，任张全义为吏部尚书，充水运使。黄巢失败，在河阳依附诸葛爽，逐渐升至裨校，多次立战功，诸葛爽上书朝廷任为泽州刺史。
光启初年，诸葛爽去世，其子诸葛仲方为留后。部将刘经和李罕之争夺洛阳，李罕之在圣善寺打败刘经，乘胜想进攻河阳，在洛口扎营。刘经派张全义抵抗，张全义便和李罕之同盟结义，反过来在河阳攻击刘经，被刘经打败，集合剩下众兵，与李罕之据守怀州，向武皇求援兵。武皇派泽州刺史安金俊相助，进攻河阳，刘经、诸葛仲方弃城投奔汴州，李罕之于是自己掌管河阳，上表推荐张全义为河南尹。
张全义生性勤俭，善于安抚军民，虽然到处都有贼寇，仍劝大家耕种务农，因此仓库充实。李罕之贪暴不守法，军中缺粮，每次都向张全义索取。两人开始时相交很好，到这时李罕之贪得无厌，动不动加以凌辱欺压，张全义十分苦恼。文德元年四月，李罕之出兵侵犯晋州、绛州，张全义乘其不备，暗地带兵袭取河阳，张全义于是兼领河阳节度。李罕之向武皇求援，武皇又派兵帮助攻打河阳，遇汴州军救兵赶到而退。梁太祖用丁会守河阳，张全义复任河南尹、检校司空。张全义感谢梁太祖援助之恩，从此依附梁朝，全都受他制约。
起初，蔡州贼人孙儒、诸葛爽争夺洛阳，互相攻伐，七八年之内，都城化为灰烬，满目都是荆榛。张全义刚到任，只得和部下聚居在以前市区内，街市间穷苦百姓不满一百家。张全义善于安抚收纳人民，督促部下砍去杂草播种庄稼，一边耕地一边作战，用粮食换牛，每年扩大垦地，招收流亡散失人民，待之如子女。每当立春劝耕之日，张全义必亲自站在田边，送给酒食，政事宽大简易，官吏不敢欺瞒。数年之间，京郊附近没有闲田，编入户籍的有五六万，于是在过去的街市筑营垒，建置府署，防止外寇。
梁太祖逼迫唐昭宗东迁，命张全义修缮洛阳宫城，多年后才完成。唐昭宗到洛阳，梁太祖图谋取代他，担心张全义有异心，便任判官韦震为河南尹，调张全义任天平军节度使、守中书令、东平王。这年八月，昭宗被杀，辉王即皇帝位。十月，复以张全义为河南尹，兼忠武军节度使，判六军诸卫事。梁太祖建立年号，以张全义兼河阳节度使，封魏王。开平二年，册拜太保，兼陕虢节度使、河阳尹。四年，册拜太傅、河南尹、判六军，兼郑、滑等州节度使。乾化元年，册拜太师。二年，朱友王圭篡位叛逆，任张全义为守太尉、河南尹、宋亳节度使兼国计使。梁末帝在汴州即位，任张全义为洛京留守，兼镇河阳。不久，授天下兵马副元帅。
梁末帝后期，张汉杰、赵廷隐等掌权，段凝为北面招讨使，突然升居各将之上。张全义知道这样不妥，派使者上奏梁末帝说：“老臣受先朝重视，蒙陛下委任为副元帅，我虽年老，还可以带兵，请交给我北面军权，我将日夜工作。段凝是晚进之人，德望不够，担心人情不和谐，败乱国政。”末帝没理睬。张全义依附朱氏近三十年，梁太祖晚年时，猜忌宿将，四次想加害张全义，张全义卑身曲事，将所有家产献上。到梁太祖河朔一战丧师之后，每月献铠甲马匹，以补充其军队，再加上他服事勤谨尽瘁事职，找不到岔子加罪，所以最后免于灾祸。张全义的妻子储氏，聪明敏捷有才能谋略。梁太祖自从柏乡一战失败后，连年亲自征讨河朔，怀疑张全义，还有左右旁人进谗言离间，储氏每次进宫，委曲伸诉道理。有时怒不可测，急召张全义，储氏进见梁太祖，高声说：“宗..(张全义)只是一个种田老汉，三十多年来，在洛阳城四面开荒砍草，招来百姓供应军粮，资助陛下创业。现在年齿衰朽，眼看要死的人了，而陛下还怀疑他，是为什么呢？”梁太祖马上笑着说：“我没有恶意，老太太不用多说了。”
庄宗平定梁朝，张全义从洛阳进见庄宗，顿首待罪。庄宗安慰他很久，因他年老，令人扶着他上殿，赐宴尽欢，下诏令皇子李继岌、皇弟李存纪等人都把他当兄长看待。这之前，天..十五年(918)，梁末帝从汴州前往洛阳，准备在圆丘祭祀。此时庄宗军攻下杨刘，占领曹州、濮州，梁末帝害怕，急忙返回汴州，祭礼没搞成，然而法物都在。到这时，张全义便上奏说：“请陛下就便巡幸洛阳，我已做了郊礼的准备。”第二天，发文任张全义复为尚书令、魏王、河南尹。第二年二月，郊祭礼结束，任张全义为守太尉、中书令、河南尹，改封齐王，兼领河阳。以前，朱氏梁朝的供应费用，全出自河南府，其后孔谦侵削张全义的权力，中官各领内司使务，有的强夺张全义的田园居室，张全义全都进献上。四年，撤河南尹职，授忠武军节度使、检校太师、尚书令。此时赵在礼占据魏州，都军进讨没有成功。明宗被众多小人离间迷惑，端居私第。张全义卧病时听说有变乱，忧惧不食，在洛阳家中死去，享年七十五岁。天成初年，册赠太师，谥号为忠肃。
张全义历任守太师、太傅、太尉、中书令，封王，封邑三千户。所领方镇有洛、郓、陕、滑、宋等州，三次临河阳，二次领许州，内外官有二十九任，做河、洛尹正共有四十年，位极人臣，善保自身到头吉祥平安的，只有他一人而已。张全义朴实大度，求根本务实际，从战士起家而忘却功名，尊重儒业而乐于善道。自家不是士族出身，但奖爱士族人家，开幕府征求贤士，一定要求有实际名望。属地封邑补充官员，不使用胥吏差役。位极王公之尊，不穿绫罗绮衣，信仰佛教道教，而不沉溺于左道邪门。像上面这些，别人都以为难以做到。自庄宗到洛阳，投奔者都走捷径求得恩宠，张全义不改往日行为，只是尽诚心而已。言事的人认为梁太祖是世代仇人，应破烧其棺材，只有张全义上奏章申述道理以止之，议论者称赞他。刘皇后曾随庄宗到他家里，对庄宗说：“我幼年时遇战乱，失去父母，想拜张全义为义父。”庄宗同意。张全义跪下顿首说：“皇后是万国之母仪，古今没有此事，我无地自处。”庄宗再三敦促，不能免此事，于是受刘后之拜。此事既然不是他的愿望，君子们也不非议他。然而张全义从小在军中成长，朴实迟滞，凡是百姓打官司告状的，他以先诉者为得理，因此人多冤枉失真，为时议所非。又曾对河南县令罗贯恼恨，通过刘皇后向庄宗说罗贯的坏话，使罗贯无罪而死，尸体暴露在府门，冤枉之声，远近相传，这也是良玉中微小的瑕疵。