张存敬，谯郡人。性情刚直，有胆识勇气，临危无所畏惧。唐中和年间，跟从太祖奔赴汴州，因他能屈己效忠，颇与太祖亲昵，首任右骑都将。跟从太祖征讨黄巢和蔡州贼寇，共经百战，多于危急之间，显现奇略，因此频立大功。光启年间，李罕之会合晋军在盟津包围张宗..，太祖派丁会、葛从周、张存敬一同前往奔驰救援。张存敬领骑兵首先攻击敌军将领，其他诸军帮助他，敌骑大败，因而解除了河桥之围。
大顺二年(891)，任各军都虞候，辅佐霍存掌领大军，收取宿州，因功上奏朝廷加封为检校兵部尚书。太祖东征徐州、兖州，张存敬有俘获斩杀之功，凡接受指令，都相机而动，在弓箭擂石面前，必身先士卒，太祖特别褒扬看重他，任他为行营都指挥使、检校右仆射。乾宁三年(896)，充任武宁军留后，代理颍州刺史。光化二年(899)夏四月，幽州沧州部队侵扰魏郡，太祖又任张存敬为都指挥使。三年，大举进军，与葛从周相连统帅各军进攻浮阳，建起几十座营栅，包围刘守文几个月。这时幽州刘仁恭领兵援救，张存敬在乾宁军南边的老鸦堤偷袭。这一天，燕人大败，斩首五万级，活捉马慎交以下一百多人，俘获战马一万多匹。
同年秋七月，领军收复镇州，张存敬率领部众渡过滹沱河，部队击鼓前进，遇上镇州游击部队几千人，于是追击他们，一直攻入镇州城的壅门，收得鞍马牛驼数以万计。第二天，在镇州人投降后旋师。接着任宋州刺史，一年多，很有政绩。又领部队攻伐蓟门，数十天间接连攻下瀛、莫、祁、景四州，俘获不可胜数。在怀德驿与中山的部队交战，积尸数十里，中山开城门投降。
天复元年(901)春，太祖因为河中节度使王珂与太原晋人结亲，凭借靠山骄纵放肆，因而命张存敬领大军攻讨他。即日收复绛州，生擒绛州刺史陶建钊，降服晋州刺史张汉瑜，二郡平定。前进包围河中，王珂请求投降。太祖嘉奖张存敬，任他为护国军留后。不久任检校司空，接着调任宋州刺史。将上任，病重，十多天后死在河中。太祖闻讯，痛惜良久。开平初年追赠为太保。乾化三年又追赠为太傅。