张居翰字德卿，旧唐掖廷令张从玫的养子。昭宗时，当范阳军监军，与节度使刘仁恭友善。天复中(901～903)，大诛宦官，仁恭把居翰藏到大安山的北奚谷才得免死。后来，梁军攻仁恭，仁恭派居翰随晋王攻梁的潞州，牵制梁的兵力，晋攻取潞州，用居翰当昭义监军。
庄宗即帝位，与郭崇韬并列为枢密使。庄宗灭梁后骄傲，宦官得以专权，郭崇韬专管军国大事，居翰郁郁不乐，苟安免祸罢了。
魏王破蜀，把王衍等一行人送京城，走到秦川驿，明宗在魏兵变。庄宗东征，忧虑王衍发生变故，派人送诏书给魏王，诏书已经画了押用了印，居翰打开一看，诏书说“：诛衍一行。”居翰认为把投降的人都杀了是不祥之兆，就拿诏靠在柱上涂去“行”字，改成“家”字。使当时和王衍一起的蜀归降者一千多人幸免被杀。
庄宗遇弑，居翰在至德宫见明宗要求回归故里。天成三年(928)，死在长安，年七十一岁。