张日韦，汝州襄城人。祖父名德政，武德年中(618)为郓州刺史。日韦在景龙初年(710)为铜革是令，家境豪富，喜爱结交宾客，以射猎自娱。适逢临淄王为潞州的别驾，日韦暗记其英姿，全身心供奉，每天侍奉游玩。直到乐人赵元礼从山东来，带有美丽的女子，善于歌舞，帝王宠爱她，居住在日韦的宅第。生废太子瑛。唐隆元年六月，王清内乱，升为皇太子，晋升为宫门大夫，常常与诸王、姜皎、崔涤、李令问、王守一、薛伯阳在太子左右博求欢颜。这年，张日韦被提升为左台侍御史，数月后升为御史台中丞。
先天元年(712)，太子即位，居住在武德殿。太平公主欲意图谋，广树朋党，张日韦与仆射刘幽求恳请皇上早做防备。太平公主听说后，到睿宗面前陈叙，于是将张日韦流放到岭南峰州，将刘幽求贬谪到岭外。直到太平公主阴谋败露后，刘幽求被追拜为尚书左仆射、兼侍中；张日韦为大理卿，被封为郑国公，实封三百户，一个月后又加封兼雍州长史。这年十二月，改元为开元，以雍州为京兆府，长史为尹。张日韦是第一个迁往京兆的官员，在朝廷内常常出席高官的私宴，出外每每主持国家政事，倍受皇上恩宠。张日韦也有应付事务的才干，不久升迁为太子詹事，又升为尚书左右丞，再拜为左羽林大将军，多次为左金吾大将军，又为殿中监、太仆卿。
二十年(732)，由于张日韦年事已高，赠特进之职。张日韦的儿子履冰、季良，弟弟张晤都排此行列。天宝初年(742)，张日韦还乡拜扫，皇上特赐予锦袍缯彩，还赐以诗以示特别恩宠，传令的车马往来穿梭，命令各郡县供奉准备。张日韦鬓发华皓，坐在车中，其儿子弟弟的车马首尾相连长达数里，衣冠华丽。中使在路途中不断追赐药物。到达襄城一个多月，皇帝下诏书还京。五年(746)死去，享年九十多岁，赠授开府仪同三司。其后，张日韦的儿子履冰为金吾将军，季良为殿中监，都官居高位，受到人们赞扬。张日韦年高命寿，始终善保品性。