张日韦，字明仲，莒州日照县人。博学广闻，正隆五年(1160)中进士。调任陈留主簿、淄州酒税副使，课税增加了许多，被迁为昌乐令。又改任永清令，补尚书省令史，再任太常博士，兼国子助教。服父丧，服满，调任山东东路转运副使，再召入朝任太常丞，兼左善赞大夫。章宗被封为原王时，他又兼原王府文学。章宗被册封为皇太孙，张日韦又担任左赞善大夫，转任左谕德，兼太常丞，又派他担任宋国报谕使。到盱眙时，宋人请他赴宴，张日韦说：“皇帝去世，殡葬期间，不能去。”当受赏赐时，也不舞蹈拜赐，宋人佩服他懂得礼仪。出使回朝后，迁为太常少卿，兼修起居注。又改任礼部郎中，修起居注如故。再迁任右谏议大夫，兼礼部侍郎。
明昌二年(1191)，太傅徒单克宁去世，章宗要亲自动手给他烧饭祭祀，当时，孝懿皇后的灵柩殓而未葬，张日韦上奏说“：皇上仁慈，追念功臣，恩礼隆盛深厚，谁不感动激励。但太祖的正常祭祀，尚且暂停，如果给大臣烧饭，于礼不妥。如今已降下旨意，圣意深厚，人人皆知，请依从典礼规定，则两全其美了！”章宗听从他的建议。
有人又上奏书主张废除提刑司。张日韦上疏说：“陛下即位，为民便利，更定法令，设立新制，谋划达数十百条之多。提刑司的设立，是治政的大事，如果被浅薄的议论所动摇，在朝廷内外就难以取信。唐开元年间，有人请求选用守令时，停止用采访使。姚崇上奏说‘：设有十道采访使，尚且未能使用人完全合适，天下有三百余州，县又比州多几倍，怎么可能让守令完全称职。’因此，提刑司的任命，一定不能废除，要选择合适者加以任用，这是民众的大利，也是治国的长远计策。”于是，他列举了汉刺史的六条上奏。皇帝说“：卿所说的正和我的心意相合。”
被任命为礼部尚书。孙即康审讯镐王永中一事回奏，有诏令加以复审，群臣推荐张日韦和兵部侍郎乌古论庆裔处置。皇帝让参知政事马琪对张日韦说：“百官举荐你核实镐王一事，务必不要委屈他，也不能有损于国法。”皇帝便向宰臣们说：“镐王比永蹈罪轻。”马琪说：“人臣不得叛乱。”于是永中的案件做了决定。
霍王从彝的母亲早死，温妃石抹氏把他抚养大，明昌六年温妃去世，皇帝问张日韦从彝应当怎样服丧。张日韦上奏说：“亲母要穿齐衰服三年，用桐杖布冠，这是礼仪规定。从彝为近亲，地位尊贵，以上压降下者，和一般臣子不同，请让他在未安葬以前穿白布衣服戴绢巾，埋葬以后只穿素色制服到守制期满，朝会时随从穿上吉服。”皇帝便同意按他的意见去办。
承安元年(1196)八月初五，皇帝召张日韦来到内殿，问他“：南郊大祀之礼，今年费用不足，等待他年举行可以吗？”张日韦说：“陛下即位到现在已有八年了，大祭礼一直没有举行，应当尽快进行。”皇帝说“：北方未安宁，在斋祭时，如果出现意料不到的奏报，怎么办？”张日韦说：“怎么能够用预先揣测的事情而影响国家大典的举行呢？如今黄河安流，年成丰收，正是合适的时候啊！”皇帝又问“：僧人道徒三年一次考试，八十人里才取用一个，不是过少了吗？”张日韦回答说：“这些人是浮游取食之徒，无益而有害，不应当再增加了。”皇帝问“：周武帝、唐武宗、后周世宗都是有名的贤君，他们却寿命不长，虽说是偶然的，似乎也另有原因吧？”张日韦说“：三位君王矫枉过正。现在我们对佛道采取既不毁坏废除，也不加以崇奉的办法，是比较适中的。”当年，郊祭了上帝。
不久，翰林修撰路铎主张胥持国这个人不能再任用，其中也谈到董师中奔走于胥持国和丞相襄的家里的事情。皇帝说“：张日韦父子必定不肯这样做。”承安三年(1198)，任命张日韦为御史大夫，他再三恳求辞去，不被允许。第二年，因奏事不合事实，被免去一官，解职。又起用任安武军节度使。退休后，依例给予半俸。过了许久，张日韦不再请求，便停止了。
张日韦自从妻子死去之后不再娶妻，也没有侍妾，他在家和儿子行简谈论古今之事。孙子们在他们身旁诵读，直到半夜才停止，习以为常。他历任太常寺和礼部官职二十多年，最懂得古今礼学，家法成为当时士族们的典范。他儿子为张行简和张行信，张行信另有传记。