张国维，字玉笥，东阳人。天启二年(1622)进士。初任番禺知县。
崇祯二年(1629)，国维升任刑科给事中，弹劾、罢免了副都御史杨所修、御史田景新，这两个人都是魏忠贤的党羽。后来他上书对当时政治提出五条意见，说“：陛下求治之心太急迫，综合考察太严格。笨拙的官员小心戒惧但求无过，用心机巧的则敷衍塞责以图保住官位，谁还能施展身手为国家办理应做的事呢？所以皇上治国的气象精明，把臣下看作心腹、手足一样的情义实在缺乏，这样说来皇上的英明察决应该有所收敛了。祖宗在位时，阁臣有封还圣旨不肯执行的，有章奏屡上争议一事的。现在大臣一旦受到批评，就赶快低头认错；一旦意见被皇上批评，就赶快顺着您的旨意来。陛下处理不当，大臣也不敢坚持自己的意见进奏。这样说来大臣的一味顺随应该有所戒除了。陛下召见大臣问话本来是要下情上通的，没有因此该被问罪的。现在召见大臣只是传达皇上的指示，没见哪个人敢有所褒贬。我的同事熊奋渭回朝才十天，只是从旁边讲了句话，就被贬出去了。难道不能把惩罚稍微减轻一些，显示陛下您宽宏的肚量吗？这样说来君臣间的关系应该有所和洽了。”另外两条是请求平治刑罚，广施恩惠的。庄烈帝没能全采纳。国维后来升任礼科都给事中。京师地震后，他上书规谏弊政，话讲得很严厉。过后升任了太常少卿。
崇祯七年(1634)，国维升任左佥都御史，外出巡抚应天、安庆等十府。这年冬天，流贼进犯桐城，当地的官军全军覆没了。国维正当壮年，却因此一夜之间头发、胡须都变白了。第二年正月，他带着副将许自强前往增援，游击潘可大、知县陈尔铭等固守桐城，贼寇不能攻下来。于是转攻潜山，知县赵士彦重伤而死。攻太湖，知县金应元、训导扈永宁被杀。国维赶到后，解除了桐城之围，派守备朱士胤赴潜山，把总张其威赴太湖增援。士胤战死了，自强在宿松遇上贼兵，双方伤亡相当。安庆山区的百姓用木棍、石头投击贼兵，贼兵死了很多人，于是越过英山、霍山逃跑了。九月，贼兵又从宿松进入潜山、太湖，另外的贼寇扫地王也打下了宿松等三个县。国维于是招募当地居民两千人防守，把军事交监军史可法指挥。第二年正月，贼寇围攻江浦，国维派守备蒋若来、陈于五打退了他们。十二月，贼寇兵分几路进犯怀宁，可法及左良玉、马火广顶住了他们。贼寇又进犯江浦，副将程龙及若来、于五等人抗敌防守，这几座城都得以保全。贼寇又包围望江，国维派兵援救，贼寇也撤围走掉了。
十年五月，国维率领程龙等赴安庆，在酆家店抵御贼兵，程龙的几千士兵都覆灭了。贼寇往东打下了和州、含山、定远，攻陷六合，知县郑同元败逃，贼寇于是又攻打天长。国维看到贼寇的气焰越来越嚣张，就向朝廷申请割安定、池州、太平，另外设置巡抚，让可法担任。安庆不归江南巡抚管辖，就是从这里起始的。有人主张一并割下江浦、六合，让国维专门护守江南，庄烈帝不答应。
国维为人宽厚，得到士大夫们的拥戴。他所辖的郡县发生灾伤，他都替百姓向朝廷请命。他对修建太湖、繁昌两城的城墙，开挖苏州九里石塘及平望内、外塘，长州至和等水塘，垒砌松江的防海堤，疏通镇江及江阴的灌运河道，都做出了成绩。被朝廷升为工部右侍郎并右佥都御史，总理河道。当时气候严重干旱，漕运河道枯涸，国维把周围河流中的水疏通引进运河。山东发生饥荒，他赈济无数穷苦百姓，使他们得以生存。
十四年夏天，山东的贼寇开始活动，国维改任兵部右侍郎兼统领淮州、徐州、临江、通州四镇的部队，保卫漕运。大盗李青山有几万喽口罗，占据梁山泊，派遣他的党羽分别占领了韩庄等八处水闸，运粮河道因此被阻塞了。周延儒应召北上时，青山去拜见他，说自己在领兵护漕，不是造反作乱。延儒答应向朝廷讲一讲，给他加封官职。可是青山竟然拦截运粮船只，大肆焚掠，兵逼临清。国维召集自己部下的兵力打击并降服了他，把他交给朝廷，在京师街头把他肢解了。兵部尚书陈新甲入狱后，庄烈帝召国维入朝替任。国维于是拟定了战守赏罚的标准，上书提出严格世袭官员，斟酌推荐升用，认真对待大臣的题本和对他们的咨询等七条意见，庄烈帝都回答说可以。当开封失陷，黄河以北受到震动时，国维又递上保防黄河的几条办法，庄烈帝也采纳了他的意见。
十六年四月，我大清部队攻进京师郊区，国维传令赵光扌卞在螺山抵抗，八个总兵的部队都溃败了。言官因此攻击国维，他被解除了职务，不久又被关进监狱。庄烈帝记起他治河的功劳，他才被放出来。后来，庄烈帝在中左门召他问话，恢复他的原职，让他兼任右佥都御史，赶往江南、浙江管理练兵、运饷等事务。国维离开北京才十天，北京就失陷了。
福王召国维到南京协理军政，不多日子，评定他在山东讨贼的战功，给他加官太子太保，荫子锦衣佥事。吏部尚书徐石麟离职后，大臣们讨论让国维接任，马士英不用他，而用了张捷。国维于是请假探亲，回乡去了。
南京失守一个月后，潞王在杭州监国，没几天就投降了。闰六月，国维到台州朝见鲁王，请鲁王监国。鲁王当天就移驻绍兴，提升国维为少傅兼太子太傅、兵部尚书、武英殿大学士，让他在钱塘江上统帅部队。总兵官方国安这时也从金华来了。马士英一向跟国安要好，现在躲在他的部队中，申请入朝。国维弹劾了他十大罪状，士英才不敢入朝。国维连续收复了富阳、于潜，在沿江的要害地带扎下木城防守，联合了国安及王之仁、郑遵谦、熊汝霖、孙嘉绩、钱肃乐的各支部队，想做好持久战的打算。
顺治三年(1646)五月，国安等各军因为缺饷溃败，鲁王逃到台州航行离去，国维也返回家乡东阳防守。六月，他看到大势已去，无法支持下去，写了三首绝命诗，赴水自杀了，终年五十二岁。