张辅字文弼，河间王张玉的长子。燕王起兵时，他随从父亲力战，任指挥同知。张玉在东昌战死，张辅继承父亲职位。他随从燕王战夹河、藁城、彰德、灵璧，都有功。随从入京师后，被封为信安伯，食禄千石，给予世袭诰券。妹妹是皇妃。丘福、朱能说张辅父子功勋俱高，不可因为是私亲就薄给赏赐。永乐三年(1405)，他进封为新城侯，加禄米三百石。
这时安南的黎季嫠杀其国王，自称太上皇，立儿子黎苍为帝。共原国王之孙陈天平从老挝来投奔朝廷，黎季嫠假装请他回国。皇上派都督黄中率五千名士卒送他回去，前大理寺卿薛岩做他的副手，黎季嫠在芹站埋伏兵，杀死陈天平，薛岩也死了。皇上大怒，命成国公朱能为征夷将军，张辅为右副将军，率领丰城侯李彬等十八位将军，士兵八十万，会同左副将军西平侯沐晟，分道进讨。兵部尚书刘俊赞佐军事，行部尚书黄福、大理寺卿陈洽供应粮饷。
四年(1406)十月，朱能死于军中，张辅取代他统领部众。从凭祥进军，越过坡垒关，望祭安南境内山川，发檄历数黎季嫠二十条罪状。进军攻破隘益、鸡陵二关，取道芹站，击走其伏兵，抵达新福。沐晟的部队也从云南到来，扎营于白鹤。安南有东、西两都，依宣、洮、沲、富良四江为险，贼人沿着江南北两岸立栅，把船集中在江中，在多邦隘筑城，城栅桥舰相连九百余里，兵众七百万，想据险固守，疲劳张辅的部队。张辅从新福移驻三带州，制造船舰，准备攻隘。正好皇上得知朱能去世，敕令任张辅为将军，敕令中以李文忠取代开平王常遇春作比喻，并说趁冬季瘴疠未兴，应及时灭贼。十二月张辅推进到富良江北扎营，派骠骑将军朱荣在嘉林江击破贼兵，遂与沐晟合军进攻多邦城。他装作要进攻他处，以麻痹贼人，令都督黄中等人率敢死士，每人都持火炬和铜角，在夜间四鼓时分，越过重壕，用云梯登城。都指挥蔡福先登，士卒们也纷纷蚁附而上，然后吹响号角，万炬齐举，城下之兵呐喊而进，遂攻进城中。贼人驱象迎战。张辅用画成的狮子蒙在马上冲击，再补以神机火器。大象都返身退走，贼人大溃。官军斩其两名首领，追到伴圆山，全部焚烧了其沿江木栅，俘虏和斩杀无数。官军进而攻克东都，安抚官民和归附者，来归顺的人每天以万计。张辅派别将李彬、陈旭攻取西都，又分兵击破贼人的援军。黎季嫠焚烧宫室仓库后逃到海上，三江州县都望风而降。
第二年春，张辅派清远伯王友等人渡过注江，攻破筹江、困枚、万劫、普赖等寨，斩首三万七千余级。贼将胡杜聚船在盘滩江上，张辅派降将陈封袭击赶走了他，全部夺取了他的船只。于是平定了东潮、谅江等府州。不久在木丸江击破黎季嫠的舟师，斩首万级，擒获将校一百余人，贼人溺死无数。官军追到胶水县闷海口而还。在咸子关筑城，令都督柳开守卫。过后，贼人由富良江进兵。张辅和沐晟夹岸迎战，柳升等人率领舟师横击，大破贼兵，斩杀数万人，江水为之赤红，官军乘胜穷追。当时天旱，江水浅，贼人弃船上岸逃走。官军到时，突降大雨，江水上涨，官军遂得全部渡江。五月到达奇罗海口，抓获黎季嫠和他的儿子黎苍，以及伪太子诸王将相大臣等人。槛车送入京师，安南平定。计算府州四十八个，县一百八十个，户三百一十二万。访求陈民的后代，但找不到，便设交趾布政司，将其土地内属于朝廷。自从唐代灭亡后，交趾沦为蛮服达四百余年，至此又收入版图。皇上为此诏告天下，诸王和百官都奉表祝贺。
六年(1408)夏，张辅整军回到京师。皇上再在奉天殿赐宴招待他，并赋写了《平安南歌》，进封他为英国公，岁禄三千石，给予世袭诰券。这一年冬，陈氏的旧臣简定又叛乱，皇上命沐晟征讨，结果败于生厥江。第二年春，又命张辅佩征虏将军印，率军前往征讨。当时简定已经僭称越上皇，另立陈季扩为皇，势力很大。张辅就叱览山伐木造船，招来谅江以北那些躲避贼寇的人复业。遂推进到慈廉州，攻破喝门江，攻克广威州孔目栅。在咸子关遇上贼人，贼人有船六百余艘，保卫江东南岸。张辅率陈旭等人用划船迎战，乘风纵火，擒获贼人首领二百余人，全部夺过了他们的船只。官军追到太平海口。贼将阮景异以三百艘船迎战，官军又大破敌兵。于是陈季扩自称是陈氏的后代，派使者袭封王位。张辅说“：先前遍找陈王的后人，他都不响应，现在是在欺骗我们。我奉命讨贼，不知其他。”遂派朱荣、蔡福等人以步骑兵先出发，张辅率领舟师随后进军。以黄江到神投海，会师于清化，再分路进入磊江，在美良山中抓获了简定，把他和他的党羽一起送到京师。八年正月，进而攻击贼人余党，斩杀数千人，把尸体堆成一堆掩埋，只有陈季扩没有抓获。皇上留下沐晟讨伐，召张辅班师。张辅在兴和拜见皇上，受命到宣府、万全练兵，督运北征。
当时陈季扩虽然请求投降，但实没有悔改之心，乘张辅一回去，又攻掠如故，沐晟无法控制。交趾人苦于中国的约束，又多次遭官吏士卒的侵扰，往往起来依附贼人，乍服乍叛，将帅更加不认真剿寇。九年(1411)正月，皇上仍命张辅和沐晟协同进讨。张辅到后，申明军令。都督黄中素来骄纵，违抗命令。张辅责备他，黄中态度不恭，便把他斩首以服众。将士们都提心吊胆，再没人敢不执行命令了。这一年七月，在月常江击破贼帅阮景异，缴获船只一百余艘，生擒伪元帅邓宗稷等人，还捕杀别部贼人首领数人。因有瘴疠收兵。第二年八月在神投海攻击贼人。贼人有船只四百余艘，分为三队，很精锐。张辅冲击其中坚，贼人退却，贼人左右队齐进，官军与他们相击杀，殊死力战。从早上六七点战到十一点，大破贼兵，擒获首领七十五人。官军进到..安府扎营，贼将来降者不断。
十一年(1413)冬，张辅与沐晟会师顺州，战于爱子江。贼人驱象在前而进。张辅告诫士卒，第一箭射落象奴，第二箭射象鼻。大象因此回头奔走，践踏自己的部队。裨将杨鸿、韩广、薛聚等人乘势进兵，矢落如雨，贼人大败。擒获首领五十六人，追到爱母江，全部降服了敌众。第二年正月进到政平州。听说贼人屯聚在暹蛮、昆蒲等地栏栅中，遂引兵前往。途中要经过悬崖之侧的小径，骑马无法前进，张辅与将校徒步行走在山箐间，到夜间四鼓时抵达了贼人巢穴，全部擒获了阮景异、邓容等人。陈季扩逃到老挝，张辅派指挥师佑率兵索要，攻破其国三个关口，终于将陈季扩及其妻子儿女抓住，绑送京师。贼乱平息。张辅依照国家制度，将贼人所夺取的占城国的土地，分设升、华、思、义四州，增设卫所，授予投降者官职，留下部队驻守而还。十三年(1415)春张辅到京。旋即命他为交趾总兵官前往镇守。而余寇陈月湖等人又作乱，张辅都讨平了他们。十四年冬他被召回。
张辅共四次去交趾，前后建置州县以及增设驿传递运，规划得很全面。交趾人所怕的只有张辅。张辅回来一年而黎利又反，朝廷多次遣将征讨，都无功。到宣德时，柳升败死，王通与贼人订下盟约，仓促引兵而还。朝廷意见放弃交趾，张辅力争但没能成功。
仁宗即位后，张辅掌中军都督府事务，进封为太师，并支给二职俸禄。不久命张辅所受的太师俸禄到北京仓支给。当时百官的俸米都到南京支取，此举是给张辅的特恩。成祖丧期满二十七日时，皇上戴素冠穿麻衣临朝，而群臣都已改为吉服，只有张辅和大学士杨士奇穿戴与皇上一样。皇上叹道“：张辅是员武臣，而他知礼则超过了六卿。”从此更加敬重他。不久命他掌管经筵事务，监修实录。
宣德元年(1426)，汉王朱高煦造反，引诱功臣们做内应，暗中派人夜间去张辅的住所。张辅抓住他报告了皇上，查清了汉王造反的证据，便请率兵去攻打他。皇上决定亲征，命张辅扈从。事平之后，给张辅加禄米三百石。张辅威名更高，而久握兵权。四年(1429)，都御史顾佐请保全功臣。皇上下诏解除张辅都督府的职务，朝夕在左右侍奉，谋划军国重事，进升为光禄大夫左柱国，逢初一和十五上朝。英宗即位后，张辅加称号翊运佐理，仍掌经筵、监修实录。
张辅刚毅威严，治军整肃，屹立如山。他三次平定交趾，威名远传海外。他历事四朝，连姻帝室，但仍小心谨慎，与蹇义、夏原吉和三杨同心辅政。二十余年间，国家太平无事，张辅是有功劳的。王振专权时，文武大臣都对他望风叩拜，只有张辅与他抗礼。也先入侵时，王振唆使英宗亲征，张辅随行，但不让他参预军政。张辅老了，默默不敢作声。土木堡事变时，他殉身兵难，时年七十五岁。追封为定兴王，谥忠烈。