张学颜，字子愚，肥乡人。出生九个月就死了母亲，他对继母孝顺得出了名。在墓地结庐守丧时，有白雀前来筑巢。他考取了嘉靖三十二年(1553)的进士，由曲沃知县入京担任工科给事中。调任山西参议，因为总督江东弹劾而被解职。事情弄清楚后，调任永平兵备副使，又调到蓟州。
俺答受封为顺义王，察罕土门汗对部下讲：“俺答是奴才，却分封为王，我反不如他。”他挟持三卫窥视辽东以求封王。但是海西、建真各部族日益强大，都建立了国家并称汗。大将王治道、郎得功战死，辽东人大为恐惧。隆庆五年(1571)二月，辽东巡抚李秋被免职，大学士高拱想启用张学颜，有人对他表示怀疑。高拱说：“张生卓越倜傥，人们不了解他，将他置于磨石。上一磨就会显出利器的本色。”侍郎魏学会后到，高拱迎面问他：“谁可以担当辽东巡抚？”魏学会思考了很久，回答：“张学颜可以。”高拱欣喜地说：“真是找到了人。”于是将他的名字上报，将他升任右佥都御史、辽东巡抚。
辽镇的边界长达二千多里，一百二十所城寨，三面毗邻敌人。有七万二千名官军，每人每月供给一石米，折成银两为二钱五分，马匹在冬春两季供给饲料，每月折合银两一钱八分，即使年成好也不足维持几天。自从嘉靖戊午(1558)大饥荒，士兵和马匹有三分之二逃跑。前任巡抚王之诰、魏学会相继安抚、缉拿，也没有达到全盛时的一半，又经历旱灾，饿死的人遍地都是。张学颜首先请求赈济抚恤，充实军队，招募流民，制造兵器，购买战马，明确赏罚。罢黜懦弱的几名将领，修筑了平阳堡以便沟通两河，调动游击部队到正安堡护卫镇城，战守全部经过谋划。大将李成梁敢于深入敌阵勇敢厮杀，而张学颜却以收缩保全为策略，敌人来了自己没有损失，敌人退却自己守备如初，公私都得以保全，渐渐恢复了旧日的势力。十一月他与李成梁在卓山打败了土蛮，升任右副都御史。第二年春天，土蛮阴谋入侵，听说有防备就终止了行动。
奸民擅自出海，盘踞着三十六座岛屿。阅视侍郎汪道昆提议进行缉拿追捕，张学颜称缉拿、追捕不便利。命令李成梁在海上按兵不动，显示出即将进行诛杀的样子，另外派遣使者进行招安，许诺免除他们的差役。不到半年，招安了四千四百多人，积患得以消除。秋季，建州都督王杲因为索要归降的人没有得逞，掳掠了抚顺，守将贾汝翼谴责他。王杲更加不满，邀约各部族为敌，副总兵赵完责备贾汝翼引发了灾祸。张学颜上奏说：“贾汝翼拒绝王杲的赠物，责罚他违抗圣意，实为伸张国威，倘若因此罢免他，是我方进退边将之权由敌方掌握，我认为应该告谕王杲送还俘虏和掠夺的财物，否则就调兵剿灭他，不要姑息养奸。”赵完惊惧，贿赂他黄金和貂皮，张学颜告发了他。诏令逮捕赵完，并依张学颜的策略告谕王杲。各部族听说大军将出击，全部逃窜隐匿山谷。王杲惊惧，十二月邀约海西王台送还俘虏以表诚意，张学颜趁势安抚了他。
辽阳镇以东二百余里以前有个孤山堡，巡抚御史张铎又增设了险山五堡，却与辽镇缺乏声援之势。都御史王之诰奏请设立险山参将，辖治六堡十二城，分别驻守云爱阳。又认为这是一片不毛之地，想移驻宽细，因为时间紧迫而没有实施。万历初年，李成梁提议将孤山堡移至张其哈细，将险山王堡移至宽细、长细、双墩、长领散等地。都占据肥沃之地，扼守着险要。但是边地人苦于远征之役，口出怨言。才动工，王杲又侵犯边关，杀害游击裴承祖。巡按御史赶紧请求罢除劳役，张学颜不同意，说：“这样是显示虚弱。”当天巡视塞上，安抚了王兀堂诸部，听任他们在当地贸易。最终修筑了宽细，开拓了两百多里地。因此，抚顺以北、清河以南，都遵守约束。第二年冬天，他发兵讨伐王杲，大败王杲，追杀到了红力寨。张居正将张学颜的功绩列在总督杨兆之上，加封为兵部侍郎。
万历五年(1577)夏天，土蛮大量集结诸部兵马侵犯锦州，要求封他为王。张学颜上奏说：“敌人仗势欺侮，与他们通融，是畏惧他们。和平之权在敌方，这种和平必定不可长久。况且无功者与有功者一样受封，叛逆与忠顺一样赏赐，既被诸部轻视，又被俺答讥笑。我们应当义正辞严地拒绝他。”遇上大雨，敌人退却了。当年冬天，他被召回并任命为兵部侍郎，加封右都御史。还没被人代替，土蛮就邀约泰宁的速把亥分路侵犯辽东、沈阳、开原。第二年正月他在辟山打败敌人，斩杀首领阿丑台等五人，然后返回兵部。过了一年，升任户部尚书。
当时张居正当权，认为张学颜工于心计，很倚重他。张学颜撰写会计录以便查清出纳情况。又奏请列出清丈田亩的条例，核实收两京、山东、陕西的外戚庄田的厘金，清除超量的、脱漏的、诡辞假借的数额。又在全国推行，查获官民屯垦，放牧的湖陂八十多万顷。受赔偿困累的百姓，用赋税抵偿。自从正德、嘉靖年间国家耗空之后，到万历十年(1582)期间，明朝最为富庶，张学颜颇有贡献。然而此时后宫的开支繁多，经常索取。张学颜就事劝谏，得以停发了十万两太仓银，减少了云南一千两黄金的课税，其余的大都无法坚持自己的意见了。但是每年增加二十万两金花银，就成了定额。人们也因此而对他有看法。
万历十一年(1583)四月他改任兵部尚书，当时刚兴起宫中练兵，挑选了二千多名宫中小臣和奴仆集中训练，拨发三千匹太仆寺的马给他们。张学颜坚持不给马匹，又奏请停止宫中练兵，神宗都不听。当年秋天，皇帝的御车由山陵返回，张学颜上奏说：“皇上恭奉圣母，驾车前往，在陵园拜祭，占卜寿命，六军的十多万将士，全部一齐肃立。只有宫中练兵的随从军士，举止放纵。起初到达凉水河，喧哗争吵毫无纪律，奔跑冲撞，使天颜变色。现在御车已经返回，队伍仍未解散。谨稽查旧制，营军随御驾到郊外祭祀，开始由内库提供装备，事情完了就归还。宫中只有随从的内侍首领允许佩戴弓矢。又有律法：不是素来护卫的军士，手持片刃进入宫殿门，绞杀；进入皇城门，发配戍边。祖宗防范弭乱的考虑很深远。现在皇城内身披铠甲乘马持利刃的人，科道不能纠察，兵部不能检查。又召集小厮、仆隶，出入禁宫，万一骤然产生邪念，结党谋乱，在宫内哗变但宫外的臣子不敢入内，在夜晚哗变则宫外的兵丁不知道，在都城白天哗变则称天子的亲兵，驱逐也不肯离散，追捕他们又不敢触犯。正德年间，西城练兵的事，可以很好地借鉴。”奏疏呈上，宦官都切齿痛恨，就制造流言蜚语地加以中伤。神宗觉察后，也追查这篇上书的主使人。张学颜得以幸免，然而他的意见也不被接受。
考绩期满，加封为太子少保。云南的岳凤、罕虔被平定，他升任太子太保。当时张居正已死，朝廷的议论很不相同。起初，御史刘台因为弹劾张居正被治罪，张学颜又抨击他贪污。御史冯景隆抨击李成梁粉饰功绩，张学颜赶紧称李成梁的十次胜利不是虚妄的事，冯景隆被贬职。张学颜以前受张居正厚爱，与李成梁共事很久，众议都认为张学颜与张居正、李成梁结党。御史孙继先、曾乾亨，给事中黄道瞻接连上奏抨击张学颜。张学颜上书辩解请求离职，又奏请留用黄道瞻，皇帝不听，第二年，顺天府通判周弘袍又抨击张学颜与太监张鲸勾结，神宗将他们都罢黜且逐出京城。张学颜八次上奏请求退休，皇帝允许他辞官离去。万历二十六年(1598)死于家中，封赠为少保。