张嵊字四山，镇北将军张稷的儿子。年少时方正风雅，志向远大，言辞清丽。他的父亲到青州做官，被土著居民杀害，张嵊对此家祸感伤不已，终身吃素食，穿粗布衣，手不拿刀刃。后被州里举为秀才。初为官时任秘书郎，历任太子舍人、洗马、司徒左西掾、中书郎。出任永陽内史，回京后任中军宣城王司马、散骑常侍。又出任镇南湘东王长史、寻陽郡太守。中大同元年(546)，征辟为太府卿，不久迁任吴兴郡太守。
太清元年(547)，侯景围攻京城，张嵊派遣弟弟张伊率郡兵数千人增援。三年(549)，宫城被叛军攻破，御史中丞沈浚避乱回故乡，张嵊前去拜见沈浚说：“贼臣称雄，社稷危亡，宗庙羞耻，正是人臣效命报国的时候。现在想收集兵力，保护占据家乡。如果天道不灵，忠臣无用武之地，虽然死去，也不遗憾。”沈浚说：“我的家乡虽是小郡，仗义抗拒叛逆，谁敢不服从！”坚决地劝张嵊举起义旗兴兵讨贼。于是收集士卒，修缮加固城防工事。当时邵陵王东逃至钱塘，听到这一消息后，派人授任张嵊为征东将军，加官秩为中二千石。张嵊说：“朝廷危急，天子受辱，今日哪有情致，再接受荣誉封号。”留下报书而已。叛军行军刘神茂攻破义兴城，派人劝说张嵊：“如果早日投降归附，当仍让你作郡守，加官增爵行赏。”张嵊下令杀掉来使，仍派军主王雄等率兵在鳢渎阻击敌人，攻破刘神茂军队，刘神茂率兵败逃。侯景听说刘神茂兵败，便派中军侯子鉴率精兵二万人，援助刘神茂攻击张嵊，张嵊派军主范智朗在郡西抗击敌军，被刘神茂击败，退守郡中。敌军骑兵乘胜焚烧张嵊军营，所部军队土崩瓦解。张嵊便脱下军服，坐在议事厅里，敌军将刀架在他脖子上，始终不投降，敌军便将张嵊送交侯景，侯景将他在都市中杀害，张嵊的兄弟子女一同被害者十余人，时年六十二岁。叛乱平息后，世祖追赠他为侍中、中卫将军、开府仪同三司，谥号称忠贞子。