张允，镇州人。年少时当张文礼的参军。唐庄宗讨伐张文礼，允离开文礼来降，庄宗把他关进监狱，文礼失败后，才叫他出来当魏州功曹。赵在礼叫他当节度推官，历任沧、兖二州掌书记。入京当监察御史，升为水部员外郎，主管制诰。废帝皇子重美为河南尹，掌管六军，认为允为人刚正，升允为给事中，当六军判官，后转任左散骑常侍。
晋高祖即位，屡赦天下，允写《驳赦论》进献说：“管子曰：‘凡赦者小利而大害，久而造成大祸；无赦者小害而大利，久而会有大福。’汉的吴汉病重，帝问汉有啥遗嘱。汉说‘：只希望陛下不要大赦了！’因为实行大赦不会感到有恩，不实行大赦不会认为无恩，罚是因为有罪的缘故呀！自古以来都是因为水旱灾荒就实行大赦原谅犯人的罪恶，开牢放出囚犯，希望感动上天达到救灾的目的，这是错误的。假若有两人告状，一有罪一无罪，假若有罪者都被赦免，而无罪者必受冤。这都是造成灾害的根源，而不是救灾的办法。造成小人一遇到天灾，就都欢喜的互相约定去作恶，说：‘国家要大赦了，一定会赦免我们以救灾。’所以大赦是教民作恶呀。天道是惩恶扬善，假若大赦恶人而变灾为福，那么天道不是喜欢人们作恶吗？凡是天降灾害，是警告人主节欲，务勤俭，恤鳏寡，纠正刑罚罢了。”那时晋高祖正号召臣下直言，看了以后很高兴。
允在汉当吏部侍郎，隐帝诛戮大臣，京城人都很害怕，允常常退朝后不敢回家，住到相国寺。周太祖率兵入京，允藏到佛殿，跌倒死了，终年六十五岁。