张全义，字国维，濮州临濮人。年少时以农家子的身份在县里服役，县令多次羞辱他，全义因此参加黄巢军。巢攻占长安，用全义当吏部尚书、水运使。巢败，去河阳投靠诸葛爽。爽死，为其子仲方部下。
仲方被孙儒驱逐，全义与李罕之分别占据河阳、洛阳以归附于梁，二人相处得很好。然而罕之性情贪暴，每天以抢掠为能事。全义勤俭，治军有法，督民耕植。所以罕之常乏食，全义常有余。罕之靠全义供给，全义无法满足供应，二人因此有了矛盾。
罕之出兵攻晋、绛，全义袭取河阳，罕之逃到晋，晋派兵帮助罕之，围攻全义很急。全义向梁求援，梁派牛存节、丁会等率兵万人从九鼎渡河，在氵允水击败罕之，晋军退走。梁派丁会守河阳，全义再当河南尹。全义感谢梁出兵救自己，因此对梁很尽心。
那时，河南遭巢、儒兵火之后，城邑残破，户不满百，全义披荆棘，劝耕织，亲自送酒食，到田地中间慰劳，筑南北两城让民众居住。数年后，人杰物丰，民众非常信赖他。到梁太祖劫持唐昭宗东迁，修理宫殿、官署、府库，都是全义的功劳。
全义起初名叫言，唐昭宗赐名全义。唐亡，全义在梁任职，又请求改名，太祖赐名宗..。太祖性猜忌，晚年更严重，全义侍奉很谨慎，得以自免。
自从梁与晋在河北交战，梁兵多次败亡，全义收集兵士、铠甲、战马，每月贡献以补缺。太祖在修县兵败，在路上得病，回到洛阳，到全义会节园避暑，留十几天，全义妻女都被迫受到奸淫。他的儿子继祚羞耻和愤怒到了极点，想杀太祖，全义制止说：“我被李罕之军包围在河阳，吃木屑当饭，只有一马，想杀了给士兵吃，危在旦夕，是梁兵把我救出来的，能到今天，这恩不可忘啊！”继祚才没有发作。
有人在太祖面前进谗言攻击全义，太祖召全义，用意难测。全义妻子储氏聪明敏锐能言善辩，立即进见，大声说：“宗..是一个种田翁！守河南三十年，开荒种地，搜集财赋，帮助陛下创业，现在年老了，已经无所作为，然而陛下却怀疑他，为什么呢？”太祖笑着说：“我无恶意，老太婆不要多说。”
全义在梁升到中书令，食邑一万三千户，兼领忠武、陕虢、郑滑、河阳节度使，判六军诸卫事、天下兵马副元帅，封魏王。
以前，全义被李罕之打败，他的弟弟全武及家属被晋兵俘获，晋王给以田宅，待他们很好，全义常常暗地派人到太原问候。到梁灭亡，庄宗进汴州，全义从洛阳来朝贺，叩首待罪，庄宗慰劳说“：你们全家兄弟侄儿，有幸能再相见。”全义俯伏感动得痛哭流涕。年老不能上殿，派人扶着登殿，设宴犒劳非常高兴，命皇子继岌、皇弟存纪都以兄长对待他。全义因此请求去掉梁赐给的名字，恢复原名。然而全义还是不能自安，就厚贿刘皇后作为自己的依靠。
以前，梁末帝到洛阳，准备到南郊祭天没有祭成，他的仪仗法物都还保存着，全义因此请求皇帝到洛阳，说到南郊祭天的仪物都已齐备。庄宗非常高兴，升全义为太师、尚书令。十二月，庄宗到洛阳，南郊祀天的礼物不全，因而改为第二年二月，然而不责怪全义，因皇后的原因待他更好，多次到他家里，命皇后拜全义为父，改封齐王。
庄宗灭梁之初，想掘开梁太祖墓，开棺戮尸。全义认为梁虽然是仇敌，现在已灭他全家，足以报怨，剖棺戮尸，不是王者以宽宏大度示天下的做法。庄宗认为很对，只铲去墓周围的建筑算了。
全义的监军曾得到李德裕的平泉醒酒石，德裕孙延古，因此托请全义想取回。监军气忿地说：“自从黄巢大乱以后，洛阳园宅无法看守，哪里只是平泉一石的丢失呢！”全义曾参加巢军，认为是讽刺自己，大怒，上奏用棍杖把监军打死，天下称冤。他听诉讼，以先讲的人为对，民众感到非常愤怒。
同光四年(926)，赵在礼在魏谋反，元行钦讨贼无功，庄宗想亲自率兵讨伐，大臣都劝他不能去，说明宗可以率兵去。那时，郭崇韬、朱友谦都已经被杀，明宗从镇州来朝见，住在家里，庄宗怀疑，不肯派他去。群臣坚持请求让明宗出征，庄宗不同意，最后全义尽力相劝，庄宗才答应了。不久，明宗到魏果然反了，全义忧愁而死，年七十五岁，谥号忠肃。
儿子继祚，官至上将军。晋高祖时，与张从宾在河阳谋反，罪当灭族。宰相桑维翰因父珙曾是全义部下，请求免死，高祖不答应，只杀了继祚和他的妻子。