張全義，字國維，濮州臨濮人。初名居言，賜名全義，梁祖改為宗奭；莊宗定河南，復名全義。祖璉，父誠，世為田農。全義為縣嗇夫，嘗為令所辱。乾符末，黃巢起冤句，全義亡命入巢軍。巢入長安，以全義為吏部尚書，充水運使。巢敗，依諸葛爽於河陽，累遷至裨校，屢有戰功，爽表為澤州刺史。光啟初，爽卒，其子仲方為留後。部將劉經與李罕之爭據洛陽，罕之敗經於聖善寺，乘勝欲攻河陽，營於洛口。經遣全義拒之，全義乃與罕之同盟結義，返攻經於河陽，為經所敗，收合餘眾，與罕之據懷州，乞師於武皇。武皇遣澤州刺史安金俊助之，進攻河陽，劉經、仲方委城奔汴，罕之遂自領河陽，表全義為河南尹。
全義性勤儉，善撫軍民，雖賊寇充斥，而勸耕務農，由是倉儲殷積。（王始至洛，於麾下百人中，選可使者一十八人，命之曰屯將。每人給旗一口，榜一道，於舊十八縣中，令招農戶，令自耕種，流民漸歸。王於百人中，又選可使者十八人，命之曰屯副，民之來者撫綏之，除殺人者死，余但加杖而已，無重刑，無租稅，流民之歸漸眾。王又於麾下選書計一十八人，命之曰屯判官。不一二年，十八屯中每屯戶至數千。王命農隙，選丁夫授以弓矢槍劍，為坐作進退之法。行之一二年，每屯增戶。大者六七千，次者四千，下之二三千，共得丁夫閒弓矢、槍劍者二萬餘人。有賊盜即時擒捕之，刑寬事簡，遠近歸之如市。五年之內，號為富庶，於是奏每縣除令簿主之。）罕之貪暴不法，軍中乏食，每取給於全義。二人初相得甚歡，而至是求取無厭，動加凌轢，全義苦之。文德元年四月，罕之出軍寇晉、絳，全義乘其無備，潛兵襲取河陽，全義乃兼領河陽節度。（《洛陽搢紳舊聞記》云：罕之鎮三城，知王專以教民耕織為務，常宣言於眾曰：“田舍翁何足憚。”王聞之，蔑如也。每飛尺書於王，求軍食及縑帛，王曰：“李太傅所要，不得不奉之。”左右及賓席鹹以為不可與，王曰：“第與之。”似若畏之者，左右不曉。罕之謂王畏己，不設備。因罕之舉兵收懷、澤，王乃密召屯兵，潛師夜發，遲明入三城。罕之乃逃遁投河東，朝廷即授王兼鎮三城。）罕之求援於武皇，武皇復遣兵攻敗河陽，會汴人救至而退。梁祖以丁會守河陽，全義復為河南尹、檢校司空。全義感梁祖援助之恩，自是依附，皆從其制。
初，蔡賊孫儒、諸葛爽爭據洛陽，迭相攻伐，七八年間，都城灰燼，滿目荊榛。全義初至，惟與部下聚居故市，井邑窮民，不滿百戶。全義善於撫納，課部人披榛種藝，且耕且戰，以粟易牛，歲滋墾闢，招複流散，待之如子。每農祥勸耕之始，全義必自立畎畝，餉以酒食，政寬事簡，吏不敢欺。數年之間，京畿無閒田，編戶五六萬。乃築壘於故市，建置府署，以防外寇。（《洛陽縉紳舊聞記》：王每喜民力耕織者，某家今年蠶麥善，去都城一舍之內，必馬足及之，悉召其家老幼，親慰勞之，賜以酒食茶彩，丈夫遺之布褲，婦人裙衫，時民間尚衣青，婦人皆青絹為之。取其新麥新繭，對之喜動顏色，民間有竊言者曰：“大王見好聲妓，等閒不笑，惟見好蠶麥即笑爾。”其真朴皆此類。每觀秋稼，見田中無草者，必下馬命賓客觀之，召田主慰勞之，賜之衣物。若見禾中有草，地耕不熟，立召田主集眾決責之。若苗荒地生，詰之，民訴以牛疲或闕人耕鋤，則田邊下馬，立召其鄰仵責之曰：“此少人牛，何不眾助之。”鄰仵皆伏罪，即赦之。自是洛陽之民無遠近，民之少牛者相率助之，少人者亦然。田夫田婦，相勸以耕桑為務，是以家有蓄積，水旱無饑民。王誠信，每水旱祈祭，必具湯沐，素食別寢，至祠祭所，儼然若對至尊，容如不足。遇旱，祈禱未雨，左右必曰：“王可開塔”，即無畏師塔也，在龍門廣化寺。王即依言而開塔，未嘗不澍雨，故當時俚諺云：“王禱雨，買雨具。”）
梁祖迫昭宗東遷，命全義繕治洛陽宮城，累年方集。昭宗至洛陽，梁祖將圖禪代，慮全義心有異同，乃以判官韋震為河南尹，遂移全義為天平軍節度使、守中書令、東平王。（《洛陽搢紳舊聞記》：齊王與梁祖互為中書令、尚書令，及梁祖兼四鎮，齊王累表讓兼鎮，蓋潛識梁祖奸雄，避其權位，欲圖自全之計。梁祖經營霸業，外則干戈屢動，內則帑庾俱虛，齊王悉心盡力，傾竭財資助之。）其年八月，昭宗遇弒，輝王即位。十月，復以全義為河南尹，兼忠武軍節度使、判六軍諸衛事。梁祖建號，以全義兼河陽節度使，封魏王。開平二年，冊拜太保、兼陝虢節度使、河陽尹。四年，冊拜太傅、河南尹、判六軍，兼鄭、滑等州節度使。乾化元年，冊拜太師。二年，朱友珪篡逆，以全義為守太尉、河南尹、宋亳節度使兼國計使。梁末帝嗣位於汴，以全義為洛京留守，兼鎮河陽。未幾，授天下兵馬副元帥。