臧質，字含文，東莞莒人。父熹，字義和，武敬皇后弟也。與兄燾並好經籍。隆安初，兵革屢起，熹乃習騎射，志在立功。嘗至溧陽，溧陽令阮崇與熹共獵，值虎突圍，獵徒並奔散，熹直前射之，應弦而倒。高祖入京城，熹族子穆斬桓修。進至京邑，桓玄奔走，高祖使熹入宮收圖書器物，封閉府庫。有金飾樂器，高祖問熹："卿得無欲此乎？"熹正色曰："皇上幽逼，播越非所。將軍首建大義，劬勞王家。雖復不肖，無情于樂。"高祖笑曰："聊以戲卿爾。"行參高祖鎮軍事，員外散騎侍郎，重參鎮軍軍事，領東海太守。以建義功封始興縣五等侯。又參高祖車騎、中軍軍事。高祖將征廣固，議者多不同。熹從容言曰："公若凌威北境，拯其塗炭，寧一六合，未為無期。"高祖曰："卿言是也。"及行，熹求從，不許，以為建威將軍、臨海太守。郡經兵寇，百不存一，熹綏緝綱紀，招聚流散，歸之者千餘家。孫季高海道襲廣州，路由臨海，熹資給發遣，得以無乏。征拜散騎常侍，母憂去職。頃之，討劉毅，起為寧朔將軍，從征。事平，高祖遣朱齡石統大眾伐蜀，命熹奇兵出中水，以本號領建平、巴東二郡太守。蜀主譙縱遣大將譙撫之萬餘人屯牛脾，又遣譙小苟重兵塞打鼻。熹至牛脾，撫之戰敗退走，追斬之。小苟聞撫之死，即便奔散。成都既平，熹遇疾。義熙九年，卒於蜀郡牛脾縣，時年三十九。追贈光祿勛。
質少好鷹犬，善蒱博意錢之戲。長六尺七寸，出面露口，禿頂拳發。年未二十，高祖以為世子中軍行參軍。永初元年，為員外散騎侍郎，從班例也。母憂去職。服闋，為江夏王義恭撫軍，以輕薄無檢，為太祖所知，徙為給事中。會稽宣長公主每為之言，乃出為建平太守，甚得蠻楚心。南蠻校尉劉湛還朝，稱為良守。遷寧遠將軍、歷陽太守。仍遷竟陵、江夏內史，復為建武將軍、巴東、建平二郡太守，吏民便之。
質年始出三十，屢居名郡，涉獵史籍，尺牘便敏，既有氣乾，好言兵權。太祖謂可大任，欲以為益州事，未行，征為使持節、都督徐兗二州諸軍事、寧遠將軍、徐兗二州刺史。在鎮奢費，爵命無章，為有司所糾，遇赦。與范曄、徐湛之等厚善，曄謀反，量質必與之同，會事發，復為建威將軍、義興太守。元嘉二十六年，太祖謁京陵，質朝丹徒，與何勖、檀和之並功臣子，時共上禮。太祖設燕盡歡，賜布千匹。
二十七年春，遷南譙王義宣司馬、寧朔將軍、南平內史。未之職，會索虜大帥拓跋燾圍汝南，汝南戍主陳憲固守告急。太祖遣質輕往壽陽，即統彼軍，與安蠻司馬劉康祖等救憲。虜退走，因使質伐汝南西境刀壁等山蠻，大破之，獲萬餘口，遷太子左衛率。坐前伐蠻，枉殺隊主嚴祖，又納面首生口，不以送台，免官。是時上大舉北討，質白衣與驃騎司馬王方回等率軍出許、洛，安北司馬王玄謨攻滑台，不拔，質請乘驛代將，太祖不許。
虜侵徐、豫，拓跋燾率大眾數十萬遂向彭城，以質為輔國將軍、假節、置佐，率萬人北救。始至盱眙，燾已過淮，冗從僕射胡崇之領質府司馬，崇之副太子積弩將軍毛熙祚亦受統於質。盱眙城東有高山，質慮虜據之，使崇之、澄之二軍營于山上，質營城南。虜攻崇之、澄之二營，崇之等力戰不敵，眾散，並為虜所殺。虜又攻熙祚，熙祚所領悉北府精兵，幢主李灌率厲將士，殺賊甚多。隊主周胤之、外監楊方生又率射賊，賊垂退，會熙祚被創死，軍遂散亂。其日質案兵不敢救，故二營一時覆沒。
初，仇池之平也，以崇之為龍驤將軍、北秦州刺史，宋百頃，行至濁水，為索虜所克，舉軍敗散；崇之及將佐以下，皆為虜所執，後得叛還，至是又為虜所敗焉。熙祚，司州刺史修之兄子也。崇之、熙祚並贈正員郎；澄之事在祖父燾傳。
三營既敗，其夕質軍亦奔散，棄輜重器甲，單七百人投盱眙。盱眙太守沈璞完為守戰之備，城內有實力三千，質大喜，因共守。虜初南出，後無資糧，唯以百姓為命。及過淮，食平越、石鱉二屯谷，至是抄掠無所，人馬飢困，聞盱眙有積粟，欲以為歸路之資。既破崇之等，一攻城不拔，便引眾南向。城內增修守備，莫不完嚴。二十八年正月初，燾自廣陵北返，便悉力攻盱眙，就質求酒，質封溲便與之。燾怒甚，築長圍，一夜便合，開攻道，趣城東北，運東山土石填之。虜又恐城內水路遁走，乃引大船，欲於君山作浮橋，以絕淮道。城內乘艦逆戰，大破之。明旦，賊更方舫為桁，桁上各嚴兵自衛。城內更擊不能禁，遂于軍山立桁，水陸路並斷。
燾與質書曰："吾今所遣斗兵，盡非我國人，城東北是丁零與胡，南是三秦氐、羌。設使丁零死者，正可減常山、趙郡賊；胡死，正減并州賊；氐、羌死，正減關中賊。卿若殺丁零、胡，無不利。"質答書曰："省示，具悉奸懷。爾自恃四腳，屢犯國疆，諸如此事，不可具說。王玄謨退於東，梁坦散於西，爾謂何以不聞童謠言邪：'虜馬飲江水，佛狸死卯年。'此期未至，以二軍開飲江之徑爾，冥期使然，非復人事。寡人受命相滅，期之白登，師行未遠，爾自送死，豈容復令生全，饗有桑乾哉！但爾往攻此城，假令寡人不能殺爾，爾由我而死。爾若有幸，得為亂兵所殺。爾若不幸，則生相剿縛，載以一驢，直送都市。我本不圖全，若天地無靈，力屈於爾，齏之粉之，屠之裂之，如此未足謝本朝。爾識智及眾力，豈能勝苻堅邪！頃年展爾陸梁者，是爾未飲江，太歲未卯年故爾。斛蘭昔深入彭城，值少日雨，只馬不返，爾豈憶邪？即時春雨已降，四方大眾，始就雲集，爾但安意攻城莫走。糧食闕乏者告之，當出廩相飴。得所送劍刀，欲令我揮之爾身邪！甚苦，人附反，各自努力，無煩多雲。"是時虜中童謠曰："軺車北來如穿雉，不意虜馬飲江水。虜主北歸石濟死，虜欲渡江天不徙。"故質答引之。燾大怒，乃作鐵床，於其上施鐵鑱，雲破城得質，當坐之此上。質又與虜眾書曰："示詔虜中諸士庶：狸伐見與書如別，等正朔之民，何為力自取如此。大丈夫豈可不知轉禍為福邪！今寫台格如別書，自思之。"時購斬燾封開國縣侯，食邑一萬戶，賜布絹各萬匹。