張湯，杜陵人也。父為長安丞，出，湯為兒守舍。還，鼠盜肉，父怨，笞湯。湯掘熏得鼠及余肉，劾鼠掠治，傳爰書，訊鞫論報，並取鼠與肉，具獄磔堂下。父見之，視文辭如老獄吏，大驚，遂使書獄。
父死後，湯為長安吏。周陽侯為諸卿時，嘗系長安，湯傾身事之。及出為侯，大與湯交，遍見貴人。湯給事內史，為甯成掾，以湯為無害，言大府，調茂陵尉，治方中。
武安侯為丞相，征湯為史，薦補侍御史。治陳皇后巫蠱獄，深竟黨與，上以為能，遷太史大夫。與趙禹共定諸律令，務在深文，拘守職之吏。已而禹至少府，湯為廷尉，兩人交歡，兄事禹。禹志在奉公孤立，而湯舞知以御人。始為小吏，乾沒，與長安富賈田甲、魚翁叔之屬交私。及列九卿，收接天下名士大夫，己內心雖不合，然陽浮道與之。
是時，上方鄉文學，湯決大獄，欲傅古義，乃請博士弟子治《尚書》、《春秋》，補廷尉史，平亭疑法。奏讞疑，必奏先為上分別其原，上所是，受而著讞法廷尉挈令，揚主之明。奏事即譴，湯摧謝，鄉上意所便，必引正監掾史賢者，曰：“固為臣議，如上責臣，臣弗用，愚抵此。”罪常釋。間即奏事，上善之，曰：“臣非知為此奏，乃監、掾、史某所為。”其欲薦吏，揚人之善、解人之過如此。所治即上意所欲罪，予監吏深刻者；即上意所欲釋，予監吏輕平者。所治即豪，必舞文巧詆；即下戶羸弱，時口言“雖文致法，上裁察。”於是往往釋湯所言。湯至於大吏，內行修，交通賓客飲食，於故人子弟為吏及貧昆弟，調護之尤厚，其造請諸公，不避寒暑。是以湯雖文深意忌不專平，然得此聲譽。而深刻吏多為爪牙用者，依於文學之士。丞相弘數稱其美。
及治淮南、衡山、江都反獄，皆窮根本。嚴助、伍被，上欲釋之，湯爭曰：“伍被本造反謀，而助親幸出入禁闥，腹心之臣，乃交私諸侯如此，弗誅，後不可治。”上可論之。其治獄所巧排大臣自以為功，多此類。繇是益尊任，遷御史大夫。
會渾邪等降，漢大興兵伐匈奴，山東水旱，貧民流徙，皆卬給縣官，縣官空虛。湯承上指，請造白金及五銖錢，籠天下鹽鐵，排富商大賈，出告緡令，鋤豪強併兼之家，舞文巧詆以輔法。湯每朝奏事，語國家用，日旰，天子忘食。丞相取充位，天子事皆決湯。百姓不安其生，騷動，縣官所興未獲其利，奸吏並侵漁，於是痛繩以罪。自公卿以下至於庶人鹹指湯。湯嘗病，上自至舍視，其隆貴如此。
匈奴求和親，群臣議前，博士狄山曰：“和親便。”上問其便，山曰：“兵，兇器，未易數動。高帝欲伐匈奴，大困平城，乃遂結和親。孝惠、高后時，天下安樂，及文帝欲事匈奴，北邊蕭然苦兵。孝景時，吳、楚七國反，景帝往來東宮間，天下寒心數月。吳、楚已破，竟景帝不言兵，天下富實。今自陛下興兵擊匈奴，中國以空虛，邊大困貧。由是觀之，不如和親。”上問湯，湯曰：“此愚儒無知。”狄山曰：“臣固愚忠，若御史大夫湯，乃詐忠。湯之治淮南、江都，以深文痛詆諸侯，別疏骨肉，使藩臣不自安，臣固知湯之詐忠。”於是上作色曰：“吾使生居一郡，能無使虜入盜乎？”山曰：“不能。”曰：“居一縣？”曰：“不能。”復曰：“居一鄣間？”山自度辯窮且下吏，曰：“能。”乃譴山乘鄣。至月余，匈奴斬山頭而去。是後群臣震讋。
湯客田甲雖賈人，有賢操，始湯為小吏，與錢通，及為大吏，而甲所以責湯行義，有烈士之風。
湯為御史大夫七歲，敗。
河東人李文，故嘗與湯有隙，已而為御史中丞，薦數從中文事有可以傷湯者，不能為地。湯有所愛史魯謁居，知湯弗平，使人上飛變告文奸事，事下湯，湯治論殺文，而湯心知謁居為之。上問：“變事從跡安起？”湯陽驚曰：“此殆文故人怨之。”謁居病臥閭里主人，湯自往視病，為謁居摩足，趙國以冶鑄為業，王數訟鐵官事，湯常排趙王。趙王求湯陰事。謁居嘗案趙王，趙王怨之，並上書告：“湯大臣也，史謁居有病，湯至為摩足，疑與為大奸。”事下延尉。謁居病死，事連其弟，弟系導官。湯亦治它囚導官，見謁居弟，欲陰為之，而陽不省。謁居弟不知而怨湯，使人上書，告湯與謁居謀，共變李文。事下減宣。宣嘗與湯有隙，及得此事，窮竟其事，未奏也。會人有盜發孝文園瘞錢，丞相青翟朝，與湯約俱謝，至前，湯念獨丞相以四時行園，當謝，湯無與也，不謝。丞相謝，上使御史案其事。湯欲致其文丞相見知，丞相患之。三長史皆害湯，欲陷之。