李孝伯，趙郡人也，高平公順從父弟。父曾，少治《鄭氏禮》、《左氏春秋》，以教授為業。郡三辟功曹不就，門人勸之，曾曰："功曹之職，雖曰鄉選高第，猶是郡吏耳。北面事人，亦何容易。"州辟主簿，到官月余，乃嘆曰："梁叔敬有云：州郡之職，徒勞人耳。道之不行，身之憂也。"遂還家講授。太祖時，征拜博士，出為趙郡太守，令行禁止，劫盜奔竄。太宗嘉之。并州丁零，數為山東之害，知曾能得百姓死力，憚不入境。賊於常山界得一死鹿，謂趙郡地也，賊長責之，還令送鹿故處。鄰郡為之謠曰："詐作趙郡鹿，猶勝常山粟。"其見憚如此。卒，贈平南將軍、荊州刺史、柏仁子，謚曰懿。
孝伯少傳父業，博綜群言。美風儀，動有法度。從兄順言之於世祖，征為中散。世祖見而異之，謂順曰："真卿家千里駒也。"遷秘書奏事中散，轉侍郎、光祿大夫，賜爵南昌子，加建威將軍，委以軍國機密，甚見親寵。謀謨切秘，時人莫能知也。遷北部尚書。以頻從征伐規略之功，進爵壽光侯，加建義將軍。
真君末，車駕南伐，將出彭城。劉義隆子安北將軍、徐州刺史、武陵王駿，遣將馬文恭率步騎萬餘至蕭城。前軍擊破之，文恭走免，執其隊主蒯應。義隆聞大駕南巡，又遣其弟太尉、江夏王義恭率眾赴彭城。世祖至彭城，登亞父冢以望城內，遣送蒯應至小市門宣世祖詔，勞問義恭，並遣自陳蕭城之敗。義恭等問應："魏帝自來以不？"應曰："自來。"又問："今在何處？"應曰："在城西南。"又問："士馬多少？"應曰："中軍四十餘萬。"駿遣人獻酒二器、甘蔗百梃，並請駱駝。
世祖明旦復登亞父冢，遣孝伯至小市，駿亦遣其長史張暢對孝伯。孝伯遙問暢姓，暢曰："姓張。"孝伯曰："是張長史也。"暢曰："君何得見識？"孝伯曰："既涉此境，何容不悉。"暢問孝伯曰："君復何姓？居何官也？"孝伯曰："我戎行一夫，何足致問。然足與君相敵。"孝伯曰："主上有詔：'太尉、安北可暫出門，欲與相見，朕亦不攻彭城，何為勞苦將士，城上嚴備？'今遣賜駱駝及貂裘雜物。"暢曰："有詔之言，政可施於彼國，何得稱之於此？"孝伯曰："卿家太尉、安北，是人臣不？"暢曰："是也。"孝伯曰："我朝廷奄有萬國，率土之濱，莫敢不臣。縱為鄰國之君，何為不稱詔於鄰國之臣？"孝伯又問暢曰："何至忽遽杜門絕橋？"暢曰："二王以魏帝壁壘未立，將士疲勞，此精甲十萬，人思致命，恐輕相凌踐，故且閉城耳。待休息士馬，然後共治戰場，克日交戲。"孝伯曰："令行禁止，主將常事，宜當以法裁物，何用廢橋杜門？窮城之中，復何以十萬誇大？我亦有良馬百萬，復可以此相矜。"暢曰："王侯設險，何但法令而已也。我若夸君，當言百萬，所以言十萬者，正是二王左右素所畜養者耳。此城內有數州士庶，工徒營伍猶所未論。我本斗人，不鬥馬足。且冀之北土，馬之所生，君復何以逸足見夸也？"孝伯曰："王侯設險，誠如來言，開閉有常，何為杜塞？絕橋之意，義在何也？此城守君之所習，野戰我之所長；我之恃馬，猶如君之恃城耳。"城內有具思者，嘗至京師，義恭遣視之，思識是孝伯。思前問孝伯曰："李尚書行途有勞。"孝伯曰："此事應相與共知。"思答曰："緣共知，所以仰勞。"孝伯曰："感君至意。"
既開門，暢屏人卻仗，出受賜物。孝伯曰："詔以貂裘賜太尉，駱駝、騾、馬賜安北，蒲萄酒及諸食味當相與同進。"暢曰："二王敬白魏帝，知欲垂見，常願面接，但受命本朝，忝居藩任，人臣無境外之交，故無容私覿。"義恭獻皮褲褶一具，駿奉酒二器、甘蔗百梃。孝伯曰："又有詔：'太尉、安北，久絕南信，殊當憂悒。若欲遣信者，當為護送，脫須騎者，亦當以馬送之。'"暢曰："此方間路甚多，使命日夕往復，不復以此勞魏帝也。"孝伯曰："亦知有水路，似為白賊所斷。"暢曰："君著白衣，稱白賊也。"孝伯大笑曰："今之白賊，似異黃巾、赤眉。"暢曰："黃巾、赤眉，不在江南。"孝伯曰："雖不在江南，亦不離徐方也。"孝伯曰："向與安北相聞，何以久而不報？"暢曰："二王貴遠，啟聞為難。"孝伯曰："周公握髮吐餔，二王何獨貴遠？"暢曰："握髮吐餐，不謂鄰國之人也。"孝伯曰："本邦尚爾，鄰國彌應盡恭。且賓至有禮，主人宜以禮接。"暢曰："昨見眾賓至門，未為有禮。"孝伯曰："非是賓至無禮，直是主人怱怱，無待賓調度耳。"孝伯又言："有詔：'程天祚一介常人，誠知非江南之選，近於汝陽，身被九槍，落在溵水，我使牽而出之。凡人骨肉分張，並思集聚，聞其弟在此，如何不遣暫出？尋自令反，豈復苟留一人。'"暢曰："知欲程天祚兄弟集聚，已勒遣之，但其固辭不往。"孝伯曰："豈有子弟聞其父兄而反不肯相見，此便禽獸之不若。貴土風俗，何至如此？"