成淹，字季文，上谷居庸人也。自言晉侍中粲之六世孫。祖升，家於北海。父洪，名犯顯祖廟諱，仕劉義隆，為撫軍府中兵參軍，早卒。淹好文學，有氣尚。劉子業輔國府刑獄參軍事，劉彧以為員外郎，假龍驤將軍，領軍主，令援東陽、歷城。皇興中，降慕容白曜，赴闕，授兼著作郎。時顯祖於仲冬之月，欲巡漠北，朝臣以寒甚固諫，並不納。淹上《接輿釋游論》，顯祖覽之，詔尚書李欣曰："卿等諸人不如成淹《論》通釋人意。"乃敕停行。
太和中，文明太后崩，蕭賾遣其散騎常侍裴昭明、散騎侍郎謝竣等來吊，欲以朝服行事。主客執之，云："吊有常式，何得以朱衣入山庭！"昭明等言："本奉朝命，不容改易。"如此者數四，執志不移。高祖敕尚書李沖，令選一學識者更與論執，沖奏遣淹。昭明言："未解魏朝不聽朝服行禮，義出何典？"淹言："吉凶不同，禮有成數；玄冠不弔，童孺共聞。昔季孫將行，請遭喪之禮，千載之下，猶共稱之。卿遠自江南奉慰，不能式遵成事，方謂議出何典，行人得失，何其異哉！"昭明言："二國交和既久，南北皆須準望。齊高帝崩，魏遣李彪通吊，於時初不素服，齊朝亦不以為疑，那得苦見要逼。"淹言："彪通吊之日，朝命以吊服自隨，而彼不遵高宗追遠之慕，乃逾月即吉。彪行吊之時，齊之君臣皆已鳴玉盈庭，貂璫曜日，百僚內外，朱服煥然，彪行人不被主人之命，復何容獨以素服間衣冠之中？來責雖高，未敢聞命。我皇帝仁孝之性，侔於有虞，處諒暗以來，百官聽於冢宰，卿豈得以此方彼也？"昭明乃搖膝而言："三皇不同禮，亦安知得失所歸。"淹言："若如來談，卿以虞舜、高宗為非也？"昭明遂相顧而笑曰："非孝者，宣尼有成責，行人亦弗敢言。希主人裁以吊服，使人唯，齎褲褶，比既戎服不可以吊，幸借緇衣幍，以申國命。今為魏朝所逼，違負指授，還南之日，必得罪本朝。"淹言："彼有君子也，卿將命折中，還南之日，應有高賞；若無君子也，但令有光國之譽，雖復非理見罪，亦復何嫌？南史、董狐，自當直筆。"既而高祖遣李沖問淹昭明所言，淹以狀對，高祖詔沖曰："我所用得人。"仍敕送衣巾給昭明等，賜淹果食。明旦引昭明等入，皆令文武盡哀。後正侍郎。高祖以淹清貧，賜絹百匹。
十六年，蕭賾遣其散騎常侍庾蓽、散騎侍郎何憲、主書邢宗慶朝貢，值朝廷有事明堂，因登靈台以觀雲物。高祖敕淹引蓽等館南矚望行禮，事畢，還外館，賜酒食。宗慶語淹言："南北連和既久，而比棄信絕好，為利而動，豈是大國善鄰之義？"淹言："夫為王者，不拘小節。中原有菽，工采者獲多，豈眷眷守尾生之信。且齊先主歷事宋朝，荷恩積世，當應便爾欺奪？"宗慶、庾蓽及行者皆相顧失色。何憲知淹昔從南入，而以手掩目曰："卿何為不作于禁，而作魯肅？"淹言："我舍危效順，欲追蹤陳韓，何于禁之有！"憲亦不對。
王肅歸國也，高祖以淹曾宦江表，詔觀是非。乃造肅與語，還奏言實，時議紛紜，猶謂未審。高祖曰："明日引入，我與語，自當知之。"及鑾輿行幸，肅多扈從，敕淹將引，若有古蹟，皆使知之。行到朝歌，肅問："此是何城？"淹言："紂都朝歌城。"肅言："故應有殷之頑民也。"淹言："昔武王滅紂，悉居河洛，中因劉石亂華，仍隨司馬東渡。"肅知淹寓於青州，乃笑而謂淹曰："青州間何必無其餘種？"淹以肅本隸徐州，言："青州本非其地，徐州間今日重來，非所知也。"肅遂伏馬上掩口而笑，顧謂侍御史張思寧曰："向者聊因戲言，遂致辭溺。"思寧馳馬奏聞，高祖大悅，謂彭城王勰曰："淹此段足為制勝。"輿駕至洛，肅因侍宴。高祖又戲肅曰："近者行次朝歌，聞成淹共卿殊有往覆，卿試重敘之。"肅言："臣前朝歌為淹所困，不謂此事仰聞聽覽。臣爾日失言，一之已甚，豈宜再說。"遂皆大笑。高祖又謂肅曰："淹能制卿，其才亦不困。"肅言："淹才詞便為難有，聖朝宜應敘進。"高祖言："若因此進淹，恐辱卿轉甚。"肅言："臣屈己達人，正可顯臣之美。"高祖曰："卿既為人所屈，欲求屈己之名，復於卿太優。"肅言："淹既蒙進，臣得屈己伸人，此所謂陛下惠而不費。"遂酣笑而止。乃賜淹龍廄上馬一匹，並鞍勒宛具、朝服一襲，轉謁者僕射。
時遷都，高祖以淹家無行資，敕給事力，送至洛陽，並賜假，日與家累相隨。行次靈丘，屬蕭鸞遣使，敕驛馬征淹。車駕濟淮，淹於路左請見，高祖佇駕而進之。淹曰："蕭鸞悖虐，幽明同棄，陛下俯應人神，按劍江涘，然敵不可小，蜂蠆有毒，而況國乎？深願聖明保萬全之策。"詔曰："此前車之轍，得不慎乎！"淹曰："伏聞發洛已來，諸有諫者，解官奪職，恐非聖明納下之義。"高祖曰："此是我命耳，卿不得為乾斧鉞。"淹曰："昔文王詢於芻蕘，晉文聽輿人之誦，臣雖卑賤，敢同匹夫。"高祖優而容之，詔賜絹百匹。